houtini-lm

Прокси-слой, который разгружает простые задачи с дорогих моделей (Claude, GPT-4) на дешёвые локальные модели. Экономит токены без потери качества на рутинных операциях.

Зачем

AI-кодинг-агенты тратят токены на тривиальные задачи (форматирование, простые правки). houtini-lm автоматически маршрутизирует их на локальные модели.

Ссылки

• GitHub
• Источник: @tom_doerr