@ggerganov

Выпуск

3 твитов

Ggerganov рассказал о паттерне «inception» для управления рассуждениями LLM в агентных сценариях. Суть: если модель думает слишком долго, можно ограничить reasoning-бюджет и инжектировать мысль, принуждая модель перейти к действию. Также поделился изображением с подписью «let that sink in», вероятно с впечатляющей статистикой или результатом.

Темы: reasoning budget · inception-паттерн · агентные LLM · llama.cpp

Ключевые твиты