Вау: исследователи нашли способ использовать в 50 РАЗ меньше токенов — всё дело в сжатом контексте.

Вау: исследователи нашли способ использовать в 50 РАЗ меньше токенов — всё дело в сжатом контексте.

Google и Purdue https://arxiv.org/html/2608.26263 SKILL.state — свежий подход к памяти ИИ-агентов. Раньше во время длинной задачи агент волок за собой весь журнал действий, из-за чего контекст раздувался до безумных объёмов.

Новая идея проще: агент держит в голове не всю историю, а только актуальный срез — ключевые факты, текущий прогресс и данные, которые понадобятся на следующем шаге. Всё лишнее просто выбрасывается.

Цифры впечатляют: на прогоне из 200 шагов метод удержал точность 94%, уложившись в 122 тысячи токенов. Агент со старой суммаризацией дал 84% точности, но сжёг 6, 17 миллиона токенов — в 50 раз больше.

Меньше знаешь — крепче работаешь 😎