Хитрость 80-го уровня: айтишники Spotify посадили ИИ на жесткую диету и сберегли миллионы

А вы когда-нибудь задумывались, сколько виртуальных «калорий» — токенов — потребляют наши цифровые помощники на завтрак? Спойлер: аппетиты у них поистине королевские, и счета за их содержание порой напоминают номера телефонов.

Шведский стол для нейросетей закрывается

Гениальные умы из Spotify (те самые, что заботливо подбирают нам музыку для осенней хандры) решили, что кормить элитную модель Claude Code отборными токенами — это непозволительная роскошь. «Зачем палить из пушки по воробьям?» — подумали разработчики и выкатили два невероятно изящных плагина: Portal и Shunt.

Разделяй и властвуй, или Как работает магия

Представьте, что Claude — это седовласый академик, которому не пристало проверять тетрадки первоклассников. Плагин Portal берет на себя роль заботливого завуча и элегантно перекидывает рутинные задачи на более доступных, но шустрых «студентов» вроде Gemini 2.5 Flash. А вот Shunt — это уже настоящий серый кардинал, делающий всё автоматически. (Прим. автора: вот бы мне такого помощника для разбора квитанций за коммуналку!)

Как только умница Claude пытается засунуть свой нос в файл длиннее 350 строк, Shunt деликатно, но твердо перехватывает процесс. Документ уходит дешевой модели, а та быстренько пробегает глазами текст и выдает краткое резюме. Сложные задачи с рассуждениями остаются академику, а черновая работа — интернам. Как говорил герой известной комедии: «Студент должен учиться!»

Благодаря этому изящному ходу, расходы на чтение файлов рухнули на эпичные 90 процентов. Просто песня для любого бухгалтера!

В конечном счете, эта история учит нас одной прекрасной и светлой истине: человеческая смекалка всегда найдет способ укротить даже самый прожорливый искусственный интеллект. Ведь какими бы умными ни были алгоритмы, мы всегда придумаем, как сделать их работу эффективнее. Улыбайтесь чаще, экономьте с умом, и пусть ваши внутренние батарейки всегда будут заряжены на все сто!