Знаете ли вы, что хваленый искусственный интеллект порой сочиняет небылицы с вдохновением барона Мюнхгаузена? Как говаривал незабвенный доктор Хаус: «Все лгут». И, как выяснилось опытным путем, кремниевые создания — вовсе не исключение из этого ироничного правила.
Сеанс цифрового психоанализа
Светлые умы из Центра практического искусственного интеллекта и Сколтеха решили примерить на себя роль эдаких цифровых Фрейдов. Они нашли поистине изящный способ отучить большие языковые модели от так называемых «галлюцинаций» в системах RAG. Для непосвященных поясню: это те самые моменты, когда ИИ должен искать ответы в строго отведенных базах данных, а вместо этого начинает плести словесные кружева собственных фантазий, уверенно выдавая желаемое за действительное.
Алгоритм бегающих глазок ️♂️
Раньше для контроля честности нейросетей требовались гигантские вычислительные мощности — все равно что заставлять академика с указкой стоять над душой у каждого студента-фантазера. Но наши исследователи пошли путем элегантной простоты. Они создали метод TOHA. Звучит почти как имя мудрого духа из японского аниме, но на деле это строгий, но справедливый механизм, анализирующий «топологическую структуру карт внимания».
Говоря нормальным, теплым человеческим языком, алгоритм буквально следит за тем, куда «бегают глазки» нейросети в момент формирования ответа. Если машина перестает подглядывать в предоставленную ей шпаргалку и начинает сочинять отсебятину — ее тут же ловят за виртуальную руку! «Не верю!», — воскликнул бы Константин Сергеевич Станиславский, и умный TOHA с ним абсолютно солидарен.
Птица Сирин поет только правду
Самое приятное в этой истории то, что новый детектор лжи работает играючи, не требуя привлечения дополнительных тяжеловесных программ-надсмотрщиков. Эту полезную инновацию уже бережно встроили в открытую библиотеку SIRIN. Имя-то какое подобрали! Прямо сказочная райская птица, которая отныне будет петь исключительно правдивые песни всем корпоративным пользователям.
В конечном итоге, непреодолимая тяга к истине — это именно то, что отличает глубоко мыслящее существо от обычного калькулятора. Возможно, научив бездушные машины кристальной честности и умению опираться на твердые факты, мы и сами вдохновимся этим прекрасным примером. Ведь в мире, где даже программный код ценит достоверность и отказывается лукавить, для нашей с вами человеческой искренности открываются поистине безграничные, светлые горизонты. Улыбайтесь, господа, ведь правда всегда побеждает! ✨
