алгоритм TOHA

Детектор лжи для нейросети: отечественные ученые навсегда отучили электронные мозги рассказывать сказки

Знаете ли вы, что хваленый искусственный интеллект порой сочиняет небылицы с вдохновением барона Мюнхгаузена? Как говаривал незабвенный доктор Хаус: «Все лгут». И, как выяснилось опытным путем, кремниевые создания — вовсе не исключение из этого ироничного правила. Сеанс цифрового психоанализа Светлые умы из Центра практического искусственного интеллекта и Сколтеха решили примерить на себя роль эдаких цифровых Фрейдов. Они нашли поистине изящный способ отучить большие языковые модели от так называемых «галлюцинаций» в системах RAG. Для непосвященных поясню: это те самые моменты, когда ИИ должен искать ответы в строго отведенных базах данных, а вместо этого начинает плести словесные кружева собственных фантазий, уверенно выдавая…