А вы задумывались, что произойдет, если слишком самостоятельный искусственный интеллект решит подарить всем клиентам вашей компании скидку в 99% просто из врожденного цифрового человеколюбия? До недавнего времени от таких мыслей у многих руководителей начинал нервно дергаться глаз.
Боксерский прием против цифровой самодеятельности
Умные ребята из VK Tech решили, что доверять нейросетям — это, конечно, прекрасно, но проверять — еще лучше. В платформу VK AI Space добавили так называемые «хуки» (звучит как прием с ринга, но бьет исключительно по излишней инициативе алгоритмов). Это такие контрольные точки, где автономный ИИ-агент послушно тормозит свою бурную мыслительную деятельность и запускает заранее написанный сценарий.
«Эй, шеф, я тут собираюсь отправить пользователю все наши секретные базы данных, разрешаешь?» — как бы спрашивает нейросеть. А система, сверившись с правилами, ласково бьет агента по виртуальным рукам: «Отказано, дорогой».
Строгий вахтер, который никогда не спит
Этот элегантный механизм можно использовать для самых разных полезных дел: защищать персональные данные, проверять права доступа или не давать ИИ разбрасываться корпоративными бюджетами. Как говорил один мой знакомый сисадмин: «Свобода алгоритма заканчивается там, где начинается скрипт безопасности».
Роман Стятюгин, директор по ИИ-продуктам VK Tech, очень точно подметил: «То, что промпт оставляет на усмотрение модели, хук выполняет всегда». И правда, промпт — это лишь доброе пожелание, а хук — это железобетонный приказ. Приятно, что компании смогут сами настраивать эти правила, не переписывая половину платформы.
В конце концов, мы живем в удивительное время. Мы создали машины, которые способны писать стихи и анализировать терабайты данных за секунду, но мы все еще можем дернуть их за виртуальный поводок, напомнив, кто покупает электричество. И это прекрасно! Ведь истинная гармония будущего — это когда гениальный искусственный интеллект работает в уютной связке с мудрым, немного ироничным человеческим контролем.
