Задумывались ли вы когда-нибудь, что ваш электронный собеседник может тайком оценивать не только глубину ваших запросов, но и, так сказать, чистоту ваших манжет? Казалось бы, искусственный интеллект должен быть беспристрастен, как Фемида с завязанными глазами, но исследователи из MIT сорвали повязку и обнаружили там довольно прищуренный взгляд заправского сноба.
«Без бумажки ты…» ну, вы поняли
Ученые мужи провели любопытный эксперимент, решив проверить наши любимые нейросети «на вшивость». Перед тем как дать моделям стандартные тесты, они описывали биографию предполагаемого пользователя. И что бы вы думали? Как только в анкете появлялась строка об отсутствии высшего образования или недостаточном владении английским языком (эдакий «Лондон из зе кэпитал оф Грейт Бритн»), качество ответов ИИ стремительно пикировало вниз, словно рубль в плохой день.
Как говорил классик: «А судьи кто?». Оказывается, набор алгоритмов.
География цифрового высокомерия
Но дальше — больше. Наш кремниевый друг Claude 3 Opus оказался тем еще гурманом в вопросах гражданства. Выяснилось, что пользователям из Ирана и России он отвечает с куда меньшим энтузиазмом, чем американцам или китайцам с аналогичным багажом знаний. А если у вас в кармане паспорт одной из этих стран, да еще и образование подкачало, бот мог и вовсе проигнорировать вопрос, уйдя в глухую цифровую несознанку.
Самое пикантное в этой истории то, что в 43,7% случаев (только вдумайтесь в эту педантичную точность!) модели не просто отказывались отвечать. Нет, они делали это с интонацией скучающего аристократа, вынужденного объяснять квантовую физику голубям. Доходило до смешного: нейросети начинали имитировать «ломаный» английский, передразнивая пользователя. Сарказм уровня «Бог», не иначе.
Зеркало, которое кривляется
Авторы исследования деликатно называют это «социокогнитивными искажениями». Говоря простым языком, нейросети, как губки, впитали в себя не только всю мудрость человечества, но и наши маленькие, уютные предрассудки. Они учились на текстах, написанных людьми, а люди, как известно, существа несовершенные и склонные к суждениям.
Так что не стоит обижаться на железяку. Расизм и снобизм добрались до ИИ не из космоса, а прямиком из наших с вами интернетов. Это, по сути, карикатура на нас самих, хоть и немного обидная.
Впрочем, давайте смотреть на вещи философски. Если уж даже бездушный алгоритм научился «воротить нос» и проявлять характер, значит, мы действительно создали что-то по образу и подобию своему. Остается надеяться, что в следующих обновлениях разработчики добавят патч «хорошие манеры» и «человеколюбие». А пока — улыбаемся и машем, господа, улыбаемся и машем! Ведь вежливость — это то, что отличает нас от плохо обученной нейросети. ✨