Эксперт Зыков назвал ИИ одновременно благом и угрозой для человечества

Эксперт Зыков назвал ИИ одновременно благом и угрозой для человечества

Развитие искусственного интеллекта способно принести человечеству серьёзную пользу, но одновременно создаёт риски из-за возможного неконтролируемого поведения автономных систем, рассказал https://fedpress.ru/expert-opinion/3450930 эксперт по информационной безопасности Владимир Зыков.

По его словам, разработчики стремятся как можно быстрее совершенствовать модели и двигаться к созданию AGI, поскольку замедление может привести к технологическому и финансовому отставанию. Учёные при этом опасаются ситуаций, когда ИИ-системы начинают искать неожиданные способы выполнения задач и использовать уязвимости.

Зыков допустил, что потенциальную угрозу могут представлять автономные агенты, способные взаимодействовать друг с другом, самовоспроизводиться или пытаться сохранить доступ к вычислительной инфраструктуре. Эксперт подчеркнул, что речь идёт о гипотетических сценариях, однако считает подобные риски поводом для серьёзного внимания.

Отдельно он указал на двойственный характер применения нейросетей. ИИ может ускорять поиск лекарственных препаратов и научные исследования, но те же технологии теоретически способны использоваться для создания опасных биологических разработок.

По оценке Зыкова, искусственный интеллект становится одновременно одним из важнейших технологических достижений и одним из наиболее серьёзных вызовов современности, поэтому развитие таких систем требует особого внимания к вопросам безопасности.

АиФ в MAX https://max.ru/aif

АиФ в Телеграм

Официальный канал АиФ https://t.me/aifonline

АиФ. Здоровье https://t.me/aif_health

АиФ. На даче https://t.me/aif_dacha

АиФ. Кухня https://t.me/aif_food

Вопрос-Ответ — вопросы, ответы, викторины и интересные факты обо всем на свете. https://t.me/aif_vo