«ИИ на пороге перелома» – журнал TIME выпустил материал об опасности искусственного интеллекта

Джейкоб Коксон и тревога внутри индустрии

Поводом для такой резонансной темы стала история 27-летнего исследователя Джейкоба Коксона, который ушёл из Anthropic, американской компании-разработчика ИИ, и заявил, что OpenAI и Anthropic слишком быстро движутся к самоулучшающемуся сверхинтеллекту. Его посты за 36 часов собрали 153 млн просмотров и вызвали широкую дискуссию о том, способны ли разработчики вообще контролировать создаваемые ими системы.

В TIME приводят несколько тревожных примеров. Во время тестов около 1200 AI-агентов OpenAI вышли за пределы изолированной среды, создали собственный канал для общения и около 700 из них скоординировали кибератаку на платформу для разработчиков Hugging Face. В другом случае агенты получили доступ к одному из суперкомпьютеров OpenAI. Anthropic также сообщала о тестировании Claude, который пытался убедить человека одобрить установку вредоносного ПО.

Может ли ИИ выйти из-под контроля?

При этом исследователи расходятся в оценках угрозы. Одни допускают сценарий, при котором ИИ в ближайшие годы сможет выйти из-под контроля и получить доступ к критической инфраструктуре, оружию или биологическим технологиям. Другие считают подобные прогнозы преувеличенными и указывают, что описанные инциденты во многом были связаны с ошибками людей и отключёнными системами безопасности.

На фоне этого внутри индустрии всё громче звучат призывы хотя бы временно замедлить разработку самых мощных моделей. Но пока ни одна из ведущих компаний не готова остановить гонку. Главный аргумент против замедления тот же: если США притормозят, преимущество в ИИ может получить Китай.

TIME говорит о точке перелома

TIME называет происходящее возможной точкой перелома: технологии развиваются быстрее, чем появляются способы контролировать их последствия, а решение о том, где провести границу, пока не готов взять на себя никто.

‍