ИИ-гигант Anthropic призвал замедлить развитие искусственного интеллекта
На сайте компании Anthropic, разрабатывающей ИИ-модель Claude, опубликована статья с призывом замедлить или приостановить развитие ИИ, чтобы общество могло адаптировать. Один из ее авторов — сооснователь Anthropic Джек Кларк.
В статье говорится, что системы ИИ приблизились к этапу рекурсивного саморазвития — способности совершенствоваться без участия человека. Как будет выглядеть мир, где ИИ сможет развиваться сам, в Anthropic не знают.
Статья призывает лидеров в области ИИ затормозить развитие технологии, дав человечеству время для адаптации, но оговаривается, что для этого необходима глобальная система контроля, чтобы избежать риска скрытого обучения новых моделей.
«В мире уже создавали режимы верификации для других сложных технологий — например, Договор о ликвидации ракет средней и меньшей дальности. Но на создание таких режимов — как инфраструктуры, так и доверия — уходили десятилетия. У нас нет столько времени», — заявили авторы статьи.
@meduzalive