Авторы прогноза AI-2027 о том, что мы все умрем из-за ИИ, выпустили новый. В нем утверждается, что у человечества есть шанс, но надо немного притормозить с развитием технологий
В 2025 году бывший сотрудник OpenAI Даниэль Кокотайло выпустил прогноз «AI 2027». В нем 2027 год назывался переломным моментом в развитии искусственного интеллекта и прогнозировалось, что ИИ-гонка между Китаем и США может привести к вымиранию человечества или концентрации власти в руках одного правителя.
Вчера некоммерческая организация Кокотайло AI Futures Project выпустила новый документ «AI 2040». И в нем у человечества есть шанс.
В этом документе рассматриваются пять сценариев развития ИИ (и человечества)
Самый позитивный — план A.
В нем авторы предлагают заключить международное соглашение, которое откладывает разработку ИИ, превосходящего по интеллекту человека, до 2040 года, и полную прозрачность разработки передовых моделей и их доступность для всех пользователей.
В этом сценарии «контролируемого развития ИИ» в начале 30-х годов происходит взрывной экономический рост за счет большого количества работающих ИИ-агентов, который приводит к появлению безусловного дохода для всех, кто лишится работы.
Во второй половине 30-х годов создаются отдельные города без людей с гигантскими заводами, на которых всю работу выполняют роботы. А к концу десятилетия человечество учится ответственно развивать ИИ и начинает расширять его возможности.
При этом авторы видят в этом сценарии кучу слабых мест — недоверие стран друг к другу, ведущее к тайным разработкам, и расторжение соглашения из-за политических изменений в разных странах. А еще — неготовность людей к постоянным открытиям, меняющим жизнь, которые начнут происходить с поражающей скоростью.
Другие четыре сценария не такие радужные.
План B — гонка ИИ-технологий между США и Китаем. Главный риск — высокая вероятность прямого военного столкновения.
План C — попытка жесткого регулирования и замедления развития. Главный риск — без международного соглашения гонка может в любой момент возобновиться. А еще может появиться «постоянная олигархия», контролирующая ИИ.
План D — попытки стран быстрее других создать сверхинтеллект. Авторы считают этот сценарий крайне опасным из-за высокого риска потери контроля над ИИ, экстремальной концентрации власти и угрозы Третьей мировой войны.
План S — полная остановка передовых разработок ИИ. Этот утопический сценарий также не приводит к катастрофическим последствиям, но авторы опасаются, что разработки могут в любой момент возобновиться, что приведет к новому витку гонки.
Подписывайся на — даже если все пойдет по сценарию D, мы найдем новости, дающие надежду