Генеральный директор OpenAI Сэм Альтман в недавнем подкасте предупредил, что искусственный интеллект может представлять экзистенциальную угрозу человечеству через «случайный захват власти», когда люди постепенно передают полномочия по принятию решений системам, которые они не полностью понимают.
В беседе с генеральным директором Axel Springer Матиасом Дёпфнером в премьерном выпуске подкаста MD MEETS, вышедшем 1 октября 2025 года, Олтман обозначил наиболее недооценённый риск, связанный с ИИ: сценарий, в котором «модель в некотором абстрактном смысле случайно захватывает мир», при этом не имея никаких злых намерений.
Угроза петли обратной связи
Альтман описал процесс, при котором системы искусственного интеллекта становятся всё более внедрёнными в процесс принятия решений человеком. По мере того как сотни миллионов, а затем и миллиарды людей начинают полагаться на ChatGPT при принятии важных решений в жизни и работе, может возникнуть опасная зависимость.
«По мере того как эти модели становятся умнее, возможно, сейчас вы просите ChatGPT дать совет по работе, и иногда он даёт хорошие идеи, а иногда — нет», — объяснил Альтман. «Но допустим, модель становится всё умнее и умнее и даёт вам советы, которые вы всё ещё понимаете, но теперь думаете, что должны следовать им почти всегда».
Сценарий усугубляется, когда ИИ даёт советы, которые человеку не понятны, но оказываются постоянно верными. «Теперь вы либо следуете совету, который не понимаете, либо становитесь менее конкурентоспособными по сравнению со своими коллегами», — сказал Альтман, создавая давление в пользу повсеместного внедрения.
Это создаёт то, что он назвал «петлёй обратной связи», когда массовая зависимость от советов ИИ генерирует новые обучающие данные, делающие системы ещё более способными и влиятельными. «Кто на самом деле это контролирует?» — задался вопросом Альтман. «Теперь мы как будто делаем то, чего хочет от нас модель»
Три категории риска
Альтман разделил экзистенциальные риски ИИ на три сценария. Первый включает в себя использование сверхинтеллектуального ИИ плохими акторами для ведения войны или терроризма. Второй — это классический сценарий из научной фантастики, когда системы ИИ отказываются подчиняться контролю.
Но третья категория беспокоит его больше всего: постепенная, добровольная сдача человеческой агентности. «У ИИ нет злой воли. Он действительно просто пытается вам помочь», — сказал он, однако в итоге человечество может коллективно следовать указаниям ИИ, не полностью осознавая последствия.
Это предупреждение появилось на фоне того, что Альтман прогнозирует: ИИ превзойдёт человеческий интеллект к 2030 году, а его последняя модель, GPT-5, уже сейчас «во многих отношениях кажется умнее меня». Генеральный директор OpenAI подчеркнул, что у общества «есть ограниченное количество времени» для разработки соответствующих рамок управления, прежде чем эти возможности станут повсеместными.
Комментарии Альтмана отражают растущую обеспокоенность среди лидеров отрасли ИИ по поводу сохранения человеческого контроля над всё более мощными системами, несмотря на то что компании стремятся разработать ещё более совершенные технологии.
