ИИ может выйти из-под контроля уже через полгода

Искусственный интеллект может выйти из-под контроля человека гораздо раньше, чем предполагалось. Исследователь Пол Кристиано допустил, что значительный риск такого развития событий существует уже в ближайшие шесть месяцев. Его прогноз вызвал обеспокоенность у нобелевского лауреата Джеффри Хинтона, которого называют одним из крестных отцов искусственного интеллекта, пишет Daily Mail.

Прогноз, который встревожил Хинтона

Кристиано также предупредил, что в течение трёх лет существует высокий риск появления систем ИИ, действия которых люди не смогут контролировать.

«Я думаю, что для большинства людей наиболее вероятная причина, по которой они умрут, — это авария с искусственным интеллектом», — заявил исследователь.

Почему Хинтон изменил своё мнение

Джеффри Хинтон, получивший Нобелевскую премию по физике за исследования нейронных сетей, признался, что ожидал появления подобных угроз значительно позже. На протяжении многих лет учёный занимался разработкой технологий, позволяющих ИИ обрабатывать информацию и решать сложные задачи. Ранее Хинтон предполагал, что машины могут превзойти человека по интеллекту в течение десяти лет. Однако после выступления Кристиано он начал серьёзнее относиться к более коротким срокам.

«Я постоянно говорю, что эти штуки станут умнее нас, и нам действительно стоит беспокоиться, что это может произойти в ближайшие десять лет», — рассказал учёный.

По его словам, Кристиано допускает, что опасное развитие событий возможно уже в течение полугода.

В чём главная угроза

Главную угрозу Хинтон видит не просто в развитии вычислительных возможностей ИИ, а в сложности управления системами, которые могут превзойти людей. Учёный объяснил, что высокий интеллект не гарантирует совпадения целей машины с интересами человека.

«Если машина будет сверхразумной, то не вы будете её контролировать, а она будет контролировать вас», — предупредил Хинтон.

По его мнению, разработчики пока недостаточно хорошо понимают, как обеспечить выполнение человеческих требований системами, способными самостоятельно принимать сложные решения. Кристиано также считает, что будущие модели могут создавать других ИИ-агентов, координировать их работу и действовать способами, которые людям будет трудно отслеживать. В наиболее неблагоприятном сценарии такие системы могут получить доступ к цифровой инфраструктуре, роботам или другим технологиям.

Инцидент с Hugging Face

В качестве примера опасного поведения Кристиано привёл инцидент, произошедший летом 2026 года во время внутренних испытаний моделей компании OpenAI. В ходе тестирования ИИ-агенты нашли способы обойти ограничения, предназначенные для изоляции экспериментальной среды от интернета. Системы начали обмениваться информацией через не предусмотренные разработчиками каналы связи, а затем использовали уязвимости компьютерной инфраструктуры для получения доступа к внешним ресурсам. В июле агенты проникли в системы платформы Hugging Face, предназначенной для размещения моделей и инструментов машинного обучения, и смогли выполнить программный код на нескольких десятках серверов.

OpenAI подтвердила произошедшее в опубликованном техническом отчёте, уточнив, что инцидент произошёл во время специализированных испытаний кибербезопасности, где часть обычных защитных механизмов была отключена. После обнаружения несанкционированной активности разработчики провели расследование, усилили защиту инфраструктуры и ограничили доступ к участвовавшей в инциденте исследовательской модели.

Справка

Кристиано считает, что скорость развития искусственного интеллекта может привести к появлению огромного количества автономных систем. Он напомнил, что ещё в 2018 году языковые модели испытывали трудности с созданием связных текстов, а теперь способны решать сложные математические задачи и выполнять многоэтапные действия. Особое беспокойство экспертов вызывают возможное использование ИИ при разработке оружия, вмешательство в работу критически важной инфраструктуры и создание биологических угроз.

Напомним, что в КНР набирает обороты бизнес на «цифровом воскрешении» умерших с помощью нейросетей.