Эксперт оценил вероятность исчезновения человечества из-за ИИ более чем в 50%
Руководитель Института исследований машинного интеллекта Нейт Соарес оценил вероятность исчезновения человечества вследствие развития искусственного интеллекта более чем в 50%. Об этом сообщает Business Insider со ссылкой на интервью Соареса главе The Atlantic Николасу Томпсону.
Что говорит эксперт
Речь идёт о возможном сценарии в течение ближайших десяти лет, то есть к 2036 году. Соарес пояснил, что его опасения связаны с возможным появлением достаточно развитого искусственного интеллекта, способного формировать цели, не совпадающие с человеческими интересами. По представленному им сценарию такая система сможет преодолеть действующие ограничения и начать самостоятельно совершенствовать свои возможности. В конечном итоге это может привести к преобразованиям на планете, несовместимым с жизнью людей.
Личная иллюстрация
Серьёзность своей оценки эксперт проиллюстрировал личным решением: около десяти лет он не пополняет пенсионные накопления. При этом Соарес не считает исчезновение человечества неизбежным. Его оценка вероятности отражает опасения относительно будущего развития технологий, а не установленный прогноз наступления катастрофы.
Что предлагает
В качестве меры предотвращения возможных рисков руководитель института предложил правительствам прекратить обучение универсальных систем искусственного интеллекта. Вместо этого он призвал сосредоточить разработки на решении конкретных задач, включая исследования рака и повышение безопасности беспилотных автомобилей. Соарес подчеркнул, что продолжает работать над предотвращением неблагоприятного сценария.
Справка
Нейт Соарес — исследователь в области ИИ, бывший сотрудник OpenAI и DeepMind; его институт занимается изучением рисков, связанных с передовыми моделями. Тема «экзистенциального риска» ИИ активно обсуждается с 2023 года, когда сотни исследователей подписали открытое письмо с призывом приостановить обучение мощных моделей. Оценки вероятности катастрофы сильно разнятся: одни эксперты считают риск незначительным, другие — сопоставимым с ядерной войной. Business Insider отмечает, что прогноз Соареса не является консенсусным мнением научного сообщества.
Напомним, учёные представили, как изменится человечество в ближайшие столетия.