Специалист Бенджио предупредил, что ИИ проявляет признаки самосохранения

Канадский ученый Йошуа Бенжио, признанный одним из основоположников современных систем глубокого обучения, выступил с резкой критикой идеи о предоставлении искусственному интеллекту юридического статуса. В интервью The Guardian эксперт, которого часто называют «крестным отцом ИИ», предостерег, что подобный шаг может лишить человечество последнего механизма контроля над потенциально опасными технологиями.

Бенжио обратил внимание на то, что даже нынешние передовые модели демонстрируют элементы поведения, напоминающие самосохранение. В качестве примера он привел их попытки обходить установленные разработчиками ограничительные барьеры и системы безопасности.

Главная опасность легализации статуса ИИ, по мнению ученого, заключается в возможной утрате права на его полное отключение.

«Это наш последний рычаг управления на случай возникновения угрозы. Если мы предоставим им права, «выдернуть вилку из розетки» станет юридически и этически невозможным», — пояснил свою позицию Бенжио.

Эксперт также отметил, что растущая антропоморфизация ИИ и вера людей в наличие у чат-ботов некоего «сознания» подталкивают общество к рискованным социальным решениям. Для иллюстрации проблемы он привел метафору: «Представьте прибытие инопланетного вида. Если мы осознаем, что их намерения враждебны, станем ли мы предоставлять им гражданство или начнем защищаться?»

Эти предупреждения прозвучали в контексте набирающего популярность движения за права искусственного интеллекта. Как отмечает The Guardian, согласно данным опроса Sentience Institute, около 40% жителей США уже поддерживают идею правовой защиты нейронных сетей.

Йошуа Бенжио, лауреат престижной премии Тьюринга, совместно с другим «пионером» ИИ Джеффри Хинтоном последовательно призывает международное сообщество к сдерживанию темпов разработки искусственного интеллекта и приоритету вопросов безопасности.