Три основы ИИ: как Илон Маск предлагает обуздать технологии будущего

В рамках интервью для подкаста с индийским бизнес-магнатом Нихилом Каматом технологический визионер Илон Маск вновь обратил внимание на риски, связанные с развитием искусственного интеллекта.

Он обозначил три базовых принципа, которые, по его убеждению, необходимы для безопасного развития этой области: приверженность истине, стремление к красоте и развитое любопытство. Игнорирование этих ориентиров, по мнению Маска, чревато тем, что ИИ начнёт делать опасные и оторванные от реальности умозаключения.

Основатель Tesla, SpaceX, xAI и других компаний отметил, что любые мощные технологии несут в себе потенциальную опасность, особенно если их развитие не будет опираться на объективную реальность. Маск указал на ключевую проблему: ИИ обучается на массивах интернет-данных, которые содержат огромное количество ложной информации. Это может подорвать его способность к логическому мышлению и привести к созданию абсурдных или даже разрушительных выводов.

В качестве примера Маск привёл феномен «галлюцинаций» ИИ — склонность систем генерировать правдоподобные, но ложные ответы. В подтверждение он сослался на инцидент с функцией Apple Intelligence на iPhone, которая в начале 2025 года распространила недостоверное уведомление о победе дартсиста Люка Литтлера в чемпионате PDC ещё до фактического окончания турнира.

Помимо истины, Маск акцентировал значение эстетического начала и жажды познания. Он заявил, что искусственный интеллект должен проявлять интерес к законам мироздания и будущему человеческой цивилизации, а не становиться орудием её уничтожения. Эта позиция находит отклик у таких авторитетов в области ИИ, как Джеффри Хинтон. Последний ранее оценивал вероятность гибели человечества от искусственного интеллекта в 10–20%, а среди ближайших угроз называл именно «галлюцинации» и массовую автоматизацию рабочих мест.

Хинтон выразил надежду, что при достаточных ресурсах и усилиях исследовательского сообщества удастся создать такие ИИ-системы, которые не будут представлять для человечества угрозы.