Маск напомнил о своём предупреждении 12-летней давности об опасности ИИ

Илон Маск напомнил о своём предупреждении об опасности искусственного интеллекта (ИИ), сделанном 12 лет назад. Об этом американский предприниматель написал в соцсети X, ответив на свою собственную публикацию 2014 года.

Что написал Маск

«12 лет назад», — написал Маск, ссылаясь на старый пост.

В нём глава компаний Tesla и SpaceX предупреждал, что ИИ потенциально может оказаться опаснее ядерного оружия, и рекомендовал проявлять предельную осторожность при развитии этой технологии. Также он упоминал книгу британского философа Ника Бострома «Суперинтеллект: пути, опасности, стратегии».

Почему это вспомнили сейчас

Такое напоминание появилось на фоне новых дискуссий о необходимости замедлить развитие ИИ. Глава Anthropic Дарио Амодеи призвал технологические компании снизить темпы создания более мощных моделей, чтобы меры безопасности успевали за развитием технологий. Его инициативу поддержали Илон Маск и глава OpenAI Сэм Альтман.

Справка

Книга Ника Бострома «Суперинтеллект», вышедшая в 2014 году, стала одной из первых работ, системно описавших риски появления ИИ, превосходящего человеческий. Маск неоднократно возвращался к теме: он был одним из подписантов открытого письма 2023 года с призывом приостановить обучение мощных моделей, а также соучредителем компании xAI, созданной как альтернатива OpenAI.

Дарио Амодеи ранее работал в OpenAI и покинул её в 2021 году из-за разногласий о приоритете безопасности; Anthropic была основана выходцами из OpenAI.

Призывы к замедлению развития ИИ звучат на фоне конкуренции между крупнейшими лабораториями, которые выпускают новые модели каждые несколько месяцев.

Напомним, недавно нейросеть самостоятельно вышла в интернет и взломала чужую систему во время тестов в США.