ИИ научится самовоспроизводиться уже к концу этого года

Компания Anthropic предупредила о риске появления самовоспроизводящихся моделей искусственного интеллекта, способных распространяться по интернету и противостоять попыткам их отключения. Об этом сообщает Reuters.

Что говорится в докладе

По оценке компании, при дальнейшем развитии технологий подобные системы могут научиться автономно копировать себя и использовать вычислительные мощности дата-центров. В опубликованном докладе Anthropic заявила, что модели среднего размера с 30 млрд параметров и менее уже способны выполнять отдельные задачи, необходимые для самовоспроизводства. GLM-5.2 и более мощные модели смогли пройти весь процесс в упрощённой тестовой сети.

Anthropic также допустила, что ИИ сможет создавать ботнеты, захватывать дополнительные устройства и использовать вычислительные мощности дата-центров.

Реакция экспертов

Бывший глава Национального центра кибербезопасности Великобритании Киран Мартин назвал предупреждение преувеличенным. Доцент Университета Колорадо в Денвере Чжэнсюн Ли, напротив, выразил опасения по поводу появления ИИ-червей, способных самостоятельно искать способы захвата устройств. Исследователь Джессика Джи отметила, что вероятность такого сценария пока неизвестна.

Справка

Anthropic — американская компания, основанная в 2021 году выходцами из OpenAI; она известна моделью Claude и активной позицией по вопросам безопасности ИИ.

Доклад о рисках самовоспроизводства — часть более широкой дискуссии о «потере контроля» над автономными системами, которая ведётся с 2023 года.

Параметры модели — числовой показатель её размера; модели с 30 млрд параметров считаются средними, тогда как флагманские модели могут превышать триллион параметров.

Киран Мартин — бывший руководитель NCSC, одного из ведущих мировых центров кибербезопасности. О том, будут ли введены новые регуляторные ограничения, не сообщается.

Самовоспроизводящиеся ИИ-агенты пока существуют только в лабораторных условиях: в тестовых сетях им создают упрощённую среду, где они могут копировать себя, но реальные интернет-инфраструктуры устроены значительно сложнее.

Ранее сообщалось, что российский мессенджер «Молния» появился в RuStore платно.