OpenAI решила сотни математических задач: математики обеспокоены планами публикации

В августе OpenAI собрала около 40 математиков, чтобы обсудить возможное опережение искусственным интеллектом людей в этой области. По словам участников встречи, представители компании сообщили, что мощные модели решили сотни давних математических задач. При этом OpenAI якобы намеревалась не публиковать все решения одновременно и попросила совета о том, как представить результаты научному сообществу. Об этом пишет WIRED.

Реакция математиков

Участники восприняли перспективу с «сочетанием воодушевления и тревоги», рассказала изданию математик Северо-Западного университета Брина Кра. Она призвала компанию не ограничиваться публикацией записи в блоге или сообщения в социальной сети, как это произошло с десятью задачами, представленными ранее в том же месяце. По словам Кры, математикам нужны научные статьи с подробным объяснением работы, чтобы они могли изучить и использовать полученные результаты.

«По-видимому, к этому мнению не прислушались», — сказала Кра.

Что планируется

Как сообщили WIRED люди, знакомые с планами OpenAI, во вторник компания собирается разместить на GitHub сотни решений нерешённых задач. Если это произойдёт, публикация станет очередным эпизодом в серии из десятков тысяч математических решений, созданных искусственным интеллектом в этом году.

Заявление компании

Представитель компании Линдси Маккаллум заявила, что ей неизвестно о планах не публиковать решения. Она утверждает, что 28 августа OpenAI начала обучение новой внутренней модели.

«Помимо решения задачи о существовании и гладкости решений уравнений Навье—Стокса, относящейся к задачам тысячелетия, эта модель теперь решила более 100 давних открытых проблем в большинстве областей математики», — сказала она.

Представитель компании добавила, что OpenAI готовит ответственную публикацию следующих результатов с учётом рекомендаций Консультативной группы по математике и искусственному интеллекту при Институте перспективных исследований, однако точное время релиза пока не установлено.

Критика

Несколько ведущих математиков считают предстоящую публикацию свидетельством того, что OpenAI не извлекла достаточных уроков из споров вокруг прежних релизов. В беседах с WIRED учёные сравнили происходящее с соревнованием OpenAI и Anthropic, которые используют математику для демонстрации возможностей своих моделей накануне крупных первичных размещений акций. По их словам, стремление компаний превзойти друг друга отодвигает на второй план традиционные правила публикации и указания авторства научных результатов.

Наиболее заметный конфликт произошёл в сентябре, когда OpenAI направила тысячи программных агентов на решение знаменитой задачи тысячелетия с призом в миллион долларов, узнав о «слухах» о приближении других исследователей к ответу. Математик и профессор Нью-Йоркского университета Тристан Бакмастер обвинил компанию в опережающем использовании работы, которую он выполнял совместно с сотрудником Anthropic Левентом Альпёге. Их результаты ещё не были опубликованы, однако при исследовании они применяли инструменты OpenAI.

Справка

Задачи тысячелетия — семь математических проблем, за решение каждой из которых Математический институт Клэя обещает миллион долларов; на данный момент решена только одна — гипотеза Пуанкаре. Уравнения Навье—Стокса, упомянутые в заявлении компании, — одна из этих семи задач. Споры об авторстве и публикации результатов, полученных с помощью ИИ, становятся всё острее: научное сообщество требует от компаний прозрачности и соблюдения академических норм, тогда как корпорации заинтересованы в первую очередь в демонстрации возможностей своих моделей.