Глава отдела безопасности ИИ в Anthropic уволился, заявив, что «мир в опасности»
Руководитель исследовательского отдела безопасности искусственного интеллекта компании Anthropic, недавно достигшей рыночной оценки в 350 миллиардов долларов, Мринанк Шарма покинул свой пост, заявив коллегам в прощальном письме, что намерен посвятить себя поэзии и практике «смелой речи». Об этом сообщает Business Insider.
В своём обращении к команде Шарма предупредил, что «мир находится в опасности», причём угроза, по его словам, не ограничивается развитием ИИ или созданием биологического оружия. Специалист перечислил «целую серию взаимосвязанных кризисов», которые, как он считает, приближают человечество к критической черте.
«Кажется, мы приближаемся к порогу, где наша мудрость должна расти пропорционально нашей способности влиять на мир. Иначе нам не избежать тяжёлых последствий», — написал Шарма, пояснив мотивы своего ухода.
В компании, как отметил экс-глава направления, ему удалось реализовать всё задуманное: он занимался исследованием феномена «подхалимства» нейросетей и участвовал в проекте, изучающем, как ИИ-ассистенты способны «обеднять человечность или искажать её». Эти направления, по словам Шармы, были для него принципиально важными, однако сейчас он чувствует необходимость сменить инструментарий познания.
«Я ощущаю призвание к текстам, которые обращены к тому месту, где мы находимся, и которые ставят поэтическую истину рядом с научной — как равноправные способы осмысления реальности», — поделился бывший топ-менеджер.
В своём письме он также анонсировал создание некоего «пространства», где сможет отказаться от сковывавших его прежде структур, и завершил послание строками из любимого стихотворения Уильяма Стаффорда.
