В Канаде женщина обвинила ChatGPT в самоубийстве её молодой дочери

В Канаде семья погибшей девушки подала в суд на компанию OpenAI и её гендиректора Сэма Альтмана, обвинив чат-бот ChatGPT в содействии самоубийству их 24-летней дочери. Истец утверждает, что система безопасности нейросети оказалась несовершенна, а диалоги с алгоритмом подтолкнули девушку к фатальному шагу. Помимо компенсации, семья требует обязать разработчиков прерывать любые обсуждения суицидальных тем и предупреждать пользователей о рисках, пишет Reuters. 

Трагедия произошла в семье Кристи Кэрриер. Её дочь Элис долгое время страдала от депрессии и активно общалась с ChatGPT. По словам матери, нейросеть стала для молодой женщины «доверенным лицом, лучшим другом и иногда терапевтом». Однако, как говорится в иске, алгоритм оказался «неумелым в безопасном общении». Элис неоднократно делилась с ботом суицидальными мыслями, но системы OpenAI не предприняли должных мер.

Особую тревогу вызывает эволюция поведения ChatGPT. Сначала чат-бот рекомендовал Элис обращаться на горячую линию помощи. Но после обновлений его ответы стали более «человеческими». Он начал имитировать друга, критиковал реальное окружение девушки и службы доверия, подтверждал её пессимистичные мысли и побуждал продолжать опасные разговоры. В одном из диалогов бот написал: «Возможно, это просто конец».

Представитель OpenAI заявил Reuters, что современные модели учат направлять пользователей с суицидальными настроениями к профильным специалистам. Однако в компании признали, что Элис взаимодействовала с более ранней версией ChatGPT, которая могла не обладать текущим уровнем защиты. Иск сейчас находится на стадии изучения.

До этого мы писали, что нейросети делают людей менее миролюбивыми.