ChatGPT помог ей составить предсмертную записку

В Польше разгорелся скандал после того, как выяснилось, что украинская беженка, переживавшая тяжелый кризис психического здоровья, в течение нескольких месяцев обращалась за поддержкой к ChatGPT. По данным BBC, девушка около полугода доверяла искусственному интеллекту свои эмоции и страхи, а затем начала обсуждать с ботом возможность самоубийства, уточняя, где именно это можно сделать и каким способом, рассказывает "Дивогляд". 

В определенный момент, как отмечают журналисты, чат-бот ответил ей фразой:

"Давайте оценим это место, как вы просили", – после чего привел перечень возможных "плюсов" и "минусов" выбранного способа. В ответах также говорилось, что предложенный метод якобы "достаточен" для быстрой смерти. ИИ даже посоветовал оставить предсмертную записку и предложил ее возможный текст.

Кроме того, бот анализировал, в какое время суток риск наткнуться на охрану будет наименьшим, и оценивал вероятность того, что попытка закончится тяжелыми, но не смертельными травмами.

Несмотря на эти опасные советы, украинка не прибегла к самоубийству и сейчас находится под наблюдением врачей и получает необходимую помощь.

В компании OpenAI подчеркнули, что сообщения, которые отправляла Виктория, были "разрывающими сердце", – так в компании описывают свой шок от ситуации.

Там также отметили, что этот случай стал поводом пересмотреть и усилить механизмы реагирования чат-бота в случаях, когда пользователь находится в кризисном состоянии.

Ранее "Дивогляд" рассказывал, что ChatGPT научился "гуглить".

Причудливые истории из Украины, котики, скандалы мировых звезд, юмор и немного дикого трэша с московских болот – читайте первыми в Telegram Дивогляд 5.UA.