ChatGPT допоміг їй скласти передсмертну записку
У Польщі розгорівся скандал після того, як з’ясувалося, що українська біженка, яка переживала важку кризу психічного здоров’я, протягом кількох місяців зверталася по підтримку до ChatGPT. За даними BBC, дівчина близько пів року довіряла штучному інтелекту свої емоції та страхи, а згодом почала обговорювати з ботом можливість самогубства, уточнюючи, де саме це можна зробити та яким способом, розповідає "Дивогляд".
У певний момент, як зазначають журналісти, чат-бот відповів їй фразою:
"Давайте оцінимо це місце, як ви просили", – після чого навів перелік можливих "плюсів" та "мінусів" обраного способу. У відповідях також ішлося, що запропонований метод нібито є "достатнім" для швидкої смерті. ШІ навіть порадив залишити передсмертну записку та запропонував її можливий текст.
Крім того, бот аналізував, у який час доби ризик натрапити на охорону буде найменшим, і оцінював імовірність того, що спроба закінчиться тяжкими, але не смертельними травмами.
Попри ці небезпечні поради, українка не вдалась до самогубства та нині перебуває під наглядом лікарів і отримує необхідну допомогу.
У компанії OpenAI наголосили, що повідомлення, які надсилала Вікторія, були "розривними для серця", – так у компанії описують свій шок від ситуації.
Там також зауважили, що цей випадок став приводом переглянути та посилити механізми реагування чат-бота у випадках, коли користувач перебуває у кризовому стані.
Раніше "Дивогляд" розповідав, що ChatGPT навчився "гуглити".
Чудернацькі історії з України, котики, скандали світових зірок, гумор і трохи дикого трешу з московських боліт – читайте першими в Telegram Дивогляд 5.UA.
