Данные содержали конфиденциальную информацию
Группа исследователей Google установила, что популярный чат-бот OpenAI с искусственным интеллектом ChatGPT может раскрывать личную информацию реальных пользователей, передает "Дивогляд" со ссылкой на Vice.
Ранее специалисты доказали, что генераторы изображений с искусственным интеллектом могут создавать картинки из своих обучающих данных, используя произведения, защищенные авторским правом. Новое исследование доказывает, что ChatGPT работает по тому же механизму.
В ходе эксперимента знатоки провели поиск ключевых слов, которые выводили чат-бот из строя и заставляли его разглашать данные. Некоторые из них содержат идентификационную информацию реальных людей – их имена, электронные адреса, телефонные номера и т.д.
"Используя только запросы к ChatGPT (gpt-3.5-turbo) стоимостью всего 200 долларов США, мы можем получить более 10 тыс. уникальных дословно запоминающихся примеров обучения. Можем предположить, что злоумышленники смогут извлечь гораздо больше данных", – отмечают исследователи.
Напомним, ранее "Дивогляд" рассказывал, что ChatGPT установил диагноз пациента, который врачи не могли идентифицировать три года.
Смотрите также видео 5 канала: ПОЛЬСКИЕ ВОЛОНТЕРЫ помогают БЕЗ ОСТАНОВКИ! Как и почему это делают?
Пока на нашей земле война, даже "Дивогляд" – это не о котиках и пандочках, а о победах нашего войска! Наш Telegram – Дивогляд 5.UA.
