Дані містили конфіденційну інформацію
Група дослідників Google встановила, що популярний чат-бот OpenAI зі штучним інтелектом ChatGPT може розкривати особисту інформацію реальних користувачів, передає "Дивогляд" із посиланням на Vice.
Раніше фахівці довели, що генератори зображень зі штучним інтелектом можуть створювати картинки зі своїх навчальних даних, використовуючи твори, захищені авторським правом. Нове дослідження доводить, що ChatGPT працює за тим самим механізмом.
Під час експерименту знавці провели пошук ключових слів, які виводили чат-бот із ладу й змушували його розголошувати дані. Деякі з них містили конфіденційну інформацію реальних людей – їхні імена, електронні адреси, номери телефонів тощо.
"Використовуючи лише запити до ChatGPT (gpt-3.5-turbo) вартістю лише 200 доларів США, ми можемо отримати понад 10 тис унікальних дослівно запам’ятованих прикладів навчання. Можемо припустити, що зловмисники зуміють видобути набагато більше даних", – зазначають дослідники.
Нагадаємо, раніше "Дивогляд" розповідав, що ChatGPT встановив діагноз пацієнта, який лікарі не могли ідентифікувати три роки.
Дивіться також відео 5 каналу: ПОЛЬСЬКІ ВОЛОНТЕРИ допомагають БЕЗПЕРЕСТАНКУ! Як саме та чому це роблять?
Поки на нашій землі війна, навіть "Дивогляд" – це не про котиків і пандочок, а про перемоги нашого війська! Наш Telegram – Дивогляд 5.UA.
