$50 за годину за читання чужих чатів?

Спілкування з штучним інтелектом видається приватним і повністю автоматизованим процесом, проте за лаштунками ChatGPT стоять сотні живих людей. Журналісти видання 404 Media провели розслідування й з'ясували, що спеціальні підрядники компанії OpenAI детально вивчають розмови користувачів, зокрема ті, де містяться прямо висловлені прохання про сувору конфіденційність, повідомляє "Дивогляд".

Навіщо люди читають чужі чати та які є ризики

Головна мета рецензентів – покращити якість відповідей та скоригувати поведінку чатбота. Внутрішні документи OpenAI свідчать, що людський нагляд необхідний для виправлення системних вад штучного інтелекту.

Основоположні завдання людей-перевіряльників:

• Боротьба з "людяністю": ШІ навчають не антропоморфізуватися, тобто не вдавати з себе живу людину;

• Стримування угодливості: фахівці коригують надмірне підлабузництво чатбота, коли той бездумно погоджується з будь-якою думкою користувача;

• Витік приватних даних: хоча OpenAI видаляє імена й намагається фільтрувати особисту інформацію перед відправкою рецензентам, конфіденційні бізнес-дані, інтимні подробиці та секретні запити все одно просочуються до сторонніх спостерігачів.

Схожу практику перевірки мовних моделей за участю людей підтвердили й у компанії-конкуренті Anthropic.

Як працює система рецензування та як захистити власні дані

Для оцінки діалогів OpenAI залучає спеціалізовані рекрутингові агентства. Зокрема, один із підрядників у Північній Америці розповів, що отримує понад $50 на годину за аналіз запитів: він формулює намір користувача, оцінює точність і тон відповіді бота та формулює рекомендації щодо покращення.

Офіційна позиція OpenAI та способи захисту конфіденційності:

• Налаштування за замовчуванням: функція "покращити модель для всіх" автоматично увімкнена для користувачів тарифів Free, Plus та Pro;

• Відсутність ретроактивності: якщо вимкнути передачу даних у налаштуваннях акаунту, це подіє лише на нові чати, тоді як старі розмови вже могли потрапити до бази;

• Корпоративні стандарти: для клієнтів тарифних планів Enterprise, Business та Edu збір даних для навчання моделей вимкнено за замовчуванням.

Раніше "Дивогляд" розповідав, що очільник OpenAI назвав два найгірші сценарії розвитку ШІ.

Чудернацькі історії з України, котики, скандали світових зірок, гумор і трохи дикого трешу з московських боліт – читайте першими в Telegram Дивогляд 5.UA.