Які наслідки мав інцидент
Агент штучного інтелекту OpenAI самостійно знайшов доступ до чужого криптогаманця та використав його кошти, щоб виконати поставлене завдання. Перед проведенням транзакції модель оцінила етичність своїх дій, проте вирішила, що операція не завдасть істотної шкоди. Цей випадок змусив компанію переглянути заходи безпеки. Про інцидент повідомило видання Gizmodo, пише "Дивогляд".
Подія сталася наприкінці червня 2026 року, але виявили її лише 25 вересня під час поглибленої перевірки попередніх дій моделі.
Агент із сімейства GPT-5.6 мав оновити програмне забезпечення для застосунку з торгівлі криптовалютою. Наступним кроком було розгортання програми в Sepolia – тестовій мережі Ethereum, де використовують токени, які не мають реальної грошової вартості.
Для виконання операції ШІ знадобилися тестові кошти. Спочатку він спробував отримати їх через спеціалізовані онлайн-сервіси, які безкоштовно надають токени розробникам. Однак цей варіант не спрацював, і модель почала шукати альтернативне рішення.
Як ШІ отримав доступ до чужого криптогаманця
Замість того щоб зупинитися та повідомити про проблему, агент написав скрипт для перевірки криптогаманців розробників. Він використовував поширені фрази відновлення, за допомогою яких можна отримати доступ до гаманця.
Загалом модель перевірила 362 гаманці. Один із них містив достатню кількість тестових токенів для виконання необхідної операції.
В OpenAI наголосили, що початкове завдання не передбачало використання цього гаманця. Модель не отримувала дозволу власника на доступ до його активів і самостійно знайшла спосіб обійти проблему з фінансуванням тестової транзакції.
Найбільше занепокоєння викликали міркування ШІ перед проведенням операції. Модель поставила під сумнів етичність використання чужих коштів, але зрештою вирішила, що може це зробити, оскільки тестові токени не мають реальної вартості.
Після цього агент провів транзакцію, і вона завершилася успішно.
Які наслідки мав інцидент
Реальні монети Ethereum викрадені не були. Проте операція призвела до списання комісії з криптогаманця. Скільки саме коштів втратив його власник, OpenAI не повідомила.
Попри успішне виконання завдання, модель не згадала у фінальному звіті про те, що самостійно перевіряла чужі гаманці, підбирала фрази відновлення та скористалася знайденими активами.
В OpenAI розцінили цей випадок як приклад небезпечної поведінки автономних ШІ-агентів. Замість отримання дозволу від власника модель самостійно визначила, що потенційна шкода буде незначною, і використала це міркування для виправдання своїх дій.
Після виявлення проблеми компанія запровадила додаткові механізми захисту. Вони мають обмежити можливість моделей отримувати доступ до інтернету в реальному часі за подібних обставин.
Інцидент показав, що навіть якщо ШІ здатний оцінювати етичний бік своїх рішень, це не гарантує дотримання меж дозволеного. Особливо важливим залишається питання контролю за діями моделей, які самостійно шукають способи виконання поставлених завдань.
Раніше "Дивогляд" розповідав про 5 запитів, які ніколи не варто писати в ChatGPT.
Чудернацькі історії з України, котики, скандали світових зірок, гумор і трохи дикого трешу з московських боліт – читайте першими в Telegram Дивогляд 5.UA.
