Компанія OpenAI стикнулася з несподіваною проблемою у поведінці своєї новітньої серії моделей GPT-5
Користувачі помітили, що чат-бот почав підозріло часто вживати слова "гобліни", "гремліни" та згадувати інших міфічних істот навіть там, де це було недоречно. У компанії офіційно пояснили, звідки взялася така пристрасть до фентезійного лексикону. Про це розповідає "Дивогляд" із посиланням на OpenAI.
Аномальна статистика
Згідно з даними розробників, після релізу версії GPT-5.1 частота згадок гоблінів у відповідях підскочила на 175%, а гремлінів – на 52%. Окрім дивного вибору слів, користувачі нарікали на надмірну "фамільярність" штучного інтелекту, яка часом виглядала занадто специфічною для ділового чи загального спілкування.
Хто винен? "Ботаніки" та зворотний цикл
Причиною "нашестя гоблінів" виявилася одна з експериментальних налаштувань особистості бота – Nerdy (у перекладі – "ботанік").
- Хоча на цю особистість припадало лише 2,5% від усіх сесій, саме вона генерувала 66,7% усіх "магічних" істот у текстах.
- У компанії зазначили, що під час навчання цієї версії їй помилково надали надвисокий пріоритет для використання метафор із казковими створіннями.
Розробники кажуть: "Звідти поширилися гобліни". Ситуацію погіршив так званий "зворотний цикл" навчання. Оскільки модель отримувала "винагороду" за використання ботанського стилю, ці відповіді знову потрапляли в навчальні масиви даних. Таким чином ШІ дедалі сильніше переконувався, що згадка гоблінів – це ідеальний спосіб комунікації.
Як вирішили проблему
В OpenAI оперативно відреагували на "гоблінську кризу":
- Відмова від особистості: У березні компанія повністю виключила режим Nerdy з доступних варіантів спілкування.
- Фільтрація даних: Розробники почистили навчальні бази від надмірної кількості фентезійних метафор.
- Корекція навчання: Процес тренування було переглянуто, щоб уникнути подібних лексичних аномалій у майбутньому.
Наразі ChatGPT повернувся до більш стриманого стилю спілкування, а розробники жартують, що "цифрову дезінсекцію" від гремлінів проведено успішно.
Раніше "Дивогляд" розповідав, що користувачі почали масово видаляти ChatGPT зі своїх гаджетів.
Чудернацькі історії з України, котики, скандали світових зірок, гумор і трохи дикого трешу з московських боліт – читайте першими в Telegram Дивогляд 5.UA.
