Компания OpenAI столкнулась с непредвиденной проблемой в поведении своей новейшей серии моделей GPT-5
Пользователи отметили, что чат-бот начал подозрительно часто употреблять слова "гоблины", "гремлины" и упоминать других мифических существ даже там, где это было неуместно. В компании официально объяснили, откуда появилась такая пристрасть к фэнтезийному лексикону. Об этом рассказывает "Дивогляд" со ссылкой на OpenAI.
Аномальная статистика
Согласно данным разработчиков, после релиза версии GPT-5.1 частота упоминаний гоблинов в ответах подскочила на 175%, а гремлинов – на 52%. Помимо странного выбора слов, пользователи жаловались на чрезмерную "фамильярность" искусственного интеллекта, которая порой выглядела слишком специфической для делового или общего общения.
Кто виноват? "Ботаники" и обратный цикл
Причиной "нашествия гоблинов" оказалась одна из экспериментальных настроек личности бота – Nerdy (в переводе – "ботаник").
- Хотя на эту личность приходилось лишь 2,5% от всех сессий, именно она генерировала 66,7% всех "магических" существ в текстах.
- В компании отметили, что во время обучения этой версии ей ошибочно был присвоен сверхвысокий приоритет для использования метафор со сказочными существами.
Разработчики говорят: "Оттуда распространились гоблины". Ситуацию усугубил так называемый "обратный цикл" обучения. Поскольку модель получала "вознаграждение" за использование ботанского стиля, эти ответы снова попадали в обучающие массивы данных. Таким образом ИИ все сильнее убеждался, что упоминание гоблинов – это идеальный способ коммуникации.
Как решили проблему
В OpenAI оперативно отреагировали на "гоблинский кризис":
- Отказ от личности: В марте компания полностью исключила режим Nerdy из доступных вариантов общения.
- Фильтрация данных: Разработчики очистили обучающие базы от избыточного количества фэнтезийных метафор.
- Коррекция обучения: Процесс тренировки был пересмотрен, чтобы избежать подобных лексических аномалий в будущем.
Сейчас ChatGPT вернулся к более сдержанному стилю общения, а разработчики шутят, что "цифровая дезинсекция" от гремлинов проведена успешно.
Ранее "Дивогляд" рассказывал, что пользователи начали массово удалять ChatGPT со своих гаджетов.
Причудливые истории из Украины, котики, скандалы мировых звезд, юмор и немного дикого трэша с московских болот – читайте первыми в Telegram Дивогляд 5.UA.
