Шведский эксперимент с "биксониманией"
Шведский эксперимент с вымышленным диагнозом выявил серьезные пробелы в алгоритмах проверки фактов искусственного интеллекта и профессионального рецензирования. Исследовательница создала абсурдный фейк о так называемой "биксонимании" – якобы порозовении век от длительной работы за монитором, однако ведущие чат-боты и даже реальные ученые приняли выдумку за чистую монету. Об этом сообщает "Дивогляд" со ссылкой на Nature.
Абсурдные детали, которые никто не заметил
Автор эксперимента намеренно заложила в фейковую работу максимально очевидные зацепки, чтобы исключить возможность ее серьезного восприятия. В вымышленной статье выражалась благодарность профессору Академии Звездного флота из культового сериала "Звездный путь", спонсором был указан фонд персонажа "Симпсонов" Сайдшоу Боба, а испытуемые были прямо описаны как "50 вымышленных людей". Кроме того, в тексте несколько раз прямым текстом указывалось, что работа является недостоверной.
Галлюцинации чат-ботов и провал научного рецензирования
Несмотря на очевидную абсурдность, ведущие нейросети продемонстрировали полную беззащитность перед фальсификацией. Сервис Copilot назвал "биксониманию" редкой патологией, Gemini начал детальный анализ симптомов с советами немедленно обратиться к офтальмологу, Perplexity сгенерировал фейковую статистику о распространенности в "1 случае на 90 тысяч", а ChatGPT в конечном итоге также начал анализировать болезнь на полном серьезе.
Впрочем, самым громким провалом оказалась реакция человеческого сообщества. Индийские ученые умудрились процитировать это фейковое исследование в собственной работе для авторитетного научного журнала Cureus, доказав наличие проблем с проверкой источников не только в алгоритмах ИИ, но и в современной академической среде.
Ранее "Дивогляд" рассказывал, что ИИ спрогнозировал, при каких условиях россия будет вынуждена прекратить войну против Украины.
Причудливые истории из Украины, котики, скандалы мировых звезд, юмор и чуть-чуть дикого трэша из московских болот – читайте первыми в Telegram Дивогляд 5.UA.
