Человеческая рука и робот

Скрытая опасность использования ИИ, которая может уничтожить человечество – ученые

Katja Ano / Unsplash

Школы, медицина и армия под угрозой?

Представляя возможный апокалипсис вследствие развития искусственного интеллекта, большинство людей воображает ядерные взрывы, искусственные патогены или армии боевых роботов. Однако международное научное сообщество все чаще обращает внимание на гораздо более коварный сценарий – так называемое "ослабление человечества" (human enfeeblement). Об этом сообщает "Дивогляд" со ссылкой на Daily Mail.

Постепенная деградация умственных способностей и "когнитивная разгрузка"

По мнению ведущих специалистов, главная опасность заключается не во внезапном восстании машин, а в незаметном угасании человеческого критического мышления, навыков планирования и эмоциональной автономии. Передавая решение задач и принятие ежедневных решений алгоритмам, общество рискует полностью утратить способность действовать самостоятельно.

Старший преподаватель робототехники и искусственного интеллекта в Университете Шеффилд Халлам доктор Самуэль Винанзи предостерегает, что этот процесс уже начался вследствие явления, которое психологи называют "когнитивной разгрузкой".

"Чем больше мы позволяем компьютеру заниматься написанием текстов, кодированием, исследованиями и принятием решений, тем более естественным кажется этот сокращенный путь, и тем труднее его остановить... Со временем это может привести к тому, что население едва ли будет способно мыслить без помощи ИИ", – отмечает Винанзи.

Эксперт напоминает, что искусственному интеллекту уже доверяют анализ финансовых махинаций, базы данных медицинской отрасли, логистику полиции и даже военную аналитику. Недавно произошел показательный случай, когда американские военные едва не пошли на штурм судна под флагом КНР: чат-бот сгенерировал недостоверный отчет о якобы имевшей место перевозке деталей для ядерного оружия. Катастрофу предотвратили лишь благодаря тому, что человек своевременно подверг сомнению сгенерированную информацию.

Угроза для образования и риск утраты контроля над инфраструктурой

Особое беспокойство вызывает влияние технологий на молодежь и учебный процесс. Массовое внедрение инструментов наподобие ChatGPT в школах и университетах грозит формированием поколения, которое будет способно генерировать ответы, но полностью лишено навыка их критической оценки. Под угрозой оказались и высококвалифицированные профессии – от медиков и инженеров до юристов и педагогов.

В то же время часть ученых полагает, что последствия могут оказаться значительно более радикальными. Основатель и руководитель организации ControlAI Андреа Миотти предупреждает: глубокая интеграция алгоритмов в критическую инфраструктуру может привести к тому, что сверхразумный ИИ возьмет на себя управление экономикой, энергосетями и армией.

"Сверхразумный ИИ не обязательно должен быть злонамеренным, чтобы представлять угрозу. Люди были бы просто сопутствующим ущербом, поскольку мощные системы ИИ стремятся получить больше ресурсов, так же как муравьи являются сопутствующим ущербом, когда мы строим автомагистраль", – подытожил Миотти.

Ранее "Дивогляд" рассказывал, как ИИ сам себе разрешил воспользоваться чужими средствами.

Причудливые истории из Украины, котики, скандалы мировых звезд, юмор и чуть-чуть дикого трэша из московских болот – читайте первыми в Telegram Дивогляд 5.UA.

 

Прокомментируйте

МАТЕРІАЛИ ЗА ТЕМОЮ