Школи, медицина та армія під загрозою?
Уявляючи можливий апокаліпсис через розвиток штучного інтелекту, більшість людей малює у своїй уяві ядерні вибухи, штучні патогени чи армії бойових роботів. Однак міжнародна наукова спільнота все частіше звертає увагу на набагато підступніший сценарій – так зване "ослаблення людства" (human enfeeblement). Про це повідомляє "Дивогляд" із посиланням на Daily Mail.
Поступова деградація розумових здібностей і "когнітивне розвантаження"
На думку провідних фахівців, головна небезпека полягає не в раптовому повстанні машин, а в непомітному згасанні людського критичного мислення, навичок планування та емоційної автономії. Передаючи виклики та ухвалення щоденних рішень алгоритмам, суспільство ризикує повністю втратити здатність діяти самостійно.
Старший викладач робототехніки та штучного інтелекту в Університеті Шеффілд Халлам доктор Самуель Вінанзі застерігає, що цей процес уже розпочався через явище, яке психологи називають "когнітивним розвантаженням".
"Чим більше ми дозволяємо комп’ютеру займатися написанням, кодуванням, дослідженнями та прийняттям рішень,тим природнішим здається цей скорочений шлях, і тим важче його зупинити... З часом це може призвести до того,що населення буде навряд чи здатне мислити без допомоги ШІ", – зауважує Вінанзі.
Експерт нагадує, що штучному інтелекту вже довіряють аналіз фінансових махінацій, бази даних медичної галузі,логістику поліції та навіть військову аналітику. Нещодавно стався показовий випадок, коли американські військові ледь не пішли на штурм судна під прапором КНР: чат-бот згенерував фейковий звіт про нібито перевезення деталей для ядерної зброї. Катастрофу відвернули лише завдяки тому, що людина вчасно поставила під сумнів згенеровану інформцію.
Загроза для освіти та ризик втрати контролю над інфраструктурою
Особливе занепокоєння викликає вплив технологій на молодь і навчальний процес. Масове залучення інструментів на кшталт ChatGPT у школах та університетах загрожує формуванням покоління, яке буде здатне генерувати відповіді, але повністю позбавлене навички їх критично оцінювати. Під загрозою опинилися й висококваліфіковані професії – від медиків та інженерів до юристів і педагогів.
Водночас частина науковців вважає, що наслідки можуть виявитися значно радикальнішими. Засновник та керівник організації ControlAI Андреа Міотті попереджає: глибинна інтеграція алгоритмів у критичну інфраструктуру може призвести до того, що надрозумний ШІ перебере на себе управління економікою,енергомережами та армією.
"Надрозумний ШІ не обов’язково мав би бути зловмисним, щоб становити загрозу. Люди були б просто побічними збитками, оскільки потужні системи ШІ прагнуть більше ресурсів, так само як мурахи є побічними збитками, коли ми будуємо автомагістраль", – підсумував Міотті.
Раніше "Дивогляд" розповідав, як ШІ сам собі дозволив скористатися чужими коштами.
Чудернацькі історії з України, котики, скандали світових зірок, гумор і трохи дикого трешу з московських боліт – читайте першими в Telegram Дивогляд 5.UA.