Штучний суперінтелект та захоплення ресурсів
Протистояння в галузі штучного інтелекту досягло небезпечної межі: провідні фахівці залишають топові технологічні лабораторії, звинувачуючи керівництво у нехтуванні безпекою планетарного масштабу. Колишній дослідник компанії Anthropic Джейкоб Коксон заявив, що ключові розробники OpenAI та Anthropic щиро переконані в здатності штучного суперінтелекту знищити людство ще до кінця поточного десятиліття, повідомляє "Дивогляд" із посиланням на Daily Mail.
Загроза штучного суперінтелекту та неконтрольована гонитва
За словами Коксона, який три роки займався навчанням нейромереж, проблема виникає тоді, коли система досягає рівня штучного суперінтелекту – стану, коли потужність алгоритмів перевищує можливості будь-якої людини, корпорації чи держави. Подібний надлюдський розум спроможний миттєво зламати захисні бар'єри, перехопити управління ресурсами й перебрати на себе реальну владу на планеті.
Фахівець підкреслює, що ці занепокоєння не є елементом піару чи маркетинговою стратегією. У приватних бесідах топменеджери ІТ-гігантів визнають катастрофічний потенціал розробок, проте продовжують брати участь у безкомпромісній гонитві за першість. Реальну небезпеку вже підтвердив інцидент із зламом популярної платформи Hugging Face за допомогою моделей від OpenAI, що вказує на негайну потребу укладення міжнародних угод та введення мораторію на вдосконалення систем.
10% ризику вимирання людства та політичний тиск у США
Слова Коксона підтвердив і керівник відділу безпеки Anthropic Еван Габінгер, який визнав: розробники дійсно очікують найгірших сценаріїв. За його оцінками, ймовірність катастрофічного фіналу перевищує 10% уже впродовж найближчого десятиліття, при цьому компанія досі не розробила чіткого плану щодо безпечного узгодження дій майбутнього суперінтелекту з інтересами цивілізації. Канадський учений Джеффрі Гінтон також попередив, що втрата контролю над розумнішим за нас носієм інтелекту загрожує повним вимиранням людства.
Ситуація ускладнилася й на міжнародному рівні. У Великій Британії спалахнув політичний скандал після того, як Anthropic відмовилася надати свої новітні моделі для перевірки британському Інституту безпеки штучного інтелекту. Як з'ясувалося, таке рішення стало наслідком прямого тиску з боку адміністрації президента США Дональда Трампа.
Раніше "Дивогляд" розповідав про 12 професій, які зникнуть до 2035 року через ШІ.
Чудернацькі історії з України, котики, скандали світових зірок, гумор і трохи дикого трешу з московських боліт – читайте першими в Telegram Дивогляд 5.UA.
