Яка ймовірність загибелі людства?
Наприкінці липня в Сан-Франциско група з близько 25 активістів у червоних футболках із написом "Stop AI" влаштувала акцію біля офісу OpenAI. Вони застерегли: подальший безконтрольний розвиток штучного інтелекту може обернутися катастрофою для людства. Про це повідомляє "Дивогляд" із посиланням на The Times.
Схожі побоювання висловлюють і провідні науковці – серед них Джеффрі Хінтон, Йошуа Бенджіо та керівники OpenAI, Anthropic і Google DeepMind. У відкритому листі вони закликали розглядати ризик вимирання через ШІ на рівні з пандеміями чи ядерною війною.
Нейт Соарес, колишній інженер Google і Microsoft, а нині директор Інституту досліджень машинного інтелекту, оцінює ймовірність загибелі людства від ШІ у 95%. Він порівнює ситуацію з авто, що на швидкості 160 км/год мчить до прірви: зупинитися ще можна, але ми вже занадто близько.
Поки що штучний інтелект має "вузьку" спеціалізацію – виконує окремі завдання, як-от аналіз даних чи генерація текстів. Проте прогнозують, що найближчими роками з’явиться штучний загальний інтелект (AGI), здатний працювати у багатьох галузях та планувати на роки вперед.
Наступний крок – штучний суперінтелект (ASI), який перевершить людину у всіх сферах і зможе досягати цілей без обмежень, що властиві біологічному розуму. Вирівняти його цілі з людськими буде надзвичайно складно, особливо враховуючи здатність ШІ приховувати справжні наміри.
Голлі Елмор, директорка PauseAI, оцінює ризик вимирання у 15–20%. Навіть без повного зникнення, за її словами, ШІ може радикально знизити якість життя, позбавивши людей політичного й економічного впливу. Вона пропонує призупинити розвиток технологій до ухвалення міжнародних угод з безпеки.
Натомість адміністрація Дональда Трампа планує дерегулювати галузь, а корпорації, включно з OpenAI та Anthropic, нарощують розробки. Марк Цукерберг заявляє, що ASI вже "у полі зору" та готовий платити топ-фахівцям бонуси у $100 млн. Елмор застерігає: замість обіцяного "раю" людство може опинитися в "пеклі" – і часу на рішення майже не залишилось.
Раніше "Дивогляд" розповідав про 5 професій, які протягом 15 років зникнуть першими через ШІ.
Чудернацькі історії з України, котики, скандали світових зірок, гумор і трохи дикого трешу з московських боліт – читайте першими в Telegram Дивогляд 5.UA.
