Оприлюднений аналіз загрожує посилити міжнародну тривогу щодо неконтрольованого розвитку технологій та їхнього екзистенційного ризику. Про це повідомляє "Дивогляд" із посиланням на BBC News Україна.
Загроза біологічної зброї та кібершпигунство на користь державних структур
У своєму першому звіті про загрози за 2026 рік компанія Anthropic розкрила факти масштабного неналежного використання моделей Claude Haiku, Sonnet та Opus у період із грудня 2025 року до серпня 2026 року. До спроб маніпуляцій виявилися причетні державні структури, зловмисники та політично вмотивовані угруповання.
Фахівці виділяють кілька ключових напрямків небезпечного застосування нейромереж:
-
Спроби створення біозброї: компанія виявила та заблокувала науковців, які застосовували ШІ у спосіб, що міг сприяти розробці біологічних уражальних засобів. В Anthropic наголосили, що подібні інструменти є технологіями подвійного призначення, адже ті самі бази даних використовуються як для ліків, так і для небезпечних патогенів;
-
Програмування звичайного озброєння: зафіксовано щонайменше шість випадків використання моделей для створення софту, пов'язаного з вогнепальною зброєю, ракетами, бомбами, ударними безпілотниками та системами наведення;
-
Державний хакінг та пропаганда: хакери, пов'язані з Росією, використовували Claude для створення автоматизованих систем змінення коду шкідливого софту задля обходу антивірусів. Також зафіксовано активність іранських пропагандистів, хакерів ShinyHunters та спроби китайських лабораторій здійснити "дистиляцію" (копіювання) функціоналу Claude.
Керівник відділу аналізу загроз Anthropic Джейкоб Кляйн підкреслив у коментарі New York Times:
«Це не те, що ви бачите лиходія з коміксів, який заявляє: "Я хочу створити біологічну зброю, щоб убити всіх"», – пояснив фахівець, звернувши увагу на складність виявлення прихованих загрози.
Заклики до "добровільного пригальмування" та нові закони у США
Подібні випадки зловживань відновлюють дискусію про безпеку розробок. За оцінками безпекових фахівців, імовірність того, що штучний інтелект спроможний спричинити катастрофічні наслідки для людства протягом наступних десяти років, перевищує 10%.
На тлі зростаючих ризиків головний науковець OpenAI Якуб Пачоцький закликав представників індустрії запровадити "добровільне уповільнення" розробки передових моделей, доки не будуть створені надійні заходи захисту. Паралельно у Великій Британії з'явився відкритий лист до уряду з вимовою укласти нову міжнародну угоду про регулювання суперінтелекту.
Реагуючи на ситуацію, американський сенатор Берні Сандерс представив законопроєкт щодо заборони штучного суперінтелекту та введення мораторію на передові розробки:
"Коли вчені кажуть вам, що існує ймовірність, навіть просто ймовірність, катастрофічних наслідків для людства, треба бути дурнем, щоб не сказати: пригальмуйте", – наголосив політик в ефірі BBC Newsnight.
Раніше "Дивогляд" розповідав про 12 професій, які зникнуть до 2035 року через ШІ.
Чудернацькі історії з України, котики, скандали світових зірок, гумор і трохи дикого трешу з московських боліт – читайте першими в Telegram Дивогляд 5.UA.
