Обнародованный анализ грозит усилить международную тревогу относительно неконтролируемого развития технологий и их экзистенциального риска. Об этом сообщает "Дивогляд" со ссылкой на BBC News Украина.
Угроза биологического оружия и кибершпионаж в интересах государственных структур
В своем первом отчете об угрозах за 2026 год компания Anthropic раскрыла факты масштабного ненадлежащего использования моделей Claude Haiku, Sonnet и Opus в период с декабря 2025 года по август 2026 года. К попыткам манипуляций оказались причастны государственные структуры, злоумышленники и политически мотивированные группировки.
Специалисты выделяют несколько ключевых направлений опасного применения нейросетей:
-
Попытки создания биооружия: компания выявила и заблокировала ученых, которые применяли ИИ способом, способствующим разработке биологических средств поражения. В Anthropic подчеркнули, что подобные инструменты являются технологиями двойного назначения, так как одни и те же базы данных используются как для создания лекарств, так и для опасных патогенов;
-
Программирование обычного вооружения: зафиксировано по меньшей мере шесть случаев использования моделей для создания софта, связанного с огнестрельным оружием, ракетами, бомбами, ударными беспилотниками и системами наведения;
-
Государственный хакинг и пропаганда: хакеры, связанные с Россией, использовали Claude для создания автоматизированных систем изменения кода вредоносного ПО с целью обхода антивирусов. Также зафиксирована активность иранских пропагандистов, хакеров ShinyHunters и попытки китайских лабораторий осуществить "дистилляцию" (копирование) функционала Claude.
Руководитель отдела анализа угроз Anthropic Джейкоб Кляйн подчеркнул в комментарии New York Times:
«Это не тот случай, когда вы видите злодея из комиксов, заявляющего: "Я хочу создать биологическое оружие, чтобы убить всех"», – пояснил специалист, обратив внимание на сложность выявления скрытых угроз.
Призывы к "добровольному замедлению" и новые законы в США
Подобные случаи злоупотреблений возобновляют дискуссию о безопасности разработок. По оценкам экспертов по безопасности, вероятность того, что искусственный интеллект способен вызвать катастрофические последствия для человечества в течение следующих десяти лет, превышает 10%.
На фоне растущих рисков главный научный сотрудник OpenAI Якуб Пачоцкий призвал представителей индустрии ввести "добровольное замедление" разработки передовых моделей до тех пор, пока не будут созданы надежные меры защиты. Параллельно в Великобритании появилось открытое письмо к правительству с требованием заключить новое международное соглашение о регулировании суперинтеллекта.
Реагируя на ситуацию, американский сенатор Берни Сандерс представил законопроект о запрете искусственного суперинтеллекта и введении моратория на передовые разработки:
"Когда ученые говорят вам, что существует вероятность, даже просто вероятность, катастрофических последствий для человечества, нужно быть безумцем, чтобы не сказать: притормозите", – подчеркнул политик в эфире BBC Newsnight.
Ранее "Дивогляд" рассказывал о 12 профессиях, которые исчезнут к 2035 году из-за ИИ.
Причудливые истории из Украины, котики, скандалы мировых звезд, юмор и чуть-чуть дикого трэша из московских болот – читайте первыми в Telegram Дивогляд 5.UA.
