Искусственный суперинтеллект и захват ресурсов
Противостояние в области искусственного интеллекта достигло опасного предела: ведущие специалисты покидают топовые технологические лаборатории, обвиняя руководство в пренебрежении безопасностью планетарного масштаба. Бывший исследователь компании Anthropic Джейкоб Коксон заявил, что ключевые разработчики OpenAI и Anthropic искренне убеждены в способности искусственного суперинтеллекта уничтожить человечество еще до конца текущего десятилетия, сообщает "Дивогляд" со ссылкой на Daily Mail.
Угроза искусственного суперинтеллекта и неконтролируемая гонка
По словам Коксона, который на протяжении трех лет занимался обучением нейросетей, проблема возникает тогда, когда система достигает уровня искусственного суперинтеллекта – состояния, при котором мощность алгоритмов превышает возможности любого человека, корпорации или государства. Подобный сверхчеловеческий разум способен мгновенно взломать защитные барьеры, перехватить управление ресурсами и взять на себя реальную власть на планете.
Специалист подчеркивает, что данные опасения не являются элементом пиара или маркетинговой стратегией. В частных беседах топ-менеджеры ИТ-гигантов признают катастрофический потенциал разработок, однако продолжают участвовать в бескомпромиссной гонке за первенство. Реальную опасность уже подтвердил инцидент со взломом популярной платформы Hugging Face с помощью моделей от OpenAI, что указывает на незамедлительную необходимость заключения международных соглашений и введения моратория на совершенствование систем.
10% риска вымирания человечества и политическое давление в США
Слова Коксона подтвердил и руководитель отдела безопасности Anthropic Эван Габингер, признавший: разработчики действительно ожидают худших сценариев. По его оценкам, вероятность катастрофического финала превышает 10% уже в течение ближайшего десятилетия, при этом компания до сих пор не разработала четкого плана по безопасному согласованию действий будущего суперинтеллекта с интересами цивилизации. Канадский ученый Джеффри Хинтон также предупредил, что потеря контроля над носителем интеллекта, превосходящим нас по уровню развития, угрожает полным вымиранием человечества.
Ситуация осложнилась и на международном уровне. В Великобритании вспыхнул политический скандал после того, как Anthropic отказалась предоставить свои новейшие модели для проверки британскому Институту безопасности искусственного интеллекта. Как выяснилось, данное решение стало следствием прямого давления со стороны администрации президента США Дональда Трампа.
Ранее "Дивогляд" рассказывал о 12 профессиях, которые исчезнут до 2035 года из-за ИИ.
Причудливые истории из Украины, котики, скандалы мировых звезд, юмор и чуть-чуть дикого трэша из московских болот – читайте первыми в Telegram Дивогляд 5.UA.
