Антиутопический сценарий для человечества

Генеральный директор компании OpenAI Сэм Альтман обозначил два наиболее опасных сценария развития искусственного интеллекта, которых человечество должно бескомпромиссно избежать. Своей тревожной оценкой бизнесмен поделился в соцсети X, поддержав призывы главы Anthropic Дарио Амодея относительно регулирования технологического темпа, сообщает "Дивогляд".

План уверенного контроля и дополнительная безопасность

12 сентября руководитель Anthropic Дарио Амодей опубликовал эссе "We Must Pace the Frontier", в котором предложил план из трех пунктов для регулирования скорости разработки наиболее мощных систем. Сэм Альтман согласился с тезисом коллеги о необходимости контролируемого темпа.

Глава OpenAI подчеркнул позицию своей компании:

"Я согласен с Дарио в том, что нам необходимо установить темп развития передовых технологий"

По словам Альтмана, OpenAI уже внедряет новые протоколы безопасности:

• Оценка перед обучением: специалисты проводят предварительную оценку потенциальных рисков перед запуском масштабного обучения моделей с подкреплением;

• Общие стандарты: бизнесмен призвал конкурентов формировать единые правила мониторинга и контроля безопасности искусственного интеллекта.

Два катастрофических сценария по версии Альтмана

Комментируя собственные опасения, руководитель OpenAI выделил два ключевых риска, которые могут привести к апокалиптическим последствиям для общества:

• Утрата человечеством контроля: Он подчеркнул, что технологии безопасности и методы согласования действий ИИ с человеческими ценностями должны опережать рост возможностей самих моделей:

"Мы можем утратить контроль над будущим из-за ИИ. Это неприемлемо"

• Чрезмерная концентрация власти: Альтман опасается ситуации, когда искусственным суперинтеллектом будет владеть один человек или монопольная корпорация:

"Если чрезвычайно мощный ИИ будет использован одним человеком или компанией, чтобы навязать всем остальным свое видение мира, последствия могут быть крайне антиутопическими"

Уточнив свою позицию, Альтман добавил, что под "замедлением" не подразумевается полная остановка прогресса. Развитие будет продолжаться, но должно проходить умеренно ради дополнительной безопасности общества.

Ранее "Дивогляд" рассказывал о том, как Anthropic заблокировала злоупотребление искусственным интеллектом в сферах биооружия и кибершпионажа.

Причудливые истории из Украины, котики, скандалы мировых звезд, юмор и чуть-чуть дикого трэша из московских болот – читайте первыми в Telegram Дивогляд 5.UA.