Илон Маск, ученые и другие специалисты призывают приостановить разработку ИИ – чем они обеспокоены

Илон Маск, Стив Возняк, ученые и специалисты призывают к 6-месячному перерыву в обучении систем, мощнее GPT-4

По мнению авторов инициативы, передовой искусственный интеллект (ИИ) не должны разрабатывать до тех пор, пока не разработают и не внедрят общие протоколы безопасности для таких проектов, которые проверят независимые эксперты. Об этом сообщает "Дивогляд" со ссылкой на письмо, которое опубликовала некоммерческая организация Future of Life Institute.

"Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффект будет положительным, а риски управляемыми. Эта уверенность должна быть хорошо оправдана и увеличиваться вместе с величиной потенциальных эффектов системы", – говорится в письме.

Специалисты считают, что при исследовании и развитии ИИ следует сосредоточиться на том, чтобы современные системы были более точными, безопасными, интерпретированными, прозрачными, устойчивыми, согласными, надежными и лояльными. Также они призывают разработать рабочую группу из независимых специалистов и ИИ лабораторий для развития и внедрения общих протоколов безопасности для разработки ИИ.

Одновременно должно быть сотрудничество разработчиков ИИ с политиками для значительного ускорения разработки надежных систем управления ИИ. По меньшей мере, они должны включать:

  • новые и состоятельные регуляторные органы, занимающиеся темой ИИ;
  • надзор и отслеживание высокопроизводительных систем ИИ и больших вычислительных возможностей;
  • системы происхождения и водяных знаков, чтобы помогать отличать подлинное от синтетического и отслеживать утечки моделей;
  • надежную экосистему аудита и сертификации;
  • ответственность за вред, причиненный ИИ;
  • надежное госфинансирование технических исследований безопасности ИИ;
  • хорошо обеспеченные ресурсами учреждения, чтобы преодолевать драматические экономические и политические срывы (особенно для демократии), вызванные ИИ.

Это письмо подписал основатель SpaceX Илон Маск, основатель Apple Стив Возняк, профессора ведущих мировых ВУЗов, исследователи ИИ и другие.

Ранее "Дивогляд" рассказывал, почему чат-бот ChatGPT вызывает беспокойство.

Смотрите также видео 5 канала: ЕКСГУМАЦІЯ давніх військових поховань на МАРСОВОМУ ПОЛІ

Пока на нашей земле война, даже "Дивогляд" – это не о котиках и пандочках, а о победах нашего войска! Наш Telegram – Дивогляд 5.UA.

Помоги ВСУ – спаси свой дом: официальные реквизиты и ссылки.

Прокомментируйте

МАТЕРІАЛИ ЗА ТЕМОЮ

Читайте больше