Какова вероятность гибели человечества?
В конце июля в Сан-Франциско группа из около 25 активистов в красных футболках с надписью "Stop AI" устроила акцию возле офиса OpenAI. Они предостерегли: дальнейшее бесконтрольное развитие искусственного интеллекта может обернуться катастрофой для человечества. Об этом сообщает "Дивогляд" со ссылкой на The Times.
Сходные опасения выражают и ведущие ученые – среди них Джеффри Хинтон, Йошуа Бенджио и руководители OpenAI, Anthropic и Google DeepMind. В открытом письме они призывали рассматривать риск вымирания из-за ИИ на уровне пандемий или ядерной войны.
Нейт Соарес, бывший инженер Google и Microsoft, а ныне директор Института исследований машинного интеллекта оценивает вероятность гибели человечества от ИИ в 95%. Он сравнивает ситуацию с автомобилем, который на скорости 160 км/ч несется к пропасти: остановиться еще можно, но мы уже слишком близко.
Пока что искусственный интеллект имеет "узкую" специализацию - выполняет отдельные задачи, такие как анализ данных или генерация текстов. Тем не менее, прогнозируют, что в ближайшие годы появится искусственный общий интеллект (AGI), способный работать во многих отраслях и планировать на годы вперед.
Следующий шаг – искусственный суперинтеллект (ASI), который превзойдет человека во всех сферах и сможет достигать целей без ограничений, свойственных биологическому разуму. Выровнять его цели с человеческими будет очень сложно, особенно учитывая способность ИИ скрывать истинные намерения.
Голли Элмор, директор PauseAI, оценивает риск вымирания в 15–20%. Даже без полного исчезновения, по ее словам, ИИ может радикально снизить качество жизни, лишив людей политического и экономического влияния. Она предлагает приостановить развитие технологий для принятия международных соглашений по безопасности.
Администрация Дональда Трампа планирует дерегулировать отрасль, а корпорации, включая OpenAI и Anthropic, наращивают разработки. Марк Цукерберг заявляет, что ASI уже "в поле зрения" и готов платить топ-специалистам бонусы в $100 млн. Элмор предостерегает: вместо обещанного "рая" человечество может оказаться в "аду" – и времени на решение почти не осталось.
Ранее "Дивогляд" рассказывал о 5 профессиях, которые в течение 15 лет исчезнут первыми из-за ИИ.
Причудливые истории из Украины, котики, скандалы мировых звезд, юмор и чуть-чуть дикого трэша из московских болот – читайте первыми в Telegram Дивогляд 5.UA.
