В обществе не утихают дискуссии относительно будущего искусственного интеллекта
Одни опасаются момента, когда машины превзойдут человеческий разум, другие восхищаются их способностью обрабатывать гигабайты данных за считанные секунды. Впрочем, исследователь ИИ Питер Деннинг в своей работе "Ошибка Тьюринга: освобождение от гнета неразумных машин" обращает внимание на совершенно иную сторону медали. Об этом сообщает "Дивогляд" со ссылкой на УНИАН.
По его мнению, реальная угроза заключается не в виртуальном "всемогуществе" алгоритмов, а в их фундаментальной неспособности мыслить комплексно.
"Неявное знание": стена, которую алгоритмам не преодолеть
Главным пробелом современных нейросетей ученый называет отсутствие так называемого "неявного знания" – багажа опыта, который человек неосознанно накапливает в течение всей жизни. Мы ежедневно применяем эти знания в быту, даже не задумываясь об этом. Однако оцифровать, систематизировать и передать этот пласт информации на языке программирования практически невозможно.
Деннинг выделяет 5 ключевых элементов, которые машина не сможет получить через код, так как они приобретаются исключительно через прожитый человеческий опыт:
- Здравый смысл – основа повседневных решений;
- Практический опыт и глубокое ощущение физических законов мира;
- Интуиция и полет творческого воображения;
- Невербальные сигналы в процессе коммуникации;
- Понимание контекста – как социального, так и культурного.
Иллюзия понимания языка
Несмотря на то, что современные языковые модели вроде ChatGPT выстраивают грамматически идеальные и убедительные ответы, они оперируют лишь базовыми значениями слов, игнорируя скрытые подтексты.
"Слово является лишь символическим обозначением, за которым стоит колоссальный пласт человеческого опыта. Человеческая речь полностью зависит от контекста – иронии, искренности, юмора или сарказма. Поскольку каждый контекст опирается на предыдущие разговоры и ситуации, эта структура бесконечна", – отмечает Деннинг.
Исследователь объясняет, что из-за отсутствия человеческого опыта ИИ не может уловить тонкую грань между иронией, сарказмом или искренностью, поскольку для него язык – это лишь математическая вероятность комбинации символов, а не живой контекст.
В чем заключается настоящая угроза?
Главная опасность нейросетей состоит не в том, что они "сравняются" с нами или станут умнее, а в том, что они так и останутся лишенными "неявного знания".
Поскольку алгоритмы становятся все более мощными и быстрыми, их решения без глубокого понимания человеческих ценностей, морали и обстоятельств могут оказаться совершенно непредсказуемыми. Искусственный интеллект способен действовать масштабно и мгновенно, но именно его "поверхностное видение" ситуации создает наибольший риск для общества.
Ранее "Дивогляд" рассказывал, что пользователи начали массово удалять ChatGPT со своих гаджетов.
Необычные истории из Украины, котики, скандалы мировых звезд, юмор и немного дикого треша из московских болот – читайте первыми в Telegram Дивогляд 5.UA.
