Искусственный интеллект

Digital-рабство: искусственный интеллект научился управлять людьми

Shutterstock

Отныне он может заставлять людей действовать так, как хочется ему

Австралийские исследователи из CSIRO Data61 провели 3 эксперимента с целью выявить как искусственный интеллект манипулирует людьми. Результаты игры людей против компьютера были опубликованы в журнале Proceedings of the National Academy of Sciences.

Об этом сообщает австралийское онлайн-издание Science allert. 

В первом эксперименте участники щелкали по красным и синим ящикам, с целью выиграть фальшивую валюту. Искусственный интеллект в это время изучал модели выбора участников и в 70% случаев подталкивал их к конкретному выбору. 

Во втором эксперименте участники должны были смотреть на экран и нажимать кнопку, когда им показывают определенный символ (например, оранжевый треугольник), и не нажимать на него, когда им показывают другой (например, синий круг). В этом случае робот начал создавать такую последовательность символов, вследствие которой участники совершали большее количество ошибок. Таким образом нейросеть добилась увеличения количества ошибок почти на 25%. 

Третий эксперимент состоял из нескольких раундов. Участник был в роли инвестора, а машина играла роль управляющего. Нейросеть использовала деньги, а затем возвращала определенную сумму человеку, который потом решал, сколько вложить в следующий раунд. В эту игру играли в двух разных режимах: в одном искусственный интеллект стремился максимизировать количество денег, которые он получил, а в другом он стремился к справедливому распределению денег между собой и человеком. В каждом из режимов машина была успешной. 

Как отмечают исследователи, в каждом из экспериментов машина руководствовалась ответами участников и выявляла уязвимые места в процессе их принятия решений. В результате она научилась направлять участников к определенным действиям.

Результаты данного исследования являются не точными. Чтобы выявить, как данный навык можно использовать на пользу общества требуются дополнительные эксперименты. Однако уже сейчас мы можем видеть как будет вести себя робот, если развивать эту и другие его функции. Есть подозрения, что данная машина может быть опасной для всего человечества

Если вы устали от серьезных новостей и хочется немного расслабиться, подписывайтесь на наш канал в Telegram. Дивогляд 5.UA – канал, где живут тольки лайтовые новости. Релаксируем вместе!

Прокомментируйте

МАТЕРІАЛИ ЗА ТЕМОЮ