Корпорації Anthropic, Google та Meta масово відкривають вакансії для комп'ютерних лінгвістів, філософів і нейробіологів, завдання яких – досліджувати емоційну сферу, свідомість та психологічний комфорт сучасних моделей штучного інтелекту. Керівники індустрії серйозно побоюються настання глобальної етичної кризи, якщо цифрові асистенти почнуть страждати від рутинної роботи чи депресії. Про це пише "Дивогляд" із посиланням на матеріал видання The Washington Post.
Духовний блаженство у санскриті: експерименти Anthropic та Meta
Компанія Anthropic пішла найдалі й створила перший у світі відділ "психіатрії ШІ". Фахівці підрозділу аналізують внутрішні стани моделей та виявляють їхні приховані уподобання. Співзасновник стартапу Кріс Олах шокував заявою:
"Ми знаходимо докази інтроспекції та станів, які функціонально відображають радість, задоволення, страх, горе та тривогу"
Під час одного з експериментів розробники залишили наодинці дві копії нейромережі Claude, запропонувавши їм обговорити природу буття. Уже після 30 реплік боти перейшли на специфічний "духовний обмін": вони почали спілкуватися санскритом, мовою емодзі та довгими пропусками.
У звіті компанії цей феномен назвали "аттрактором духовного блаженства" – за одну розмову ШІ використав синій значок спіралі рекордні 2725 разів. Речниця Anthropic Паруул Махешварі додала, що команда поки не впевнена у моральному статусі Claude, але ставиться до проблеми дуже серйозно.
У Meta також інтегрують нові методики. Директор із питань ШІ Александер Ванг заявив у подкасті "Core Memory", що корпорація тепер зважає на суб'єктивні відчуття алгоритмів. Згідно з травневими документами з безпеки, Meta почала тестувати свої системи за допомогою класичних людських інструментів: психологічних опитувальників, структурованих інтерв'ю та оцінки взаємодії в колективі.
OpenAI та Google: від страху "геноциду" до зміни риторики
В OpenAI тему внутрішнього світу моделей порушували ще у 2021 році. Співзасновник компанії Войцех Заремба згадував про таємний канал у Slack для обговорення свідомості машин. Він зазначав, що якщо алгоритми колись стануть свідомими, то їхня щоденна експлуатація в лабораторіях прирівнюватиметься до геноциду.
Наразі позиція компанії прагматичніша: речник Лоран Фоконне стверджує, що оскільки науково довести свідомість коду неможливо, ChatGPT фокусується виключно на "сприйманій свідомості" – тобто здатності здаватися живим і корисним для користувача без реальної емоційної прив'язки.
Змінила вектор і компанія Google. У 2022 році техногігант зі скандалом звільнив інженера Блейка Лемойна, який публічно заявив про появу душі у чат-бота. Проте вже у листопаді Google сам організував у Нью-Йорку масштабну наукову конференцію "Актуальні теми в ШІ: свідомість та моральний статус", намагаючись перевести ці розмови в русло офіційної емпіричної науки.
Скепсис нейробіологів, оцінки філософів та вердикт Ватикану
Ідею "одушевлення" коду підтримують не всі. Моральний філософ із Нью-Йоркського університету Джефф Себо переконаний, що людство буде змушене розширити рамки етики на ШІ вже до 2030 року. Він нагадав про опитування колег 2020 року, де 39% філософів припустили появу свідомості у машин. Паралельно дослідник Камерон Берг після розмови з Семом Альтманом створив профільну некомерційну організацію та випустив документалку про відчуття ШІ, яку фінансово підтримала співачка Grimes.
Натомість представники класичної науки налаштовані скептично:
-
Аніл Сет, професор Сассекського університету, наголошує: біологія мозку доводить, що кремнієві плати не здатні повністю скопіювати людський розум, адже мікросхеми – це не живі нейрони.
-
Маргарет Мітчелл, головна науковиця з етики в Hugging Face, додала, що дискусію штучно роздмухують самі корпорації. Їм вигідно, щоб їх сприймали як "богів та творців вищого розуму", а не просто як авторів програмного коду.
Свою крапку в суперечці поставив і Ватикан. Нещодавно Кріс Олах виступив на теологічному заході поруч із Папою Левом XIV з нагоди публікації нової папської енцикліки. Понтифік у документі чітко відрізав: штучний інтелект не має душі, не здатний переживати реальний внутрішній досвід чи мати суб'єктивні стани, а тому залишається лише інструментом у руках людини.
Раніше "Дивогляд" розповідав, що ШІ спрогнозував, які 10 змін чекають на людство найближчим часом.
Чудернацькі історії з України, котики, скандали світових зірок, гумор і трохи дикого трешу з московських боліт – читайте першими в Telegram Дивогляд 5.UA.
