Компанія Apple оголосила, що в прийдешніх оновленнях для iPhone, Mac і Apple Watch буде впроваджена система сканування зображень і зашифрованих повідомлень на предмет сексуального насильства над дітьми (Child sexual abuse materials, CSAM).
Мова лише про пристрої власників зі США, уточнює ВВС.
Перед завантаженням світлини до iCloud Photos, інструмент neuralMatch скануватиме її на збіг з уже відомими зображеннями сексуального насильства над дітьми. Якщо збіг буде виявлено – зображення перегляне жива людина. У випадку підтвердження факту дитячої порнографії або насильства – обліковий запис користувача заблокують і поінформують правоохоронців.
Фіксуватимуться тільки фото, які вже є в базі даних Національного центру США зниклих безвісти і експлуатованих дітей. Система також має виокремлювати відредаговані, але схожі версії оригінальних зображень.
Компанія запевняє, що технологія є надзвичайно точною, а ймовірність помилково визначити заборонений контент – близько 1:1 000 000 000 000 (трильйон) на рік. Тож, "батькам, які роблять невинні фотографії своєї дитини у ванній, мабуть, не треба турбуватися".
Окремо Apple планує сканувати зашифровані повідомлення користувачів на предмет відвертого сексуального змісту. Це теж подається як захід для підвищення дитячої безпеки.
Фахівці з кібербезпеки критично зустріли заплановані нововведення. Компанія створює небезпечний прецедент, додаючи у персональні пристрої систему моніторингу та передаючи контент до правоохоронних органів.
На їхню думку, алгоритм цілком можна використовувати для звинувачення невинних людей, відправляючи їм, здавалося би, нешкідливі зображення. Крім того, це дає теоретичну можливість владним інституціям стежити за громадянами, а також виокремлювати дисидентів або протестувальників.
Нагадаємо, цього року Apple відкрила офіційний офіс в Україні.