Apple ще сканира потребителско съдържание за насилие при деца

Нова функция на Apple ще позволи устройствата на технологичния гигант да сканират снимките и съобщенията на потребителите, за да търсят знаци за насилие, с особено внимание към децата.

От компанията обявиха, че инструментът ще бъде въведен по начин, който запазва комуникациите, скрити от Apple и гарантира поверителността на потребителите, пише „Индипендънт“.

Допълнителните опции все пак вероятно ще породят опасения от страна на защитниците на поверителността, особено предвид обществения ангажимент на Apple, че тя е човешко право.

Новостите ще бъдат внедрени по-късно тази година в актуализации на всички платформи – iOS 15, iPadOS 15, WatchOS 8 и MacOS Monterey.

Става дума за общо три функции, една от които ще използва машинното обучение на телефона, за да проверява съдържанието в съобщения на деца за сексуални елементи. Този анализ ще бъде правен изцяло в самия телефон и Apple няма да може да вижда съобщенията.

Кои са трите функции?

Ако едно дете получи подобно съобщение, то ще бъде замъглявано, а ако все пак реши да го види, родителите му или други възрастни ще бъдат уведомени. Подобна защита се прилага и когато самите деца изпращат съобщения. При изпращане на снимка от тяхна страна след допълнителна настройка настойниците им могат да получават известие.

Друга функция ще разглежда снимките за възможна сексуална употреба с деца. Технологиите в iOS и iPadOS ще сканират библиотеката от снимки в iCloud в търсене на подобно съдържание, но по начин, който според Apple ще бъде съобразен с поверителността на потребителите.

Сканирането няма да се извършва първо в облака, а на самото устройство. Устройствата ще разглеждат снимките на потребителите, за да видят дали някоя от тях съвпада с база данни известни изображения, свързани със злоупотреба. Кадрите са предоставени от организации за безопасност на децата. Ако сходството между снимките е високо, тогава съдържанието ще бъде разкривано на Apple. След това то ще се преглежда ръчно и ако приликите бъдат потвърдени, акаунтът на потребителя ще бъде деактивиран и докладван на властите.

Третата функция добавя нова информация към Siri и търсачката, целяща да даде на децата и родителите ресурси за справяне с евентуално насилие. Потребителите могат да задават конкретни въпроси – например как да подадат сигнал при евентуална злоупотреба.