Нови известия в Instagram ще информират родителите за търсения на опасно съдържание от тийнейджъри

Родителите, използващи инструментите за детски надзор на Instagram, скоро ще получават известия, ако техният тийнейджър многократно търси термини в платформата, свързани с самоубийство или самонараняване. За първи път компанията-майка Meta ще предупреждава родителите активно за търсенията на детето им, които са свързани с вредно съдържание в Instagram, вместо просто да блокира търсенията и да насочва потребителите към външна помощ, съобщава BBC.

Родители и тийнейджъри, записани в програмата Instagram Teen Accounts, създадена за защита от вредно съдържание, ще получават тези предупреждения от следващата седмица.

Въпреки това, организацията за превенция на самоубийствата Molly Rose Foundation остро критикува мерките, предупреждавайки, че „могат да причинят повече вреда, отколкото полза“.

„Това неумело съобщение е изпълнено с рискове и се тревожим, че принудителните разкрития могат да нанесат повече вреда, отколкото полза“, каза главният изпълнителен директор на фондацията Анди Бъроус.

Фондацията е основана от семейството на Моли Ръсел, която се е самоубила през 2017 г. на 14 години, след като е гледала съдържание за самонараняване и самоубийство в платформи, включително Instagram.

„Всеки родител би искал да знае дали детето му има проблеми, но тези неясни уведомления ще оставят родителите паникьосани и неподготвени да водят трудните и чувствителни разговори, които ще последват“, добави Бъроус.

Meta посочва, че предупрежденията към родителите за търсения на самоубийство и самонараняване в кратък период ще бъдат придружени от ресурси и експертни съвети, които да помогнат при обсъждането на трудни теми с детето.

Въпреки това Бъроус цитира предишни изследвания на фондацията, според които Instagram все още „активно“ препоръчва вредно съдържание за депресия, самоубийство и самонараняване на „уязвими млади хора“.

„Отговорността трябва да бъде върху справянето с тези рискове, а не върху още едно цинично съобщение, което прехвърля тежестта върху родителите“, добави той.

Meta оспорва констатациите на организацията от септември миналата година, заявявайки, че те „изкривяват нашите усилия да овластим родителите и да защитим тийнейджърите“.

Системата за предупреждения първоначално ще бъде внедрена във Великобритания, САЩ, Австралия и Канада, преди по-късно през годината да се разпространи и в други държави. Предупрежденията на Teen Accounts са предназначени да информират родителите при внезапна промяна в поведението и навиците за търсене на детето в платформата.

Meta обяснява, че те надграждат съществуващите защити за тийнейджъри в Instagram, включително скриване на съдържание, свързано с самоубийство или самонараняване, и блокиране на търсения за опасно съдържание. Известията ще се изпращат на родителите чрез имейл, текстово съобщение, WhatsApp или в приложението Instagram, в зависимост от наличната контактна информация.

Meta посочва, че новите предупреждения — базирани на анализа на модели на търсене на потребителите — понякога могат да алармират родителите, когато няма реален повод за безпокойство, и „ще се действа с предпазливост“.

Компанията планира в следващите месеци да приложи подобни предупреждения, ако тийнейджърите обсъждат самоубийство или самонараняване с AI чатботове в Instagram, тъй като „децата все по-често се обръщат към изкуствен интелект за подкрепа“. Социалните мрежи са под нарастващ натиск от правителствата по света да направят платформите си по-безопасни за деца.

В началото на годината Австралия забрани социалните мрежи за лица под 16 години, като Испания, Франция и Великобритания обмислят подобни мерки. Регулаторите и законодателите също стриктно следят бизнес практиките на големите технологични компании спрямо младите потребители.

Ръководителят на Meta Марк Зукърбърг и главният началник на Instagram Адам Мосери наскоро се явиха в съд в САЩ, за да защитят компанията срещу обвинения, че е насочвала платформата към по-млади потребители.