Instagram почне надсилати батькам сповіщення, якщо їхні діти-підлітки неодноразово шукатимуть на платформі матеріали, пов’язані з самогубством або самоушкодженням.
Про це повідомляє BBC.
Це перший випадок, коли компанія Meta інформуватиме батьків про пошукові запити дітей. Раніше платформа лише блокувала такі запити й перенаправляла користувачів до зовнішніх ресурсів допомоги.
Функція діятиме для підлітків, підключених до Teen Accounts із батьківським контролем. Спершу її запровадять у Великій Британії, США, Австралії та Канаді, а згодом і в інших країнах.
Instagram повідомлятиме батьків, якщо протягом короткого часу підліток здійснюватиме повторні пошуки відповідного контенту. Сповіщення надходитимуть електронною поштою, SMS, через WhatsApp або безпосередньо в застосунку — залежно від контактних даних, які має Meta.
У компанії зазначають, що повідомлення супроводжуватимуться «експертними ресурсами, які допоможуть розібратися у складних розмовах зі своєю дитиною». Водночас Meta попереджає, що система може «діяти з обережністю» й інколи надсилати сповіщення навіть без очевидної загрози.
У найближчі місяці Instagram планує застосовувати подібні повідомлення і в разі, якщо підлітки обговорюватимуть такі теми з вбудованим ШІ-чатботом.
Благодійна організація із запобігання суїциду Molly Rose Foundation розкритикувала ініціативу. Фонд заснувала родина Моллі Рассел, яка у 2017 році у віці 14 років покінчила з життям після перегляду відповідного контенту в соцмережах.
Виконавчий директор фонду Енді Берроуз заявив, що примусові сповіщення можуть «завдати більше шкоди, ніж користі», оскільки залишають батьків у стані паніки та непідготовленими до чутливих розмов.
Інші благодійні організації зазначили, що крок Meta фактично визнає: для захисту дітей на платформі можна зробити більше. Meta, своєю чергою, заперечила попередні дослідження Molly Rose Foundation, які стверджували, що Instagram продовжує рекомендувати вразливим підліткам контент на цю тему.
Meta заявляє, що нова функція доповнює вже діючі механізми захисту, зокрема приховування небезпечного контенту та блокування відповідних пошукових запитів.
Нині соціальні мережі перебувають під дедалі більшою увагою регуляторів. На початку року Австралія заборонила користування соцмережами особам до 16 років. Подібні кроки розглядають Іспанія, Франція, Португалія та Велика Британія.