Meta сповіщатиме батьків, якщо підлітки говоритимуть із ШІ про заподіяння собі шкоди
Компанія Meta сповіщатиме батьків, якщо підлітки говоритимуть із чатботом Meta AI про суїцид або заподіяння собі шкоди.
Йдеться про користувачів інструментів батьківського нагляду в Instagram. Якщо розмова підлітка з Meta AI міститиме ознаки можливого ризику, її перед надсиланням сповіщення перевірятиме людина. Разом із попередженням батьки отримають ресурси, які допоможуть обговорити ситуацію з дитиною.
Функція вже працює у США, Великій Британії, Австралії та Канаді, а до кінця року Meta планує запустити її в інших країнах.
Зараз, якщо підліток згадує такі теми в розмові з Meta AI, чатбот уже спрямовує його до кризових ліній підтримки й радить звернутися до батьків, консультанта або іншого дорослого, якому він довіряє.
Для нової функції Meta створила окрему AI-систему. Вона має визначати розмови, у яких підліток прямо або завуальовано говорить про можливе заподіяння собі шкоди. За словами компанії, сигнали для таких сповіщень розробляли разом з експертами.
Якщо наміри підлітка будуть неоднозначними, Meta діятиме обережно й може все одно повідомити батьків. У компанії визнають, що це може призводити до хибних сповіщень, але вважають такий підхід правильним на старті.
Meta також розробляє можливість звертатися до екстрених служб, якщо розмова користувача з Meta AI свідчитиме про безпосередній ризик для життя. Це стосуватиметься і підлітків, і дорослих.
Схожий підхід компанія вже використовує у Facebook та Instagram, коли виявляє публікації з ознаками реальної загрози. За даними Meta, торік компанія передала понад 19 тисяч таких звернень до екстрених служб у різних країнах.
Окремо Meta повідомила, що отримала рекомендації від понад 75 фахівців із психічного здоров’я підлітків. Вони оцінювали відповіді Meta AI на сотні чутливих запитів. Компанія використовує ці відгуки, щоб чатбот краще визнавав емоційний стан підлітків, спрямовував їх до підтримки й не завершував розмову надто різко.
Крім того, суворіший режим Limited Content тепер поширюватиметься і на розмови з Meta AI. Якщо батьки ввімкнуть його в Instagram, чатбот відмовлятиметься відповідати на ширший спектр потенційно неприйнятних запитів.