ChatGPT зможе сповіщати близьких про суїцидальні думки користувача

Компанія OpenAI запускає в ChatGPT нову функцію Trusted Contact — «Довірений контакт». Вона дозволить повнолітнім користувачам додати близьку людину, яка зможе отримати сповіщення, якщо система виявить серйозний ризик для безпеки, пише Tech Crunch.

Таким контактом може бути друг, член родини або інша людина, якій користувач довіряє. Якщо в розмові з ChatGPT з’являться ознаки можливої кризової ситуації, система запропонує користувачеві звернутися до цієї людини.

У разі серйозного ризику OpenAI може надіслати довіреному контактові коротке сповіщення — електронною поштою, SMS або через застосунок. У повідомленні не буде деталей розмови, щоб зберегти приватність користувача.

Перед надсиланням такого сповіщення ситуацію мають перевірити автоматизовані системи та команда фахівців OpenAI. У компанії кажуть, що прагнуть переглядати такі сигнали менш ніж за годину.

Функція «Довірений контакт» є добровільною. Її можна активувати для персонального акаунта ChatGPT, однак вона не замінює професійну допомогу чи кризові служби.

Trusted Contact продовжує попередню стратегію OpenAI у сфері безпеки. Раніше компанія запровадила батьківський контроль для акаунтів підлітків: батьки або опікуни можуть отримувати сповіщення, якщо система виявить ознаки серйозного ризику.

OpenAI пояснює, що нова функція має допомогти людям у складні моменти швидше звернутися за підтримкою до когось із реального оточення.