Компанія OpenAI впровадила в ChatGPT функцію прогнозування віку користувачів. Вона призначена для автоматичного виявлення облікових записів, які можуть належати неповнолітнім, і застосування до них додаткових обмежень на контент.
Новий інструмент аналізує певні «поведінкові сигнали та сигнали на рівні облікового запису» — зокрема вказаний вік, тривалість існування акаунта та час доби, коли користувач зазвичай активний. На основі цих даних система оцінює ймовірність того, що обліковий запис належить людині віком до 18 років.
Якщо ChatGPT ідентифікує користувача як неповнолітнього, до його діалогів автоматично застосовують посилені фільтри. Вони обмежують доступ до чутливих тем, зокрема матеріалів, пов’язаних із сексуальним контентом, насильством і завданням собі шкоди.
У разі помилкової ідентифікації користувач може відновити статус «дорослого» акаунта. Для цього потрібно пройти перевірку особи через сервіс Persona — партнера OpenAI з верифікації користувачів.
У компанії зазначають, що точність моделі прогнозування віку вдосконалюватимуть поступово. Найближчими тижнями функція почне працювати в країнах Європейського Союзу з урахуванням регіональних вимог.
Запуск інструмента є частиною ширших заходів безпеки, які OpenAI впроваджує на тлі розслідувань Федеральної торгової комісії США щодо впливу чатботів на дітей і підлітків. Раніше компанія вже запустила батьківський контроль і створила консультативну раду з експертів, які досліджують вплив ШІ на психічне здоров’я користувачів.
