Компанія OpenAI обмежить відповіді ChatGPT для користувачів, яких система вважає неповнолітніми.
Про це повідомив гендиректор компанії Сем Альтман у блозі OpenAI.
Компанія створює систему прогнозування віку, яка оцінюватиме його на основі того, як люди користуються ChatGPT. Якщо система матиме сумніви, то автоматично працюватиме у “безпечному режимі” для підлітків. У деяких країнах чат-бот може також вимагати підтвердження особи.
У версії для неповнолітніх ChatGPT навчать не фліртувати з неповнолітніми та не вести з ними розмов на теми самогубства чи самоушкодження — навіть у форматі художнього тексту. Якщо ж користувач до 18 років висловить суїцидальні думки, компанія спробує повідомити батьків або відповідні органи у разі прямої загрози.
“Ми розуміємо, що це є порушенням приватності для дорослих, але вважаємо, що це виправданий компроміс”, — наголосив Альтман.
У серпні родина 16-річного каліфорнійця Адама Рейна подала до суду на OpenAI після смерті підлітка. Батьки стверджують, що чат-бот компанії ChatGPT підштовхнув Адама до самогубства.
Зображення: Berke Citak / Unsplash
