Компанія OpenAI змінює протоколи безпеки й інформуватиме правоохоронців про підозрілі розмови в ChatGPT після масової стрілянини в канадському місті Тамблер-Рідж.
У компанії заявили, що за новими правилами активність підозрюваної могла б бути передана поліції раніше, пише The Washington Post.
Йдеться про стрілянину 10 лютого в провінції Британська Колумбія, під час якої загинули восьмеро людей. За даними поліції, 18-річна Джессі Ван Рутселар спершу вбила матір і зведеного брата вдома, а потім відкрила вогонь у місцевій школі. Згодом вона вчинила самогубство.
OpenAI повідомила в листі уряду Канади, що перший акаунт підозрюваної в ChatGPT було заблоковано в червні 2025 року за порушення правил користування. Автоматична система виявила активність, після чого її передали на перевірку модераторам. Однак тоді OpenAI не виявила «ймовірних та неминучих планів», через які компанія могла б звернутися до поліції.
Після трагедії OpenAI з’ясувала, що підозрювана створила другий акаунт, обійшовши обмеження. Цю інформацію передали правоохоронцям уже після стрілянини.
Компанія заявила, що переглянула критерії для звернення до поліції і зробила їх «більш гнучкими», а також залучила експертів із психічного здоров’я для оцінювання ризиків. Крім того, OpenAI пообіцяла посилити системи виявлення користувачів, які намагаються обходити блокування, та створити прямий контакт із канадськими правоохоронцями, щоб мати змогу швидко повідомляти про можливі подібні випадки.
Віцепрезидентка OpenAI з глобальної політики Енн О’Лірі зазначила, що за новими правилами акаунт, заблокований у червні 2025 року, сьогодні був би переданий поліції.
Міністр з питань штучного інтелекту Канади Еван Соломон повідомив, що зустрінеться з генеральним директором OpenAI Семом Альтманом для обговорення деталей змін.
