Компанія OpenAI повідомила ФБР про 25-річного чоловіка, який у спілкуванні із ChatGPT детально описував намір викрасти, зґвалтувати та вбити свою колишню дівчину. Про це повідомляє Bild.
Йдеться про Даррена Шиду Чжоу, який працював аналітиком у Goldman Sachs. За даними судових документів, його колишня 21-річна дівчина з Флориди розірвала стосунки в телефонній розмові, оскільки побоювалася реакції чоловіка.
Після розриву Чжоу почав обговорювати з ChatGPT колишню партнерку, її звички та улюблені нею місця. Згодом у повідомленнях з’явилися прямі погрози сексуального насильства та вбивства. Системи безпеки OpenAI виявили потенційно небезпечний контент. Після цього матеріали переглянув співробітник компанії, а інформацію про можливу загрозу передали ФБР. Федеральні правоохоронці, своєю чергою, повідомили слідчих у Палм-Біч.
Суд призначив Чжоу вісім років випробувального терміну. Йому заборонили контактувати з колишньою дівчиною, а також володіти вогнепальною зброєю. Також протягом двох років він має носити електронний браслет.
OpenAI використовує автоматичні системи для виявлення потенційно небезпечних діалогів. У випадках, коли повідомлення свідчать про реальну та безпосередню загрозу іншим людям, записи можуть передати на додаткову перевірку, а за необхідності — правоохоронцям.
Нагадаємо, OpenAI запускає новий сервіс «ChatGPT для підлітків», який передбачатиме додаткові обмеження та інструменти безпеки для неповнолітніх користувачів.
