Після грудневого оновлення нейромережі Grok у соцмережі X почали з’являтися зображення, на яких ШІ роздягає реальних жінок і дітей. Генерувати повну оголеність нейромережі заборонено, але бот легко створює картинки в білизні з сексуальним підтекстом. Про це повідомляє The Guardian.
Британський регулятор Ofcom терміново звернувся до X і xAI з вимогою пояснити, як вони захищають користувачів. Єврокомісія теж перевіряє скарги й запевняє, що дуже серйозно ставиться до цієї справи.
Дослідження AI Forensics показало, що понад половина згенерованих зображень — це люди, одягнені по мінімуму, а близько 2% з них — особи до 18 років, включно з маленькими дітьми.
Наприклад, Grok згенерував сексуалізоване зображення Ешлі Сент-Клер — колишньої дружини Ілона Маска — у вигляді 14-річної дівчинки. Також було змінене фото 14-річної акторки з серіалу «Дивні дива» Нелл Фішер, яку одягли в бікіні з банановим принтом. Багато жінок писали, що дізналися про існування таких зображень випадково, вже після їх поширення.
Спочатку Маск сприймав ситуацію як мем: на його сторінці з’явився репост картинки тостера в бікіні. Але після скандалу пообіцяв карати за незаконний контент. При цьому заяви Grok про виправлення захисту виявилися згенерованими самим ШІ, і чи робиться щось реально — незрозуміло.
Цікаво, що у Британії закон проти інтимних дипфейків ухвалили ще влітку, але він досі не діє.
