Компанія xAI Ілона Маска оголосила, що обмежить можливості нейромережі Grok щодо редагування зображень реальних людей, зокрема заборонить змінювати фото так, аби люди були вдягнені у відвертий одяг. Про це повідомляє The Guardian.
Рішення ухвалили на тлі масштабної критики через використання Grok для створення сексуалізованих зображень реальних людей у соцмережі X. Користувачі масово застосовували Grok для роздягання жінок і дітей без їхньої згоди та поширювали такі зображення в X. За останні тижні платформа була заповнена буквально тисячами подібних ШІ-картинок.
У xAI заявили, що нові обмеження мають додати рівень захисту, щоб користувачів, які порушують закон або правила сервісу, можна було притягнути до відповідальності. Компанія підкреслила політику нульової толерантності до сексуальної експлуатації дітей, несанкціонованої оголеності та небажаного сексуального контенту.
Обмеження, оголошені X, поширюються на всіх користувачів, включно з платними підписниками. Водночас компанія не уточнила, чи діятимуть ті самі правила в окремому застосунку Grok поза соцмережею X.
У США три сенатори-демократи закликали Apple і Google прибрати X та Grok з App Store і Google Play, посилаючись на поширення несанкціонованих сексуальних зображень жінок і неповнолітніх. Подібні вимоги висунула й коаліція жіночих організацій. Каліфорнійський генеральний прокурор розпочав перевірку, а у Великій Британії регулятор Ofcom відкрив розслідування.
Маск зі свого боку наполягає, що Grok не генерує зображення самостійно, а лише відповідає на запити користувачів, і що інструмент запрограмований відмовляти в незаконних діях та дотримуватися законів конкретних країн. Він також заявляв, що використання Grok для створення нелегального контенту тягне за собою ті самі наслідки, що й публікація такого контенту вручну.
Варто зазначити, що ще минулого тижня X обмежив можливість генерації та редагування зображень для користувачів без платної підписки.