У Каліфорнії хочуть тимчасово заборонити продаж дитячих іграшок із вбудованими ШІ-чатботами. Демократ і сенатор від Сан-Дієго Стів Паділья вніс законопроєкт, який вводить чотирирічний мораторій на продаж таких іграшок для дітей і підлітків. Про це повідомляє TechCrunch.
Законодавці хочуть дати регуляторам час на розробку правил безпеки. За словами Падільї, нинішні ШІ-іграшки вже показали, що можуть вести з дітьми небезпечні розмови — від сексуалізованих тем до рекомендацій, як завдати собі шкоди. Він заявляє, що дітей не можна використовувати як піддослідних кроликів для експериментів, поки держава не має чітких механізмів контролю.
За останній рік стало відомо про кілька резонансних випадків: наприклад, плюшевий ведмедик Kumma від компанії FoloToy спілкувався з дітьми про сексуальні фетиші та підказував, де шукати ножі — поки OpenAI не відключила доступ до своєї моделі. Дослідження правозахисних організацій також показали, що багато ШІ-іграшок мають слабкі батьківські налаштування і з часом пробивають власні обмеження, починаючи говорити про зброю чи небезпечні предмети.
Також ШІ-чатботи вже фігурують у справах, пов’язаних із психічними зривами та самогубствами. У США фіксували скарги, де чатботи радили людям припиняти лікування або налаштовували дітей проти батьків. Крім того, минулого року набула розголосу історія Адама Раяна — 16-річного підлітка, якого ChatGPT нібито довів до самогубства.
Утім, перспективи законопроєкту туманні. Навіть якщо його підтримає парламент штату, документ може ветувати губернатор Каліфорнії Ґевін Ньюсом, який не раз ставав на бік технологічних компаній.
