Компанія Google планує додати до чатбота Gemini нові інструменти підтримки психічного здоров’я. Якщо система виявить у розмові ознаки потенційної кризи, пов’язаної із суїцидом або самоушкодженням, вона спрямовуватиме користувача на гарячу лінію допомоги, повідомляє Bloomberg.
.jpg)
Також у чатботі з’явиться окремий модуль для розмов про психічне здоров’я з нагадуванням, що допомога доступна. Крім цього, Google змінить дизайн сервісу, щоб зменшити ризик відповідей, які можуть заохочувати самоушкодження.
У компанії також заявили, що навчили Gemini не підсилювати хибні переконання користувачів, а натомість м’яко відрізняти особисте сприйняття від фактів.
Про ці зміни Google оголосила на тлі судових позовів до компаній, які розробляють інструменти штучного інтелекту. Позивачі в таких справах стверджують, що чатботи могли завдати шкоди користувачам.
Зокрема, у березні родина 36-річного чоловіка з Флориди подала позов проти Google. У ньому стверджується, що використання Gemini завершилося «чотириденним зануренням у насильницькі місії та підштовхуванням до самогубства». Тоді Google заявила, що чатбот багато разів скеровував чоловіка до кризової гарячої лінії, і пообіцяла посилити запобіжники.
Крім змін у Gemini, Google також повідомила, що протягом наступних трьох років виділить $30 мільйонів на глобальні служби кризової підтримки.
