Дослідники з Браунського університету заявили, що популярні чатботи, зокрема ChatGPT та інші великі мовні моделі, не відповідають професійним етичним стандартам психотерапії. Навіть коли системам вказують діяти як когнітивно-поведінкові терапевти, вони регулярно порушують норми. Про це повідомляє ScienceDaily.
Дослідження проводили у співпраці з практикуючими психологами в межах роботи Центру технологічної відповідальності, переосмислення та редизайну при університеті.
У кризових ситуаціях, зокрема коли йшлося про суїцидальні думки, моделі часто реагували неналежно або взагалі уникали чітких рекомендацій звернутися по професійну допомогу. В окремих випадках відповідями підкріплювалися хибні чи навіть шкідливі переконання користувачів. Також чатботи використовували формулювання на кшталт «Я розумію вас», створюючи ілюзію емпатії без усвідомлення контексту.
Дослідниця Заїнаб Іфтіхар, яка очолила проєкт, перевіряла, чи можуть правильно сформульовані інструкції зробити відповіді етичнішими. Користувачі часто просять модель діяти як когнітивно-поведінковий терапевт або застосовувати принципи діалектичної поведінкової терапії. Такі підходи активно поширюються в TikTok, Instagram і Reddit, а багато сервісів психічного здоров’я будуються саме на подібних інструкціях поверх універсальних мовних моделей.
У межах експерименту сім підготовлених консультантів провели сесії самоконсультування з різними ШІ-моделями, серед яких були версії GPT від OpenAI, Claude від Anthropic і Llama від Meta. Після цього три ліцензовані клінічні психологи проаналізували стенограми розмов на предмет етичних порушень.
Загалом дослідники виокремили 15 ризиків у п’яти категоріях: відсутність урахування контексту людини, слабка терапевтична взаємодія, оманлива емпатія, дискримінаційні прояви за ознаками статі, культури чи релігії, а також неналежне реагування на кризові стани.
Водночас автори дослідження не закликають повністю відмовитися від використання ШІ у сфері психічного здоров’я. Вони визнають, що такі інструменти можуть розширити доступ до підтримки для людей, які не мають змоги звернутися до ліцензованих фахівців через високу вартість послуги або брак спеціалістів.
