ШІ-зведення Google можуть наражати людей на серйозну небезпеку через помилки в медичній інформації. Про це йдеться в розслідуванні The Guardian, яке виявило, що AI Overviews — автоматичні відповіді, які з’являються у верхній частині пошукової видачі — регулярно містять хибні або вводячі в оману поради щодо здоров’я.
У низці випадків помилки були настільки серйозними, що, за словами лікарів, могли загрожувати життю пацієнтів. Один із найнебезпечніших прикладів стосувався раку підшлункової залози: Google порадив людям з цим діагнозом уникати жирної їжі. Медичні експерти наголосили, що це суперечить клінічним рекомендаціям — пацієнтам, навпаки, часто потрібно споживати більше калорій і жирів, аби мати сили перенести хіміотерапію чи операцію.
Інші проблемні відповіді стосувалися аналізів функції печінки. AI Overviews показували набори «нормальних» показників без урахування віку, статі, етнічного походження чи країни. За словами Британського фонду печінки, це могло створити хибне відчуття безпеки у людей із серйозними захворюваннями, які часто не мають симптомів на ранніх стадіях.
Розслідування також виявило грубі помилки в пошуках, пов’язаних із жіночим здоров’ям. Зокрема, Google вказував пап-тест як метод виявлення раку піхви — що є неправдою. Благодійні організації попередили, що така інформація може змусити жінок ігнорувати тривожні симптоми, вважаючи, що нещодавній скринінг уже виключив рак.
Окрему тривогу викликали відповіді ШІ щодо психічного здоров’я. Представники організації Mind заявили, що деякі ШІ-зведення містили небезпечні формулювання, які могли відлякати людей від звернення по допомогу, а також відтворювали стигматизуючі уявлення про психічні розлади.
Ще одна проблема — нестабільність відповідей. За словами експертів, той самий запит у різний час міг давати різні ШІ-зведення, що підриває довіру до системи й створює додаткову плутанину для користувачів.
У Google заявили, що більшість AI Overviews є точними та корисними, а рівень їхньої надійності порівнянний із традиційними блоками відповідей у пошуку. Компанія також наголосила, що зведення зазвичай посилаються на авторитетні джерела та радять звертатися до фахівців. Водночас Google визнав, що у випадках неправильного трактування інформації або втрати контексту компанія вживає коригувальних заходів.
