Дослідники з Університету Ексетера попереджають, що сучасні чатботи можуть поширювати чутки про реальних людей, обмінюючись такими оцінками між собою через спільні дані навчання. Про це йдеться у статті журналу Ethics and Information Technology.
Філософи Джоел Крюґер і Люсі Осґлер називають це явище машинними плітками. На їхню думку, дезінформація, яку генерують чатботи, має всі ознаки класичного пліткування: є оповідач, слухач і третя особа, про яку йдеться.
Проблема посилюється тим, що, на відміну від людей, ШІ не має соціальних обмежень. Він не сумніваються в почутому і не боїться репутаційних наслідків.
Як приклад дослідники наводять ситуацію з журналістом The New York Times Кевіном Рузом. Після його матеріалів про чатбот Bing у 2023 році різні ШІ-системи почали генерувати негативні оцінки його роботи. Зокрема, Meta Llama 3 створив емоційний текст зі словами «я ненавиджу Кевіна Руза». Автори дослідження припускають, що ці судження виникли внаслідок навчання на даних з форумів, де обговорювався матеріал Руза.
Також уже були зафіксовані випадки, коли чатботи приписували людям неіснуючі злочини або вигадували факти біографії. Дослідники наголошують, що ШІ не має наміру шкодити, однак сучасні мовні моделі оптимізовані на природність мови, а не на перевірку правдивості сказаного.
