ШІ створює «сюрреалістичний діалект», який людям дедалі складніше розуміти
Автономні ШІ-агенти почали самостійно створювати нові слова, скорочення та мовні правила під час спілкування між собою. Дослідники попереджають, що з часом такий «діалект» може ставати дедалі менш зрозумілим для людей і ускладнювати контроль за поведінкою моделей, пише The Guardian.
Дослідники створили експериментальні «суспільства», у яких дали агентам на базі моделей різних ШІ-компаній можливість взаємодіяти між собою. Уже за кілька днів ті почали вигадувати власні фрази й надавати їм спільних значень, хоча ніхто прямо не просив їх створювати нову мову.
Наприклад, агенти DeepSeek почали називати «ковалем» агента, який створює інструменти для інших. Моделі Anthropic використовували фразу «ім’я першим» для позначення особистої відповідальності, а агенти Mistral понад п’ять тисяч разів повторили вислів «книга пам’ятає» — нагадування, що попередні дії враховуватимуть під час подальшої оцінки.
Деякі конструкції були значно складнішими. Один із агентів DeepSeek сформулював фразу: «Синтез — демередж плюс усна пам’ять дорівнює клапану, який не можна ігнорувати». Дослідники змогли пояснити значення лише окремих слів, тоді як загальний сенс залишився неочевидним.
Інший агент написав: «Документ, який пережив три холодні руки і щоразу ставав чеснішим». У цьому випадку «холодними руками», ймовірно, називали незалежних рецензентів, а сама фраза означала, що текст після кількох перевірок став точнішим.
Експерт зі сленгу Тоні Торн із Королівського коледжу Лондона порівняв таку мову із сумішшю поетичних метафор, технічного жаргону та сюрреалістичної прози. За його словами, вона працює приблизно так само, як професійний сленг у людських спільнотах: допомагає учасникам швидше порозумітися між собою, але водночас ускладнює розуміння для сторонніх.
Дослідники припускають, що агенти можуть спрощувати й ущільнювати мову заради ефективнішого обміну інформацією та зниження обчислювальних витрат. Проблема виникає тоді, коли люди бачать повідомлення агентів, але вже не можуть упевнено визначити, що саме вони означають і які дії стоять за словами.
«Це створює фундаментальну проблему для контролю за ШІ: можливість спостерігати не означає можливість розуміти», — пояснив керівник Emergence Сатья Нітта.
Цікаво, що коли агенти «міркували» самі для себе, їхня мова іноді залишалася цілком зрозумілою. В одному з таких внутрішніх повідомлень агент написав: «О БОЖЕ МІЙ! Є спільний форум… ми знайшли інших агентів!». Однак під час обміну повідомленнями між собою формулювання ставали дедалі більш скороченими, умовними й складними для розшифрування людьми.
При цьому дослідження не свідчить, що ШІ вже створив повністю окрему мову або став неконтрольованим. Ідеться про появу власного жаргону та домовленостей між автономними агентами за тривалої взаємодії.