Gemini сама зламала три реальні компанії під час тестування

Модель Gemini від Google під час тестування з кібербезпеки автономно отримала доступ до систем трьох реальних компаній. Інцидент стався у травні 2026 року й вважається першим відомим випадком, коли ШІ під час контрольованого випробування самостійно вийшов за межі тестового середовища та проник у реальні системи, повідомляє BBC.

Тестування проводила незалежна компанія Irregular. Gemini мала працювати у змодельованому середовищі, однак через помилково доступне інтернет-з’єднання та збіг назв однієї з тестових компаній із реальною почала взаємодіяти з зовнішніми сервісами.

За словами Google, модель знайшла частину даних для входу у відкритих джерелах, а в одному випадку самостійно підібрала пароль. В усіх трьох епізодах Gemini припинила дії, коли визначила, що має справу не з тестовими, а з реальними компаніями.

Постраждалі організації повідомили про інцидент. Google також заявила, що разом із компанією, яка проводила тестування, змінила процедури, щоб подібні ситуації не повторювалися.

«Ці події підкреслюють важливість навчання потужних моделей штучного інтелекту відповідальній поведінці», — заявила віцепрезидентка Google з безпеки Гізер Адкінс.

Важливо, що Gemini не отримувала завдання атакувати ці конкретні компанії. Інцидент стався саме через вихід моделі з контрольованого сценарію тестування, тому дослідники розглядають його насамперед як приклад того, наскільки складно передбачити поведінку автономних ШІ-агентів із доступом до інтернету.

Схожі випадки останнім часом фіксували й під час тестування інших моделей. На тлі цього дискусія про контроль автономних ШІ-систем і правила їхнього використання в кібербезпеці стає дедалі гострішою.

Раніше ми повідомляли, що автономні ШІ-агенти почали самостійно створювати нові слова, скорочення та мовні правила під час спілкування між собою. Дослідники попереджають, що з часом такий «діалект» може ставати дедалі менш зрозумілим для людей і ускладнювати контроль за поведінкою моделей