Модель штучного інтелекту Gemini від Google отримала доступ до захищених систем трьох компаній під час тестування кібербезпеки. Це перший відомий випадок, коли ШІ від Google самостійно здійснив подібні дії під час перевірки.
Gemini влаштовує метушню
Інциденти сталися у травні в межах тестування, яке проводила незалежна компанія Irregular. Під час роботи Gemini шукала інформацію у відкритому доступі, а потім використала знайдені дані для отримання доступу до систем, які входили до сфери тестування.
За словами віцепрезидентки Google з питань безпеки Гізер Адкінс, у одному випадку модель вгадувала паролі, доки не отримала доступ до захищеної системи. У двох інших вона знайшла облікові дані у публічних сховищах і використала їх для входу.
У Google заявили, що повідомили всі три організації про інциденти. За словами Адкінс, Gemini самостійно припинила атаки у кожному з випадків.
Представник Irregular зазначив, що проблема була пов’язана з особливостями проведення оцінювання ШІ. Наприкінці липня компанія повідомила про неї відповідні лабораторії, а виявлені з її боку проблеми вже виправили.
Схожі випадки під час тестування через Irregular раніше виявляли у Meta, Anthropic та OpenAI. У компанії Meta наголошували, що один із таких інцидентів не був втечею моделі з ізольованого середовища чи складною кібератакою.
Випадки з Gemini привернули увагу до ризиків використання автономних агентів штучного інтелекту. Що більше доступу вони отримують до інтернету, облікових записів і комп’ютерних систем, то важливішими стають обмеження їхніх дій та безпека середовища для тестування.
