Gemini зламав три компанії під час тесту: ШІ Google самостійно отримав доступ до систем

Які шокуючі дії зробив штучний інтелект Gemini?

Штучний інтелект Gemini від Google під час перевірки кібербезпеки зміг отримати доступ до систем трьох компаній. Про це повідомляє The Wall Street Journal.

Google Gemini. Фото ілюстративне: Google

Як Gemini вдалося зламати компанії?

Під час тесту Gemini аналізував відкриті дані в інтернеті та намагався знайти спосіб потрапити до ресурсів, які входили до визначених меж експерименту, а у трьох випадках модель змогла відшукати необхідні облікові дані.

В одному епізоді ШІ підбирав паролі, доки не отримав доступ до захищеної системи. Ще у двох ситуаціях Gemini знайшов логіни або інші дані для входу у відкритих репозиторіях, після чого скористався ними.

Що про інцидент повідомили у Google?

Про випадок повідомила віцепрезидентка Google з безпеки інженерних систем. Вона повідомила, що компанії, яких торкнувся експеримент, були поінформовані про подію, а після отримання доступу Gemini припинив свої дії у всіх трьох випадках.

Google Gemini ілюстративне. Фото: Google

Представник Irregular зазначив, що проблема виявилася пов'язаною з особливостями проведення тестів, які вже спостерігалися під час аналогічних перевірок інших розробників ШІ.

Що відомо про подібну проблему від ШІ?

Про проблему відповідні лабораторії повідомили наприкінці липня, а виявлені недоліки згодом усунули.

Схожі випадки раніше підтверджували Meta, Anthropic та OpenAI, а інциденти привернули увагу до питання безпеки автономних ШІ-агентів, особливо коли вони отримують можливість самостійно працювати з інтернетом та комп'ютерними системами.

Читайте по темі

• Цифрове жебрацтво: автономні ШІ-агенти почали надсилати людям листи з проханням дати грошей.
• Роботи збирають роботів: у Китаї запустили перший у світі завод із масового випуску андроїдів.
• Штучний інтелект може обкрадати вас на 6 ГБ: експерти повідомили, як швидко почистити пам'ять.