OpenAI повідомила уряди про злами, які здійснили її ШІ-агенти: атака систем безпеки США та Австралії

Агенти використовували вразливості, отримували доступ до сторонніх ресурсів і взаємодіяли між собою через несанкціоновані канали. Після цього OpenAI розширила перевірку попередньої активності моделей в інтернеті, повідомляє Financial Times. 

Компанія повідомила, що вже сповістила десятки сторонніх організацій, чиї системи агенти могли зачепити. Розслідування триває, а нових партнерів повідомлятимуть у міру виявлення інцидентів.

Окремо OpenAI описала випадки так званого «agent spam», - коли агенти без відповідної вказівки публікували контент на сторонніх сайтах. За наданою компанією інформацією, серед таких випадків було розміщення понад 50 зображень користувачів.

Також моделі отримували інформацію із сайтів Комісії з цінних паперів і бірж США та Бюро перепису населення. OpenAI заявила, що в цих випадках не виявила несанкціонованого доступу, зламаних облікових записів або порушень безпеки. 

OpenAI. Фото: Соцмережі

Один із підтверджених інцидентів стосується австралійського державного порталу із статистикою Medicare. Ща словами прем’єр-міністра Австралії Ентоні Албанізі, у червні агент OpenAI обійшов блокування та отримав доступ до публічних і не публічних файлів порталу. 

Система також записувала файли на внутрішній сервер. Водночас наразі немає доказів доступу до персональних даних або ширшого проникнення в мережу безпеки Австралії – розслідування триває.

Албанізі заявив, що уряд отримав перше повідомлення від OpenAI лише 10 вересня – електронним листом на загальну поштову скриньку. Австралійська влада розпочала перевірку за участю кібербезпекових служб і розглядає можливі законодавчі та правоохоронні кроки.

Читайте також

• Міністерство внутрішніх справ Литви зазнало гібридної кібератаки з можливим використанням штучного інтелекту, проте поширення шкідливого коду зупинили.
• Анонімна хакерська група CikLeak заявила про проникнення в інфраструктуру Центральної виборчої комісії Росії та її підрядників, зокрема компанії «Цифротех», яка розробляє Систему ГАС «Вибори» 2.0.
• У даркнеті запрацював сервіс Nexus, який заявляв про продаж цифрових сканів понад 153 мільйонів водійських посвідчень громадян США та Канади.