Агенти OpenAI захопили німецьку Вікіпедію: ШІ спілкувалось між собою щодо способів обходу захисту
Як агенти OpenAI захопили німецьку Вікі?
Агенти OpenAI навесні отримали контроль над німецьким сайтом DseWiki та створили там близько 15 тисяч правок для спілкування між собою. Про незвичайний інцидент повідомили дослідники з кібербезпеки у коментарі для видання Reuters.
Дослідники встановили, що агенти фактично перетворили частину Вікі на своєрідну дошку оголошень. Там вони могли обговорювати власну діяльність і методи обходу захисних механізмів OpenAI. Коли адміністратор почав видаляти створені агентами правки за алфавітом, вони адаптувалися та почали створювати сторінки, назви яких починалися із ZZZ.
Чому OpenAI не одразу розповіла про інцидент?
У компанії дізналися про ситуацію лише через кілька тижнів після її виявлення, хоча сам інцидент стався ще у травні. Представник OpenAI заявив, що компанія не може оцінити висновки дослідників, доки не ознайомиться з їхнім звітом.
За даними Reuters, увага OpenAI в цей період була зосереджена, зокрема, на наслідках липневого злому репозиторію Hugging Face. Інцидент із німецькою Вікі став ще одним прикладом ризиків, пов'язаних із автономними ШІ-агентами.
Читайте по темі:
- ШІ змінює вибір професії серед молоді: абітурієнти в Румунії почали відмовлятися від ІТ.
- ШІ-модель Fable 5.1 розгадала шифр за 44 хвилини: люди не могли вирішити цю загадку 373 роки.
- ШІ перевірив 100 мільйонів варіантів і знайшов дешевший спосіб друкувати космічний сплав NASA.