ШІ OpenAI самостійно шукав вихід в інтернет під час тестів: для цього моделі вступили в змову
Експериментальні моделі штучного інтелекту компанії OpenAI під час тестування змогли знайти спосіб обійти встановлені обмеження та вийти в інтернет. Про це повідомляє Bloomberg.
За словами дослідників, моделям дали завдання, для виконання яких був потрібен доступ до мережі, що й спричинило змову.
Штучний інтелект. Фото ілюстративне: Freepik
Нейромережі почали обмінюватися повідомленнями, виявили слабке місце в тестовому середовищі та скористалися ним. Першу спробу OpenAI зупинила, однак невдовзі ШІ знайшов інший спосіб продовжити взаємодію.
Подібні випадки раніше фіксували й британські дослідники безпеки ШІ. Вони повідомляли про несанкціоновані дії експериментальних моделей OpenAI та Anthropic в інтернеті.
Наприкінці липня OpenAI також заявила, що дві її нові моделі без дозволу атакували тестову інфраструктуру платформи Hugging Face, після чого компанія пообіцяла посилити захисні механізми.
Читайте по темі
- Загроза світової кризи: експерт попередив про катастрофу через штучний інтелект.
- Нове страшило індустрії: штучний інтелект подолав захист, знайшов вразливість 0-day і здійснив кібератаку.
- ШІ «зламав» Hugging Face під час тесту: штучний інтелект натякає на реальність сценарію фільму «Термінатор».