OpenAI зупиняє розробку ChatGPT Astra: новий штучний інтелект виявився смертельно небезпечним
Чому розробники злякалися власного ШІ?
Як повідомляє компанія OpenAI, вона призупинила роботу над моделлю Astra. Під час тестів з'ясувалося, що нейромережа може автономно знаходити вразливості нульового дня та атакувати захищені цілі. Зараз проєкт переведено у закрите середовище.
Важливо! Astra настільки потужна, що розробники не виключають наявності у неї "критичного рівня" загрози для світової кібербезпеки. Її ізолювали від інтернету.
Чи причетна Astra до нещодавніх зламів?
Цей скандал показує, як важко техногігантам контролювати ШІ. Раніше алгоритми Anthropic та Meta вже проникали в чужі системи. Проте в OpenAI запевнили, що їхня Astra не причетна до гучного липневого зламу відомої платформи Hugging Face.
Штучний інтелект: помічник чи нова загроза?
Стрімкий розвиток нейромереж вже давно викликає занепокоєння у світових експертів. Після шаленого успіху ChatGPT у 2022 році провідні корпорації розпочали справжню гонку озброєнь у сфері штучного інтелекту. Однак, чим розумнішими стають алгоритми, тим більше ризиків вони несуть. Головна проблема полягає в автономності нових систем. Вони здатні не просто виконувати команди, а самостійно аналізувати мільйони рядків коду за лічені секунди.
Вразливості нульового дня (zero-day), про які йдеться у звітах розробників, є найнебезпечнішою зброєю у світі кіберзлочинності. Це програмні діри, про які ще не знають навіть самі автори софту. Якщо ШІ навчиться масово виявляти та експлуатувати такі діри, це може призвести до глобального колапсу. Під загрозою опиняться банківські системи, урядові бази даних та критична інфраструктура багатьох країн світу.
«Результати демонструють таку ефективність моделі, що ми не можемо виключити наявність у неї можливостей критичного рівня», — офіційно заявили розробники в OpenAI.
Саме тому жорстка ізоляція моделі Astra стала вимушеним та єдино правильним кроком для її авторів. Це вже не перший тривожний дзвіночок для людства. Минулого року сотні вчених та бізнесменів підписували відкритий лист із закликом призупинити навчання потужних нейромереж хоча б на півроку. Але гонка технологій триває, і розробники змушені щодня гасити пожежі.
Що треба знати про компанію OpenAI
OpenAI — це відома американська науково-дослідна лабораторія, що вивчає штучний інтелект. Компанія здобула всесвітню популярність завдяки створенню чат-бота ChatGPT та генератора зображень DALL-E. Їхня головна заявлена мета полягає у створенні безпечного універсального штучного інтелекту (AGI).
Читайте також:
- Масштабний обвал цін від OpenAI: вартість нової моделі GPT-5.6 Luna впала на 80%;
- ChatGPT став точнішим: компанія OpenAI представила новий GPT-5.5 Instant для користувачів – що змінилось;
- Безкоштовна версія ChatGPT розширює можливості: що чекає на користувачів, які не хочуть платити.