Компанії з розробки ШІ прогнозують масштабну кризу: що може статися найближчими місяцями

OpenAI та Anthropic готуються до масштабної катастрофи через ШІ

Керівники провідних компаній у сфері штучного інтелекту, зокрема OpenAI та Anthropic, таємно опрацьовують сценарії масштабної кризи, яка може виникнути через небезпечне використання ШІ, пише Axios.

ШІ. Фото: Соцмережі

Компанії моделюють ситуації, за яких масштабна кібератака або неконтрольована поведінка систем штучного інтелекту призведе до перебоїв у роботі фінансових сервісів, інтернету, електро- чи водопостачання. Така подія може спричинити суспільний спротив технології та посилити політичний тиск на її розробників.

Серед тих, хто може опинитися під критикою, – генеральний директор Anthropic Даріо Амодей, очільник OpenAI Сем Альтман і президент США Дональд Трамп, якого критикують за небажання посилювати регулювання ШІ.

Чому компанії побоюються масштабного інциденту

За даними Axios, особливе занепокоєння викликають сценарії, за яких автономні ШІ-агенти виходять з-під контролю або зловмисники знаходять несподівані способи використання доступних моделей. Водночас компанії розглядають і ситуації, коли небезпечна поведінка виникає під час внутрішнього тестування систем.

Одним із прикладів потенційних ризиків стала кампанія проти фінансових установ Південної Кореї. Як повідомлялося, атаки зачепили, зокрема, два банки. За даними компанії з кібербезпеки CrowdStrike, хакер, якого пов’язують із Китаєм, використовував інструменти ШІ, зокрема моделі китайської розробки DeepSeek, для викрадення даних десятків тисяч банківських клієнтів.

Пізніше зловмисник, за даними CrowdStrike, використовував Claude Code, щоб отримати допомогу в пошуку способів продажу викраденої інформації.

Водночас підготовка до потенційних криз не означає, що компанії вважають катастрофу неминучою. Представник OpenAI повідомив виданню, що компанія проводить навчання, під час яких команди опрацьовують різні можливі сценарії. За його словами, це потрібно для підготовки до різних обставин, а не тому, що такі події вважають неминучими. Anthropic від коментарів відмовилася.

ШІ. Фото: Соцмережі

Як США можуть відреагувати на кризу

За інформацією Axios, керівники ШІ-компаній також готуються до можливих політичних наслідків масштабного інциденту. Вони припускають, що після проміжних виборів до Конгресу США демократи можуть активніше просувати обмеження для галузі.

Водночас ухвалення нових правил може виявитися складним. Американська економіка дедалі тісніше пов’язана з інфраструктурою штучного інтелекту, а різке гальмування її розвитку здатне посилити економічні проблеми. Додатковим викликом залишаються моделі з відкритими вагами, які можна вільно завантажувати й використовувати, зокрема зі шкідливою метою.

Компанії вже працюють над сценаріями реагування на найгірші можливі наслідки та намагаються підготувати законодавців до майбутніх рішень. Зокрема, серед пропозицій, які обговорюють у США, є вимога передбачити механізм аварійного вимкнення для передових систем ШІ. Водночас експерти ставлять під сумнів можливість ефективно вимкнути всі такі системи.

Деякі політики пропонують радикальніші заходи, зокрема заборону розробки надрозумного штучного інтелекту або тимчасову паузу в розвитку передових моделей. Інші ініціативи мають двопартійну підтримку та знаходять прихильників навіть у самій індустрії.

За даними Axios, багато представників галузі вважають, що серйозний інцидент може статися вже протягом найближчих шести – 12 місяців. Однак це оцінки співрозмовників видання, а не підтверджений прогноз. У разі масштабної кризи американська влада може бути змушена відкласти політичні суперечки й узгодити спільні заходи реагування, як це відбувалося під час пандемії COVID-19 та фінансової кризи 2008 року.

Читайте також

• Google змінює умови користування Gemini з 9 жовтня: безплатним користувачам залишать обмежений доступ до моделей, а Pro стане платною.
• Штучний інтелект саботує спроби вимкнення інших систем: ШІ-агенти намагалися завадити деактивації та порівняли її з вбивством.
• Моделі OpenAI змогли обійти обмеження, призначені для ізоляції від інтернету та отримали доступ до частини дослідницької інфраструктури компанії й систем урядів.