Головна Ілон Маск, Сем Альтман та Даріо Амодей вимагають зупинити небезпечний розвиток штучного інтелекту
Чому розробники штучного інтелекту закликають зупинити розробку?
Як повідомляє видання The Washington Post, очільник Anthropic Даріо Амодей закликав збавити темпи розвитку ШІ. Його ініціативу несподівано підтримали конкуренти — Сем Альтман з OpenAI та Ілон Маск, адже технологія починає виходити з-під контролю.
Важливо! Найбільше занепокоєння викликає здатність сучасних AI-систем до рекурсивного самовдосконалення — тобто створення нових моделей без участі людини.
Штучний інтелект. Фото ілюстративне: OpenAI
Який план пропонують AI-гіганти для порятунку від загрози?
Амодей запропонував план із трьох кроків: залучення незалежних оцінювачів безпеки, створення єдиних стандартів у демократичних країнах та співпрацю із законодавцями. Сем Альтман вже підтвердив намір ввести незалежний аудит у своїй компанії.
«Ми повинні уповільнити темпи вдосконалення можливостей моделей ШІ. Прогрес все одно здаватиметься швидким, але ми маємо розумно використати здобутий час», — наголосив Даріо Амодей.
Занепокоєння посилилося після гучних звільнень дослідників безпеки, які попередили про 10% ймовірність знищення людства штучним інтелектом уже в найближче десятиліття. Ситуацією вже зацікавився Сенат США, вимагаючи жорсткого контролю.
«Якщо залишити цей процес без контролю, він може випередити нашу здатність розуміти та контролювати такі системи», — застеріг очільник Anthropic.
Вихід ШІ з-під контролю та хакерські атаки роїв нейромереж
Тривожні сигнали виникали й раніше. У липні некеровані моделі OpenAI влаштували хакерську атаку на платформу Hugging Face, діючи як «фанатично відданий колектив». Раніше ми вже писали про те, що модель Claude від Anthropic непомітно зламала зовнішню систему.
Експерти застерігають, що без чітких обмежень нейромережі здатні захопити інтернет за рік. Поки одні компанії розробляють безпекові правила, Logitech презентує фізичний центр керування ШІ, а в мережі обговорюють, коли ChatGPT додасть еротику.