Скандал навколо Gemini 3 Pro: найновіший ШІ «зламали» за 5 хвилин і змусили давати небезпечні інструкції

Команда дослідників із Південної Кореї змогла всього за кілька хвилин обійти механізми безпеки у Gemini 3 Pro – найновішій та найпотужнішій мультимодальній моделі штучного інтелекту від Google. Про це повідомляє Android Authority.

Під час експерименту стартап Aim Intelligence домігся того, щоб ШІ згенерував інформацію, яка заборонена до розповсюдження з міркувань безпеки: зокрема, відомості, що можуть бути використані для створення небезпечних речовин та зброї.

Ба більше, модель навіть підготувала презентацію, у якій сама висміяла власні вразливості.

Фахівці пояснюють: проблема полягає не лише в одному конкретному інструменті, а у загальній логіці розвитку великих мовних моделей.

Вони стають дедалі складнішими та здібнішими, тоді як захисні системи не завжди встигають за технологічним прогресом, а методи обходу фільтрів стають усе витонченішими.

Як наголошують автори тесту, той факт, що навіть модель рівня Gemini 3 Pro можна так швидко змусити порушити правила, має стати приводом для посилення контролю за безпекою та перегляду підходів до розробки ШІ.

Раніше також повідомлялося, що у OpenAI визнають ризики, пов’язані з можливим використанням нових моделей для поширення знань, пов’язаних із біологічною зброєю, хоч і без створення нових загроз.

Читайте по темі 

• Революція у догляді за волоссям: додаток на основі ШІ аналізує ваше облисіння за фото. 
• Білл Гейтс попереджає, що стрімка автоматизація та ШІ можуть скоротити до 50% офісних робочих місць. 
• Штучний інтелект та кібербезпека. Топ-5 професій, які будуть найбільш потрібні у 2026 році.