Бояться зловживань від ШІ: Anthropic та Google блокують спроби створення біозброї за допомогою Claude та Gemini

11 вересня 2026, 16:08

★★★★★

1 голос

Бояться зловживань від ШІ: Anthropic та Google блокують спроби створення біозброї за допомогою Claude та Gemini — Anthropic та Google блокують спроби створення біозброї за допомогою Claude та Gemini. Колаж: BLIK.UA

Американська компанія-розробник Anthropic опублікувала звіт про загрози, у якому повідомила про припинення спроб використати її моделі ШІ (зокрема Claude) для зловмисної діяльності.

Виявлені загрози та масштаб зловживань з боку ШІ

Серед виявлених порушень були спроби застосувати ШІ для розробки біологічної зброї, що компанія назвала одним із найсерйозніших ризиків із потенційно катастрофічними наслідками, пише BBC.

Важливо! У період із грудня 2025 року до серпня 2026 року фахівці Anthropic зафіксували численні випадки нецільового використання моделей Claude Haiku, Sonnet та Opus.

Anthropic та Google блокують спроби створення біозброї за допомогою Claude та Gemini. Колаж: BLIK.UA

Аналогічні проблеми підтвердили й інші технологічні гіганти – зокрема, Google повідомила про спроби згенерувати покроковий посібник зі створення біоагентів через Gemini.

Основні напрямки зловмисного використання ШІ:

Розробка зброї: Спроби створення біологічних агентів, а також софту для вогнепальної зброї, дронів та систем наведення.
Кібершпигунство: Використання моделей хакерськими угрупованнями, пов'язаними з Росією, Китаєм (ShinyHunters) та Іраном.
Шахрайство та стеження: Створення фейкових застосунків для знайомств, фішингових схем та систем виявлення дисидентів.

Політична реакція та заклики до обмежень ШІ

Anthropic та Google блокують спроби створення біозброї за допомогою Claude та Gemini. Колаж: BLIK.UA

Оприлюднення звіту викликало нову хвилю дискусій щодо необхідності державного регулювання технології. Головний науковець OpenAI Якуб Пачоцький закликав до «добровільного уповільнення» розробок, а сенатор США Берні Сандерс вніс законопроєкт про тимчасове призупинення створення передових систем ШІ.

Водночас Дональд Трамп висловив сумніви щодо доцільності паузи в розробках, наголосивши на важливості збереження лідерства США у сфері штучного інтелекту.

Усі виявлені факти Anthropic передала правоохоронним органам та партнерам по галузі для посилення заходів безпеки.

Читати по темі

Штучний інтелект вийшов із-під контролю: модель Claude від Anthropic непомітно зламала зовнішню систему
«Матриця» стане реальністю? Чим загрожує людству штучний інтелект та чому вчені б'ють на сполох
Що потрібно знати про штучний інтелект: гайд для зручного використання

ШІ