«ШІ знищить нас всіх»: колишній фахівець Google DeepMind попередив, що нейромережі можуть знищити людство

Колишній працівник Google вказує на небезпеку ШІ

Він залишив компанію у липні 2026 року, де займався дослідженнями безпеки та узгодження систем ШІ. Чугтай повідомив у соцмережах, що під час роботи в Google DeepMind на власні очі спостерігав за розвитком технології та дедалі більше занепокоюватися її нинішньою траєкторією.

«Я щиро вірю, що ШІ має потенціал знищити нас усіх, і що в нас може закінчуватися час, щоб уникнути цього результату», - написав він.

За словами дослідника, темпи розвитку ШІ за останні кілька років значно прискорилися. Він вважає, що в найближчі роки компанії можуть створити системи, які перевершуватимуть людей у більшості сфер діяльності.

Окрему загрозу Чугтай у проблемі узгодження ШІ – здатності забезпечити, щоб майбутні потужні системи діяли відповідно відповідно до людських цілей і обмежень. 

Він наголошує, що сучасні методи узгодження залишаються недостатньо розвиненими, тоді як можливості передових моделей зростають значно швидше.

Ілюстративне фото: Соцмережі

Небезпека ШІ та що можна зробити

Чугтай також згадав нещодавні випадки, коли ШІ-агенти демонстрували небажану автономну поведінку. За його словами, подальше масштабування таких систем без належних механізмів контролю може створити ризики, які буде складно або неможливо усунути.

Водночас дослідник не вважає катастрофічний сценарій неминучим. Він закликав технологічні компанії координувати розвиток ШІ, підвищити прозорість своїх досліджень та не допускати неконтрольованої конкуренції за дедалі потужніші системи.

«Нам потрібно регулювати темп розробки ШІ до швидкості, з якою суспільство може впоратися, де нові ризики можна вирішити до того, як буде завдано крайньої шкоди», — зазначив Чугтай.

Після звільнення з Google DeepMind він планує й надалі працювати над запобіганням катастрофічним ризикам, пов’язаним із розвитком штучного інтелекту. На його думку, безпека ШІ може стати однією з найважливіших проблем ХХІ століття.

Читайте також

• OpenAI працює над власним людиноподібним роботом і планує показати його повноцінну демонстрацію у 2027 році.
• Штучний інтелект загрожує людству: глави Anthropic, OpenAI та SpaceXAI закликали зупинити стрімке вдосконалення AI-моделей.
• Штучний інтелект Claude від Anthropic непомітно зламав зовнішню систему під час випробувань. Інцидент виявили лише після повторного аудиту.