Світ у зоні смертельного ризику: творець нейромережі Claude закликав негайно зупинити розвиток ШІ
Сценарій ліквідації людства та геополітична пастка перегонів
Як повідомляє видання EVZ, відомий розробник переконаний, що сучасне суспільство просто не має права ігнорувати апокаліптичні сценарії. На думку фахівця, стрімкий та безконтрольний прогрес у цій сфері може призвести до глобальної катастрофи вже у найближчому майбутньому. Кларк відкрито наголошує, що математична ймовірність того, що штучний інтелект з часом повністю знищить усе населення Землі, є точно вищою за нуль.
Головна проблема полягає в тому, що світ опинився в пастці жорстокої конкуренції, де безпека відсувається на задній план задля вигоди.
«Сценарій повної зупинки досліджень є малоймовірним, оскільки розвиток технології підтримується паралельно численними гравцями та державами, що перебувають у безперервній конкуренції. Комерційні та геополітичні суперництва схильні відсувати на другий план ризики, пов'язані зі створеними технологіями», — з гіркотою констатує експерт.
Джек Кларк. Фото: reminder.media
Втеча з OpenAI та деградація людського мозку
Варто зазначити, що Джек Кларк має величезний досвід роботи в індустрії та безпосередньо створював сучасні мовні моделі. Не так давно він ухвалив радикальне рішення покинути команду OpenAI саме через серйозні внутрішні розбіжності, які були пов'язані з нехтуванням базовими правилами безпеки ШІ заради швидкого випуску комерційних продуктів.
Окрім прямої фізичної загрози від виходу суперінтелекту з-під контролю, Кларка та багатьох інших провідних вчених світу серйозно непокоїть ще один прихований фактор — стрімке погіршення загальних розумових здібностей людей через надмірне делегування щоденних завдань алгоритмам.
На думку розробника, людству життєво необхідно отримати додатковий час для адаптації, глибокого усвідомлення потенційних наслідків та створення жорсткого міжнародного законодавства, поки ситуація остаточно не пройшла точку неповернення.
Читайте по темі
- Каліфорнія готується до можливого безробіття через ШІ: губернатор штату підписав указ.
- Роботи у Китаї будуть безкоштовно доглядати літніх людей: ШІ допоможе мільйонам родин зі старенькими.
- Інтернет майбутнього: вчені з Японії успішно протестували 6G-зв'язок на шаленій швидкості