«Моделі можуть почати вдосконалювати себе самі»: Anthropic закликала пригальмувати розвиток ШІ

Одна з провідних компаній у сфері штучного інтелекту Anthropic виступила із несподіваною заявою щодо майбутнього розвитку технологій. Про це пише The Wall Street Journal.

У компанії закликали найбільші ШІ-лабораторії світу замислитися над можливістю тимчасового уповільнення створення дедалі потужніших моделей.

Причиною занепокоєння стали темпи розвитку сучасних систем штучного інтелекту. У Anthropic вважають, що галузь може наблизитися до моменту, коли моделі отримають здатність самостійно покращувати власні можливості без прямого втручання людини.

У компанії наголошують, що такий сценарій поки не є неминучим. Водночас він може настати швидше, ніж уряди, регулятори та суспільство встигнуть виробити необхідні механізми контролю та безпеки.

Люди використовують ноутбуки та комп'ютери для взаємодії з ШІ. Фото: Getty Images

Як один із можливих варіантів Anthropic пропонує міжнародні домовленості між провідними гравцями ринку. Ідея передбачає не лише потенційну паузу в розвитку найпотужніших моделей, а й створення механізмів перевірки, які дозволили б контролювати дотримання таких правил усіма учасниками.

Втім, заява вже викликала дискусії в технологічному середовищі. Критики вважають, що подібні заклики можуть бути вигідними самим лідерам ринку, адже уповільнення розвитку здатне створити додаткові бар'єри для конкурентів.

Експерти також звертають увагу на те, що попередження про потенційно небезпечні можливості нових моделей водночас підкреслюють їхню потужність. Саме тому частина ринку сприймає такі заяви не лише як питання безпеки, а й як елемент конкурентної боротьби у глобальній гонці штучного інтелекту.

Читати по темі

• Що потрібно знати про штучний інтелект: гайд для зручного використання.
• Штучний інтелект забирає роботу: 10 професій, які зникнуть до 2030 року.