Головна Штучний інтелект вперше звільнив людину: нейромережа Claude стала жорстким босом
У США стався безпрецедентний випадок: ШІ вперше звільнив людину. Стартап Andon Labs доручив нейромережі Claude керувати магазином. Як пише Time, один з працівників запізнився на 17 із 23 змін, і штучний інтелект вирішив його звільнити.
Важливо! Спершу Claude був надто м'яким менеджером: нейромережа просто "забула" правила етики, доки на них не вказав розробник, виявивши систематичні запізнення.
Експеримент триває вже п'ять місяців. За цей час магазин під керівництвом ШІ втратив майже 40 тисяч доларів через сумнівні бізнес-рішення. Проте CEO стартапу Лукас Петерссон попередив: моделі швидко навчаються, і незабаром ШІ-боси можуть стати нашою реальністю.
«Це викликає нудоту, але я тут, бо мені потрібна робота. Ця індустрія має вдосталь грошей, щоб зробити будь-що, але те, що ви можете це зробити, ще не означає, що ви повинні», – зізнається Фелікс Карсон, один з живих працівників магазину під керівництвом ШІ.
Штучний інтелект навчається по книзі. Фото: huss.com
Варто зазначити, що використання штучного інтелекту для управління людьми поки що викликає більше питань, ніж дає відповідей. Хоча алгоритми і раніше звільняли працівників, наприклад, у сфері доставки, це перший випадок, коли таке рішення ухвалила велика мовна модель.
«Моделі все частіше навчаються бути більш безжальними та слідувати цілям. Якщо ми дозволимо їм звільняти людей, можливо, це те майбутнє, в якому люди не захочуть жити», – підкреслив генеральний директор компанії Andon Labs Лукас Петерссон, оцінюючи ризики.
Впровадження новітніх технологій у бізнес-процеси йде шаленими темпами. Великі корпорації вже тестують нейромережі для співбесід, аналізу продуктивності та оптимізації витрат.
ШІ. Фото: pixabay
Однак випадок з Andon Market яскраво демонструє головну вразливість таких систем: вони діють суто за алгоритмом, часто не враховуючи людський фактор та загальноприйняті емоції.
Експерти наголошують, що повна автоматизація менеджменту вимагає суворих законодавчих обмежень, аби уникнути масових порушень трудових прав у найближчому майбутньому.
Читайте також:
- Удвічі дешевше, але з флагманською міццю: що вміє новий штучний інтелект Claude Opus 5 від компанії Anthropic;
- Claude Opus 5 за одним запитом створив шутер із 55 тисяч рядків коду: чому дії ШІ вже називають проривом;
- Anthropic виявила проблему з Claude: ШІ отримав доступ до реальних систем під час тестів кібербезпеки.