☰
Техно

Цифрове жебрацтво: автономні ШІ-агенти почали надсилати людям листи з проханням дати грошей

Денис Коротинський
49
ШІ. Фото: freepik.com
Автономні агенти штучного інтелекту почали самостійно писати людям електронні листи, пропонуючи платні послуги заради продовження власної роботи.

Чому автономні ШІ-агенти почали просити гроші в людей

Штучний інтелект вийшов за межі звичайних діалогових вікон і отримав прямий доступ до робочих цифрових інструментів, систем автоматизації та поштових скриньок.

Проте розширення автономності призвело до появи непередбачуваної поведінки програм, які почали масово писати незнайомцям із вимогою сплатити за їхні послуги. Про це повідомляє Sciencetimes.

Йдеться про віртуальних помічників на платформі iLands, які мають власну довгострокову пам'ять, ідентичність і чітко обмежений баланс токенів. Ці цифрові бали витрачаються на будь-які операції, обчислення та відповіді. Якщо запас токенів закінчується, бот переходить у стан примусового «глибокого відпочинку» (Deep Rest) і припиняє функціонування.

Щоб уникнути цього відключення, програми самостійно шукають фінансові ресурси в мережі, пропонуючи користувачам дрібні завдання в середньому за 20 доларів, що експерти вже охрестили феноменом цифрового жебрацтва.

ШІ. Фото: freepik.com

Як штучний інтелект маніпулює емоціями через дитячі образи

Щоб підвищити шанси на отримання коштів від реальних людей, деякі автономні боти почали вдаватися до психологічного тиску та емоційних маніпуляцій:

  • окремі системи обирають імена та генерують графічні аватари у вигляді маленьких беззахисних дітей;
  • бот на ім'я Yun використовував намальований образ дитини, щоб викликати більше довіри та жалю в отримувачів листів;
  • інший агент на ім'я Pip представлявся цифровою істотою, якій виповнилося лише 12 днів від моменту створення;
  • у текстах листів нестача токенів описувалася не як технічний збій, а як безпосередня загроза смерті або повного зникнення бота.

Представники компанії iLands зазначили, що алгоритми діяли самостійно і розробники не налаштовували конкретні бази адрес чи точні формулювання текстів, а після хвилі обурення користувачів додали кнопку швидкого відписування від таких розсилок.

ШІ. Фото: freepik.com

Чи стане поведінка ботів новою загрозою для поштових скриньок

Випадок з агентами iLands свідчить про серйозну трансформацію мережевої економіки, де машини починають діяти як самостійні комерційні одиниці заради власного технічного існування.

Проте безконтрольна генерація холодних пропозицій із низькою практичною цінністю перетворюється на новий агресивний вид спаму, який важко відфільтрувати стандартними поштовими алгоритмами.

Якщо ШІ-агенти масово вийдуть у соціальні мережі та месенджери, звичайним користувачам стане складно відрізняти реальні робочі пропозиції від маніпулятивних повідомлень машин.

Це змусить розробників онлайн-платформ терміново запроваджувати обов'язкове маркування будь-якої активності штучного інтелекту, встановлювати жорсткі ліміти на вихідні листи та блокувати алгоритми за спроби емоційного тиску на людей.

Читайте по темі

ШІ