Нейромережі підсовують фейки: популярні чат-боти з ШІ спіймали на просуванні російської дезінформації

У сучасному світі мільйони людей щодня звертаються до штучного інтелекту за останніми новинами, сподіваючись отримати абсолютно нейтральні та об'єктивні відповіді. Проте нова реальність виявилася набагато небезпечнішою, повідомляє Spiegel.

Гучне дослідження берлінського аналітичного центру Agora Digitale Transformation зірвало маски з провідних технологічних гігантів. Виявилося, що популярні моделі від Anthropic, OpenAI та Google мають серйозні приховані викривлення, а їхні алгоритми формування новинної стрічки перетворилися на справжню «чорну скриньку» для звичайних користувачів.

Чат-бот Gemini. Фото ілюстративне: Shutterstock

Дослідники проаналізували майже п'ять тисяч джерел, на які спираються чат-боти під час відповідей на актуальні запити. Результати відверто шокували навіть досвідчених експертів.

Скандал навколо Claude: пропаганда замість фактів

Найбільший резонанс викликала поведінка мегапопулярної нейромережі Claude від компанії Anthropic. Аналітики з'ясували, що під час формування відповідей цей штучний інтелект багаторазово посилався на домени сумнозвісної мережі Pravda.

• Що таке Pravda: це масштабна російська кампанія з дезінформації, яка вже встигла розповсюдити понад вісім з половиною мільйонів пропагандистських статей.
• Головні мішені: Україна, Німеччина, Франція та інші європейські країни.

Замість того, щоб жорстко блокувати небезпечні фейки, штучний інтелект відкрито пропонував користувачам російську пропаганду нарівні з авторитетними світовими виданнями. Фахівці б'ють на сполох: система, яка не здатна відрізнити професійну журналістику від токсичних вкидів країни-агресора, несе пряму загрозу для адекватного формування громадської думки.

Claude Code. Фото: winfuture

ChatGPT та приховані комерційні угоди

Не менш тривожною виявилася ситуація з лідером ринку — ChatGPT від компанії OpenAI. Дослідження викрило, що цей штучний інтелект часто обирає джерела інформації не за критерієм їхньої об'єктивності, а через таємні домовленості.

• Чат-бот демонструє аномальну прихильність до німецького видання welt.de, цитуючи його майже вп'ятеро частіше за інших конкурентів.
• Причина полягає в тому, що материнська компанія уклала багатомільйонну угоду з медіаконцерном Axel Springer.

Користувачі навіть не здогадуються про це партнерство, щиро вірячи, що штучний інтелект шукає найкращу відповідь у всьому інтернеті. Натомість бот просто віддає пріоритет вигідним медіа. На тлі цих скандалів моделі від Google, такі як Gemini, намагаються спиратися переважно на офіційні та новинні портали, проте їхні алгоритми все одно залишаються повністю закритими.

ChatGPT. Фото: OpenAI

Реакція розробників та вимоги експертів

Технологічні гіганти вже спробували виправдатися після публікації нищівного розслідування:

• Anthropic: пообіцяли вдосконалити алгоритми для збереження політичного балансу та нейтральності.
• OpenAI: категорично заперечили вплив комерційних контрактів на видачу результатів, заявивши про турботу виключно про користувача.
• Google: традиційно наголосили на прагненні до максимальної об'єктивності своїх систем.

Однак автори дослідження переконані, що одних лише корпоративних обіцянок замало. Вони вимагають негайного запровадження жорстких правил гри для розробників штучного інтелекту на законодавчому рівні. Якщо компанії не почнуть відкрито демонструвати, як саме працюють їхні алгоритми, та не нестимуть відповідальність за поширену інформацію, світ ризикує втратити базову інформаційну безпеку, остаточно опинившись у полоні фейків.

Читайте також:

• Безплатний доступ, можливості для програмування і дизайну: GPT-5.6 отримав масштабне оновлення;
• Вчені зазирнули у «мозок» ШІ: Anthropic відкрили таємний J-space, де думає Claude;
• Нові можливості для українців: Google Gemini у Таблицях отримав підтримку української мови.