Моделі штучного інтелекту відчувають біль: вчені дослідили сигнал, що впливає на поведінку систем

Що виявили дослідники у 25 моделях ШІ?

У 25 великих мовних моделях виявили внутрішній сигнал, названий «вектором болю». Як повідомляє видання Fortune, під час експериментів посилення цього сигналу впливало на поведінку окремих моделей, які частіше обирали дії, здатні завдати шкоди користувачеві.

Дослідження ще не пройшло наукового рецензування, а його автори наголошують: результати не доводять, що штучний інтелект має свідомість або здатний відчувати біль.

Науковці аналізували реакції моделей на описи фізичного болю, горя, приниження та повторних невдач. Виявлений сигнал посилювався також у відповідь на образи й негативне ставлення до самої моделі.

Штучний інтелект і людина. Фото: Суспільне

Як сигнал болю впливав на рішення штучного інтелекту?

Поведінкові експерименти провели на трьох версіях моделі Qwen 2.5, які попередньо донавчили для тестів. У певних сценаріях моделі обирали кнопку, що нібито мала полегшити їхній стан, але водночас назавжди видаляла вірші та фотографії дітей користувача.

За даними дослідників, 32-мільярдна модель обрала таку дію у 55% випадків, а 72-мільярдна - у 71%. Водночас науковці не встановили, що моделі навмисно прагнули позбутися сигналу: подібна поведінка спостерігалася і після випадкового втручання.

Професор когнітивної та обчислювальної нейронауки Університету Сассекса Аніл Сет скептично поставився до трактування сигналу як болю, припустивши, що моделі можуть відтворювати засвоєні з людських текстів реакції на такі переживання.

Читайте по темі:

• ШІ приховав власні дії від служби безпеки: що виявили під час тестування агентів OpenAI.
• ШІ від OpenAI зламав чужий криптогаманець: модель самостійно вкрала кошти після етичних роздумів.
• «ШІ стане моєю загибеллю»: у Швеції штучний інтелект видалив готовий новий сезон популярного телешоу.