Ситуація тривожна: в OpenAI забили на сполох через зріст запитів до ChatGPT щодо психічних проблем юзерів

Творці штучного інтелекту ChatGPT, компанія OpenAI, заявила, що близько 0,07% тижневих користувачів чат-бота демонстрували ознаки проблем із психічним здоров’ям, зокрема, психозу або суїцидальних думок.

Як повідомляє британська служба BBC, посилаючись на звіт компанії, ці випадки «надзвичайно рідкісні», тоді як критики кажуть, що навіть такий невеликий відсоток може сягати сотень тисяч людей, оскільки компанія нещодавно прозвітувала про 800 мільйонів активних користувачів ChatGPT щотижня.

Ще 0,15% користувачів ChatGPT ведуть з роботом розмови, які містять «явні ознаки потенційного суїцидального планування або наміру», йдеться у звіті.

У компанії наголошують, що нещодавні оновлення ChatGPT були запроваджені для того, щоб робот «безпечніше й емпатичніше реагував на можливі ознаки марення чи манії» та виявляв «непрямі сигнали потенційної загрози самопошкодження або суїциду».

Для цього, наголошують OpenAI, вони запрограмували ​​ChatGPT так, щоб штучний інтелект постійно заохочував користувачів звертатися по допомогу до фахових спеціалістів.

• Нагадаємо, раніше відбулась довгоочікувана презентація браузера ChatGPT Atlas, який дозволить виконувати найпростіші дії без участі користувача і відкриє додаткові можливості для роботи з різноманітним контентом.