OpenAI буде попереджати близьких про ризик самоушкодження: що відомо про нову функцію ChatGPT

Механізм «Довірений контакт» (Trusted Contact) дає змогу повнолітнім користувачам призначити у своєму акаунті людину, яка отримає сповіщення у разі потенційно небезпечних розмов про самоушкодження чи суїцид, йдеться у анонсі OpenAI.

В компанії пояснили, що якщо система виявить ознаки серйозної загрози, ChatGPT спершу запропонує користувачу самостійно звернутися до свого довіреного контакту.

Паралельно сервіс може автоматично надіслати цій особі повідомлення електронною поштою, SMS або через застосунок, в якому буде прохання зв’язатися з користувачем. При цьому деталі листування не будуть розкриватися для захисту конфіденційності.

Повідомлення. Фото: OpenAI

Запровадження такої функції відбувається не просто так. На компанію масово подають судові позови від родин людей, які вчинили самогубство та іншу шкоду після спілкування з чат-ботом ШІ. Вони стверджують, що саме GPT підштовхує користувачів до подібних дій та допомагає у їх плануванні.

Читайте також:

• Засновник компанії Facebook (нині – Meta) Марк Цукерберг разом зі своєю дружиною Прісциллою Чан мають намір допомогти світу побороти хвороби за допомогою ШІ.
• Південно-Африканська Республіка відкликала перший проєкт Національної стратегії політики щодо штучного інтелекту, бо у документі знайшлися вигадані джерела, ймовірно створені штучним інтелектом.
• Пентагон вперше дозволив агентному штучному інтелекту працювати з секретними документами - до проєкту залучили провідні технологічні компанії.