Штучний інтелект замість лікарів: через фатальну помилку системи розподілу ліжок у Бразилії померла жінка
У Бразилії зафіксовано трагічний випадок, коли штучний інтелект безпосередньо вплинув на смерть людини. 32-річна дівчина померла в лікарні через те, що цифрова система визначила її стан як некритичний і пропустила вперед інших пацієнтів. Про це повідомляє видання Uturism.
У загиблої діагностували камені в жовчному міхурі. Попри небезпеку для життя, пацієнтці довелося п'ять днів чекати на вільне місце в палаті інтенсивної терапії, якого вона так і не дочекалася.
Алгоритм проти реальності: як працює Core-MG
Місцеве Міністерство охорони здоров'я інтегрувало у сферу медицини новітню ШІ-систему під назвою Core-MG. Головне завдання цього алгоритму — аналізувати поточний стан хворих і визначати, кому лікування потрібне негайно, а хто може зачекати.
Під час аналізу медичних показників дівчини система видала їй пріоритетність 6.8 бала з 10 можливих. Насправді ж стан хворої був критичним і об'єктивно наближався до максимальної десятки. Через занижену оцінку комп'ютера до реанімації пропускали кого завгодно, але не госпіталізували потерпілу.
Лікарня. Фото: magnific.com
Захист від корупції, що коштував життя
Найбільшою проблемою в цій ситуації виявилася повна відсутність можливості людського втручання. Живі лікарі бачили реальний стан пацієнтки, але не могли вплинути на рішення Core-MG чи скоригувати чергу самостійно.
«Задля запобігання корупції ручне керування системою просто не передбачене розробниками», — зазначається в матеріалі.
Навіть за умови відсутності штучного інтелекту дівчина могла б загинути через брак місць чи наявність пацієнтів у значно важчому стані. Проте смерть через те, що комп'ютерний алгоритм просто виставив людині недостатньо високе число, демонструє максимальний цинізм сліпої автоматизації медицини.
Читайте по темі
- Моторошна статистика вихідних: десять загиблих альпіністів в Альпах усього за три дні.
- Стрибок у порожнечу з 40 метрів: дівчина розбилася під час роуп-джампінгу через дику недбалість інструкторів.
- Покарання для королівського спадкоємця: сина кронпринцеси Норвегії засудили до в’язниці через згвалтування