☰
Техно

Парадокс розробки ChatGPT: підрядники OpenAI масово звільняють людей за використання штучного інтелекту

Денис Коротинський
97
Сем Альтман. Фото: mezha.ua
Компанії-підрядники OpenAI масово позбавляються працівників, які залучають сторонній штучний інтелект для навчання та оцінювання відповідей чатботів.

Чому тренерам ChatGPT суворо заборонили використовувати штучний інтелект

Для якісного доопрацювання генеративних алгоритмів компанія OpenAI залучає багатотисячний штат фахівців через зовнішні платформи. Головне завдання цих спеціалістів полягає в перевірці діалогів і додаванні так званого людського фактора в реакції алгоритмів. Попри те, що творці активно пропагують тотальну інтеграцію технологій у щоденну роботу, тренерам нейромереж подібні спроби вартують кар'єри. Про внутрішні корпоративні обмеження повідомило видання 404 Media.

Компанії встановили жорстке табу не тільки на генеративні системи, але й на допоміжний софт на кшталт Grammarly або звичайних автоматичних перекладачів. Наприклад, сервіс найму Mercor фіксує це обмеження безпосередньо в трудовому договорі та миттєво відсторонює порушників.

«Це може бути проблемою для самих моделей, але водночас ситуація виглядає парадоксально: компанії, які навчають ШІ для OpenAI, звільняють людей за використання ШІ, хоча сама OpenAI прагне, щоб люди використовували ШІ в роботі», — підкреслили автори журналістського розслідування.

Чоловік користується GPT-4.1. Фото: Dialogue Magazine

Як саме обчислюють порушників за текстами

Супервайзери, які контролюють здачу звітів, використовують спеціальні методики визначення машинного втручання без автоматичних детекторів. Внутрішні регламенти прямо забороняють застосування сервісів на кшталт GPTZero через їхню регулярну похибку та фальшиві спрацьовування.

Замість цього перевіряльники орієнтуються на підозрілі патерни письма.

«Не використовуйте інструменти для виявлення ШІ або сам ШІ. Не використовуйте GPTZero чи будь-які подібні інструменти – вони ненадійні. Також працівникам заборонено використовувати ШІ, зокрема Grammarly та ШІ-перекладачі для перевірки, написання відгуків або коментарів», — зазначено у внутрішній інструкції для підрядників.

Викривальними маркерами вважаються занадто висока швидкість здачі відповідей, часті повтори специфічних слів і характерна синтаксична побудова речень, зокрема часте вживання довгого тире. За словами співробітників, автоматизація завдань стала найпоширенішим приводом для негайного розірвання контрактів серед тисяч найманих фахівців.

Компанія OpenAI. Фото: Shutterstock

Саботаж відповідей та ризик повного колапсу моделей

Суворість таких санкцій пояснюється серйозною інженерною загрозою для самого продукту. Навчання штучного інтелекту на даних, згенерованих іншими нейромережами, запускає процес незворотної деградації системи та призводить до так званого колапсу моделей. У такому разі алгоритм поступово втрачає логіку, варіативність мислення та видає спотворені факти.

Ситуацію ускладнює й людський фактор, адже деякі оцінювачі свідомо занижують параметри діалогів через монотонність процесу.

«На початку я почувався винним, виконуючи таку роботу. Я або взагалі не зважав на результати й обирав навмання, або свідомо обирав найгірший варіант. Не знаю, чи це справді має якесь значення, адже результати роботи ШІ оцінюють сотні інших людей, однак виникає відчуття, ніби мені платять за те, щоб робити штучний інтелект гіршим», — зізнався один із колишніх оцінювачів проєкту.

Керівництво OpenAI поки що утримується від публічних пояснень щодо внутрішніх звільнень і масових санкцій проти співробітників сторонніх підрядних організацій.

Читайте по темі

ШІ