Кандидати проти ШІ-скринінгу у процесі найму: новий судовий кейс у США

Група шукачів роботи подала судовий позов проти компанії Eightfold AI, яка розробляє програмне забезпечення для автоматичного скринінгу кандидатів. Позивачі скаржаться на непрозорість системи: кандидати не отримують пояснень, як формується рейтинг, і не можуть оскаржити помилки. Про це інформує The New York Times та Reuters. 

Розповідаємо, у чому суть позову, чому він може стати прецедентним і як він може вплинути на ринок найму.

Позов проти Eightfold AI: що саме оскаржують

Позов подано до Вищого суду округу Контра-Коста в Каліфорнії. Його ціллю є компанія Eightfold AI, яка продає свої AI-рішення роботодавцям як спосіб оптимізувати процес найму.

За даними компанії, Eightfold створила набір даних, що охоплює:

• понад 1 мільйон посад;
• понад 1 мільйон навичок;
• профілі більш ніж 1 мільярда людей у різних професіях, індустріях і країнах.

Згідно із заявами позивачів, система створює детальні профілі талантів, де алгоритми:

• Присвоюють кандидатам рейтинг від 1 до 5.
• Визначають особистісні характеристики, навішуючи ярлики на кшталт «командний гравець» або «інтроверт».
• Ранжують якість освіти кандидата.
• Прогнозують майбутні посади та компанії, в яких людина могла б працювати.

Кандидати заявляють, що цей інструмент перетворився на «алгоритмічного воротаря». Він блокує доступ до живих рекрутерів і не надає зворотного зв’язку щодо того, чому людину відсіяли або як сформувалася її оцінка. Якщо алгоритм помиляється, у кандидата немає можливості виправити ці дані.

Я вважаю, що заслуговую знати, яка інформація про мене збирається і передається роботодавцям. Вони не дають мені жодного фідбеку, тому я не можу виправити можливі помилки, — зазначила Ерін Кістлер, одна з позивачок, яка має ступінь у галузі комп’ютерних наук і десятиліття досвіду в IT.

З тисяч вакансій, на які вона подавалася минулого року, лише 0,3% завершилися співбесідою. Частина цих заявок проходила саме через систему Eightfold.

Позиція Eightfold AI

Reuters повідомляє, що представник Eightfold Курт Феллер відкинув звинувачення у неправомірному зборі даних. За його словами, платформа працює виключно на даних, наданих самими кандидатами або клієнтами компанії.

Ми не займаємося скрапінгом із соціальних мереж і тому подібним. Ми глибоко віддані відповідальному ШІ, прозорості та дотриманню законів про захист даних, — заявив Феллер.

Зазначимо, що послугами Eightfold користується третина компаній зі списку Fortune 500, зокрема Microsoft та PayPal, а також державні установи, наприклад, Департаменти праці штатів Нью-Йорк та Колорадо.

Чому цей кейс може стати прецедентним?

Це один із перших позовів, який намагається застосувати кредитне законодавство до ШІ-рішень у сфері найму. Закон Fair Credit Reporting Act (FCRA) прийнятий у США ще 1970 року. Він був спрямований на регулювання діяльності кредитних агентств, які використовували комп’ютерні бази даних для формування особистих досьє та числових рейтингів.

Щоб захистити людей від помилок, закон зобов’язав такі агентства:

• розкривати інформацію, яку вони збирають;
• дозволяти споживачам оскаржувати неточності.

Водночас FCRA має ширше застосування. Він визначає «споживчий звіт» як збір інформації про особисті характеристики, що використовується, зокрема, для працевлаштування.

Чому саме цей закон? Логіка юристів наступна:

1. Схожість механізмівКредитні бюро збирають фінансову історію людини та формують числовий скоринг, який впливає на видачу позик. Eightfold AI збирає дані про навички та кар'єру і формує числовий рейтинг, що впливає на працевлаштування.
2. Захист правЗакон 1970 року зобов’язує кредитні бюро показувати споживачам їхнє досьє і давати можливість оскаржити помилкові дані.
3. ВимогаПозивачі вважають, що звіти ШІ про кандидатів юридично є «споживацькими звітами», а отже, компанії-розробники повинні дотримуватися тих самих суворих правил прозорості, що й банки чи кредитні агентства.

Позов передбачає фінансову компенсацію і зобов’язання Eightfold дотримуватися вимог законодавства.

Контекст та інші судові справи

Позов проти Eightfold є частиною ширшої хвилі судових процесів щодо використання ШІ у наймі.

У 2023 році було подано позов проти Workday, у якому стверджується, що система компанії незаконно дискримінує кандидатів за віком, расою та наявністю інвалідності.

Федеральний суддя дозволив справі Workday рухатися далі, визнавши правдоподібним твердження, що алгоритми можуть непропорційно відхиляти заявників на основі факторів, не пов'язаних із кваліфікацією.

У 2024 році Бюро фінансового захисту споживачів (CFPB) оприлюднило роз’яснення, згідно з яким досьє та рейтинги, створені для найму, підпадають під дію FCRA. Пізніше це роз’яснення було відкликане після зміни керівництва бюро.

Чому це важливо?

Цей судовий процес підсвічує проблему «чорної скриньки» та правової невизначеності, з якими стикаються фахівці, коли їхні резюме відхиляються миттєво без пояснень.

Ситуація з Eightfold AI показує, що навіть досвідчені фахівці з профільною освітою можуть стикатися з масовими автоматичними відмовами. Справа може створити прецедент, який змусить платформи найму стати прозорішими та надати кандидатам право бачити свій «рейтинг» і виправляти помилки в даних, на основі яких він сформований.

Післяслово

Судовий процес проти Eightfold AI навряд чи просуватиметься швидко, однак він уже привернув увагу до проблеми непрозорості алгоритмічних рішень у наймі. Позов порушує фундаментальне питання: чи мають кандидати право знати, як саме автоматизовані системи оцінюють їхню придатність до роботи.

Христина Донченко