Крупные компании все чаще стали доверять отбор кандидатов алгоритмам ИИ
18 мая. ПРАВМИР. Крупные компании все чаще доверяют первичный отбор кандидатов ИИ-системам. Резюме, сопроводительные письма и видеоинтервью сначала проверяют алгоритмы: они ищут ключевые слова, оценивают ответы, тональность, а иногда и мимику. До кадровика документы могут просто не дойти.
По данным Брукингского института, ИИ при найме уже используют около 98,4% компаний из списка Fortune 500.
В США это уже привело к судебным спорам. Дерек Мобли, чернокожий мужчина старше 40 лет с хроническим заболеванием, подал коллективный иск против компании Workday, создающей алгоритмы найма, после ста отказов подряд. Суд Северной Калифорнии допустил, что разработчик может отвечать перед законом как агент работодателей, так как фактически участвовал в отсеве.
Похожую проблему описал Wired. Студент медицинского факультета Дартмутского университета Чад Марки в 2025 году подавал заявки в программы резидентуры по психиатрии и получал только отказы, хотя у него были публикации в JAMA и The Lancet, высокие оценки и сильные рекомендации.
Марки нашел возможную причину в академическом досье. Там было написано, что он «добровольно» брал отпуска по «личным причинам». На самом деле он лечился от аутоиммунного заболевания позвоночника. Медицинское объяснение тоже было в документе, но ниже.
Он предположил, что алгоритм мог счесть слова «добровольно» и «личные причины» тревожными маркерами.
Молодой человек собрал упрощенную модель и проверил гипотезу. В его эксперименте кандидаты с точным медицинским объяснением академического отпуска попадали в число лучших претендентов на 66% чаще, чем кандидаты с формулировкой «личные причины».
В итоге Марки обошел автоматический фильтр вручную: написал координаторам программ, получил десять приглашений на собеседования и поступил в ординатуру Колумбийского университета.
Предвзятость алгоритмов не всегда связана только с расой, возрастом или диагнозом — выяснилось, что большие языковые модели предпочитают резюме, написанные ими же. GPT-4o выбирала собственную версию резюме в 97,6% случаев. В симуляциях кандидаты, использовавшие ту же модель, что и работодатель, попадали на интервью на 23-60% чаще, чем такие же квалифицированные кандидаты с резюме, написанными вручную.
Так появляется новый тип неравенства: выигрывает не обязательно лучший кандидат, а тот, чье резюме ближе к стилю алгоритма.
Кандидаты часто даже не знают, что их оценивает машина. По данным Greenhouse, 70% соискателей, уже проходивших собеседование с ИИ, не были об этом предупреждены.
При этом доказать дискриминацию почти невозможно.