Когда десятки компаний нанимают через одну систему, первый отказ не обязательно закрывает человеку путь ко всем остальным работодателям. Это выяснилось из математического моделирования: главная опасность единого алгоритма кроется в другом — рынок начинает хуже замечать кандидатов, которых общий рейтинг недооценил.
Алгоритмической монокультурой называют ситуацию, когда разные организации принимают решения через одинаковые или близкие системы. Для найма проблема казалась очевидной: программа отклонила резюме в одной компании, значит тот же механизм может повторить отказ и в остальных. Чем больше бизнеса использует одинаковые модели машинного обучения, тем острее этот страх.
Моделирование показало нюанс. Если число вакансий фиксировано, работодатели всё равно должны их закрыть. Когда все компании одинаково ранжируют кандидатов, одна нанимает первого в списке, следующая выбирает из оставшихся, затем очередь доходит до следующих претендентов. Поэтому единый рейтинг сам по себе не увеличивает число людей, которые останутся без работы.
Но меняется кто именно получит место. При разных алгоритмах работодатели оценивают людей по-разному, поэтому кандидат, который не понравился одной системе, может оказаться сильным выбором для другой. Единый алгоритм лишает рынок этого разнообразия и чаще повторяет одну и ту же ошибку.
В некоторых сценариях общий рейтинг даже усиливал позиции лучших кандидатов. Несколько работодателей начинали бороться за одних и тех же людей, те получали несколько предложений и могли требовать более высокую зарплату. Авторы, однако, не утверждают, что реальный рынок труда обязательно поведёт себя так же: модель сильно упрощает процесс найма.
Главная проблема проявилась, когда исследователи посмотрели не на число трудоустроенных, а на качество выбора. Независимые алгоритмы ошибаются по-разному и поэтому чаще находят людей, которых другие системы пропустили. Один общий алгоритм снова и снова смотрит на кандидатов одинаково и хуже исследует альтернативы.
Исследователи проверили ещё один вариант: объединили оценки нескольких независимых алгоритмов в одну итоговую систему. В симуляции с 1000 кандидатами такой подход показал лучший результат. Модель получала несколько независимых оценок человека, усредняла ошибки и принимала решение уже на основе общей картины.
На практике построить такую систему намного сложнее. Компании собирают разные данные, по-разному проводят тесты и используют собственные критерии отбора. Чтобы объединить оценки, работодателям пришлось бы свести эти данные и методы в одну инфраструктуру, что может оказаться слишком дорого или неудобно.
Исследование не доказывает, что единый ИИ безопасен для найма. Оно показывает более важную вещь: проблема не сводится к формуле «один алгоритм плохо, много алгоритмов хорошо». Единая система может не увеличить безработицу, но заставляет рынок смотреть на людей слишком одинаково. В долгосрочной перспективе именно потеря независимых оценок может оказаться опаснее массовых автоматических отказов.
