Исследователи DeepMind заявили соискателям о недостатках корпоративных систем автоматической обработки резюме.
Google продаёт своим корпоративным партнёрам услуги по автоматической проверке резюме с помощью искусственного интеллекта. Но собственные специалисты компании решили защитить кандидатов другим способом. Отдел Google DeepMind разработал специальную анкету, которая позволяет претендентам миновать автоматическую систему и направить свои документы прямо в руки менеджеров.
По данным расследования агентства Bloomberg, эту форму подготовила группа специалистов, сосредоточенная на безопасности и согласованности развитых систем искусственного интеллекта. Все соискатели получают предложение заполнить эту форму параллельно со стандартной заявкой на должность.
В служебном меморандуме авторы указали на возможность ошибочного отклонения качественных резюме автоматической системой или задержку передачи документов нужным специалистам. Дополнительная анкета обеспечивает прямой просмотр документов членами команды DeepMind. Документ содержал просьбу о конфиденциальности информации.
Официальный комментарий от Google DeepMind указывает на стремление компании привлекать высококвалифицированных работников и отрицает утверждения о систематическом отсеве кандидатов. По словам представителя, дополнительная форма просто пропускает первоначальный этап проверки и отправляет документы непосредственно в команду. Форма не предоставляет никаких привилегий при принятии решения о найме.
Данная ситуация вызывает интерес на фоне активного продвижения Google своих технологий на базе искусственного интеллекта. Подразделение, отвечающее за корпоративные приложения, предлагает новые инструменты для создания объявлений о вакансиях, анализа кандидатов и прогнозирования потребности в специалистах. Разработчики гарантируют снижение трудозатрат на выполнение однообразных операций кадровыми отделами.
Компании применяют интеллектуальные системы при наборе кадров различными способами. Некоторые алгоритмы создают таблицу рейтингов кандидатов, иные сканируют документы на наличие нужных терминов и отклоняют заявки, не соответствующие установленным параметрам. Конкретные правила функционирования таких фильтров часто остаются скрытыми от соискателей.
Автоматические системы отбора многократно подвергались критике из-за вероятности дискриминационного поведения. Журналистское расследование Bloomberg выявило в ChatGPT признаки предубеждённости, связанной с этническим происхождением кандидатов. Компанию-производителя программного решения для управления персоналом обвиняют в дискриминации по расовому признаку, возрастному цензу и наличию ограничений по здоровью. Компания отвергает эти обвинения и подчёркивает, что окончательные решения о трудоустройстве принимают люди.
Сами соискатели прибегают к помощи нейросетей для переработки своих резюме в соответствии с требованиями автоматических систем и для массовой рассылки заявок. Специалисты Google DeepMind напомнили кандидатам, что ответы, составленные самостоятельно, без использования ИИ, произведут более благоприятное впечатление. Менеджеры команды изучают анкеты в ручном режиме и сразу замечают типичные обороты речи, свойственные языковым моделям.
