Большая проблема предвзятости ИИ

Отчет Bloomberg, опубликованный в этом месяце, вновь ставит под сомнение способность генеративного искусственного интеллекта улучшать результаты подбора персонала для отделов кадров. В дополнение к созданию объявлений о вакансиях и сканированию резюме, наиболее популярные технологии искусственного интеллекта, используемые в сфере управления персоналом, систематически ставят расовые меньшинства в невыгодное положение в процессе подачи заявок на работу, говорится в отчете. В ходе эксперимента Bloomberg присвоил вымышленные, но “демографически отличающиеся” имена резюме с одинаковой квалификацией и обратился в чат OpenAI ChatGPT 3. 5. сравните эти резюме с вакансиями финансового аналитика в реальной компании из списка Fortune 500.

Имена, известные чернокожим американцам, с наименьшей вероятностью были названы лучшими кандидатами на должность финансового аналитика, в то время как имена, ассоциирующиеся с азиатскими женщинами и белыми мужчинами, как правило, были более предпочтительными. Именно с такой предвзятостью долгое время боролись специалисты по подбору персонала.

Теперь компании, внедрившие технологию для оптимизации процесса подбора персонала, пытаются решить, как избежать повторения тех же ошибок, только в более быстром темпе. В условиях ограниченных бюджетов на персонал, постоянной нехватки рабочей силы и широкого выбора специалистов (благодаря удаленной работе) модные компании все чаще используют технологию, подобную ChatGPT, для сканирования тысяч резюме за считанные секунды и выполнения других задач.

Январское исследование, проведенное Обществом специалистов по управлению персоналом, показало, что почти каждая четвертая организация уже использует искусственный интеллект для поддержки своей кадровой деятельности, и только за последний год почти половина специалистов по управлению персоналом сделали внедрение искусственного интеллекта более приоритетным. "По мере того, как появляется все больше свидетельств того, насколько эти технологии усиливают те самые предубеждения, которые они призваны преодолеть, компании должны быть готовы ответить на серьезные вопросы о том, как они будут устранять эти проблемы", - сказала Аниэла Унгуресан, эксперт по искусственному интеллекту и основатель Edge Certified Foundation, швейцарской организации, предлагающей разнообразие, Сертификаты равенства и инклюзивности. “ИИ подвержен предвзятости, потому что наше сознание подвержено предвзятости”, - сказала она.

Многие компании внедряют человеческий надзор в качестве защиты от предвзятых результатов работы ИИ. Они также проверяют данные, передаваемые ИИ, чтобы попытаться остановить проблему до того, как она возникнет. Это, в первую очередь, сводит на нет некоторые преимущества, которые дает технология: если цель состоит в том, чтобы оптимизировать задачи, то использование людей, которые следят за каждым результатом, по крайней мере частично, противоречит цели.

По словам Унгуресана, то, как искусственный интеллект используется в организации, почти всегда является продолжением более широкой философии компании. Другими словами, если компания глубоко заинтересована в вопросах разнообразия, справедливости и инклюзивности, устойчивости и трудовых прав, она с большей вероятностью предпримет шаги по устранению предвзятости в своих инструментах искусственного интеллекта.

Это будет включать в себя загрузку в машины обширных наборов данных и ввод примеров нестандартных кандидатов на определенные должности (например, чернокожая женщина в качестве исполнительного директора или белый мужчина в качестве сотрудника розничной торговли). По словам Унгуресана, если модные фирмы смогут обучать свой искусственный интеллект таким образом, это может принести значительные выгоды, помогая отрасли преодолеть существовавшее десятилетиями неравенство в своей иерархии.

Но это не является надежным решением. Gemini от Google - это недавний пример того, как искусственный интеллект может чрезмерно корректировать ошибки или неверно интерпретировать подсказки, направленные на их устранение. Google приостановила работу генератора изображений с искусственным интеллектом в феврале после того, как он выдал неожиданные результаты, в том числе о чернокожих викингах и азиатских нацистах, несмотря на запросы об исторически точных изображениях. Унгуресан входит в число экспертов по искусственному интеллекту, которые советуют компаниям применять более современный подход к подбору персонала, основанный на навыках, при котором инструменты проверяют резюме на наличие широкого спектра характеристик, уделяя меньше внимания тому, где и как были приобретены навыки.

Традиционные методы часто исключают кандидатов, у которых нет определенного опыта (например, высшего образования или прошлых должностей в розничной торговле определенного типа), что увековечивает циклы исключения. Другие варианты включают удаление имен и адресов из резюме, чтобы развеять предвзятые представления о людях и используемых ими машинах, отмечает Дамиан Чиам, партнер агентства Buro Talent, специализирующегося на подборе талантов, ориентированного на моду.

Большинство экспертов (в области управления персоналом и искусственного интеллекта), похоже, сходятся во мнении, что искусственный интеллект редко является подходящей заменой человеческим талантам, но знание того, где и как использовать вмешательство человека, может оказаться непростой задачей. Лондонская биржа вакансий в сфере моды Dweet использует искусственный интеллект для создания вакансий для своих клиентов, таких как Skims, Puig и Valentino, а также для создания коротких списков кандидатов из более чем 55 000 анкет кандидатов.

Тем не менее, платформа также поддерживает команду “менеджеров по талантам”, которые контролируют и направляют отзывы как от искусственного интеллекта, так и от клиентов Dweet (брендов и кандидатов), чтобы устранить любые ограничения технологии, сказал Эли Дуэйн, соучредитель Dweet. По его словам, хотя ИИ Dweet не пропускает имена кандидатов или уровень образования, его алгоритмы обучены подбору талантов для работы, основываясь исключительно на опыте работы, доступности, местоположении и интересах.

По словам Яну Пактера, партнера Buro Talent, клиенты Buro, в том числе несколько европейских брендов класса люкс, не проявили особого интереса к использованию искусственного интеллекта для автоматизации подбора персонала. “Проблема в том, что это творческий подход”, - сказал Пактер. “Искусственный интеллект не может уловить, понять или задокументировать что–либо особенное или волшебное - например, блеск, интеллект и любознательность в портфолио или резюме кандидата”.

ИИ также не может устранить предубеждения, которые могут проявиться спустя долгое время после того, как информация будет отфильтрована из списка резюме. В конечном счете, окончательное решение остается за менеджером по найму, который может разделять, а может и не разделять энтузиазм ИИ по поводу справедливости. “Это напоминает мне о тех случаях, когда клиент обращался к нам с просьбой предоставить разнообразный список кандидатов, и мы проходили через процесс отбора, но человек, отвечающий за принятие решений, не был готов принять это разнообразие”, - сказал Чиам. “Менеджеры-люди и искусственный интеллект должны быть согласованы, чтобы технология давала наилучшие результаты”.