인공지능(AI) 혁명은 사람들의 직업은 물론 개인 삶 모두로 파고 들고 있다. 채용 역시 마찬가지다.

예술가들은 저작권 침해나 작업의 대체를 두려워한다. 기업과 경영진은 공급망 관리, 고객 서비스, 제품 개발, 인적자원(HR) 관리 등 다양한 분야에서 AI를 활용한 효율성 제고를 꾀하고 있다.

지금까지의 추세로 볼 때 거의 모든 사업 분야와 운영은 어떤 형태로든 AI를 도입해야 한다는 압박을 피할 수 없게 될 것이다. 그러나 AI의 본질과 그 결과물의 기반이 되는 데이터는 인간의 편견이 내재된다.

그렇다면 채용 및 고용에서 AI를 사용하는 것은 어떨까. 채용 분야에서는 이미 이력서 검토를 자동화하고 구직자의 비디오 인터뷰를 평가하기 위해 AI를 널리 도입하고 있다. 채용 분야의 AI는 인간의 편견을 없애고 의사 결정의 공정성과 일관성을 강화함으로써, 채용 과정의 객관성과 효율성을 약속한다. 과연 그럴까.

그러나 뉴질랜드 매시 대학교와 호주 퀸즐랜드 대학교 분석팀의 연구에 따르면 AI는 채용 과정에서 미묘하게, 때로는 노골적으로 편견을 심화시킬 수 있는 것으로 나타났다고 더컨버세이션이 전했다. 또한 HR 전문가의 참여는 이러한 역효과를 완화하기보다는 악화시킬 수 있다. 이는 사람이 AI를 관리할 수 있다는 믿음에 혼란을 가져온다.

인간의 편견 확대

채용에 AI를 사용하는 이유 중 하나는 더 객관적이고 일관성을 꾀하기 위함이다. 그러나 여러 연구에 따르면 AI 기술은 실제로 편향될 가능성이 매우 높다. 이는 AI가 훈련에 사용된 데이터 세트로 학습하기 때문이다. 데이터에 결함이 있으면 AI도 결과적으로 결함을 보인다. 그런데 데이터는 인간의 편견이 상당히 포함되며, AI를 지원하는 인간이 만든 알고리즘으로 인해 더욱 악화될 수 있다.

22명의 HR 전문가와의 인터뷰에서는 채용에서 두 가지 일반적인 편견이 확인된다. '고정관념 편향'과 '나와 비슷한 편향'이다.

고정관념 편향은 특정 그룹에 대한 고정관념(예컨대 같은 성별의 후보자 선호)의 영향을 받아 의사 결정이 이루어질 때 발생하며, 이는 성 불평등으로 이어진다. 나와 비슷한 편향은 채용 담당자가 자신과 비슷한 배경이나 관심사를 공유하는 후보자를 선호할 때 발생한다.

채용 과정의 공정성에 상당한 영향을 미칠 수 있는 이러한 편향은 과거 채용 데이터에 내재되어 AI 시스템을 훈련하는 데 사용된다. 이로 인해 편향된 AI가 발생하는 것이다.

따라서 과거 채용 관행이 특정 계층이나 인물을 선호했다면 AI도 계속 그렇게 할 것이다. AI 알고리즘도 이러한 편향을 완화하는 것이 어렵다. 이러한 편향의 지속성은 인간과 AI 주도 채용 과정 모두에서 공정성을 보장하기 위해 신중한 계획과 모니터링이 필요함을 강조한다.

인간의 지원 가능성

조사는 HR 전문가뿐만 아니라 17명의 AI 개발자도 인터뷰했다. 채용 편향을 완화하는 AI 채용 시스템을 개발하는 방법을 조사하고자 함이었다.

인터뷰를 바탕으로, 분석팀은 HR 전문가와 AI 프로그래머가 데이터 세트를 살펴보고 알고리즘을 개발하면서 정보를 교환하고 선입견에 의문을 제기하는 모델을 개발했다. 그러나 조사 결과에 따르면 이러한 모델을 구현하는 데는 어려움이 따른다. 이는 HR 전문가와 AI 개발자 간에 존재하는 교육적, 전문적, 인구통계적 차이 때문이다.

이러한 차이는 효과적인 의사소통, 협력, 심지어 서로에 대한 이해까지 방해한다. HR 전문가는 전통적으로 사람 관리와 조직 행동을 중시하는 반면, AI 개발자는 데이터 과학과 기술에 능숙하다. 이처럼 서로 다른 배경은 함께 일할 때 오해와 불일치로 이어질 수 있다. 이는 특히 자원이 제한적이고 전문가 네트워크가 다양하지 않은 소규모 국가에서 문제가 된다.

HR과 AI 연결

기업과 HR 업계가 AI 기반 채용의 편향 문제를 해결하려면 몇 가지 변경 사항이 필요하다.

첫째, 정보 시스템 개발과 AI에 초점을 맞춘 HR 전문가를 위한 체계적인 교육 프로그램을 구현하는 것이 중요하다. 이 교육에서는 AI의 기본, AI 시스템의 편향 파악, 편향을 완화하기 위한 전략을 다루어야 한다.

또한 HR 전문가와 AI 개발자 간의 협업을 촉진하는 것도 중요하다. 기업은 HR 및 AI 전문가를 모두 포함하는 팀을 만들어야 한다. 이를 통해 의사소통 차이를 해소하고 팀을 조정할 수 있다.

나아가 문화적으로 관련성 있는 데이터 세트를 개발하는 것은 AI 시스템의 편견을 줄이는 데 필수다. HR 전문가와 AI 개발자는 AI 기반 채용 과정에 사용되는 데이터가 다양한 그룹을 대표하도록 협력해야 한다. 이를 통해 보다 공평한 채용을 기할 수 있다.

마지막으로, 국가는 채용에 AI를 사용하는 규정과 윤리 기준을 만들어야 한다. 조직은 AI 기반 의사 결정 과정에서 투명성과 책임감을 높이는 정책을 구현해야 한다.

이러한 단계를 거치면 HR 전문가와 AI 개발자의 강점을 모두 포괄하는 보다 공정한 채용 시스템을 만들 수 있다.