개인정보 보호의 일환으로 2024년 8월 제정

2024년 8월 9일 일리노이 주지사 JB 프리츠커는 ‘분석 사용 제한’(Limit Predictive Analytics Use) 법안으로 알려진 하원 법안 HB 3773에 서명했다. HB 3773에 따른 개정안은 2026년 1월 1일부터 시행될 예정이다. 이에 의하면 고용주는 AI(Artificial Intelligence)를 활용하여 고용 결정 및 직원 채용을 할 때, 불법적인 차별을 초래할 수 있는 두 가지 경우를 주의해야 한다.

첫째, 고용주는 노동자의 채용, 승진, 징계, 해고, 재임 기간 등을 결정할 때 AI를 사용할 수 없다. 둘째, 해당 고용주는 위에서 설명한 목적으로 AI를 사용할 경우, 이와 같은 사실을 해당 직원에게 반드시 알려야 한다. 고용주가 법안을 위반했을 시, 일리노이 고용노동부(Illinois Department of Human Rights, IDHR)에 고발할수 있으며, 고발 접수 후 100일 이내 증거 충분 여부를 결정하게 된다.

현재 미국에서 고용주가 채용 여부를 결정할때 AI 사용 여부를 공유하도록 요구하는 규정이 있는 주는 일리노이와 콜로라도가 유일하다. 2024년 5월 17일 콜로라도는 포괄적인 인공지능(AI) 법률인 “콜로라도 AI법(Colorado's AI Act, SB 24-205)”을 제정했으며, 이는 2026년 2월에 발효된다. 콜로라도는 기업들이 AI 도구에 대한 정기적인 감사를 실시하고, 그 결과를 주 정부에 제출하도록 의무화하고 있다. 2개 주 모두 채용 시 AI 사용에 대한 규정을 마련했지만, 사후 모니터링의 측면에서 차이를 보이고 있다. 일리노이도 콜로라도와 유사하게 AI가 인종이나 우편번호 등 개인정보를 사용하여 차별하지 못하도록 규제하지만, 콜로라도처럼 정기적인 감사를 요구하지는 않는다.

일리노이는 2008년부터 개인 정보 보호를 위하여 AI와 관련하여 다수의 법안을 제정한 바 있다. 2008년에는 ‘생체정보 개인정보 보호법’(Biometric Information Privacy Act, 740 ILCS 14)을 통해 기업이 소비자의 생물학적 정보를 확보할 경우, 소비자의 동의를 얻어야 한다고 규제했다. 2019년에는 ‘인공지능 영상 인터뷰법’(Artificial Intelligence Video Interview Act, 820 ILCS 42)이 제정되어 고용주가 채용을 위해 촬영한 영상 인터뷰를 AI로 분석하는 것을 규제했다. 2023년에는 IL HB 2123을 통해 AI를 활용한 딥페이크 등 악용 사례 처벌, IL HB 3563을 통해 수업에서의 AI 활용, 근무 환경에서의 AI 활용, 사이버 보안 등에 대해 규정했다.

취향 추천을 넘어서 인사관리에도 활용되는 AI

이와 같은 일리노이 주의 정책적 노력은 AI가 실생활에서 사용되는 경우가 증가하기 때문이다. 통상 자동화 기계, 자율 주행 자동차 등에 도입되어 산업적으로 활용되는 AI는 실생활에서도 다수 사용되고 있다. 대표적으로 Siri, 알렉사 등 유비쿼터스 스마트 디지털 도우미는 AI를 바탕으로 운영되고 있다. 또한 개인의 소비와 시청 패턴을 AI가 분석하여 넷플릭스, 유튜브 등에서 콘텐츠도 추천받고 있다. 이와 같은 AI의 활용에 있어 개인정보가 활용된다는 점이다. 예를 들어 유튜브의 추천 콘텐츠 기능의 경우, 해당 플랫폼에서 나이 또는 성별 등의 인구 통계학적 데이터, 개인의 시청 내역과 태그 기록 등 개인 정보를 활용하여 제공되게 된다.

데이터 베이스에 누적된 개인정보를 바탕으로 조금 더 적합한 직원을 채용하기 위하여 AI를 사용하는 경우가 증가하고 있다. 대표적 채용 사이트인 LinkedIn은 생성적 AI 기술을 활용하여 자사 플랫폼에 보유하는 구직자 9억 5천만 명 이상의 프로필, 구인처 6,300만 개사에 대한 데이터를 분석하고 있다. 이를 통해 채용 담당자의 수요에 맞는 적합한 구직자를 매칭시키고 있다.

또한, 구직자에게 이메일을 보낼때 AI로 내용을 생성해서 보내는 경우도 발생하였다. LinkedIn의 데이터에 따르면 AI로 생성된 메시지를 구직자에게 보냈을 때 답장 오는 빈도수가 AI를 사용하지 않았을 때보다 40% 증가했다고 한다. LinkedIn에서 추진한 설문조사에 의하면 이와같은 기능을 사용한 경험이 있는 채용 담당자들의 91%가 더 적합한 인재를 찾을 수 있었다고 답변했다.

글로벌 자동화 솔루션 기업인 IBM가 2023년 IT 분야 담당자 8,500명을 대상으로 진행한 설문조사에 의하면 응답자의 42%가 자사에서 신규 인력 채용시 AI를 활용하고 있다고 답변하였고, 또다른 40%는 향후 AI를 활용할 계획을 세우고 있다고 답변했다. 이와 같은 수요로 인해 LinkedIn 외 GoPerfect, Zoho 등 AI를 활용한 취업 매칭 플랫폼이 다수 등장하고 있다.

AI를 활용한 인사관리의 통제 필요성 증가

그렇지만 AI를 활용한 인사관리는 위험성이 높은 편이다. 대표적인 AI 플랫폼인 Tidio에서 미국 내 인사 담당자 1,000명을 대상으로 진행한 설문조사에 의하면 응답자의 21%는 이례적 경험과 자질을 보유한 후보자를 놓치게 된다고 응답하였고, 18%는 알고리즘을 어떤 식으로 구성하느냐에 따라 채용 여부가 달라질수 있는 위험이 있다고 응답하였다. 또한 16%는 구직자가 AI 기술을 해킹 등의 방식으로 통제할 수 있기에 정확한 정보를 얻기 힘들다는 점을 지적하였다.

반대로 AI로 제작된 허위 채용 공고로 피해를 입는 구직자들도 증가하고 있다. CNBC에 의하면 2023년 기준 미국 내 채용 사기 건수는 전년 대비 118% 증가하였다고 한다. 또한, 미국 연방거래위원회 발표에 의하면 채용 사기로 접수된 피해액은 2022년에 약 3.6억 달러로 전년 대비 76% 증가하였다고 한다. 해당 피해는 허위 채용 공고를 확인한 구직자의 계좌 정보와 사회 보장 번호(SSN) 등 개인 정보를 악용하여 발생한 것으로 파악된다.

시사점

최근 미국에서는 AI의 중요성이 강조되며 관련 기반 시설을 마련하고자 하는 노력이 활발해 지고 있다. 일리노이 주의 경우, 2019년부터 ‘데이터 센터 투자 지원법’을 통해 최소 2억 5천만 달러를 투자하고 있으며, 이러한 노력의 결과로 세계 최대 소셜 미디어 그룹인 ‘메타(Meta)’의 데이터 센터가 2023년 11월 시카고 디캘브 지역에 오픈하게 되었다. 메타는 그곳에 어플리케이션 및 기타 서비스 제공을 위한 IT 인프라, 서버 컴퓨터, 네트워크 회선 등을 마련하였다.

서비스 제공 시설 마련과 더불어 일리노이 주 정부를 비롯해 미국 정부는 AI 악용을 방지하기 위한 다수의 법안을 제정하고 있다. 그 중 일상생활과 관련하여 생체정보 보호법이나 딥페이크 악용 방지를 비롯해, 직장 내 인사 및 복무 관리시 AI를 활용하지 못하게 규제하는 법안들이 제정되고 있다.

국내기업이 미국으로 진출을 희망할 경우, 현지 법인 및 공장을 설립할 때 해야 하는 가장 중요한 절차 중 하나가 채용이다. 특히 직종과 업무 범위에 맞는 적합한 인재를 채용하는 것은 어느 곳에서든 어려운 일이다. 그렇기에 구직자와 구인처간 매칭률 제고를 위해 AI 기술을 활용한 다양한 채용 플랫폼이 등장하고, 채용 지원 서비스가 제시되고 있다. 그렇지만, 채용 과정의 편리성을 위해 AI를 잘못 이용할 경우, 더 큰 피해가 우려될수 있다. 이와 같은 위험을 방지하기 위해 일리노이 주에서는 AI 사용과 관련된 각종 법안을 제정하고 있기에, 관련 법안에 대한 지속 모니터링을 통해 법안에 맞는 조치를 취하는 것이 중요할 것으로 사료된다.

자료 : LinkedIn, 일리노이 주정부 홈페이지 등