미국 주 의회들의 잇단 제정 움직임··· AI 규제 환경, 이미 복잡해졌다

미국 내 12개 이상의 주에서 AI 사용과 관련된 법률이 통과됐다. 추가로 여러 주 의회에서 규제를 논의하는 중이다. 새로운 법률과 각종 규정이 CIO의 AI 전략에 어떤 영향을 미칠 수 있는지 알아본다.

지난 한 해 동안 인공지능 도입이 급증하면서 기계의 잘못된 결정으로부터 사람들을 보호하기 위한 규제가 필요하다는 목소리가 높아졌다. 이에 규제 기관은 각종 새로운 법령과 의무를 신설하며 대응하고 있다. 예를 들어, 미국 백악관은 AI 권리장전의 청사진을 발표했으며, 유럽 의회는 3월에 유럽연합에서 사용되는 AI를 규제하는 광범위한 AI 법안을 통과시켰다.

규제에 대한 요구는 민간 분야에서도 나타나고 있다. 미국에서는 마이크로소프트, 구글, 오픈 AI의 리더들이 모두 AI 규제를 촉구했다. 기업 규제에 반대하는 미국 상공회의소도 AI 사용이 확대됨에 따라 인권과 국가 안보를 보호해야 한다고 의회에 촉구했다.

그러나 정쟁을 거듭하고 있는 의회가 중대한 AI 법안을 조만간 추진할 가능성은 낮다. 2023년과 2024년에 걸쳐 열리는 118대 의회에서는 2023년 초부터 올해 4월 1일까지 통과되어 법제화된 법안이 47개에 불과하다. 미국 역사상 ‘덜 움직인’ 회기로 기록될 수 있을 정도다.

하지만 의회의 활동이 없다고 해서 미국 내 AI 규제 움직임이 멈춰 있는 것은 아니다. 1월 말 기준으로 16개 주에서 이미 AI 관련 법안을 제정했다. 또 여러 주 의회는 올해 미국 전역에서 2023년의 6배에 달하는 400개 이상의 AI 법안을 이미 발의했다.

AI 워킹 그룹을 설립한 글로벌 로펌 BCLP의 변호사 마다비는 이러한 법안 중 상당수가 AI 기술 개발자와 AI 도구를 사용하는 조직 모두를 대상으로 하고 있다고 전했다. 캘리포니아, 뉴욕, 텍사스, 플로리다 등 인구가 많은 주에서 AI 법안이 통과되었거나 검토되는 상황이다. 기업들로서는 이미 규제를 피할 수 없는 형국이 펼쳐지고 있다.

마다비에 따르면 AI를 개발하고 사용하는 기업은 스팸 필터링과 같은 간단한 자동화 도구를 배포할 때에도 AI 도구의 작동 방식에 대한 질문에 답할 준비가 되어 있어야 한다. "이러한 질문은 소비자에게서 나올 것이고, 규제 당국으로부터도 나올 것이다. 전반적으로 이에 대한 조사가 강화될 것이 분명하다”라고 그는 말했다.
 

캘리포니아와 코네티컷이 빠른 움직임
주목해야 할 주 중 하나는 캘리포니아다. 일단 이 지역의 주 의회가 소비자 보호 문제에 대해 앞서가는 경향이 있다. 또 미국 전역에 미치는 영향이 크다. 마다비는 "캘리포니아의 경제 규모를 고려할 때 미국 내 대부분의 기업은 캘리포니아를 타깃으로 하고 있으며, 캘리포니아에서 사업을 하고 있을 것이다"라고 말했다. 

지난 2월 캘리포니아 주 의회에 발의된 상원 법안 1047은 AI 제품을 출시하기 전에 안전 테스트를 의무화하고, AI 개발자가 다른 사람이 심각한 해를 끼치는 데 사용되는 파생 모델을 만들지 못하도록 하는 내용을 담고 있다.

주목해야 할 또 다른 주로는 입법부가 AI 규제에 높은 관심을 갖고 있는 코네티컷 주라고 마다비는 덧붙였다. 코네티컷 주에서 제안된 AI 법안은 다른 주 의원들에게도 모범이 되고 있다는 설명이다. 

작년에 코네티컷 주의회는 AI 도구의 주정부 조달을 규제하는 상원 법안 1103을 통과시켰다. 또 코네티컷 주 의원들은 올해 '고위험' 결정을 위해 AI를 배포하는 조직이 위험 관리 정책을 개발하도록 의무화하는 상원 법안 2를 고려하고 있다. 아울러 개발자는 AI가 사람을 차별하는 데 어떻게 사용될 수 있는지 공개해야 한다.

포괄적인 SB 2는 또한 AI를 배포하는 조직이 알고리즘 차별로부터 주 주민을 보호하기 위해 합리적인 주의를 기울일 것을 요구하는 법이다. 이는 AI를 사용하는 기업이 AI 도구로 인해 영향을 받는 사람들에게 중요한 결정을 내릴 때 이를 알릴 것을 요구한다.

이 법안은 또한 AI가 생성한 기만적인 선거 자료의 배포를 금지하고, 합성 미디어 콘텐츠를 사용하는 회사는 해당 콘텐츠가 AI에 의해 조작되었음을 공개하도록 의무화한다. “코네티컷 주 법안은 매우 야심차게 다양한 문제를 해결하려고 노력하고 있다"고 마다비는 말했다.

세 가지 유형의 AI 법안
마흐다비에 따르면 AI를 대상으로 하는 대부분의 주 법안은 세 가지 유형으로 분류된다. 첫 번째 범주는 순수 투명성 법안이라고 할 수 있다. 일반적으로 AI의 개발과 사용의 결과물을 모두 다룬다. 캘리포니아, 뉴욕, 플로리다 및 기타 주에서 도입된 이러한 법안은 AI를 사용하는 조직이 AI 모델과 상호 작용할 때 대중에게 알리도록 요구하고 AI 개발자와 사용자에게 대규모 AI 학습에 사용된 데이터 집합을 공개하도록 요구한다. 다른 투명성 법안들은 정치 캠페인의 AI 사용을 규제한다.

두 번째 범주는 특정 분야, 특히 고용, 주택, 의료 및 기타 주요 생활 문제와 관련된 결정을 결정하거나 지원하기 위해 AI를 사용하는 고위험군에 초점을 맞추고 있다. 예를 들어, 2021년에 통과된 뉴욕시 지방법 144는 고용주와 직업소개소가 전년도에 감사를 받지 않은 경우 고용 결정에 AI 도구를 사용하는 것을 금지하고 있다. 마다비는 뉴욕, 뉴저지, 버몬트 등 몇몇 주에서 뉴욕시 법안을 모델로 삼아 법안을 마련한 것으로 보인다고 분석했다.

세 번째 범주의 AI 법안은 투명성, 편향성 방지, 영향 평가 의무화, 소비자 옵트아웃 규정 및 기타 문제에 초점을 맞춘 광범위한 것들이다. 이러한 법안은 AI 개발자와 배포자 모두에게 규제를 부과하는 경향이 있다고 마다비는 말했다.

CIO가 대처하기
AI를 규제하는 주법이 확산됨에 따라 조직은 규정 준수를 염두에 두고 배포 전략을 재고해야 할 수도 있다고 IT 솔루션 제공업체 사이버 커맨드(Cyber Command)의 설립자 리드 테일러는 말했다. 

그는 "이러한 법률은 특히 데이터 프라이버시와 관련하여 AI 시스템의 윤리적 사용과 투명성을 강조하는 경우가 많다. AI가 의사 결정 프로세스에 어떤 영향을 미치는지 공개해야 한다는 요구 사항으로 인해 기업은 배포 전략을 재고해야 할 수 있다"라고 말했다.

그러나 미국 전역의 주법이 복잡하게 얽혀 있는 현실은 자원이 없는 중소기업에게 어려운 환경을 조성한다고 그는 덧붙였다. 테일러는 “복잡다단한 주법으로 인해 AI 구현에 대한 보다 신중한 분위기를 초래할 수 있다. 규정 준수와 윤리적 고려 사항을 우선시하게 될 수 있다"라고 말했다.

그러나 잠재적으로 부정적인 영향도 있다고 덴버의 로펌인 베이스캠프 리걸(Basecamp Legal)에서 주 AI 법안을 모니터링하는 변호사 아드리안 피셔는 지적했다. "주마다 규제가 다양하기 때문에 규정 준수에 따른 복잡성과 비용으로 인해 잠재적으로 비즈니스가 위축될 수 있다. 이러한 파편화된 규제 환경은 AI 사용에 대한 일관된 프레임워크를 제공하기 위한 국가 표준 또는 법률의 필요성을 환기한다"라고 그는 말했다.

단 진화하는 법적 요건을 선제적으로 모니터링하고 준수하는 조직은 전략적 이점을 얻을 수 있다는 진단이다. 피셔는 "법규보다 앞서 나가면 위험을 최소화할 수 있을 뿐만 아니라 윤리적 AI 관행에 대한 헌신을 보여줌으로써 소비자 및 파트너와의 신뢰를 구축할 수 있다"라고 말했다.

마흐다비는 기업이 규제 환경이 안정될 때까지 기다리지 말 것을 권장했다. 기업은 먼저 사용 중인 AI 제품의 목록을 작성해야 한다. 또 신용, 의료, 보험 및 기타 영향력이 큰 영역에서 의사 결정을 내리는 제품에 초점을 맞춰 사용하는 모든 AI의 위험도를 평가해야 한다. 그런 다음 기업은 AI 사용 거버넌스 계획을 수립해야 한다.

그는 "어떤 AI 도구를 사용하고 있는지 파악하지 못하면 위험성도 포착할 수 없다"라고 말했다. ciokr@idg.co.kr