[디지털투데이 AI리포터] 미국 연방기관 4곳이 인공지능(AI) 편향성에 대한 규제를 행사할 의사가 있다고 경고했다.

25일(현지시간) 경제매체 CNBC는 미국 법무부와 소비자보호금융국(CFPB), 고용평등위원회(EEOC), 연방거래위원회(FTC)가 기존 법률 테두리 내에서 기업의 AI 사용에 대한 규제 조치를 취할 것을 공동 발표했다고 전했다.

이들 4개 기관은 미 의회가 신기술에 대한 명확한 규제를 논의하고 있지만, 이미 AI 기술을 남용 및 오용하는 기업들을 추적할 수 있는 수단을 보유하고 있다고 밝혔다.

일례로 로힛 초프라 CFPB 국장은 CFPB가 AI 기술을 활용한 디지털 레드라이닝 행위를 조사하고 있다고 말했다. 디지털 레드라이닝은 디지털 기술, 디지털 콘텐츠, 인터넷을 사용해 소외된 그룹들 간의 불평등을 만들고 영구화하는 관행을 말한다. CFPB는 AI 평가 모델이 주거용 부동산을 산정할 때 보호장치를 갖추는 규칙을 제안할 계획이다. 

리나 칸 FTC 위원장은 "사기를 촉진하거나 불법적인 편향을 유지하는 시스템은 FTC 법에 위배될 수 있다는 것을 기업들은 알고 있어야 한다”고 말했다. 이어 "모든 AI에 예외 조항은 없으며, 기업들은 AI 기술에 대한 책임을 지도록 준비하고 있어야 한다"고 강조했다.

또한 칸 위원장은 소규모 기업이 AI 제품 개발 및 배포에 필요한 빅데이터, 클라우드 서비스 등 필수 자원을 독점하면서 불공정한 경쟁을 유발할 수 있다고 우려했다.

크리스텐 클라크 법무부 시민권리국 국장은 메타가 성별, 인종 등 차별을 일으키는 알고리즘을 사용했다는 주장을 예로 들었다. 그는 기업들이 AI를 차별적으로 사용하는 경우 연방 시민권 법률을 기반으로 기업들을 처벌하겠다고 강조했다.

클라크 국장은 "AI로 인한 차별은 정책 결정자 및 기타 이해관계자들에 의해 더욱 자세히 연구되고 조사돼야 한다”면서 "AI 위협에 대해 각 연방기관은 인권법 등 각종 대응 방안을 만들 것”이라고 덧붙였다.

샬롯 버로우스 고용평등위원회 의장은 AI를 사용한 채용 및 모집 방식에 대해 언급하며, 편향된 데이터셋으로 훈련된 경우 잘못된 결정을 내릴 수 있다고 강조했다.

의회도 빠르게 행동하고 있다. 찰스 슈머 상원 민주당 대표는 이달 초 AI 법안에 대한 포괄적 프레임을 마련하고 있으며, 이는 의회의 우선 순위라고 강조했다.