율촌·한경 '아시아 미래 AI포럼'

줄리에 브릴 MS 부사장

안면인식 AI기술 적용땐
불법 이민자 격리 등 정치적으로 쓰일 수 있어

점차 커지는 'AI 공포'
운영 전과정 투명 공개를
“지난달 마이크로소프트(MS)는 미국 정부에 안면인식 기술을 규제하라고 요청했습니다. 인공지능(AI)을 인간을 차별하는 일에 사용할 수 없기 때문입니다.”

줄리에 브릴 MS 부사장(사진)은 23일 서울 삼성동 파르나스타워에서 열린 ‘아시아 미래 AI포럼’에서 AI와 인간의 관계를 이렇게 설명했다. 그는 MS에서 글로벌 개인정보 보호와 규제 관련 업무를 담당하고 있다.

브릴 부사장은 “AI는 인간이 믿고 사용할 수 있는 도구가 돼야 한다”며 “기업 스스로 신뢰를 제고해야 한다”고 강조했다.

왜 MS는 미국 정부에 안면인식 기술 규제를 도입하라고 촉구했을까. 최근 MS는 미국 이민세관단속국(ICE)에 안면인식용 AI 기술을 제공하기로 결정했다가 직원들의 반발에 부딪혔다. 직원들은 불법 이주자를 격리하는 정책에 AI를 쓸 수 없다며 반대했다. 기술적으로 AI가 사람을 완전히 구별할 수 없다는 주장도 제기됐다.

브릴 부사장은 “AI를 시험한 결과 여성과 유색인종을 잘못 판단하는 문제가 있어 계약을 철회했다”며 “AI로 할 수 있는 일이 꼭 AI가 해야 하는 일은 아니다”고 말했다.
AI가 발전하면서 AI에 대한 공포도 커지고 있다. AI가 인간의 직업을 대체하거나 인간을 감시하는 수단이 될지 모른다는 우려가 나온다. 중국에서는 폐쇄회로TV(CCTV)에 안면인식 기술을 적용해 보행자를 실시간으로 감시하는 기술마저 등장했다.

브릴 부사장은 이 같은 문제를 극복하려면 기업이 스스로 AI의 신뢰성을 높여야 한다고 말했다. 기업이 AI 운영 과정을 투명하게 밝히고, AI가 끼치는 영향에 책임질 것을 주문했다.

그는 “AI 개발 기업은 보안성부터 결과의 공평성까지 다양한 분야를 고려해야 한다”며 “정부도 업계와 대화를 통해 적합한 규제를 도입해야 한다”고 주장했다.

소비자의 데이터 소유권도 강화해야 한다고 덧붙였다. 지난 5월 유럽연합(EU)은 일반개인정보보호법(GDPR)을 시행하며 정보통신기술(ICT) 기업이 수집한 개인정보를 비식별화할 것을 의무화했다. AI 개발에 쓰이는 개인정보를 보호하기 위한 조치다.

브릴 부사장은 “GDPR 시행은 AI 관련 규제의 시작”이라며 “소비자가 원한다면 기업이 보유한 개인정보를 삭제할 권리를 얻어야 한다”고 말했다.

배태웅 기자 btu104@hankyung.com
한국경제신문 엣지팀에서 스타트업과 IT 기기 리뷰를 담당하고 있습니다.

ⓒ 한경닷컴, 무단전재 및 재배포 금지