[CEO인사이트] 내년 AI 규제 본격화…규제와 혁신 사이 리더의 선택은?

▣ 편집자주 = 주요 산업에 대한 핵심 정보만 쏙쏙 뽑아 쉽게 정리해드리는 '인더스트리 인사이트(Industry Insight)'입니다. 산업별로 꼭 알아야 할 주요 상식, 전망, 과제 등을 간결하게 정리해 해당 산업을 한 눈에 꿰뚫어 봅니다.

◇ 올해 AI 규제 본격화…내년 규제 원년 전망

올해는 AI 규제의 기초가 다져지는 한 해였습니다.

내년에는 유럽연합(EU)의 AI법이 시행되고 각국의 규제 프레임워크가 구체화되면서 AI 규제 시대의 원년이 될 전망입니다.

EU는 AI 시스템을 위험도에 따라 4단계로 분류하고 고위험군에 속하는 의료기기나 채용 시스템에 대해 엄격한 데이터 관리와 투명성을 요구하고 있습니다.

미국도 AI 규제에 나섰습니다.

다만, EU와 달리자율규제 방식을 선택했습니다.

미국 국립표준기술연구소(NIST)가 제시한 AI 리스크 관리 프레임워크(AI RMF 1.0)는 법적 구속력은 없지만 이미 글로벌 스탠다드로 자리잡았습니다.

◇ AI 윤리, 기업가치의 새로운 척도

AI 윤리는 올 한 해 동안 기업가치를 좌우하는 핵심 요소로 부상했습니다.

대표적으로 과거 편향된 AI가 초래한 평판 리스크를 경험했던 아마존은 누구보다 발빠르게 AI 윤리 전담팀을 구성하고 알고리즘 감사를 강화했습니다.

구글 역시 AI 윤리위원회를 설치하고 윤리적 검증을 강화하는 등 발빠른 대응에 나섰습니다.

이러한 움직임은 내년에 더욱 가속화될 전망입니다.

◇ 한국 AI 전략, '글로벌 정합성 강화' 초점

올해 국내에서도 의미 있는 변화가 있었습니다.

우리나라의 AI 전략은 글로벌 스탠다드와의 정합성을 높이는 방향으로 진화하고 있습니다.

AI 연구·개발(R&D) 투자를 확대하고 데이터 규제를 합리화하는 한편, AI 윤리 가이드라인도 구체화했습니다.

네이버와 카카오는 이미 AI 서비스에 프라이버시 강화 기술을 적용하고 정기적으로 알고리즘 투명성 보고서를 발간하며 선도적인 행보를 보이고 있습니다.

◇ ESG 경영서도 AI 역할 강화

ESG 경영에서도 AI의 역할이 한층 강화되고 있습니다.

탄소배출 모니터링, 공급망 리스크 평가, 지배구조 투명성 강화 등 다양한 영역에서 AI가 활용되고 있습니다.

나아가 주요 ESG 평가기관들은 AI 거버넌스를 평가항목으로 도입했고 AI 윤리 정책과 데이터 보호 체계를 심도있게 검토하고 있습니다.

◇ AI 법적 리스크, 새로운 도전과제 떠올라

법적 리스크 관리도 새로운 과제로 떠올랐습니다.

AI 생성물의 저작권, 개인정보 활용, 알고리즘 차별 등 새로운 법적 쟁점들이 등장하면서 기업들의 고민도 깊어졌습니다.

구글은 AI 법무 검토를 강화하고 AI 프로젝트에 법률 검토 프로세스를 도입하며 법적 리스크에 대비하고 있습니다.

◇ 규제와 혁신 사이…리더의 선택은?

내년은 AI 규제가 기업 경영의 핵심 변수로 자리잡을 것으로 예상됩니다.

기업들은 규제 준수체계 구축, AI 거버넌스 고도화, 법적 리스크 관리라는 세 가지 과제를 해결해야 합니다.

AI 규제를 단순한 제약이 아닌 새로운 도약의 기회로 삼을 수 있을지, 기업들의 현명한 대응이 필요한 시점입니다.

보다 자세한 내용은 매일경제TV가 선보이는 프리미엄 콘텐츠 플랫폼 『CEO인사이트』 4호 'Aim Higher with AI: 목표를 다시 정의하라'에서 확인할 수 있습니다.


[ 김하영 기자 / kim.hayoung@mktv.co.kr ]