생성형 AI 만난 금융업…"AI 관련 위험·규제에 철저히 대응해야"

생성형 AI가 금융산업에 빠르게 확산 중인 가운데, 금융회사들이 AI 관련 위험과 규제에 철저히 대응하는 AI 거버넌스 프레임을 구축해야 한다는 목소리가 나옵니다.

한국 딜로이트 그룹은 딜로이트 아시아태평양규제전략센터(ACRS)의 '아시아 태평양 지역의 생성형 AI 적용 및 규제' 국문본 보고서를 발간했다고 오늘(7일) 밝혔습니다.

이번 보고서는 아시아 태평양 지역의 기술 및 규제 관련 딜로이트 글로벌 전문가 12명과의 인터뷰를 통해, 정책 및 규제 당국이 기술 발전에 따라 기존 AI 프레임워크를 어떻게 재평가하는지 분석하고, 금융기업들이 규제 변화에 따른 미래 환경에 선제적으로 대비할 수 있는 방안을 제시했습니다.

오픈 AI의 '챗GPT(ChatGPT)'와 구글의 '바드(Bard)'와 같은 서비스는 AI 기술 개발 혁신과 함께 생성형 AI의 대중화를 이끈 바 있습니다.

이에 따라 아시아 태평양 규제 당국의 공통 위험에 대한 원칙도 빠르게 진화하는 모습입니다.

보고서는 규제 당국이 지적재산 침해, 잠재적 편향 등 AI로 인한 여러 위험 요소들을 고려해 기술 혁신을 통한 이익과 소비자 안전 사이의 균형을 찾아야 한다고 강조했습니다.

특히 개인정보의 유출과 재정적 위험 등 민감한 잠재 리스크를 가진 금융 서비스의 경우 규제 당국의 관심과 압박이 가시화될 수 있다고 판단했습니다.

보고서는 금융업계가 AI 관련 위험을 식별하고 관리하기 위한 몇가지 권고 사항을 제시했습니다.

향후 규제 준수와 위험 관리 지원을 위한 AI 거버넌스 프레임워크 개발하고, 학력과 소득 등 고객의 취약성에 대한 생성형 AI의 편향 또는 차별 발생 방지 조치를 구축해야한다는 구상입니다.

더불어 고객 개인정보 등 데이터 보호 의무를 준수하고, 지적 재산의 부주의한 노출이나 저작권 침해를 방지하기 위한 통제장치 구축, 생성형 AI 기술 관련 인재 확보 투자 및 기존 임직원 대상 AI기술 교육을 진행해야한다고 강조했습니다.

마쓰야마 아키히로 딜로이트 아시아태평양 리스크 자문 리더는 "AI 규제 및 법안은 아직 대부분의 국가에서 개발 또는 시행 초기 단계에 있지만, 금융회사는 가능한 한 빠르게 자체 AI 거버넌스 프레임워크를 구축하고 AI 관련 위험에 대응하기 위한 조치를 준비하는 등 신중한 접근 방식이 필요하다"며 "민간 부문은 규제 기관 및 입법 당국자와의 적극적인 대화를 통해 업계의 지식 및 경험을 공유해 규칙 제정 절차를 원활하게 하고, AI의 미래 경로에 대한 공감대를 이끌어내는 것이 필수적"이라고 설명했습니다.

장형수 한국 딜로이트 그룹 금융산업통합서비스그룹 고객산업 리더는 "생성형AI 도입으로 업무 효율성 향상과 고객경험 최적화와 같은 업무성장동력을 확보하고 경쟁력 우위를 부각하려는 금융회사는 편향성과 지적 재산권 침해, 규제 위험에 직면할 수 있다"며 "딜로이트는 '신뢰할 수 있는 인공지능' 프레임워크를 통해 윤리적이고 합법적인 방식으로 업계를 선도할 수 있는 솔루션을 제시한다"고 말했습니다.

[조문경 기자 / sally3923@mk.co.kr]