[집중취재] AI 열풍에 '윤리·보안' 중요성 커져…AI 규제 현주소는?

【 앵커멘트 】
AI 시대가 본격적으로 개화하면서, 윤리와 보안에 대한 중요성도 커지고 있습니다.
기술이 발전하는 속도가 빨라지면서, 법과 규제가 그 속도를 따라가지 못하는 모습인데요.
자세한 내용 스튜디오에 나와 있는 취재기자와 이야기 나눠보겠습니다.
조문경 기자, 안녕하세요.

【 기자 】
네, 안녕하세요.

【 앵커멘트 】
AI 열풍이 계속되는 가운데, 한 배우의 목소리가 도용됐다는 의혹이 제기되면서, 논란이 되고 있죠?

【 기자 】
네, 맞습니다. 챗 GPT 개발사 오픈AI의 새 모델 GPT-4o(포오)의 음성이 미국 영화배우의 목소리를 도용했다는 논란에 휩싸였는데요.

논란이 된 AI의 목소리를 잠시 듣고 오겠습니다.

▶ 인터뷰 : GPT-4o
- "지금 라이브 데모를 하는거야? 멋지다. 심호흡을 먼저 하고, 너가 전문가라는 걸 잊지마."

방금 들으신 이 목소리가 AI와 사람이 사랑에 빠지는 내용인 영화 '그녀'(Her)에 출연한 스칼릿 조핸슨의 목소리를 모방했다는 의혹이 제기된 겁니다.

오픈 AI 측은 부인했지만, 조핸슨이 법적 조치를 시사하면서 논란이 커진 상황입니다.

이 밖에도 최근 AI가 만들어낸 이미지를 활용한 허위 정보가 지난해 초 이후 급증했다는 구글과 듀크대 연구팀의 연구 결과가 나오기도 했습니다.

【 앵커멘트 】
이렇게 AI 기술이 발전하면 할수록 안전과 윤리를 위협하는 문제가 발생하면서, 관련 논의에 대한 필요성도 커지고 있는데요.
이달 열린 AI 정상회의에서도 AI 분야의 보안과 윤리가 강조됐죠?

【 기자 】
네, 정부와 재계 모두 AI 보안과 안전의 중요성에 대해 공감했는데요.

특히 윤석열 대통령은 이 자리에서 AI 안전에 대한 실질적인 국제협력 강화를 촉구했습니다.

잠시 윤 대통령 발언 듣고오시죠.

▶ 인터뷰 : 윤석열 / 대통령
- "서울선언을 통해 AI의 안전, 혁신, 포용이라는 상호 연관된 목표에 공감대를 이루었고, AI의 위험과 기회를 균형있게 다루기 위해 국가와 기업이 가져야할 문제의식을 공유했습니다. 서울 의향서를 통해 AI 위험에 대한 결의를 재차 다질 수 있었고, 각국 AI 안전 연구소 간의 글로벌 네트워크를 구축하는 계기를 마련…,"

AI 관련 기업들 역시 뜻을 함께했습니다.

구글과 오픈 AI, 삼성전자 등 글로벌 빅테크 기업들은 안전한 AI 사용과 개발에 대해 서약하는 '프론티어 AI 안전 서약'에 참여했는데요.

이재용 삼성전자 회장은 이날 'AI의 악용 최소화'를 강조하며, 이를 위한 국제사회의 노력에 동참하겠다는 뜻을 밝혔습니다.

【 앵커멘트 】
그만큼 AI 관련 규제가 더 중요해지고 있다고 봐도 될 것 같네요.
이런 가운데 최근 유럽연합, EU가 세계에서 최초로 AI기술 규제법을 승인했다고요?

【 기자 】
네, 그렇습니다. 초안이 발의된지 약 3년 만에 지난 21일 해당 법을 확정한 건데요.

EU의 AI법은 기술을 위험 수준에 따라 4단계로 나눠 규제하기로 했습니다.

법을 위반하는 기업의 경우 세계 매출의 최대 7%의 벌금을 부과 받을 수 있게 되는데요.

이와 더불어 주요국들 역시 AI 관련 규제 마련을 위한 논의에 들어가고 있습니다.

미국 정부는 AI모델의 안전과 관련한 행정명령을 발동하는가 하면, AI 콘텐츠 식별을 위한 워터마킹 도입 등도 추진중입니다.

일본과 중국 정부도 국가 차원의 AI 규제를 검토하고 있는데요.

중국은 생성형 AI 서비스를 대상으로하는 24개의 정부 발행 가이드라인을 발효했고, 일본도 생성형 AI 개발자를 염두해 둔 규제 도입을 준비중입니다.

【 앵커멘트 】
전세계적으로 AI 규제법을 위한 움직임이 커지고 있는데, 한국의 상황은 어떻습니까?

【 기자 】
한국은 AI 규제를 위한 초기 단계부터 난항을 겪고 있는데요.

AI 규제를 위한 가이드라인이 되는 AI 기본법의 입법이 21대 국회에서 실패했기 때문입니다.

AI 기본법은 AI 산업 육성에 필요한 정부 전담 조직 신설과 연구개발(R&D) 지원, 규제 대응 등을 담고 있는데요.

AI 기본법이 안건에 대한 여야의 견해 차로 결국 폐기되면서, 22대 국회로 업계의 시선이 쏠리는 모습입니다.

원점으로 논의가 돌아간 만큼, 연내에는 법안 통과가 어려울 것이라는 전망이 우세합니다.

잠시 전문가 의견 듣고 오시죠.

▶ 인터뷰(☎) : 홍기훈 / 홍익대 경영대학 교수
- "법안에 무엇이 실릴지가 더 중요한 거거든요. 저번 국회에서 됐다면 좋았겠지만 기왕 뒤로 밀리는 거 EU 등 다른 국가들의 규제가 어떤 결과를 낳는지 보고 부족한 점들을 배워서 더 좋은 법안을 통과시키는 것도 방법…."

【 앵커멘트 】
아직까지 AI 관련 법안이 계류중이라니 갈 길이 멀어 보이는데요.
AI 관련 기업들은 내부에서 대응 전문조직을 만들고 있다고요?

【 기자 】
네, 국내에서는 KT가 지난달 AI 윤리 문제에 대응하는 '책임감 있는 인공지능 센터'를 새롭게 만들었는데요.

네이버 역시 올해 초 최수연 대표 직속으로 인공지능 안전성 연구 전담 조직인 '퓨처 에이아이(AI) 센터'를 열었습니다.

더불어 LG그룹의 LG AI연구원도 유네스코와 함께 AI 윤리 플랫폼과 교육 과정 개발을 위한 협업을 추진 중인데요.

AI 기술의 고도화가 계속해서 이뤄지는 만큼, 안전한 사회를 만들기 위한 정부와 기업 차원의 노력이 더욱 필요해 보입니다.

【 앵커멘트 】
네, 잘 들었습니다.

[조문경 기자 / sally3923@mk.co.kr]