이통사, 대형언어모델 경쟁…SKT '텔코 LLM'으로 시동
2024-04-30 15:15 입력
【 앵커멘트 】
방대한 양의 문장 데이터를 학습해 인간 언어로 답변을 주는 딥러닝 모델을 거대언어모델, LLM(Large Language Model)이라고 합니다.
통신사들이 범용으로 사용하는 LLM을 넘어 통신에 특화된 '텔코 LLM' 개발에 나서고 있는데요.
SKT는 올 6월 텔코 LLM을 선보일 예정입니다.
윤형섭 기자입니다.
【 기자 】
SKT가 올 6월 통신 특화 LLM을 선보입니다.
통신업에 특화됐기 때문에 텔코 LLM은 통신 서비스나 상품, 멤버십 혜택 등의 데이터를 선별해 활용합니다.
이를 바탕으로 범용 LLM보다 통신 영역에서 높은 수준의 생성형 AI 작업을 수행할 수 있습니다.
대표적으로 활용되는 영역은 고객 센터입니다.
상담사가 고객 문의에 대응하기 위해서는 필요한 내용을 실시간으로 사내 시스템에 검색해야 합니다.
이 과정에서 텔코 LLM이 필요한 답변을 생성하고 상담 후에는 그 내용을 요약해 작업 시간을 줄여주는 겁니다.
▶ 인터뷰 : 정민영 / SKT AI 플랫폼 담당
- "챗봇이나 MNO(이동통신사)에서 운영의 효율성을 올리는 부분을 상정하고 진행했고, 실제 적용 사례들이 나오고 있습니다."
이밖에도 통신 장비에 관한 오류를 확인하는 등 네트워크 운용에도 텔코 LLM이 활용됩니다.
SKT는 고객에게 맞는 요금제를 추천하거나 금융·공공기관 등 B2B 부문까지 적용 범위를 확대한다는 계획입니다.
KT도 고객센터에 LLM을 활용해 업무 효율성을 높였습니다.
AI 상담 어시스트로 문의 내용에 대한 답변을 추천하고, 상담 후 처리를 자동화했습니다.
또 KT는 소규모 언어모델(sLLM)을 스팸 메시지 필터에 활용합니다.
보이스피싱 조직이 꾸며내 정상 문자와 구분이 어려운 스팸을 필터링하는데 사용됩니다.
이통사들이 통신 특화 언어모델 개발에 속도를 내고 있습니다.
매일경제TV 윤형섭입니다. [ yhs931@mk.co.kr ]
[ⓒ 매일경제TV & mktv.co.kr, 무단전재 및 재배포 금지 ]
방대한 양의 문장 데이터를 학습해 인간 언어로 답변을 주는 딥러닝 모델을 거대언어모델, LLM(Large Language Model)이라고 합니다.
통신사들이 범용으로 사용하는 LLM을 넘어 통신에 특화된 '텔코 LLM' 개발에 나서고 있는데요.
SKT는 올 6월 텔코 LLM을 선보일 예정입니다.
윤형섭 기자입니다.
【 기자 】
SKT가 올 6월 통신 특화 LLM을 선보입니다.
통신업에 특화됐기 때문에 텔코 LLM은 통신 서비스나 상품, 멤버십 혜택 등의 데이터를 선별해 활용합니다.
이를 바탕으로 범용 LLM보다 통신 영역에서 높은 수준의 생성형 AI 작업을 수행할 수 있습니다.
대표적으로 활용되는 영역은 고객 센터입니다.
상담사가 고객 문의에 대응하기 위해서는 필요한 내용을 실시간으로 사내 시스템에 검색해야 합니다.
이 과정에서 텔코 LLM이 필요한 답변을 생성하고 상담 후에는 그 내용을 요약해 작업 시간을 줄여주는 겁니다.
▶ 인터뷰 : 정민영 / SKT AI 플랫폼 담당
- "챗봇이나 MNO(이동통신사)에서 운영의 효율성을 올리는 부분을 상정하고 진행했고, 실제 적용 사례들이 나오고 있습니다."
이밖에도 통신 장비에 관한 오류를 확인하는 등 네트워크 운용에도 텔코 LLM이 활용됩니다.
SKT는 고객에게 맞는 요금제를 추천하거나 금융·공공기관 등 B2B 부문까지 적용 범위를 확대한다는 계획입니다.
KT도 고객센터에 LLM을 활용해 업무 효율성을 높였습니다.
AI 상담 어시스트로 문의 내용에 대한 답변을 추천하고, 상담 후 처리를 자동화했습니다.
또 KT는 소규모 언어모델(sLLM)을 스팸 메시지 필터에 활용합니다.
보이스피싱 조직이 꾸며내 정상 문자와 구분이 어려운 스팸을 필터링하는데 사용됩니다.
이통사들이 통신 특화 언어모델 개발에 속도를 내고 있습니다.
매일경제TV 윤형섭입니다. [ yhs931@mk.co.kr ]
[ⓒ 매일경제TV & mktv.co.kr, 무단전재 및 재배포 금지 ]
