번호이동 상담, AI가 척척

SKT, ‘텔코LLM’ 내달 선보여
AI 윤리가치 등 내부지침도 학습

SK텔레콤이 한국의 통신 전문 용어와 서비스를 잘 이해하는 거대언어모델(LLM) ‘텔코LLM’을 다음 달 선보인다.

SK텔레콤은 5세대(5G) 요금제, 공시지원금 등 통신 전문 용어와 인공지능(AI) 윤리가치 등 통신사의 내부 지침을 학습한 ‘텔코LLM’을 개발하고 있다고 30일 밝혔다.

텔코LLM은 통신사의 서비스나 상품 등 방대한 양의 데이터를 수집해 데이터를 선별하고 이를 학습시켜 만든 ‘통신 특화 LLM’이다. 범용 LLM이 통신사의 번호이동 방법이나 절차 등 전문지식을 제대로 학습하지 않아 요금제 추천 같은 고객 요구에 제대로 대응하기 어렵다는 점을 개선한 것이다. SK텔레콤의 에이닷엑스, 오픈AI의 GPT, 앤트로픽의 클로드 등 다양한 범용 모델을 조정하는 방식으로 개발 중이다.

회사 측은 텔코LLM은 상담사가 고객과 전화하는 동안 LLM이 상담사에게 해결책을 제공하고 상담이 끝난 뒤 고객과의 대화 내용을 요약해줄 수 있다고 밝혔다. 또 통신사 네트워크에 문제가 발생하면 텔코LLM이 장비 매뉴얼, 대응 사례 등의 정보를 기반으로 상황에 맞는 답변을 빠르게 제공할 수 있다고도 설명했다.


김하경 기자 whatsup@donga.com