LG전자, 서울대와 AI 보안 산학연구센터 설립…LLM 보안 강화

크게보기

김병훈 LG전자 최고기술책임자(CTO·부사장)와 김주한 서울대 연구부총장이 최근 서울 관악구 서울대에서 ‘보안(Secured) AI 연구센터’ 설립 양해각서(MOU)를 체결하고 있다. LG전자 제공

LG전자가 서울대와 함께 인공지능(AI) 보안 기술을 연구하는 산학 연구센터를 설립한다. LG전자는 최근 서울 관악구 서울대에서 김병훈 LG전자 최고기술책임자(CTO·부사장)와 김주한 서울대 연구부총장 등이 참석한 가운데 ‘보안(Secured) AI 연구센터’ 설립 양해각서(MOU)를 체결했다고 14일 밝혔다.

신설 연구센터는 챗GPT와 같은 대규모 언어 모델(LLM) 에이전트의 보안 강화 기술, 데이터 유출 방지 기술 등을 연구하게 된다. 특히 소프트웨어 개발 및 운영의 전 과정에 보안 체계를 적용하는 ‘머신러닝 특화 보안 운영’ 모델을 확립할 예정이다. LLM 에이전트가 실생활에 널리 활용되고 있지만 거짓 정보를 만드는 할루시네이션(환각) 효과와 데이터 외부 탈취 시도 등의 문제가 계속되고 있다. LG전자 측은 “기존 보안 방식으로는 이런 문제에 종합 대응이 어려운 상황”이라고 말했다.

초대 센터장은 홍용택 서울대 전기정보공학부 교수가 맡는다. LG전자에서는 임효준 차세대컴퓨팅연구소장이 연구 과제를 점검 및 조율한다. 김 CTO는 “가전, 모빌리티 등 다양한 분야에서 AI 기술이 활용되면서 보안과 안전성은 필수”라며 “차세대 보안 기술을 고도화해 더 안전하고 신뢰할 수 있는 제품과 서비스를 제공할 것”이라고 말했다.