●클라우드 없는 온디바이스 AI
KAIST 인공지능반도체대학원 유회준 교수 연구팀이 개발한 LLM 가속기 ‘소울메이트’는 사용자 특성에 맞춰 스스로 진화하는 반도체다. 삼성 28nm(나노미터·10억분의 1m) 공정으로 쌀알(20.25mm²) 크기의 칩으로 구현됐다. 외부 서버(클라우드)를 거치지 않고 기기 자체에서 데이터를 처리하는 ‘온디바이스 AI’ 기술이기도 하다.
광고 로드중
16일 KAIST 본원에서 열린 시연에서 연구진이 “요즘 정말 외로워”라고 토로하자 소울메이트 칩이 꽂힌 태블릿 PC 속 AI는 0.2초 만에 “네가 저번에 조용한 방에서 울고 있을 때를 기억해? 그때처럼 공허해보여”라며 과거의 경험을 떠올렸다. 좀 더 용기를 주는 답변을 달라고 하자 “너는 사람들과 깊이 연결되는 법을 알고 있잖아. 새로운 우정이 널 기다리고 있어”라고 답했다. 연구를 이끈 유회준 교수는 “기존 LLM은 데이터센터에서 미리 학습한 정보를 바탕으로 사용자에 대한 ‘추론’만이 가능하지만, 소울메이트는 사용자 자체를 ‘학습’해 실시간 대화가 가능하다는 점이 가장 큰 특징”이라고 설명했다.
외부 서버를 거치지 않는다는 점은 보안 면에서도 유리하다. 연구에 참여한 홍성연 박사과정생은 “기존 온디바이스 AI는 연산량·메모리 한계로 클라우드에 의존할 수밖에 없어 개인 데이터 유출과 네트워크 지연이 불가피했다”고 설명했다.
소울메이트는 ‘피지컬AI’에도 최적화된 칩이 될 수 있을 것으로 평가된다. 스마트폰·웨어러블·개인형 AI 디바이스 등과 결합도 가능하다. 연구팀은 교원 창업기업 ‘온뉴로AI’를 통해 2027년경 소울메이트를 제품화 할 계획이다.
광고 로드중
지난해 문화체육관광부의 ‘2025 한국인 의식·가치관 조사’에서는 13~18세 청소년의 고민 상담 대상으로 ‘AI(7.3%)’가 ‘아버지(6.5%)’를 상회하기도 했다. 국제인공지능윤리협회(IAAE) 관계자는 “감정교류 AI 시장이 급증하고 있으나 과의존은 경계해야 한다”며 “감정교류 AI 특화 인증 제도 도입과 표준화된 평가 지표를 통한 안전성 검증이 필요하다”고 강조했다.
전혜진 기자 sunrise@donga.com