스카이월드와이드, “AI 기능적 한계 인간이 극복해야”… 데이터편향문제 해결주도

스카이월드와이드(SKAI) 그래프RAG 기술로 공정하고 신뢰성 높은 AI 구현 앞장

AI는 일상과 업무에서 필수 도구로 자리 잡으며, 최근 지브리 열풍으로 촉발된 생성형 AI의 대중화로 그 영향력을 입증했다. 하지만 생성형 AI의 이면에는 ‘데이터 편향성’이라는 심각한 문제가 있다.

생성형 AI는 대규모 데이터셋을 기반으로 학습해 새로운 결과를 만들어낸다. 문제는 학습 데이터가 인종, 성별, 연령, 직업 등 사회적 편견을 반영하는 경우가 많다는 점이다. 실제로 일부 이미지 생성 AI는 ‘전문성이 낮은 사람’이라는 입력에 고령 유색 인종 남성을 반복적으로 생성하며 데이터 편향성 논란을 일으켰다. 이는 AI가 학습 데이터에 내재된 고정관념을 재생산하고, 나아가 사회적 편견을 증폭시킬 가능성을 보여준다.

데이터 편향성은 단순한 기술적 오류를 넘어 사회적 파급효과를 낳는다. AI의 결정과 추천이 점차 광범위한 영역에서 활용되며, 편향된 결과가 사회적 차별로 이어질 우려가 커지고 있다. 이에 업계는 데이터 편향성 문제를 해결하기 위한 다양한 기술적 접근을 모색 중이다. 주요 방안으로는 ▲데이터 전처리 및 필터링 강화 ▲공정성 중심 학습(Fairness-aware Training) ▲편향 모니터링 및 디버깅 도구 개발 ▲사용자 피드백 루프 등이 꼽힌다.

데이터 전처리는 유해하거나 편향된 데이터를 사전에 걸러내는 방식이며, 공정성 중심 학습은 성별, 인종 등 민감 속성을 고려한 손실함수 설계로 편향을 줄인다. 편향 모니터링 도구는 모델 응답을 분석해 편향 정도를 시각화하고, 사용자 피드백 루프는 편향적 응답을 신고받아 모델을 지속 개선한다. 챗GPT 개발사 오픈AI는 외부 데이터와 실시간 검색을 활용한 RAG(Retrieval-Augmented Generation) 기술을 강화하고, 사용자 피드백을 통해 모델을 개선하며 데이터 편향 문제를 해결하고 있다.

국내에서는 스카이월드와이드가 데이터 편향성 극복 기술로 주목받는다. SKAI는 RAG 기술뿐 아니라 더욱 진보된 그래프RAG 기술을 보유하고 있다. 그래프RAG는 외부 지식베이스를 검색해 응답을 생성하되, 데이터를 관계 중심의 지식그래프(GraphDB)로 저장해 도메인 특화 결과를 고도화한다. 이를 통해 더 정확하고 품질 높은 정보를 제공하며 편향성을 줄이는 데 기여한다.

SKAI 관계자는 “AI는 인간이 만든 도구인 만큼, 그 한계를 극복하는 열쇠도 인간에게 있다. 공정하고 신뢰할 수 있는 AI 기술을 위해 데이터 편향 문제를 해결하는 데 앞장설 것”이라고 밝혔다.