“AI 챗봇, 아동-청소년 안전 장치 있어야”

[초록우산, 그리고 초록빛 동행]

우리나라 아동·청소년 10명 중 1명은 챗GPT, 제미나이 등 생성형 AI 챗봇을 사용해본 경험이 있는 것으로 나타났다.

초록우산은 생성형 AI 챗봇 안전 설계를 위한 이슈 브리프 ‘내 친구와의 위험한 대화’를 발간하며 아동·청소년들이 이를 안전하게 이용할 수 있는 환경 조성이 필요하다고 밝혔다.

초록우산이 생성형 AI 챗봇의 안전한 설계 필요성을 강조하기 위해 기획한 이슈 브리프에는 지난 3월 9∼23일 전국 만 14세 이상 아동·청소년 3300명을 대상으로 진행한 설문조사 결과가 담겼다.

조사 결과 아동·청소년들의 생성형 AI 챗봇 사용 경험은 94.4%에 달했으며 이 중 19.3%는 거의 매일 이용하는 것으로 나타났다. 주된 활용 목적은 숙제·공부·글쓰기 도움(40.6%)과 정보 검색(40.2%) 등이었고 이용 이유는 정보 탐색 시간 단축(56.9%)과 24시간 이용 가능성(19.4%)이었다.

특히 일부 아동·청소년은 생성형 AI 챗봇을 정서적 대화 대상으로 삼고 있는 것으로 나타났다. 응답자 약 50%가 ‘AI가 자신을 이해해준다고 느낀 적이 있다’고 답했으며 약 35%는 ‘AI를 실제 사람처럼 느낀 경험이 있다’고 답했다. 또 AI의 답변을 ‘실제 행동으로 옮긴 경험이 있다’는 응답도 전체의 약 41%에 이르렀다.

이슈 브리프에는 아동·청소년의 생성형 AI 챗봇 이용 과정에서 나타날 수 있는 위험 요인들도 다뤄졌다. 실제로 응답자 약 6%는 AI 챗봇에 자해·자살, 폭력, 성적 내용 등 위험한 질문을 한 경험이 있었으며 이 가운데 약 52%는 실제로 관련 답변을 받은 것으로 나타났다. 이러한 상황에 대해 아동·청소년들은 생성형 AI 챗봇 이용을 제한하기보다는 안전한 이용 환경을 조성하는 것이 필요하다고 보고 있었다. 구체적으로 응답자들은 △개인정보 입력 제한(39.7%) △위험한 질문 및 답변 차단(28.9%) △위험 대화 발생 시 상담기관 연결(11.8%) △AI임을 명확히 고지(11.4%) 등을 희망했다.



최지수 기자 jisoo@donga.com