서울시 ‘AI 행정’ 지침 “판단·책임은 인간에게”

자체 인공지능(AI) 윤리 기준 적용
개인정보 보호·최종판단 책임 명시

서울시는 인공지능(AI) 기술 확산 속 시민이 신뢰할 수 있는 AI 행정을 구현하기 위해 ‘서울시 인공지능 활용 윤리 지침’을 제정했다고 4일 밝혔다. 올해부터 공공행정 전 분야에 적용한다.

이번 지침은 공공성, 공정성, 투명성, 책임성, 안전성 등 5대 원칙을 ‘서울형 AI 윤리 기준’으로 제도화한 것이 핵심이다. 서울시는 AI를 단순한 행정 효율화 수단이 아닌 시민 삶의 질을 높이는 공공 수단으로 활용한다는 방침이다. 이를 위해 알고리즘 편향 최소화와 차별 없는 접근, 최종 판단 책임은 인간이 지도록 하는 책임성 원칙, 개인정보 보호 등을 명시했다.

이번 지침은 지난해 9월 제정된 ‘서울시 인공지능윤리 기반 조성에 관한 조례’의 후속 조치다. 적용 범위는 서울시 본청과 자치구는 물론 투자 및 출연기관, 위탁 및 용역 수행기관까지 포함된다. 시 외부에서 이뤄진 AI 활용이라도 결과가 서울시 행정이나 시민 권익에 직접 영향을 미치면 지침을 적용한다.

서울시는 지난해 7월부터 서울AI재단과 타당성 분석 연구를 진행하고, 국제인공지능윤리협회 등 전문기관 의견을 수렴해 지침을 마련했다. 시는 향후 기술·정책 환경 변화에 따라 지침을 보완한다는 계획이다.