“학교 총격 범행 계획 신고 안했다” 챗GPT 상대 소송

지난달 캐나다 학교 총격 사건 피해자 제기
오픈AI 범인 차단 추가 계정 만든 일 뒤늦게 공개

AP뉴시스

지난달 캐나다 브리티시컬럼비아 주 시골 마을 학교에서 발생한 총격 사건의 한 피해자 어머니가 챗GPT의 운영사 오픈AI가 범행 징조를 포착하고도 경찰에 신고하지 않았다며 소송을 제기했다고 미 뉴욕타임스(NYT)가 10일(현지시각) 보도했다.

소송은 머리 등 3곳에 총격을 받고 여러 차례 뇌수술을 받고 입원중인 마야 게발라(12)의 부모들이 제기했다.

범인 제시 반 루츠라르(18)는 지난달 10일 텀블러리지의 자택에서 어머니와 11세 남동생을 살해한데 이어 텀블러리지 중고등학교에서 학생 5명과 교사 1명을 살해하고 학생 2명에게 부상을 입힌 뒤 스스로 목숨을 끊었다.

오픈AI는 공격이 있기 8개월 전 반 루츠라르와 연결된 챗GPT 계정이 이용 약관을 위반해 정지됐다고 밝혔다. 그는 여러 소셜미디어 계정에 폭력과 무기에 대한 집착을 기록해 왔다.

게발라의 어머니 시아 에드먼즈는 소송에서 오픈AI가 “총격범의 폭력적 의도”를 알고 있었으며, 총격범이 챗GPT를 이용해 “다수 사상자 사건을 포함한 총기 폭력 관련 시나리오”를 계획한 것도 알고 있었다고 주장했다.

오픈AI는 반 루츠라르의 계정이 자동화 시스템에 의해 감지된 뒤 담당 부서에서 다시 검토한 뒤 정지했다고 밝혔다.

오픈AI는 캐나다 당국에 신고하는 것을 고려했지만, 메시지가 사용자의 즉각적인 계획 착수 가능성을 따지는 자사의 신고 기준에 부합하지 않는 것으로 최종 판단해 신고하지 않았다고 밝혔다.

한편 캐나다 당국이 지난달 오픈AI의 최고 안전 담당자들과 회의했으며 이후 오픈AI는 반 루츠라르가 계정이 차단됐을 때 두 번째 챗GPT 계정을 만들었음을 공개했다.

[서울=뉴시스]