머스크 회사가 ‘가짜뉴스 쓰는 AI’ 개발했다

잘못된 정보 양산 우려해 ‘간편 버전’만 공개키로 일론 머스크 테슬라 최고경영자(CEO)가 설립한 인공지능(AI) 연구 기업 ‘오픈AI’가 설득력이 높은 가짜 뉴스를 대량으로 쓸 수 있는 알고리즘을 개발했지만 나쁜 목적으로 사용될 것을 우려해 기술의 일부만을 공개하기로 결정했다.

14일(현지시간) IT매체 엔가젯에 따르면 원래는 질문에 답하고, 이야기를 요약하고, 텍스트를 번역할 수 있는 일반화된 언어 AI로 설계된 이 AI는 몇 개 단어를 출발점으로 삼아 어떤 주제에 대해서도 그럴듯해 보이는 가짜 뉴스 기사를 만들어낼 수 있다.

MIT 테크놀러지 리뷰에 따르면 이 AI가 잘못된 정보를 양산할 위험성을 우려해 기술진은 ‘간편 버전’만 외부에 공개하기로 했다고.

다행히 이 기술은 아직 완전하지 못해서 다른 이의 글을 표절하거나 겉으로 보기에만 말이 되는 글을 쓰고 가끔씩 나무랄데없이 완벽한 글을 내놓는다. 하지만 오픈AI의 잭 클라크는 불과 1~2년 내로 반박을 위해 철저한 팩트체크를 해야만 하는 높은 수준의 가짜 뉴스를 만들 수 있다고 말했다.

전문가들은 오픈AI가 윤리 구현에 초점을 맞춰 가짜뉴스 생산 능력을 봉인했지만 하나의 조직(기업)에 불과한 점을 우려하고 있다. 다른 비양심적 기업이나 적대적인 정부가 대규모로 가짜 뉴스를 퍼뜨릴 수 있는 강력한 AI를 개발할 가능성이 있다는 것이다.

전문가들은 사회관계망서비스(SNS)가 지금까지는 가짜뉴스와의 싸움에서는 승리했지만 AI가 만든 오보가 범람한다면 이에 대처하기는 쉽지 않을 것으로 내다보고 있다.

(서울=뉴스1)

• 좋아요 이미지좋아요
• 슬퍼요 이미지슬퍼요
• 화나요 이미지화나요
• 후속기사 원해요 이미지후속기사 원해요

기사추천 이미지기사추천

공유 이미지공유

공유하기

닫기