머스크 회사가 ‘가짜뉴스 쓰는 AI’ 개발했다

뉴스1 입력 2019-02-15 14:13수정 2019-02-15 14:15
공유하기뉴스듣기프린트
공유하기 닫기
잘못된 정보 양산 우려해 ‘간편 버전’만 공개키로 일론 머스크 테슬라 최고경영자(CEO)가 설립한 인공지능(AI) 연구 기업 ‘오픈AI’가 설득력이 높은 가짜 뉴스를 대량으로 쓸 수 있는 알고리즘을 개발했지만 나쁜 목적으로 사용될 것을 우려해 기술의 일부만을 공개하기로 결정했다.

14일(현지시간) IT매체 엔가젯에 따르면 원래는 질문에 답하고, 이야기를 요약하고, 텍스트를 번역할 수 있는 일반화된 언어 AI로 설계된 이 AI는 몇 개 단어를 출발점으로 삼아 어떤 주제에 대해서도 그럴듯해 보이는 가짜 뉴스 기사를 만들어낼 수 있다.

MIT 테크놀러지 리뷰에 따르면 이 AI가 잘못된 정보를 양산할 위험성을 우려해 기술진은 ‘간편 버전’만 외부에 공개하기로 했다고.

다행히 이 기술은 아직 완전하지 못해서 다른 이의 글을 표절하거나 겉으로 보기에만 말이 되는 글을 쓰고 가끔씩 나무랄데없이 완벽한 글을 내놓는다. 하지만 오픈AI의 잭 클라크는 불과 1~2년 내로 반박을 위해 철저한 팩트체크를 해야만 하는 높은 수준의 가짜 뉴스를 만들 수 있다고 말했다.

주요기사
전문가들은 오픈AI가 윤리 구현에 초점을 맞춰 가짜뉴스 생산 능력을 봉인했지만 하나의 조직(기업)에 불과한 점을 우려하고 있다. 다른 비양심적 기업이나 적대적인 정부가 대규모로 가짜 뉴스를 퍼뜨릴 수 있는 강력한 AI를 개발할 가능성이 있다는 것이다.

전문가들은 사회관계망서비스(SNS)가 지금까지는 가짜뉴스와의 싸움에서는 승리했지만 AI가 만든 오보가 범람한다면 이에 대처하기는 쉽지 않을 것으로 내다보고 있다.

(서울=뉴스1)

0 개의 기사의견이 있습니다.댓글쓰기 Copyright ⓒ 동아일보 & donga.com
당신이 좋아할 만한 콘텐츠
기사 의견 0개의 기사의견이 있습니다.
동영상