フェイスブック「憎悪発言の９０％は申告前に事前に検出」

フェイスブックは、自社のプラットフォームに掲載されて削除された嫌悪発言などの違法投稿の約９０％は、利用者が申告する前に検出したと、１３日明らかにした。

フェイスブックは同日、「第５回コミュニティ規定の執行報告書」で、「昨年１０月から今年３月までの６ヶ月間、嫌悪発言などを人工知能（ＡＩ）で検出する技術で先制的に対応してきた」とし、「今後、先制的な検出技術を適用できる言語を持続的に拡大していきたい」と明らかにした。嫌悪発言の事前検出率が昨年第２～第３四半期比８ポイント改善された､というのがフェイスブック側の説明だ。

インスタグラムも、自殺と自傷行為のコンテンツを事前に把握できるように、テキストと画像マッチング技術を向上させた結果、事前検出率が昨年第２～第３四半期に比べて１２％上昇しており、削除勧告などの規制措置がとられたコンテンツの量も４０％増加した。


シン・ムギョン記者 yes@donga.com