ユヴァル・ノア・ハラリ氏「ＡＩが誰を爆撃するか決定、異次元の脅威」

「石器時代の石包丁から印刷機、原子爆弾まで、これまでの科学技術革命は私たちの手にある道具だった。しかし、人工知能（ＡＩ）は自ら決定することができる。誰を爆撃するか、どんな兵器を発明するか分からない。ＡＩ革命はこれまでとは次元の異なる脅威になり得る」

世界的なベストセラー作家であるイスラエルの歴史家、ユヴァル・ノア・ハラリ氏（４９）が、２０１７年の著書『ホモ・デウス』刊行以来８年ぶりに来韓した。昨年出版した書籍『Ｎｅｘｕｓ』の国内出版に合わせて訪韓したハラリ氏は２０日、ソウル鍾路区（チョンロク）で懇談会を開き、ＡＩと人類の未来を診断した。

ハラリ氏は、「ＡＩという問題を扱うには、人類史上かつてないほど人類の協力が切実だ。しかし、私たちは互いへの信頼を急速に失いつつある」とし、「歴史上最も精巧な情報技術を持っているにもかかわらず、互いの対話はより難しくなった」と指摘した。

ハラリ氏はこのような現象が起きた原因として「ＡＩアルゴリズム」を指摘した。「真実探し」ではなく「ユーザーの参加度を高める」ことに合わせて設計され、ＡＩがソーシャルメディアで虚偽の情報だけでなく、恐怖や憎悪を刺激するコンテンツを拡散すると指摘した。

「長年の経験と装置に基づいて情報の真偽を判別する（新聞やテレビなどの）レガシーメディアとは異なり、新しいメディアの世界では、真実は底に沈み、安価で見栄えの良い虚構で世界が覆われている。これは民主主義を阻害する深刻な要因だ」。

ハラリ氏は、ＡＩがもたらすさらなるリスクを防ぐには、「信頼のパラドックスから解消しなければならない」と忠告した。

「ＡＩの流れを先導する人々に『なぜこんなに急ぐのか』と尋ねた時、返ってきた答えは『私たちが慎重に進むと、ライバルがＡＩ競争で勝つ可能性があるから』だった。互いが信頼できる基盤をまず築く必要がある。不信と対立から生まれたＡＩではなく、信頼に基づいて学習させたＡＩでなければ、信頼して頼ることはできない」。

ハラリ氏は、個々人が「ＡＩをどのように使用するかについて悩む時」と提言した。食事をした後に消化する時間が必要なように、情報に触れた後に省察する時間を持つべきだということだ。


イ・ジユン記者 leemail@donga.com