2019年2月、イーロン・マスク氏らが投資しているAI(人工知能)研究機関の「OpenAI」は、自然な文章を生成する言語モデル「GPT-2」を発表した。その後、同モデルは「フェイクニュース」の大量生成に悪用されるとして、モデルの一部の公表を見送り、話題となっている。今回は、弁護士の二木康晴氏に、AIによるフェイクニュースの危険性について聞いた。

Q1 AIを利用してどのようにフェイクニュースが生成されるのか。

A1 OpenAIが公表したモデルは、ある文章を入力すると、それ以降に来る自然な文章を予測し、自動的に生成するというものである。

 例えば、「科学者は、アンデス山脈のこれまで未開となっていた奥地の谷に、ユニコーンの群れが生息していることを発見した。」という文章を入力すると、「その科学者は、その群れが有する特徴的な角にちなんで、オヴィディウスのユニコーンと命名した」や、「ラパス大学の進化生物学者のJorge Perez博士らがアンデス山脈を探検していた」などの関連性のありそうな文章を自動で追加していく。

 また、AIによって動画中の人物の顔を別の顔にすり替えるなどし、身に覚えのない振る舞いをさせる動画「ディープフェイク」も大きな問題となっている。2018年4月に、米国のニュースメディアBuzzFeedが、オバマ元大統領がトランプ現大統領を罵る動画を制作し、話題を呼んだ。

Q2 このようなフェイクニュースはどのような危険性をはらんでいるのか。

A2 AIによって、一見して真実と見まがうようなニュースや動画が大量に生成されることになる。それらのニュースは、SNSなどによって、従来とは比較にならないほどのスピードで拡散し、その影響は甚大なものとなるだろう。

 個人の名誉や信用が害されることはもちろん、場合によっては、大統領選挙の帰趨(きすう)に影響を与えたり、国家間の紛争を引き起こしたりする可能性すらはらんでいる。

内容規制は報道の自由とぶつかるため慎重さが求められる

Q3 法規制はないのか。

A3 例えば、公職選挙法では、候補者に関し虚偽の事項を公にすることなどが禁止されている(公選法第235条参照)。虚偽の風説を流布し、または偽計を用いて、人の信用を毀損(きそん)し、またはその業務を妨害した場合には、偽計業務妨害罪(刑法第233条)も問われることになるだろう。

 また、18年4月、マレーシアでは、フェイクニュースの発信者に対し、最高50万リンギ(約1350万円)の罰金や6年以下の禁錮刑を科す法律が可決されるなど、諸外国でもフェイクニュースを取り締まる動きは広まっている。

 ただし、フェイクニュースを内容に着目して規制する場合には、報道の自由、ひいては表現の自由と正面からぶつかることになるので、萎縮効果にも配慮して慎重な対応が求められるだろう。現に、マレーシアの同法案は、時の政権によって政治利用されるなど、問題が頻発したため、わずか数カ月後の18年8月には廃止されることになった。

Q4 今後フェイクニュースとどう向き合うべきか。

A4 フェイクニュースを量産する技術が発展してきたように、フェイクニュースを見破る技術も当然向上している。

 例えば、ディープフェイクのように、動画を編集することでフェイク動画を作り出す場合には、インターネット上に元になったオリジナル動画が存在する可能性が高い。そのため、オリジナル動画を見つけ出すことが、その真偽を判別する際に有益になるだろう。また、動画の内容自体に着目するのではなく、その動画の撮影日時や撮影者、投稿者等のメタデータから不自然な情報を判別する方法もある。

 もっとも、フェイクニュースは、一旦広まってしまった場合、それが後から虚偽(フェイク)であることが判明したとしても、その影響(特に印象)を完全に拭い去ることが困難である。そのため、抜本的な対策としては、フェイクニュースが世に広まる前に、拡散経路を遮断することが望ましい。ニュース配信事業者やメディア、SNSのプラットフォーマーなどが、フェイクニュースを拡散しないように、どのように対応するかが重要となってくるだろう。

 これまでインターネットの発展により、情報発信の主体が、マスメディアから個人へと移ってきた。しかし、名もなき個人が発信する情報には、真偽不明の情報が多く、AIがこれをさらに助長する危険性もある。あらゆる情報が一瞬で伝播(でんぱ)する時代にこそ、しっかりとしたファクトチェックや品質管理が求められるだろう。即時性を追求したインターネット情報から、旧来型のオールドメディアへの揺り戻しもあり得る。

 「火のない所に煙は立たぬ」「百聞は一見に如かず」。いずれも至言ではあるものの、現代のテクノロジーの時代にはそぐわなくなってきているのかもしれない。