Misinformation? Disinformation? (はたして、それは、誤情報なのか？偽情報なのか？)

今回の記事について

今回の記事を読み解く上で、２つほど解説しておきます。

1. EFFとはどういう組織かご存知ですか？
   EFF（Electronic Frontier Foundation）は、1990年に設立されたデジタル権利を擁護する非営利組織です。インターネット上のプライバシー、表現の自由、イノベーションを保護することを目的としています。

2. コンテンツモデレーション
   SNSプラットフォーム上で投稿される内容を監視・管理し、不適切なコンテンツ（例：ヘイトスピーチ、有害な誤情報、違法コンテンツなど）を特定・対処するプロセスのことです。

この２つを念頭に、解説します。
◯今回の記事の主なポイント：

a) Metaの新方針について：

• Metaが内容監視のプロセスを変更すると発表
• 自動フラグ付けシステムによる過剰な規制を緩和する方針
• コンテンツ管理チームをカリフォルニアからテキサスに移転する計画

b) EFFの評価：
肯定的な点：

• 表現の自由と透明性を高める方向性を評価
• 過剰な規制を見直す姿勢を歓迎

懸念点：

• チームの移転は実務的というより政治的な動きだと指摘
• バイアスの問題は場所を変えても解決しないと批判
• LGBTQ+コンテンツへの過剰な規制など、特定のコミュニティへの影響を懸念

◯EFFが、Metaに対して指摘している主な問題点は、

a) モデレーションの課題：

• 大規模なコンテンツモデレーションは完璧な実施が不可能
• 自動化システムによる誤った判断
• 政治的な発言の過度な抑制

b) バランスの問題：

• 誤情報対策と表現の自由のバランス
• 有害コンテンツ対策と過剰規制の防止
• ローカルと国際的な文脈への配慮

c) 実装の懸念：

• 変更が公平に適用されるか
• 米国の政治的な要因による影響
• 特定のグループ（LGBTQ+、政治的反体制派、性労働者など）への影響

◯そして、EFFからの提案として、

• 検閲に頼らない多様な対策ツールの活用
• コミュニティノート（ユーザーによるファクトチェック）の活用
• プロフェッショナルなファクトチェック組織との連携継続
• 両方のシステムを併用する柔軟なアプローチ

ということが書かれています。

もう少し深く読み解くと、
今回EFF側から、具体的に指摘されている過剰規制（オーバーモデレーション）は、

1. LGBTQ+コンテンツに対する過剰な規制

• 記事では "Just this week, it was reported that some of those 'mistakes' were heavily censoring LGBTQ+ content" と言及されています
• LGBTQコミュニティの正当な表現が不適切に制限されていた問題が指摘されています

2. 政治的発言への過度な抑制

• "valuable political speech" が抑制されていたと記事は指摘しています
• 政治的な意見表明や議論が必要以上に制限されていた可能性があります

3. その他、記事で言及されている頻繁に検閲される傾向にあるトピック：

• 政治的反対意見（political dissidence）
• 性労働関連の話題（sex work）

この３つの過剰規制の原因として、EFFが指摘している要因は、

1. 自動化されたフラッグシステム（automated flagging）の問題

• AIによる自動判定が誤って正当なコンテンツを制限してしまう

2. フラッグされたコンテンツへの対応の問題

• 報告されたコンテンツの審査プロセスに課題がある

3. 人的バイアスの可能性

• コンテンツ管理チームの地理的位置による偏りの可能性（カリフォルニアのチームに特定のバイアスがあるという認識）

この記事はMetaの過去の具体的な規制事例を詳しく列挙しているわけではありませんが、EFFとしては、とくにマイノリティや政治的表現に関する過剰な規制に懸念を示していると感じられる文章になっていました。

Metaと一言で言っても、実は、Facebook、Instagram、threadsといった３つの大きなSNSを、Metaが運営しているのです。
日本ではFacebookはもうオワコン化してますが、Instgramは結構まだまだ盛り上がっています。
これらのSNSプラットフォーム上で、コンテンツモデレートにおける複雑な課題と、表現の自由を守りながら有害コンテンツに対処する必要性のバランスをEFFは強調しています。

MisinformationとDisinformationの違い

さて、ここからが今回の本題です。
「表現の自由を守りながら有害コンテンツに対処する必要性のバランスをEFFは強調しています。」とまとめてしまいましたが、
これが非常に難しい問題であり、おそらくMetaでも自動でフラグ付けできるように色々試行錯誤がされていると思います。
ただ単に、表現の自由を守ると、Disinformationによる攻撃がはじまります。
表現が厳しく統制されている方が、攻撃者（＝悪意のあるインフルエンサー）はやりにくい。と言うのがこのDisinformation戦ではよく言われていることです。
自由であるがゆえに、脆弱性も多くなるからです。
悪意のあるインフルエンサーは、さまざまな手を使って、Disinformationを使って、その国の分断を狙ってたりします。

ここで、よく見ると、今回の記事の原文では、「Misinformation」という風に記載されていました。
ここで、MisinformationとDisinformationの違いを整理しておきます。

日本語で言うと、
Misinformation=誤情報
Disinformation=偽情報
となります。

MisinformationとDisinformationの主な違いは、「意図」にあります。

◇Misinformation（誤情報）:

• 意図せずに広がる誤った情報
• 発信者は情報が間違っていることを知らない
• 単純な誤解や思い込みから生まれることが多い
• 例：新型コロナウイルスについて、十分な科学的知識がないまま誤った健康情報を共有してしまう

◇Disinformation（偽情報）:

• 意図的に作られ、拡散される虚偽の情報
• 発信者は情報が間違っていることを知っている
• 特定の目的（政治的影響力行使、経済的利益など）のために作られる
• 例：選挙に影響を与えるため、意図的に作られた偽のニュース記事を拡散する

実際の影響：

• どちらも社会に有害な影響を与える可能性がある
• Disinformationは、しばしばMisinformationの発生源となる
  • 例：誰かが意図的に作った偽情報（Disinformation）を、それと知らずに他の人々が共有する（Misinformation）

これが、現代の偽情報戦におけるフェーズわけでも重要な点です。Disinformationを元にMisinformationが拡散される状態まで なると、その作戦の段階は終盤に近づいてきていると見ていいでしょう。

対策アプローチの違いもあります。

• Misinformation → 教育や正確な情報提供による是正。それが偽情報を元にしている場合は、専門家による分析と公共的なカウンター情報が必要になってくる。時には外交政策も重要です。
• Disinformation → より積極的な対策（情報源の特定、拡散防止など）専門家による分析と公共的な対策が必要で早めに情報源を特定し、対策を行う必要があります。
  このため、プラットフォームやファクトチェッカーは、この2つを区別して対応を検討することが重要とされています。

このように、情報といっても、「誤情報」「偽情報」と1文字違うだけで、全然違ったものになることがお分かりいただけたでしょうか。

まとめ？もう少し考えてみる。

2025年の仕事始めに、EFFが出した記事に対して、単純に喜べるものでもなく、考えが相当深いところまで進んでいきそうで、今回この記事をピックアップしました。

まとめようと思いましたが、もう少し、「プラットフォームのジレンマ」として考えてみましょう。

SNSプラットフォームでは、日々膨大な量の投稿が行われています。
これらすべてを人手で確認することは物理的に不可能であり、AIによる自動検出が不可欠です。しかし、この自動化には重要な課題があります。
まず、コンテキストの理解が挙げられます。
同じ文章でも、文脈によって真実を伝えようとしているのか、皮肉やジョークなのか、あるいは悪意のある偽情報なのかが変わってきます。現在のAI技術では、このような微妙なニュアンスを完全に理解することは困難です。 また、言語や文化の違いによる解釈の問題もあります。あるコミュニティでは一般的な表現が、別のコミュニティでは誤解を招く可能性があります。

SNSプラットフォームは、表現の自由を守りながら、有害なコンテンツを制限するという難しいバランスを求められています。
過度な規制は、正当な表現を抑制してしまう危険性があります。(今回EFFが指摘したように)
一方、規制が緩すぎれば、プラットフォームが偽情報の温床となってしまう恐れがあります。
Metaの事例が示すように、この問題は地理的・文化的なバイアスとも密接に関連しています。
コンテンツモデレーションチームの所在地や構成によって、判断基準が変わる可能性があるのです。

おそらく今の段階では、 MetaのAI技術でも、有害な情報を特定する自動化システムは不完全だったということがわかります。 単純に、自然言語処理による文脈理解といっても相当高度で、日本語なんかはかなり高度でしょう。

そうなると？

誤情報と偽情報の問題は、技術的な解決策だけでは対処できません。
プラットフォーム、政府、市民社会、そしてユーザー個人が、それぞれの立場で責任を持って取り組む必要があります。
表現の自由を守りながら有害な情報から社会を守る ― このバランスを取ることは容易ではありませんが、それこそが民主的なデジタル社会の発展に不可欠な課題なのです。
私たちは、技術の進歩に伴う新たな課題に対して、常に警戒を怠らず、かつ建設的な解決策を模索し続ける必要があります。

しかし？

それは偽情報戦なども含まれる「グレーゾーン戦争」のことをもっとみんなが知らないと実現できず、分断が分断をよぶ連鎖に陥る可能性が高いと考えます。
今も、「グレーゾーン戦争」は実際に起こっています。昨日あるニュースで、中国が台湾の海底ケーブルを傷つけているというのが発覚というものがありました。
これも物理的なグレーゾーンにあたることでしょう。そういう日々に生きていることを認識し、偽情報とは何か？についてもっと広めていかないといけないと思いました。

何かない？

そう、ここで何か対策もご紹介しておかないと、Packet Pilotらしくないので、考えましたが、
１つあるとしたら、、
ブロックチェーン技術を使い、情報の追跡が担保されている
という状態が作れるSNSがいいのではないでしょうか？
NHKが発信した情報なのか？日本政府が発信した情報なのか？あるいは全く知らないアカウントなのか？
プラットフォームの透明性という言葉が出てきていましたが、そこまで言うなら、ブロックチェーン技術を使った発言というトークンをネットに発信するようにしませんか？