【短編小説】知性とは人々の思い込みが生んだ幻ではないか？

1

火曜日の午前十時、沢村のチャットに自治体の担当者から依頼が入った。

「来週の住民投票に関連して、映像が一本拡散しています。検証をお願いできますか」

添付されたリンクを開くと、九秒の動画だった。ある地方都市の市長が、建設会社の社長らしき人物と個室で話している。音声は不明瞭だが、字幕が合成されていて、「あの土地の件、頼むよ」と市長が言っているように見える。再生回数はすでに八十万を超えていた。

沢村は、民間の情報検証サービス「ヴェリタ」で働いている。オフィスは神保町のビルの四階で、八人の小さな会社だ。もともとネットワークエンジニアで、暗号技術を少しかじっていた。三十四歳。メタデータの解析と署名の検証をツールで回す仕事は地味だが、最近は地味では済まない案件が増えていた。

まず来歴を確認した。2036年の現在、多くのカメラやスマートフォンは端末内のセキュアエレメントに署名鍵を持っていて、撮影時にデバイス証明と日時が暗号署名つきで映像に埋め込まれる。C2PAという技術標準に準拠した仕組みだ。編集すれば履歴が追記され、改ざんがあれば署名が壊れる。プラットフォーム側もこの来歴情報を表示するようになっていて、来歴が検証可能なら青い鍵マーク、なければグレーの「未検証」ラベルがつく。

沢村が開いた動画にはグレーのラベルがついていた。投稿元は三日前に作られたアカウントで、この映像が唯一の投稿だった。C2PAマニフェストなし。コンテナメタデータなし。手がかりがない。

沢村は検知ツールを回しながら、同僚の岸本に声をかけた。

「岸本さん、例の映像見ました？」

岸本はヴェリタの最年長で、以前は新聞社にいた。四十七歳。調査報道の出身で、来歴を技術で追えないとき、足で追う。

「見た。グレーラベル、匿名、来歴ゼロ。三点セットだね」

「九秒ですけど、今の生成AIなら数分の動画でも作れますよね。なんで九秒なんですかね」

岸本はモニターから目を離さずに答えた。「短いほうが効くからだよ。長くなると前後の文脈が入って、見てる側の理屈が動く余地が出る。九秒なら文脈がない。字幕と絵だけ。感情に直接刺さる。技術の限界じゃなくて、たぶん最適化の結果だ」

「住民投票は来週です」

「時間がないときに来歴のない映像が出てくる。いちばん厄介なパターンだ」

2

来歴のある映像に対しては、検証の手順がある。署名を確認し、デバイスを特定し、編集履歴を追い、撮影者に連絡を取る。手順を踏めば「このファイルがどういう経緯で存在しているか」は把握できる。

来歴のない映像に対しては、何もない。残るのは取材による周辺情報の積み上げだけだ。映っている場所を特定する、関係者に裏を取る、別の映像や証言と突き合わせる。だがこれには時間がかかる。

そして、拡散に時間はかからない。

八十万人がこの映像を見て、何を手がかりに判断するか。来歴はない。検証結果もまだ出ていない。すると人は別のものに頼る。「多くの人が怒っているから、たぶん本物だろう」。「この市長は前から評判が悪かったから、やりかねない」。映像の中身ではなく、周囲の反応と既存の印象で判断する。

これは愚かだからではない。来歴を検証できる人間は、この社会にほぼいない。来歴の仕組みを理解している人ですら、毎日流れてくるすべての映像を確認する時間はない。だから、ラベルが重要になる。青い鍵マークか、グレーか。その一点で、初動が変わる。

ただ、ラベルは「未検証」と言っているだけで、「偽物」とは言っていない。グレーの映像が本物である可能性も当然ある。旧いデバイスで撮影された映像。プラットフォームの変換処理で来歴が脱落した映像。告発者が身元を隠すためにメタデータを自分で削除した映像。正当な理由で来歴のない映像は、いくらでもある。

だから「グレーだから無視する」も正解ではない。「グレーだから保留する」が正解に近いが、住民投票が来週に迫っている状況で「保留」は機能するか。

3

水曜日。検知ツールの結果が返ってきた。判定不能。AI生成の確率は四十二パーセント。法廷で使えるような確度ではない。

岸本は朝から外に出ていた。映像に映っている個室の内装から店舗を特定するためだ。午後、ジャケットの肩を少し濡らして戻ってきた。

「店は特定できた。市内の料亭で、個室の内装が映像と一致する。ただし、一致するのは内装だけだ。この料亭の写真はウェブに公開されてるから、生成AIの学習データに入っていても不思議じゃない」

「本物でも偽物でも説明がつく」

「そう。証拠にならない」

沢村が一本目のレポートに取りかかったとき、監視フィルターの通知音が鳴った。新しいグレーラベル映像の検出。市長と不動産業者らしき人物が握手している動画。七秒。匿名。来歴なし。

閉じる前に、もう一つ。市長の秘書が現金を数えているように見える映像。十一秒。別の匿名アカウント。来歴なし。

続けて二つ。電話の音声だけのファイルが二本。どちらも匿名。来歴なし。

ダッシュボードにグレーのラベルが四つ並んだ。こっちが一本目のレポートすら書き終えていない段階で、対象が五本になった。

岸本がモニターを覗き込んで、短く言った。「来たね」

それだけではなかった。夕方、タイムラインを確認すると、映像の拡散に混ざって、PDFが一本流通しはじめていた。

タイトルは「地方再開発事業における利益相反と公共調達の歪み——〇〇市のケーススタディ」。著者は二名で、所属は海外の研究機関だった。沢村は聞いたことがなかったが、検索すると実在はしていた。小規模なシンクタンクで、ウェブサイトもある。JELコードがついていて、図表があり、推計結果があり、ロバストネスチェックの付録までついている。五十二ページ。

沢村はまず引用文献を確認した。三十八本。すべてDOIが存在した。リンクを開くと、すべて実在の論文に飛んだ。公共調達の経済学、地方財政、利益相反の規制——分野も適切で、主要なジャーナルの論文が並んでいた。

粗がない。少なくとも、書誌情報に関しては。

沢村は本文を読みはじめた。データセットは「現地協力機関を通じて独自に収集した公共調達データベース」で、記述統計は提示されていた。サンプルサイズ、変数の定義、基本的な分布。一見すると不自然さがない。推計モデルは操作変数法を使っていて、識別条件の議論もあった。結論は断定的で、「再開発計画は特定の建設事業者に対する便益供与の蓋然性が統計的に有意に高い」と書いてあった。

岸本に見せた。岸本はスクロールしながらしばらく黙っていた。眼鏡を外して、目頭を押さえた。

「引用は」

「全部実在です。DOIも通る」

「データは」

「独自収集、非公開。記述統計だけ出てます」

岸本はPDFを閉じて、天井を見た。

「これは映像より厄介だな」

「どこが問題なんですか。読んだ限り、おかしいところが見つからない」

「おかしいところが見つからないのが問題なんだよ。引用が架空なら一発でわかる。データが滅茶苦茶なら統計で指摘できる。でもこれは、引用は実在、記述統計は整合的、モデルの識別も表面上は成立している。間違っているかどうか以前に、間違っていると示すための手がかりがない」

「反証するには」

「同じ市の同じ分野の公共調達データを、こっちで独自に集めて、同じ分析をやり直すしかない。データの収集に何週間、分析に何週間。まともにやったら二ヶ月はかかる。引用されてる論文を一本ずつ読んで、引用のされ方が正しいかどうかを確認するだけでも相当かかる。原著の結論を微妙にずらして都合よく使ってる可能性はあるけど、それを指摘するにはこっちも原著を全部読まないといけない」

「投票は来週です」

岸本は何も言わなかった。

沢村はダッシュボードを見た。グレーラベルの映像が五本、それとPDFが一本。八人のチームで対応できたのは、映像一本の検知ツール結果と、料亭の内装照合だけだ。PDFに至っては、おかしいところが見つからないまま流通している。

映像一本の検証に三日。PDFの反証に二ヶ月。向こうは映像もPDFも、たかが知れたコストで作れる。

「岸本さん、PDFはどうしますか」

岸本はしばらく黙った。

「著者の所属機関に問い合わせる。それしかない。返事が来るかはわからないが」

4

木曜日。社会の側が動いた。

最初の映像の再生回数は二百万に届いていた。後から出てきた四本と、あのPDFも合わせて、「市長の疑惑」はパッケージとして拡散していた。反対派の集会で映像がスクリーンに映され、PDFの結論部分が読み上げられた。賛成派は「偽造だ」と主張したが、偽造の証拠も出せなかった。

沢村はタイムラインを追いながら、拡散のされ方を見ていた。

映像が最初に大きく回ったのは、フォロワーが三十万ほどいる「市政監視アカウント」がシェアしたタイミングだった。そこから、再開発反対の住民グループ、まちづくり系のコミュニティ、環境保護フォーラム、反汚職ニュースレターへと枝分かれしていった。

枝分かれした先で、映像の意味が変わっていた。住民グループでは「癒着の証拠」として。環境フォーラムでは「環境破壊を推進する腐敗した市長の証拠」として。反汚職ニュースレターでは「地方政治に根づいた腐敗の一例」として。同じ九秒の映像が、それぞれの場所で、その場所がもともと信じたかったことの裏づけになっている。

PDFの使われ方はもっと巧みだった。住民グループでは「専門家が癒着を証明した」として引用され、環境フォーラムでは「再開発の経済的不合理性が学術的に裏づけられた」として引用された。五十二ページの論文のうち、どのコミュニティも読んでいるのは要旨と結論だけだった。本文は長く、付録は膨大で、ロバストネスチェックが「ある」。反論するには中身に潜る必要があるが、中身に潜れる人間がいない。

映像は感情を動かし、PDFは正当化する。九秒で怒りに火をつけ、五十二ページで「怒りは正しい」と保証する。それぞれ単体なら弱い。来歴のない九秒の映像は「未検証」と表示される。出所不明のPDFは、時間があれば専門家が検証できる。だが、セットになると話が変わる。映像の感情的なインパクトが先に来て、PDFが「理性的な裏づけ」として後を追う。受け手は、まず感情で反応し、次に「学術的な根拠もある」と知ることで、自分の反応が正しかったと確認する。

人は自分がすでに信じていることを裏づける情報を受け入れやすく、矛盾する情報は割り引く。確証バイアスという言葉はあるが、沢村がタイムラインを見ていて感じたのは、教科書に出てくるような静的な話ではなかった。もっと速くて、増殖していた。あるコミュニティで映像が共有されると、反応がさらに別の人を引き寄せ、同じ信念を持つ人が集まるほど信念は強化される。反対意見は目に入りにくくなる。しかもこの増殖に天井がない。物理的な集会には場所の制約がある。チラシには印刷のコストがある。だがオンラインでは際限なく拡大し、それぞれの内部で確証を強め合う。そこに映像とPDFが燃料として供給され続ける。

沢村は自治体の担当者にレポートを送った。映像の検証結果が法廷レベルの確度に達していないこと。PDFについては、引用文献は実在するが、著者の所属機関に問い合わせ中であること。現時点では真偽を判断する材料がないこと。

担当者から返信が来た。疲れた文面だった。「レポートは受領しました。ただ、住民にどう説明すればいいかが難しい。『判定不能』は『本物かもしれない』に聞こえます。論文については、『引用が全部実在する』と聞いた住民が『じゃあ本物じゃないか』と言っています」

沢村はその返信を読んで、少しの間、画面を見つめた。引用が実在することと、論文の結論が正しいことは、まったく別の話だ。だが、その区別は専門家にしか見えない。

5

金曜日の夜、沢村と岸本は神保町の居酒屋にいた。ビルの谷間の古い店で、換気扇の音がやかましい。

沢村がビールを受け取りながら言った。「映像五本にPDF一本。岸本さんはどう見てますか」

「出し方が計算されている。一本目の映像が回りはじめたのを確認して、二日置いて追加の四本とPDF。投票の五日前に」

「そこまで狙えるものですか」

岸本は枝豆をつまんだ。「映像は事前にいくらでも用意しておける。生成コストがほとんどかからないから。PDFもそうだ。今のAIは引用を捏造したりしない。実在する論文を引いて、実在するデータの形式に合わせて、整合性の取れた推計結果を出す。体裁だけじゃなくて中身の論理も通っている。通っているように見える、ではなく、少なくとも表面的には通っている。反証するにはこっちが同じ手間をかけるしかない」

沢村は間を置いて聞いた。「選挙期間をもっと長くすれば、検証の時間は取れますよね」

岸本はグラスを回した。少し考えてから口を開いた。

「延ばそうという議論は何度も出ている。出ては消える。延ばせばコストがかかる、有権者が疲弊する、投票率が下がる。もっともらしい理由だ。でもさ——」

枝豆の殻を皿に置いて、続けた。

「短い選挙期間でいちばん得をしてるのは誰か、と考えると、まあ、そういうことだよ。検証が追いつかない短い期間の中で、イメージと物量で押し切れる人間だ。その勝ち方で当選した人たちが、自分でルールを変えるかというと——俺にはあまりそう見えない」

沢村は黙ってビールを飲んだ。

「バグを直す側じゃなくて、バグで勝ってる側が制度を決めてる、ということですか」

「決めてるかどうかは知らない。ただ、直す動機はないだろうな。直さないことに表向きの説明はいくらでもつけられる。有権者の負担軽減、行政コスト。反論しにくい言葉だ」

岸本はビールを一口飲んで、話を変えた。

「それよりな、あのPDFのほうが映像より厄介だと俺は思ってる。映像にはグレーラベルがつく。PDFにはつかない。しかも——」

岸本は少し言い淀んだ。

「粗がないんだよ。昔のフェイク論文は引用が架空だったり、データが滅茶苦茶だったりした。そこを突けば崩せた。今のは違う。引用は全部本物。記述統計は整合的。モデルの見た目も通ってる。間違ってるかどうかの前に、間違ってると示すための取っかかりがない。唯一できるのは、同じデータを独自に集めて同じ分析をやり直すこと。それに何ヶ月かかるか。その間に投票は終わるし、次のPDFも出てくる」

沢村は今日一日で起きたことを頭の中で並べた。映像五本、PDF一本。六つの弾。八人のチームで対応できたのは映像一本分のフレーム解析と、料亭の照合だけだ。PDFに至っては、おかしいところが見つからないまま流通している。嘘を作るコストが検証のコストを大幅に下回っている。経済学でレモン市場というらしい。品質のわからない商品が溢れて、まともな商品が駆逐される。映像にもPDFにも、同じことが起きている。

6

二杯目のあたりで、沢村は昼間気づいたことを話した。

「同じ映像がコミュニティごとに違う意味で消費されてるんです。住民グループでは癒着の証拠、環境フォーラムでは環境破壊の証拠、反汚職メディアでは腐敗の証拠。PDFも同じで、それぞれの場所で都合のいい部分だけ引用されてる。映像もPDFも、それ自体は何も証明してないのに、もともと信じたかったことの裏づけになってる」

岸本はうなずいた。

「で、それぞれの場所で信者みたいな人たちが増えていく。五本も映像が出ると、一本ずつの真偽なんか関係なく、本数が増えたこと自体が信憑性の代わりになる。PDFが加わると、さらに強い。"学術的にも裏づけがある"と言えるようになるから。しかも引用は全部実在する。『引用を調べたけど全部本物だった、だからこの論文は信頼できる』という人が出てくる」

「引用が実在することと、結論が正しいことは別ですよね」

「別だよ。でもその区別ができるのは、原著を読んで引用のされ方を確認できる人間だけだ。そんな手間をかけられる人はほとんどいない。大多数にとっては、『引用が実在する＝ちゃんとした論文＝結論も正しい』になる」

岸本は手元のスマートフォンを裏返して、テーブルに置いた。

「一度『市長は黒だ』と決めた人にとっては、検証結果が『判定不能』でも何の障壁にもならない。『わからないなら黒かもしれない』と読むだけだ。仮に映像が一本偽物だと判明しても、『残りの四本は？ 論文は？』で済まされる。信念が証拠より先にあるから、証拠は信念に合うものだけ拾われる」

「昔はそれにブレーキがかかっていたんですか」

「完全なブレーキじゃないけど、摩擦はあった。物理的に近い人間が別の意見を持っていた。家族、同僚、近所づきあい。否応なく違う見方に触れる機会があった。オンラインにはそれがない。同じ考えの人間を何万人でも集められる」

「フォロワー数もそれに近いですよね」と沢村は言った。「三十万フォロワーのアカウントがシェアしたという事実だけで、映像の信頼性の代わりにされている」

「それはちょっと別の話だけどな。数が多いほうに引っ張られるのは、もっと根っこのところにある。群れの動物だから。百人が走ってたら理由を確認する前に走る。のんびり理由を考えてた個体は食われて遺伝子を残せなかった」

沢村は少し笑った。「2036年にサバンナですか」

「サバンナは終わったけど、回路は残ってる。フォロワーが三十万いるアカウントを見たとき、脳は『三十万人が支持してる情報源』として処理する。フォロワー数なんか買えるし、アルゴリズムの偏りでいくらでも膨らむ。でも、そこまで考える前に数字が先に来る」

沢村は自分のスマートフォンを見た。まとめアカウントのフォロワー数が表示されている。三十万二千。正直に言えば、この数字を見たとき、何かは動いた。「それなりのアカウントなんだな」くらいの印象は持った。来歴も検証もなしに、数字だけで。検証を仕事にしている自分ですら。

岸本はビールを飲み干して、つぶやくように言った。「肩書きも同じだよ。市長、社長。選別をくぐり抜けた証拠として信用するのは理にかなっている。選別がちゃんと能力を測っていればの話だけど。選挙が認知操作の巧拙で決まるなら、当選は認知操作がうまかった証拠にしかならない。フォロワー数も、肩書きも、論文の体裁も。獲得コストが下がれば、中身との相関が壊れる」

7

住民投票は火曜日に行われた。結果は再開発反対が僅差で上回った。映像やPDFの影響がどの程度あったのかは、正確にはわからない。出口調査で「映像を見た」と答えた人はたしか七割くらいいたが、「映像が投票判断に影響した」と答えた人は二割足らずだった。PDFの存在を知っていた人は三割ほどで、中身を読んだと答えた人はほとんどいなかった。ただ、「学術的な裏づけがあると聞いた」と答えた人は四割を超えていた。読まなくても、存在するだけで効いている。

投票の翌週、映像について新しい情報は出なかった。五本のうちどれも、偽物だとも本物だとも確定しなかった。PDFの著者の所属機関からは返信がなかった。機関のウェブサイトは実在しているが、問い合わせフォームに返事が来ない。実体のある機関なのか、ウェブサイトだけの存在なのか、それすら確認できていない。

映像を中心に形成されたコミュニティは消えなかった。住民投票は終わったが、「市長の疑惑を追及する」グループはそのまま残り、メンバーは増え続けていた。五本の映像とPDFはいまだにグループ内で定期的にシェアされ、「判定不能＝本物の可能性がある」が共有の前提として定着していた。完全に否定されない限り、信念は維持できる。

沢村はレポートを閉じて、デスクの上の冷めたコーヒーに手を伸ばした。

この一週間を振り返ると、別々に見えたものが重なっている。嘘を作るコストが限りなく低くなったこと。映像だけでなく、学術論文の体裁と論理的整合性を備えたテキストまで、同じ低コストで量産できること。しかもそれが、粗のない品質で出てくること。引用は実在し、統計は整合的で、反証するには同じ手間をかけるしかない。そのせいで検証が原理的に追いつかないこと。選挙期間が短いほど、追いつかなさが決定的になること。その短さを変えるインセンティブが、変えるべき側にないこと。フォロワー数や肩書きや論文の体裁を無意識に信頼してしまう、たぶん生物としてかなり古い回路のこと。そして、すでに信じたいことを信じている人にとっては、検証結果など何の障壁にもならないこと。

では全部がイリュージョンなのかというと、そうでもない。偽装したときに何かが壊れる領域では、信用はまだ成立している。暗号の署名は改ざんすれば数学的に壊れる。金融の取引記録は偽造すれば監査で壊れる。建造物は設計が嘘なら物理法則で壊れる。壊れるものがある領域では、指標はまだ中身を担保している。

壊れるものがない領域——匿名の投稿、来歴のない映像、購入可能なフォロワー数、低コストで量産できる完璧な体裁の論文——では、指標は何も担保しない。空回りする。

8

水曜日の夕方、沢村が帰りの電車を待っていると、プラットフォームのアプリに通知が来た。先月から試験運用が始まった新機能だった。来歴情報が途切れたコンテンツを自動検出し、文脈情報を提示する。「この映像は来歴情報がありません。投稿者のアカウントは作成から四日です。類似の映像は他のソースでは確認されていません」。

判断を代行するのではなく、判断の材料を並べる。沢村はこの設計を悪くないと思った。ただ、映像にはこのラベルがつくが、PDFにはつかない。学術論文の体裁をしたテキストに「来歴不明」のラベルを貼る仕組みは、まだない。しかも仮にラベルをつけたところで、引用が全部実在し、論理も整合しているPDFに対して、「未検証」と表示することにどれだけ意味があるのか。映像のグレーラベルは「来歴がない」という明確な欠落を示しているが、PDFには来歴の欠落がない。あるのは「反証されていない」という状態だけで、それは本物の論文にも共通する特徴だ。

それでも、ないよりはましだと沢村は思った。完璧な解決策を待っていたら、何もできない。来歴の仕組みも、ラベルも、検知ツールも、どれも単体では足りないが、重ねれば少しずつ穴が埋まる。全部は埋まらないかもしれない。でも、何もない状態よりはいい。

電車が来た。沢村は乗り込んで、つり革につかまった。窓に映った自分の顔が、やつれて見えた。

事実は消えない。ある場所で、ある時刻に起きたことは起きたことだ。消えるのは、それを他者に示すための証拠の信頼性だ。映像の信頼性、論文の信頼性、数字の信頼性。それを「見た目」や「体裁」で担保する時代は終わった。来歴と署名と複数のソースと、場合によっては物理的な裏づけで担保する時代に入った。手間が無尽蔵に増えた。

その手間を社会のどこが引き受けるかは、決まっていない。ヴェリタのような民間か。プラットフォームか。政府か。個人か。たぶん全部で、たぶんどこも十分には引き受けきれない。嘘のコストがゼロに近づく世界で、検証のコストを誰かが負担し続ける仕組みをどう作るか。それは技術の問題であると同時に制度の問題で、最後には「その制度を作る権限を持つ人間が、バグを直す側にいるか、バグで得をしている側にいるか」にぶつかる。そしてその外側では、検証の結果とは関係なく、信じたいものを信じる回路が回り続けている。

スマートフォンには、もう新しい依頼のチャットが来ていた。来歴のない音声ファイルと、著者不明のPDF二本。今度は国政選挙がらみだという。選挙期間は十二日間。

沢村はスマートフォンをポケットに戻して、窓の外を見た。暗くなっていた。