物価もバブルも制御できない人類が、AIだけは制御できると思っている件
ひとつ、素朴な疑問から始めたい。 中央銀行は「物価の番人」として何十年もインフレと戦ってきたが、その予測はいまだに外れ続ける。 政府が「売るな」と叫んでも、市場は国債や通貨を売る。 金融規制当局はリーマン・ショックの反省から、バブルや連鎖破綻を防ぐために何千ページもの法令を積み上げた。それでもリスクは規制の隙間へ逃げ込み、金融システムの不安定さは形を変えて繰り返される。 物価も、市場も、金融危機も、いまだに御しきれていない。そんな人類が、なぜ「AIだけは完全に制御できる」と自信を持てるのだろうか。 この問いは、一見すると居酒屋の戯言に聞こえるかもしれない。 だが、この違和感は、単なる皮肉や悲観論ではない。 ここには、我々が「制御(コントロール)」という言葉を使うときに陥りがちな、認識のズレが横たわっている。 楽観論者と悲観論者がいつまでも噛み合わない原因はここにある。同じ「制御」という単語を使いながら、まったく違うレベルの話をごちゃ混ぜにしているのだ。「制御できる」と言う人は見通しが甘く、「制御できない」と言う人はすべてを諦めすぎている。どちらも「制御」の定義がぼやけたまま、別のゲームの話をしている。 「制御」にはレベルがある まず整理しておきたいのは、「制御」という単語がカバーする範囲がやたらに広いことだ。 大きく三段階に分けて考えると、だいぶ見通しがよくなる。 第一のレベルは 完全支配 。望む状態を設計し、外乱がきても狙い通りに維持する。失敗確率を限りなくゼロに近づける、という意味での制御だ。工場の温度管理や時計の機構にはこれが成り立つ。しかし、相手が「反応してくる」系──つまり経済、生態系、そして知能──に対しては、ほぼ不可能だと考えていい。 第二のレベルは 統計的な誘導 。結果を一つに決めることはできないが、平均や分布や頻度を動かすことはできる。インフレ率の「平均」をだいたい2%付近に保つとか、銀行の破綻確率を下げるとか。ただし副作用と時間差は残る。現実の政策や規制が狙っているのは、ほぼこのレベルだ。 第三のレベルは 被害限定(レジリエンス) 。暴走は「起こさない」のではなく、「起きても致命傷にしない」という発想。早期検知、隔離、冗長化、復旧の設計。複雑な系に対してもっとも現実...