【川端祐一郎】デジタル・テクノロジーはいかにして社会を破壊するか

GAFA（Google・Amazon・Facebook・Apple）が今年の流行語大賞の候補に入っているらしいですが、そのGAFAに代表される先端企業の生み出す技術が、民主主義にいかに危険な影響を与えているかについて論じた『操られる民主主義――デジタルテクノロジーはいかにして社会を破壊するか』（J.バートレット著）という本が、最近出ていました。著者はイギリスのシンクタンクに所属するコンサルタントです。

デジタル技術が社会や政治に及ぼす影響に関する論評は巷に溢れかえっていて、本書の主張も過去に言われてきたことの焼き直しのようなところがかなりあるのですが、最近出ている他の本に比べれば著者の社会観・人間観に同意できるところが多く、割と面白かったです。

本書もほかの論者と同様に、ビッグデータの収集と分析によって我々のプライバシーがいかに丸裸にされているかとか、AI技術が労働者を高所得層と低所得層に分裂させるだろうとか、IT業界では凄まじい独占・寡占化が進んでいるとかいったことを論じています。しかしそれよりも印象に残ったのは、現代のデジタルテクノロジーが全体として人々に「価値判断」と「合意形成」の努力を放棄させるような方向に進んでいて、しかもそれを望んでいる人が実は多く、これは民主政治が前提とする市民像を大きく揺るがすものになるのではないかという論点が強調されていることです。

たとえばプライバシーも大事ですが、それ自体よりも大きな問題として、自分の発言の全てが記録され、過去がいつでも蒸し返されるような世界になれば、下手なことは言わないように黙っておくか、周りに合わせておくのが無難になってしまう。人は間違いや失敗を重ねて変化することで成長していくものだが、自分で考えるよりも「世間一般の正解」を選択するほうが無難になり、しかもそれを支援するツールは溢れかえる。そうやって、人間のモラル的判断の能力は衰退していくだろう、と著者は言います。

またAIの危険性についても、雇用を奪うかどうかばかりが世間では論じられているが、それよりも「AIのほうが人間よりも判断力が高い」と心の底から感じたときに、多くの人が、モラルや価値観にまつわる様々な判断をいとも簡単に機械に譲り渡すのではないかという問題のほうを考えるべきだと著者は言います。本書では、その譲り渡しが起きることを、「モラル・シンギュラリティ（道徳的特異点）」と呼んでいます。

「譲り渡すのではないか」どころか、そうしたほうが楽だし人から文句も言われないだろうから、多くの人が機械に判断を委ねるのは間違いないし、一度委ねてしまったら止められないだろうというのが著者の見通しです。イギリスでは、選挙の時に自分のさまざまな好みを入力すると「どこの候補に投票するべきか」を決めてくれるiSideWithというアプリがあって、すでに500万人もの人が投票判断に使っているそうです。

これをさらに発展させて、別に入力なんかしなくても、Facebookの投稿や「いいね」の履歴から分かるような、何を食べてどこに行ってどんな映画を見ているのかといった一見政治とは無関係なデータから、自分にとって最適な投票先を決めてもらうような仕組みも容易に作れると思います。最近のビッグデータ解析では、直観的には関係がなさそうなデータを膨大に集めることで、驚くほど正確な予測ができるという事例が次々に生まれています。ですので確かに、自分で新聞などを読んで時間をかけて考えるよりもアプリに任せたほうが、圧倒的に速く、（自分にとって何らかの意味でベストな）結論を出せるようになるでしょう。そして重要なのは、その精度がいかほどかというよりも、多くの人が早い段階でそちらを選ぶだろうということです。

もちろん殆どの人は、もともと、投票判断を自律的に下してきたとは言えないと思います。しかし、少なくとも建前として「自分の判断です」ということにしておく程度の矜持はあったし、信頼できる人間に判断を委ねるという態度は、少なくとも「こういう人間を信頼すべき」という価値観に根ざしているとは言える。これが「アプリに決めてもらったほうが楽」となると、アプリ開発者の設計に支配されてしまう上に、何か新しい問題が起きた時の解決能力が社会から失われていくだろうというのが著者の懸念です。

トランプ氏が大統領選の際に、ケンブリッジ・アナリティカという企業を雇い、フェイスブックから入手した不正なデータの利用も含め、極めて洗練されたビッグデータ解析に基づく選挙戦を行っていたという話はよく知られています。私はトランプ氏がそういう「選挙戦術」だけで勝ったと考えるべきではないと思いますが、ハイテクを駆使したキャンペーンを行ったのは事実でしょう。

メディアを使った世論形成は大昔から行われてきたことで、今さら問題視しても仕方がないとも言えます。ところが最近は、「マイクロ・マーケティング」とか「マイクロ・プロパガンダ」と呼ばれる手法が大きな成功を収めていて、これは民主主義にとって新たな驚異だと著者は言います。

昔はテレビや新聞という「マス」メディアを通じて、同じ情報を多数の人に届けるのが世論形成の方法でした。ところが今は、緻密なデータ分析に基づいて個人を細かく分類し、SNS広告などを通じて個別化された情報を届けられるようになっている。ということは、たとえば公約はいったん総花的なものにしておいて、実際の選挙戦では有権者個々人あてに最適化された、「その人が気に入りそうなメッセージ」をアレンジして送りつけることで得票を伸ばすことができます。

政治家によるものであれ市民同士のものであれ、政治的討論というのは、ある程度「共通の認識」を持っていることを前提に行われるものです。マスメディアの流す情報は、偏りはあったかもしれないが、少なくともそれを元に討論を行うことができた。しかし情報の個別化が進んでしまうと、そもそも討論が成り立たちません。そうやって社会は分断されていき、議論を通じて価値観を鍛え上げたり、合意形成を行ったりすることはできなくなる。

実際、インターネットが普及して膨大な数の市民がオンラインで互いに繋がるようになり、情報が溢れかえるようになると、価値観が多様化したり相互理解が進んだりしたのではなく、人々は自分の信念を満たしてくれる情報ばかりを好んで受け取るので、むしろタコツボ化したと言われます。しかも「自分たちに不利益を押し付けている奴らがいる」という刺激的な情報はもっと好まれるので、グループ間の壁は厚くなり、互いに攻撃的になっていきました。

これは、例えばC.サンスティーンという法学者が20年前に予想していたことです。また、M.マクルーハンは半世紀も前から、「電子メディアが作り出す世界村（global village）で人々は再部族化（retribalization）する」と見込んでいて、本書もその用語にならってこのタコツボ化現象を「再部族化」と呼んでいます。（マクルーハンが言ったのは音や映像のメディアが発達すると、文字だけ読んでいた時代よりも人間は直感的になって、部族的本能が復活するということなので、理路はやや異なると思いますが。）

本書では他にもいろいろな問題が論じられているのですが、著者は、

「スマホを使う時間は減らすべき」
「ビッグデータ解析アルゴリズムに対する査察体制を構築すべき」
「GAFAの独占を終わらせなければならない」
「政府はこれまで以上に経済に介入すべきで、AIや自動運転のような技術への投資も政府が公共目的のため積極的に行うべき」
「ベーシックインカムには反対」
「ビットコインのような仮想通貨は規制すべき」

という立場をとっていて、ITやデータ分析を専門とするコンサルタントにしては珍しい人です。そして解決策もいくつか提案しているものの、おそらく多くの人がテクノロジーに依存して、モラルや価値に関する判断能力が失われるとともに、社会の分断は進んで討論や合意形成は成り立たなくなり、経済格差は縮まらず、独占企業（とそれがもつデータやアルゴリズム）と結託したエリート官僚が支配する、新たな権威主義社会が生まれるだろうと予想しているようです。そしてそれは、企業や官僚が邪悪であるからというより、民主主義というのはもともと脆いものであって、テクノロジーの便利さの前では、民主主義が前提とする個人の「自立」や「自由」の価値を守り続けられるほど多くの人間は強くないだろうという見通しに基づいています。

本書の原題は“The Tech vs People”で、テクノロジーと人間の対決という意味ですが、巷でよく論じられているような「どちらが生産の担い手になるか」という問いではなく、「どちらが価値観の担い手になるか」という問いにフォーカスしているのが本書です。著者がイメージしている「自立して主体的に価値判断を下す市民」というのは、古臭い18世紀的啓蒙思想の人間観であって、それを不用意に礼賛したのが近代の誤りの一つではあります。しかしその近代が生み出したテクノロジーが啓蒙を全否定する方向に突き進み始めたときに、「啓蒙って完全に捨てても良かったんだっけ？」という疑念は持つべきだと私も思います。

ユートピアを夢見るにせよ、ディストピアの到来を懸念するにせよ、テクノロジーがもたらすインパクトについての議論は誇張も多いし、いわゆる「技術決定論」に過剰に傾きがちなので、その種の話にはあまり目を奪われないほうがいいでしょう。それよりも、自分たちが本当に欲しいものは何か、本当に住みたいのはどんな社会かを真剣に問い、議論し続ける姿勢を持つことが大事です。ところが、まさにその議論を縮退させるような変化が起きているというのが本書の主張で、これについてはある程度注意を払うべきかなと思いました。

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
メルマガのバックナンバーはこちらで閲覧頂けます。
https://the-criterion.jp/category/mail-magazine/

雑誌『表現者criterion』の定期購読はこちらから。
https://the-criterion.jp/subscription/

その他『表現者criterion』関連の情報は、下記サイトにて。
https://the-criterion.jp

ご感想＆質問＆お問合せ（『表現者クライテリオン』編集部）
info@the-criterion.jp
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━