【川端祐一郎】人工知能（AI）と哲学

月曜日のメルマガで浜崎さんが、「信じることからしかはじまり得ない教育に、AIを積極的に導入しようというアイデアが、いかに非人間的なものなのか」と指摘され、人工知能（AI）の限界を哲学的に論じておられました。その趣旨に同意するとともに、せっかくなので私もここでいくつかの論点整理を行っておきたいと思います。

《知能の構造とは無関係な人工知能》
AIといっても色々なアプローチがあって、後述するようにほとんど哲学と変わらないようなAI研究もあるのですが、ここ数年特に流行っているのは「ディープラーニング」を中心とする「機械学習」と呼ばれるアプローチで、これは人間の心の仕組みとはかけ離れたものを作っていると考えたほうがいいと思います。それに、そもそも人間の知能に似たものを作ろうとしているというよりは、特定のタスクにおいて処理精度を高めることを追求している取り組みがほとんどです。だから、機械学習のエンジニアや研究者の中には、それが「人工知能（AI）」と呼ばれることを嫌がる人もいます（笑）

AIと言う言葉でイメージされるものを、大きく２つの種類に区別すると分かりやすいと思います。一つは、「人間の知能や意識はこんな構造をしているはずだ」という仮定に基づいて、その構造をプログラミングで再現しようとするもの。もう一つは、心の内部構造を模倣するのではなく、心に対する入力情報と出力情報の対応パターンだけを統計的に解析するというもので、最近話題になっているのは概ねこちらのほうです。

簡略化して言うと、英語の文章を日本語の文章に変換する機械翻訳の仕組みを作ろうとしたときに、英語や日本語の文法構造や語彙体系というものをプログラムで記述しようとするのが前者のアプローチ。それに対して、英文とそれを翻訳した日本語文のペアを大量に用意し、ある規則に従って数値データに変換した上で、数値と数値の間にある対応関係を統計的に探索（学習）しておき、新しく現れた英文にその対応関係を当てはめて、「統計的にあり得そうな日本語文」を出力させるのが後者のアプローチです。

後者のアプローチも、たとえばディープラーニングとその類似技術に関して言えば、構造を無視するというよりは構造を自動的に抽出していると言ったほうが正確なのですが、そこで抽出されるのは数値データと数値データをうまく結びつける構造であるというに過ぎず、実際の心の構造に対応しているかどうかは問われないわけです。

また例えば、大量の画像データから「猫の画像」を判別するための学習を行い、その過程で得られた猫の画像の数値的特徴を再構成すると、うっすらと「典型的な猫の形」のようなものが浮かび上がることをもって「機械学習エンジンが意味（猫という概念、イデア）を獲得した」と言われた事例がありました。技術的には興味深いのですが、これも単に図形的な特徴をうまく縮約したというに過ぎず、「生活世界における文脈」や「他の概念との関係」にも依拠している人間の意味理解の過程に対応しているわけではありません。

言ってみれば、後者のアプローチは単なる「効率の良いデータ整理器」であって、これで「人間の知能」に近づくことは難しいと私は思います。

《飛躍の多いAI論》
しかし、「だからAIなんて大したことない」と言えるかというと、そうでもありません。心の構造とは異なる仕組みであっても、心の動きをそれなりには――場合によってはかなりの程度――模倣できてしまうからです。それぐらい、昨今の機械学習技術の進歩には目覚しいものがあります。

人間を完全に代替することができなくても、例えば今まで5人でやっていた仕事が2人で回るようになるのであれば、3人分の雇用は失われるわけで、経済的には大きなインパクトがあり得ます。今のAI、あるいは機械学習技術にも、その程度のパワーなら発揮できる場面はたくさんあるでしょう。

一方で、AIが社会にもたらすインパクトの大きさについての巷間の議論には、飛躍したものが多いことも確かです。

AIの発展で必ず皆が幸せになるかのような議論はもちろん論外ですが、AIによる労働の代替が極端な格差社会をもたらすのだという議論にも違和感があります。経済格差がどの程度であるべきかというのは、少なくともある程度は、我々が自らの価値観に沿って判断し、それに従った社会制度を構想すべき問題であって、技術が全てを変えてしまうと騒ぐのは短絡的です。

以前もこのメルマガで書いたように、新自由主義的経済システムの下で破壊的イノベーションが続けば格差は拡大するでしょうが、新自由主義はべつに宿命でも何でもなく、我々にはそれを捨てることが可能なはずです。AIが格差をもたらすかどうかというよりも、格差社会を容認するのかどうかという、我々の「価値観」や「選択」が問われているのだと考えるべきです。

また、高度なAIが暴走すると人類にとって脅威になるのではないかというSF的な懸念もあって、その種の議論には面白さもあるのですが、そもそもAIに限らず多くの技術に暴走の危険があることに留意すべきです。コンピュータ・ウィルス、核兵器、環境を汚染する化学物質など、危なっかしい技術はいくらでもありますし、破壊された生態系を元に戻すのが人間には難しいというように、既に取り返しのつかない暴走が色々なところで生じていると言うべきかも知れません。

私は、「他の技術にも危険があるが今のところ何とかなっているのだから、AIだって大丈夫なはず」と楽観論を唱えたいのではありません。そうではなく、そもそも我々は、簡単に制御可能で楽観できる世界を生きてなどいない、と考えるべきだということです。技術文明は多くの恩恵をもたらすと同時に危機に満ちたものでもあるのであって、AIの危険性だけをことさらに叫ばれると、その他の技術がもたらす危険に対して鈍感なのではないかと思わざるを得ません。

《哲学的AI論》
ところで、今のAIはいわゆる「流行りもの」（今は「第３次AIブーム」であると言われます）ですから、技術的な関心を除けば巷の「AI論」には下らない議論が目立つのですが、中には非常におもしろいものもあります。

1950年代から60年代にかけて「認知革命」と呼ばれる学問上の運動があり、心理学・言語学・計算機科学などが大きく発展したのですが、その頃に「第１次AIブーム」がありました。そしてその当初から人工知能研究の目的には、「人工知能の設計を通じて、人間の知能の仕組みを理解したい」という動機も含まれていました。この動機は、哲学に近いとも言えます。

先ほど、数値と数値の対応関係だけを考える機械学習的アプローチのAIが今は流行っていると述べましたが、専門の研究者に言わせると、それはAI研究の系譜の中では少数派に属するらしい。むしろAI研究の本流は、人間の心・意識・思考の構造を探求した上で、それをプログラムとして実装しようという営み（冒頭の分類でいうと「前者」の方）だったようです。

そういうアプローチに基づくAI研究の系譜とその限界、そして限界の乗り越え方を哲学的に論じた、三宅陽一郎氏の『人工知能のための哲学塾』という本があります。この本は、「人間のように考える人工知能を作ることは可能か」という問題を哲学的に考えたい人にとっては必読だと思います。また、認識論の入門書としてもお勧めしたい本です。

三宅氏はゲームに実装するAIを作っているエンジニアで、要するにゲーム内のキャラクターが人間のように世界を認識し、人間のように考え、人間のように振る舞うにはどのようなプログラムが必要かという問題に取り組んでいます。面白いのは、真に人間らしいAIを開発するためには、人間が世界をどのように認識し、どのように思考しているのかを理解する必要があって、だからAI技術者には「哲学」の素養が必要だとしていることです。

三宅氏によると、従来の（本流の）AI研究はデカルト的二元論に立っていて、「主体＝キャラクター」と「客体＝キャラクターの周りにあるモノ」を明確に区別してきた。また、キャラクターの思考は数学的・論理学的な記号表現によって記述できるのだという、分析哲学に近い知能観に依拠してきた。しかし、そのような枠組みでは自然に振る舞うAIを設計することができないということが、徐々に明らかになってきたそうです。

20世紀の哲学、たとえば現象学が明らかにしてきたように、認識の主体と客体を分ける前に、両者が不可分のままに含まれているような「現象」としての世界が立ち現れる様相を考えなければ、人間と世界の関係を十分に記述することはできない。また、従来のAIは明晰な記号操作の過程として「思考」を記述しようとしてきたが、人間の思考というものは「身体感覚」や「無意識」にも多くを負っている。それに、人間には自意識というものがあって自らの思考を絶えず相対化しており、自己のあり方は定まることがない。

そのような哲学的前提をどうやってAIに実装していくかについても、いくつかの方法論が紹介されているのですが、もちろん今の段階では、十分に人間的なAIを組み立てられる目処が立っているわけではない。しかし、それらを実装しない限り真のAIは実現しないのだという問題意識は、人間を真に理解したいという哲学的関心と表裏一体のものであって、多くの示唆に富むものです。

ひょっとするとゲーム内のキャラクターも、様々な「文化」や「慣習」をもったバーチャルな社会の中で何世代も育成しないと、人間のようには振る舞ってくれないのかも知れない。キャラクターと、そのキャラクターが認識するモノの世界だけではなく、彼らが生きる「社会」の「伝統」を組み込まなければ、人間らしいキャラクターは生まれないのではないか。そのようにしてAI研究が、保守思想の掲げる人間観にたどり着くこともあり得るのかも知れません。

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
メルマガのバックナンバーはこちらで閲覧頂けます。
https://the-criterion.jp/category/mail-magazine/

雑誌『表現者criterion』の定期購読はこちらから。
https://the-criterion.jp/subscription/

その他『表現者criterion』関連の情報は、下記サイトにて。
https://the-criterion.jp

ご感想＆質問＆お問合せ（『表現者クライテリオン』編集部）
info@the-criterion.jp
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━