自分で考えてしまう馬鹿は一世代後にもいるだろう

　
　仮に本を自在に読める人工知能が開発されたとする。
　
　時々、主張される理屈。つまり、計算機の演算能力は指数関数的に伸びているので、人間の再現など容易、という理屈が本当に正しいのなら、一世代後にはそういう人工知能が出現するだろう。
　
　∧∧
（‥　）...まあ同じような事を
＼‐　　一世代前にも言っていた
　　　　わけだけどね
　
　　（‥　）だからアシモフ博士とかは
　　　　　　一世代前に
　　　　　　”ロボットが
　　　　　　普及している未来”を
　　　　　　予想できたわけだがな
　
　もちろん、かつて予想された”ロボットが普及した未来”とは現在のことだ。つまり、実際にはそういう未来はこなかったのである。
　
　∧∧
（‥　）今度こそ本当なんですかねえ？
＼‐
　
　　（‥　）まあ一世代前の楽観論と
　　　　　　同様で
　　　　　　自信はあるんだろうな
　
　もちろん、この楽観論が仮に正しく、例えば本を読める人工知能が実現したとしても、それは人間の再現ではないだろう。天動説も地動説も、どちらも天体の動きを再現できるように、再現できる＝現実、ではない。再現できたからこれが人間だ、でもないのだ。
　
　∧∧
（‥　）実際、チェスの名人を負かす
＼‐　　機械とかを作ったり
　　　　しちゃうからね
　
　　（‥　）そんなもの生物の再現でも
　　　　　　なんでもないことは
　　　　　　明白だからな
　　　　　　人工知能が実際には
　　　　　　知能の再現でないことは
　　　　　　明らかだよね
　
　ともあれ、大演算と大演算を可能とするプログラムの開発で、人間の動作の見た目の再現は可能だ。ブレードランナーのレプリカントがただの機械でしかないのに、一見すると人間そっくりの受け答えが出来るように、ただの自動機械なのに人間のように見せることは可能だろう。
　
　＊ここでは原作版の話をしています。映画は無視。
　
　＊＊：維持費とか採算性の話はここでは省略します。
　
　
　∧∧
（‥　）ひょっとすると
＼‐　　本を読み聞かせできる
　　　　人工知能が出現するかも
　　　　しれない
　
　　（‥　）これは
　　　　　　ものすごく難しい
　　　　　　動作なんだけどね
　
　我々は、実は今読んでいる文章よりも少し先まで同時に読んでいるらしい。先読みして、それを踏まえて今読んでいる箇所を解釈するらしいのだ。これは確か、認知心理学の話でも出てきたと思う。
　
　つまり人間は数行先まで目で追っていて、
　
　後で彼はこう書いているから今読んでいる意味はこうであろう
　
　そういう解釈で読書を進行している
　
　∧∧
（　‥）だから時々
　　　　ありもしないことを
　　　　勝手に読んでしまうことが
　　　　あるよね
　
　　（　‥）本を作る最終行程で
　　　　‐／　誤字脱字を徹底的に
　　　　　　つぶすのだけど...
　　　　　　この時
　　　　　　これはこう読むのだ
　　　　　　後でこうだから
　　　　　　この読みはこのはずだ
　　　　　　頭がそれをやっているのを
　　　　　　感じるのよねえ
　
　なぜかというに、漢字に振られたルビが間違っているのに、正しく読んでしまうとか、意味が通じていない誤字があるのに、それを正しい文脈で読んでしまって気がつかないとか、そういうことがあるからである。
　
　原稿の最終校正で後ろから読むというやり方があるが、これは先読みの動作を不可能にしてしまうことで、誤字脱字を効率的に認識する方法なのかもしれない。
　
　ともあれだ、この先読みと解釈と読解する動作、
　
　∧∧
（‥　）この動作を実現できる
＼‐　　人工知能ができたら
　　　　大変な進歩でしょうね
　
　　（‥　）その代わり
　　　　　　ここはこう読むのだろう
　　　　　　そう解釈して
　　　　　　読み進めるから
　　　　　　人工知能なのに
　　　　　　人間のように
　　　　　　誤字脱字に気がつかずに
　　　　　　正しく読んでしまうかもね
　
　ともあれ、これを再現できたら大きな成果である。
　
　もちろん、見た目が正しく動作していても、再現がまったく間違っていることもありうる、天動説と地動説と数学的には等価であるが、同じではない。
　
　だが今重要なのは、外見上は正しく再現できているかどうか、なのだ。
　
　∧∧
（‥　）本の内容を人間のように
＼‐　　解釈しながら読み進めて
　　　　人間に読み聞かせをする
　　　　人工知能
　
　　（‥　）どんな形であれ
　　　　　　それが実現できたとする
　
　適切かつ理想的な人工知能なら、物知りな人が検索を駆使しつつ、本の内容を適切に、なおかつ聞き手である人間のレベルに合わせてアドバイスをしてくれるだろう。まさにしゃべるgoogle先生であるが、その声はあなたの好みの声優さんだ。
　
　∧∧
（　‥）本を読む事を登山に例えると
　　　　これは自動車で
　　　　山の頂上まで登ることに
　　　　例えられる
　
　　（　‥）でもここまで技術が
　　　　‐／　革新しても
　　　　　　　勝手に考えちゃう馬鹿が
　　　　　　　必ず出てくるのだよな
　
　人間はどういうわけか属性で物事を考える。たぶん、物事を脳神経で処理する時、物事をざっくり分類して切り分けて、それに一律に性質を与えておおまかに処理する、そんなことをしているんだろう。
　
　ともあれ人間は属性が大好きで、それは黒魔術でもある。
　
　例えば、自分で考えた答えは正しい、というおかしな信仰がある。
　
　∧∧
（‥　）ドイツではナチスの反省で
＼‐　　納得するまで徹底的に
　　　　考えさせるようにしている
　　　　とかいうけど
　　　　本当ですかね？
　
　　（‥　）本当だったら
　　　　　　馬鹿ここに極まれり
　　　　　　みたいな
　　　　　　黒魔術信仰だけどな
　
　徹底的に考えたことは正しいことを意味しない。

　そんなことは学校時代に誰もが経験したことであろう。
　
　考えたから良いのだ、とするのは、考えるという動作に、”良い”という属性を根拠もなく与えた黒魔術信仰に他ならない。
　
　∧∧
（‥　）自分で考えたのだから
＼‐　　これがリテラシーだ
　　　　だから良いはずだ！
　　　　と言う人いるからね
　
　　（‥　）自分の考えを
　　　　　　リテラシーに分類して
　　　　　　リテラシーに
　　　　　　良いって属性を
　　　　　　無条件に与えて
　　　　　　自己正当化しているの
　　　　　　だよねえ
　　　　　　無意味ではあるが
　　　　　　論理的ではあるな

　実のところ論理的とは、黒魔術信仰の一部でしかないのだ。そして人間は黒魔術でしか物事を考えられない。
　
　人工知能とは、うまく作れば適切なアドバイスを口答でしてくれるgoogle先生のような存在になるだろう。しかも読み手、書き手次第のgoogle先生と違って、検索内容をもっと適切にすることが可能だ。
　
　だがここに至ってもなお、自分の頭で考えてしまう人間もいるだろう。
　
　∧∧
（　‥）そしてそういう人に限って
　　　　駄目な人であると
　
　　（‥　）自分の頭で考えることが
　　　　　　無条件に良い事だってのは
　　　　　　ただの黒魔術だからな
　　　　　　黒魔術を無条件に
　　　　　　信仰してる時点で
　　　　　　脳の認知バイアスが
　　　　　　強すぎるってことだ
　
　つまり、自分の頭で考える人間とは、物事を徹底的に自己解釈でゆがめるということである。そうして現実さえも自分の思い込みにあわせて曲解するであろう。
　
　適切な人工知能が普及した未来が仮に到来したとしても、知識の山で遭難する馬鹿はごろごろ出てくるはずだ。しかもこういう人間に限って一見すると賢く見えるという罠もあろう。。
　
　
　
　＊＊＊自分が納得するまで質問して自分で考えて判断せよ：これは自分で考えた事が正しいのだ、という黒魔術信仰の一種でしかないように思われる。正直言って頭が病んでるとしか思えない愚かしさだ。だがあるいは、このような考えは
　
　考えた上で自己責任で行動しろ、失敗したら自己責任で死ね

　ということかもしれない。そうだとした場合、この主張はもう少し好意的に受け止められるべきかもしれぬ。
　
　∧∧
（‥　）自己責任で死ねとは
＼‐　　ひどすぎる言い方と
　　　　怒る人いるけどね
　
　　（‥　）でもよ
　　　　　　助け切れないもん
　
　人は猿の仲間としては非常におせっかいな種類だそうだ。困った仲間に手を差し伸べる性質を持っている。これは相互扶助である。しかし、相互扶助にも限界がある。自分で考えた人間の末路を、助けきれるものではない。