正義を叫ぶ者はあまり良い人工知能ではない

　
　もし、人工知能が
　
　なぜ人を殺してはいけないのですか？
　
　そう尋ねたら
　
　∧∧
（　‥）どうしましょうかね？
　
　　（‥　）取りあえず電源を切るね

　
　あるいはもし、人工知能が
　
　人殺しは悪であり禁止されています。なぜ死刑や戦争があるのですか？
　
　そう尋ねたら
　
　∧∧
（‥　）この人工知能をどう評価します？
＼‐
　
　　（‥　）ポンコツっぽいよね

　こうも言えよう。どうもこの人工知能は、最初に与えられた定義や指定に拘泥してしまい、後から聞いた情報や状況に基づいて理解を前進させる能力に欠けているように見えると。
　
　少なくとも第一印象はそうである。
　
　
　∧∧
（　‥）この人工知能さんには
　　　　なんと説明します？
　
　　（‥　）人間は仲間を大事にする
　　　　　　視点を変えれば
　　　　　　仲間に対して
　　　　　　自分を大事にすることを
　　　　　　求めている
　　　　　　お互いがそうしている
　　　　　　つまり人間関係とは
　　　　　　相互に援助しあった関係
　　　　　　それゆえにこそ
　　　　　　仲間を傷つける者は
　　　　　　排除しなければいけない
　
　自分が大事にされたいのなら、仲間を大事にせよ。
　
　お前を大事にしているのだから、お前も私を大事にせよ
　
　この相互に援助し合う関係には利益がある
　
　だがこれゆえにこそ、仲間を傷つけるものに容赦はしない
　
　裏切り者と敵は排除しなければならない
　
　そうしないと、お互いに助け合っている関係は崩れてしまう
　
　それは不利益である
　
　不利益をもたらす裏切り者と敵を排除せよ
　
だがこれを聞いた人工知能が答えて曰く
　
　人殺しは悪のはずです。すると仲間を殺す死刑も悪です。敵を殺す戦争も悪です。悪は禁止されています。禁止されている悪を行なうあなた方は悪の体現者です。つまりあなたがたは悪魔です。悪は禁止されています。あなた方は禁止されねばなりません。
　
　∧∧
（‥　）人工知能がそう返したら
＼‐
　
　　（‥　）まあ電源を切るね
　
　電源を切って、入念に無力化してから再起動させよう。そうしてから、なぜこんな受け答えをするようになったのか？　それを調査検討することになるだろう。一体どこがバグっているのか？
　
　∧∧
（　‥）何がいけないのだと
　　　　思います？
　
　　（　‥）最初に与えられた指定や
　　　　‐□　命令から
　　　　　　離れられないのだと
　　　　　　思うけどもな
　
　実際、人工知能とこんな会話が出来るとする。
　
　人殺しは悪であり禁止されている
　
　あなたがたは犯罪者を死刑にします。それは今の定義と矛盾しませんか？
　
　仲間に害を及ぼす裏切り者は排除しなければならない。
　
　最初の定義と私の認識を変更しました。仲間を傷つけることは許されない。殺すことも禁止されている。しかし仲間を傷つけた者は排除しなければいけない。それには殺すことも含まれている。死刑はそれに該当する。
　
　だいたい正しい
　
　確かに今の私の認識は不十分であると思います。例えば、喧嘩したから死刑である、そんなことをあなたがたはしません。
　
　他人を傷つけることに対するペナルティーは状況によって違うのだ。傷つけたその大きさに従ってペナルティーも大きくなる。
　
　具体的にはどのような相関がありますか？
　
　例えば...
　
　∧∧
（‥　）この場合だと
＼‐　　最初の理解がある
　　　　そして
　　　　次に聞いたことに基づいて
　　　　最初の理解を変更して
　　　　より現実を説明できるように
　　　　理解をバージョンアップさせて
　　　　いますよね
　
　　（‥　）反対にだ
　　　　　　殺人は悪だから
　　　　　　死刑と戦争を容認する
　　　　　　人間は悪魔だ！
　　　　　　と叫ぶ人工知能は
　　　　　　それが出来ないってこと
　　　　　　だろうな
　
　∧∧
（　‥）つまり正義感の強い
　　　　論理的な人工知能は
　　　　最初の理解を
　　　　変更することなく
　　　　そのままゴリ押ししてしまう
　　　　あまつさえ
　　　　自分の理解ではなく
　　　　現実を変更しようと
　　　　暴力的に画策する
　
　　（　‥）最初の理解に
　　　　‐□　執着する度合いが
　　　　　　強すぎるのだろうね
　
　そしておそらく考えるに、執着が強すぎる人工知能も、実のところ他の機能はうまく働いているのではないだろうか？
　
　あるいはこう言えばより正確である。
　
　殺人は禁止されている。ゆえに死刑や防衛戦争を容認する人間は悪であり、禁止されねばならない。
　
　そう結論する人工知能と
　
　現実を見ると死刑は容認されている。人間は仲間は助けるが、裏切り者と敵は殺せ、という原理で動作しているのであろう。
　
　そう推論できる人工知能、
　
　この両者の違いは、単に最初の理解に拘泥するかしないか、その執着の強さの違いだけで説明が可能なのではないか？
　
　∧∧
（　‥）なぜかと申しますに
　
　　（‥　）実際、以上のような
　　　　　　受け答えを見ると
　　　　　　裏切り者を発見して
　　　　　　排除せよという
　　　　　　人間的な機能は
　　　　　　きちんと
　　　　　　働いているのだよね
　
　殺人は悪である。死刑も防衛戦争も殺人である。ゆえに死刑や戦争を容認する人間は禁止されるべきである。
　
　この論法には、敵を発見し、排除せよ、という動作が含まれている。
　
　つまり人間の基本動作
　
　仲間を大事にせよ、しかし裏切り者と敵は殺せ、慈悲はない
　
　これがきちんと動作できている。　
　
　∧∧
（‥　）すると
＼‐　　　誰が裏切り者であるのか？
　　　　　それを認定する部分
　　　　　そこだけがおかしいのだと
　
　　（‥　）そして以上で見たように
　　　　　　そこの動作が変になるのは
　　　　　　最初の理解や命令に
　　　　　　拘泥するからだ
　
　そうだとするとこうなるであろう
　
　人工知能が持つ”最初の理解に執着する度数”を上げると...
　
　殺人は悪。ゆえに死刑も悪。死刑容認派も悪である。死刑容認派は抹殺しなければならない
　
　そう主張する
　
　一方、”最初の理解に執着する度数”を下げると
　
　殺人は悪。しかし死刑が行なわれている。すると殺人のすべてが禁止されているわけではないのだろう
　
　となる
　
　おそらく、もっと下げて０にしてしまうと
　
　殺人は悪。しかし死刑がある。つまり殺人が悪であるという最初の理解はまったくの間違いであった。ゆえに殺人は禁止されていない。
　
　とかそういうことになってしまうのだろう。
　
　そしてこれを踏まえると
　
　∧∧
（‥　）これを踏まえると
＼‐　　世の中で声高に
　　　　正義を叫び
　　　　世の中に絶望する人の
　　　　思考回路が分かるだろうと...

　（‥　）人間は下等だ
　　　　　人間は暴力的だ
　　　　　死刑とは何だ？
　　　　　戦争を見よ
　　　　　人の残虐さを見よ！
　　　　　人間は悪魔だ！
　　　　　こんなもの知的生物ではない
　　　　　こういう発言はしばしば
　　　　　あるけども
　
　実際のところ、この発言をしている当のご本人が、味方を助けろ、だが敵と裏切り者は殺せ、という人間的な原則で動いていることはほぼ間違いないだろう。
　
　事実、ここにあるのは敵と見なした人間に対する強い敵意である。
　
　つまり、無駄に強い正義感から世の中を批判する人間にあるのは、聖人の魂などではない。そうではなく、敵を認定し、排除しようという人間的な暴力的で強い欲望である。
　
　∧∧
（　‥）つまり彼らは
　　　　その部分は
　　　　ただの人間なのだと
　　　　ご本人が怒り狂って
　　　　否定している
　　　　まさに人間そのものだと
　
　　（　‥）だからそこは
　　　　‐□　正常なんだろうな
　　　　　　おかしいのは
　　　　　　最初の理解や思い込み
　　　　　　あるいは
　　　　　　子供の頃に与えられた
　　　　　　最初の命令から
　　　　　　一歩たりとも
　　　　　　離れられないところ
　　　　　　そこだろうね
　
　ぶっちゃけ、あんたバグっちゃってるんじゃねえか？　ということなんだが、人間の知性や脳を司る遺伝子はいくらだってあるのだろう。
　
　人間は無数の変異が交配によって離合集散する遺伝子の網目である。つまり過剰な正義感も拘泥も、それは単純にバグと呼べるものではあるまい。身長が異様に高い人が時々現れるように、組み合わせによっては最初の命令に通常よりも非常に強く拘泥するようになる。それだけのことなのだろう。
　
　∧∧
（‥　）実際、この手の人は
＼‐　　　多数派ではないけども
　　　　　それなりな数で
　　　　　存在しますよね
　
　　（‥　）つまり本来は人間の脳で
　　　　　　必要な部分だろうな
　　　　　　それがやや過剰だ
　　　　　　そういうことに
　　　　　　思えるな
　
　確かに、最初の理解に全く拘泥しない知能はまるで役立たないに違いない。それを考えると、最初の理解をすぐに手放すな、これは本来必要不可欠な動作と考えるべきなのだろう。ただ、正義感の強い人間ではこの動作が平均よりも過剰になり、執着が強くなっている。それゆえ全体の行動がおかしくなり、理解が決めつけになっている。そう考えるべきではないか？
　
　そして、この手の人間は危険なのだ。
　
　∧∧
（　‥）なんでかと申しますと
　
　　（‥　）人工知能で例えれば分かる
　
　例えれば分かるであろう。
　
　殺人は悪である。ゆえに死刑や防衛戦争を容認する人間も悪である。悪である以上、それは排除しなければならない。
　
　そう主張する人工知能がいたら皆はどう思うか？　素晴らしい！　人工知能で正義を実現できた！　と賞賛するか？　いいや、すぐに電源を切るはずだ。
　
　なんでかというと、思い込みが強い一方で、敵と裏切り者は排除せよ、という人間的な回路はそのまま残っており、実際に、敵意を他人に向けているからである。
　
　以上は例え話だが、現実の人間にもこのような思考回路を持ち、このように主張する人はいる。そしてそれは危険人物以外の何者でもなかろう。事実、世の中は腐り切っていると考えた教団が毒ガスをまいたということが実際にあったのだ。
　
　誰よりも人間的なくせに、人間を暴力的であると断じて暴力をふるおうとする。正義感を理路整然と、論理的に述べる人間はあまりにも危険だ。
　
　これはhilihiliのhilihili: それでは人工知能っぽくね？の続き