zunda’sblog ズンダのブログ

zunda’s blog  ズンダのブログ

読書好きな弱者男性の管理人ズンダが古典、小説、批評文、経済、実用書、ガジェット、ゲームを中心に紹介するブログです。ご覧ください。Amazonのアソシエイトとして、当メディアは適格販売により収入を得ています。

【読書 感想】2045年 未来の世界ではAIが人間を支配しちゃう?『AI倫理』(中公新書ラクレ)

f:id:zunnda:20190909122241p:plain

イラスト屋


 

 

 前回の記事と同じく『AI倫理』についてかいていきます。

zunnda.hatenablog.com

 

 今回の記事では次のようなことを取り上げます。

 

 ・生物とAIとの差異
 ・AIに期待しすぎる欧米研究者たちを批判する
 トランス・ヒューマニズム

 レイ・カーツワイル『シンギュラリティは近い‐人類が生命を超越するとき』
 ユヴァル・ノア・ハラリ『ホモ・デウス
 ニック・ボストロム『スーパーインテリジェンス―超絶AIと人類の命運』
 

 

 AIと人間の関係性

 テレビやマスコミが伝えるAI。そして我々はAIを人間だと勘違いする。

 

 AIということばから、我々は次のように考えることが多いと思われます。
 

 「人間と同じような存在。もしくは人間よりも遙かに賢い存在」
  
 そして人々はこの存在をまるで人間のように扱ってしまうようになる。そして擬似的な人格までも持つと。

 

 以前、テレビで見たことがあるのですが、マツコDXのロボットが彼女と並び、しゃべっている番組がありました。

 

 あれよりもリアルな肌質で、さらに人間のように受け答えをするようなロボットが目の前にいたとき、我々はロボットを一人の人間のようにとらえてしまうのではないでしょうか。

 

 そして実際、AIは疑似人格を導入しようとしているのです。
 
 この場合、我々はAIに対して人間のように同視するようになるでしょう。

 すると次のように考えるようになってきます。

 

 もしかすると、AIが人間にとってかわるのかも?

 

 その場合、人間の代わりにAIが色々やってくれるけれども、その責任や倫理はどうなってるんだろう、と。

 
 その「倫理」について「自動運転」、「監視選別社会」、「AIによる創作」といった具体的事例を考察する章で考えられています。

 

 その一例である「自動運転」については前回の記事をどうぞ。

 

 ちなみに本書ではAI=ロボットというふうに表現されています。


 今のロボットは少なからず人格が備わっているらしく、もはやその違いはなくなっているからだそうです。

 

 しかし、AIは人間=生物とは違います。見ていきましょう。

 

 生物と機械とは何が違うのか。

 

 自律性から考える。

 

 筆者は次のように述べます。

 

 

 広義の自律性 他者の指令を全く受けずに行動すること。下等生物をイメージ。

 狭義の自律性 社会的な自律性 人間と同じく社会で責任をとることができる

 

 

 この二種の自立性では前者を「理論的自律性」、後者を「実践的自律性」とよびます。


 我々人間は狭義の自立性ですね。一応、自由意志があり、様々な状況にあわせて、物事を考え、行動できるからです。
 
 ではロボットはどうなのでしょうか。

 

 もしロボットに責任を問えるのであれば、まず実践的自立性があるのかを考えなければいけません。


 ここで重要なのがネオ・サイバティクスという21世紀における学問からひきだされる知見です。

 
 

 生物=オートポイエティック(自己ー創出的
 ロボット=アロポイエティック(他者ー創出的) 

 

 本の中から摘要しましょう。

 

 オートポイエーシスとは「自分で自分を創出する」ということです。

 

 生物は環境との相互作用のなかで、影響を受けながら自分自身をつくりあげていくことができます。
 

 生物は「『情報をうけとって客観的世界を構成している』のではなく、

 

『(生存をつづけられるように)情報を解釈して主観的世界を構成している』のである」

 

 ということを常にやっているのです。

 

 ロボットの設計者はロボットにどんな入力をあたえればどういった出力が現れるのかがわかっています。
 予想外の行動は原理的にはありません。

 

 しかし、人間は違いますよね。


 その人の性格や背景などで物事の捉え方や接し方が異なる。

 

 それ故、人は不確実性を備えた存在であり、「なぜそれをしたのか?」を突き止めることが難しいのです。

 

 ここからAIも機械の情報処理は人間の観察行為と本質的にことなるために人格をもつことは原理的には不可能ということがわかります。
 
 ロボットは他律系=人によって入力されたものを出力するだけの存在、と考えられています。

 

 どんなに複雑な作業をしているようにみえても、実際はプログラムされたことをやっているだけにすぎません。

 

 そこには解釈し、考え、行動するという経緯が完全に抜けているわけです。

 

 ここまでで分かったことは次のようなことです。

 

 ロボットは他律系であり、自律していない。故に、ロボットに人格を求めることはありえない。


 だが、人間「らしく」はなるために、ロボットを人間のように扱いたがる人々はでてくる。それは一部のAI研究者たちですら、だ。
 
 

 欧米のAI研究者にはキリスト教が心底にある

 トランス・ヒューマニズムという思想

 

 西垣氏は第二章から第三章にかけてAIと生物との差異を洗い出しながら、欧米のAI学者や歴史家を徹底的に批判しています。
 

 まず、欧米の研究者や学者には次のような特徴があると指摘します。

 

 

  •  人間(生物)と機械とを峻別せず、ともに情報処理体であるとみなす。
  •  神によって創造された世界が論理的な秩序をもっており、ゆえに万物の秩序を探求し体現することが「進歩」とされる。


 ここで槍玉にあがっているのは

「トランス・ヒューマニズム(超人主義)」という考え方です。

 

 「AIは人間を超える」という広告や記事や番組をみたことがある人は多いと思われます。
 

 この考え方を突き進めていくと、

 

AI=神であり、世界の支配者として君臨し、人間を傘下に治めることが可能になる。

もはや人間はAIなしでは生きていけず、新たな進歩もない、となります。

 

 

 こういった思想を「トランス・ヒューマニズム」といいます。
 どこかの宗教書を読んでいるような気持ちになりますね。
 
 

 AIに期待しすぎである

 

 実際、AIに興味をもっている人々はこういった思想をもちやすいらしく、数々の出版物がでています。

 日本でも有名な、

 

カーツワイル

『シンギュラリティ』

 

ユバル・ノア・ハラリ

『サピエンス全史‐文明の構造と人類の幸福』

らですね。
 
 こういった人々の本は楽観、悲観の差はありますが、

概ね「AIによる人類の支配がはじまる」といった内容です。

 

 これらの人々を西垣氏は辛辣な筆致で責め立てております。

 

 思い出して下さい。

 AIはアロポイエティックな存在=他律だったはずです。

 

 人間が指令したとおりにしか動けないAIがどうして人間を支配するなどという話になってしまうのでしょうか。

 

 そもそも、アルゴリズムだけで人が動くと考えること自体に欠陥があります。
 
 引用します。

 

 しかし、アルゴリズムによって解決できる問題範囲がいかに広大であろうと、それは人間の思考の全体を覆うわけではない。人間はイメージや直感、つまり身体的情動とむすびついた意味によって思考していることが大半であり、論理的な推論は重要ではあっても思考のごく一部でしかないのである


 

 西垣氏は

 

欧米研究者のキリスト教一神教の神話性、つまり「選ばれた民=選民である我々のみが神=AIのご託宣を聞き入れ、全うできる」

 

 といった宗教的な考え方に支配されていると考えておられます。

 

 確かにこれらの議論を聞いているとまるで宗教の教義をきかされている気分になってきます。


 それを所謂「現代科学」という言葉を隠れ蓑にして、布教しているのではないか。
 そんな気持ちになってきますね。

 
 
 西垣氏は「したがって、カーツワイルにせよ、ボストロムにせよ、ハラリにせよ、彼らの主張をSFの一種として位置づけることは決して不当ではない」と述べておられます。
 
 さらにルチアーノ・フロリディに対しても厳しく批判されています。
 ルチアーノを含む彼らへの詳しい譴責は本書の第三章「情報圏とAI」をご覧下さい。

 

 さて、次はいよいよAI倫理です。
 この本のタイトルとなっているAIにおける倫理とはなんなのか?
 それが明らかになります。

 

 おわりに
 

 今回の記事をまとめてみます。

 

  •  AIは他律存在であり、人間がプログラムしたようにしか動くことはない。今の水準からいってシンギュラリティは起こりえない。
  •  ただし、AIを過大評価する人たちがいる。彼らのいっていることは荒唐無稽な宗教のようなものであり、現実味がない。
  •  AIは他律であるが、誤作動による倫理的な問題や社会的判断を下す場面が確かに生じる。  

 

zunnda.hatenablog.com

 

 


 

 いちおう、西垣氏に批判された本を紹介しておきますね。