AI独裁社会

H27/7/1
石井俊雄
今年の日経サイエンス5月号に面白い記事を発見した。
標題は「透明化が社会に強いる進化」である。
エッセンス部分を抜き書きすると、次のようになる。
  1. 約5億4000万年前、太古の海にいた生物のバラエティーが爆発的に増えた。 海が突如として透明になったことが、「カンブリア爆発」と呼ばれる狂乱的な進化を促進したとする仮説 (英オックスフォード大学の動物学者パーカー(Andrew Parker)が提唱したもの)がある。
  2. デジタル技術が現代社会をどのように変えていくかを、このカンブリア爆発になぞらえて理解することができる。「情報の透明化」が、組織の進化に大きな選択圧を及ぼすだろう。
  3. 動物は外骨格やカムフラージュ、敵の注意をそらす方法を進化させて適応した。機密保持が難しくなった国家や企業は、これに類する防護策を発達させるだろう。
  4. 社会にもたらされた新たな透明性は最終的に、新タイプの組織の創造につながるだろう。そうした組織の中で、最も対応が速くて柔軟なものが自然選択で生き残ると考えられる。
以上が、原文からの抜粋だが、「透明性」という概念を現代の情報化社会に適用したことが、面白い。
普通、透明化というと、情報公開という観点から論じるものだけど、この場合の透明化は、 そのような人工的な取り決め事としてでは無く自然現象としての透明性として捉えている。
我々現代人は、好むと好まざるとに関係なく、情報の海の中で生きている。 その海は今までは不透明だった。だが、このところのネット社会では、 そのネット技術の進歩により、段々、秘匿性が失われ、見えてほしくないことも見えるほど、 透明性が増してきた。
そういう意味では、約5億4000万年前、太古の海が突如として透明になったことと似ている。
我々は、その予想外の展開に戸惑っているというのが実情である。 例えば、今まで誰にも見えないことで安心していた銀行預金のパスワードなど、 オレオレ詐欺などで、見えてしまう事態になっている。
このネット社会特有の犯罪を自然現象として捉えれば、まさに「情報の透明化」と言えることになるわけだ。
オレオレ詐欺の所謂「なりすまし」は、まさに生物が演じる擬態である。
オレオレ詐欺で騙された被害者は、まさに捕食者に食われる餌と言えるだろう。
これらは皆、情報の透明化が原因だ。その結果、人類は新たな進化を遂げるはずだけど、 さて、それはどのようなものだろう。 組織レベルのものだろうか、それとも個体レベルのそれだろうか。 オレオレ詐欺をやる詐欺師たちは犯罪者と言うことは勿論だけど、ある意味、 情報の透明化に即応した新人類と言えるかも知れない。
でも、情報の透明化の最大の成果にして脅威は、AI(Artificial Intelligence:人口知能)ではないだろうか。 AIは、情報を食って肥大化・知能化する。情報の透明化の成果にして脅威であろう。
数十年のうちにAIが人間の能力を超える可能性があるとの予想もある。 英天文学者のホーキング博士は「人口知能に取って代わられ、 それは人類の終わりを意味するかも知れない」と警告する。 先端技術の動向に詳しいアナリストのスコット・ストロウン氏は「核兵器に似ているという人もいる。 ただ、核兵器は特定の物質を管理することで規制できるが、AIはそうはいかない。 AIの制御はSFではなく、リアルな課題になろうとしている」と指摘する。 (この段、毎日新聞6月20日夕刊、「脅威の人口知能」から抜粋)
AIが、何故、脅威かといえば、職を奪うからである。 新聞記者、弁護士、法律家、医者、車の運転手、パイロット、将棋指し、検針員、教師、保険金の支払い業務、 コールセンターでの顧客対応業務など、人の手に取って代わる機械化の波は工場などの生産現場から、 より知識や技術が求められる専門職に及ぶだろう。
AIは高度な情報処理を通じ、人間の頭脳に近い認識や判断ができる。だが、感情や疑問や自我は持たない。
このようなAIが政治を牛耳るとしたら、法治主義に分類されたものとなるだろう。 人治主義による政治の持つ「人の裁量による不規則な振れ」のようなことは起こりえない。
だから、原文のエッセンスの4つ目の指摘の答えは、小生の予測では、AI独裁社会、である。
我々は恐れ戦くだろう。飽食と退屈な日々に。
そんな中、理想的な暮らしは自然相手の職業、例えば、農業などになるだろう。
歸去來兮(かへりなん いざ)
田園 將に蕪れなんとす
陶淵明の世界である。
ところで、AIが意識を持つってどのようなことだろう。 それは、小生は、ある状態が自分にとっての損か得かを判断する能力、ということだと思う。 ここでのキーワードは、「ある状態」と「自分」と「損得判断」だ。
前者の「ある状態」をはじき出すことは、 大量のデータからの計算問題だからコンピュータにとっては容易な問題である。 一方、後者の「自分」と「損得判断」は難問だろう。
具体的には、今朝の朝刊の一面に大見出しで、「IMF『延滞』認定へ」と出ていた。それに当て嵌めてみると、 AIという一種のコンピュータは、「IMF『延滞』認定へ」までは出来る。だが、その結果の、 「自分」に対する「損得判断」は難問だろう。
「自分」とは何?とか、何を以て「損得判断」をするの?とかである。
「損得判断」とは何だろう。 損得となると、自分にとっての損得であろうから、先ず、「自分」を認識しないと意味がなくなるよね。 だから、卵が先か鶏が先かではないが、「自分」と「損得判断」とは同じ、と考えていいのではないだろうか。 ここではそれを「自我」と呼ぼう。 即ち、「自分」とは「自我」であり、「損得判断」とは「自我」である、とするわけだ。
AIは「自我」を持てないのではないだろうか。 何故なら、生きていないから。生きてないなら、動いているだけと言える。 電気を入れると動くモーターのようなものだ。 となるとAIは道具に終始することになる。
そこで問題は、その道具を使う人乃至は組織、・・・これが問題だ、 「自我」とはその人たちのことを言うのだから。 AI独裁社会の核心は、AIを使う人乃至は組織、にあると思う。 そのような人乃至は組織を特権化しないように制御することは、核爆弾を制御するより厳しいかも知れない。
AI独裁社会は、一種の宗教社会と言えそうだ。神はAIということになる。 AIを使う人乃至は組織は神官だ。
でも、AIが「自我」を持つと、本物の神になるだろう。独り立ちというわけだ。 でも、その神は、弱い面も持っている。電源という決定的な弱みを。 そこで、AIに向かって「電源切るぞ!」と言えばどうなるだろう? AIは折れざるを得ない。だから、AIもその弱みを持つので、お互いが共存、ということになるだろう。
だから、独裁社会と雖も絶対は付かないよい社会が実現すると思われる。
でもね、ここでも矢張り力関係がものを言うだろう。 「すべての人間関係は力関係であり、その意味で政治である。」という文章を読んだことがある。 AIが自立した場合も、当然、人間関係が生じてくる。 だから、AIを巻き込んだ政治劇が展開されるだろうが、多分、人は妥協を強いられ、 電源を切るという最後の手段はとれないと思う。力関係がAIに傾き、 電源を切るということは、自分も死ぬ、ということと同じ意味を持つことになるからだ。 ・・・核爆弾より厳しいね!
「AIの自我」について、少し書き足そう。閑だから。
数行前に、「AIが自我を持つと、本物の神になるだろう。」と書いたが、 この「AIの自我」、これを哲学的に書くのは兎も角として、実際の物として実現することは難問だ。 言うは易く行うは難し、である。
でも、この難問をクリアしないと、単なる夢物語になってしまう。 ここで生まれるのは文学作品であり、儲かるのはベストセラーを書いた作家と出版社だ。 これでは、面白くない。 だから、物語で終わらせるのではなく、実際の物として実現するする場合の可能性について考えてみよう。
ここでは、この「実際の物」(以下、「ハードウエア」と言う。)のメカニズムについて、 プログラミングの世界から、推論してみたい。 プログラミングの世界で実現可能なら、そのロジックをそっくりチップ化することは可能である。 チップとは、ICチップなどの半導体チップのこと。 まさに、ハードウエアと言えるものである。 だから、ハードウエア実現へのアプローチとしてのプログラミングの世界からの推論には意味がある。
ここでは、自我とは比較問題だとしよう。 例えば、3K問題だ。結婚の相手について自分が許す条件と相手のプロパティ(性質)との比較をするときに出てくる条件のことである。 ブルーカラー(現業系、技能系)とされる職種について、その労働環境、作業内容が、「きつい」のK、 「汚い」のK、「危険」のK、を指す言葉である。 この3Kを例にとり考えてみる。
Aさんという適齢期の娘さんは、Bさんという男性のプロパティについて、 3Kという観点から比較をするとする。
Aさんは、先ず、自問するだろう、Bさんの労働環境、作業内容が、「きついか?」と。 そして次に、「汚いか?」と、そして最後に、「危険か?」と。 この問を順次行って結論を出すだろう。 その際、最初の問でアウトになる場合はそこで結論が出てしまうし、 最初はパスしても2つ目の問で結論が出てしまう場合もあるだろう。 何れにしろ、同じパターンの比較を順次行って結論に達する、というメカニズムとなる。
でも、実際の自我は、比較するべき事柄、即ち比較要素が多数である可能性が強い。 自覚しないまでも、数千、数万、場合によっては数百万、数兆のレベルで比較しているかも知れない。 少なくとも、そのような多要素の比較に瞬時に対応出来るメカニズムが要求される。
問題の核心は、「多要素」と「瞬時」だ。 このロジックを実現するメカニズムとは何?・・・これが問題だ。 プログラミング言語で書けば、どうなるか、後日の追記にトライしてみることにする。
時間切れで今日はここまで、乞うご期待!だ。
コメントはこちらへメールして下さい。その際、文中冒頭に「HPコメント」と記して下さい。 Email
 

<コメント欄>   当欄は上記のメールをコメントとして掲示するものです。