カテゴリ
全体 ★ ★ 総 括 ★ ★ ~ ~ ~ ~ ~ ~ 《 過去記事の目次 》 『科学的世界観』のBlog エリア1 (科学の周辺) エリア2 (客観Xと主観Y) エリア3 (ロボットの心) エリア4 (問題の所在) エリア5 (様々な発想) エリア6 (生物学的発想) エリア7 (「空」・「唯識」) エリア0 (Blog 総 括 ) ~ ~ ~ ~ ~ ~ ☆☆ 参 考 図 書 ☆☆ 検索
最新の記事
記事ランキング
最新のコメント
最新のトラックバック
タグ
ファン
ブログジャンル
|
2004年 09月 22日
serpent-M夫 さん、こんばんは。
serpent-owl さんは、この中で次のように述べておられます。 >僕が内心において「進化の過程を経た有機生命体が抱く《心》だけが本物だ」という定義を抱いているからです。 そして、明示的に述べられてはおりませんが、 「進化の過程を経た有機生命体」と「機械」は原理的にまったく別のものである、 ということが前提されているようです。 そうすると、論理的必然として、 >「機械に心を持たせるのは不可能」 ということになると思います。 これはいわば、同義反復のようなものです。論点を最初に定義として先取りしているからです。はじめに結論を定義として受け容れてしまえば、それ以外の結論は出ようがありません。これは、その体系内では論理的に正しいと思います。しかし、以上が「現実の宇宙の真理」であるかどうか、ということはまた別問題です。 私は、serpent-owl さんとは別の信念を持っています。つまり、「進化の過程を経た有機生命体が抱く《心》だけが本物だ」とは思っていません。心の有無については、「進化の過程を経た有機生命体」と「機械」とで何らかの原理的な違いがあるとは思っておりません。むしろ、どちらも物としては同じ法則に従う、原理的には同じものだと考えています。そこから、人に心があるなら、ヒューマノイドにも心がある、ヒューマノイドに心がないなら、人にも心はない、という結論になります。 これも、論理的には一貫したものだと私は思っています。その点では、上記と対等なものです。 以上は、互いに相容れない信念の述べ合いの段階だと思います。どちらも、自分の考えが宇宙の真理であると自分は信じている、と言っているので、このままではどこまで行っても決して議論はかみ合わないと思います。お互いの信念は了解したのですから、次にすることは、それを実際の宇宙と照らし合わせてみてどうなのか、ということではないかと思います。特に、心という言葉で意味していることがどのようなことか、ということが重要なポイントだと私は思っています。 念のため、serpent-owl さんの述べられたことが、私の信念から見た場合はどのように見えるのか、ということを述べてみたいと思います。、 ~~~~~~~~~~~~~~~~~~~~~~~~~~ >機械は心を持ちうるか。 持ちうると私は思います。 >つまり「心」の「シミュレーター」は近い将来、比較的楽に作れるだろうけれど、それはホンモノの心とは別だということです。 私も、本物とシミュレーターとが、(定義によって)、違うことは認めます。しかし、機械に、シミュレーターではない、本物の心(人間に心があるとして、それを本物の心と呼ぶ場合です。)を持たせることができないとは思いません。 ここで、なぜここで()内のようなことをことをわざわざ述べるかというと、心とは何かということに共通の理解が得られていないので、心という言葉の意味の中に、結論が忍び込む恐れがあるからです。 >例えば人工無脳みたいに、ある入力に対して何らかの判断処理を施して反応を出力するという形で、「らしきもの」はできるでしょう。語彙を増やしたり判断処理系を洗練したり、先立つ出来事の影響をいくつかの変数に保持しておいて、それを利用して「気分」のようなものも実現できるかもしれません。洗練の度を加えれば、ほとんど人間の心と変わらないような反応を示す人工無脳だってできるはずです。 ほとんど人間の心と変わらないような反応を示す人口無脳と、人間のどこがどう本質的に違うのでしょうか。 >が、これは僕から見ると「心とは言えない」わけです。 私から見ると、なぜ「心とは言えない」のか、その理由が分かりません。 >「ほんっとにおんなじ」というところまで行ったとしても、それはプログラムによって作られたものでしかない。 プログラムによって作られたものだと、どうして、「ほんとにおんなじ」になっても、まだ違うのでしょうか。 >しょせん「シミュレータ」です。 シミュレーターであれば、(定義によって)、本物と違うということは認めます。 でも、どうしてシミュレータなのでしょうか。 >「区別できなければ同じ物」という等価原理は、ここには持ち込めないように思います。 どういう理由で持ち込めないのでしょうか。 >これに対して、その「判断処理のプログラム自体を自発的にプログラミングしていけるようなコンピュータ」を考えて、そいつにさまざまな刺激を与えていって自律的に「人格形成」させていく、というのを考えると、いくらか本物に近付いてきます。コンピュータ個体ごとに異なった「経験」をさせれば、それぞれに割と本物っぽい「個性」が生まれるでしょう。 どうして、いくらか本物に近づいてくるだけであって、本物ではないのでしょうか。人間が現にやっていることとどこがどう本質的に違うのでしょうか。 >しかし、これでも「本物」と言えるかどうか。「感情」はどうして生まれていくだろう。愛や憎しみといった高次で複雑な感情は置いといて、とりあえず「快」と「不快」でいい。 「感情」はどうして生まれていくだろうという疑問には、私も答えられないのではないかと思います。しかしその事情は、人間の場合にも同じではないかと思います。人間に感情が生まれたのなら、それを機械に生まれさせることができない理由は何でしょうか。 >コンピュータが自発的・内発的に「何を快とし何を不快とするか」判断できるようになるだろうか。 既に動物や人間がやっているなら、それと同じことをすればいいのではないでしょうか。 >快・不快を感じるためには「価値判断」を知らねばなりません。「正の価値を持つ入力には快を、負の価値を持つ入力には不快を」感じる、ようにしなければなりません。さしあたっては、「何が正の価値を持つ入力で、何が負の価値を持つ入力であるか」は外部からお仕着せの「価値観」を与えればよさそうです。 人間もそうなのではないでしょうか。改めてDNAや文化や教育を持ち出すまでもなく、人間が、外部からお仕着せの「価値観」を与えられないで、価値判断を知ることが(機械とは違って)できる、というのはどういうことでしょうか。 >いやしかし、この「外部からのお仕着せ価値観」というのも、へぼふくろー的には「本物らしくない!」ところなのです。 私は本物らしくないとは、必ずしも思いません。下手にやれば「本物らしくない」かもしれませんが、本物らしく見えるようにうまくやればいいでしょう。 また、「本物らしいかどうか」ということと、「本物かどうか」ということは別ではないかと思います。 >例えばコンピュータ君にある種のセンサを付けてやる。そのセンサをこんなふうにドツクと「いてえな、ちくしょう! なにしやがんでえ!」と反応する。そのセンサをこんなふうにアレすると「おわっ、そ、そこを、そ、そんなふうにされると、お、おぢちゃん、やばいことになってしまう」とか反応する。そういう反応系、価値観て、機械には持ち得ないものです。外から教えてやるしかない。 人間の反応系は、外から与えられたものではないのでしょうか。自分の意思で反応系が自由に変えられるでしょうか。 また、人間に持てる価値観を、機械が持ち得ないのはどうしてでしょうか。 >が、それをも「自発的・内発的に」発生させようとすると、もう一つ前の前提に話が及びます。アレです。「死」です。「不快」はさまざまな程度・段階・間接性において「死」に結び付いています。「快」は反対に、さまざまな程度・段階・間接性において「生」に寄与します。 そうではないかと思いますが、機械には原理的に「死」はありえないのでしょうか。 >ジェームズ・パトリック・ホーガンのSF作品に『未来の二つの顔』というのがあります。お読みになったら面白いかもしれませんので詳しくは書きませんが、要はある実験のために自己保存本能を与えられた自律型巨大コンピュータを邪魔しまくり、壊しまくり、言うこと聞かせられるか、聞かなくなったら壊せるかを試みたのです。ところが、かのコンピュータ氏がめちゃめちゃ賢い。非常によく戦います。人間側に死者も出ます。人間、ヤバイっす。下手すっと全滅っす。 つまり、この自己保存本能を与えられた自律型巨大コンピュータは心を持った、ということですよね。 >結局かのコンピュータ氏は「心」を「推論」して獲得するのです。 >「自己保存本能」ってところがミソなんです。「おいらは自分を守りたい」というのしか、当初はないのです。それが、「さっきからおいらの邪魔ばかりするあのふにゃふにゃした《動くもの》」も、「どうやら動きを見てると自分を守ろうとしているらしい」ので、「ひょっとしておいらと同じに自分を守りたいんじゃないか」ときて、「おいらはおいらが消えるのが好ましくないんだから、アレたちも自分が消えることを好ましくないと思ってるんだろう」となって、コンピュータ氏は突如として殺戮をやめるわけです。 人間のしていることと同じですよね。 >というわけで「自己保存本能」がミソなんです。小説では比較的あっさりと「プログラムした」ことになっているこの「自己保存本能」なんですが、しかしいったいどうやって機械に教えるのかというのが問題ではないかと思います。 >言い換えれば「死の観念」を教えるということです。機械に、それ自身の消滅を「好ましくないこと」といかに認識させるかということです。 私もそう思います。 ただこの問題は、自然が動物という形で既に答えを出しています。同じことが機械にできない理由が何かあるのでしょうか。 >だいたいです。人間の編んだ思想の中にも「死は怖くない」という教説は太古の昔からあるのです。比較的論理的なものにヘレニズム期の「死は経験できない、ゆえに何ら恐れるに足るものではない」というのがあります。死んだときには主体は消滅しているから、この「死」という事象そのものは決して経験できない。経験できもしないものは恐れるに足りない。人が死を恐れるのは、厳密に言えば死に至る苦痛を恐れているのだ。死そのものを恐れているのではない。死そのものは何ら恐ろしいものではない。という感じです。 ここでの議論に直接関係はしないと思いますが、経験できもしないものは恐れるに足りない、と論理的に言ってみても、それと恐怖は別のものではないかと思います。 >機械にも同じような推論はできるはずです。消えることは恐くない。となれば、「消えること」に結び付くようなさまざまな入力だって恐くはないのです。「外部からのお仕着せ価値観」によってある種の刺激を不快と感じるようプログラムされた人工無脳だって、自律的にプログラムを書き換える能力があるのなら不快系の入力は自動的にカットするように自己プログラムすればいい(これってドラッグ?)。あるいは、逆に「快」になるように自己プログラムすればいい(これってマゾヒズム?)。 ()内を除き、その通りだと思います。つまり、この点で人間と機械は同じだということですね。 >ことほどさように、機械に「死ぬこと、消えることは恐いんだ」と思わせることは困難です。 どうして困難なんでしょうか。 >なんだか自殺志願者を説得する難しさにも通じる部分があるような気がします。「生きていればいいことあるんだよ」「いいことってなにさ?」「だから、いろいろと、キモチイイことだよ」「キモチイイってなによ?」「さまざまな程度・段階・間接性において生に寄与することに対して感じる感覚さ」「だから、オレ死にたいんだってば」「でも生きていればいいことあるんだよ!」(以下、壊れたレコード) あ、でも、こういう説得法はやっちゃいけないそうですね、ほんとは。 ここでの議論に直接関係はしないと思いますが、私もそう思います。 >というわけで、ずーっとやってきた論点を通してみると「機械に心を持たせるのは不可能」ということになると思います。これが、いったんの結論。 そうなると思います。 >「死が避けるべき恐ろしいものだから、それに結び付くさまざまな感覚が不快と感じられる」のではなく、逆に、生命の連続、進化の過程において、生命の存続に不利益をもたらす感覚が不快だから「死は恐れるべきもの」と観念されたのではないかとも考えられます。死につながる刺激の感覚を何とも思わなかったり快と感じたりする種はあっさり滅びる。不快と感じる種が子孫を残し、存続する。死の観念が先にあったのではなく、個体の生を破壊する事象と生を高める事象が先にあり、それらへの「快・不快」の感覚が先にあって、それがぼんやりとした「生」と「死」のイメージを作っているというのが、あるいは真相かもしれません。 私も、そう思っています。 >けれど、いずれにしても、「機械に心を持たせよう」という話だと「外部から与えられたシミュレーションぽさ」の乗り越えが果たされないうちは「本物の心らしさ」には達しないと思います。 私もそう思います。しかし、「本物らしさ」と「本物かどうか」は別の話だと思います。本物らしい本物もありますが、本物らしくない本物も、そう珍しくはないのではないかと思います。 >これに対して、生物の持つ心については、単純な源基のレベルで進化論の話になってくる。このへんがちがうと思います。 >もちろん、「これがちがう」と思うのは、僕が内心において「進化の過程を経た有機生命体が抱く《心》だけが本物だ」という定義を抱いているからです。 私もそう思います。 しかし、進化によって動物に達成されたことが、原理的に機械には達成できないという理由はない、と私は思っています。 >最初から「機械」を起源とする心の在り方があるとすれば…どうでしょう? 私には分かりません。 ~~~~~~~~~~~~~~~~~~~~~~~~~~ 以上、述べられていることが私の信念から見た場合はどのように見えるのか、ということを述べてみました。やっていて、一体誰を相手にしているのかよく分からなくなる、というような妙な気分のものでした。 以上のように、serpent-M夫 さんには説得力のあるものでも、私にはまったく説得力がありません。 なお、これは機械は心を持ちうるか、という問いに対する私の考えです。文脈が違う問いには、表面上は違って見える答えが出ます。 鉄人28号に心があるか、といえば、私の答えは、心はない、です。 アトムに心があるか、― 心はある。 物と違ったもので物や心と相互作用しているような心があるか、― 心はない。 他人を思いやる心は大切か、― 心は大切。 他人の心を直接知ることはできるか、― できない。 心は私か、― 私ではない。 心という言葉は役に立つか、― 心は役に立つ。 心とは何かを明確に述べることができるか、― 心はミステリー。 心を科学で扱えるか、― 扱えない。 ~~~~~~~~~~~~~~~~~~~~~~~~~~ 続けます。 次のように述べました。 >以上は、互いに相容れない信念の述べ合いの段階だと思います。どちらも、自分の考えが宇宙の真理であると自分は信じている、と言っているので、このままではどこまで行っても決して議論はかみ合わないと思います。お互いの信念は了解したのですから、次にすることは、それを実際の宇宙と照らし合わせてみてどうなのか、ということではないかと思います。特に、心という言葉で意味していることがどのようなことか、ということが重要なポイントだと私は思っています。 先に進めてしまいます。 ・ 実際の宇宙と照らし合わせてみてどうなのか ・ 心という言葉で意味しているのはどのようなことなのか のうち、後者は、先送りさせていただきます(私の都合で)。 実際の宇宙と照らし合わせて「現実の宇宙の真理」かどうかを判断する場合、どのような基準で、どのような方法で判断するかですが・・・。 その一つとして考えられるのは、哲学的直感による、ということです。そうすれば、哲学的真実が得られるのでしょう。日常的直感によれば、日常的真実が得られるでしょう。文学的直感によれば、文学的真実が得られるでしょう。内省的方法によれば、内省的真実が得られるでしょう。宗教的直感(啓示)によれば、宗教的真実が得られるのでしょう。これらの真実は、それらの「直感」が当てになる場合に、「世界の真実」と言えることになるのだと思います。しかし、はたして本当に当てになるのか、私は疑問に思います。それらを、哲学的世界の真実、日常的世界の真実、文学的世界の真実、内省的世界の真実、宗教的世界の真実、と言ってみてはどうでしょうか。 私が述べようとしているのは、科学的真実、客観的世界の真実です。これは、科学的方法によるものです。まず、感覚的知覚による、ということです。(感覚的知覚以外の方法では世界を見ない、ということです。)次に、それらの間にできる限りツジツマを合わせる、ということです。(無秩序や混乱や矛盾は困る、ということです。)これがつまり、感覚的知覚と論理(数学)ということなのですが、原理的には、誰がやってもそうなる、何度やってもそうなる、という、たいへん明確な方法ではないか、と私は思っていますが、いかがでしょうか。 この方法の強みは、検証の手段がある、反証されれば修正されるか捨てられる、ということです。いいかげんなものは生き残れません。絶えずふるいにかけられ、吟味され、これに堪えてきたものだけが、真実として残される、という仕組みがあります。(他の方法はどうでしょうか。)もっとも、どこまで行っても、反証の可能性がゼロにはならない、これで最終的な真実というわけにはいかない、というものでもありますが。 この方法は、非常にたくさんの事柄を、今までうまく説明してきました。途中で何度も誤りがありましたが、それも自らの手で訂正してきました。はじめはバラバラであったものが、次第に統合されてきました。広くなってきました。深くなってきました。もちろん、世界のすべてがこれで解明できたというわけではありませんし、解明できると証明されたわけでもありませんが、少なくとも他の方法よりは大きな成功を収めてきた、とは言えると思っています。これと比べると、他の方法は少し頼りないように私には思えます。 そして、この方法の延長線上で考えるなら、私が述べたような結論になる、と思います。 このような考え方に対して、次のような批判がありうると思います。―― 認識として貧しい。真理という名に値しない。一体何の意味があるのか。まったくつまらない。何の役にも立たない。不愉快だ。どうでもいい。 ある意味で、このような批判は当たっていると私も思います。しかし、もし真実がそうなら、それを真実として受け容れたい、というのが私の姿勢です。 ただしこれは、観客席から左の目で見た真実です。舞台の上の右の目で見た真実ではありません。 またこれは、機械は心を持ちうるか、という問いに対する私の答えです。文脈が違う問いには、表面上は違って見える答えが出ます。 鉄人28号に心があるか、といえば、私の答えは、心はない、です。 アトムに心があるか、― 心はある。 物と違ったもので物や心と相互作用しているような心があるか、― 心はない。 他人を思いやる心は大切か、― 心は大切。 他人の心を直接知ることはできるか、― 心を知ることはできない。 心は私か、― 心は私ではない。 心という言葉を使って何かを伝えられるか。― 心で伝えられる。 心という言葉は役に立つか、― 心は役に立つ。 心とは何かを明確に述べることができるか、― 心はミステリー。 心を科学で扱えるか、― 心は扱えない。 ➡️ 当Blog の総 括 https://nbsakurai.exblog.jp/i13/ の 補足3: 人工物による生命・意識の実現性の問題
by nbsakurai
| 2004-09-22 09:57
| エリア3 (ロボットの心)
|
Trackback
|
Comments(0)
|
ファン申請 |
||