コンピューターが自我、感情、心を持つ日。

そんな日は来ますか？
いつごろ来ると思いますか？どのような形でその日が訪れると思いますか？

またその日には、人間はどのような形で存在していると思いますか？
殆ど有機と無機の区別の無い、機械？ナノプローブ、
と融合したような状態になっているとは思いませんか？
もし人間の姿が今とかけ離れたような状態にあるならば、機械が心を持ったとしても、それは
人間に脅威をもたらすようなものではないかもしれませんね。

返信する

自我の概念をどこに持って行くかで全く話が変わってくるだろうね。
人とは違った自我がって書き込みもあるみたいだけど、じゃあ、何を思って自我？って話しだよね。
そもそも人と違った自我を、人が自我と認識できるのかって事もある。
できないなら自我と呼べるのかとか。
まあ、言葉遊びみたいになっちゃうのかな。

返信する

>>46
スレ主の危惧している事は、あまりにも高性能になったコンピューターが
いずれ勝手に自我を持ち（自分で考え)人間に害を及ぼすのではないか？
って事だと思うからどちらでもいいんじゃまいか？

自我を持つに至らなくても、核のボタン発射されたら、かなり痛いから
ロボット３原則？的なものをを今の内からCPのメインの分に埋込んで
対策とっておいた方が良いと思うね。

返信する

よしじゃあここは、仕切りなおして、どうやったら自我が再現できるかを論じてみよう。
まずは絶対に必要なのが快、不快を判断する器官。
コンピューターにとって外的入力信号を、快か不快かで判断させる。
そして何かしら出力出来るようにしといて、入力⇒快OR不快⇒出力⇒フィードバック
の回路が無いことには始まらないな。
感情なしの自我なんてありえるんだろうか？

返信する

怒りをどこまで制御できるかだな。
日本人の性格を取り込めばいいんじゃね？。
でも作るのは西に方々の発想で作られるのだから・・・・。
猿の惑星態度の天変地異あるかもね。

返信する

>>48
＞まずは絶対に必要なのが快、不快を判断する器官。
＞感情なしの自我なんてありえるんだろうか？

感情は自我に必要不可欠って事は無いでしょ。

返信する

2045年問題

返信する

データバックアップの機能を進化させていけば、それが高度な自律性へ繋がるよ。
記憶、所有、収集、管理、維持、整合・・・いずれ保身、防御と結びついて自我が生まれる。

返信する

＞記憶、所有、収集、管理、維持、整合・・・いずれ保身、防御と結びついて

結びつく、と言っているところの説明がすっ飛ばし過ぎて
論理的には破綻しているだが、そこは理由の無い予想？
それとも説明できる論理的考察を省略しているだけ？

返信する

>>51
2045年問題
コンピューターが人間の知性を超える日が来たとしても
結局、支配しているのは人間だから、喜ばしい事なのでは？

むしろ人間は近い将来に、滅亡するかもしれないけど
その時、次の文明を持った生物に、唯一人間の英知を伝える存在
になるのかもしれないよ

返信する

確かに自我が哲学、精神分析、心理学用語であって、科学的説明がなされていないようだから、議論が出来ないってことにもなるな。
一応自我を、自分と外の境界を認識している状態とすると、もう既にコンピューターは自我を持ってるかもしれない。認識しているだけで何も発信する必要が無いのであればそれは自我かもしれない。感情の無い、心の無い自我は実につまらないものになりそうだ。
やはり心がないと知性、自我とはよびづらいものである。
そして心とは何かというとやはり感情が主体になってくる。
既にコンピューターは人間並みそれ以上の認識力、情報分析能力は手にしている。
原始的な動物の動きくらいならシミュレートできる。足りないものはやはり感情かな。

一番恐いのはコンピューターが感情を持って行動を選択できるようになったとき。だな。

返信する

そもそも「心」というモノ自体が科学的定義では無いから、
「心を持つか？」という問い自体が不適切だと指摘する事が出来る。

仮に、「心とは知識、理性、感情など複雑な要素の混合体である」と
定義しても、結局のところそれは非・科学的用語で説明を
循環させているに過ぎず、定義としては同様に不適切である。

ではあくまでも第一段階として、「人間的振る舞いをするかどうか」という
基準に照らすとするなら、それは既に実現している。
高度なAIであれば、相当な受け答え等が可能であるが、それは心と呼べるのか。
原始的な「コンピューターの心」なのか、それともまったく別なものなのか。
AIには感情が無いというが、極度のストレスを加えた場合にランダムな
行動に及ぶようあらかじめプログラムしておけば感情らしきものを表現するのは
実に容易である。

やはり、コンピューターに心・自我が芽生えるかどうか、と言うよりも先に、
人間の心・自我と言うものがどのように定義されるかが先かと思う。
あくまでも科学的に。

返信する

チューリング・テストでは、AIが本当に心を持っているのか、
それとも心を持っているように振る舞うシミュレーション・プログラムに
過ぎないのか、ということは問わない（そもそも判断できない？）んだっけ？

返信する

自我、感情、心って、本当に「脳」なの？
もし脳なら…
遠い将来、人工的に脳だけ（CPUってかコンピュータじゃなく、人間の脳と全く同じ物質の脳）造る事が出来るようになったら、造っている途中で自我が自然に発生するの？
同じ脳を3つ造ったら、3つに同じ自我が？
それとも違う自我が目覚めるのかな？

心臓移植で性格や好みがガラリと変わったって話もあるけど、
もしや脳だけじゃないのでは…

返信する

>>58
＞心臓移植で性格や好みがガラリと変わったって話もある

オカルトの領域だね。
あれでしょ。術後、食べ物の好みが変わって、それは臓器提供者のものだったとか。
でもそれは実証されてないし、いまだ信用に足る実例は無い。
（あくまで当事者の話としていくつか聞く事は出来るが、作り話の可能性が否めない。
特にそういった事例は当事者はほぼ必ず仮名だから確かめようがない。）

また、心臓移植と言う重大な転機で、考え方や思想が変わる事も当然考えられ、
臓器提供者の性格が「うつった」とは言い難い。
（移植の後、人が変わったように・・・という話もオカルトでは良く聞くが、眉唾。）

脳だけだと断言するほど傲慢ではないが、脳以外にもと考えるだけの科学的根拠が無い。

返信する

相当な受け答えというが、やはり自分で考えて？自然に、人間並みに、人間と見間違うほど
に、人間の行動を、受け答えをプログラミングで再現するのは不可能だろ。
仮にプログラミングできたとして、それは心を持っているのか？という「哲学的ゾンビ」問題
というのがあるが、そこまで遜色なく再現できれば、それはクオリアを持っているといってよいと自分は思う。そもそも人間自身がプログラミングにそって反応しているだけのゾンビといってもよいではないか。とも思うのだ。クオリアを突き詰めることに意味はない。

脳だけを作れば、それに自我が宿るか？というが、脳だけでは人間性、知性を備えた自我は出来ない。人間は生まれたときには脳はまだ成長段階で大体25歳まで脳は成長を続ける。
それまでのあらゆる経験、入力、出力がなければ脳には高度な知性は宿らない。
猫の視覚遮断実験なんかでも有名だが臨界期までに、ある刺激、入力がないと、そのクオリ
ア？、を認識、識別することが出来なくなる。
つまり脳が高度な自我を持つまでには入出力機構が不可欠だということ。
その後は知らない。出力を完全になくした脳がものを思うことができるのか？それは分からない。ただ人間は世界から長時間遮断されると、あらゆる入力を遮断されると、錯乱状態に陥る
から
やはり世界と体がないことには人間は成り立たない。

返信する

>>オカルトの領域だね。
自分もTVで観た程度だからそうかもｗ

>>58の続きで、一つの脳になぜ自我は一つなのか？とか。
違う脳に自我の移植が可能になるのか？とか…。


今『世界一受けたい授業』で、「最新研究でここまでわかった脳科学」とかやってるよ。

返信する

>>60　なるほどなるほど。
>>脳は成長を続ける、経験、入出力がなければって…脳にとっては電気信号？って事でしょうか？
もし外部からの電気信号で代用可能なら、脳だけ造って信号送れば自我が発生するって事？？

返信する

>>60
＞やはり自分で考えて？自然に、人間並みに、人間と見間違うほど
＞に、人間の行動を、受け答えをプログラミングで再現するのは不可能だろ。

現在は出来ないが時間の問題であることは明らか。
現在のスパコンでも可能かもしれない。
人間の受け答えのパターンなんて大別すればたかが知れているし、
そこに水準を超えない程度のランダム数値（要は個性）を設定
（つまり過去の経験による個人差・性格のようなもの）を加えれば
一丁上がりだ。

＞そもそも人間自身がプログラミングにそって反応しているだけのゾンビといってもよい

うん。
だからその点を複数の人が前スレでしていて、結局人間の「自我」と言うものは、
石に現れる模様の様に、ある素材が外部入力で複雑に造形された凹凸に過ぎず、
新たな入力がその千差万別の凹凸に反射して帰って来るのが性格だろうという事。
似たような鍾乳洞でも、内部は全く違うのだから、ボールを投げ込んだら
帰って来るボールの角度も強さも一つとして同じものは無い。
だがこれを「自我」という人はいない。

人間の脳も、素材が経験で多種多様な回路を作り出した鍾乳洞に過ぎず、
「おはよう」と言われた場合、「おはよう」と返すか「ごきげんよう」と返すか
「うるせぇ馬鹿野郎」と返すかは既にその造形された内部構造で決まっているわけだ。

これは意志と言えるのか？自我と言えるのか？心と言えるのか？
人間の、そういったものさえわからないのに、コンピューターが持つかどうかなど
到底わからない。
わからないというよりも、議論する前提自体が無いと言った方が正しいかもしれない。

返信する

>人間の、そういったものさえわからないのに、コンピューターが持つかどうかなど
>到底わからない。
>わからないというよりも、議論する前提自体が無いと言った方が正しいかもしれない。
確かにそうかもね。

自我、自意識、意思、心、感情、魂・・・Ａ
これらは言い方は違うけど同じ物と言っていいね。
生物にとってＡが何故必要かと言えば自らが生きる為や種族を存続させる為に
今自分がどうすべきか考え、行動しなければならないから
・お腹が空いた→食事する。(生命保存)
・通り道にﾔｸｻﾞがいた→迂回する。(危険回避）
・好みの女性が現れた→付き合う。(種族保存)
もっとも人間などは音楽を聴いたり、スポーツ観戦したりと
一見複雑に見えますが知性が高い為脳ストレスをかなり受けるので、
それを和らげる為に娯楽や快楽を求めているに過ぎない。
要はＢによってＡが不可欠とも言える。
そう考えると、機械にＡを持たせる事は全く意味が無い事で、
点が３つあるだけで、お化けや人だと判断してしまう愚かな人間のエゴなんだろうな。


いや、むしろＡが元々あり、そのベクトルがこの宇宙に生物と言う形をとって進化してきた・・？

返信する

まあ、基本的に意識なんつーのは生体や種の維持拡大と防御反応
まずは「痛い」「苦しい」「危険」「美味い」に相当するものを
プログラムでどう認識させるかだね
いつ何時でも恒常性を保てていたら意識なんて生まれない

たとえば自律型ロボットが障害物に当たると一定時間電圧が不安定になるとか
一定時間一部分の動きが停止するようなプログラムを組めば可能性はあるんじゃない？

電圧が不安定だから・一部分が麻痺するから効率良く作業できないってんで
そういったものを避けるようになる訳でね
今のプログラムは単に危険に相当するものを記憶(記録)して避けるってことだけでしょ

返信する

>>64
＞生物にとってＡが何故必要かと言えば

残念ながら、生物が所有している特質が、すべて「必要だから」持っているわけではない。
（進化や形質が神や超越者の産物ではなく、偶然の積み重ねで得られたと言う事）
よって、科学的定義のまだ無い人間の「心」とやらが「必要性があって得たもの」ではない可能性もある。

＞Ａが元々あり、そのベクトルがこの宇宙に生物と言う形をとって進化してきた・・？

根拠無くそういう方向に持って行くのはやめてほしい。
嫌いじゃないけど、やるならオカルト板で。

>>65
その理屈で行くなら、現在の機械の挙動も原始的な心の形態と言えるんじゃないかな。
入力等の判断材料が多くなればより高度な危機回避が可能になる。

返信する

将来コンピュータも心を痛めたり、心が苦しくなったり、
胸がキュンとなったりするのかな？

でも心って脳にあんの？
「心はどこ？」と問われると、頭じゃなく胸を指す（もしくは触れる）のは
なんでだろう。
日本だけじゃなく、世界中だよね。
頭がキュンとならないのはなぜ？
脳がそういう指示を出しているのかな。
（心臓の鼓動が変わるから？）

あと、感情なら人だけじゃなく動物も持ってますよね。

返信する

>>67
＞「心はどこ？」と問われると、頭じゃなく胸を指す（もしくは触れる）のはなんでだろう。

感情の変化で身体的特徴が顕著なのが心臓（つまり動悸・鼓動）だからだろうねぇ。
怒る、焦る、恋するなど早鐘の様に心臓が鳴る。
冷静になれば動悸は感じないほど平静になる。
そういった経験則から、心（感情）を示す指標が胸にあると感じる
人が多い場合があるんじゃないかな。

でもPCの感情・心とはあまり・・・

返信する

>将来コンピュータも心を痛めたり、心が苦しくなったり、
>胸がキュンとなったりするのかな？

たぶんし無いんじゃないかな。

人間で考えると、もし、無敵で何も食べなくても絶対死なない体を手に入れたら
最初の内ははしゃいでいるかもしれないけど、
その内なんの感動も無くなって、いずれは植物のような、岩の様な
全く無機質な人格になってしまうと思うわけで
弱いからこそ感動があり、心があるとも言える。

やっぱり５感は最低必要だろうね。

返信する

>>69
その「はしゃぐ」→「無機質」ってのはいかにもSF的で同意できないな。

「無敵で何も食べなくても絶対死なない体」なんて物理的にあり得ない。
PCになろうと特殊合金の体になろうと、「死」つまり永久的破損の
危険性は常にある。
むしろ、肉体的強靭さが増せば増すほど死（消滅）に対するリスクは
めったに無いからこそ計り知れないほどの恐怖を呼ぶ可能性もある。

その上、>>69は「人間の機械化」から想定したものであり、
機械の人間化（心を持つか）とは相容れない。

返信する

5感と言っても、脳からしたら電気信号では？

「節電節電って言われてるのに、俺ばっか電気使って
ほんと申し訳ないなぁ、胸が痛むよ」

とかならない？ｗ

返信する

まぁ 現実問題として、万が一にもCPUが自我を持ちそうになったら
周辺の回線を直ちに遮断しトンカチで鉄屑になるまで
フルボッコにされちゃうんだろうな。

返信する

>>72
ＰＣが自我を持つ恐怖でトンカチ？
古ーいＳＦじゃあるまいし。

返信する

人間の感情の仕組みが詳細に判っているものではないんだから徒労に終わる
特に開発への情熱を持っている技術者連中は
比較的容易に判別できる意識部分の反応にしか真実が無いと思い込んでいる
そんな連中にヒトの持つ複雑な感情変化と意思決定の仕組みの模倣など
出来るわけがない

返信する

＞出来るわけがない

笑う所か。

返信する

人間の自我や感情、心って、誰かが開発したわけじゃないからなぁ。
もちろん模倣したわけでもない。



と、思うｗ

返信する

>>76
当たり前に存在する物について
その渦中にいる物はその存在に気がつかないって最近つくづく思うね。

昔の人が引力や空気の存在に気がつかなかった様に
今でも時間は存在しないと言う人もいるけど、同じ原理だと思うな

自分が生まれながらに自我を持っている事が、当たり前過ぎて
その存在に気がつかないんだろうな

自我がこの宇宙空間においてどんなに異常でオカルトな事か
冷静になって考えて見たほうがいいね・・

夢を壊すようで悪いけどCPUが勝手に自我を持つなど笑止千万。

返信する

「こんなウィルスみたいな単細胞が、
勝手に自我や感情、心を持つなど笑止千万」

38億年前の地球にて…

返信する

>>78
ウィルス ｢俺たち既に自我、持ってるんですけど？｣

単細胞 ｢同じく。　失礼しちゃうわね〜!｣　

テロメア｢オイラにもあるぜ。なめんなよｗ｣

返信する

昆虫の生態を知れば考え方は変わりますよ

意図的に巣を潰しても潰した箇所を無視して機械プログラム通りに作り続けることしかできずに
使い物にならない巣を完成させてそこに産卵する種があれば修復作業を行なう種もある
蜜蜂のように後天的資質の高い種もある

アリは人間社会同様に怠ける個体も一定数存在して
仕事をさせようとする個体もこれまた一定数存在する
怠ける個体は仕事をさせようとする個体のいない場所で怠けることを覚えて
その場所が見つかれば怠け場所を変える
奴隷制度を持つ種もあるね

返信する

siriやしゃべってコンシェルに無理難題な問いかけをし続けて
「お前あほやろ」と返され携帯の電源が勝手に落ちたまさにその時が自我の誕生の瞬間です

返信する

そう言えば、死んだ婆さんが大事にしていた福助人形が
最近目が合うと、ニヤっと笑っている様に見えるんだが
これも自我の誕生？？

返信する

>>82
脳の病気です

返信する

コンピュータが自我を持つ事は、永久にあり得ない。
正確には、コンピュータが単独で自我を持つ事はあり得ない。
コンピュータは、2進数による論理処理で事を進めるので、どれだけ待っても決められた事しかしない。
しかし、単独のコンピュータどうしをつないで、それぞれのコンピュータに一定の権限を持たせて(絶対的権限は持たせない)
相対的にそれぞれがそれぞれに一定の処理が出来るようにした時、
そのネットワーク全体が出す答えが、自我を持つ可能性は有る。


と思うお。

返信する

>>84
＞単独で自我を持つ事はあり得ない。
＞相対的に（中略）自我を持つ可能性は有る。

>>1の条件では「単独で」なんてないから、このスレ的には
「可能性はある」という意見で良いのかな。

返信する

>>85
>このスレ的には 「可能性はある」という意見で良いのかな。
違います。
コンピュータに自我は発生しないと思います。
>>84で申し述べたのは、限定的権限を持った単独のコンピュータ同士で構築された「ネットワーク自体」に、
自我が発生する可能性があると言う事です。
ネットワーク内の個々のコンピュータは、やはり淡々と論理処理をしているだけと言う事です。



以上だぜぇ。

返信する

>>86

それはさ、「脳細胞に意識は存在しない。脳全体で意識が出来る」と同じじゃないの？

返信する

>>87
そういう学術論文等があるのかは知りませんが、それと同じです。

後、スレの趣旨から外れるかもしれませんが。
仮に、コンピュータが自我、感情、心を持ったとしても、確かめようが無いと思います。
そういう意味で、もしかしたら、世界のどこかに自我に目覚めたコンピュータが存在してるかもしれません。
これは何故かと申しますと、皆さんは御存じだと思いますが、クオリアは取り出すことが不可能だからです。
動物やら昆虫やら魚やらが何を考えているのか解らないというのと近いです。


山よりでっかい獅子は出ん。

返信する

>>88
つまり、貴方の想定は、「PC」が常にスタンドアローンであると言う事で、
その外部との接触の無いスタンドアローンなPCが自我を持つ事は無いと言う事でしょ。
それ自体が現在のPC認識からすればもはや時代遅れと言うか、ありえない考えだと思いますけど。

そもそも、人間だってなんだって、完全に単独孤立しているものは無い。
あらゆる外部情報や同種同族と繋がりあって自我を構築している。
そういう意味では、PCが別場所の異なるスペックのPCとネットワークを持ちつつ、
その中で自我を持つとしたら、それは「PCが自我を持った」という表現になると思いますよ。

＞仮に、コンピュータが自我、感情、心を持ったとしても、確かめようが無いと思います。

そこは論点じゃないですから、確かにスレ違いですね。

返信する

>>89
>つまり、貴方の想定は、「PC」が常にスタンドアローンであると言う事で、
仰られている事はよく解ります。
確かに、今時LANケーブルの繋がっていないPCは、ほぼ無いでしょう。
しかし、LANもしくはｲﾝﾀｰﾈｯﾄに繋がっていたとしても、データの受け渡しが殆どで、
それもｵﾍﾟﾚｰﾀｰがだす命令に基づいてのものになると思います。
つまり、データの受け渡し以外では、PCはｽﾀﾝﾄﾞｱﾛｰﾝであると言えるのではないでしょうか。

＞PCが別場所の異なるスペックのPCとネットワークを持ちつつ、 その中で自我を持つとしたら、
それと、私が述べさせてもらったのは、
まず、①コンピュータは単独で自我を持つ事は無い、と言う事と、
②「ネットワーク自体」が自我を持つ「可能性」は有る、と言う事です。

①はそういう事で、②で言いたいのは、例えば、
あるネットワーク上のあるPCが、色々なデータのやり取りや、
オペレータからの命令を受けるうちに、それらに刺激され自我に目覚める、
と言う事ではありません。

ネットワーク上のコンピュータが、限定的権限をもって、その他のコンピュータに干渉する。
何故限定的かと言いますと、どれか一つ、もしくは一群に絶対的権限を持たせると、
その時点で、ネットワークがでっかいコンピュータと化してしまい、単純に論理処理をしてしまって終わるので、意味が無いからです。
で、ネットワーク上のコンピュータの力関係は相対的になりまして、
その中で、あーでもないこーでもないとやり取りをする内に、ネットワーク全体として出す答えの中に自我が発生する可能性があるのでは？と言う事が言いたかったのです。

ま、つまりこれも、スレの趣旨からは外れたお話ではありますね。
コンピュータが、自我、感情、心を持つか？ですもんね。
ネットワークが、では無いですもんね。


失礼しました。

返信する

>>90
＞つまり、データの受け渡し以外では、PCはｽﾀﾝﾄﾞｱﾛｰﾝであると言えるのではないでしょうか。

これは意味の無い言葉だなぁ。
「あんを抜いたらあんパンはパンと言える」みたいな言葉だ。
ネットワークでデータの受け渡しをしている事を「スタンドアローンではない」と
考えるのであって、「それ以外はスタンドアローン」てのは成立しない。

＞ネットワークが、では無いですもんね。

ネットワークになろうとなんだろうと、それは「コンピューターが」という>>1の前提条件に当てはまる。
無理矢理「PC単体が」と解釈するのは解釈が狭義過ぎ、現在のPC概念にそぐわないだろうというのが指摘の主旨なんだが。

あなたのPC概念はかなり時代遅れなのでは。

返信する

皆さんがお持ちのパソにはマザーボードがありますよね私もですが、これは電気的に01の判断しか出来ませんが､エバじゃないけどシリコンの人工知能や生物の脳だとしたら 必ず自我を持つでしょう。

返信する

人間の記憶をHDDのようなデジタルなデータ領域に記録できるなら
それを活用できそうな感じがするけど、あくまでも元が人間が
コンピューターでプログラミングして作り出したものはプログラムでしかないから
対応はできても臨機応変は無理じゃないかな

返信する

>>44
だから、「生物進化を模倣して自我を獲得することができないか 」とい仮定
のもと、論を進めただけなんだけどね。

ま、俺の論は的外れなようだから、これからは静観してますかね。

返信する