コンピューターが自我、感情、心を持つ日。

そんな日は来ますか？
いつごろ来ると思いますか？どのような形でその日が訪れると思いますか？

またその日には、人間はどのような形で存在していると思いますか？
殆ど有機と無機の区別の無い、機械？ナノプローブ、
と融合したような状態になっているとは思いませんか？
もし人間の姿が今とかけ離れたような状態にあるならば、機械が心を持ったとしても、それは
人間に脅威をもたらすようなものではないかもしれませんね。

返信する

先日のＮＨＫスペシャルをみて驚いた。
もうコンピューターは昭和のＳＦレベルくらいになってる。

ブラックジャックに登場した医療診断コンピュータなどは既に稼動中だし、
証券取引に到っては、すでにコンピューターが市場の主導権を握ってるんだね。

意思や感情が「多様な経験や知識に基づく複雑な判断の積み重ねの結果」だと仮定するならば、それはごく近い将来に実現すると思う。
ただし人間と同等あるいは以上のスピードで意思や感情を表現させるには、もう少し時間がかかるかな。

返信する

いや、今が限界。
医療診断、証券取引程度しかできなかった。
プログラムすれば医療診断、証券取引できるが、
自我を持つことはできない。
コンピューターがプログラムを離れて新しい発見・発明はできない。

返信する

とりあえず言葉をちゃんと聞き取ってそれを理解して返答する

ここから始めようか

返信する

>>1
とっくの昔に自我なんか持ってるよ。
俺の古い方のノートPCなんか、機嫌を取るのがすげぇ大変だ。
ご機嫌斜めだと漢字もろくに変換してくれない。

返信する

しょせんは機械。
魂を持つ事はない。

返信する

人の顔や姿を認証できるようになったというのは、大きな進歩とはいえないだろうか？
人間にしかできない判断の一端をコンピューターでできるようなったのは凄い。
そういう認知の分野では既に人はコンピューターに対抗できない。

あと他に人間らしさってなんだろうな。

返信する

>>1
人間って物理的な存在が自我を持ってるぐらいなんだから、
コンピューターが持つ日が来ると予想するのは妥当。

＞そんな日は来ますか？

いずれ来ます。

＞いつごろ来ると思いますか？どのような形でその日が訪れると思いますか？

進歩速度からすると２０年以内には原始的な自我・感情は持つだろうね。
もちろん、感情開発計画の中で実現するだろう。

＞またその日には、人間はどのような形で存在していると思いますか？

現在と同じ。
映画の様に、急激に自我が目覚めて人類に反旗とかありえないから。

＞殆ど有機と無機の区別の無い、機械？ナノプローブ、
＞と融合したような状態になっているとは思いませんか？

思いません。

＞もし人間の姿が今とかけ離れたような状態にあるならば、機械が心を持ったとしても、それは
＞人間に脅威をもたらすようなものではないかもしれませんね。

ここの理屈はよく理解出来ないのでノーコメント。
人間が変わっていれば機械に自我が芽生えても脅威が無い？意味不明。

返信する

そのうち人間がプログラミングするスピードと質が限界に来る。
そうするとコンピューターを使って解析し導きだしたものを人間がプログラミングするよりも
コンピューター自身が自分で進化する為のプログラムを組ませる様になる。
そしてそこから自我が発生する。

返信する

>>9
いや
どんなにコンピューターが複雑かつ高性能になったとしても
映画のように勝手に自我を持つ事はないでしょうね。

そもそも自我というものは生物が生き延びる為に必要な
方向性を決める為に必要な魂的エネルギーですから

しかしですよ、人間が生命が誕生するメカニズムを解明し、
それをコンピューターやロボットに
意図的に導入すれば可能かもしれません。

しかしその場合、ｺﾝﾋﾟｭｰﾀｰは我々と同じ魂を持った人間と同等と
みなされなければならないと思いますね。
(死んだ爺さんの生まれ変わりの可能性もあるので・・・)

返信する

>>8
もし高性能の演算処理装置？もしくはそんな構造を、脳に埋め込むことが出来るようになれば、ナノマシンや、必要な部分を機械化で超再生能力なんかが実現してれば。
機械と人間の境が曖昧になっていれば。人間が機械に頼るなんてことが無くなる。
むしろ人間そのものが機械のカテゴリに入ってしまっていては、機械に自我をもたそうなんて試みが殆ど意味の無いものになってるし、機械単体が心をもった？
でもサイボーグ状態の人間のほうが凄いじゃん。みたいになるってこと。

生物ほど複雑なものが持ちえる機能を再現しようとするならば、それだけ複雑で精巧な構造がどうしても必要になってくると思うんだ。造る過程ではより小さなものを制御する技術がどうしたって必要になってくるし、行き着く先はやはり分子レベルでの構造、設計になってくる。
そんなレベルで造ったものをはたして機械と呼べるのか？という疑問はある。

返信する

>>10
＞そもそも自我というものは生物が生き延びる為に必要な
＞方向性を決める為に必要な魂的エネルギーですから

科学的にお願いします。

>>11
＞機械単体が心をもった？
＞でもサイボーグ状態の人間のほうが凄いじゃん。みたいになるってこと。

ならないでしょ。
もともと精神活動のある人間をいじくりまわしてどうなろうと、それはもともとあったんだから。
スペック的にどうあれ、機械が単体で心を持つのとは意味がまるで違う。

＞そんなレベルで造ったものをはたして機械と呼べるのか？という疑問はある。

普通に機械と呼べる。
何が疑問なのかの方がわからん。

返信する

>>科学的にお願いします。

科学的ではまだ説明できません。
感覚で自分で理解しろとしか言えない。

アインシュタインでさえ「石ころには自我がないのに何故、我々には在るのか・・・？」
と、疑問に思っても解こうとする気力も起きなかったほどの大難題。

私の仮説で申し訳ないが、この物質宇宙における生命の異質さ(必要性の無さ)から考え
自我や自意識(魂)というものは、この宇宙に突然 発生したのではなく
おそらく別の次元から、やって来て、実態が無くなればまたそこに帰ると考えるのが自然
と思っています。

返信する

>>13
ではオカルト板へどうぞ。

返信する

分子レベルで設計されたものがなぜ機械と言えるのか？
何を根拠に機械と言えるといっているの？
分子レベルで物を制御するということは、機械学というよりも分子生物学に近い技術。
コンピュータの高性能化の過程で有機物も利用されるようになったら？
それも機械なのか？人間が1から設計した有機物、タンパク質は何になる？

機械に自我を持たせる過程で機械と生物の境界線が曖昧になるんではないだろうか。

返信する

>>14
ミクロの世界では、オカルトとしか考えられない事があたり前の様におきている
例えば、量子力学では常識の未来と過去が逆になる様な現象が頻繁におきていたり
金属同士をぶつけ、その先端部分を超高性能ｶﾒﾗで観測するとなんと原子が液体に
なり、ゴムの様に伸び縮みしている様子が日本テレビでも放映されている。

科学と学習みたいな時代はもう古いと思うのですがね？

返信する

よく出来た科学が魔法と区別がつかないせいで
よく出来てない科学も、魔法と区別がつかない

　by ギリギリ科学少女ふぉるしぃ

返信する

そもそもの人間の自我だって
無数の神経細胞を電気的なシグナルが通ることで成り立ってるから
コンピューターの記憶構造とよく似ているし
性能が圧倒的に違うだけだと思うんだよね

だから、もしいずれ性能が追い付けば自我っていうか
自律的に感情的な判断をすることも可能になるんじゃないかと思う

ただ、プログラミングとか情報系の知識を持った人の方が
ありえないって否定する傾向があるフシギ

返信する

大概この手の話題は、プログラムの面において、

「チューリングテスト」→「ローブナー賞」→「人工無能」→「結局、感情（心）ってなんだろうね？」→
「知性（脳）をシミュレートすることじゃね？」→「じゃ、やっぱりチューリングテスト」

みたいな話の流れで循環しがちだと思うんだけど、今のところこのスレがそうなっていないのは、単に演算
処理能力が向上すれば自然とコンピュータが人に近づくと考える向きが多いからかね。

ヒトの脳におけるシナプス数は概算で100兆個〜500兆個。バイナリー的に考えれば1PB程度の容量となる。
指標が異なるけど、理化学研究所の「京」なんかは、理論演算性能10ペタフロップス。地球上の全70億人が一
斉に取りかかっても数十日間かかる計算をたった1秒で行う。
もちろん、脳の情報処理容量については異なる見解を持つ人も多いだろうから、>>18の意見も分かるんだけど、
俺はシミュレーション可能な（ハード面での）スペックを有するコンピュータは既にあるという考え。

返信する

フレーム問題が厄介

返信する

そーいえば、技術的特異点に関する著述で知られる Ray Kurzweil は強いAIを支持していて、
「人間の脳モデルをシミュレートするには10ペタフロップスの演算性能が必要」と言ってたんだっけ。
ちょうど「京」のスペックと一緒なんだな。

返信する

表現の選択、短期記憶、可塑性、抽象的認識は必須

返信する

演算性能の問題なんだろうか？
限られた演算能力でも既に人が到底及ばないほどの正確な判断はできるようになってるのに、
人間らしさ生物らしさは殆ど手付かずの状態だもんな。

生物がする状況判断、認識を全てプログラムで再現していってそれを全部一緒にすると、
生物らしくなるんだろうか？

哺乳類の中でも人間はかなり特別な存在だけれども、他の哺乳類との遺伝子の差や脳の差は本と微々たる物。そのたったちょっとの違いが文字を扱い、言葉を話し、人に共感し、数学で世界を記述し世界の構造を解き明かそうとする知能を実現している。

自我が再現できないのはプログラミングの問題なのかな？

返信する

>>7
用途を限定して（フレームで囲って）やれば、当然、コンピュータは人間よりも
優れた能力を発揮するが、それとこれとはまったく別次元の話。
このままコンピュータの性能が進化してゆけば、そのうち勝手に自我や感情が
芽生える…というSFのような都合の良い（悪い？）展開は望めないだろう。

前出のフレーム問題対策を含め、恣意的に相応のプログラミングを施すことが
不可欠だろうが、そもそも人間や動物がどうやってフレーム問題に対処しているのかも
解明できていないからなあ…。

返信する

コンピュータどころか、人間にすら心のない時代だというのに。

返信する

心があるかは認識する主体の問題だと自分は思う。
他人に自分と差異はあれ同じ様な実感があると、感じるのは直感としかいえない。
もしかしたら脳に重い障害があると、他人すら物と同じようにに感じるとか
その逆とかもあるのかもしれない。
脳が解明されないと、「我思う故に我あり」の生物（高等生物？）に根本的な実感がなぜあるのか説明できないと思う。
もし解明できたとして、それがスーパーコンピュータと同じ原理？なら
コンピュータは実感をもつといえなくはないのかなと……。
でも、自分は脳は総体で働いていると思うから、組み立てた機械と
は根本的な原理がちがうと思う。

返信する

将来コンピューターも自殺するのかな。

返信する

面白いんだからもっと討論しようぜ。これ系の研究に詳しい人いる？

返信する

>>9　だな・・・・５年かな。

返信する

なんだかんだ言っても
最後は一発電気ショックだよ
これは必須だ。何故か知らんが

返信する

スタートレックの「人間の条件」では、結局機械と人間の違いを証明出来なかったな。
最後は魂があるか否か、という曖昧な表現で終わった。

返信する

データ少佐大好きだったな。
スタートレックはとにかくいろんな要素を織り交ぜるから、
科学技術の断然進んだ未来の話でありながら、魂や神、の存在を示唆する話がいパーいある
。
俺はそういう考えには否定的で、科学技術が進歩すれば、やはり人間の盲目的信仰心は薄らいでいく、なぞが解けていくのだと思う。信仰心や神秘的体験ですら科学の対象範囲なんだから。

返信する

AIが自我を持つとしたら、人間とはまったく異質な自我を持つのが理の当然。
何故なら、人間とは違う体を持っているのだから。
人間のような自我を持つと考える事自体が非現実的な夢物語。
（人間のような自我を持つ事が１００％ありえないという意味ではないが）
記憶媒体を更新する事で半永久的に存在でき、完全なコピーを作り
自分が複数存在する事が最初から可能で、分割や圧縮も出来るという事が
前提となる「自我」が、人間と同じような感覚を持つ可能性は極めて低い。
人間同士でさえ、違う文化風土を持っていれば違う概念があるのだから、
自我を持ったとしても死生観や理性が人間とは異質になると想定出来る。

返信する

>>32
そうだな。でも、逆もあるよ。
生命の成り立ちを科学的に分析する事により、その凄まじさにたまげ、改めて偉大なる神の存在を認識してしまうというパターンもある。
俺は「エホバの証人」で、それを体験した。
あれには怖くなったよ・・・

返信する

>>33
それはあくまで自然にAIという生物が誕生した場合はそうなるかもしれないが、
現時点ではスタートは人の手によって作られるわけだ。
だから必ず人の概念の範囲の自我から始まる。
それを自己判断によってどういう方向に持って行くかは知らないけどね。

返信する

>>35
＞現時点ではスタートは人の手によって作られるわけだ。

それは違う。
「人工的に自我を芽生えさせようとした場合」のスタートはそれだという事だ。

純粋に、自我を芽生えさせる事を意図しない単なる演算機械が、
処理速度・能力の向上に伴い、自我が芽生える場合を>>33では指摘している。

＞だから必ず人の概念の範囲の自我から始まる。

予め枠を決めた自我が自我と呼べるかは疑問だ。
もちろん、規定上は自我と呼ぶのだろうがそれはあくまでも決められた範囲の自我であり、
それが範囲を逸脱するにしてもそれはその逸脱すらも想定された上で初期値が決められるだろう。
非常にSF的で申し訳ないが、「人間に敵意を抱いたら強制シャットダウンする自我」が、
果たして自我と呼べるだろうか？？
それとも自我を開発する人々は、あらゆる制約を設けない自我開発をする可能性があるだろうか？？

返信する

元々ヒトの脳だって単純な神経管だったものが進化して大脳を著しく発達させるまでに至ったのだから、
それと同じ道をコンピュータにも歩ませてやろうという発想かな？
バイオモルフみたいなソフトもあるし、人工生命ゲームの発展系と考えれば、SFチックではあるけれども
実現可能性はゼロではないと思う。
その場合、生物の進化には「DNAのランダムな突然変異」と「自然淘汰」が必須なわけで、それと同様な
事象をコンピュータの進化システムにどのように組み込むかが勘所になりそう。
「DNAのランダムな突然変異」に対応する事象としては、「無作為に元のプログラムの一部を改変し、再コ
ンパイルするプログラム」みたいなものが思い浮かぶ。
「自然淘汰」については、さしずめチューリングテストみたいなのをやって、よりヒトらしい挙動を示す
プログラムを間引いていくことで淘汰圧をかけるしかないように思う。

あと、>>26の
「心があるかは認識する主体の問題だと自分は思う。」
という指摘は、的を射ているように感じる。
ロボット工学者の森政弘は、それを「不気味の谷現象」という概念で説明しようとしたし、SF小説作家
フィリップ・K・ディックは「アンドロイドは電気羊の夢を見るか?」の中で人間と人工知能の境界線問題
としてを描いてみせた。
「自我、感情、心」の明確な科学的定義について考えると、悩んじゃうね。

返信する

熟睡している時にも脳は働いているだろうけど、自我は感じないね。
でも、起きてる他人は寝ているは、自分に自我があると思うんだろうね。
（間違ってたらごめん）
変な言い方だけど、コンピュータはずっと熟睡してて、頭だけは
働いてるみたいな、そんな捉え方もできると思う。
詳しくは、分からないけど……。

返信する

訂正・
＞起きてる他人は寝ているは、自分に
起きている他人は寝ている自分に

返信する

>>37では結構いい加減に自分の考えを書き連ねたんだけど、人工生命研究の分野では既にそのものズバリの
試みがなされていて、書籍も出てるんだな。
もうちょっと調べてから書き込むべきだった。

http://www.nal.ie.u-ryukyu.ac.jp/note/note_detail/733...

返信する

>>37
＞「自然淘汰」については、さしずめチューリングテストみたいなのをやって、よりヒトらしい挙動を示す
＞プログラムを間引いていくことで淘汰圧をかけるしかないように思う。

それじゃ自然淘汰にならないでしょ。
恣意的な間引きになって、間引く側の都合で変わってしまう。
「よりヒトらしい挙動」なんて言ったら、あるべき「ヒトらしさ」に近づけるだけの話になってしまい、
「コンピューターの自我」ではなく、「コンピューターで再現した、ヒトの自我」にしかならない。
これは似て非なる。

返信する

これってコンピューターの定義から始めないと、
生態的なコンピューターが開発できたなら、脳との定義の境目がなくなりそうでわけわからなくならない？

返信する

>>41
だから「さしずめ」を付けたんだけどね。
結局のところ、淘汰とは何かしら進化に方向性を与えることなんだよ。
例えばヒトのメスの異性への好み（性淘汰）が反映されたことによりヨーロッパで肌の白い人が増えたり
したわけで、進化生物学的にはヒトも含めた他の生物からの影響も重要な淘汰圧。

>「コンピューターの自我」ではなく、「コンピューターで再現した、ヒトの自我」にしかならない。
まあ、それを言ってしまうと、コンピュータ自体が人工物なのだから、「コンピューターの自我」という
ことば自体がナンセンスという話になってしまうかもね。

返信する

>>43
いやいや、そういう言葉遊びじゃなく、
「PCが自我を持つか」という問いに対して、
「よりヒトらしい挙動を示すプログラムを間引いていく」など
最初からある解答に近づけては意味が無いでしょ、と言う事。

「持つように作る」ってだけの話になってしまう。

＞それを言ってしまうと、コンピュータ自体が人工物なのだから、「コンピューターの自我」という
＞ことば自体がナンセンスという話になってしまうかもね。

なんか事の本質がわかっていないような気が・・・
そういった「人工物」だからこそ、「人工物にも自我が芽生えるかどうか？」という問いでしょ？
ここの根本にナンセンスなんて言葉を投げかける以上、本質がわかっていない気がするよ。

返信する

>>44
だから、「生物進化を模倣して自我を獲得することができないか 」とい仮定
のもと、論を進めただけなんだけどね。

ま、俺の論は的外れなようだから、これからは静観してますかね。

返信する

自我の概念をどこに持って行くかで全く話が変わってくるだろうね。
人とは違った自我がって書き込みもあるみたいだけど、じゃあ、何を思って自我？って話しだよね。
そもそも人と違った自我を、人が自我と認識できるのかって事もある。
できないなら自我と呼べるのかとか。
まあ、言葉遊びみたいになっちゃうのかな。

返信する

>>46
スレ主の危惧している事は、あまりにも高性能になったコンピューターが
いずれ勝手に自我を持ち（自分で考え)人間に害を及ぼすのではないか？
って事だと思うからどちらでもいいんじゃまいか？

自我を持つに至らなくても、核のボタン発射されたら、かなり痛いから
ロボット３原則？的なものをを今の内からCPのメインの分に埋込んで
対策とっておいた方が良いと思うね。

返信する

よしじゃあここは、仕切りなおして、どうやったら自我が再現できるかを論じてみよう。
まずは絶対に必要なのが快、不快を判断する器官。
コンピューターにとって外的入力信号を、快か不快かで判断させる。
そして何かしら出力出来るようにしといて、入力⇒快OR不快⇒出力⇒フィードバック
の回路が無いことには始まらないな。
感情なしの自我なんてありえるんだろうか？

返信する

怒りをどこまで制御できるかだな。
日本人の性格を取り込めばいいんじゃね？。
でも作るのは西に方々の発想で作られるのだから・・・・。
猿の惑星態度の天変地異あるかもね。

返信する

>>48
＞まずは絶対に必要なのが快、不快を判断する器官。
＞感情なしの自我なんてありえるんだろうか？

感情は自我に必要不可欠って事は無いでしょ。

返信する