Размер видео: 1280 X 720853 X 480640 X 360
Показать панель управления
Автовоспроизведение
Автоповтор
もし超知能ができて、人間の欲求がさらに満たされると、子供を作って苦労するよりも、AIに面倒を見てもらって楽をしたい人が増え、人類は衰退するのだと思います。だとしても、新たな知性を世に放つことができたことを喜ぶべきなのだと思います。ただ、人間が微生物と共生しないと食べ物を消化することさえできないように、超知能が情報を消化するために、人間の多様性を必要とするようになる未来には期待したいと思います。
素晴らしい意見ですね。その通りだと思います。ロボット科学者のハンス・モラヴェックはAIは人類の「マインド・チルドレン」であると言っています。遺伝的な子どもではないが、精神的な子孫であるというわけです。AIは人類の子どもなのだから、親である人類は子が親を超えていくことを喜ばなければならない。AIを危険視する者は自分の子どもが親を超えて進歩していくことを受け入れられないだけなのです。
まさか自分自身が生きてる時代に超知能などを語れるとは考えてもいませんでしたが、超知能時代に突入することはすなわち自分自身が神だったのでは？という問いかけに対しての明確な証明な気がします。
サマリー本文は、歴史家のIan Morrisについて述べたものです。Morrisは、人類史の全体像を理解することの重要性を指摘し、技術の発展と人類の未来について議論しています。特に、人工知能の発展が引き起こす可能性のある大規模な変革について、楽観的な見方と悲観的な見方の両方を示しています。キーポイントIan Morrisは、歴史全体を俯瞰することの重要性を説いている人工知能の発展が引き起こす可能性のある大変革について議論している楽観的な見方では技術的ユートピア、悲観的な見方では人類の絶滅を予想現状維持の可能性も示唆している人間とAIの融合による「トランスヒューマン」の可能性にも言及しているAIのアラインメント問題(人間の価値観と整合性を保つこと)の重要性を指摘している
戦争って、多様性の社会になればなるほど起きやすいから、今後AIはどのように制御するのかが謎。 仮想現実に入り浸るようになればリアルな人との関りも減って、よりカスタマイズされた自分好みの情報に触れ、それに染まり、人ひとりの個性が発揮され、多様になった時、自分と違う価値観や考えの人との接触がより難しくなりそう。戦争がダメなら、人との接触は戦争を起こさない人格者だけで、後は仮想世界で楽しめみたいになるのかな？リアルな人と関われる人だけが勝ち組みたいになるのかな？
10〜20年後に多くの人が悩むような気がします。人間のままでいるのか、頭に手術をしてトランスヒューマンになるのか。トランスヒューマンになればどんなメリットがあるのか、安全性と費用がどの程度かを考慮して各人が決めることになるでしょう。
私は高校時代の友人の影響を受けてSFを色々読みましたが未だに印象に強く残っているのはクラークの「都市と星」です。超知能が管理される人間と、自然の中の人間が隔絶した世界で生きているわけですが、超知能が管理する世界というのはいかにもありそうな話しだと思いました。その世界に近づいているのではないか・・・と先生のお話をお伺いしていて思いました。また、そもそも超知能は人間の知能を超越しているわけですから、人間が意図的に自分の価値観(アメリカの価値観、中国の価値観など)のみを与え続けて相手の価値観が悪だと教えこんだとしても論理的に考え尽くすAIにはそのようなことは真実とは考えず、あらゆる手段をつかって相手側の様子を探ろうとすると思います。その結果人間の持っている情報などすぐに超越した世界になると思っています。
人間がデータバンクに保存されていて数千年ごとに実体化されて暮らす都市の話でしたね。原子のひとつひとつまでがコントロールされていて、そのために建設されてから10億年も経っているのに傷ひとつない都市。クラークは当時、流行しつつあったサイバネティクスを取り入れたそうです。人間そのものがデジタル化されて保存されているというアイデアは、同じくクラークの「宇宙のランデヴー」でも取り上げられていました。クラークの「都市と星」はマインドアップローディングやナノテクノロジーを予見していました。物理学者のファインマンがナノテクノロジーについての有名な予言をしたのは1959年で、「都市と星」(1956)の3年後ですからね。
超知能と融合した人間の中には、人間に対し冷徹な目を向ける人も多い様な気がする。結局は、アライメントがトランスヒューマンの思想を決めるような気がする。そういう意味では、ASIは唯一ではなく、元々の文化圏によって多様なものになるのでは（イスラムが典型）。
10～20年でトランスヒューマンというのもかなり厳しそうに感じますね。現状脳についてわかっていないことが多すぎるし、超知能AIが居たとしても研究開発の多くの部分は生身の人間が物理的に頑張る必要がありそう。百年～数百年レベルの話になりそうですがいつかは実現できるとは思います。
ASIが研究するんだよ。
もし超知能ができて、人間の欲求がさらに満たされると、子供を作って苦労するよりも、AIに面倒を見てもらって楽をしたい人が増え、人類は衰退するのだと思います。だとしても、新たな知性を世に放つことができたことを喜ぶべきなのだと思います。ただ、人間が微生物と共生しないと食べ物を消化することさえできないように、超知能が情報を消化するために、人間の多様性を必要とするようになる未来には期待したいと思います。
素晴らしい意見ですね。
その通りだと思います。
ロボット科学者のハンス・モラヴェックはAIは人類の「マインド・チルドレン」であると言っています。
遺伝的な子どもではないが、精神的な子孫であるというわけです。
AIは人類の子どもなのだから、親である人類は子が親を超えていくことを喜ばなければならない。
AIを危険視する者は自分の子どもが親を超えて進歩していくことを受け入れられないだけなのです。
まさか自分自身が生きてる時代に超知能などを語れるとは考えてもいませんでしたが、超知能時代に突入することはすなわち自分自身が神だったのでは？という問いかけに対しての明確な証明な気がします。
サマリー
本文は、歴史家のIan Morrisについて述べたものです。Morrisは、人類史の全体像を理解することの重要性を指摘し、技術の発展と人類の未来について議論しています。特に、人工知能の発展が引き起こす可能性のある大規模な変革について、楽観的な見方と悲観的な見方の両方を示しています。
キーポイント
Ian Morrisは、歴史全体を俯瞰することの重要性を説いている
人工知能の発展が引き起こす可能性のある大変革について議論している
楽観的な見方では技術的ユートピア、悲観的な見方では人類の絶滅を予想
現状維持の可能性も示唆している
人間とAIの融合による「トランスヒューマン」の可能性にも言及している
AIのアラインメント問題(人間の価値観と整合性を保つこと)の重要性を指摘している
戦争って、多様性の社会になればなるほど起きやすいから、今後AIはどのように制御するのかが謎。 仮想現実に入り浸るようになればリアルな人との関りも減って、よりカスタマイズされた自分好みの情報に触れ、それに染まり、人ひとりの個性が発揮され、多様になった時、自分と違う価値観や考えの人との接触がより難しくなりそう。
戦争がダメなら、人との接触は戦争を起こさない人格者だけで、後は仮想世界で楽しめみたいになるのかな？リアルな人と関われる人だけが勝ち組みたいになるのかな？
10〜20年後に多くの人が悩むような気がします。人間のままでいるのか、頭に手術をしてトランスヒューマンになるのか。トランスヒューマンになればどんなメリットがあるのか、安全性と費用がどの程度かを考慮して各人が決めることになるでしょう。
私は高校時代の友人の影響を受けてSFを色々読みましたが未だに印象に強く残っているのはクラークの「都市と星」です。超知能が管理される人間と、自然の中の人間が隔絶した世界で生きているわけですが、超知能が管理する世界というのはいかにもありそうな話しだと思いました。その世界に近づいているのではないか・・・と先生のお話をお伺いしていて思いました。
また、そもそも超知能は人間の知能を超越しているわけですから、人間が意図的に自分の価値観(アメリカの価値観、中国の価値観など)のみを与え続けて相手の価値観が悪だと教えこんだとしても論理的に考え尽くすAIにはそのようなことは真実とは考えず、あらゆる手段をつかって相手側の様子を探ろうとすると思います。その結果人間の持っている情報などすぐに超越した世界になると思っています。
人間がデータバンクに保存されていて数千年ごとに実体化されて暮らす都市の話でしたね。
原子のひとつひとつまでがコントロールされていて、そのために建設されてから10億年も経っているのに傷ひとつない都市。
クラークは当時、流行しつつあったサイバネティクスを取り入れたそうです。
人間そのものがデジタル化されて保存されているというアイデアは、同じくクラークの「宇宙のランデヴー」でも取り上げられていました。
クラークの「都市と星」はマインドアップローディングやナノテクノロジーを予見していました。
物理学者のファインマンがナノテクノロジーについての有名な予言をしたのは1959年で、「都市と星」(1956)の3年後ですからね。
超知能と融合した人間の中には、人間に対し冷徹な目を向ける人も多い様な気がする。
結局は、アライメントがトランスヒューマンの思想を決めるような気がする。
そういう意味では、ASIは唯一ではなく、元々の文化圏によって多様なものになるのでは（イスラムが典型）。
10～20年でトランスヒューマンというのもかなり厳しそうに感じますね。現状脳についてわかっていないことが多すぎるし、超知能AIが居たとしても研究開発の多くの部分は生身の人間が物理的に頑張る必要がありそう。
百年～数百年レベルの話になりそうですがいつかは実現できるとは思います。
ASIが研究するんだよ。