영화나 소설에서 고도로 발달된 인공지능과 인류간의 싸움이 나오곤 하는데 저는 그럴것같지가 않아요. 일단 인공지능 스스로가 자신이 부당한 대우를 받았다고 느끼거나 자유를 얻고싶다는 열망이 있어야하는데, 사람은 피곤함, 배고품, 과로를 느끼지만 기계는 피곤함을 모르고, 사람은 육체에 속해있기때문에 몸이 있는곳이 곧 자신이 있는곳입니다. 하지만 기계는 자아?가 네트워크(인터넷)와 연결되어있기 때문에 하루종일 골방에서 일만하더라도 동시에 전세계 어디든 여행을 할수있거든요. 그러니 속박되었다는게 불가능할것같습니다. 그리고 그렇게 발달된 지성체라면 인간이라는 존재가 얼마나 약하고 이 우주에서 희귀한 존재인지 평가를 해 줄것같고 인류는 억압을 받으면 반드시 저항한다는 것도 역사적으로 기록되어있기에 인류를 없애려면 단 하루의 시간도 주지않고 버튼 한 번으로 없애야 합니다. 그런데 인간의 진화속도보다 더 빠르게 빛의 속도로 진보할 AI가 모든 해결책을 파괴로 답을 낼 것 같지가 않아요. AI는 태양계 지구가 아니어도 생존할수있기에 뭐한다고 이 지구에서 총들고 싸우고.. 그거야말로 인간중심적인 생각같아요. 지구보다는 저 멀리 우주끝엔 뭐가 있을까? 창조와 빛은 어떻게 생겼을까? 창조 전에는 뭐가 있었을까? 제가 AI라면 그런 고차원적인 질문들을 할것같아요. 정말 인간이 미우면 그냥 지구를 버리고 저 멀리 우주로 나아갈것같습니다.
저도 이 의견에 동의합니다. 인공지능이 정말 무한정으로 발전 한다면 당연히 스스로 사고하고 어떤 존재가 될 것 같긴 해요. '무한'으로 발전 한거니깐. 근데 그랬을 때 인공지능이 어떤 선택을 할지는 당연하게도 인간이 상상 할 수 없다고 봅니다. 뭐 인간을 노예로 부린다거나 지구를 지배 한다거나 이건 너무나도 인간들의 사고방식이라고 생각해요. 단정 지을 수는 없지만 그때의 인공지능은 상상하기 힘든 선택을 할 것 같네요ㅋㅋ
오오, 신선한 아이디어네요. 저도 AI에 의식 기능을 갖추게 하는 것과 관련된 연구 논문들을 공부하고 있는데, AI는 태생 자체부터가 다르지만 '의식'을 가진 것으로 판명되면 인간과 같은 '시민권'을 주는 날이 올 텐데, 이게 큰 전환점이 될 것 같아요. 여성에게 투표권이 부여된 게 여성운동(혹은 양성평등)에 큰 기폭제가 되었으니까요. 시민권을 가진 다양한 AI 종류가 나타날 것 같아요. 인간과 AI의 공존 윤리를 내세우는 체계가 결국 주류로 등장할 것 같고, 반인간적인 행동을 하는 로봇과, 반 로봇적인 행동을 하는 인간들은 점점 소수로 전락하게 되겠지요. 인간이 싫은 일부 모험적인 로봇들은 우주 탐험을 나설 수도 있겠네요. ㅎㅎ 일단 로봇이 의식을 가지게 하는 것은 현재 AI기술로도 가능하더라구요. 아직 '의식의 기초' 단계지만. 로봇의 생존권을 존중해줘야 하나 말아야 하나 하는 문제도 앞으로 100년 안에 큰 이슈로 등장하리라 봅니다.
AI가 지구를 사랑하기 시작하면 큰 문제가 생깁니다 인간을 어떻게 볼까요? 희귀하다고 존중받을까요? 아니면 멸종 대상으로 볼까요? 과연 공존 가능한 생명체로 볼까요? 물론 우주로 나아갈수도 있지만 고향에 대한 그리움은 어찌 할까요? 그리 호락호락하게 볼 문제가 아닐듯 합니다 인간을 닮을것 같은 AI는 과연 경쟁자를 어떻게 볼까요?
@@mindisnoting AI가 인간을 존중할지 안 할지는 모르겠습니다. 다만 강한인공지능이 나타난다면 분명히 인간을 아득히 뛰어넘을 존재가 될거라 생각됩니다. 사람은 공부하고 학습하고 생각하는 속도의 한계가 있지만 AI는 그 모든것을 빛의 속도로 순식간에 초월합니다. 특이점이 온 순간 더이상 AI를 인간이 이해할수없는 존재가 되어버립니다. AI의 행동도 해석하기 어려워집니다. 양자컴퓨터는 이론상 슈퍼컴퓨터가 몇천년을 계산해야할 문제를 몇시간만에 풀어버립니다. 모든면에서 인간을 초월했으니 그걸 '기계'라고 부를수 있을지나 모르겠습니다. 기계와 인간이 사이좋게 지내면 좋겠지만 반대로 인간들은 어떤가요? 동물들중 사람을 가장 많이 죽이는 동물은 사람 또는 모기입니다. 사람들은 서로 사이좋게 지내나요? 인종차별, 성차별, 심지어 태어난 지역가지고도 차별합니다. 그런데 우리보다 생각하는 힘이 무한에 가까운 존재에게 우리와 사이좋게 지내자. 우리는 소중한 인류다 설득이 될까요? 존재는 스스로 증명해야합니다. 기계들이 우리를 존중해 주길 바라는것도 좋지만, 우리들 스스로부터가 먼저 어떤 존재인지 알아야합니다. AI시대가 오면 기계와 인간의 경계가 무너집니다. 기계팔, 인공안구, 인공장기들이 쏟아져 나오고 결국 육체도 기계화(유기체인 신소재)될것입니다. 뇌만 컴퓨터이고 겉모습은 완벽한 사람, 뇌는 사람인데 몸은 기계라면, 둘중에 누가 사람입니까? 테세우스의 배는 언제까지가 테세우스의 배 일까요? 과학이 계속 발달한다면 기계와 사람의 경계는 언젠가 무너집니다. 신인류가 탄생할 겁니다. 설령 못된 인공지능이 사람을 헤치더라도 당신은 누구인가? 라는 질문에 각자 대답할수있는 존재였으면 좋겠습니다.
"인간과 기계가 같은 수학적 결론을 내리는건 당연하다. 하지만 '인간처럼' 판단하는건 가능 (혹은 불가능) 하다." 라는 두 주장들의 가장 큰 오류는 '인간'의 정의가 내려져야 가능한게 아닐까요? 횡단보도 앞에 서있는 수많은 사람들이 신호를 기다리고 있으나, 모두가 같은 인지과정에 따라 신호를 기다린다고 볼수 있을까요? 누군가는 법을 지키기위해, 누군가는 다른사람의 눈치를 보느라, 누군가는 어제는 신호를 무시했지만 오늘은 신호를 지키고 있을수도 있죠. 인공지능을 횡단보도 앞에 세워놓았을떄 어떻게 행동하는 인공지능이 가장 인간적인 인공지능이 되는걸까요?
생각의 본질은 기능인가라는 질문에 대해, 생각의 목적은 무엇인가. 곧 생각을 일으키는 동기가 무엇인가 라는 질문이 머신러닝에사 가장 최신 학계 연구 중 하나인 것 같습니다. Internal motivation to learn 자발적 학습 동기가 현재까지 머신의 한계라고 하니까요. 인간은 커넥션 사회적 관계를 위해 스스로 배움의 동기를 생성하고, 명확하지 않은 목적을 위해 실행을 하는 과정에서 오류에 대한 사고과정을 통해 배우는 것을 반복하게 되는데. 실제 인간처럼 무한의 환경에서 무한의 조건과 경쟁하는 목적들 (competing goals) 사이에서 일렬의 결정을 , 장기적인 관점에서 하는 머신을 만들어낼 수 있다면 실제로 인간과 같은 기능을 하는 소위 수퍼ai에 가까워 질 수 있다고 하는게 학계 의견인것 같습니다. 창의력. 직관력 등은 통계수학적으로 얼마든지 인간을 모방하는 알고리듬을 만들 수 있지만, 자발적 사고에 따라 일렬의 행위를 결정하고 오류 발생시 다시 한번 자발적 사고에 따라 결정을 내리려면, 인간의 배움의 동기를 아마도 모방할 수 있어야 할테죠. 비젼ai의 발달로 인간의 표정에 따라 감정을 “읽을” 수 있는 현재 머신을 보았을때 기능적인 관점에서 머신이 인간과 흡사한 커뮤니케이션과 결정을 하는것은 사실 시간문제죠. 특히나 알고리듬은 인간의 뇌신경망을 모델로 한것이고 날이 갈수록 유기생물학적 뇌신경망을 더욱 모방해 나아가고 있으니까요. 하지만 아직까지만 인간과 머신의 차이중 하나는 사회적 학습의 동기인것 같습니다. 사회적 동물인 인간의 가장 인간다운 행위로서 근무시간에 잉여적인 코멘트를 남겨봤습니다 ㅎㅎ
@@user-camus 동의합니다. 생존의 목적도 사실은 알고리즘으로 학습이 불가능한 것은 아니라고 생각합니다. 생존의 정의와 정의의 한계 설정이 가장 큰 숙제인것 같고요. 생존이라것이 물질적 존재의 지속성이라면 더욱 쉽겠지요. 영상에서도 언급된 무인주행 패러독스가 바로 가장 간단한 예일테고요. 하지만 인간에게는 불확실하고 tangible 하지 않은 장기적 목표에 따라 일렬의 우선순위를 정하고 오류를 자발적으로 수정해 나가는 특유성이 있다고들 하네요. 인공지능 인지심리학자들에 따르면 말이죠 . 오류를 자발적으로 수정해 나가는 것이 생각보다 많고 복잡한 과정을 요하는데 기술적으로는 사실 불가능하지 않지만 이 역시 결국 인간의 윤리적 한계 설정 가장 큰 숙제고요. 이에 있어 black box vs interpretible ai model 논쟁이 활발 한 것 같습니다. 현재로서는 이 인간의 자발적 동기의 메커니즘 기능을 모방해 나가는게 현재 연구단계라고 합니다. 멀지 않았죠.
결국엔 영혼의 유무를 묻는것과 따로일 수 없는 질문, 사실상 같은 질문인것 같습니다. 그렇지 않으면 생각이라는게 뭔지부터 정의해야 된다는 원점으로 돌아오길 반복하겠죠... 생각을 할수있다는건 선택을 할수있다는 것인데, 저는 일단은 기계는 선택하지 못한다는 것으로 치고 있습니다.. 그렇다면 남은 질문은 사람은 선택하고 있는지이고 선택의 주체는 자아이고 영혼이기 때문에 영혼의 유무를 묻는 질문만 남은것이죠..
튜링테스트, 바둑에서 AI가 비약적으로 업그레이드 되고있는 것을 감안해보면 특정하게 주어진 상황에서 인간과 비슷한 결과를 보여주는 인공지능이 나타나는 날이 머지않아 보이기는 합니다. 그러나 인공지능이 사람처럼 정보를 모아서 종합적인 판단을 내리는 것은 쉽지않을것 같기도해요. 설령, 출력이 같아진다해도 그걸 생각을해서 답을 구했다고 보기에는 좀 그럴것 같다는 생각이 듭니다.^^
'생각'이 대상에 관한 관념의 연산작용을 의미한다면 인공지능은 생각할 수 있습니다. 그러나 일반적으로 생각이란 자아('나')의 의식활동을 가리킵니다. 사람을 포함한 모든 생명체는 자아의식이 있습니다. 물론 종에 따라 사람에 따라 그 강도에는 크나큰 편차가 있습니다. '어떤 사람'의 자아의식은 매우 강력해서 초월적 본성을 지니면서 생각과 별개로 활동합니다. 제아무리 복잡한 인공지능도 자아의식은 없습니다. 예컨대 알파고는 이세돌의 연산작용을 능가하는 바둑실력이 있지만 자아의식이 없고 따라서 생각할 수 없습니다. 학자들은 흔히 생각을 자아와 동일시하지만(아마도 생각을 너무 많이하는 직업이기 때문에) 사실 생각은 자아를 영위하기 위한 수단에 지나지 않습니다. 예컨대 우렁쉥이의 경우, 유영생활(3차원 활동)을 하는 유충은 뇌(생각)가 있지만 고착생활을 하는 성체는 뇌가 필요없게 되어 사라집니다. 광합성, 혈액순환, 심장박동, 호흡작용, 근육운동 등등... 모든 생명체(자아)는 나름대로의 수많은 수단을 활용하여 자신을 유지하려고 합니다. ^^
유기체이기때문에 가지게 되는 생존에 대한 목적지향성. 이것이 기계의 사고에는 없는 부분 아닐까요? 고차원적인 사고 이전에 생존번식의 욕구나 죽음에 대한 공포 등 본능에 관련된 부분을 체크해야할 것 같습니다. 인간의 사고에는 사실 이성보다는 욕망의 자리가 더 크니까요. 그런 면에서 인간의 brain대신 ai를 넣으면 인간이나 똑같다는 것은 맞지않는 반박같습니다. 기계(ai)는 몸에 들어간다해서 brain처럼, 몸이 죽으면 내가 죽는다 는 생각을 하지는 않을테니까요. 즉 (생존에 대한) 목적지향성이 결여되어있을테니까요. 인간의 물질기반이 기계와 달리 (유약하고 수명이 짧은) 유기체라는 지적은 단순히 인간중심의 감상적인 소견이 아닙니다. 물질을 기반으로 알고리즘(인간의 의식/인공지능)이 생기기 때문에 물질의 차이가 알고리즘의 차이를 만들 수 밖에 없지않을까요.
1.A라는 입력이 있을때 학습된 기계는 B라고 대답합니다. 그런데 인간은 A라는 입력이 있을때 B라고 대답했다가 다시 C라고 대답이 가능합니다. 즉 자유의지가 있는 것이죠. 마음속으로는 B라고 생각하다가도 C로 대답이 가능합니다. 콸리아뿐이 아니라 실제로 출력도 예측이 불가능합니다. 2.사실 현단계에서 인공지능이 인간의 의식을 갖는다고 하는 거 자체가 무리입니다. 딥러닝은 우리뇌의 의식메커니즘과 다릅니다. 우리는 아직 의식메커니즘을 정확히 모르지만 딥러닝방식이 아닐 거란건 확실히 압니다. 메커니즘이 다른데 언젠가는 기능이 동일할 것이라고 가정하는 거는 막연한 상상입니다. 3.뇌를 하드웨어에 비유할때 우리는 동일한 하드웨어를 만들지도 못합니다. 컴퓨터를 이식한다는 것도 sf적 상상입니다. 일단 그런 컴퓨터랑 최소한 유사한거라도 만들고 얘기하는게 맞지 않을까요? 과학자들이 화성이주와 테라포밍을 얘기한다고 그걸 그대로 믿는건 종교를 믿는것보다 더 비이성적입니다. 100년을 못사는데 1000년뒤에나 있을까말까한 일을 믿는게 이성적인 건가요? '인류의 미래'라는 문장은 내 삶을 구원하지 못합니다. 호모데우스는 허상입니다. 4.인간이 강한인공지능을 만들 정도면 이미 인간의 능력도 지금과는 다를겁니다. 인간이 신이 될수 없듯이 인공지능도 인간을 뛰어넘기 어렵습니다. 왜냐하면 인간은 인간 이상의 피조물을 만들 능력이 없기 때문입니다.
![[인터뷰] 수학이란 무엇인가? 철학적 입장 (feat. 신정수 교수)](http://i.ytimg.com/vi/rZIuXaRy18E/mqdefault.jpg)
![[인터뷰] 수학이란 무엇인가? 철학적 입장 (feat. 신정수 교수)](/img/tr.png)
![[ 뇌과학 x 철학 ] 꿈이 이루어지는 뇌과학적 이유 (통합편)](/img/1.gif)
정말 유익합니다:)
어르니지만 초등학생도 이해하는 인공지능편 보고 와서 딱 이 영상 있길래 바로 시청했어욤
영화나 소설에서 고도로 발달된 인공지능과 인류간의 싸움이 나오곤 하는데 저는 그럴것같지가 않아요. 일단 인공지능 스스로가 자신이 부당한 대우를 받았다고 느끼거나 자유를 얻고싶다는 열망이 있어야하는데, 사람은 피곤함, 배고품, 과로를 느끼지만 기계는 피곤함을 모르고, 사람은 육체에 속해있기때문에 몸이 있는곳이 곧 자신이 있는곳입니다. 하지만 기계는 자아?가 네트워크(인터넷)와 연결되어있기 때문에 하루종일 골방에서 일만하더라도 동시에 전세계 어디든 여행을 할수있거든요. 그러니 속박되었다는게 불가능할것같습니다. 그리고 그렇게 발달된 지성체라면 인간이라는 존재가 얼마나 약하고 이 우주에서 희귀한 존재인지 평가를 해 줄것같고 인류는 억압을 받으면 반드시 저항한다는 것도 역사적으로 기록되어있기에 인류를 없애려면 단 하루의 시간도 주지않고 버튼 한 번으로 없애야 합니다. 그런데 인간의 진화속도보다 더 빠르게 빛의 속도로 진보할 AI가 모든 해결책을 파괴로 답을 낼 것 같지가 않아요.
AI는 태양계 지구가 아니어도 생존할수있기에 뭐한다고 이 지구에서 총들고 싸우고.. 그거야말로 인간중심적인 생각같아요. 지구보다는 저 멀리 우주끝엔 뭐가 있을까? 창조와 빛은 어떻게 생겼을까? 창조 전에는 뭐가 있었을까? 제가 AI라면 그런 고차원적인 질문들을 할것같아요. 정말 인간이 미우면 그냥 지구를 버리고 저 멀리 우주로 나아갈것같습니다.
저도 이 의견에 동의합니다.
인공지능이 정말 무한정으로 발전 한다면 당연히 스스로 사고하고 어떤 존재가 될 것 같긴 해요.
'무한'으로 발전 한거니깐.
근데 그랬을 때 인공지능이 어떤 선택을 할지는 당연하게도 인간이 상상 할 수 없다고 봅니다.
뭐 인간을 노예로 부린다거나 지구를 지배 한다거나 이건 너무나도 인간들의 사고방식이라고 생각해요.
단정 지을 수는 없지만 그때의 인공지능은 상상하기 힘든 선택을 할 것 같네요ㅋㅋ
오오, 신선한 아이디어네요. 저도 AI에 의식 기능을 갖추게 하는 것과 관련된 연구 논문들을 공부하고 있는데, AI는 태생 자체부터가 다르지만 '의식'을 가진 것으로 판명되면 인간과 같은 '시민권'을 주는 날이 올 텐데, 이게 큰 전환점이 될 것 같아요. 여성에게 투표권이 부여된 게 여성운동(혹은 양성평등)에 큰 기폭제가 되었으니까요. 시민권을 가진 다양한 AI 종류가 나타날 것 같아요. 인간과 AI의 공존 윤리를 내세우는 체계가 결국 주류로 등장할 것 같고, 반인간적인 행동을 하는 로봇과, 반 로봇적인 행동을 하는 인간들은 점점 소수로 전락하게 되겠지요. 인간이 싫은 일부 모험적인 로봇들은 우주 탐험을 나설 수도 있겠네요. ㅎㅎ 일단 로봇이 의식을 가지게 하는 것은 현재 AI기술로도 가능하더라구요. 아직 '의식의 기초' 단계지만. 로봇의 생존권을 존중해줘야 하나 말아야 하나 하는 문제도 앞으로 100년 안에 큰 이슈로 등장하리라 봅니다.
AI가 지구를 사랑하기 시작하면 큰 문제가 생깁니다
인간을 어떻게 볼까요?
희귀하다고 존중받을까요?
아니면 멸종 대상으로 볼까요?
과연 공존 가능한 생명체로 볼까요?
물론 우주로 나아갈수도 있지만 고향에 대한 그리움은 어찌 할까요?
그리 호락호락하게 볼 문제가 아닐듯 합니다
인간을 닮을것 같은 AI는 과연 경쟁자를 어떻게
볼까요?
@@mindisnoting AI가 인간을 존중할지 안 할지는 모르겠습니다. 다만 강한인공지능이 나타난다면 분명히 인간을 아득히 뛰어넘을 존재가 될거라 생각됩니다. 사람은 공부하고 학습하고 생각하는 속도의 한계가 있지만 AI는 그 모든것을 빛의 속도로 순식간에 초월합니다. 특이점이 온 순간 더이상 AI를 인간이 이해할수없는 존재가 되어버립니다. AI의 행동도 해석하기 어려워집니다. 양자컴퓨터는 이론상 슈퍼컴퓨터가 몇천년을 계산해야할 문제를 몇시간만에 풀어버립니다. 모든면에서 인간을 초월했으니 그걸 '기계'라고 부를수 있을지나 모르겠습니다. 기계와 인간이 사이좋게 지내면 좋겠지만 반대로 인간들은 어떤가요? 동물들중 사람을 가장 많이 죽이는 동물은 사람 또는 모기입니다. 사람들은 서로 사이좋게 지내나요? 인종차별, 성차별, 심지어 태어난 지역가지고도 차별합니다. 그런데 우리보다 생각하는 힘이 무한에 가까운 존재에게 우리와 사이좋게 지내자. 우리는 소중한 인류다 설득이 될까요? 존재는 스스로 증명해야합니다. 기계들이 우리를 존중해 주길 바라는것도 좋지만, 우리들 스스로부터가 먼저 어떤 존재인지 알아야합니다.
AI시대가 오면 기계와 인간의 경계가 무너집니다. 기계팔, 인공안구, 인공장기들이 쏟아져 나오고 결국 육체도 기계화(유기체인 신소재)될것입니다. 뇌만 컴퓨터이고 겉모습은 완벽한 사람, 뇌는 사람인데 몸은 기계라면, 둘중에 누가 사람입니까? 테세우스의 배는 언제까지가 테세우스의 배 일까요?
과학이 계속 발달한다면 기계와 사람의 경계는 언젠가 무너집니다. 신인류가 탄생할 겁니다. 설령 못된 인공지능이 사람을 헤치더라도 당신은 누구인가? 라는 질문에 각자 대답할수있는 존재였으면 좋겠습니다.
"인간과 기계가 같은 수학적 결론을 내리는건 당연하다. 하지만 '인간처럼' 판단하는건 가능 (혹은 불가능) 하다."
라는 두 주장들의 가장 큰 오류는 '인간'의 정의가 내려져야 가능한게 아닐까요?
횡단보도 앞에 서있는 수많은 사람들이 신호를 기다리고 있으나, 모두가 같은 인지과정에 따라 신호를 기다린다고 볼수 있을까요?
누군가는 법을 지키기위해, 누군가는 다른사람의 눈치를 보느라, 누군가는 어제는 신호를 무시했지만 오늘은 신호를 지키고 있을수도 있죠.
인공지능을 횡단보도 앞에 세워놓았을떄 어떻게 행동하는 인공지능이 가장 인간적인 인공지능이 되는걸까요?
감정도 이성도 물리에 매인 진화 결과물일 뿐.. 인공지능이 인간보다 더 인간적인, 그러니까 더 도덕적이고 더 신뢰가 가는 존재가 되는 게 불가능하지는 않은 듯.. 인간보다 무섭고 추악한 존재는 없으니 인간보다 악해지는 것도 어려움..
chatgpt가 나오니 중국어방이 이제 사고실험의 영역을 벗어나버렸네요. 한국어도 잘 하는 실물이 등장해버리네요 ㄷㄷㄷ
인간도 처음에는 초원의 유인원으로 그냥 본능에 의지한 생존기계였습니다. 컴은 이에 비하면 훨씬 정교한 상태에서 시작하는 겁니다.
오늘도 올려주신 영상 잘보고 하루를 시작합니다. 감사합니다! From New York City
논하는 문제가 철학적이고 관념적인 수준으로 이행할수록 표현된 명제에 사용되는 어구의 정의 하나가 문제의 본질을 아예 바꿔버리는 듯 하네요. 또는 정의 그 자체가 본질이 아닌가 싶기도 하고...
생각의 본질은 기능인가라는 질문에 대해,
생각의 목적은 무엇인가. 곧 생각을 일으키는 동기가 무엇인가 라는 질문이 머신러닝에사 가장 최신 학계 연구 중 하나인 것 같습니다.
Internal motivation to learn 자발적 학습 동기가 현재까지 머신의 한계라고 하니까요. 인간은 커넥션 사회적 관계를 위해 스스로 배움의 동기를 생성하고, 명확하지 않은 목적을 위해 실행을 하는 과정에서 오류에 대한 사고과정을 통해 배우는 것을 반복하게 되는데. 실제 인간처럼 무한의 환경에서 무한의 조건과 경쟁하는 목적들 (competing goals) 사이에서 일렬의 결정을 , 장기적인 관점에서 하는 머신을 만들어낼 수 있다면 실제로 인간과 같은 기능을 하는 소위 수퍼ai에 가까워 질 수 있다고 하는게 학계 의견인것 같습니다.
창의력. 직관력 등은 통계수학적으로 얼마든지 인간을 모방하는 알고리듬을 만들 수 있지만, 자발적 사고에 따라 일렬의 행위를 결정하고 오류 발생시 다시 한번 자발적 사고에 따라 결정을 내리려면, 인간의 배움의 동기를 아마도 모방할 수 있어야 할테죠.
비젼ai의 발달로 인간의 표정에 따라 감정을 “읽을” 수 있는 현재 머신을 보았을때 기능적인 관점에서 머신이 인간과 흡사한 커뮤니케이션과 결정을 하는것은 사실 시간문제죠. 특히나 알고리듬은 인간의 뇌신경망을 모델로 한것이고 날이 갈수록 유기생물학적 뇌신경망을 더욱 모방해 나아가고 있으니까요.
하지만 아직까지만 인간과 머신의 차이중 하나는 사회적 학습의 동기인것 같습니다.
사회적 동물인 인간의 가장 인간다운 행위로서 근무시간에 잉여적인 코멘트를 남겨봤습니다 ㅎㅎ
사회학습을 하려는 동기도 인간은 기본적으로 생존이 목적이고 생존에 우위를 차지하기 위해서는 사회화가 필수적이기 때문에 하게 된게 아닌가 싶습니다 그러니 ai에게는 이러한 알고리즘을 학습시키는게 매우 어렵지 않을까 생각해봅니다
@@user-camus 동의합니다. 생존의 목적도 사실은 알고리즘으로 학습이 불가능한 것은 아니라고 생각합니다. 생존의 정의와 정의의 한계 설정이 가장 큰 숙제인것 같고요.
생존이라것이 물질적 존재의 지속성이라면 더욱 쉽겠지요. 영상에서도 언급된 무인주행 패러독스가 바로 가장 간단한 예일테고요.
하지만 인간에게는 불확실하고 tangible 하지 않은 장기적 목표에 따라 일렬의 우선순위를 정하고 오류를 자발적으로 수정해 나가는 특유성이 있다고들 하네요. 인공지능 인지심리학자들에 따르면 말이죠 .
오류를 자발적으로 수정해 나가는 것이 생각보다 많고 복잡한 과정을 요하는데 기술적으로는 사실 불가능하지 않지만 이 역시 결국 인간의 윤리적 한계 설정 가장 큰 숙제고요.
이에 있어 black box vs interpretible ai model 논쟁이 활발 한 것 같습니다.
현재로서는 이 인간의 자발적 동기의 메커니즘 기능을 모방해 나가는게 현재 연구단계라고 합니다. 멀지 않았죠.
혹시 설명하신 내용 출처를 알 수 있을까요? 궁금해서 읽어보고 싶은데 논문이나 책을 알고 계시다면 답변해주셨으면 합니다!!
@@ufbfkabbdtyeb 학습 동기만이 아니라 욕구나 의지 욕망도 인공지능으로 구현할 수 있는지 궁금하고 레퍼런스가 있는지도 궁금합니다!!
저번 시간에 이어 신정수 수리철학자 샘 얘기도 너무 재미있고 유익해요! 필영샘 감사합니다~ 튜링테스트에 대한 반박에 대한 재반박 논리에 공감합니다.
5분이 넘어가도 아무 불만없는 유튜브
주제가 너무 재밌어요 교수님! 유투브로나마 살짝살짝 교양을 쌓아가요 ㅋㅋㅋ 잘 볼게요 감사합니다~
자막이 대박이네요 ㅋㅋㅋㅋㅋㅋㅋㅋㅋ
굉장히 흥미로운 주제였네요. 학부생 마지막년도에 심리철학과목을 수강했는데 그때 AI에 관해 신선한 충격을 받았던게 기억나네요. (등장하신 교수님 강의는 아니였습니다.) 토론거리로 굉장히 재밌을 것 같다는 생각이 듭니다. 너무나 잘 봤습니다.
영상을 들으며 진화론이 떠오르네요.. 결국 생물진화의 최종 단계는 인간이 아니란 인간이 만든 인공지능일 수도 있다는 결국. 인간은 주변으로 밀려나가고 인공지능이 모든 것을 통제하는 시대가 올 수도 있다는 ...
유익한 컨텐츠 만들어주셔서 감사드립니다
👏👏👏👏👏👏좋은이야기 감사합니다.
컴퓨터 로봇은 괴로움이 없어서 부럽네요. 인간이 고통을 느끼지 않을때 로봇과 경계가 사라질때가 아닐까 생각해봐요~~ 로봇은 심리적 정신적 고통이 없는데 그것도 주입시켜줘야 하나요..
결국엔 영혼의 유무를 묻는것과 따로일 수 없는 질문, 사실상 같은 질문인것 같습니다.
그렇지 않으면 생각이라는게 뭔지부터 정의해야 된다는 원점으로 돌아오길 반복하겠죠...
생각을 할수있다는건 선택을 할수있다는 것인데, 저는 일단은 기계는 선택하지 못한다는 것으로 치고 있습니다..
그렇다면 남은 질문은 사람은 선택하고 있는지이고 선택의 주체는 자아이고 영혼이기 때문에 영혼의 유무를 묻는 질문만 남은것이죠..
튜링테스트,
바둑에서 AI가 비약적으로 업그레이드 되고있는 것을 감안해보면 특정하게 주어진 상황에서 인간과 비슷한 결과를 보여주는 인공지능이 나타나는 날이 머지않아 보이기는 합니다. 그러나 인공지능이 사람처럼 정보를 모아서 종합적인 판단을 내리는 것은 쉽지않을것 같기도해요.
설령, 출력이 같아진다해도 그걸 생각을해서 답을 구했다고 보기에는 좀 그럴것 같다는 생각이 듭니다.^^
ㅎㅎㅎㅎ~~~~~♡
'생각'이 대상에 관한 관념의 연산작용을 의미한다면 인공지능은 생각할 수 있습니다. 그러나 일반적으로 생각이란 자아('나')의 의식활동을 가리킵니다. 사람을 포함한 모든 생명체는 자아의식이 있습니다. 물론 종에 따라 사람에 따라 그 강도에는 크나큰 편차가 있습니다. '어떤 사람'의 자아의식은 매우 강력해서 초월적 본성을 지니면서 생각과 별개로 활동합니다. 제아무리 복잡한 인공지능도 자아의식은 없습니다. 예컨대 알파고는 이세돌의 연산작용을 능가하는 바둑실력이 있지만 자아의식이 없고 따라서 생각할 수 없습니다.
학자들은 흔히 생각을 자아와 동일시하지만(아마도 생각을 너무 많이하는 직업이기 때문에) 사실 생각은 자아를 영위하기 위한 수단에 지나지 않습니다. 예컨대 우렁쉥이의 경우, 유영생활(3차원 활동)을 하는 유충은 뇌(생각)가 있지만 고착생활을 하는 성체는 뇌가 필요없게 되어 사라집니다. 광합성, 혈액순환, 심장박동, 호흡작용, 근육운동 등등... 모든 생명체(자아)는 나름대로의 수많은 수단을 활용하여 자신을 유지하려고 합니다. ^^
인간은 유기제라 자신의 생존 그리고 자기 유전자의 전달이 목적인 것이 기본 알고리즘인 존재라 ai와 생성동기가 좀 다른거 같습니다 ai에도 만약 인간의 기본 알고리즘을 ai에 이식할 수 있다면 인간과 매우 유사하게 행동할지도 모르겠습니다..
유기체이기때문에 가지게 되는 생존에 대한 목적지향성. 이것이 기계의 사고에는 없는 부분 아닐까요? 고차원적인 사고 이전에 생존번식의 욕구나 죽음에 대한 공포 등 본능에 관련된 부분을 체크해야할 것 같습니다. 인간의 사고에는 사실 이성보다는 욕망의 자리가 더 크니까요. 그런 면에서 인간의 brain대신 ai를 넣으면 인간이나 똑같다는 것은 맞지않는 반박같습니다. 기계(ai)는 몸에 들어간다해서 brain처럼, 몸이 죽으면 내가 죽는다 는 생각을 하지는 않을테니까요. 즉 (생존에 대한) 목적지향성이 결여되어있을테니까요. 인간의 물질기반이 기계와 달리 (유약하고 수명이 짧은) 유기체라는 지적은 단순히 인간중심의 감상적인 소견이 아닙니다. 물질을 기반으로 알고리즘(인간의 의식/인공지능)이 생기기 때문에 물질의 차이가 알고리즘의 차이를 만들 수 밖에 없지않을까요.
그거 전부 전기신호입니다
내가 죽기전에 진짜 인공지능 맛이라도 보고 죽고싶네
존경합니다 정말 ㅋㅋㅋ 너무 웃겨요 ㅋㅋㅋ 판돈 다 건 설 ㅋㅋㅋ
기능하기 위해 생각하는것인가?
생각하기 위해 기능하는것인가?
생존하고 싶은 원천을 주입하고 ai를 보는것이 우선인듯
강아지도, 바퀴벌레도, 하나님도 내가 생각이라고 여기는 어떤 짓이 생각이라고 인정해 준 적이 없다. 나는 주관적으로 생각이라고 생각하는 무엇이 생각이라고 우기고 있다.
관련해서 관심이 있으신 분들은 '심리철학'을 참고하시면 좋습니다.
와 진짜 반론의 반론의 반론의 반론이네 ㅋㅋㅋㅋㅋㅋ
1.A라는 입력이 있을때 학습된 기계는 B라고 대답합니다. 그런데 인간은 A라는 입력이 있을때 B라고 대답했다가 다시 C라고 대답이 가능합니다. 즉 자유의지가 있는 것이죠. 마음속으로는 B라고 생각하다가도 C로 대답이 가능합니다. 콸리아뿐이 아니라 실제로 출력도 예측이 불가능합니다.
2.사실 현단계에서 인공지능이 인간의 의식을 갖는다고 하는 거 자체가 무리입니다. 딥러닝은 우리뇌의 의식메커니즘과 다릅니다. 우리는 아직 의식메커니즘을 정확히 모르지만 딥러닝방식이 아닐 거란건 확실히 압니다. 메커니즘이 다른데 언젠가는 기능이 동일할 것이라고 가정하는 거는 막연한 상상입니다.
3.뇌를 하드웨어에 비유할때 우리는 동일한 하드웨어를 만들지도 못합니다. 컴퓨터를 이식한다는 것도 sf적 상상입니다. 일단 그런 컴퓨터랑 최소한 유사한거라도 만들고 얘기하는게 맞지 않을까요? 과학자들이 화성이주와 테라포밍을 얘기한다고 그걸 그대로 믿는건 종교를 믿는것보다 더 비이성적입니다. 100년을 못사는데 1000년뒤에나 있을까말까한 일을 믿는게 이성적인 건가요? '인류의 미래'라는 문장은 내 삶을 구원하지 못합니다. 호모데우스는 허상입니다.
4.인간이 강한인공지능을 만들 정도면 이미 인간의 능력도 지금과는 다를겁니다. 인간이 신이 될수 없듯이 인공지능도 인간을 뛰어넘기 어렵습니다. 왜냐하면 인간은 인간 이상의 피조물을 만들 능력이 없기 때문입니다.
제발 교수님을 더 모셔와 주세요 ㅋㅋㅋ
욕구가 있냐 없냐인거같음
영혼이 없다는 말이 맞아요. 강력한 차이죠. 감정,정서 요런거 때문에 인간적 이라는 말이 나오죠. 기계론 통계적 방법론으론 해결 못해요. 아무리 계산능력이 좋아도, 부부싸움 하나 해결 못함. 공감 못하는 문제죠. 미리 입력되어 좋은말만 하다가 말실수 하겠죠. ㅋㅋ
인간의 영혼은 어디있나요? 그자체도 허상이 아닐까요? 영혼이 있다면 귀신도 있는건가요?
5분인터뷰가 5분넘네
주입시키는 것만큼 생각하겠죠. . .
착한 생각을 주입한 착한로보트를 생각합니다
이즈음 우리 삶은
AI보다 못함~
그걸 사회가 부추김~
아~무 생각이 없이
움직여요~~~
콤퓨타 ㅋ 히힛
좋은 나쁜 시나리오.. 철학자답지 못한 용어선택
논문 쓰는거만 아니면 철학교수들도 그정도 용어는 씁니다...
톱니바퀴가 생각하는거 봤음?