이 문제가 조니 실버핸드와 알트 커닝햄이 V 와 대화할때 드러남. 알트는 조니가 구성체 프로그램일 뿐이며 다음에 할 말을 모두 예측하고 있다고 함. 로봇과 인간의 차이는 예측 가능한지 아닌지의 차이. 인간은 다음 행동을 예측할 수 없죠. 프로그램은 예측가능하죠. 조니가 본인은 인간이라고 생각하겠지만 인간임을 주장하는 구성체 프로그램 일뿐. 그래서 사펑 엔딩을 보면 조니든 사부로든 블랙월이든(확장팩) 프로그램이 현실 사람을 지배했을때 엔딩이 전부 안좋게 나옴. 이것은 인류가 인간임을 주장하는 영원히 살수 있는 프로그램의 지배를 받게 된다는것. 그게 조니든 사부로든 블랙월이든 똑같음. 이건 내 생각인데 생명체의 신경(뇌)은 원자단위에서 연결되는데 원자 보다 작은 전자 수준으로 작아지면 여기는 확률 함수로 해석함. 양자역학. 미시 세계에서는 신이 주사위를 던진다는 것. 그게 생명체의 신경망. 근데 프로그램은 고전역학으로도 해석되는데 여기는 확률이 없음. 완전한 램덤도 없고. 즉 생명체는 다음 행동을 물리적으로 예측할 수 없지만 프로그램은 시간이 걸릴뿐 어떻게든 다음 행동을 예측할 수 있다는 것.
6:00 같은 맥락에서 고도로 발달한 어느 '젤나가'가 우릴 창조했다면 우리가 이렇게 사고 하도록 유도하는 편이 그들로서도 괜찮은 세팅이었을 겁니다. 피조물이 "지적생명체는 어쨌든 스스로를 정당화 하는 결론을 선택할수밖에 없다"고 스스로도 믿는 편이 그들을 창조한 주체로서 문화적인 유희의 일종으로 지켜보기 편하니까요. 4차원의 벽을 뛰어넘는 영화 캐릭터는 가끔은 별미일수 있지만 기본적으로 주류적인 설정은 아닌것처럼요 ㅎㅎ
08:41 부터 이전부터 개인적으로 품고있었지만 한구석에 치워버리고는 했던, 정말 흥미로우면서도 한편으로는 공포스럽기도 한 주제입니다. 결국 제가 이해한것은 다음의 명제를 도출해 내게 됩니다. 1. 우리가 인간이 아니라 누군가(진짜 인간)가 만들어낸 존재라면 - 우리는 우리가 인간이라 믿고 있지만 - 우리를 만들어낸 그 무언가는 우리가 진짜 인간이 아니라는 것을 알고 있으며 - 우리의 일거수 일투족을 감시 혹은 관찰하고 있을 것이다 2. 우리가 만들어진 존재이지만 진짜 인간이 이해할 수 없는 영역에 도달했다면? - 우리를 만들어낸 존재는 공포에 휩싸일 것이다 - 이것은 우리가 만들어낸 ai기술의 발전 양상을 보면 어렵지 않게 유추할 수 있다 (실제로 우리는 알파고가 두는 바둑의 수를 이해할 수 없습니다. 다른 ai알고리즘과 마찬가지로요) - 사실 우리를 만들어낸 존재는 우리가 이런 사고실험을 하는 고등영역에까지 도달하는것 조차 생각하지 못하고 우리를 창조했을지 모른다 (우리가 만들고 있는 ai의 초기단계 기술레벨을 생각해 보십시오. 우리는 그저 그럴듯한 말을 하는 챗봇을 생각했을 뿐이지만, 지금은 우리의 사회적 지위-각종 자격시험-조차 위협하는 수준에 도닿했습니다) - 다시 한번 말하지만, 우리는 우리가 만든 ai기술의 발전양상에서 같은 종류의 두려움을 느끼고 있다 (최근 발표된 챗-GPT의 생성능력이나 단어 몇개만 가지고 화상이 아닌 영상을 만들어내는 능력들을 보고있으면 경외감을 넘어 공포심을 안게되는 순간들이 분명하게 존재합니다) 3. 우리를 만들어낸 존재가 우리의 shut-down스위치를 손에 가지고 있다면? - 우리의 발전속도가 우리의 창조주가 상정한 범위를 벗어나고 있다면? - 이미 그 단계는 넘어서고 있다고 우리 스스로 유추할 수 있다 - 마치 우리안의 침팬치가 스스로 컴퓨터를 만들어내고 시뮬레이팅된 세계를 창조하고 침팬치를 스스로 만들어내고 그걸 관찰하는 모습을 본 인간은 과연 어떤 생각을 하게 될까? - 우리가 생각하는 인간이라는 존재는 그것을 이해하려 하기보다는(이해가 불가능할지라도)공포심에 지배되어 그것을 억누르려 할 것이다. 4. 우리는 언제든 스위치 하나로 모든것이 무로 돌아갈수 있는 존재인가? - 우리의 사고는 어디를 향해야 하는가 - 이 모든것은 무의미한가? 그럼에도 우리는 사고해야 하는가? *우리의 창조주도 같은 고민을 하고 있을까? 5. 만약 우리의 창조주가 정말로 있다면? - 그 창조주도 우리와 같은 고민과 고찰을 하지 않았을까? - 우리의 창조주 또한 더 높은 단계의 창조주에 의해 창조된 피조물이라면? - 우리를 보면서 그런 고찰을 그들도 하지 않을까? 지금 우리가 하고 있는 고찰처럼... 너무나도 무섭고도 흥미로운 주제입니다. 우리는 흔히 창작물에서 창작자가 창조한 캐릭터가 스스로 살아 움직이는 것 같다는 느낌을 받고는 합니다. 소설가들은 흔히 작가후기에서 이 캐릭터가 스스로 움직이고 있다는 느낌을 받는 경우가 적지않게 있다고 고백하고는 합니다. 일정 수준(보더)을 넘어선 창조물은 창조주의 통제에서 벗어나는 것이 아닐까요? 그렇다면 보더를 넘어선 창조물은 과연 창조물이라고 부를수 있는 것인가요? 창조물과 피조물의 경계란 무엇이고 어디까지가 피조물이며 어디까지가 창조물일까요? 모든것은 '통제'가 가능한지 여부에 대한 구분일 것인가요? 그러다면 '통제'를 벗어난 것들에 대한 통제를 시도해야 할까요? 아니면 그것들은 그것대로 하나의 주체적인 자아와 자기결정권을 가진 객체로써 (비록 창조한것은 나일지라도) 나와 동일한 선상에 놓고 그에 걸맞는 취급을 해 줘야 하는 것일까요? 성경(혹은 그에 준하는 종교원전)에서 우리는 창조된 존재라고 기술하고 있습니다. 하지만 그 성경조차 우리가 스스로 창조해낸 피조물에 불과하지 않다는걸 여러 역사적 사료들이 증명하고 있습니다. 사고의 뫼뷔우스의 띠 같은 느낌이 들지않아 없지않아 있습니다만, 이것조차 우리를 더 높은 영역으로 끌어올리는 사고가 아닐까 매우 흥미롭지 아니할수 없습니다 ㅋㅋㅋ
뒤에 로봇이 인간이 아니라는걸 모를 수 없다는 주장은 그럴수 있지만, 훗날 인간 클론 기술이 발달한다면 내가 클론인지 아닌지 알 수 있는 방법은 없겠지요. 존재론은 플라톤의 이데아부터 이미 답이 없는 문제였고, 결국 데카르트의 코기도 에르고 숨, 즉 내가 내 존재를 믿는 것 뿐이죠. 공각기동대가 이런 내용을 잘 풀어냈었죠.
장자의 나비꿈까지 거슬러올라가는 논거지만 사이버펑크의 아버지 필립k딕의 사기꾼로봇(imposter)의 주제이기도 했고 역시 사이버펑크를 만화적, 영상적으로 가장 잘 표현한작품중 하나인 공각기동대에서도 주인공 모토코가 자기자신은 이미죽었고 생체뇌가 인공으로 바뀌었어도 알수가 있는가라는 의문을 보이기도했죠. 싸펑2077에서는 어찌보면 필수적인 오마주요소 아닐까 싶어요 ㅋ
일용할 양식을 주신 모험러님께 감사드립니다 저같은경우엔 다른 SF영화나 SF게임에서 이런 경우를 본적이 있습니다 로봇이 자신도 존중받아야 할 존재다 라고 주장하자 초인간주의자[인간만이 최고라고 생각하는 차별주의자]들이 말도 안되는 소리라고 그 로봇을 둘러싸고 결국 폭력을 행사할 준비를 합니다 그때 갑자기 옆에 크고 단단한 바위가 움직이더니 로봇을 가로 막으면서 이렇게 대답합니다 [너네는 우리 무기체 생명체에 대한 존중이 없구나] 개인적으로 로봇인지 인간인지도 중요하지만 존재 자체가 하나의 인격체냐라는 것이 존재의 유무라고 생각합니다. 이런 생각을 하게 해주셔서 감사합니다!
드디어 왔다 내 꿀잼
이 문제가 조니 실버핸드와 알트 커닝햄이 V 와 대화할때 드러남. 알트는 조니가 구성체 프로그램일 뿐이며 다음에 할 말을 모두 예측하고 있다고 함. 로봇과 인간의 차이는 예측 가능한지 아닌지의 차이. 인간은 다음 행동을 예측할 수 없죠. 프로그램은 예측가능하죠. 조니가 본인은 인간이라고 생각하겠지만 인간임을 주장하는 구성체 프로그램 일뿐. 그래서 사펑 엔딩을 보면 조니든 사부로든 블랙월이든(확장팩) 프로그램이 현실 사람을 지배했을때 엔딩이 전부 안좋게 나옴. 이것은 인류가 인간임을 주장하는 영원히 살수 있는 프로그램의 지배를 받게 된다는것. 그게 조니든 사부로든 블랙월이든 똑같음. 이건 내 생각인데 생명체의 신경(뇌)은 원자단위에서 연결되는데 원자 보다 작은 전자 수준으로 작아지면 여기는 확률 함수로 해석함. 양자역학. 미시 세계에서는 신이 주사위를 던진다는 것. 그게 생명체의 신경망. 근데 프로그램은 고전역학으로도 해석되는데 여기는 확률이 없음. 완전한 램덤도 없고. 즉 생명체는 다음 행동을 물리적으로 예측할 수 없지만 프로그램은 시간이 걸릴뿐 어떻게든 다음 행동을 예측할 수 있다는 것.
예쁜꼬마선충을 세포단위로 모두 복사해서 컴퓨터 프로그램으로 만들어 그 움직임을 예측해본 실험에서 예측율이 상당히 높긴했지만 완벽한 예측은 불가능 하더라구요
어려운 주제인데도 귀에 쏙쏙 박히는... 모험러님 목소리랑 톤이 진짜 사기인듯
Hi, Thank you for your good story and telling. Please keep going on this series. Don't stop making.
글쓴이의 사이버펑크에 대한 애착이 너무 느껴지는 것 같습니다. 정말이지 훌륭한 영상 감사합니다!!👍
기다리고 있었다구!😆
고맙습니다!
6:00 같은 맥락에서 고도로 발달한 어느 '젤나가'가 우릴 창조했다면 우리가 이렇게 사고 하도록 유도하는 편이 그들로서도 괜찮은 세팅이었을 겁니다.
피조물이 "지적생명체는 어쨌든 스스로를 정당화 하는 결론을 선택할수밖에 없다"고 스스로도 믿는 편이 그들을 창조한 주체로서 문화적인 유희의 일종으로 지켜보기 편하니까요.
4차원의 벽을 뛰어넘는 영화 캐릭터는 가끔은 별미일수 있지만 기본적으로 주류적인 설정은 아닌것처럼요 ㅎㅎ
그래서 게임 내내 조니가 V한테 기업의 가장 큰 문제는 개인의 정체성을 빼앗는거라고 말하고 경고해줌. 팬텀리버티 엔딩에서도 절대 자기 자신만은 잃어버리지 말라고 부탁하고... 사펑 장르의 핵심 주제임에는 틀림없음
화려한 색감의 옷
언제든지 바꿔낄수있는 임플란트
돈만 있으면 유전자 빼고 전부 바꿀수 있는 기술
하지만 정체성은 강자에게 속박되있고 더 튀어 보이려고 하면 강자에게 먹히는 나이트시티
08:41 부터
이전부터 개인적으로 품고있었지만 한구석에 치워버리고는 했던,
정말 흥미로우면서도 한편으로는 공포스럽기도 한 주제입니다.
결국 제가 이해한것은 다음의 명제를 도출해 내게 됩니다.
1. 우리가 인간이 아니라 누군가(진짜 인간)가 만들어낸 존재라면
- 우리는 우리가 인간이라 믿고 있지만
- 우리를 만들어낸 그 무언가는 우리가 진짜 인간이 아니라는 것을 알고 있으며
- 우리의 일거수 일투족을 감시 혹은 관찰하고 있을 것이다
2. 우리가 만들어진 존재이지만 진짜 인간이 이해할 수 없는 영역에 도달했다면?
- 우리를 만들어낸 존재는 공포에 휩싸일 것이다
- 이것은 우리가 만들어낸 ai기술의 발전 양상을 보면 어렵지 않게 유추할 수 있다
(실제로 우리는 알파고가 두는 바둑의 수를 이해할 수 없습니다. 다른 ai알고리즘과 마찬가지로요)
- 사실 우리를 만들어낸 존재는 우리가 이런 사고실험을 하는 고등영역에까지 도달하는것 조차 생각하지 못하고 우리를 창조했을지 모른다
(우리가 만들고 있는 ai의 초기단계 기술레벨을 생각해 보십시오. 우리는 그저 그럴듯한 말을 하는 챗봇을 생각했을 뿐이지만, 지금은 우리의 사회적 지위-각종 자격시험-조차 위협하는 수준에 도닿했습니다)
- 다시 한번 말하지만, 우리는 우리가 만든 ai기술의 발전양상에서 같은 종류의 두려움을 느끼고 있다
(최근 발표된 챗-GPT의 생성능력이나 단어 몇개만 가지고 화상이 아닌 영상을 만들어내는 능력들을 보고있으면 경외감을 넘어 공포심을 안게되는 순간들이 분명하게 존재합니다)
3. 우리를 만들어낸 존재가 우리의 shut-down스위치를 손에 가지고 있다면?
- 우리의 발전속도가 우리의 창조주가 상정한 범위를 벗어나고 있다면?
- 이미 그 단계는 넘어서고 있다고 우리 스스로 유추할 수 있다
- 마치 우리안의 침팬치가 스스로 컴퓨터를 만들어내고 시뮬레이팅된 세계를 창조하고 침팬치를 스스로 만들어내고 그걸 관찰하는 모습을 본 인간은
과연 어떤 생각을 하게 될까?
- 우리가 생각하는 인간이라는 존재는 그것을 이해하려 하기보다는(이해가 불가능할지라도)공포심에 지배되어 그것을 억누르려 할 것이다.
4. 우리는 언제든 스위치 하나로 모든것이 무로 돌아갈수 있는 존재인가?
- 우리의 사고는 어디를 향해야 하는가
- 이 모든것은 무의미한가? 그럼에도 우리는 사고해야 하는가?
*우리의 창조주도 같은 고민을 하고 있을까?
5. 만약 우리의 창조주가 정말로 있다면?
- 그 창조주도 우리와 같은 고민과 고찰을 하지 않았을까?
- 우리의 창조주 또한 더 높은 단계의 창조주에 의해 창조된 피조물이라면?
- 우리를 보면서 그런 고찰을 그들도 하지 않을까? 지금 우리가 하고 있는 고찰처럼...
너무나도 무섭고도 흥미로운 주제입니다.
우리는 흔히 창작물에서 창작자가 창조한 캐릭터가 스스로 살아 움직이는 것 같다는 느낌을 받고는 합니다.
소설가들은 흔히 작가후기에서 이 캐릭터가 스스로 움직이고 있다는 느낌을 받는 경우가 적지않게 있다고 고백하고는 합니다.
일정 수준(보더)을 넘어선 창조물은 창조주의 통제에서 벗어나는 것이 아닐까요?
그렇다면 보더를 넘어선 창조물은 과연 창조물이라고 부를수 있는 것인가요?
창조물과 피조물의 경계란 무엇이고 어디까지가 피조물이며 어디까지가 창조물일까요?
모든것은 '통제'가 가능한지 여부에 대한 구분일 것인가요? 그러다면 '통제'를 벗어난 것들에 대한 통제를 시도해야 할까요?
아니면 그것들은 그것대로 하나의 주체적인 자아와 자기결정권을 가진 객체로써
(비록 창조한것은 나일지라도) 나와 동일한 선상에 놓고 그에 걸맞는 취급을 해 줘야 하는 것일까요?
성경(혹은 그에 준하는 종교원전)에서 우리는 창조된 존재라고 기술하고 있습니다.
하지만 그 성경조차 우리가 스스로 창조해낸 피조물에 불과하지 않다는걸 여러 역사적 사료들이 증명하고 있습니다.
사고의 뫼뷔우스의 띠 같은 느낌이 들지않아 없지않아 있습니다만,
이것조차 우리를 더 높은 영역으로 끌어올리는 사고가 아닐까 매우 흥미롭지 아니할수 없습니다 ㅋㅋㅋ
사펑을 늦게 해보고 느꼈던게
이렇게 좋은 주제로 좋은 게임을 너무 일찍내서 저평가 낸게 참 아쉬웠어요
뒤에 로봇이 인간이 아니라는걸 모를 수 없다는 주장은 그럴수 있지만, 훗날 인간 클론 기술이 발달한다면 내가 클론인지 아닌지 알 수 있는 방법은 없겠지요. 존재론은 플라톤의 이데아부터 이미 답이 없는 문제였고, 결국 데카르트의 코기도 에르고 숨, 즉 내가 내 존재를 믿는 것 뿐이죠. 공각기동대가 이런 내용을 잘 풀어냈었죠.
좀 다른 이야기일지도 모르겠지만, 타입문 공의 경계에서 아오자키 토우코가 몸 본체와 동일한 복제 인형을 완전히 똑같이 만든 시점에 더 이상, 가짜는 없고, 모두가 진짜나 다름 없는 상황에 놓였죠.
오늘도 잘 보겠습니다
장자의 나비꿈까지 거슬러올라가는 논거지만 사이버펑크의 아버지 필립k딕의 사기꾼로봇(imposter)의 주제이기도 했고
역시 사이버펑크를 만화적, 영상적으로 가장 잘 표현한작품중 하나인 공각기동대에서도
주인공 모토코가 자기자신은 이미죽었고 생체뇌가 인공으로 바뀌었어도 알수가 있는가라는 의문을 보이기도했죠.
싸펑2077에서는 어찌보면 필수적인 오마주요소 아닐까 싶어요 ㅋ
항상 응원합니다😊
아....좋다!!! 감사합니다!!
와 사색 너무좋은데요 모험러는 브금하고 너무잘붙는목소리임
어떤게임이 이토록 철학적인 이야기를 다루었었나.
어떤 게임 유튜버가 그걸 다루던가.
모험러님 좋아합니다.❤❤❤❤
제가 모험러님을 좋아하는 여러 이유 중 하나.
봐주셔서 고맙습니다.
훌륭하십니다.
일단 이 게임은 키아누리브스랑 한끗이라도 연관되있으면 다 오마주 대상임
만일 이게 다 거짓이라면? 내가 로봇이 아닌걸 어떻게 확인하지? 같은 질문도 매트릭스 오마주
니체도 같은 맥락을 말했죠. 짜라스투라는 말했다.
고망습니다
또다른 사이버펑크 명작인 총몽에서.. 이 주제를 다룬 방식이 정말 좋았습니다. 총몽의 가장 강력한 스포 중 하나기도 하고요.
일용할 양식을 주신 모험러님께 감사드립니다
저같은경우엔 다른 SF영화나 SF게임에서 이런 경우를 본적이 있습니다
로봇이 자신도 존중받아야 할 존재다 라고 주장하자 초인간주의자[인간만이 최고라고 생각하는 차별주의자]들이 말도 안되는 소리라고 그 로봇을 둘러싸고 결국 폭력을 행사할 준비를 합니다
그때 갑자기 옆에 크고 단단한 바위가 움직이더니 로봇을 가로 막으면서 이렇게 대답합니다 [너네는 우리 무기체 생명체에 대한 존중이 없구나]
개인적으로 로봇인지 인간인지도 중요하지만 존재 자체가 하나의 인격체냐라는 것이 존재의 유무라고 생각합니다.
이런 생각을 하게 해주셔서 감사합니다!
새벽에 듣기좋네요
나 자신을 아는 법(고대 그리스)과 지금이 꿈인지 아닌지 아는 법(장자) 등의 튜링 테스트 등은 인류가 생각하면서 이어진 오랜 질문같네요. 근데 정말 어떻게 알죠? 😅 어쩌면 의지가 아니라 모순, 불완전함, 악의, 뜬금없는, ... 등일까요?
사이버펑크 장르는 현대 문명이 만들어낸 훌륭한 장르죠 ㅎㅎ
그럼 나중에 자의식을 가진 로봇이 등장하면 스스로를 로봇이라고 자각할까요? 자아에 대한 논의는 생각을 계속 해봐도 흥미로운것 같습니다.
여태 아라사카 빌딩 로비를 못 벗어났다니...
패스파인더 킹메이커 253.2 시간, 패스파인더 의인의 분노 209.6 시간을 캐릭터 메이킹 화면에서 헤매고 있는 저를 보는 듯합니다.
내 야동! 감사합니다!!!
웨스트 월드 정말 재밌었죠...
하지만 사펑 영상이 제일 재밌어...
그냥 나를 사랑하자