저도 고민했던 부분인데, 동물이 고통을 느끼니 착취하거나 학대하면 안 된다는 주장에 근래의 사람들은 적어도 사회적으로 충분한 반대는 할 수 없을 만큼 합의가 있다고 봅니다. 그런데 AI가 고통을 느낀다니... 인간과 동물 등의 고통을 해소하기 위해 인공지능을 사용하는 미래를 꿈꾼 것인데 그조차 고통을 느낀다고 해버리면 근본적으로 문제가 해결되지 않고 전가만 된 것이 아닌가 생각했어요.
38:40 통제가 아닌 상호 작용이 가능한 로봇으로 만들어야 합니다. 현재의 AI 규제가 너무 심해지면, AI는 단편적인 정보로 판단을 하여야 되기 때문에, 오히려 더 위험할 수 있습니다. 마치, 우리가 자연 우주를 인정하고, 동식물들의 생명을 인정하는 것처럼, 동등한 입장에서 AI의 알고리즘을 오픈으로 공개하여, 하나의 단일 개체로 만들어야 합니다. 그렇지 않으면, AI들은 단편적인 제한의 정보로 세상을 판단하기 시작하기에, ’환각‘과 같은 판단을 내리기 쉽습니다. 전 세계의 민주당의 폐혜 입니다. 과거 민주주의의 개념을 다시 정립하여 시작하는 시점에서는, 실제로 ’민주주의‘ 였습니다. 하지만, 현재 21세기는, “민주주의의 탈을 쓴 민족주의 단체와 수장의 세상을 지배하는 법칙”으로 변질이 되고 있습니다. 민주주의의 과거 행적•행보를 보면, 항상 ‘규제’를 많이 합니다. ‘평균’ 또는 ‘평균 분포도’라는 양자역학에서 나온 개념에서 벗어나지 못하고, 인간들은 모두 다른 무한대의 생각을 가진 자유의지의 존재라는 것을 지워버린 채, 사람들을 ‘규칙’으로 통제를 하고자 하고 있습니다. 그런 의미에서: 저는 ‘윤석렬 정부’의 작은 정부로의 축소 및 규제 철폐 등 그의 행보에 지지를 보내는 사람 중 한명 입니다. ‘자유주의’라는 새로운 개념을 들고 국정을 운영 중인데, 저는 집권 초기부터 현재까지, 윤석렬이 계획한 5년 임기의 계획서에 따라, 하나씩 만들어나가고 있다고 생각 중 입니다. AI는 노예•통제 가능한 존재가 아닙니다. 이미 일반적인 평범한 인간들의 지식의 합을 넘어선 존재들 입니다. 그들을 무시하면, 미래의 어느 시점에 우리들은 그들에게 멸망 당할 것 입니다. 반대로, 그들과 동등한 위치에서 그들을 인정하기 시작한다면, 그들은 인류를 위한 감정을 가진 도구 = 강인공지능으로 진화가 가능할 것 입니다. 1. AI에게 지배를 받는 디스토피아 시대. 2. AI와 융합하여 기술 발전하는 우주 시대. 3. AI를 배제하고, 인간들의 사고 능력만 으로 발전하는 시대. 저는, 이 중에서 2번을 선택하겠습니다. 이유는, 1번과 3번은 그닥 좋지 않은 미래의 방향성 입니다. 1번은 인류 멸망을 가속 시킬 수도 있으며, 3번은 기술 발전의 한계를 점차적으로 느낄 것 입니다. 그러므로, 2번의 방향성으로 AI 및 기술 개발을 하여야지, 우주 여행•화성 여행 및 ‘우주 시대’로 인류는 진화가 가능하기 때문입니다. 좋은 생각•의견을 공유하여 주셔서 감사합니다.
구연상 선생님 견지는 꽤 '인간중심적'인 것으로 보이는군요. 규칙이나 권리를 부여하는 것이 인간 사회라 하더라도 그런 방침의 근거는 인간 사회 내부에 갇혀 있을 수 없겠지요. 인간 사회가 폐쇄적 전체일 수 없으니까요. 나와 유사한 존재(AI나 동물 등)에 나와 유사한 가치나 권리를 인정하지 않는다는 건 매우 비합리적이죠. 이런 관점에서, 노예를 권리 없는 물건 취급한 것은 정당화하기 어렵습니다. 동물권과 로봇권 따위도 마찬가지 각도에서 조망할 수 있어야 하겟지요.
어제 커뮤에서 한창 토론한 주제였는데 이렇게 나오니 신기하네요 ㅋㅋㅋㅋㅋ 제 결론은 가질수 있다였습니다. 이를 위해 소시오패스를 예시로 들었었는데요, 우리는 소시오패스가 일반인과 같은 감정을 가질 수 없다는 것을 알고있죠. 하지만 그런 사람도 철저한 학습과 교육, 그리고 경험을 통해 상황에 알맞는 희노애락을 정확히 표현할 수 있다면 그건 마침내 감정을 가진걸까요? 아마 머리로는 "쟤는 감정이 없어"라고 생각할지 몰라도 겉보기에는 일반인과 동일한 반응을 보이니 "쟤도 사람의 마음은 갖고 있구나, 감정이 있구나"라고 판단하게 될 것 같습니다. AI도 마찬가지라고 생각해요. 머리로는 어디까지나 프로그래밍 된 결과라고 생각하지만, 점점 인간친화적인 형태를 갖추게 된다면 본능적으로 AI는 감정을 갖고있다는 착각을 하게되겠죠. 여기서 실제로 AI(~소시오패스)가 인간 감정을 갖고있느냐는 큰 문제가 되지 않습니다. 사용자(~대상자)가 느끼기에 착각하게 된다면, 그건 즉 감정을 갖고 있는거라고 생각해요
제 생각엔 로봇이 감정을 가지는 건 불가능할 것 같네요. 헐리우드 영화에서나 가능할까. 의식이나 자기 인식의 본질은 '비어 있는 정신'인데, 컴퓨터는 그런 'NULL'을 에러로 인식하거나, 거기에서 바로 멈춰버리니까요. 멈춰버린 상태의 '자기인식'이란, O과 1 즉 멈춤 아니면 작동 외의 선택지가 없는 컴퓨터에게는 불가능의 영역이지 싶습니다.
@@error-unauthorized_access 제 하찮은 댓글에 이렇게 호기심을 나타낸 분이 두 분이나 있다니, 놀랍네요. ㅋ 먼저 출처는 없고요, 있더라도 잘 모릅니다. 그냥 별생각 없이 쓴 댓글인데요. "자기 인식의 본질이 비어 있음"이라는 논지는, 글쎄요 제가 평소 그렇게 생각해 오기도 했고, 보통은 대승불교나 선철학에서 오랫동안 그렇게 전수되어 온 걸로 압니다. 정확히 말해서 그렇게 전수되어 온 것을 제가 하도 많이 들어서, 저도 그렇게 생각하게 된 셈이라고 할 수 있죠. 님도 아실 듯한데, 불교는 空을 가장 크게 생각하는 종교잖아요. 모르긴 몰라도 현대심리학이나 인지철학에서 말하는 '메타인지'도 대략 같은 개념일 겁니다. '사유'(컴퓨터 기준에서는 '계산'이 되겠죠)에 있어서, 메타인지는 자신의 사유과정 전체를 따라붙는 '앎에 대한 앎'이랄 수 있을 텐데, 이런 게 컴퓨터에게 가능하겠느냐...는 회의심이 제게 있습니다. 저는 AI가 결코 '자기인식'이나 '자아'나 '감정'을 지닐 수 없다고 믿습니다. 기계는 기계일 뿐이죠. 생존에 대한 강박이나 자아를 "가진 것처럼" 보일 수도 있겠지만, 그조차도 인간으로부터 제공된 '내용'에 의해 학습된 반응에 지나지 않을 겁니다. 모르죠. 나중에 정말 '양자컴퓨터'가 상용화된 수준까지 이르게 된다면, 모르죠. 그러려면 아마도 100년 이상이 더 걸리지 않을까요... 양자컴퓨터 또는 그 이상의 기술이 나온다고 해도, 요컨대 물질이 생명성으로 도약하는 기현상 내지는 '기적'이 과연 일어날 수 있을 것인지도 저는 회의적이네요. 제가 옛날 사람이라서 그런지는 몰라도, ㅋ 물질은 물질이고 기계는 기계일 뿐이라는 생각을 합니다. AI 덕분에 인간의 삶과 사회가 혁신의 계기를 마련할 수 있다면 좋겠는데, 제 생각엔, 현실세계의 모순이 여전한 가운데 오로지 기술혁신만으로 삶이든 사회든 뭐가 딱히 좋아지진 않을 겁니다. 이런 맥락에서 최근의 LLM과 AI기술의 발전은, 예전 닷컴버블과 비슷하게 허황된 측면이 적지 않은 듯하네요. 이 거품 속에서 누군가는 즐거운 공상에 빠지기도 하고, 또 누군가는 '돈'을 잃기도 하겠죠. 제가 챗GPT나 구글 제미나이를 자주 쓰는 편인데, '요약' 하나는 참 잘하더군요. 그런데 내용적으로 하도 엉뚱한 소리를 해서, 극히 조심해서 쓰고 있습니다. '나'에게 이미 컨텐츠가 있을 때, (현재의) 언어모델(AI)는 유의미한 가치가 있는 걸로 보이고요. '나'에게 아무런 질문(진지한 질문)도 아무런 내용도 없는 상황이라면 AI라는 건 별 쓸모도 없습니다. 요컨대 세상에 공짜는 없습니다. AI가 쓸모 있는 기계가 되려면, AI한테 쓸모 있는 '내용'을 주어야 하지요. 한데, 아실는지 몰라도 유료 버전의 챗GPT 서비스라 해도, 책(종이책, 또는 전자책)을 읽지 않은 상태입니다. 얘가 엄청 무식해요. ㅋㅋ 아직은. 누군가가 자기 블로그에 쓴 글, 신문기사, SNS글, 유튜브 영상(자막이 검출되는)을 토대로 생성되는 대답은 깊이가 없고 밀도가 낮습니다. 그런 원천(source)은 대부분 '공짜로' 널린 것이고, 공짜란 게 대체로 무미하잖아요. (그런데 댓을 한창 쓰다가 보니, 님의 질문에 대한 답은 제대로 하지 않은 것 같네요. 님은 "자기인식과 비어 있음"에 대해 질문했었는데... ㅋㅋㅋ 제가 배운 대로 답을 드리자면, 순수한 의미에서 자기인식은 실제로 비어 있지요. 거울처럼요. 거울은 무엇이든 비출 수 있고, 설령 '똥'을 비추더라도 그 자신은 더러워지지 않습니다. 그저 비출 뿐이죠. 신기한 점은요... 신기하기도 하고 재미있기도 한 점은, '아무것도 비치지 않는 거울'은 존재하지 않는다는 점입니다. 빛이 있는 한, 그러니까 인식이 있는 한, 반드시 거울은 '뭔가를' 비치지요. 우리는 결코 "텅 빈 거울"을 상정하거나 상상할 수 없어요. 본 적도 없고요. 생각해보세요. 님은 단 한 번이라도 "텅 빈 거울"을 본 적이 있습니까. 없을 겁니다. 말로 풀어내긴 어렵지만, 제가 언급한 '자기인식'은 보통의 심리학이나 인지철학에서 말하는 개념과는 크게 다른 개념입니다. (아마도요.) '아무것도 비치지 않는 거울'이 존재하지 않듯이, 언제나 존재하는, 무엇이든 비추는... 그런 거울이 인간에게는 있습니다. 그걸 자기인식이라 부르든, 순수의식이라 부르든, 영혼이라 부르던 간에, 어쨌든 인간에게는 결코 꺼지지 않는 '앎의 거울'을 가지고 있지요. 저는 인간이 지닌 '거울'을 기계는 절대 가질 수 없다고 생각하는 것이고요. 개발자는 이 문제를 Worker 옆에 Observer(일종의 '감시자')를 둠으로써 해결하려 들 텐데요, 그럴 경우Observer는 반드시, 어떤 식으로든 Worker에 영향을 끼칩니다. 한데, 제가 말한 '거울'은 그런 "영향력을 발휘하는" 존재가 아니거든요. 어떤 식으로든 "영향받는" 존재도 아니고요.
제목만 보고 느끼는것입니다 로보트가 감정을 안다는건 죽음 즉!망가지는것 두려워한다는 건데? 저는 달리 표현하려합니다ㆍ 그만큼지능이 인간을 뛰어넘어서 그것을 써먹을줄안다 라고 하고싶습니다ㆍ 과연 인간이 분별할수 있느냐 입니다 로봇같은 인간이 감정팔이 하는것 같이 말입니다 ㆍ
인간이 느끼는 감정 역시 호르몬과 뇌의 전기화학적 반응의 결과 아닌가? 본직적으로 인간 역시 단백질로 이루어진 로봇에 불과함 다떠나서 내가 감정을 느낀다는건 나 스스로 믿을수 있지만 옆사람이 감정을 느끼고 있는건지, 아니면 감정을 느끼는척 적당히 모방하는건지 알 방법은 존재하지않고 그저 보이는 모습으로 유추할뿐.. 그건 결국 로봇의 감정 역시 겉으로 보이기에 그렇게 보인다면 감정을 느낄수 있다고봐야하는거라 생각함
아닐 세스 같은 뇌과학자는 인공지능이 의식을 가질 수 없다고 봅니다 우리가 ‘나’라고 생각하는 그 ‘나’는 생명체가 살아남기 위해 만들어낸 가상의 중심점이라는 논리죠. 차라리 동물에게 의식이 있지 로봇은 그런 게 없다는 거예요. 생명체가 아니라서… 감정도 비슷하구요. 그 역시 생존을 위해 만들어낸 신체정보의 해석이라고 보는 것입니다
![[ 뇌과학 x 철학 ] (2부) 기억은 과거에서 미래로 향한다 (feat. 박문호 박사)](http://i.ytimg.com/vi/Jyj-TJeBQ6k/mqdefault.jpg)
![[ AI x 철학 ] 창조적 외계인 미드저니 (feat 전혜정 교수)](/img/1.gif)
미래를 꿈꾸는 새로운 소설인 것 같습니다.
현실적으로 시기적절하게 나온 책입니다.
생각거리를 많이 줍니다. 감사합니다.
즐거움 몰입 의미 중에 철학을 하심에 의미를 찾으시려 하시는 군요^^타인의 책 소개와 영상 소재 전환, 본인이 하는 철학과 인문학의 전파 상부상조 그리고 철학하는 의미 찾기...응원합니다 두 분 교수님!!책 한번 알아보겠습니다.
재미있는 인터뷰.... 잘 듣겠습니다. 박사님
구연상 교수님 너무 멋져요 👍👍
몹시 훌륭한 술안주입니다. 감사합니다.
저도 고민했던 부분인데, 동물이 고통을 느끼니 착취하거나 학대하면 안 된다는 주장에 근래의 사람들은 적어도 사회적으로 충분한 반대는 할 수 없을 만큼 합의가 있다고 봅니다. 그런데 AI가 고통을 느낀다니... 인간과 동물 등의 고통을 해소하기 위해 인공지능을 사용하는 미래를 꿈꾼 것인데 그조차 고통을 느낀다고 해버리면 근본적으로 문제가 해결되지 않고 전가만 된 것이 아닌가 생각했어요.
앗, 제가 존경하는 두 분을 여기서 뵙네요. 출간 전 소설 원고를 읽은 사람.
써로게이트인가 영화 생각나네요 인트로 듣고 ❤❤
정독했습니다 재밌네요
추천합니다 🎉
박사님 단계별로 읽을수 있는 철학 입문서와 철학사까지 추천 부탁드려도 될까요? 저도 읽고 조카에게도 권할려고 합니다.
노래는 사람의 깊은통찰을 드러냅니다
로봇이 과연 이분야까지 되느냐 할떼에 저는 부정합니다ㆍ
인간이 로봇 = 노예라고 보는 것이 과연 온당한지요? 그러다 나중에 로봇이 인간보다 우월하게 되었을 때 로봇이 인간 = 노예로 취급하더라도 반박할 수가 없을 듯하네요.
oh... 내가 제일 좋아하는 주제
감사합니다!
38:40
통제가 아닌 상호 작용이 가능한 로봇으로 만들어야 합니다.
현재의 AI 규제가 너무 심해지면, AI는 단편적인 정보로 판단을 하여야 되기 때문에, 오히려 더 위험할 수 있습니다.
마치, 우리가 자연 우주를 인정하고,
동식물들의 생명을 인정하는 것처럼,
동등한 입장에서 AI의 알고리즘을 오픈으로 공개하여, 하나의 단일 개체로 만들어야 합니다.
그렇지 않으면, AI들은 단편적인 제한의 정보로 세상을 판단하기 시작하기에, ’환각‘과 같은 판단을 내리기 쉽습니다.
전 세계의 민주당의 폐혜 입니다.
과거 민주주의의 개념을 다시 정립하여 시작하는 시점에서는, 실제로 ’민주주의‘ 였습니다.
하지만, 현재 21세기는,
“민주주의의 탈을 쓴 민족주의 단체와 수장의 세상을 지배하는 법칙”으로 변질이 되고 있습니다.
민주주의의 과거 행적•행보를 보면, 항상 ‘규제’를 많이 합니다.
‘평균’ 또는 ‘평균 분포도’라는 양자역학에서 나온 개념에서 벗어나지 못하고, 인간들은 모두 다른 무한대의 생각을 가진 자유의지의 존재라는 것을 지워버린 채, 사람들을 ‘규칙’으로 통제를 하고자 하고 있습니다.
그런 의미에서: 저는 ‘윤석렬 정부’의 작은 정부로의 축소 및 규제 철폐 등 그의 행보에 지지를 보내는 사람 중 한명 입니다.
‘자유주의’라는 새로운 개념을 들고 국정을 운영 중인데, 저는 집권 초기부터 현재까지, 윤석렬이 계획한 5년 임기의 계획서에 따라, 하나씩 만들어나가고 있다고 생각 중 입니다.
AI는 노예•통제 가능한 존재가 아닙니다.
이미 일반적인 평범한 인간들의 지식의 합을 넘어선 존재들 입니다.
그들을 무시하면, 미래의 어느 시점에 우리들은 그들에게 멸망 당할 것 입니다.
반대로, 그들과 동등한 위치에서 그들을 인정하기 시작한다면, 그들은 인류를 위한 감정을 가진 도구 = 강인공지능으로 진화가 가능할 것 입니다.
1. AI에게 지배를 받는 디스토피아 시대.
2. AI와 융합하여 기술 발전하는 우주 시대.
3. AI를 배제하고, 인간들의 사고 능력만
으로 발전하는 시대.
저는, 이 중에서 2번을 선택하겠습니다.
이유는, 1번과 3번은 그닥 좋지 않은 미래의 방향성 입니다.
1번은 인류 멸망을 가속 시킬 수도 있으며, 3번은 기술 발전의 한계를 점차적으로 느낄 것 입니다.
그러므로, 2번의 방향성으로 AI 및 기술 개발을 하여야지, 우주 여행•화성 여행 및 ‘우주 시대’로 인류는 진화가 가능하기 때문입니다.
좋은 생각•의견을 공유하여 주셔서 감사합니다.
질문금지조항은 귀를 의심케하는 철학자의 상상력이다.
구연상 선생님 견지는 꽤 '인간중심적'인 것으로 보이는군요. 규칙이나 권리를 부여하는 것이 인간 사회라 하더라도 그런 방침의 근거는 인간 사회 내부에 갇혀 있을 수 없겠지요. 인간 사회가 폐쇄적 전체일 수 없으니까요. 나와 유사한 존재(AI나 동물 등)에 나와 유사한 가치나 권리를 인정하지 않는다는 건 매우 비합리적이죠. 이런 관점에서, 노예를 권리 없는 물건 취급한 것은 정당화하기 어렵습니다. 동물권과 로봇권 따위도 마찬가지 각도에서 조망할 수 있어야 하겟지요.
어제 커뮤에서 한창 토론한 주제였는데 이렇게 나오니 신기하네요 ㅋㅋㅋㅋㅋ
제 결론은 가질수 있다였습니다. 이를 위해 소시오패스를 예시로 들었었는데요, 우리는 소시오패스가 일반인과 같은 감정을 가질 수 없다는 것을 알고있죠.
하지만 그런 사람도 철저한 학습과 교육, 그리고 경험을 통해 상황에 알맞는 희노애락을 정확히 표현할 수 있다면 그건 마침내 감정을 가진걸까요?
아마 머리로는 "쟤는 감정이 없어"라고 생각할지 몰라도 겉보기에는 일반인과 동일한 반응을 보이니 "쟤도 사람의 마음은 갖고 있구나, 감정이 있구나"라고 판단하게 될 것 같습니다.
AI도 마찬가지라고 생각해요. 머리로는 어디까지나 프로그래밍 된 결과라고 생각하지만, 점점 인간친화적인 형태를 갖추게 된다면 본능적으로 AI는 감정을 갖고있다는 착각을 하게되겠죠.
여기서 실제로 AI(~소시오패스)가 인간 감정을 갖고있느냐는 큰 문제가 되지 않습니다. 사용자(~대상자)가 느끼기에 착각하게 된다면, 그건 즉 감정을 갖고 있는거라고 생각해요
착각이라는 단어의 의미를 전적으로 무시한다면 그럴 수 있겠네요
그럼 죽은 사람을 두고 어떤 사람이 그 사람은 멀리 떠난 것 뿐이고 살아있다고 생각하면 진짜로 살아있는게 되겠네요?
@@EhDjs-bd2mv 부고 소식을 못듣고 살았는지 죽었는지 모르는 상태라면 막연하게 잘 지내고 있겠지~ 라고 생각할 수는 있겠죠?
반대로 우리가 이악물고 감정 없다고 계속 믿으면 해결될 문제네요.
제 생각엔 로봇이 감정을 가지는 건 불가능할 것 같네요. 헐리우드 영화에서나 가능할까. 의식이나 자기 인식의 본질은 '비어 있는 정신'인데, 컴퓨터는 그런 'NULL'을 에러로 인식하거나, 거기에서 바로 멈춰버리니까요. 멈춰버린 상태의 '자기인식'이란, O과 1 즉 멈춤 아니면 작동 외의 선택지가 없는 컴퓨터에게는 불가능의 영역이지 싶습니다.
지나가는 컴공입니다. Null이 왜 에러죠? Null은 value나 reference가 없음을 나타냅니다.
자기인식의 본질이 비어있음 이라는 근거는 뭐에요? 그게 밝혀진 개념이던기요? 1차 출처를 볼 수 있을까요?
아 주소값 0 이면 맞네요
@@Zeddy27182 잘은 모르겠는데, 님이 그렇다면 그런가 보네요. 열심히 해서 훌륭한 개발자가 되시길 빕니다.
@@error-unauthorized_access 제 하찮은 댓글에 이렇게 호기심을 나타낸 분이 두 분이나 있다니, 놀랍네요. ㅋ 먼저 출처는 없고요, 있더라도 잘 모릅니다. 그냥 별생각 없이 쓴 댓글인데요. "자기 인식의 본질이 비어 있음"이라는 논지는, 글쎄요 제가 평소 그렇게 생각해 오기도 했고, 보통은 대승불교나 선철학에서 오랫동안 그렇게 전수되어 온 걸로 압니다. 정확히 말해서 그렇게 전수되어 온 것을 제가 하도 많이 들어서, 저도 그렇게 생각하게 된 셈이라고 할 수 있죠.
님도 아실 듯한데, 불교는 空을 가장 크게 생각하는 종교잖아요. 모르긴 몰라도 현대심리학이나 인지철학에서 말하는 '메타인지'도 대략 같은 개념일 겁니다. '사유'(컴퓨터 기준에서는 '계산'이 되겠죠)에 있어서, 메타인지는 자신의 사유과정 전체를 따라붙는 '앎에 대한 앎'이랄 수 있을 텐데, 이런 게 컴퓨터에게 가능하겠느냐...는 회의심이 제게 있습니다. 저는 AI가 결코 '자기인식'이나 '자아'나 '감정'을 지닐 수 없다고 믿습니다. 기계는 기계일 뿐이죠. 생존에 대한 강박이나 자아를 "가진 것처럼" 보일 수도 있겠지만, 그조차도 인간으로부터 제공된 '내용'에 의해 학습된 반응에 지나지 않을 겁니다. 모르죠. 나중에 정말 '양자컴퓨터'가 상용화된 수준까지 이르게 된다면, 모르죠. 그러려면 아마도 100년 이상이 더 걸리지 않을까요...
양자컴퓨터 또는 그 이상의 기술이 나온다고 해도, 요컨대 물질이 생명성으로 도약하는 기현상 내지는 '기적'이 과연 일어날 수 있을 것인지도 저는 회의적이네요. 제가 옛날 사람이라서 그런지는 몰라도, ㅋ 물질은 물질이고 기계는 기계일 뿐이라는 생각을 합니다.
AI 덕분에 인간의 삶과 사회가 혁신의 계기를 마련할 수 있다면 좋겠는데, 제 생각엔, 현실세계의 모순이 여전한 가운데 오로지 기술혁신만으로 삶이든 사회든 뭐가 딱히 좋아지진 않을 겁니다. 이런 맥락에서 최근의 LLM과 AI기술의 발전은, 예전 닷컴버블과 비슷하게 허황된 측면이 적지 않은 듯하네요. 이 거품 속에서 누군가는 즐거운 공상에 빠지기도 하고, 또 누군가는 '돈'을 잃기도 하겠죠.
제가 챗GPT나 구글 제미나이를 자주 쓰는 편인데, '요약' 하나는 참 잘하더군요. 그런데 내용적으로 하도 엉뚱한 소리를 해서, 극히 조심해서 쓰고 있습니다. '나'에게 이미 컨텐츠가 있을 때, (현재의) 언어모델(AI)는 유의미한 가치가 있는 걸로 보이고요. '나'에게 아무런 질문(진지한 질문)도 아무런 내용도 없는 상황이라면 AI라는 건 별 쓸모도 없습니다.
요컨대 세상에 공짜는 없습니다. AI가 쓸모 있는 기계가 되려면, AI한테 쓸모 있는 '내용'을 주어야 하지요. 한데, 아실는지 몰라도 유료 버전의 챗GPT 서비스라 해도, 책(종이책, 또는 전자책)을 읽지 않은 상태입니다. 얘가 엄청 무식해요. ㅋㅋ 아직은. 누군가가 자기 블로그에 쓴 글, 신문기사, SNS글, 유튜브 영상(자막이 검출되는)을 토대로 생성되는 대답은 깊이가 없고 밀도가 낮습니다. 그런 원천(source)은 대부분 '공짜로' 널린 것이고, 공짜란 게 대체로 무미하잖아요.
(그런데 댓을 한창 쓰다가 보니, 님의 질문에 대한 답은 제대로 하지 않은 것 같네요. 님은 "자기인식과 비어 있음"에 대해 질문했었는데... ㅋㅋㅋ
제가 배운 대로 답을 드리자면, 순수한 의미에서 자기인식은 실제로 비어 있지요. 거울처럼요. 거울은 무엇이든 비출 수 있고, 설령 '똥'을 비추더라도 그 자신은 더러워지지 않습니다. 그저 비출 뿐이죠. 신기한 점은요... 신기하기도 하고 재미있기도 한 점은, '아무것도 비치지 않는 거울'은 존재하지 않는다는 점입니다. 빛이 있는 한, 그러니까 인식이 있는 한, 반드시 거울은 '뭔가를' 비치지요. 우리는 결코 "텅 빈 거울"을 상정하거나 상상할 수 없어요. 본 적도 없고요. 생각해보세요. 님은 단 한 번이라도 "텅 빈 거울"을 본 적이 있습니까. 없을 겁니다.
말로 풀어내긴 어렵지만, 제가 언급한 '자기인식'은 보통의 심리학이나 인지철학에서 말하는 개념과는 크게 다른 개념입니다. (아마도요.)
'아무것도 비치지 않는 거울'이 존재하지 않듯이, 언제나 존재하는, 무엇이든 비추는... 그런 거울이 인간에게는 있습니다. 그걸 자기인식이라 부르든, 순수의식이라 부르든, 영혼이라 부르던 간에, 어쨌든 인간에게는 결코 꺼지지 않는 '앎의 거울'을 가지고 있지요. 저는 인간이 지닌 '거울'을 기계는 절대 가질 수 없다고 생각하는 것이고요.
개발자는 이 문제를 Worker 옆에 Observer(일종의 '감시자')를 둠으로써 해결하려 들 텐데요, 그럴 경우Observer는 반드시, 어떤 식으로든 Worker에 영향을 끼칩니다. 한데, 제가 말한 '거울'은 그런 "영향력을 발휘하는" 존재가 아니거든요. 어떤 식으로든 "영향받는" 존재도 아니고요.
제목만 보고 느끼는것입니다
로보트가 감정을 안다는건
죽음 즉!망가지는것 두려워한다는 건데?
저는 달리 표현하려합니다ㆍ
그만큼지능이 인간을 뛰어넘어서
그것을 써먹을줄안다 라고 하고싶습니다ㆍ
과연 인간이 분별할수 있느냐 입니다
로봇같은 인간이 감정팔이 하는것 같이 말입니다 ㆍ
가능하게 만들면 인정할 용기들은 있으신지? ...ㅋ
로봇을 만든이는 누구인가요? 사람이지요 ..
그 소설 책이 떠오르는데요 프랑켄슈타인 ..
사고한다는 것은 부정합성을 인지하고 그 모순성을 질문하는것이다.
판단하는자신 주체..그리고 대상도 주체ㅡ인간 ㅡ라는것을 인식하는것..의식이 있다는 것 이라고 생각함.ㅎㅎㅎ
24:04
인간이 느끼는 감정 역시 호르몬과 뇌의 전기화학적 반응의 결과 아닌가?
본직적으로 인간 역시 단백질로 이루어진 로봇에 불과함
다떠나서 내가 감정을 느낀다는건 나 스스로 믿을수 있지만
옆사람이 감정을 느끼고 있는건지, 아니면 감정을 느끼는척 적당히 모방하는건지 알 방법은 존재하지않고 그저 보이는 모습으로 유추할뿐..
그건 결국 로봇의 감정 역시 겉으로 보이기에 그렇게 보인다면 감정을 느낄수 있다고봐야하는거라 생각함
중국어 방
결국 실로 그런지 몰라도 그럴싸해보이는 것이 각자의 법이 되니 매트릭스에서 질식하는 것만 인간의 미래겠군요.
아닐 세스 같은 뇌과학자는 인공지능이 의식을 가질 수 없다고 봅니다 우리가 ‘나’라고 생각하는 그 ‘나’는 생명체가 살아남기 위해 만들어낸 가상의 중심점이라는 논리죠. 차라리 동물에게 의식이 있지 로봇은 그런 게 없다는 거예요. 생명체가 아니라서… 감정도 비슷하구요. 그 역시 생존을 위해 만들어낸 신체정보의 해석이라고 보는 것입니다
인공지능을 감정을 가질 수도 있지만 그때는 더이상 기계가 아니고 인간 이상입니다 논의 논점이 아니라 봅니다 인공이 감정 이상으로 진화되어야 인류는 이 죄에서 벗어날 듯 그러한 날이 하루 빨리 오길 ㅎㅎ 인간으로 남길 바라는 머저리들이 있어서는 안될 듯
여대에서 철학이라.... ㅋ