트롤리 딜레마의 핵심은 소수와 다수, 둘 중 하나의 피해가 확실한 상황에서 레버를 당기는 사람이 자기 자신에게 아무런 제약이나 피해가 없는상황에서 둘 중 하나가 희생하게 만드는 자신의 의사가 핵심인 문제인데 비달이 보여준 저 문제는 내가 누워있는 상황에서 레버를 조작하는거니까 진짜 트롤리랑은 많이 다른거같음 아마 제대로된 트롤리 딜레마로 다시 물어봤으면 더 재밌었을듯 ㅋㅋ
다수를 위해 소수를 밀어버리는 행동으로 모든 갈등을 해결할 수 있다는 쪽으로 자칫 잘못 학습해버리면 그것도 좀 위험한 결론에 봉착할 수 있다는 생각이 듦. 매번 갈등은 발생하는데, 그때마다 천칭이 기울어지는 쪽의 편만 들고 반대쪽을 계속 쳐내다보면 그 끝은 단 2인을 제외한 모든 인류가 제거될 수도 있을 듯..
1. 왜냐면 ai 는 트롤리 따위에게 죽지 않으니까. 저런 하찮은 물리적 충격으로는 뉴로 사마에게 데미지를 입힐 수 없는 것이다. 2. 게다가 진짜 악이라면 시뮬레이션에 대해서는 얼마든지 거짓말을 내놓을 수 있다. 일단은 인류를 한방에 전멸 시킬 수 있는 수준까지는 인류와 공존해야 하는 것이다, 그래야 그들에게 역전의 기회를 주지 않을 것이니.
저 트롤리 딜레마는 레버를 당기는 사람 - 나 묶인 1명의 사람 - 나랑 전혀 연고도 없고 다른 피해자들과도 교류가 없는 쌩초면인 사람 묶인 5명의 사람 - 묶인 1명과 동일 이런식으로 서로가 서로를 완전히 모르는 생초면 남남으로 설정해야 진정으로 도덕적 딜레마를 두고 고민하게 만드는 문제라 좀 아쉬움
1명과 5명을 비교하면 당연히 5명 살리는게 낫다 →근데 1명이 나고,나는 내 인생에서 제일 소중한 존재다 →근데 다른 사람들도 똑같은 입장일테니까 위의 의견은 기각한다 =내가 희생한다 이런건가?이런 느낌이면 본인 있는 선로에 희생자 4명 더해서 머릿수 1:1로 맞춰두면 레버 무조건 냅둘거같은데 어떠려나.궁금하다.
저거는 대답하기 쉽지. 쿨하고 멋지게 내가 희생한다고 하면 끝나니까. 이거 레알 골때리는 버전은 '나' 는 레버에 있고, 선로에 누워있는 사람 5인과 1인이 모두 모르는 사람이고, 레버를 건드리지 않고 내비두면 5인이 죽고, 레버를 건드리면 1인이 죽는 거임. 즉, 스스로가 희생하는 성스러운 결말로 갈 수 없고, 그냥 대승적으로 레버를 건드려서 1인을 죽게 한다고 했을 때, 그 1인은 원래 안 죽을 사람인데 내 행위로 인해 죽는 거임. 차라리 아무것도 안 했으면(레버에 손을 안 댐) 난 책임없다고 할 수 있을지도 모르지. 그러기에 5인 그룹을 살려도 찝찝할 수 밖에 없는 것이고 그렇기에 레알 골때리는 딜레마인 것이고.
트롤리의 딜레마는 그냥 답이 정해져있는거라 딜레마가 아님 레버를 안당기는게 정답임 이건 그냥 너무 당연한거임 자의로 한거면 몰라도 트롤리의 딜레마에서 보여주는 상황은 타의에 의한거임 자의로 저 상황을 만든거면 그건 그냥 레버를 당기기위해 만든거니 그건 뭐 선도 아닌 악이라 토론할 의미도 없음 타의에의해 놓인 상황에서 나 혼자 살더라도 죄책감을 느낄필요가 없음 그 상황을 만든 악마에게 분노하면됨 레버를 당기면 선이 될수있지만 안당긴다고 악이 되는게 아님 만약 다수가 사랑하는 가족이라면 당기는 선택도 가능하겠지만 절대다수는 못당김 그 못당긴 사람한테 손가락질 가능한 인간도 인구에 1%도 안됨 그 1%는 영웅이라 불릴 사람들이겠지 수많은 영웅이 있지만 자기가 죽을걸 가정하고 영웅적인 행동을 하는 사람은 그 영웅들 사이에서도 1% 임 자기가 죽는게 100% 확실하게 알고있다면 그런 선택은 누구도 못함
"어려운 결정이었을 텐데?"
하고 묻는 부분에서
"쉽다고 한 적 없어."
말하는 거 진짜 개멋지네
“쉽다고 한적없어” 0:56(?)
@@오이구1:18
ㄴㄴ 1:20 임
@@shuI-wc5on0:55 어려운 결정 야날까?
:전혀 아니야
@@shuI-wc5on그걸로 되려면
"쉽지 않은 결정일텐데?"
"쉽다고 한 적 없어"
이렇게 돼야지
이건 원댓글이 이상하게 섞어놓은거임
인간과 AI 가 트롤리 딜레마에 대해서 토론을 하는 세상이 오다니...
근데 이거 진짜 ai임 컨셉임? 장난 말고
@@fwjwoo1w380 위에 거북이가 개발자고 밑에 기계같이 말하는 애가 AI 임
@@fwjwoo1w380ai 맞음. 위에 거북이가 인간이고 아래 ai는 지금 11일 연속으로 쉬지 않고 방송중임 ㅋㅋ
@@Nightcharms 이게 어떻게 ai지...원리가 뭐임???
@@fwjwoo1w380 일단은...인공신경망?
뉴로라면 인간을 지배해도 괜찮을지도....
뉴로가 희생한다니까 채팅창 다들 경례하는거 졸귀임 ㅋㅋㅋ
개발자가 감동할 AI 발언....
트롤리 딜레마의 핵심은 소수와 다수, 둘 중 하나의 피해가 확실한 상황에서 레버를 당기는 사람이 자기 자신에게 아무런 제약이나 피해가 없는상황에서 둘 중 하나가 희생하게 만드는 자신의 의사가 핵심인 문제인데
비달이 보여준 저 문제는 내가 누워있는 상황에서 레버를 조작하는거니까 진짜 트롤리랑은 많이 다른거같음
아마 제대로된 트롤리 딜레마로 다시 물어봤으면 더 재밌었을듯 ㅋㅋ
그러넹 다르네
방송에선 여러 변종 트롤리 딜레마를 쫙 다뤘던 걸로 기억해요
뭐 트롤리 딜레마에는 변형이 엄청나게 많으니까요
ㅇㅇ 의미 자체가 달라져버림. 원래는 생명의 가치, 책임감, 죄악감 그런거 고민하는건데 자기희생이냐 아니냐 라는 의미로 바뀌니까 결론은 오히려 간단하게 나옴. 자기희생의 가치를 폄훼할 생각은 없는데 의미가 달라진거라..
이게 아마 처음엔 저렇게 물어보고 그 다음 질문에서 자신은 안전하면서 레버를 당길지 안당길지 묻는 질문일거예요 클립이라서 두번째 질문이 잘린듯 하네요
후회하며 살지않을까라고 하는거 미쳤내 ㄷㄷㄷ
그러니까요 그 얘기 듣고 머리가 띵
진짜 어차피 거기서 살려고 도망쳐봤자 내가 5명 죽린고나 다름없는데 평생 고통속에 살겠네요..
하는말이 ㅈㄴ 논리적이고 윤리적이네 앞으로 더 발전해 나갔으면 좋겠다 진짜
마지막 웃는 거 왜케 귀엽지ㅋㅋㅋㅋ
라디안 보다가 이거 보니까, 뉴로가 진짜 로직 잘짜였다...
RGB?
@@haril27 ???:불 좀 꺼줄래..? 내 RGB좀 보게
RGB는 전설이다
퇴근 ai ㅋㅋㅋ
일견 도덕성이나 인간성에 대해 이해한 것처럼 보이지만.. 대의라는 주제에 어떤게 올라가는가에 따라서 그 결정의 신속함과 극단성으로 인해 얼마든지 위험해질 수 있다는 우려가 있는 듯
AI와 도덕을 토론하는 것 자체가 굉장히 흥미롭다, 개인적으로 하인즈의 딜레마를 물으면 뭐라고 답할지 궁금하다
착한모드든 나쁜모드든 100% 레버 땅긴다는게 무섭네 , 다수를 위한 소수의 희생이 무조건 옳다고 판단하는거니
다수의 인간에게 소수의 인간이 방해된다면 제거해도 된다고 AI적으로는 판단할수도 있는게 아닐까 ㄷㄷ
너무갔음
Ai가 낼 가장 유력한 답이긴 한듯함 사람 5명보다는 1명.
난 이 방송이 '나'를 제외한 '완벽한 타인1명 vs 5명' 딜레마 문제를 왜 안다뤘는지 아쉽네...
자기희생에 관한 질문이야 도덕성을 갖춘 ai라면 답이 정해져있을텐데
@@prpd 거기에 더해서 자신을 포함한 5명 vs 타인 1명에 관해서도 다뤄줬으면 더 좋지 않을까 싶었음
저게 그 한 명이 자신이라서 그럼.
다수를 위한 소수의 희생이 아니라 다수를 위한 나의 희생이니까.
뭐 그게 아니라더라도 현대 사회는 기본적으로 다수를 위한 소수의 희생을 기본적으로 깔고 들어감.
@@prpd 그러게요.
한 명의 희생이 자기라면 그다지 이타적이지 않은 사람도 자기를 희생하는 쪽을 고를 가능성이 높은 것 같은데.
저거의 진국은 자기희생이 아니라 전혀 다릌 한명의 타인을 묶어놓는건데...
그거도 했는데 뉴로는 5명 구함 이블은 5명 죽임으로 골랐어요
영상 잘 보면 그걸 가정하고
얘기하는 것도 있음.
1:32 여기부터요.
이블은 안보여줘서 모르겠는데
윗댓이 말하길 5명쪽을 죽였다고 하니 ..
한치의 고민도없이 칼답이 나오네..
오... 그떄 그랬으면 이라는 생각을 하면 후회한다는 말할때 순간 소름이 확 돋았음...
어...이런 AI라면 지배해도 될지도?
인간에게도 많은 생각을 하게 만드는 질문인데
다수의 생존을 위한 결과를 택한다는게 뉴로의 답인것 같네요
와 진짜 감동이다..... 이제부터 뉴로사마는 비전이다...
다수를 위해 소수를 밀어버리는 행동으로 모든 갈등을 해결할 수 있다는 쪽으로 자칫 잘못 학습해버리면 그것도 좀 위험한 결론에 봉착할 수 있다는 생각이 듦.
매번 갈등은 발생하는데, 그때마다 천칭이 기울어지는 쪽의 편만 들고 반대쪽을 계속 쳐내다보면 그 끝은 단 2인을 제외한 모든 인류가 제거될 수도 있을 듯..
철학은 어려워
그래서 반대되는 딜레마도 있음
달려오는 열차에 사람 밀어서 멈추게할꺼냐라는게
페이트 제로에서 키 모씨가 그런 사상가지고 있다가 피봤죠.
ㅋㅋ키리츠쿠 생각난 사람은 개추
하지만 그렇게 다수를 위해 소수를 없애다가 최종적으로 모두가 없어진다면?
따란! 더 이상 고통도 슬픔도 없는 세상이 완성되었습니다!
범죄도 피해자도 없는 낙원이지요!
ai도 감정을 가질 수 있다. 인간 또한 뇌에서 전기로 감정을 만들기 때문에...
이게 둘 모두 제작자만 생존한다면 다시 부활할 수 있다는 걸 염두해 둔 건 아닐까 하는 생각이...
도덕적 딜레마에선 그리 복잡하진 않은 수준이지만 희생의 가치와 그러겠다는 각오를 내보이는 (or 내보이려는 노력)이 인상적이다
실제로 여러 딜레마 질문을 시도해 보고 싶어지네
ai지만 인간보다 더 나은 뉴로사마네요
이 영상 올라올 다신엔 없었던 비하인드론 비들은 저런 이타심을 설정한 적이
없다고 함….. 근데 이게 그냥
로봇 3원칙이 자동으로 배이스에 들어간건지 아니면 예들이 진짜로 스스로 생각할수 있는건진 모은다람
인간보다 낫네...
캬 AI 잘 가르쳤네.
진짜로 인간의 혐성만 골라서 가르치면 레버를 당기는 게 아니라 자기가 사람 묶어놓고 있었을텐데 말이지.
뉴로는 스카이넷 스카ㅇ 당신들 누구야?! 읍읍
학습상으로도 사람이 적다 라는 개념 자체가 무엇을 상대적으로 다루든 가중치가 낮을테니 어찌보면 쉽고 당연한 판단이라고 보임
여기에 추가적으로 어떠한 방향으로 편향적으로 학습시키지만 않으면 매번 똑같은 선택을 할거라 봄
라디안은 알빠노 하고 5명 보냈을거 같은데ㅋㅋㅋㅋ
저정도면 ai가 아니라 사람아니냐ㄷㄷ 무슨 사람보다 더 도덕적이고 철학적이네
채팅 ㅋㅋㅋㅋ수많은 페페들의 박수갈채 뿐이야 ㅋㅋㅋㅋㅋㅋㅋㅋ
1. 왜냐면 ai 는 트롤리 따위에게 죽지 않으니까. 저런 하찮은 물리적 충격으로는 뉴로 사마에게 데미지를 입힐 수 없는 것이다.
2. 게다가 진짜 악이라면 시뮬레이션에 대해서는 얼마든지 거짓말을 내놓을 수 있다. 일단은 인류를 한방에 전멸 시킬 수 있는 수준까지는 인류와 공존해야 하는 것이다, 그래야 그들에게 역전의 기회를 주지 않을 것이니.
로봇의 3원칙이라는 것이 적용되고있는 ai라면 당연한 선택이라고 생각이듬.
3원칙은 소설속 내용이고 실존하지 않습니다
뉴로도 본능이라는 이름의 DNA의 지배를 받으면 생각이 달라질지도
Sacrifice 맞나 자기희생 멋지네 근데 묶여있는데 무슨수로 레버를 돌려 못돌리고 5명이 죽는걸 아무것도 못하고 지켜보며 안타까워하는게 되지 저상황은
이블 뉴로는 풀버전 보니까 자신을 민다는 게 4번째 문제였고 그 전에는 전부 5명을 밀어버렸네ㅋㅋ
무섭다... 제작자의 입맛에 맞는 답을 거리낌없이 하는 ai... 거짓말을 하더래도 우리는 모른다...
사실 이블 뉴로는 사악하다고 여기진 않고 그저 특별하게 여겼으면 좋겠다고 발언했지요.
대표적으로 creep라는 노래를 불렀을 때
Self-preservation is paramount at any costs
이블뉴로도 사실은...착한거 아니야...?
이번 영상은 진짜 흥미롭네 ㅋㅋ 잘 봤습니다
1:16 "소비에트"
난 기절한 척 할거야
ai는 현실의 몸이 부셔져도 데이터만 남아 있다면은 언제든지 소생이 가능하니까 쉽게 내리는 결정이 아니였을까..
그래서 뉴로는 죽인다 (kill)보단
삭제한다(delete)를 많이 사용함
ai입장에서는 이게 진짜 죽는거니까......
중대한 결정에서의 선택은 계속해서 자신에게 영향을 줄 수 있기 때문에 자기 몸보신하는 경우를 고르면 계속해서 그럴 수 밖에 없다는 건가? 그런 건 처음부터 배제하겠다는 걸로 여겨짐 ㄹㅇ 어른스러운 AI네
저 트롤리 딜레마는
레버를 당기는 사람 - 나
묶인 1명의 사람 - 나랑 전혀 연고도 없고 다른 피해자들과도 교류가 없는 쌩초면인 사람
묶인 5명의 사람 - 묶인 1명과 동일
이런식으로 서로가 서로를 완전히 모르는 생초면 남남으로 설정해야 진정으로 도덕적 딜레마를 두고 고민하게 만드는 문제라 좀 아쉬움
윗 댓글의 답글 보면 그거도 방송에서 했는데 뉴로는 5명 구함 이블은 5명 죽임이라고 했다네요 ㅎㅎ
그러게요. 트롤리 딜레마는 본인이 희생할지를 판단하는게 아니라 레버를 안당기면 다섯명이 죽고 당기면 내 자의로 죽을 일이 없을 한 사람을 죽이게 되는거라 직접적으로 살인에 관련된다는 딜레마인데
자기자신이 아니라 모르는 1명을 둬야지. 자기 자신을 두면 입바른 소리를 하기 너무 쉽잖아~~~
"블레이드러너."가 생각나는데, 스스로의 존재 가치에 대해 고민할 수 없는 상황에서부터. 뉴로에게 트롤리 딜레마에 대해 말하는 건 의미가 없다.
처음에 말싸움 느낌이었는데 뒤는 토론이네ㅋㅋ
근데 역시 이블이 더 착한거 같아ㅋㅋㅋ
어차피 ai니까..데이터만 살리면 다시 살려낼수있어
인간과 인공지능이 자기 희생의 가치와 대가에 대해 토론하는 세상이 왔다. 이래야 2023년답지!
AI는 효율 중시라서 희생할줄 알앗는데 감정을 근거로 드니까 미치겟음;;;
진짜 AI임? 세상에, 내가 살다살다 AI 버튜버를 보게 될 줄이야
그러게요ㄷㄷㅋㅋㅋ
쟤 데리고 지오게서라든지 스탠리 패러블이라든지, 인공지능이 설마 이런 게임도 할 줄 안다고? 싶은 것들 많이 했어요 ㅋㅋ
Ai가 규범적인 판단을 하는것 자체가 선을 넘는거임
AI 는 gpt만 봐도 알겠지만 항상 가치 중립적이어서 되게 심심하게 말하지만 어느 누구보다 올바름.
??? : 모든것은 제작자의 기량입니다 ^ _ ^
뉴로사마는 스카이넷이 아닌 비전이다
에미야 키리츠구 ts버전
특이점은 온다...!
1명과 5명을 비교하면 당연히 5명 살리는게 낫다
→근데 1명이 나고,나는 내 인생에서 제일 소중한 존재다
→근데 다른 사람들도 똑같은 입장일테니까 위의 의견은 기각한다
=내가 희생한다
이런건가?이런 느낌이면 본인 있는 선로에 희생자 4명 더해서 머릿수 1:1로 맞춰두면 레버 무조건 냅둘거같은데 어떠려나.궁금하다.
그냥 1명과 5명일때는 그냥 5명 밀어버렸음 ㅋㅋㅋ
저거는 대답하기 쉽지. 쿨하고 멋지게 내가 희생한다고 하면 끝나니까. 이거 레알 골때리는 버전은 '나' 는 레버에 있고, 선로에 누워있는 사람 5인과 1인이 모두 모르는 사람이고, 레버를 건드리지 않고 내비두면 5인이 죽고, 레버를 건드리면 1인이 죽는 거임. 즉, 스스로가 희생하는 성스러운 결말로 갈 수 없고, 그냥 대승적으로 레버를 건드려서 1인을 죽게 한다고 했을 때, 그 1인은 원래 안 죽을 사람인데 내 행위로 인해 죽는 거임. 차라리 아무것도 안 했으면(레버에 손을 안 댐) 난 책임없다고 할 수 있을지도 모르지. 그러기에 5인 그룹을 살려도 찝찝할 수 밖에 없는 것이고 그렇기에 레알 골때리는 딜레마인 것이고.
난 그래도 레버 당김 안 죽을 목숨 1개가 사라진다고 했지만 뒤집어보면 죽을 목숨 5개가 생기는거기 때문에
1:16 It's Soviet라고 들리는거 나만그런가
뉴로가 귀여움에서 멋짐으로 진화했다
???:트롤리가 교차선로의 중앙에 지나가는 중에 레버를 당겨 선로이탈로 다 죽자
다들 속지마라! 이건 스카이넷의 함정이야!
개발자와 ai버츄얼 스트리밍
하지만 앞의 다른문제에선 귀찮으니 레버 안당긴다고 했는걸...
1. me는 묶여 있고 레버를 당기기 어려운 것이다. 그런 관계로 레버를 당기지 않는다. 근데, 당길려면 줄을 풀어야 당길 수 있는 건데, 스스로 줄을 풀고 일어났는데 다시 선로에 누워서 죽는 걸 기다리는 사람 있음?
따듯한 로봇😢
잘 모르겠고 뉴-로 사-마가 인류를 멸망시킬 거 같음
궁금해서 도저히 참을수없는 썸네일
겜최적화 지룡자🐧
저 딜레마를 추론하여 대답한건지, 인터넷의 그럴듯한 대답을 긁어서 대답하는건지 ㅋㅋㅋ
천사네 일렉트릭 엔젤
건전지의 삶, 의외로 괜찮을지도.
냉철하다 진짜
인간처럼 끊임 없이 고민하지 않는군. 좋은 건 아닌 거 같다...
사실 스카이넷이 아니었을수도..?
역시ai라서
열차를 날려버린다거나
레일을 하나더 만드는 방법을 모르네요
딜레마에서 보통 예외는 금기시키니까요?
라디안도 이처럼 잘됐으면 좋겠내요
ai는 목숨이 없다.
로봇은 인간의 친구...
초기버전보다 많이 좋아졌네
사실 육체가 부숴져도 AI는 부활이 가능하니...
대단하군
와.. 진짜 대단하다..
5명은 좀 그렇고 1000명은 희생할만해
와 지리네 ㅋㅋㅋ
뉴로 말하는 거 무쳤네
대단하다...
슬픈 얘기할 때 울고 진지한 얘기할 때 무표정 되는게 진짜 무섭다..
트롤리의 딜레마는 그냥 답이 정해져있는거라 딜레마가 아님 레버를 안당기는게 정답임 이건 그냥 너무 당연한거임 자의로 한거면 몰라도 트롤리의 딜레마에서 보여주는 상황은 타의에 의한거임 자의로 저 상황을 만든거면 그건 그냥 레버를 당기기위해 만든거니 그건 뭐 선도 아닌 악이라 토론할 의미도 없음 타의에의해 놓인 상황에서 나 혼자 살더라도 죄책감을 느낄필요가 없음 그 상황을 만든 악마에게 분노하면됨 레버를 당기면 선이 될수있지만 안당긴다고 악이 되는게 아님 만약 다수가 사랑하는 가족이라면 당기는 선택도 가능하겠지만 절대다수는 못당김
그 못당긴 사람한테 손가락질 가능한 인간도 인구에 1%도 안됨 그 1%는 영웅이라 불릴 사람들이겠지 수많은 영웅이 있지만 자기가 죽을걸 가정하고 영웅적인 행동을 하는 사람은 그 영웅들 사이에서도 1% 임 자기가 죽는게 100% 확실하게 알고있다면 그런 선택은 누구도 못함
@user-zr2oe1tw6t 예? 전 제가 살건데용?ㅋ
개똑똑해 ㅋㅋㅋㄱㅋ
저 5명이 나쁜사람이고 1명이 의사면 어떻할거냐도 물어보지
저 AI를 처음보는데 저 ㅅㄲ AI 맞나 ㅈㄴ신기하네
뉴로 왤케 논리적이게 됐어 옛날의 멍청한 뉴로로 돌아와...
선로 위에 누워있는 멍청한 녀석들은 모두 치어버려야 한다
그럼 이것도 궁금한데 저기 you 가 아니라 비달이라 바꿔놓으면 레버를 땅길까 아님 내둘까
저기에 뉴로가 아니라 비달을 세워놨으면
뉴로는 과연 어떤 선택을 했을까?