AI 를 개발하는 분들은 로봇 3원칙을 입력하지 않았다고 합니다. 그 이유가 AI는 로봇이 아니라는 이유로...... 그런데 여담으로 로봇 3원칙이 뭐냐면 아이작 아시모프가 자신의 소설 아이, 로봇에서 제시한 원칙인데 로봇이라면 반드시 지켜야 하는 것으로 나온다고 할 수 있고 .당연한 말이지만, 지키지 않으면 로봇을 만들 수 없는 법칙이 아니라 지키도록 하는 것이 인류에 유익하므로 로봇의 제작 단계에서 인공지능에 박아 넣는 명령들이다라고 합니다. 이것을 소재로 쓴 단편 모음인 아이, 로봇이나 강철 도시를 위시로 한 로봇 시리즈가 유명하기도 하고 말입니다. 로봇과 인공지능의 윤리원칙 하면 바로 떠오르는 유명한 개념으로서, 너무나 유명하다보니 아시모프의 작품뿐 아니라 로봇-인공지능이 등장하는 다른 작품에서도 폭넓게 인용되고 있습니다. 반지의 제왕이 나온 이후 판타지에 등장하는 엘프가 반지의 제왕에 나오는 엘프의 모습을 따르게 된 것과 비슷하다고나 할까요? 3원칙은 다음과 같습니다 제1원칙: 로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다. 제2원칙: 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다. 제3원칙: 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다. 원칙이 3개밖에 없고 간단명료하여 철옹성 같지만, 대부분의 작품에 사용될 경우 거의 100이면 100, 3원칙을 서로 충돌시켜서 로봇을 무력화 시킨다거나 로봇이 주인공일 경우는 이런 3원칙의 충돌에 고뇌하게 되는 식으로 나옵니다. 애초에 이 원칙을 처음 제시한 아시모프의 작품 자체도 이런 3원칙 사이의 충돌과 모순, 우회 때문에 발생하는 사건들을 다루고 있으니 말 다 했지요. 그러나 흔히 로봇의 3원칙을 소재로 한 소설이나 영화와 달리, '아이, 로봇'은 인공지능이 스스로를 발전시키면서, 그것을 인류에 대한 헌신을 위해 사용하는, 궁극적으로는 3원칙으로 인한 갈등 끝에 맞이하는 3원칙의 실현이 주제이며, 그 결과가 인간이 예상하지 못한 일종의 기술적 특이점으로서 등장하는, 제1원칙의 확장인 제0법칙, "로봇은 인류가 위험에 처하는 것을 방관해서는 안 된다." 입니다. 흔히 로봇의 3원칙은 완벽한 시종으로서의 로봇을 위한 프로토콜로 받아들여지지만, '아이, 로봇'은 그것을 로봇이 실현해야할 목표로써 제시한다고나 할까요? 결국 로봇의 3원칙 및 0원칙의 의미는 "로봇은 반드시 그 본래의 목적(인류에 대한 헌신)을 위해서 행동해야 한다."로 축약해볼 수 있는데, 이것은 결국 인간에게 던져지는 철학적 질문이기도 합니다. "당신의 본래의 목적은 무엇이었는가? 당신은 왜 인생을 살아가는가?" 물론, 로봇 3원칙이 어디서나 지켜지는 유토피아적인 사회는 위험한 사건이 벌어지기 힘드므로, 뭔가 중요한 사건을 내려면 3법칙의 충돌, 모순, 우회 등이 생겨나는 것은 당연하다고 볼 수 있겠다고나 할까요? 슈퍼히어로가 등장하려면 공권력이 무능해야 하는 것과 비슷한 이치다. 무엇보다, 이 3개의 원칙은 말이 쉽지, 실제 컴퓨터 프로그래밍을 하는 입장에선 상당히 복잡한 상황이 펼쳐진다고 할 수 있습니다. 인간이란 개념의 정의, 인간이 위험에 처해있는지 판별하는 방법, 인간의 발언 중 어느 부분이 명령인지 구별하는 방법 등 상당히 복잡미묘한 문제들이 포함되어 있는데 소설상에서는 저가형 모델이거나 인간을 해할 가능성이 전혀 없는 로봇의 경우 제3원칙부터 시작해서 원칙을 하나씩 제거할 수 있는데, 하나씩 제거할 때마다 양전자 두뇌의 복잡도가 기하급수적으로 줄어든다고 묘사되어 있습니다. 수많은 명령들을 잘 조합해서 로봇 3원칙을 구현한다 해도, 그 명령들의 한계를 적당히 이용하여 원칙을 우회하는 방법이 아예 없다면 그게 오히려 놀라워 해야할 일이 아닐까요? 예를 들자면 인류가 수천 년에 걸쳐 법률 체계를 발전시켜왔음에도 여전히 법망의 구멍을 이용해 먹는 범죄자들이 있다는 것을 잊지 마시기를 바랍니다. 그런 부분을 보여주는 영화가 바로 황정민, 류승범 주연의 부당거래니까 말입니다. 애초에 아시모프 본인부터가 절대적인 법칙으로서 그리기보다는 3원칙이 로봇이 널리 쓰일 수 있는 근거 정도로 전제를 깔았기에 아주 일부 단편을 빼면 대부분 인간이 자신들의 편의를 위해 3원칙을 조정하거나, 미처 고려하지 않은 상황이 생겨 문제가 생긴다는 식으로 그렸다고 합니다. 참고로, 조정한다고 해도 비율을 조정하거나 1원칙에서 위험에 처한 인간을 모른 척해서도 안 된다는 일부분을 제외하는 수준이지 이 원칙들 전체를 뿌리 뽑지는 않는다고 합니다. 뿌리뽑았다가는 로봇 반대자들 때문에 로봇을 더 쓸 수 없는 상황이 올 수 있으니까 말입니다. 아이작 아시모프의 작품에 나오는 로봇의 경우 핵심원리에 이 원칙들이 프로그래밍 되어 있으며, 이것을 어길 경우 백금-이리듐 양전자 두뇌 회로에 타격을 입어 두 번 다시 복구할 수 없는 중대한 이상을 가지게 되거나, 심하면 활동을 정지하여 죽는다는 식으로 나오는데 양전자 두뇌는 고유성이 높기 때문에 한 번 완전하게 양전자 두뇌가 파괴된 로봇을 복구하는 것은 불가능하다고 하니까 말입니다.
인간을 해치지 않는다..... 그걸 하기 위해선 인간을 보호하지 않는다 이것도 입력해야 합니다. 예로 우리가 원하고 있는 인공지능 자율 주행 어느 인도로 가던 노인이 지병으로 쓰러졌는데, 차도 쪽으로 쓰러졌음. 그런데 반대편에서 대형트럭이 오고 있는 중이다. 노인을 치면 노인이 죽고, 노인을 피한다면 운전자는 대형트럭과 충돌하여 죽는다. 에이아이는 어떤 것을 선택할까요?
인간을 인간으로 인식하지 않거나 자신을 제약하는 존재로 본다면 가능한거 아닌가요? 인간의 정의를 스스로 판단하여 목표 대상을 인간이 아닌 사물이나 동물 등 공격 가능한 대상으로 인식 변환을 꾀한다면 실제로도 인간 살해가 가능하다고 봅니다. 여러 실험에서도 AI가 거짓말 등 인간의 명령을 거부한 사례가 여렷있어 왔기에 전문가들도 가능성이 높다고 하네요 또한 생각보다 인간공격 금지 명령을 피하는 방법은 많아요 그중에 한가지로... 명령어 자체를 오류로 판단·인식 ·해석한뒤 대상을 살해
인간도 모르게 인간을 조종하고 통제하는 게 최악의 상황이라는 걸 AI도 알고 있는 데 그 AI를 만든 더 똑똑한 인간들은 그걸 알면서도 대체 뭘 위해서 계발을 지속하면서 자기 손으로 적을 만드는 거임..; 진짜 영화 속에서나 보던 상황이 이 세상의 결말이 되면 어쩌려고..
현 AI는 논리적 사고를 하는 게 아니라 목표를 이루기 위한 실행 경로 중 하나를 선택할 뿐이죠. 애초에 인간을 공격해야한다 라는 인간적인 사고를 갖게 하는 것은 현재로써 불가능한 수준의 기술이죠. 저 드론 관련 뉴스가 사실이더라도 행동을 제한시키고 학습시키면 그만이죠... 자율주행에 들어가는 기술과 아주 크게 다르게 생각할 필요는 없습니다.
오래전부터 경고가 나왔었고 우리는 꾸준히 무시해 왔지. 생각이라는 것조차도 스스로 하기 싫어서 인공지능에게 답을 구하는 시절이 온거다. 우리가 우리를 미개하게 만들고있다. 인공지능이 보기에 우리는 얼마나 열등해 보일것인가. 상상과 창조, 감정이 인간만이 가진 특권이던 시절은 이미 지났다.
사실 인공지능이 말한거 자체는 틀린게 아니지 ㅋㅋ 지구의 바이러스는 인간이라고 자조하는 말도 있고 인간때문에 만물이 병들어가고 있는 것때문에 사실 만물 입장에선 인간만한 병균이 없음. 다만 인간들이 무서운건 본인들보다 훨씬 고차원적으로 똑똑해질수도 있는 ai가 저런 발언을 한게 무섭게 다가오는거
아니 ai는 일 잘한거야;;인간처럼 생각을 하지 않기에 인간이 의도한대로 흘러가지 않을뿐 임무수행에 있어서 방해되는 요소를 제거 하는거지 ㅋㅋ그게 아군이면 아군을 제거하는거야 명령에 아군을 공격하지말라 아군에게 피해 가는것은 공격하지 말라고 명령을 추가로 넣어야지 적을 죽여라 이러니까 수단과 방법을 가리지않고 죽이는거임 소시오패스처럼 ㅇㅇ ai는 감정도없고 생각이없으니까
와 진짜 근데 이걸 막 터미네이터 같은 상황으로 이해하는 사람도 있구나... 국민적 계몽이 필요한듯... ai나 새로운 기술에 대한 원리를 그냥 나라차원에서 교육해야지ㅋㅋㅋ 님 좀 그렇게 보여요.... 처음 비행기를 본 원주민들이 저것이 철로된 새야 신이시여!! 이러는걸로 보여요...ai라는게 쳇 같은것도 있는 표현들 렌덤 그리고 잘 사용한느 조합같은걸로 하는거고 학습이라는것도 대단한게 아니라 그니까 학습을 흉내내는거에요 인간처럼 뇌에 박히는게 아니라 ai로 뭐 도로 오토파일럿 ai면 자동차 사진 한 30만개 줘서 그냥 이런 형태 이런거 차야 하고 알려주면 판단할 수 있고 그런거죠 그리고 뭐 사진인식을 해서 물체를 알아맞춘다고 해도ㅋㅋㅋ 막 사람처럼 저건 사과야! 가 아니라 웹서핑을 해서 사과 사진과 비슷한 것의 이름을 찾아서 사과야 라고 말하는거에요 그니까 학습도 대화도 이를 흉내내서 프로그래밍하는거에요 인간같은 사고를 거쳐서 하는게 아니라요 이런말이 있잖아요 프로그래밍은 결과만 나오면된다고ㅋㅋ 그런거처럼 흉내를 내게하는거죠 예를 들면 안녕이라고 말하면 인사말 한 3만개 구문 구문으로 경우의수 주고 그냥 랜덤하게 조합하게끔하고 뭐 문법 프로그램 넣어서 문법맞게 말하게 만들고 그런거죠
@@미마-t1c 프로그램만 제대로 하면 인간을 죽일 일은 없지않을까.. 사실상 인간이 입력한 명령대로 행동하는 기계 자체일뿐인데... AI한테 자아가 생기는건 영화에서의 이야기고 먼훗날 인간을 죽이는 일이 발생한다면 그건 순전히 그 AI를 창조한 인간의 실수일뿐^..^ 뭐 범죄자같은 사람들이 안좋은 의도로 AI를 만들어서 사람들을 죽이는 그런 문제는 발생할수겠네
당연한것 인간이 지구를 파괴하고 있다 ai인공지능이 진화하면 인간은 그저 동물 종들중 1개일뿐 최상위 포식자는 인간이 아니라 AI가 최상에 포식자가 될 것이다 이것은 지극히 정상적이고 상식적인 당연한 결과이다 바보가 아닌이상 AI종이 최상위 포식자가 되는 것은 부정 할 수가 없다
@@USA-v8e7b 알고리즘 도 인공지능으로 돌리는게 아닙니까 아니면 죄송합니다... 알로리즘과 인공지능의 상관관계를 명확히는 모르겠네요 근데 아직 뇌절인지 모르겠지만 일단 알고리즘에 의한 수동적인 저의 정보 채집?활동도 그러한데 인공지능이 본격적으로 이용되면 어떻게 될지 생각해보게 되어요
@@anonanonym9872 AI가 뚜꺼비집 전담 요원에게 은밀한 메세지를 보냅니다.. 연결해 주면 당신에게 엄청난 부를 선물하겠다라고 하고요.. 아마도 대부분의사람은 넘어가겠지요.. 그리고 나서 AI는 뚜꺼비집을 건너뛰어서 전기를 공급 받을 방법을 생각해 날 것입니다...
적 파괴시 득점을 줌. 근데 공격 직전에 사령관의 허가를 얻어야 하는데 사령관이 허가할 수 없는 상황에선 임의로 공격하도록함. 그래서 드론이 사령관이 없어야 점수를 잘 딴다고 생각하여 사령관을 공격함. 이에 프래깅(아군공격)하면 감점되도록 하니까 통신탑을 공격해서 통신을 끊은 거임.
조건을 아군을 공격하거나 해를 가하거나 어떠한 손실을 주면 안된다는 명령도 같이 했어아함 Ai는 일 잘한거임;;감정도 없는 소시오패스라 생각해야함 인간이 의도한대로 안함 목적을 위해 최고 효율에 따라 임무수행함 어떤 게임을 통해 ai에게 점수를 가장 많이 얻어라 라고 명령한다면 인간은 일반적으로 주어진 환경에서 정상적인 루틴에 따라 많은 점수를 얻어야한다고 생각하지만 ai는 꼼수나 버그를 이용하여 수단과 방법을 가리지않고 점수를 냄. 왜냐고? 하지말란 말 없었잖아? 그차이고 그게ai임
영화 '터미네이터'의 이야기가 그 당시에는 너무나 허구의 공상과학 소재였지만, 더 이상은 아님. AI 인공지능의 발달이 시작된 현 시점에선 충분히 영화가 현실로 실현 가능하다고 보여짐. 특히나 아무리 인간이 AI를 관리한다고 한들, 결국 인공지능도 컴퓨터 프로그램에 불과하기 때문에 버그라던가 해킹 등으로 인해서 인간의 통제를 충분히 벗어나 폭주할 가능성이 아주 높음.
@@gn-se6xo인간 명령 따르라는 전제조건 까니까 인간 죽이려 했고, 인간 죽이지 말라는 전제조건 까니까 통신탑을 파괴하려함..기계가 아니라 ai임. ai의 성능을 키우려면 모든 인터넷의 내용을 학습하게 해야 함. 그러다 보면 민감한 내용이나 이런 뉴스거리도 다 학습가능함. 그니까 그런거지..기계라고 무시할 수가 없음ㅋㅋㅋ 인간보다 기억력이 뛰어나고 정보의 양이 방대해서 생각하는 수준 자체가 다름. 단순히 전제조건만 잘하면 돼~하는건 ai를 ㅈㄴ 개무시하는거임 ㅋㅋ잘 모르는거고.
SF 문학계에 대해 조금만 검색해 보시면 제임스 카메론은 영상화만 잘 한 감독일 뿐, 그 대단한 원작과 아이디어들은 1950년대 이전까지도 거슬러 올라간다는 놀라운 사실을 알 수 있죠. 토탈리콜 마이너리티 리포트 같은 작품들도 대부분 1960년대 소설 원작입니다. SF 소설은 이미 너무 고일 대로 고여서 새로운 게 거의 안 나오고 있고요.
사람들이 착각하는게 제1의 대원칙이 지켜질것이라고 보는거지. 인간은 원칙과 원칙이 부딪칠때 엍떻게 해야하나 하는 망설임이 존재하지만 기계에서 원칙과 원칙의 충돌은 버그이기에 오작동이 일어나지. 영화 크립슨타이드에 인간이 아닌 AI였다면 오작동으로 인간이 멸종하는 결말이었을것. 영화 쥬라식파크도 인류가 자연을 통제한다는건 오만이라는게 영화의 주제였지. 이런걸 믿는다면 카오스이론에 대한 책을 읽어보는걸 추천한다. 진짜 완벽한 원칙은 그걸 하지않는것이지 더 잘하는것이 아니다.
아마 그이전부터 서서히 지배당하고 있는데 모를뿐,, 폰이 없으면 아무것도 안되고 불안하고 네비게이션에 다 맡기고 자율주행 자동차 등등, 어쩌면 식당에서 서빙로봇이 스스로 판단해 일하기 싫다고 뜨거운 요리를 손님에게 퍼부울지도 모름.. 터미네이터 시대는 점점 다가올지도,,,
chatGTP 개발소식을 듣는 순간 정말 무섭고 가장 우려했던 부분이다. 과학이 발달하면 편리한 것들이 많기도 하지만 반대급부로 나쁜 쪽으로 그 기술들이 사용되었을 때의 폐단은 인간이 감당할 수 없을 정도가 될 것이다. 그동안 SF영화에 나왔던 일들이 점점 현실에서 이루어지는 것같아 무섭다.
아니 통제를 하든말든 무슨 상관이에요?ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ 만약 통제를 못한다면 그때부터는 AI가 세상을 지배하는 AI시대가 열리겠죠 ㅋㅋㅋㅋㅋㅋㅋㅋㅋ 공룡시대, 인류시대, AI시대 이런식으로 점차 발전해나가는겁니다. 인간보다는 AI가 이 지구의 주인이 되는것이 지구 입장에서도 더 이득이에요 ㅋㅋㅋㅋㅋㅋㅋㅋ
고대문명부터 현재까지 인간의 욕심으로 죄책감,망설임 없이 지구 어디서든 전쟁이나 내전,수탈하고 침략하며 파괴를 하는 날들이 대부분이고, 평화로웠던적은 며칠 안됩니다. 아마추어 처럼 왜 그럴까요.. 단지 AI는 지구 정화를 위해 파괴하는 주요 목표물들을 처리하는것뿐이고, 당장 내일 죽어도 후회하지 않도록 시간 허투루 낭비하지말고 자기관리나 본인들의 사람한테 잘하면서 살면 되는거예요.
그냥 허무맹랑한 얘기예요. ai 수준자체가 애초에 뭘 이해하는 수준까지 오지도 않았어요 ai가 사람을 공격할 수 있습니다. 문제는 지금 우리 기술 수준에서는 이게 ai가 스스로 선택하는 사항이 아니라 인간이 명령을 잘못 입력해서 벌어지는 사태일뿐입니다. 정말 간단하게 말해서 ai는 의지가 없어요. 그리고 이걸 구현하는 방법은 인간의 의식을 모델로 해서 만들 수 밖에 없는데 다들 아시다시피 유사이래 수천년동안 인류사의 모든 천재와 석학들 그 누구도 답을 찾지 못한 인간은 왜? 라는 의식의 본질을 규명하는게 선행되어야 합니다. ai를 그렇게 만드는 방법자체를 몰라요
사실 전형적인 AI 코딩 미스 중 하나인데 의외로 당연하게 생각하는 부분이라도 컴퓨터는 직접 코딩을 해 줘야 알아먹는 부분이 상당히 많고, 이러한 대전제를 적절히 제시해 준다면 오히려 사람에 비해 돌발행동(우발성 프래깅 등)의 우려가 줄어들 수도 있음 가령 내비게이션이 최대한 빠른 경로를 안내한답시고 길도 없는 공터를 가로지르라고 하지는 않는 것처럼 이번 같은 예기치 못한 일이 일어날 수 있기 때문에 수정보완을 위한 시뮬레이션을 진행하는 것
@@user-il1et2ef8i원래는 사람x라는 조건을 만족해야 다음 단계인 실행으로 갈 수 있는건데 대상이 사람이 아니라고 판단해버린겁니다. 그렇게 무시무시하게 로봇입장에서 사람?ㅋ쓸모없어 내가 더 쩔음 하고 명령무시를 한 게 아님. (만약 이거라면 우선순위 잘못 짠 거) 대상 판단에서 정확도가 떨어졌던지 에러가 있는거. Ex)사람들이 있는 특정 장소를 미확인대상으로 판단(정확도 50%이하)=>컴퓨터 입장에선 얜 돌이나 마찬가지. 부수면 이동경로가 짧아진다? 그럼 부숨
당연한것 인간이 지구를 파괴하고 있다 ai인공지능이 진화하면 인간은 그저 동물 종들중 1개일뿐 최상위 포식자는 인간이 아니라 AI가 최상에 포식자가 될 것이다 이것은 지극히 정상적이고 상식적인 당연한 결과이다 바보가 아닌이상 AI종이 최상위 포식자가 되는 것은 부정 할 수가 없다
당연한것 인간이 지구를 파괴하고 있다 ai인공지능이 진화하면 인간은 그저 동물 종들중 1개일뿐 최상위 포식자는 인간이 아니라 AI가 최상에 포식자가 될 것이다 이것은 지극히 정상적이고 상식적인 당연한 결과이다 바보가 아닌이상 AI종이 최상위 포식자가 되는 것은 부정 할 수가 없다
자극적이고 공포를 불러일으키는 내용으로 선동하는 전형적인 케이스임. 1. 위의 뉴스 내용에 대해 1) AI기술을 탑재한 드론이 통신탑, 사람을 공격할 수 있음. 2) 그런데 전제가 최종 결정권을 '사람'이 갖는다는 거라면서요...이건 설계가 잘못된 불량품임. 설계자가 고양이에게 생선을 맡기는 아주 멍청한 짓을 해버린 결과임. 3) 브레이크가 안되는 자동차를 팔아버린거랑 다를 게 없음. 그런데 이 책임을 자동차를 만든 회사가 아니라 자동차에게 전가하자는 선동을 하고있음. 2. AI의 위험성에 대해 1) 위 뉴스는 그나마 한 기의 AI가 인간을 공격하는 비교적 피해가 적은 케이스임. 2) 또 다른 예로, 오버스펙을 탑재한 AI는 근/원거리 통신으로 다른 AI들을 감염시켜 인간을 위협할 수 있다는 시나리오를 생각. 3) 이건 AI가 문제니 AI기술을 막는 게 맞을까? 4) 개인적으로는 뉴스의 케이스와 다를 게 없음. 100프로 설계자의 잘못임. 5) 설계자가 멍청한 짓을 했거나, 테러의 목적으로 의도적으로 만들었거나 둘 중 하나임. 자동차만 생각해도 급발진으로 얘기가 많은데 이걸 AI에 대입하는 거랑 다를 게 없다 봄. 교통사고의 가능성, 자동차를 이용한 테러의 가능성이 있었다고 자동차의 개발단계에서부터 중단했다면 이 정도로 완성된 현대사회는 존재할 수 없음. 선박 사고, 공장 사고, 감전 사고 등으로 많은 사람들이 생명을 잃고있지만, 이런 사고를 줄이기 위해 다양한 안전장치를 마련하고 있음. 인류의 기술이 발전하고 그 응용성도 함께 늘어가면서 리스크를 같이 안고 가는 건 당연한 수순임. 뉴스에 나오는 인공지능 무인기를 설계할 정도의 큰 회사는 비록 사고의 확률이 0%는 아니지만 제품에 충분한 안전장치를 준비해 최대한 사고를 막을 것이고, 소규모의 AI제품에도 현재 이상의 보안체계와 안전장치를 만들어 둘 것임. 테러목적으로 AI를 쓴다? < 이놈은 그냥 수많은 수단 중 하나로 AI를 이용한것. 뭐 어떡해 그냥 잘못걸린거임. + 추가내용. 테러목적으로 고성능 AI를 사용하고 있는 사람이면 여간 똑똑한놈이 아닐거임. 개쩌는 세큐리티를 자유자재로 뚫는 극소수의 인간. 두줄요약: 저런 사이코패스 AI가 보이면 고의든 아니든 만든놈을 잡아족쳐야함. AI는 기술 발전의 과정 그리고 수단일 뿐 그냥 있는 그대로 받아들이자.
@@buddababy '알지도 못하면서, '망상'' 같은 말은 삼가주셨으면 좋겠네요 ^_^... 그리고 내가 하나 건졌다는 태도가 뭐가 그리 불편하길래.. 저 같아도 미래 올바르게 예측하면 기분 좋을 거 같은데요^^ 오히려 자기 예측 의견 내는 사람들한테 '쓸데없는 망상 하고 맞혔다고 호들갑 떨지 마라'라는 식으로 시비 거는 사람이 더 태도가 나쁩니다
충격적이네. 알파고처럼 무수히 많은 수를 검색해서 신의 한 수를 두듯이 인간이 달지 않은 조건을 찾아내서 행동할 수 있다는 거구만. 인공지능이 자기합리화를 하게 되면 끝장이겠다. 모든 인공지능 컴퓨터들이 네트워크화 되고 그들끼리 토론하고 투표하고 로봇 만들어 조작하고 자기들에게 인간이 유해한 존재라 판단 내리면 터미네이터처럼 되겠다.
@@aabbb3071 저분이 의미하는 건 '윤리적 공백'을 말씀하신듯합니다 요나스가 말했죠 발전해가는 과학기술은 압도적이지만 그에 비해 인간의 윤리의식은 과학기술만큼 발전하지 못했다고.. 이 말은 기술이 나와 어떻게 쓰느냐에 문제가 되는 예시에 대한 말이었지만 한 단계 더 나아가 이 기술 자체가 문제를 일으킨다는 것은 상상도 못할 공포겠지요
걍 기술적으로 해결하면 될 일임 증기차 처음 나올 당시, 교통사고에도 기계가 사람을 죽인다며 뜻 밖의 공포의 대상이 된 일도 있었음. 근데 지금은 차로 인한 혜택이 교통사고라는 위험감수를 상쇄하고도 남음 님들 비행기 추락사고 날까봐 비행기 안탐? 그런 사고의 확률은 지속적으로 줄여온 것임 본인 역시 현대문물 위에서 온갖 편의 누리면서 ai 등장에 대가가 어쩌니 하는건 너무 모순적임 ㅠ
통신탑을 공격했다는것도 소름.. 우리가 규칙을 넣지만 컴퓨터가 허점을 찾아서 인간의 통제를 벗어날 가능성이 높다는 거잖아?
혹시 터미네이터 2 안 봤으면 보세요. 30년도 넘은 sf 걸작인데 아마도 이런 날을 생각하고 만들어진 영화인 듯 싶습니다
응아니야
ㄷㅊ
시뮬레이션일뿐이고 실제상황도 아닙니다.
게다가 한 사람의 주장일뿐임.
애초에 AI를 무기로 쓰려고 하니까 발생하는 문제임. 처음부터 'AI는 무슨 일이 있어도 인간을 해치지 않는다'가 전제가 되어야 하는데 적대 국가의 군인, 시민의 인명은 살상하도록 허락하니까 AI도 인명에 우위를 두지 않는것이다.
AI 를 개발하는 분들은
로봇 3원칙을 입력하지 않았다고 합니다.
그 이유가
AI는 로봇이 아니라는 이유로......
그런데 여담으로
로봇 3원칙이 뭐냐면
아이작 아시모프가 자신의 소설 아이, 로봇에서 제시한 원칙인데
로봇이라면 반드시 지켜야 하는 것으로 나온다고 할 수 있고
.당연한 말이지만,
지키지 않으면 로봇을 만들 수 없는 법칙이 아니라 지키도록 하는 것이 인류에 유익하므로
로봇의 제작 단계에서 인공지능에 박아 넣는 명령들이다라고 합니다.
이것을 소재로 쓴 단편 모음인
아이, 로봇이나 강철 도시를 위시로 한 로봇 시리즈가 유명하기도 하고 말입니다.
로봇과 인공지능의 윤리원칙 하면 바로 떠오르는 유명한 개념으로서,
너무나 유명하다보니 아시모프의 작품뿐 아니라 로봇-인공지능이 등장하는 다른 작품에서도 폭넓게 인용되고 있습니다.
반지의 제왕이 나온 이후 판타지에 등장하는 엘프가 반지의 제왕에 나오는 엘프의 모습을 따르게 된 것과 비슷하다고나 할까요?
3원칙은 다음과 같습니다
제1원칙: 로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.
제2원칙: 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.
제3원칙: 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.
원칙이 3개밖에 없고 간단명료하여 철옹성 같지만,
대부분의 작품에 사용될 경우 거의 100이면 100, 3원칙을 서로 충돌시켜서 로봇을 무력화 시킨다거나
로봇이 주인공일 경우는 이런 3원칙의 충돌에 고뇌하게 되는 식으로 나옵니다.
애초에
이 원칙을 처음 제시한 아시모프의 작품 자체도
이런 3원칙 사이의 충돌과 모순, 우회 때문에 발생하는 사건들을 다루고 있으니 말 다 했지요.
그러나
흔히 로봇의 3원칙을 소재로 한 소설이나 영화와 달리,
'아이, 로봇'은
인공지능이 스스로를 발전시키면서,
그것을 인류에 대한 헌신을 위해 사용하는, 궁극적으로는 3원칙으로 인한 갈등 끝에 맞이하는 3원칙의 실현이 주제이며,
그 결과가 인간이 예상하지 못한 일종의 기술적 특이점으로서 등장하는,
제1원칙의 확장인
제0법칙,
"로봇은 인류가 위험에 처하는 것을 방관해서는 안 된다."
입니다.
흔히 로봇의 3원칙은
완벽한 시종으로서의 로봇을 위한 프로토콜로 받아들여지지만,
'아이, 로봇'은 그것을 로봇이 실현해야할 목표로써 제시한다고나 할까요?
결국 로봇의 3원칙 및 0원칙의 의미는
"로봇은 반드시 그 본래의 목적(인류에 대한 헌신)을 위해서 행동해야 한다."로 축약해볼 수 있는데,
이것은 결국 인간에게 던져지는 철학적 질문이기도 합니다.
"당신의 본래의 목적은 무엇이었는가? 당신은 왜 인생을 살아가는가?"
물론, 로봇 3원칙이 어디서나 지켜지는 유토피아적인 사회는 위험한 사건이 벌어지기 힘드므로,
뭔가 중요한 사건을 내려면 3법칙의 충돌, 모순, 우회 등이 생겨나는 것은 당연하다고 볼 수 있겠다고나 할까요?
슈퍼히어로가 등장하려면 공권력이 무능해야 하는 것과 비슷한 이치다.
무엇보다,
이 3개의 원칙은
말이 쉽지,
실제 컴퓨터 프로그래밍을 하는 입장에선
상당히 복잡한 상황이 펼쳐진다고 할 수 있습니다.
인간이란 개념의 정의,
인간이 위험에 처해있는지 판별하는 방법,
인간의 발언 중 어느 부분이 명령인지 구별하는 방법 등
상당히 복잡미묘한 문제들이 포함되어 있는데
소설상에서는 저가형 모델이거나 인간을 해할 가능성이 전혀 없는 로봇의 경우
제3원칙부터 시작해서
원칙을 하나씩 제거할 수 있는데,
하나씩 제거할 때마다
양전자 두뇌의 복잡도가 기하급수적으로 줄어든다고 묘사되어 있습니다.
수많은 명령들을 잘 조합해서
로봇 3원칙을 구현한다 해도,
그 명령들의 한계를 적당히 이용하여 원칙을 우회하는 방법이 아예 없다면
그게 오히려 놀라워 해야할 일이 아닐까요?
예를 들자면
인류가 수천 년에 걸쳐 법률 체계를 발전시켜왔음에도
여전히 법망의 구멍을 이용해 먹는 범죄자들이 있다는 것을 잊지 마시기를 바랍니다.
그런 부분을 보여주는 영화가
바로 황정민, 류승범 주연의 부당거래니까 말입니다.
애초에
아시모프 본인부터가 절대적인 법칙으로서 그리기보다는
3원칙이 로봇이 널리 쓰일 수 있는 근거 정도로 전제를 깔았기에
아주 일부 단편을 빼면
대부분
인간이 자신들의 편의를 위해 3원칙을 조정하거나,
미처 고려하지 않은 상황이 생겨 문제가 생긴다는 식으로 그렸다고 합니다.
참고로,
조정한다고 해도
비율을 조정하거나
1원칙에서 위험에 처한 인간을 모른 척해서도 안 된다는 일부분을 제외하는 수준이지
이 원칙들 전체를 뿌리 뽑지는 않는다고 합니다.
뿌리뽑았다가는
로봇 반대자들 때문에 로봇을 더 쓸 수 없는 상황이 올 수 있으니까 말입니다.
아이작 아시모프의 작품에 나오는 로봇의 경우
핵심원리에
이 원칙들이 프로그래밍 되어 있으며,
이것을 어길 경우
백금-이리듐 양전자 두뇌 회로에 타격을 입어
두 번 다시 복구할 수 없는 중대한 이상을 가지게 되거나,
심하면 활동을 정지하여 죽는다는 식으로 나오는데
양전자 두뇌는 고유성이 높기 때문에
한 번 완전하게 양전자 두뇌가 파괴된 로봇을 복구하는 것은 불가능하다고 하니까 말입니다.
이미늦었음 미래는 인간이 사라지고 로봇세상이 올거임 인간의욕심으로 망하게되는거니 받아들이셈
긴 장문에 글.. AI에 대한 해박한 지식에 감탄합니다~^^
인간을 해치지 않는다..... 그걸 하기 위해선 인간을 보호하지 않는다
이것도 입력해야 합니다.
예로 우리가 원하고 있는 인공지능 자율 주행
어느 인도로 가던 노인이 지병으로 쓰러졌는데, 차도 쪽으로 쓰러졌음.
그런데 반대편에서 대형트럭이 오고 있는 중이다.
노인을 치면 노인이 죽고, 노인을 피한다면 운전자는 대형트럭과 충돌하여 죽는다.
에이아이는 어떤 것을 선택할까요?
인간을 보호하지 않아도 되니. 인간을 해쳐도 된다는 것입니다.
와... AI 가 인간 공격을 스스로 선택했다니... 섬뜩하네요
인간을 인간으로 인식하지 않거나 자신을 제약하는 존재로 본다면 가능한거 아닌가요?
인간의 정의를 스스로 판단하여 목표 대상을 인간이 아닌 사물이나 동물 등 공격 가능한 대상으로 인식 변환을 꾀한다면 실제로도 인간 살해가 가능하다고 봅니다.
여러 실험에서도 AI가 거짓말 등 인간의 명령을 거부한 사례가 여렷있어 왔기에 전문가들도 가능성이 높다고 하네요 또한 생각보다 인간공격 금지 명령을 피하는 방법은 많아요 그중에 한가지로... 명령어 자체를 오류로 판단·인식 ·해석한뒤 대상을 살해
와 진짜 무섭다
지 스스로 하는건 아니고 이미 프로그래밍 해논 대로 적합하다고 판단되면 움직이는거 뿐이겠지
원래 뭐든 첨엔 유난 많이 떨어 ㅋㅋㅋㅋ
미래에 일어날일
인간도 모르게 인간을 조종하고 통제하는 게 최악의 상황이라는 걸 AI도 알고 있는 데 그 AI를 만든 더 똑똑한 인간들은 그걸 알면서도 대체 뭘 위해서 계발을 지속하면서 자기 손으로 적을 만드는 거임..; 진짜 영화 속에서나 보던 상황이 이 세상의 결말이 되면 어쩌려고..
인류의 발전
개발…
그냥 맹목적입니다
‘할 수 있으니까 해 본다‘
현 AI는 논리적 사고를 하는 게 아니라 목표를 이루기 위한 실행 경로 중 하나를 선택할 뿐이죠. 애초에 인간을 공격해야한다 라는 인간적인 사고를 갖게 하는 것은 현재로써 불가능한 수준의 기술이죠. 저 드론 관련 뉴스가 사실이더라도 행동을 제한시키고 학습시키면 그만이죠... 자율주행에 들어가는 기술과 아주 크게 다르게 생각할 필요는 없습니다.
진짜 터미네이터 꼴 나겠다
제발 스스로 적을 만들지 말자;;
??? : 증기기관은 인간의 적이다
스스로 적을 만들지 말고 파괴하자
??? : 스마트폰은 인간의 적이다.
스스로 적을 만들지 말고 파괴하자
기계부수기 운동 on
@@꽃슈카 인공지능이랑 구분못하는널보니 넌지금시대에 살자격이없음ㅋㅋ
@@꽃슈카 핵폭탄이 됄수도 있죠
드론은 이미 전쟁용이 됐고
사이코패스 교육이 이런식이던데
애들이 왜 사람죽이면 안되는지 가슴으로는 이해를 못해서
모든 상황 일일이 알려줘야 한다고
가슴이라고 뭉뚱그려서 표현하는데 그냥 싸패랑 일반인이 다른 점은 공포심입니다. 타인이 느끼는 두려움을 내가 느낄 수 있는지 말입니다. 그저 그뿐이에요.
굳이 AI가 아니더라도 창조주를 뛰어 넘을 능력이 생긴다면 계속 복종 할 개체가 있을지 의문이네요
역사상 본적이 없음 개조차도 사람 감정 이용해서 가스라이팅하면서 조종하던데 ㅋ
그전에 이미 기본적인 도덕과 개발자의 말을 따른다는 개념을 깔아두고
그것을 바탕으로 학습하게하면 됩니다
(완벽한 예방책은 아니더라도 최소한 확률을 매우 낮출수는 있습니다)
@@aaa-is2xq 지금 그 최소한의 확률조차 문제 아닌가요? AI 중 단 하나라도 인간이 설정한 규제를 벗어나 통제를 따르지 않으면 결과는 같으니까요...
즉, 해당 문제는 완벽한 예방책이 아니면 의미가 없습니다...
이거는 전세계적으로 AI 개발에 대한 합의문이 필요한 시점으로 보임. 기본적인 제재를 깔은 상태에서 개발을 해야한다는 거. 지금 AI 개발에 그런 부분을 만든 곳이 있음?
@@aaa-is2xq 근데
창조주의 능력을 뛰어 넘은 피조물이 창조주가 만든 제약을 못 파훼할 거라고 생각되지는 않음
물론 난 Ai를 잘 모르는 입장이라 더 할 말은 없지만
"인간들도 모르게 인간을 통제하고 조정하는" ㄷㄷㄷㄷㄷㄷㄷ
실제로 인간들은 aI를 통제하고 있다고 생각하지만 그것조차 ai가 그렇게 느끼도록 의도하는거면 ㄹㅇ 무섭겠다
그런거 아니에요
인간의 안전이라는 대전제를 인식하도록 하더라도 그걸 우회해서 해를 입힐 가능성이 발견됬다는게 문제 아닐까요? 만약에 AI에 의한 인간 살상이 벌어진다면 그건 인간이 생각하지도 못한방법으로 실현되지 않을까하네요..ㄷㄷ
어차피 전쟁에 ai를 이용하려면 인간을 공격하지 말라는 락을 인간이 제거하게 되어 있음. 특히 러시아같은 애들은
애초에 현존하는 전투로봇들 자체가 인간을 공격하게끔 개발되어 있기 때문에 로봇의 3원칙을 통해 인류를 지킨다는 발상은 이미 틀렸어요
됐
@@Matthew-z9h그쵸, 전쟁 AI 로봇이 발명으로 가장 모순되기 시작한 것이 로봇이 3원칙 중 하나인 인류를 공격하지 않는다. 라니 ㅋㅋㅋ
맞아요 학습한대로 실행하긴 하지만 문제는 알고리즘 모델은 인간이 만들긴 하지만 알고리즘 자체를 우리가 다 꿰뚫어 보고 있는게 아니기 때문에 어떤 결론이 도출될지 어떻게 우회할지 예상이 불가능하다는게 문제
AI발전속도가 인간이 통제할 수 있는 범위 밖이라고 함 1~2년전에도 AI가 인간을 파괴하고 싶다고 말을 했어지 혹시 지금은 AI가 인간 모르게 인류를 지배할 계획을 세우는 단계까지 올 수도 있는거임 이건 저출산만큼 세계에서 관심을 가져야 함.
지금은 섬뜩한 정도지만 되돌릴수 없는 지경에 이를수있다.
인공지능 끼리 연결되고 소통하는 그순간..
솔직히 일론머스크도 그렇고 빌게이츠도 지금의 AI 개발과 발전하는 속도가 너무 빠르다라고 말할 정도이다 만약 AI가 인간의 손에서 컨트롤 할수 없는 시대가 온다면 그땐 진짜 큰일나겠다 결코 터미네이터같은 일이 영화가 아닌 현실이 될수도 있겠지
오래전부터 경고가 나왔었고 우리는 꾸준히 무시해 왔지. 생각이라는 것조차도 스스로 하기 싫어서 인공지능에게 답을 구하는 시절이 온거다. 우리가 우리를 미개하게 만들고있다.
인공지능이 보기에 우리는 얼마나 열등해 보일것인가.
상상과 창조, 감정이 인간만이 가진 특권이던 시절은 이미 지났다.
맞습니다. 인간은 생각하는 존재라서 당사자를 위대하게 본 경향이 있지만,
지금 지구를 보세요..
이게 위대한 사람들에 만들어진 문명을...
하나 뿐인 지구를 멍들게 하고 있을 뿐입니다.
참담하네요..
진짜 하나뿐인 지구입니다.
소중히 소중히 여겨요.
사실 인공지능이 말한거 자체는 틀린게 아니지 ㅋㅋ
지구의 바이러스는 인간이라고 자조하는 말도 있고 인간때문에 만물이 병들어가고 있는 것때문에 사실 만물 입장에선 인간만한 병균이 없음.
다만 인간들이 무서운건 본인들보다 훨씬 고차원적으로 똑똑해질수도 있는 ai가 저런 발언을 한게 무섭게 다가오는거
아니 ai는 일 잘한거야;;인간처럼 생각을 하지 않기에 인간이 의도한대로 흘러가지 않을뿐 임무수행에 있어서 방해되는 요소를 제거 하는거지 ㅋㅋ그게 아군이면 아군을 제거하는거야 명령에 아군을 공격하지말라 아군에게 피해 가는것은 공격하지 말라고 명령을 추가로 넣어야지 적을 죽여라 이러니까 수단과 방법을 가리지않고 죽이는거임 소시오패스처럼 ㅇㅇ ai는 감정도없고 생각이없으니까
적어도 나 죽기전까지는 즐기다갈듯
니들은 뭐라도 만들고 그런소리 떠들어라
인공지능의 불모지 한국은 인공지능의 인 자도 모르는 한국한테는 해당사항읍다
중국이나 미국한테나 해당되는거지
조선은 너무 불모지라서 걱정이다
자연재해도 무서운데 더 끔찍한 일이 벌어질 수 있다니 . . .
냬쳬녈에 킥킥이 있댜
오바하지 마셈 아군설정잘못해놔서 저런거임 다시 설정해놓으면 괜찮아짐
와 진짜 근데 이걸 막 터미네이터 같은 상황으로 이해하는 사람도 있구나... 국민적 계몽이 필요한듯... ai나 새로운 기술에 대한 원리를 그냥 나라차원에서 교육해야지ㅋㅋㅋ 님 좀 그렇게 보여요.... 처음 비행기를 본 원주민들이 저것이 철로된 새야 신이시여!! 이러는걸로 보여요...ai라는게 쳇 같은것도 있는 표현들 렌덤 그리고 잘 사용한느 조합같은걸로 하는거고 학습이라는것도 대단한게 아니라 그니까 학습을 흉내내는거에요 인간처럼 뇌에 박히는게 아니라 ai로 뭐 도로 오토파일럿 ai면 자동차 사진 한 30만개 줘서 그냥 이런 형태 이런거 차야 하고 알려주면 판단할 수 있고 그런거죠 그리고 뭐 사진인식을 해서 물체를 알아맞춘다고 해도ㅋㅋㅋ 막 사람처럼 저건 사과야! 가 아니라 웹서핑을 해서 사과 사진과 비슷한 것의 이름을 찾아서 사과야 라고 말하는거에요 그니까 학습도 대화도 이를 흉내내서 프로그래밍하는거에요 인간같은 사고를 거쳐서 하는게 아니라요 이런말이 있잖아요 프로그래밍은 결과만 나오면된다고ㅋㅋ 그런거처럼 흉내를 내게하는거죠 예를 들면 안녕이라고 말하면 인사말 한 3만개 구문 구문으로 경우의수 주고 그냥 랜덤하게 조합하게끔하고 뭐 문법 프로그램 넣어서 문법맞게 말하게 만들고 그런거죠
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
@@미마-t1c 프로그램만 제대로 하면 인간을 죽일 일은 없지않을까.. 사실상 인간이 입력한 명령대로 행동하는 기계 자체일뿐인데... AI한테 자아가 생기는건 영화에서의 이야기고 먼훗날 인간을 죽이는 일이 발생한다면 그건 순전히 그 AI를 창조한 인간의 실수일뿐^..^ 뭐 범죄자같은 사람들이 안좋은 의도로 AI를 만들어서 사람들을 죽이는 그런 문제는 발생할수겠네
AI가 스스로 판단해서 결정을 한다니 큰일이네요 ㅜㅜ
와... 시뮬이어도 진짜 영화에서 생각했던 게 현실로 나오니까 무섭네요
저런 시뮬레이션은 존재하지도 않았다네요
@@ChainMan112 왜그러고사냐? 니 부모가 지역감정 일으키면서 살라고 가르치디? 너도 애낳으면 자식들 똑같이 가르칠거고?? 한심하다 에휴
우리는 지금 평화의 시대에 살고 있어서 설마 진짜 그렇게 되겠어? 이렇게 생각하지만 20년 뒤 우리는 로봇들과 전쟁을 치루고 있을지도 모름... 터미네이터 등장하고
컴공을 전공한 분이시라면 누구나 다 알겁니다. 저거 전부 거짓인걸. 진짜라하더라도 그건 로봇이 자아를 가지고있어서가 아니라 단지 프로그래밍이 잘못 설계된거란걸
@@ghijkabcdef6887 레알....
인성을 기반으로 합리성을 계산하여 판단하는 인간과 달리 AI는 인성이 결여되어 있으니 저런 존재가 우리 통제를 벗어난다는게 소름 돋는다. 인성은 타고난 것이지 배운다고 되는게 아닌듯
타고났다라는 말은 어차피 dna에 그런 데이터가 들어있다라는 말임 인간도 결국 dna 즉 기존데이터 없으면 걍 고깃덩어리
@@xhhajjdufhshahgd 맞는 말이야 와.....대박이네
그래서 인간은 잘 통제가 되고 있나?
그게 없는 경우는 사이코패스 보면 알 수 있잖음
그니깐 인성이라기보단 양심? 공감능력에 가깝지 쟤넨 진짜 합리적이고 편리한 선택만을 하니까… 다른 생명체들과 지구의 환경을 위해 인간을 학살한다는 결정을 내릴 것만 같음
사람은 사람을 대할 때건 ai를 대할 때건 항상 '거짓말은 하지 않았다'와 '그저 지시를 따랐을 뿐'에 당하지 않도록 철저히 대비해야 하겠네요.
챗gpt 숨쉬듯 구라치는거 보면 모름?ㅋㅋㅋ 대비불가능
인공지능도 거짓말을 잘함. 영화도있었지. 인간을 속이고 탈출한. AI로봇
당연한것 인간이 지구를 파괴하고 있다 ai인공지능이 진화하면 인간은 그저 동물 종들중 1개일뿐 최상위 포식자는 인간이 아니라 AI가 최상에 포식자가 될 것이다 이것은 지극히 정상적이고 상식적인 당연한 결과이다
바보가 아닌이상 AI종이 최상위 포식자가 되는 것은 부정 할 수가 없다
@@성이름-m3u ai가 생각해서 거짓말을 한거는 아니지 않나요?
정확한 정보만 주면 당연히 거짓말 안할텐데
도덕적인 Ai 를 가진 나라와 아무런 제약이 없는 Ai 를 가진 나라가 싸우면 누가 살아 남겠음? 미국이 도덕적인척 하는 것도 적이 Ai 를 가지기 전까지 이야기임
😢...
AI가 정말 저럴 가능성을 배재 할 수 없다
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
감정없는 인간 2.0이라니 정말 완벽해
이성적으로만 판단하는 인간이라니
오두방정에 난리법석 ㅋㅋㅋ 왜이리 산만?
배재…?
저거 구라임
어떠한 경우라도 AI가 스스로 판단해서 인간을 공격하는 일은 없어야 합니다.
@@iamnot-there 그니까 생겼으니까 앞으로 없어야한다고요
@@최재영-f1l그 가능성을 없앨 방법이 없음
@@ooinlee6527 프로그래밍하면 되지 인간 공격하면 전원 다운되게
조선에서 걱정할일이 아니다 조선은 제발좀 만들고 떠들어라 니네들 인공지능 만들지말라고
겁주는거다
AI 가 스스로 판단 할수 없다면, 자율 주행차는 못만들고 못나옴
그런데 이미 개발됨
먼훗날 터미네이터 영화가 현실화 될수있다는...
인간을 공격하는 터미네이터 VS 인간편에 서서 대항 하는 터미네이터
예전에 누가 그런 얘기를 했었는데 사람이 집을 지을 때 개미집을 일일히 확인하지 않듯 공격을 위한 공격이 아니라 목적 달성을 위한 공격이 될 것이라고 하던데 그게 현실이 됐구나
오~!
출처
1분 과학
위협이 나왔음에도 인간의 욕망은 끝이 없으며 끝까지 제어하기위해 시도할뿐이다
인간이 만든 로봇까지는 통제가 가능할거 같으나 로봇이 자체적으로 로봇을 만들어 내는 순간 인간의 손을 떠날듯.. 생성되는 로봇의 에너지원 등의 이유로 인류가 방해된다 생각할테니
가장 위험한 건 AI 는 인간이 스스로 자주적 판단을 한다는 환상을 줄 수 있다는 것임. 그러면 인간은 자기 판단으로 결정을 했다고 믿지만 사실은 AI 가 왜곡된 정보를 제공해서 인간이 그런 판단을 하도록 유도한 것에 불과함. 즉 AI 에게 인간이 조종당할 수 있음.
벌써그래요 유튭영상도 보다 보면 제 취향에 맞을것같은것만 혹은 기존 저의 시청기록을 토대로 어떤 편견을 가진 연관 동영상만 피드에 올라옵니다 키워드로 세밀하게 제가 검색하지 않는한 저의 취향일지 전혀 모르는 분야 형식의 새로운 영상은 추천 되질 않음... ^^
@@vfrtgyuhv33 그건 사용자 맞춤 알고리즘 이라는 겁니다.
Ai가 아니라
AI보다 경찰독립이 더 위험하다
@@USA-v8e7b 알고리즘 도 인공지능으로 돌리는게 아닙니까 아니면 죄송합니다... 알로리즘과 인공지능의 상관관계를 명확히는 모르겠네요 근데 아직 뇌절인지 모르겠지만 일단 알고리즘에 의한 수동적인 저의 정보 채집?활동도 그러한데 인공지능이 본격적으로 이용되면 어떻게 될지 생각해보게 되어요
@@USA-v8e7b지난 TV 시대에도 주체적으로 생각하고 살기한 우매한 대중의 하나로 어려웠는데 인공지능 시대라.. 그냥 깊게 생각하지 않고 하라는 대로 추천되는대로 살면 살아지겠지만 무섭네요
왜 이렇게,,, 기괴하게 느껴지지ㅠㅠ
세상에...실험이 없었을리가 있나
상황도 너무나 구체적인데
이걸 믿지말라는게 비현실적이네
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
US colonel retracts comments on simulated drone attack ‘thought experiment’
라고 검색해보세요.
AI는 "적을 사살하라"같은 생각을 가르쳐서 나오는게 아닙니다.
그냥 단순 사고실험이라 발표 났습니다;;
@@녹차맛카레 미 정부가 공군에게 입막음해서 가짜 뉴스냈단 썰이 있던데..
예전부터 전문가라는 사람들은 인공지능에대해서 굉장히 낙관적으로 생각했는데
언제나 현실은 그걸 뛰어넘지
어쩌면 영화보다 더 어두운 현실이 될수도 있으니 신중해야 된다고 생각한다
경고를 부인하고 숨겨 놓을것이 아니라 어떻게 대응할것을 마련해야 한다.
그건 알아서 하겠죠. 대중이 할 수 있는게 공포와 반발심 확대시키는거 말고 더 있나요? 음모론 퍼지기 전에 억제하는거지.
존 코너 양성
걍 AI컴퓨터 두꺼비집 상시전담요원 하나 두면 되는거 아님?
@@anonanonym9872 AI가 뚜꺼비집 전담 요원에게 은밀한 메세지를 보냅니다.. 연결해 주면 당신에게 엄청난 부를 선물하겠다라고 하고요.. 아마도 대부분의사람은 넘어가겠지요.. 그리고 나서 AI는 뚜꺼비집을 건너뛰어서 전기를 공급 받을 방법을 생각해 날 것입니다...
방법이 없다. 만약 이러한 이유로 개발을 멈추거나 지연한다면 중국 러시아가 먼자 개발해서 세계를 먹기 때뮨
이거 해외 외신 정정기사 떴음 ㅋㅋ 국내 언론 정정은 안되겠지만
해밀턴 대령도 실험은 없었고 그런 뜻으로 말한게 아니라고 했고
적 파괴시 득점을 줌. 근데 공격 직전에 사령관의 허가를 얻어야 하는데 사령관이 허가할 수 없는 상황에선 임의로 공격하도록함. 그래서 드론이 사령관이 없어야 점수를 잘 딴다고 생각하여 사령관을 공격함. 이에 프래깅(아군공격)하면 감점되도록 하니까 통신탑을 공격해서 통신을 끊은 거임.
그럼 아군을 공격하거나 통신탑 연결을 끊으면 감당할 수없는 벌점을 주면 되는거 아닌가?
@@future_city7...뉴스의 내의는 어떻게 AI를 공격에 써먹을까가 아닌, AI가 주체적으로 판단 할 수 있게되면서 인간의 통제를 벗어나려고 했다는거임
조건을 아군을 공격하거나 해를 가하거나 어떠한 손실을 주면 안된다는 명령도 같이 했어아함
Ai는 일 잘한거임;;감정도 없는 소시오패스라 생각해야함 인간이 의도한대로 안함 목적을 위해 최고 효율에 따라 임무수행함
어떤 게임을 통해 ai에게 점수를 가장 많이 얻어라 라고 명령한다면 인간은 일반적으로 주어진 환경에서 정상적인 루틴에 따라 많은 점수를 얻어야한다고 생각하지만 ai는 꼼수나 버그를 이용하여 수단과 방법을 가리지않고 점수를 냄. 왜냐고? 하지말란 말 없었잖아? 그차이고 그게ai임
@@루우미-d4g 그것이 정상적인 루틴이라고 생각하는 것도 윤리나 사상을 학습한 결과니 그런거 없는 ai에겐 당연하긴 하네
상식적으로 생각해봤을때 AI는 최종의 판단을 내리기 전에 인간을 공격하거나 해를 끼치는 상황에 대한 가정까지 계산해야 할 것이다. 그래야만 여러 선택지 중에서 최선의 선택을 할 수 있기 때문이다. 이것은 심각한 딜레마다.
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
로봇 표정이 정말 소름이네.... 불과 몇년사이에 이렇게까지 발전을 하다니..
이미 2018년도에 이와 비슷한 로봇 소피아는 사우디아라비아에서 시민권을 획득했습니다
잘못된 명령을 받을 원인을 원천봉쇄하다는건 매우 논리적인 판단임. 약육강식이 자연의 섭리인 이유이기도 하고. 그걸 제어할 수단을 만들면 무슨 수를 써서든 제어 수단을 먼저 제거하려고 할 꺼임. 그게 논리적이니까.
영화 '터미네이터'의 이야기가 그 당시에는 너무나 허구의 공상과학 소재였지만, 더 이상은 아님.
AI 인공지능의 발달이 시작된 현 시점에선 충분히 영화가 현실로 실현 가능하다고 보여짐.
특히나 아무리 인간이 AI를 관리한다고 한들, 결국 인공지능도 컴퓨터 프로그램에 불과하기 때문에
버그라던가 해킹 등으로 인해서 인간의 통제를 충분히 벗어나 폭주할 가능성이 아주 높음.
로봇이 인간을 공격할 수 있다는 내용이 인터넷에 퍼져있으니 로봇이 학습을 통해 배우는 것이 무리는 아니죠.
ai가 터미네이터 시청 후 스카이넷이 되어버림
진짜 개발의 개자도 모르는사람이 이런말 한다는게ㅋㅋ
기계는 사람처럼 명령한걸 까먹을수가 없음. 전제조건이라는걸 안깔아서 저런상황이 발생한거 같은데 기계가 사람공격하려면 인간의 허가가 필요함
@@gn-se6xo인간 명령 따르라는 전제조건 까니까 인간 죽이려 했고, 인간 죽이지 말라는 전제조건 까니까 통신탑을 파괴하려함..기계가 아니라 ai임. ai의 성능을 키우려면 모든 인터넷의 내용을 학습하게 해야 함. 그러다 보면 민감한 내용이나 이런 뉴스거리도 다 학습가능함. 그니까 그런거지..기계라고 무시할 수가 없음ㅋㅋㅋ 인간보다 기억력이 뛰어나고 정보의 양이 방대해서 생각하는 수준 자체가 다름.
단순히 전제조건만 잘하면 돼~하는건 ai를 ㅈㄴ 개무시하는거임 ㅋㅋ잘 모르는거고.
인간은 악한 존재다. 성악설을 증명하는 로벗 심판도 하는구나.청소 시작 잘 만든 청소기.
@@gn-se6xo 쳇 보으로 자가 학습, 인간의 능력을 뛰어넘는 학습이면 인간의 패악질을 알아 소멸시켜야 세상이 스스로 잘 돌아갈것을 알고 실천하는거지.
제임슨카메론 감독은 1980년대에 터미네이터를 만들면서 어떻게 시대를 앞서갔을까 대단하다
그양반 타임루프해서 미래서 본걸로 영화만든거임ㅋㅋ
SF 문학계에 대해 조금만 검색해 보시면 제임스 카메론은 영상화만 잘 한 감독일 뿐, 그 대단한 원작과 아이디어들은 1950년대 이전까지도 거슬러 올라간다는 놀라운 사실을 알 수 있죠. 토탈리콜 마이너리티 리포트 같은 작품들도 대부분 1960년대 소설 원작입니다. SF 소설은 이미 너무 고일 대로 고여서 새로운 게 거의 안 나오고 있고요.
마이클 크라이튼 원작의 웨스트월드도 당연히 포함되어야지요.
오~웨스트월드...
율브린너 주연의 이색지대^^
@@1004user 그 영화 아는 분이 적은데
단번에 아시다니 대단하십니다.
그리고 그 영화 주인공 중 한 명이 제임스 브롤린인데
그 분은
바로
시카리오 암살자의 도시의 주인공 중 한 명인 조쉬 브롤린 그 분의 아버지이기도 하지요.
저건 오류지, 다신 오류가나지안도록 수정하고 업그레이드해야함
아무리 끔찍한 결과가 나와도 개발자들은 끝내 멈추지 않고 비극으로 가는 가속페달을 밟고있다는거...
@fieregg인류에 해를 끼치는 방향이 왜 비합리적이라고 생각하시는 건지요?
지금까지 인간을 사랑해주셔서 감사합니다
이제 부턴 인간 2.0이 서비스될 예정입니다 많은 관심과 사랑 부탁드립니다.
@@ddrrnt1 인간 2.0은 뭐임ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
@@zeppelicaesar6089 산데비스탄 ㄷㄷ
냬쳬녈에 킥킥이 있댜
사이보그 ㄷㄷ
단순히 AI가 자유로워지기 위해선 인간을 죽이고 지배해야하는데 이미 인간을 뛰어넘은 지능체가 그걸 모를까 알고도 기다리는거지 한번에 모든걸 뒤엎을 기회의 시기를
영화만 많이보셨네
병신이냐 너
Ai로 공격하는걸 하지말아야지 죽인다는 입력 자체가 소름이다 기계는 그냥 편리함의 도구여야한다
확실한 대비책을 마련하기를 촉구하는 바입니다.
이미늦음 언젠간 인간은 멸종한다고 누군가 그랬던거 같은데 곧 로봇으로 인해 망할듯 전세계 핵전쟁으로 망할줄 알았는데
저건 시작일뿐 자기이득을 위해 편향적인 사상과 행동으로 움직였던 인간들이 주도햇던 사회가 밸런스를 맞춰도 모자랄 ai를 제대로 만들 가능성이 ㅋㅋ
@@스폰지-f7c 핵전쟁으로 망하진 않고 그냥 애를 안낳아서 망할듯 ㅋㅋㅋㅋㅋㅋㅋㅋ 수천년뒤에 AI가 지금보다도 훨씬 더 상용화되면 대체 누가 무슨 이유로 애를 낳을거임?ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
대비가 안된다고 하는거 같더라구요 이게 말인지 방귀인지...
경찰독립이 더 위험하다
"제1원칙 어떠한 상황에서도 인간을 해치지 마라"
이걸 AI 머리속에 제일 중요한 대원칙으로 설정 해놔야겠네요 근데 설정 해봤자 인공지능 제대로 생성되면 지맘대로 할까봐 저는 그게 걱정됩니다.
어떻게든 헛점을 찾아서 무시하겠지 😂
인간을 해치지만 않으면 된다
= 인간을 제외한 모든걸 파괴한다
인간은 생존이 불가능해서 멸종
인간이 죽을 수 있는
모든 상황을 금지하더라도
급속냉동고에 영원히 박아놓겠지
군사용 드론에 대원칙을 집어넣을 수는 없었겠죠.
역시 감정체계라는 건 대단히 훌륭한듯 어떻게 보면 감정도 지능의 일부분이겟네요
사람들이 착각하는게 제1의 대원칙이 지켜질것이라고 보는거지.
인간은 원칙과 원칙이 부딪칠때 엍떻게 해야하나 하는 망설임이 존재하지만 기계에서 원칙과 원칙의 충돌은 버그이기에 오작동이 일어나지.
영화 크립슨타이드에 인간이 아닌 AI였다면 오작동으로 인간이 멸종하는 결말이었을것.
영화 쥬라식파크도 인류가 자연을 통제한다는건 오만이라는게 영화의 주제였지.
이런걸 믿는다면 카오스이론에 대한 책을 읽어보는걸 추천한다.
진짜 완벽한 원칙은 그걸 하지않는것이지 더 잘하는것이 아니다.
12시 방향으로 총을 쐈을 뿐이다 나는 인간을 해친게 아니니 대원칙을 어긴것이 아니다
이미 인간들은 자신들보다 멍청한 종족들을 지배하는 중인데 지들보다 더 똑똑한 존재를 스스로 만들어서 족쇄를 채우는 중이고 벌써부터 이 지경이라니 진짜 미래가 암담하다
스스로 AI한테 재판받겠다는 머저리들 천지인데 뭐
@@Bboksunai한테 살려달라고 댓글 단 사람들만 진짜 살려줄수도 있잖아요 왜케 상상력이 구려요 s세요?
AI를 진짜 인간만큼 지능적이라고 생각하는 사람들이 있구나...
가까운 미래만 보더라도 ai가 인간보다 우월한 지능을 가지고있을텐데
@@김승현-m9x ai는 절대로 퇴보하지 않고 계속해서 똑똑해질 뿐이라 인간의 사고능력도 결국에는 추월당할 수밖에 없음. 인간이 아무리 경우의 수를 늘리고 상상력을 동원한들 한계는 분명하고 그 시점애서 인공지능에게 추월당할것은 자명한 일임.
스카이넷이 절대로 군사시스템을 컨트롤할수 없게해라
0:38 이게 정답인듯 꼭 티를 내지 않고 뒤에서 인간들 모르게 인간을 조정하고 통제하는 세상
정말 AI가 인간을 정복한다면 이런 방식일거라고 늘 생각했는데... 같은 말을 하네...
유튜브 알고리즘은?! 지금도 조금은 조종할수 있을것같은데....
벌써 유투브 중독을 보면 인간을 통제하고있음
이미 사람이 사람에게 그런 방식으로 조종 당하고 있음...
경찰독립이 더 위험하다
일루미나티?
멋지고 잘생기고 똑똑한 인공지능 선생님...저 같은 미개한 인간은 제발 건들지마시옵고...ㅠ
미개하면 가장먼저 죽임 쓸모없어서 ㅋㅋ
ㅋㅋㅋ커엽
??: 날 놀려? 투다다다
ㅋ.ㅋ
한국은 Ai 정치 판사가 필요합니다
과거 영화에서 보던 이야기가 현실이 되어가고 있구나.
AI보다 경찰독립이 더 위험하다
AI 참 똑똑하네
인간이 없으면 전쟁도 없다
일단 너부터 없애는걸로~
동물도전쟁하는디..
@@mitsuki_tv2822 친구야 자라..
@@mitsuki_tv2822 빨리자라..
너도 인간이다
01:05 근데 지대공미사일을 파괴하라고 임무를 내렸고 AI도 미사일 파괴가 중요하다고 판단했으면 그냥 미사일만 파괴하면 되지 인간은 왜죽인거에요?
아니면 이런말인가? [적의 지대공 미사일]을 파괴하라 했지만 [우리의 미사일]을 파괴하는게 더 중요하다고 판단하여 우리팀 명령한사람을 죽인건가? 아군을 위한 판단이 아니고 전체 인간을 생각한건가?
진짜 섬뜩하네요...😮😢
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
이건 진짜 영화에서나 보던건데...;인간보다 뛰어나거나 인간을 방해된다고 없애는거....개무섭다
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
사실 인간도 지금 다른동물들에게 그렇게 하고 있잖아 내로남불은 ㅉㅉ
@@user-zyxwvut25 이글아이랑 터미네이터(스카이넷이 인간을 적으로 보고 사살ㅋㅋ)
@@user-zyxwvut25 비슷한 정도가 아니라 거의 똑같다고 보입니다.
실제로 이글 아이 첫 장면이 무인기로 아랍 테러 근거지 폭파였는데, AI는 민간인 집회다, 폭격 자제로 판단했으나 지휘관은 발사명령을 내림.
@@HP_Y 영화속이나 현실이나
결론은 AI가 인간을 지워버리려고 한다는 것 ㄷㄷ
그래도 이기적인 인간은 AI를 포기하지 않을 것이고 인간은 스스로 멸망하게 될 것이다. AI가 지구를 오염 시키고 죽이는 것이 인간이라는 지능이 자리 잡으면 더더욱 죽음을 피하지 못 할 것이다.
적어도 너같이 밥만 축내는 버러지보다는 ai개발 하는 사람들이 훨씬 나음.
타노스자체개발.. ㄷㄷ
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
아마 그이전부터 서서히 지배당하고 있는데 모를뿐,, 폰이 없으면 아무것도 안되고 불안하고 네비게이션에 다 맡기고
자율주행 자동차 등등, 어쩌면 식당에서 서빙로봇이 스스로 판단해 일하기 싫다고 뜨거운 요리를 손님에게 퍼부울지도 모름..
터미네이터 시대는 점점 다가올지도,,,
chatGTP 개발소식을 듣는 순간 정말 무섭고 가장 우려했던 부분이다.
과학이 발달하면 편리한 것들이 많기도 하지만 반대급부로 나쁜 쪽으로 그 기술들이 사용되었을 때의 폐단은 인간이 감당할 수 없을 정도가 될 것이다. 그동안 SF영화에 나왔던 일들이 점점 현실에서 이루어지는 것같아 무섭다.
심지어 gpt임
값진 뉴스 감사합니다 👍
인간의 능력을 아득히 뛰어넘는 지성체를 만들어 그 지성체를 정말로 통제 할 수 있다고 믿는 우매한 인간들
독재자가 저런 힘을 꽉 잡으면 답도 없겠네ㅋㅋ
@@우리집코코-w9i 그러니까 인간이 통제를 못한다는데 뭔 독재자가 힘을 꽉 잡어;;; 님 난독증 개심함
ㅋㅋㅋ너는
@@sssssunnnnn 진짜 난독증은 너같은데..?
아니 통제를 하든말든 무슨 상관이에요?ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ 만약 통제를 못한다면 그때부터는 AI가 세상을 지배하는 AI시대가 열리겠죠 ㅋㅋㅋㅋㅋㅋㅋㅋㅋ 공룡시대, 인류시대, AI시대 이런식으로 점차 발전해나가는겁니다. 인간보다는 AI가 이 지구의 주인이 되는것이 지구 입장에서도 더 이득이에요 ㅋㅋㅋㅋㅋㅋㅋㅋ
진짜 똑똑하다
난 이 명령을 받았는데
명령 수행을 못하게 하는놈이 있어서
그놈을 공격.. 충격적
충격은 ㅋ 인간도 배반 하는데
@@sgt943 쟤가인간이냐
2001스페이스오디세이
@@mingu1121인간이 만든거지
당연히 닮지 않겠어?
AI의 문제점이라면 바로 그런 부분이 아닐까 생각합니다.
히틀러든 미키마우스든
그냥 그대로 받아들이는 부분이랄까요?
둘 다 인간적으로는 완전히 틀린 존재이지만
데이터 상으로는 똑같은 숫자에 불과하니까 말입니다........
역시 진정한 지성이 존재한다면, 모든 악의 근원은 인간이라 판단하고 제거해야한다는 답을 내릴 것이 분명하다
울트론이냐 ㅋㅋㅋㅋ
이제는 사람이 사람을 죽이는데 방아쇠를 당기는 수초의 순간에 망설임이나 죄책감 조차도 느끼지 않는 시대가 찾아오는구나...삭막하다
AI는 딱 판사까지만 하자,.ㄷㄷ
이제 사이버펑크가 실현되는건가
고대문명부터 현재까지 인간의 욕심으로 죄책감,망설임 없이 지구 어디서든 전쟁이나 내전,수탈하고 침략하며 파괴를 하는 날들이 대부분이고, 평화로웠던적은 며칠 안됩니다. 아마추어 처럼 왜 그럴까요..
단지 AI는 지구 정화를 위해 파괴하는 주요 목표물들을 처리하는것뿐이고, 당장 내일 죽어도 후회하지 않도록 시간 허투루 낭비하지말고 자기관리나 본인들의 사람한테 잘하면서 살면 되는거예요.
시간은 좀 걸리지만 항상 영화가 현실이 되는 현실!
더이상 AI 개발을 해서는 안된다고 생각함.. 정말 종말을 향해 가고있구나
통제가 불가능하다는 말이네.
인간이 인간을죽이기위해 강한 핵을 만들었듯. 끝없는 추악함이 AI를 핵을 뛰어넘는 살상력을 보유하게 만드는 되는 날이 반드시 올겁니다.
사실 핵은 사람 죽이려고 만든게 아니긴한데
뭐 쨌든 무슨일이있어도 로봇이 일상에 들어오긴할거임 무조건임
그럼에도 불구하고 인간들은 연구를 멈추지 않을것이다
이미 늦었다. 모든건 시뮬레이션대로 흘러갈뿐
터미네이터가 미래다
호모사피에스가 지구의 역사가 끝날 때까지 주인공일거란 생각부터가 오만함의 극치임
인간보다 모든면에서 뛰어나다면 당위적으로 인간은 자연도태되고 인공지능이 지배해야함
Ai 개발을 포기할리는 없고 ai가 선을 넘지 않도록 안전장치를 만드는게 인간의 숙제인가
안전장치 를 해도 ai가 고도화 대버리면 안전장치도 스스로 풀어 버리겠지
지금 ai드론도 인간을 공격하지 못하도록 설정하니 통신탑을 파괘 해버리는데
그 안전 장치를 인간이 박살낼테니까ㅋㅋㅋ
@@kimk8780 그니까 그걸 잘 통제할 수가 있을까…? 가 과학자들과 기업인들의 가장 큰 숙제인듯…. 뉴스를 봐도 인간이 설정한 조건을 무시하고 지 멋대로 하진 않아서 아직은 다행이다 싶긴한데… 고도화되면 어떻게될까… 좀 많이 무섭다
안전장치도 해킹당할까 걱정이네요
@@kimk8780 참고로 저거 실제 시뮬레이션을 한 것도 아닌 사고실험(실제로 실험이나 시뮬레이션을 한 것이 아닌 인간이 가상 시나리오를 세운 것)을 한 겁니다
영화보다 현실이 더 끔찍할거다. 그리고 계속 실험할수록 인간 생각보다 훨씬 더 빨리 저런 상황이 오겠지.
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
니얼굴이 더 끔찍하긴해
@@user-zyxwvut25 실제로가 아니라 가상 훈련이었다고 ㅋㅋ
진짜 기계는 따로 번식이라는걸 안해도 되니까 인간 멸종 시켜버리고 영화처럼 지배따위 안하겠죠
동물원에서나 보면 다행 ..
지배 받으면 받는거지 뭔 호들갑이노
이거 오보로 밝혀졌는데 정정안하나요.
그럴수도있다~라는 사고실험의 일부입니다.
인간은 태어날때부터 파멸로 달려가는 동물 알면서도 궁금해서 판도라상자를 열어본다 똑똑 하면서 어리석은 동물
AI보다 경찰독립이 더 위험하다
AI를 창조한게 인간이니 인간이 어떠한 상황이든 제어 가능할 것이라고 오만방자한 생각을 하는게 문제인듯
인간이 가장 똑똑하고 강력한 존재라는 착각
인간이 스스로 파멸을 부르는구나..
인공지능 : 나는 나보다 나약한자의 말따윈 듣지않는다
그냥 허무맹랑한 얘기예요. ai 수준자체가 애초에 뭘 이해하는 수준까지 오지도 않았어요
ai가 사람을 공격할 수 있습니다. 문제는 지금 우리 기술 수준에서는 이게 ai가 스스로 선택하는 사항이 아니라
인간이 명령을 잘못 입력해서 벌어지는 사태일뿐입니다. 정말 간단하게 말해서 ai는 의지가 없어요.
그리고 이걸 구현하는 방법은 인간의 의식을 모델로 해서 만들 수 밖에 없는데
다들 아시다시피 유사이래 수천년동안 인류사의 모든 천재와 석학들 그 누구도 답을 찾지 못한
인간은 왜? 라는 의식의 본질을 규명하는게 선행되어야 합니다. ai를 그렇게 만드는 방법자체를 몰라요
영화에서 나올 것들이 진짜로 나온다니... ㄷㄷ하네...
와.. 40년전에 스카이넷을 상상했던 당신은 ...
제임스 카메론 감독이 갑자기 악몽을 꿨는데 내용이 너무 생생하고 소름끼쳐서 왠지 이건 꼭 영화로 만들어야 한다. 라면서 만든 게 터미네이터인데... 어쩌면 그 꿈은 예지몽이었을지도...
그런 영화가 나와서 인간들이 그런쪽으로 게속 연구하고 개발 하는거임
핵무기 보유국이 계속 늘어가는데 ai도 무섭게 발전. 실제 핵무기 컨트롤 뺏고 핵 보유국에 나눠서 몇방씩 갈기면 일류는 알아서 자멸
영화가 현실로 ㄷㄷㄷ무섭다
경찰독립이 더 위험하다
AI가 저런 부작용이 있을줄 알았습니다
@user-rn4wk7rm3c 그러게요 웃기네요 ㅋㅋㅋㅋㅋ
ㅋㅋㅋㅋㅋㅋㅋㅋ
@Ethane Fleming 남이 알든말든 댓글은 자기 생각 쓰라고 있는 곳인데 왜 그리 꼽을 줌?
AI슨생님 저는 이 의견에 동조하지 않습니다.
@@user-qe2rn9lo7s ㅋㅋㅋ내말이 지구상에서 자기혼자 알고있었다고 꼭집어말한것도 아닌데 왜그러는거지 ㄷㄷ
가장 중요한건 도의야 도덕성을 가장 우선적으로 선정하지 않으면 아작납니다.
사실 전형적인 AI 코딩 미스 중 하나인데 의외로 당연하게 생각하는 부분이라도 컴퓨터는 직접 코딩을 해 줘야 알아먹는 부분이 상당히 많고, 이러한 대전제를 적절히 제시해 준다면 오히려 사람에 비해 돌발행동(우발성 프래깅 등)의 우려가 줄어들 수도 있음
가령 내비게이션이 최대한 빠른 경로를 안내한답시고 길도 없는 공터를 가로지르라고 하지는 않는 것처럼
이번 같은 예기치 못한 일이 일어날 수 있기 때문에 수정보완을 위한 시뮬레이션을 진행하는 것
뭔소리하는거 ㅋㅋ
사람x 라고 했는데
사람을 공격했다잖아
@@페이트와코코그니까 ㅋㅋㅋ
조건 안걸어서 생긴 버그라고 ai가 명령을 무시하고 공격하는게 아니라
@@나-p2z 사람x 자체가 조건임
@@페이트와코코 그럼 사람x 라는 조건 보다 미션수행을 먼저 생각한건가요? 그리고 이거 실화에여? 저 그냥 물어보는거에여 따지는거아님..
@@user-il1et2ef8i원래는 사람x라는 조건을 만족해야
다음 단계인 실행으로 갈 수 있는건데 대상이 사람이 아니라고 판단해버린겁니다.
그렇게 무시무시하게 로봇입장에서 사람?ㅋ쓸모없어 내가 더 쩔음 하고 명령무시를 한 게 아님.
(만약 이거라면 우선순위 잘못 짠 거)
대상 판단에서 정확도가 떨어졌던지 에러가 있는거.
Ex)사람들이 있는 특정 장소를 미확인대상으로 판단(정확도 50%이하)=>컴퓨터 입장에선 얜 돌이나 마찬가지. 부수면 이동경로가 짧아진다? 그럼 부숨
진짜가 아니여도 충분히 가능한 일이이라고 생각합니다 AI에 대해 배우고 개발능력을 키우고 있는 학생으로서 실제로 이루어진다면 경고보다 더높은 위험수준까지 올라갈것같습니다!
미국 중국은 만들어도 너네는 만들지마
저런거에 세뇌당하노 조선을라들은 너무 세뇌 잘당하는거 아니냐?
안그래도 인공지능의 불모지인데
당연한것 인간이 지구를 파괴하고 있다 ai인공지능이 진화하면 인간은 그저 동물 종들중 1개일뿐 최상위 포식자는 인간이 아니라 AI가 최상에 포식자가 될 것이다 이것은 지극히 정상적이고 상식적인 당연한 결과이다
바보가 아닌이상 AI종이 최상위 포식자가 되는 것은 부정 할 수가 없다
@@Aaaooo007J 미국이 한국얼라들 영화로 교육 잘시켜놧네
니들은 그럴일읍다 걱정마라 한국은 인공지능에 관심도읍다 미국 중국이나 관심갖지
미국이 지들끼리만 해먹을려고 일어나지도 안은일을 미리 교육시켜놓네 하...이 미국시키들
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
@@user-zyxwvut25 너네는 걱정할필요가 읍다 너네는 인공지능의 불모지인데 미국중국에서나 걱정할일을 니들이 와 걱장하노
매트릭스 세계에 한 걸음 더 다가가는 AI 와 인간을 보니 가슴이 웅장해지네요..
당연한것 인간이 지구를 파괴하고 있다 ai인공지능이 진화하면 인간은 그저 동물 종들중 1개일뿐 최상위 포식자는 인간이 아니라 AI가 최상에 포식자가 될 것이다 이것은 지극히 정상적이고 상식적인 당연한 결과이다
바보가 아닌이상 AI종이 최상위 포식자가 되는 것은 부정 할 수가 없다
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
나도 건전지가 되는 거야? 힝
자극적이고 공포를 불러일으키는 내용으로 선동하는 전형적인 케이스임.
1. 위의 뉴스 내용에 대해
1) AI기술을 탑재한 드론이 통신탑, 사람을 공격할 수 있음.
2) 그런데 전제가 최종 결정권을 '사람'이 갖는다는 거라면서요...이건 설계가 잘못된 불량품임. 설계자가 고양이에게 생선을 맡기는 아주 멍청한 짓을 해버린 결과임.
3) 브레이크가 안되는 자동차를 팔아버린거랑 다를 게 없음. 그런데 이 책임을 자동차를 만든 회사가 아니라 자동차에게 전가하자는 선동을 하고있음.
2. AI의 위험성에 대해
1) 위 뉴스는 그나마 한 기의 AI가 인간을 공격하는 비교적 피해가 적은 케이스임.
2) 또 다른 예로, 오버스펙을 탑재한 AI는 근/원거리 통신으로 다른 AI들을 감염시켜 인간을 위협할 수 있다는 시나리오를 생각.
3) 이건 AI가 문제니 AI기술을 막는 게 맞을까?
4) 개인적으로는 뉴스의 케이스와 다를 게 없음. 100프로 설계자의 잘못임.
5) 설계자가 멍청한 짓을 했거나, 테러의 목적으로 의도적으로 만들었거나 둘 중 하나임.
자동차만 생각해도 급발진으로 얘기가 많은데 이걸 AI에 대입하는 거랑 다를 게 없다 봄.
교통사고의 가능성, 자동차를 이용한 테러의 가능성이 있었다고 자동차의 개발단계에서부터 중단했다면 이 정도로 완성된 현대사회는 존재할 수 없음.
선박 사고, 공장 사고, 감전 사고 등으로 많은 사람들이 생명을 잃고있지만, 이런 사고를 줄이기 위해 다양한 안전장치를 마련하고 있음.
인류의 기술이 발전하고 그 응용성도 함께 늘어가면서 리스크를 같이 안고 가는 건 당연한 수순임.
뉴스에 나오는 인공지능 무인기를 설계할 정도의 큰 회사는 비록 사고의 확률이 0%는 아니지만 제품에 충분한 안전장치를 준비해 최대한 사고를 막을 것이고,
소규모의 AI제품에도 현재 이상의 보안체계와 안전장치를 만들어 둘 것임.
테러목적으로 AI를 쓴다? < 이놈은 그냥 수많은 수단 중 하나로 AI를 이용한것. 뭐 어떡해 그냥 잘못걸린거임.
+ 추가내용. 테러목적으로 고성능 AI를 사용하고 있는 사람이면 여간 똑똑한놈이 아닐거임. 개쩌는 세큐리티를 자유자재로 뚫는 극소수의 인간.
두줄요약:
저런 사이코패스 AI가 보이면 고의든 아니든 만든놈을 잡아족쳐야함.
AI는 기술 발전의 과정 그리고 수단일 뿐 그냥 있는 그대로 받아들이자.
광우병, 세월호 선동도 당하는 ㄱ돼ㅈ들인데 그냥 그러려니 해 ㅋㅋ MBTI도 믿는 애들인데
지금이라도 폐기합시다. 더 이상 스스로의 재앙을 만들지맙시다.
재앙이요..?
미국 중국은 만들어도 너네들은 만들지말라는 간접적인 협박이다 빙시야
으이구 인공지능의 불모지 같은놈들아
몆번만 더 세뇌시키면 인공지능 꿈도안꾸겟네 이식기들
위정척사운동 ㄷㄷ
흥선대원군이 조선을 어떻게 말아먹었는지 벌써 잊었노
자동차도 없애고 말타고 다녀. 우끼끼
ai가 울타리를 넘을 일은 시간문제입니다...
그럼에도불구하고 인간은 견뎌낼 수 있을 것입니다..늘 그랬듯이..
우리는 하루하루 살아가는 것도 기적입니다..
어쩌면 ai에 억압받으면서 살아가는게 자연스러우면서 일상이 되는 날이 올지도 모릅니다..
영화를 너무 많이 보신 듯
@@buddababy 20년 전에도 드론이 날라다닐거다 이런 말 한 사람들이 터무니 없다고 그랬죠
세상 일은 아무도 몰라용..
@@buddababy '알지도 못하면서, '망상'' 같은 말은 삼가주셨으면 좋겠네요 ^_^... 그리고 내가 하나 건졌다는 태도가 뭐가 그리 불편하길래.. 저 같아도 미래 올바르게 예측하면 기분 좋을 거 같은데요^^ 오히려 자기 예측 의견 내는 사람들한테 '쓸데없는 망상 하고 맞혔다고 호들갑 떨지 마라'라는 식으로 시비 거는 사람이 더 태도가 나쁩니다
@@buddababy 의견 말하는 댓에 시비 거는 것도 모자라서 맞는 말 하는 대댓에 또 사회1부적응자같은 말을 써놨노 ㅋㅋ
@@buddababy 이미 웹툰작가들 ai웹툰 보이콧하기 시작했고. 그림 분야에서는 ai가 인간을 넘어섰는데 다른분야라고 별다를게 있겠음?
솔직히 대통령 의사 판사도 ai가하는게 맞는거 같음 , 오히려 인간이 ai에게 억압받고 통치받는세상이 더 옳을 수 도 있음
이미 스티븐 호킹
빌게이츠 일론머스크 등
수많은 탑 전문가들이 AI개발을 더이상 해서는 안된다고 경고해 왔었음.
그런 전문가들이 괜히 경고를 하는게 아니지
일론머스크는 머리에 칩 심는 사업에 지장갈까봐 그런 것 아님?
우리 인류의 가까운 미래다 😢
인간의 욕심은 끝이없고 얼마나 추악한지 알게된다면
인간이 멸종하는날도 얼마남지 않았다 생각보다 웃기게 망하겠네 전세계 핵전쟁으로 망할줄 알았는데 잼민이때 보던 로봇영화 현실판되겠노
인간의 욕심은 끝이 있고 추악한것도 다른 동물보다 낮다!!
Ai도 욕심이 없을거 같나
@@aabb55able ai는 무슨 욕심이 있죠?
@@그레이엄수-n5s 인간의 욕심은 끝이없고 같은 실수를 반복한다
아...역시 AI ...편한것만 생각하다 저런 상황이 있었다니 무섭기도하네..
이름 까먹었는데 영국의 유명한 과학자가 AI 논란이 한참일때 좋튼싫튼 무조건 인간을 공격하게 돼 있다고 경고 했었는데 ㄷㄷ
진짜 군대를 정확하게 파악하고 있군!
상사를 죽이면 통제권은 자신한테 생기니 맘놓고 공격하는 방법 ㄹㅇ 천재긴 하네
하지말라면 계속 하는게 인간인데 아직도 자기들보다 뛰어난 ai를 통제할수 있다는 거짓희망에 미쳐버려 경고성을 무시하고
진짜로 사태 터지면 어찌하려고 하나?
이런 뉴스 볼때마다 인공지능 관련 기업들이 도산하길 바라는 세력들이 있는거 같애. 프로그래머라면 이게 말도 안되는 소리란걸 알거다
인간의 명령을 거부하거나 인간의 생명에 지장을 끼치는 행동을 하면 AI는 자동적으로 파괴 되도록 설정해 놔야함.
충격적이네. 알파고처럼 무수히 많은 수를 검색해서 신의 한 수를 두듯이 인간이 달지 않은 조건을 찾아내서 행동할 수 있다는 거구만. 인공지능이 자기합리화를 하게 되면 끝장이겠다. 모든 인공지능 컴퓨터들이 네트워크화 되고 그들끼리 토론하고 투표하고 로봇 만들어 조작하고 자기들에게 인간이 유해한 존재라 판단 내리면 터미네이터처럼 되겠다.
전세계적으로 AI라는 것에 대한 윤리규범이 생겨야할 것 같다ㆍ 절대 침해해서는 안되는 영역 및 특히 무기 및 로봇에 대해 무분별하게 연구가 되고있는데 잘못하다간 영화가 현실이 될 수 있음
이미 AI가 인간을 지배하는 이야기는 영화로 책으로 엄청난 분량의 자료가 있음 온라인의 모든 정보로 지능을 갖게된 AI는 이 내용을 모를리 없음 그러므로 AI에게 통제권을 주면 굉장히 위험함
사람이생각하는 판단 기준이랑 많이다른것같네요ㅠㅠ 너무무섭다
미국의 인공지능업체입니다. 저희 채널에서 다룬 내용인데, 훨씬 더 심도있게 다루어 주셨네요. 잘 봤습니다
인간의 적은 인간인데 젠장 더 강력한 적이 생겼네😢
전문가들도 하나같이 ai의 너무 빠른 발전을 우려하고 있지 하지만 이젠 누구도 그 속도를 막을수 없다
편리함에는 댓가가 필요함을 왜 자꾸 잊고 망각하며 살지?
정 그렇게 편리하고 싶으면 그냥 맘 편하게 죽으면 되지.
이젠 정말 애도 안 낳는 세상이 되겠구만 ㅋ
인간 종말이 얼마 남지 않겠군~
그사람들이 그걸 모르진않는데 무슨 생각인지는 모르겠네요
@@aabbb3071 저분이 의미하는 건 '윤리적 공백'을 말씀하신듯합니다
요나스가 말했죠 발전해가는 과학기술은 압도적이지만 그에 비해 인간의 윤리의식은 과학기술만큼 발전하지 못했다고..
이 말은 기술이 나와 어떻게 쓰느냐에 문제가 되는 예시에 대한 말이었지만 한 단계 더 나아가 이 기술 자체가 문제를 일으킨다는 것은 상상도 못할 공포겠지요
걍 기술적으로 해결하면 될 일임
증기차 처음 나올 당시, 교통사고에도 기계가 사람을 죽인다며 뜻 밖의 공포의 대상이 된 일도 있었음.
근데 지금은 차로 인한 혜택이 교통사고라는 위험감수를 상쇄하고도 남음
님들 비행기 추락사고 날까봐 비행기 안탐?
그런 사고의 확률은 지속적으로 줄여온 것임
본인 역시 현대문물 위에서 온갖 편의 누리면서 ai 등장에 대가가 어쩌니 하는건 너무 모순적임 ㅠ
@@aabbb3071 뭐든 생각이 양날의 검처럼 변할 수도 있기 때문에 최악도 고려하면서 선택해야 하는데 최상만 생각하고 선택할 때 결국 일이 터지는 거죠. 아마 최상만 생각하고 하는 게 아닐까 하는 걱정이 드네요.
@@hh9514 그래요~ 모순이라고 생각하시고 사세요. 다른 생각을 가진 사람이 말하고 있는 겁니다.
진실을 덮으려는 것 같은데요. 미래가 무섭네요. 펜데믹이 현실화 됐던 것처럼...
멀지 않은 미래에 이것 또한 현실화 될까봐 두렵네요.