보이스 피싱을 넘어선 딥페이크 피싱! 정말 머지않아 발생할 수 있습니다... 미리 확인하고 예방하세요! 그것이 알고싶다 1251회 (2021.02.27 방송) 보고, 듣고, 의심하라 - 가짜와의 전쟁, 딥페이크 (연출 : 최준호 / 작가 : 홍정아) #그것이알고싶다 #그알픽 #딥페이크
인스타그램같은 곳에서 아이돌들 틱톡영상에 딥페이크로 합성해놓은것도 있는데 그것보면 이 동영상에 나온 딥페이크보다 훨~씬 자연스럽고 티 안남... 그니까 가짜인게 티나서 걱정 안 해도 되는게 아님. 이런걸 누가 속아~ 속는사람이 바보야 라는 생각도 하면 안되고... 실제 범죄에 사용되고 있는 딥페이크 기술은 이 동영상에 나온 딥페이크보다 더 무서움... 경각심을 가져야 할 이유가 있음
데이터과학 공부해서 아는건데 정교하게 할려면 적어도 사진이 1000개정도 필요해요. 저기 그알에서는 적은 사진으로 데이터 수를 뻥튀기하는 부트스트랩 같은 기법을 쓴거같은데 그렇다고 하더라도 저렇게 적은 사진으로 부모님을 속일만한 퀄리티로 나오는게 무섭네요. 일단 지금으로써는 일반인들이 대비 할 수 있는 방법은 SNS에 올린 총 사진 개수를 10개 이내로 유지하는것 밖에 없어보이네요.
@@연우-m3z 누가 개인 SNS에 사진올리는게 범죄의 원인이라고 함? 지혼자 이상하게 해석해놓고 헛소리하네ㅋㅋ 주거침입죄가 있다고 해서 넌 집 현관문 매일 편하게 열어놓을거냐? 내 행동이 범죄의 원인이라고는 할 수 없어도 내가 좀 더 조심해서 좋은건 당연한거 아닌가? 애초에 SNS에 사진 한장 안올린 사람은 딥페이크 당할 확률이 0%인 반면, 사진을 많이 올릴수록 딥페이크 당할 확률이 올라가는건 당연한잖아; 형법제도가 곳곳에 존재해도 우리는 매일 범죄가 일어난다는 사실을 충분히 인지하고 있는데 자신의 사진을 SNS에 올린다는건 내 외모를 인터넷을 이용하는 수십억 인구에게 공개적으로 자랑할 권리와 딥페이크 당할 확률을 맞바꾸는 것과 마찬가지지
@@연우-m3z 세상 모든 권리에는 전부 책임과 의무가 따르는거야. 니가 페이스북 회사에 무슨 직접적 이익을 주길래 페북에 얼굴 사진을 올릴 권리가 생기는지부터 생각해봐. 너는 페이스북에 무료로 너의 외모 자랑을 포함한 여러 정보를 전세계 수십억 인구한테 올릴 권리를 얻는 대신, 페북 광고들을 보게되는 책임이 따르고, 페이스북 본사에 너의 위치 데이터를 비롯한 개인정보를 보내야하는 의무가 따라오잖아? 좀 더 넓고 본질적인 의미에서 생각해보면 우리가 집 대신 밖을 걸어다니는 것도 전부 길거리에서 칼에 찔릴 위험, 소매치기에 노출되는 위험을 전부 감수하고서 하는 행동이야. 여기까지는 우리가 길거리를 걸어다닐 수 있는 권리로서 짊어지게 되는 책임이고, 우리는 이 같은 위험이 거리에 도사린다는 걸 충분히 인지는 하고있어. 대신 이러한 책임을 져야하는 사회가 옳은건 아니지. 그래서 치안 유지, 형법 제도 등으로 불필요한 위험에 대한 책임을 없애려는 세상을 만드려는거고. 그래서 나도 딥페이크에 당할 위험을 감수해야하는, 불필요한 책임이 도사리고 있는 사회는 변하는게 맞다고 생각해. 하지만 지금 관련 제도가 발의되지 않은 상황이고, 딥페이크에 대한 위험이 존재하는 것도 맞기 때문에, 앞으로 몇년간은 SNS에 사진을 올릴 때 이런 불편한 책임을 인지하고 있는게 맞아. 교통사고가 났어. 나는 제한 속도 아래로 주행했고 변호사의 말에 따르면 내 과실은 0이야. 하지만 결국 내가 훨씬 더 천천히 주행했다면 사고가 나지 않았을 수도 있고, 아예 자동차 대신 걸어다녔다면 사고는 없었겠지. 딥페이크도 똑같아. 내가 SNS에 내 얼굴 사진을 몇개 안올렸다면 딥페이크에 당할 확률이 적어지는거고, 아예 SNS를 안한다면 딥페이크에 당할 일은 없겠지. 하지만 딥페이크는 최근 등장한 위협이고 이를 막을 제도는 미흡하지. 교통상황에 예를들어 비유하면 "최근 국산차 대부분에게 원인 모를 급발진 결함이 일어난 상황"이라고 가정할 수 있어. 사고가 나도 내 잘못은 아니지만 평소보단 속도를 낮춰서 조심히 주행하는게 현명하겠지? 똑같이 지금같은 상황에는 SNS에 사진을 올릴 권리를 너무 남발하지 않는 편이 좋은거지. 지금의 상태가 옳은건 아니지만.
@@연우-m3z 그거하곤 별개의 문제다. 악용하는사람이 잘못하는건 당연한건데 그런 애들이 판치고 있는 세상인건 조금만 의식하면 다 알수 있는거고 나를 보호해줄 법적인 장치가 없으니 sns에 사진을 안올리는게 나를 위한 방법임. 그렇게 올리고싶으면 지인만 볼수있게 친구공개만 하고 팔로우나 친구도 안면 알고있는 사람만 받아야지. 이런것도 비밀번호 수시로 변경하는 것처럼 보안관리에 해당함 사회에 제공되는 서비스를 좋다고 막 쓰다간 당하는것도 진짜 순식간이다 ㅋㅋ 님같은 안일한 생각가진애들이 반 이상임
부모님은 일단 너 아닌데라고 말씀하시고 자녀가 아닌걸 바로 알아보신 이유가 부모님들은 보정이 들어간 요즘의 셀카가 자녀의 얼굴과 다르다는 걸 너무 잘 알고 계심 본인이나 또래 지인들은 셀카의 얼굴이 실제와 닮았다고 인지하지만 잘 나온 셀카 보여드리면 부모님들은 '이거 너 아닌데'라고 흔히들 말씀하심. 그 사람만이 가진 특유의 외형적 특징이 보정으로 왜곡되기 때문임 어색한 부분이 있는 사진을 바탕으로 작업을 하고 실험을 진행해서 속지 않으신 거라고 생각함 보정 셀카가 아닌 실제 모습을 촬영한 사진 날것 그대로 딥페이크를 만든다면 부모님이라도 속으실 것 같음... 영상 속 기술 보고 딥페이크 티나고 허접하다고 생각할 게 아니라 더 경각심 가지고 조심해야할듯함
딥페이크가 아무리 정교하게 복제를 한다고 해도 사람이 가진 성격과 느낌 그리고 그동안 함께 살아온 그 사람만의 미묘한 표정변화까지는 기계가 감히 따라할 수 없기 때문에 그리 쉽게 당하지는 않을 듯 하네요 차라리 음성 전화를 더 정교하게 만든 보이스피싱이 훨씬 더 위험할 것이라 생각됩니다.
경범죄일수록 형량을 낮게 잡는건 범죄자가 아니라 피해자들을 위한거임. 강간의 형량이 살인의 형량보다 낮은것도 똑같은 원리임. 만약 강간=살인이라면 강간 후 살인까지는 가지 않았을 성폭행범도 증거를 없애기 위해 살인을 할 것임. 어짜피 강간이나 살인이나 형량은 달라지지 않기에 오히려 살인을 하는 쪽의 인센티브가 항상 늘어나는 것 때문.
앞으로 정치인이나 사회적으로 영향력있는 사람이 선동할수 있는부분이니 적어도 이 영상을 본 사람들이라면 매사에 의심을 해야합니다. 고인들 추억팔이로 AI화 해서 문화적으로 부터 슬금슬금 접근해 오는데 그거 절대 반가운 기술 발전 아닙니다. 그냥 내가 진짜라고 믿고있는것 외에는 모두 가짜일 가능성을 염두해 두는 습관을 가져야 하는 세상의 초읽기 입니다.
내가 이런날이 언젠가 올줄 알았다 하... 기술의 발전에 있어서 장점도 단점도 있는건데 단점을 보완할 생각도 안하고 기술부터 무적장 내는 느낌같아 내심 불안했는데.. 이런거 범죄로 악용 될 가능성이 있는것을 애초에 차단 하면 안됩니까? SNS에 셀카 찍은거.. 프사 올려놓은걸로 딥페이크 악용하면 어쩔려고 진짜
부모님들은 자식을 너무 사랑해서 좀만 속여도 넘어가서 진짜 걱정임. 옛날에 울엄마도 피싱당할뻔했는데 어떤여자가 나인척 막 울면서 엄마살려줘 이랬다고 함. 걍 그것만 듣고서도 속아서 울고불고 납치범한테 줄 돈구하고다녔음. 다행히 돈빌려달라고 연락했던 엄마친구분이 애한테 먼저 전화해보라고함. 얼마나 패닉이었으면 그때까지 내번호로 전화할 생각조차 못하고있었음 울엄마.. 솔직히 병원에서 차분하게 영상찍어보내는정도는 얘가 왜이러나 하고 안속는사람이 더 많을거같은데 만약에 사기범이 애 납치한척하고 울고있는 영상 저화질 딥페이크로 찍어보내면 부모님들 진짜 난리날수도있음. 미리 조심하라고 말씀드려야할듯
![🎭7회 요약 | 15살 아들이 남긴 15시간의 녹음파일과 다중인격 주장한 살인범의 정체 [한 끗 차이: 사이코멘터리] 매주 (수) 밤 8시 40분 본방송](http://i.ytimg.com/vi/KCSh6oOt2_I/mqdefault.jpg)
무엇보다도 초전문가가 아니라 그냥 그알 제작진이 간단하게 만든 딥페이크였음에도 두분의 부모님이 카드를 보내주셨다는게 중요한듯
진짜 사기꾼이 작정해서 보냈으면 모두 쉽게 넘어갈 수 있다는 게 큰 것 같네요
부모님은 그렇다고 해도 좀 연세있으신 할아버지 할머니들은 진짜 깜빡 속아넘어가시겠네요..ㅠㅠ
무서운 점은 저게 "공개된 오픈소스"인데도 저정도까지 구현가능하다는 거… 지금이라도 작정하고 악용하면 저것보다 훨 정교하게 구현가능하다는 거잖아. 그리고 앞으로는 더 쉬워진다는거고. 조금이라도 더 빨리 예방과 대응법을 본격적으로 연구하고 알려주는게 필요하다봄.
인스타그램같은 곳에서 아이돌들 틱톡영상에 딥페이크로 합성해놓은것도 있는데 그것보면 이 동영상에 나온 딥페이크보다 훨~씬 자연스럽고 티 안남... 그니까 가짜인게 티나서 걱정 안 해도 되는게 아님. 이런걸 누가 속아~ 속는사람이 바보야 라는 생각도 하면 안되고... 실제 범죄에 사용되고 있는 딥페이크 기술은 이 동영상에 나온 딥페이크보다 더 무서움... 경각심을 가져야 할 이유가 있음
이번 그알에서 만든 딥페이크 너무 허접했음 이수근 레슬링 영상은 진짜 너무 자연스럽던데
@@sksskdiㄹㅇ 그알에서 인터뷰할때 피해자들 딥페이크 해놓고 인터뷰한것만 봐도 꽤 자연스럽던데 이 실험에서의 딥페이크가 좀 부자연스러워서 사람들이 경각심을 덜 갖는것 같아서 아쉽... 그래도 이런건 그알만 할 수 있는 방송이긴함
딥페이크 아니여도 본인 폰번호로 달라고 하면 어떤 부모가 안주냐 ㅋㅋㅋㅋㅋ어휴...실험수듄이...
@@인성문제없어-e3h 제대로 안봤냐 ㅋㅋㅋ제작진껄로 했잖아 ㅄ아
훨씬 자연스러운건 이미지 자료가 훨씬 많으니까 그런듯
이제는 딥페이크가 아니라 AI 성대모사도 조심해야 된다
김광석 목소리 흉내내서 노래하는 것을 감동이라고 보여주는데
김광석 목소리로 노래 듣는 건 좋지만 이 기술로 이제는 당당하게 전화로 보이스 피싱을 할 수 있는 거다
ㅋㅋ 배워갑니다
그런데 전화로 하려면 즉시성이 있어야하는데
말하면 바로바로 자연스러운 말로 대답하는게 가능하려나요?
@@NoonDeongYee 통화는 사람이 하고 목소리 변조를 하는 거죠
@@drmphy 와 그게 현실화되면 진짜 개지리겠다......
데이터과학 공부해서 아는건데 정교하게 할려면 적어도 사진이 1000개정도 필요해요. 저기 그알에서는 적은 사진으로 데이터 수를 뻥튀기하는 부트스트랩 같은 기법을 쓴거같은데 그렇다고 하더라도 저렇게 적은 사진으로 부모님을 속일만한 퀄리티로 나오는게 무섭네요.
일단 지금으로써는 일반인들이 대비 할 수 있는 방법은 SNS에 올린 총 사진 개수를 10개 이내로 유지하는것 밖에 없어보이네요.
자식 걱정하는 부모 마음 이용해서 사기 쳐먹는 놈들 어휴
그냥 죽여버려야함.
칼로 수십번 찔러서 죽여도 시원찮음..
딥페이크 아니여도 본인 폰번호로 달라고 하면 어떤 부모가 안주냐 ㅋㅋㅋㅋㅋ어휴...실험수듄이...
@@user-6626 ㄹㅇㅋㅋ
@@인성문제없어-e3h 버러지 쉐기
불속성 자식이 남의 부모까지 등쳐먹을려고...
ㅜㅜㅜㅜㅜ카드 사진 보내는 장면들에서 뭔가 울컥하다..ㅜㅜㅜ 부모님의 사랑하는 마음이 이렇게 이용 당한다는게 너무 슬프다😭
딥페이크 정말 위험한 기술이네요...
눈물나요 ㅠ
어 저도 갑자기 카드 사진보내줄때 눈물이 나더라구요ㅠㅠ울컥해서 나 뭐야 왜이래 이랬는데 나만 그런게 아니였네요ㅠㅠㅠ
부모는 아닌 것 같아도 일단 자식이 다쳤다니까 보낼 수 밖에 없는 듯...ㅠㅠ...
티 안난다고 안심할게 아니지
저건 그저 실험용으로 만들어진거라 퀄리티가 떨어지는 것뿐이고
작정하고 만들면 퀄리티도 훨씬 높고,
기술은 항상 점점 발전하기 마련임
모르면 당하는거야
매일 보는 자식이 아니라 멀리 떨어져 사는 자식을 둔 부모는 혹 할 것 같네요. 기술을 나쁜 쪽으로 이용하는 나쁜놈들을 잡아내고 억제할 수 있는 기술도 빨리 발전하면 좋겠습니다만....그 시간에 조심하는 수 밖에 없겠네요...
진짜 어머님이 카드 정보 보내주시는 순간 어어 어떡해 하면서 육성으로 튀어나왔다
진짜 실험인 거 아는데도 가슴 철렁함ㅠ
폰영상이라 좀 어색하게 보이겠거니하고 속을듯 특히 나이드신분들ㅠㅠㅠ이거널리널리퍼져서 신종사기싹을 뿌리뽑았으면ㅠㅠ
엄마랑 같이봤어요. 저희 엄마께서도 조심하겠다고 말씀하셨어요. 좋은 예방자료 감사합니다. 진짜 눈여겨 보지 않으면 큰일날 것 같아요.
순기능에 비해 역기능이 훠얼씬 심각하게 큰데 이건 아예 못쓰게 해야한다고 생각함
그럼 cg 그래픽도 막아야할듯 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
@@인성문제없어-e3h 이거 ㄹㅇ 악용가능성이 높은 기술들은 수도없이 많은데 이미 널리 퍼진 것들도 많은데...
쓸 애들은 어차피 쓸거고 국내에서 막는다 한들 필리핀 중국에서 쓰면 어쩔거고 결국 실효성 없는 법
@@인성문제없어-e3h cg 그래픽은 인력과 자본이 든다 빡대가리야
나 진짜 화 안내는 성격인데 가족을 이용해서 사기치는거 존나 짜증난다 진짜
원래 피싱이란게 100명중 1명만 걸려라 마인드죠;; 대비해야겠네
부모님이 신용카드 찍어보낼때 눈물부터 나옴... 에휴..
이것이 신종 범죄다라는것을 알려야 한다고 생각합니다. 특히 전자기기에 익숙한 이들에게 파급력이 큰 유튜브와같은 온라인 매체를 통해서요.
이제 가족, 친구간 암구호 써야겠다...
ㅋㅋㅋㅋ개쩌네
화랑
@@jinos 담배!
ㅋㅋㅋㅋㅋ
부엉바위 ! 운지 !
SNS에 얼굴 사진 올림 안됨. 어쩔 수 없음, 스스로 최대한 조심해야함.
무조건 부모님과 나만 아는 비밀단어?같은거 정해놔야됨
나 5살때 어디살았지? 등등
추억이 방어물이될듯
SNS같은 곳에서 찾아낸 정보를 이용하면 그것도 의미가 없을듯
@@parkjun4288 ?? 내가 왜 피싱범임
@@parkjun4288 SNS 주요 사용자층인 2~30대를 타겟으로 한 범죄라면 SNS또한 범죄자가 알고 있는 경우가 있을거고 그럼 5살때 거주지같은 정보는 알고있는 경우가 있을텐데
요즘 문자 메시지가 계속 오는데요
엄마 나 폰이 고장나서 이번호로
문자로만 이러고 오기 시작해서
우리 집엔 그렇게 문자올 자녀가
없어서 사기구나 하고 차단 하니까
계속 딴번호로 6번정도 받았는데요
시청자 여러분 그런 사기문자 속지
마세요 사기술이 점점 지능화 되네요^^
와 소름.. 수법이 똑같아서 지겹지도 않냐고 물어봤었는데.. ㅋㅋ
6번ㅋㅋㅋㅋㅋ
사기범죄가 없는 대한민국으로 발전되길 소망합니다.
법이약해 외국인들이나 너나할거 없이 범죄 이뤄질듯
문재앙민국에서는 안됨ㅋ
강력범죄, 원초적범죄는 문자가 생기기전부터 있었죠...
@@your_mom_killer ㅈㄹㅋㅋㅋㅋㅋ누가보면 다른 대통령때는 사기범죄가 없었는줄 알겠어? 정치병은 정신병이다 진짜. 아무 이슈나 이러고 다니는 거봐라 확실히 정신병임ㅋㅋ
비대면으로만 진행되는 케이뱅크나 카카오뱅크 같은 인터넷 전문 은행은 위험해질 수도 있겠군요.
딥페이크는 둘째고 보이스페이크가 문제에요 영화 미션임파서블 3에서만 봐도 알수있죠 앞으론 전화 통화 목소리마져도 카피해버리는 기술이 나온다면 이제 직접대면 하지않고 정보를주면안됨
몇가지 소소한 장점보다 굵직한 단점 한방이 너무 커서 매우 불필요한 기술로 보임
어떤 장점이 있을까요?
@@andlsdls 영화 촬영 영상 그래픽 분야에 쓰이는 걸로 알고 있습니다.
이거 잘못하면 중국 CCTV 꼴난다
중국에서는 얼굴 자동인식이 되서 무단횡단하면 자동으로 계좌에서 돈 빠져나간다고함
진짜 악용의 여지가 너무 큰데 관련 법이 못따라가는 현실이 답답하다.... ㅠㅠ 이미 아이돌들은 포로노에 합성되서 여기저기 사이트에 떠돌아 다니는데....
나중에 진짜 구별 못하는 시대가 올까봐 무섭다....
중요한건 두명은 사진을 보고 보낸게 아니라 문자만 보고 보낸게 팩트 자식 걱정하는 부모님들 자식들이 뜬금없이 돈 요구하면 한번더 생각해보시길...나도 제발...
연예인 말고 일반인들도 진짜 티 안 나게 되는 거 시간문제임. 제발 해결됐으면 좋겠다..
ㅇㅈ..
안닮았다고 무시하는 사람들은 당장 인터넷에 떠도는 아이돌 딥페이크 영상 보면 생각이 바뀔거임
이런건 무조건 널리 알려야되는게 어차피 악용할 놈들은 이런거 없어도 다 할테니까 차라리 세상 모두가 다 안다면 속을일이 확 줄겠지 아무도 모를 수 없다면 다 아는게 나음
지금도 전화만으로 당하는 분들 많잔아요. 보이스피싱에 대해 부모님께 항상 말씀드리고 어떻게 대처하자는 방법도 철저하게 약속했는데 딥페이크 피싱...미처 생각 못했네요. 당장 말씀드려야겠네요. 영상 정말정말 감사드립니다. 우리 모두 대처합시다.
sns에 얼굴 사진 많이 올리지 마세요ㅠㅠ
@@연우-m3z 돈을 훔쳐갈 생각하는 놈들이 잘못이지
내가 지갑에 현금 잔뜩 든거 길거리에서 대놓고 보여준 난 잘못 없지 ㅋㅋ
이런거랑 비슷한거임
조심할수록 좋은거임
@@연우-m3z 누가 개인 SNS에 사진올리는게 범죄의 원인이라고 함? 지혼자 이상하게 해석해놓고 헛소리하네ㅋㅋ 주거침입죄가 있다고 해서 넌 집 현관문 매일 편하게 열어놓을거냐? 내 행동이 범죄의 원인이라고는 할 수 없어도 내가 좀 더 조심해서 좋은건 당연한거 아닌가? 애초에 SNS에 사진 한장 안올린 사람은 딥페이크 당할 확률이 0%인 반면, 사진을 많이 올릴수록 딥페이크 당할 확률이 올라가는건 당연한잖아; 형법제도가 곳곳에 존재해도 우리는 매일 범죄가 일어난다는 사실을 충분히 인지하고 있는데 자신의 사진을 SNS에 올린다는건 내 외모를 인터넷을 이용하는 수십억 인구에게 공개적으로 자랑할 권리와 딥페이크 당할 확률을 맞바꾸는 것과 마찬가지지
@@연우-m3z 세상 모든 권리에는 전부 책임과 의무가 따르는거야.
니가 페이스북 회사에 무슨 직접적 이익을 주길래 페북에 얼굴 사진을 올릴 권리가 생기는지부터 생각해봐.
너는 페이스북에 무료로 너의 외모 자랑을 포함한 여러 정보를 전세계 수십억 인구한테 올릴 권리를 얻는 대신,
페북 광고들을 보게되는 책임이 따르고, 페이스북 본사에 너의 위치 데이터를 비롯한 개인정보를 보내야하는 의무가 따라오잖아?
좀 더 넓고 본질적인 의미에서 생각해보면 우리가 집 대신 밖을 걸어다니는 것도 전부 길거리에서 칼에 찔릴 위험, 소매치기에 노출되는 위험을 전부 감수하고서 하는 행동이야.
여기까지는 우리가 길거리를 걸어다닐 수 있는 권리로서 짊어지게 되는 책임이고, 우리는 이 같은 위험이 거리에 도사린다는 걸 충분히 인지는 하고있어.
대신 이러한 책임을 져야하는 사회가 옳은건 아니지. 그래서 치안 유지, 형법 제도 등으로 불필요한 위험에 대한 책임을 없애려는 세상을 만드려는거고.
그래서 나도 딥페이크에 당할 위험을 감수해야하는, 불필요한 책임이 도사리고 있는 사회는 변하는게 맞다고 생각해. 하지만 지금 관련 제도가 발의되지 않은 상황이고, 딥페이크에 대한 위험이 존재하는 것도 맞기 때문에, 앞으로 몇년간은 SNS에 사진을 올릴 때 이런 불편한 책임을 인지하고 있는게 맞아.
교통사고가 났어. 나는 제한 속도 아래로 주행했고 변호사의 말에 따르면 내 과실은 0이야.
하지만 결국 내가 훨씬 더 천천히 주행했다면 사고가 나지 않았을 수도 있고, 아예 자동차 대신 걸어다녔다면 사고는 없었겠지.
딥페이크도 똑같아. 내가 SNS에 내 얼굴 사진을 몇개 안올렸다면 딥페이크에 당할 확률이 적어지는거고, 아예 SNS를 안한다면 딥페이크에 당할 일은 없겠지.
하지만 딥페이크는 최근 등장한 위협이고 이를 막을 제도는 미흡하지. 교통상황에 예를들어 비유하면 "최근 국산차 대부분에게 원인 모를 급발진 결함이 일어난 상황"이라고 가정할 수 있어. 사고가 나도 내 잘못은 아니지만 평소보단 속도를 낮춰서 조심히 주행하는게 현명하겠지?
똑같이 지금같은 상황에는 SNS에 사진을 올릴 권리를 너무 남발하지 않는 편이 좋은거지. 지금의 상태가 옳은건 아니지만.
@@연우-m3z 그거하곤 별개의 문제다. 악용하는사람이 잘못하는건 당연한건데 그런 애들이 판치고 있는 세상인건 조금만 의식하면 다 알수 있는거고
나를 보호해줄 법적인 장치가 없으니 sns에 사진을 안올리는게 나를 위한 방법임. 그렇게 올리고싶으면 지인만 볼수있게 친구공개만 하고 팔로우나 친구도 안면 알고있는 사람만 받아야지.
이런것도 비밀번호 수시로 변경하는 것처럼 보안관리에 해당함
사회에 제공되는 서비스를 좋다고 막 쓰다간 당하는것도 진짜 순식간이다 ㅋㅋ 님같은 안일한 생각가진애들이 반 이상임
그냥 조심하자는 의미로 쓴 글에 열올리는 불편러가 있네 ㅋㅋ 사기꾼이 잘못인거 당연하지 그걸 말이라고
음성도 ai로 합성이 가능한 시대라서
영상과 음성까지 합성이 되면 실시간 영상통화로도 피싱범죄를 할 수 있겠죠
딥페이크도 그렇고 음성ai도 그렇고 아직까지는 실시간으로 연산을 하기는 성능이 못따라줍니다 다만 5~10년뒤에는 어떨지는 모르겠지만요
음성은 별로 중요하지 않아요. 실제 군대복무중인 부모한테 아들인척 하고 지금 다쳐서 병원이라고 음성통화만으로 통화해서 돈뜯어낸 사람들 많은데, 사람이 당황하면 음성은 크게 신경 안쓰는 경우가 많은거 같아요
저건 단순하게 만들어서 어설픈거지 사기꾼들이 각잡고 제작해서 부모님들한테 보내면 다들 의심 하시기도 전에 자식 걱정에 당할 수밖에 없을 것 같다ㅠ
부모 자식간에 암구호를 만들어 놔야 한다. 너 아들 맞아? 의심스러우니까 암구호 확인할게~
엄마 : 결혼
아들 : 포기
엄마 : (흑....)
ㅋㅋㅋㅋ
그래도 요즘은 문자로는 피싱 안당하는 분위기는 형성이된거같긴 하네요 . . . 영상 피싱은 너무 .. 어려울거같애 ㅜ ㅜ
이 유튜브영상을 공유 하시면 될듯
방송보고 부모님께 어떻게 말씀드려야되나 했는데 이렇게 올려주셔서 감사해용
전화하면 된다고하는데 목소리도 카피하는기술이 이미 나와있습니다. 예전 돌아가신 가수들 목소리를 카피해서 요즘노래를 부르는게 방송에도 나왔죠. 이제 전화상으로도 그어떤 정보도 주면안됩니다.
기술은 빠르게 발전하는데 그 기술을 악용할가능성에 대한 대비책이 없다는게 참....
하다하다 딥페이크로 사기쳐서 부모님들 불안한 마음을 이용하는 새끼들 다 처벌해야함
이것도 그알 제작진들이 만들어서 프레임이나 목과 얼굴색이 잘 안맞는데
진짜 기술자들이 만들면 만든 사람빼고 그 누구도 알 수 없을 정도 입니다
보이스피싱범: " 아...이런걸 주의하면 되겠구나? ^^"
100명에게 1명 걸려도 이득이면 멈추지 않을듯....;;
이제 AI로 목소리도 흉내낼 수 있는데 딥페이크랑 합작하면 안 걸려드는 사람이 없겠네... 이젠 뭘로 내가 아님을 확인 시켜줘야하나? 지문이라도 찍어서 보내야 하나?
와 실험 너무 충격적이다..
부모님들이 카드를 보내는것 보면 충분히 사기로도 악용될것 같은데 금지가 되어야 될듯..
바로 부모님께 영상 공유했습니다
악용하는 사람들이 없었으면 좋겠네요🥲
딥페이크는 진짜 문제긴 하네 ..돌아가신 분들을 영상으로나마 다시 보거나 하는건 좋지만 .. 범죄에 더 악용될 것 같아 전 세계적으로 강력히 규제해야할듯...
아니 합성영상이 훨씬이쁘고 잘생기게나왓는데...?암만봐도 실물화면이랑 안닮앗는뎈ㅋㅋㅋㅋㅋㅋㅋ
ㅠㅠ이게 부모님들이라,, 혹시?라는 생각이 드니깐ㅠㅠㅠㅠㅠ
부모님은 일단 너 아닌데라고 말씀하시고 자녀가 아닌걸 바로 알아보신 이유가
부모님들은 보정이 들어간 요즘의 셀카가 자녀의 얼굴과 다르다는 걸 너무 잘 알고 계심
본인이나 또래 지인들은 셀카의 얼굴이 실제와 닮았다고 인지하지만 잘 나온 셀카 보여드리면 부모님들은 '이거 너 아닌데'라고 흔히들 말씀하심. 그 사람만이 가진 특유의 외형적 특징이 보정으로 왜곡되기 때문임
어색한 부분이 있는 사진을 바탕으로 작업을 하고 실험을 진행해서 속지 않으신 거라고 생각함
보정 셀카가 아닌 실제 모습을 촬영한 사진 날것 그대로 딥페이크를 만든다면 부모님이라도 속으실 것 같음...
영상 속 기술 보고 딥페이크 티나고 허접하다고 생각할 게 아니라 더 경각심 가지고 조심해야할듯함
저거 얼굴 한번 손으로 왔다갔다 해보라고 하면 얼굴 뭉개져버려서 티나긴 해요 근데.... 부모님들 저상황에선 눈에 뵈는게 없어서 돈 송금하심....
목소리 통화 하고 본인확인 할 수 있는 질문같은거 만들어서 세세하게 하지 않는이상 카톡에 영상첨부만 하면 걸리겠네요.
딥페이크 기술이 있어야하는 가장큰 이유는 대체 뭘까....엔터테이먼트 없어도 된다.bts(얼굴) 알려주는 영어도,이미 고인이 된 배우도 그저 추억으로 남기고 제발 사기당하고 문제가 되는 기술은 허가내지 말자....개발의 의미가 뭐냐고...
사기 기술이 발전되어가는 속도만큼 개인의 금융처리 방식에 대한 암호화 기술도 발전되면 좋겠네요. 아무리 카드 번호나 비밀번호 안다고 해도 결국 본인이 아니고서는 직접 결제를 할 수 없는 시스템 같은 것들 말이죠.
sns에 얼굴 나온 사진들 위험한듯.. 딥페이크나 보이스피싱이 아니더라도 일반인들 사진 모아서 이상한데 쓰는 기사도 있었고.. 참 무서운 세상임
sns에 셀카올리기도 힘들어지겠네... 딥페이크 데이터셋이 되는거 아닌가?
그냥 에스앤에스에 얼굴올리지마요 ㅠㅠ 얼굴팔리고 내얼굴이 남들한테 뿌려질거 생각하면 ㅋㅋ..
딥페이크로 여성가수들 희롱하는 몇몇 놈들..
그렇게 비호하며 키운 딥페이크는 결국 너희들 자신에게도 되돌아간다는걸 명심하길
점점 사람 감각으로 구별하기 힘든 세상이 올 수도 있겠네요... 얼른 딥페이크 기술이 이용되었나 체크할 수 있는 기술이 나와야할 것 같습니다.
소름이 쫙 돋네요. 많은 사람들이 이 영상을 봤으면 좋겠어요. 무엇보다 중요한 건 개인정보와 신용정보를 온라인에서 전달하지 말 것. 본인에게 직접 전달해야 될 것. 이네요.. 무섭네요.
이거 피싱 사기 조심해야 한다 알면서도 당하는 사람 많을거다 아마도
암만봐도 안닮았는데??
너무 안닮았음ㅋㅋㅋㅋ
딥페이크가 아무리 정교하게 복제를 한다고 해도
사람이 가진 성격과 느낌 그리고 그동안 함께 살아온 그 사람만의
미묘한 표정변화까지는 기계가 감히 따라할 수 없기 때문에
그리 쉽게 당하지는 않을 듯 하네요
차라리 음성 전화를 더 정교하게 만든 보이스피싱이 훨씬 더 위험할 것이라 생각됩니다.
실험이지만 짜증나는 영상이다.
피심범죄자는 동원할수 있는 최대형량을 때려야된다.
최대 무기징역까지,,,
사기죄 형량을 무기징역으로 올려라 무서워서 이짓거리 하긋나
사형으로 올려도 범죄는 계속 증가함. 마약범죄 관련 사형을 시행하는 국가만 봐도 마약범죄는 줄지 않고 오히려 더 늘어남. 단순히 형량을 올린다고 범죄가 억지되는 것은 좀도둑 수준인 경우에 한정됨.
경범죄일수록 형량을 낮게 잡는건 범죄자가 아니라 피해자들을 위한거임. 강간의 형량이 살인의 형량보다 낮은것도 똑같은 원리임. 만약 강간=살인이라면 강간 후 살인까지는 가지 않았을 성폭행범도 증거를 없애기 위해 살인을 할 것임. 어짜피 강간이나 살인이나 형량은 달라지지 않기에 오히려 살인을 하는 쪽의 인센티브가 항상 늘어나는 것 때문.
가족끼리 수신호라도 만들어야 될,판이네
짱구가족 긁어긁어 벅벅... 몇수앞을 내다본것인가
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
1층도다리2층참돔 어떻노
저런 거 예방으로 가족끼리 돈 급할때 사용하는 단어 만들면 좋겠다 예를들면 ‘배아픈사과’상황이야! 이런식으로
@이치 왜 더 위험한가요?
@이치 왜
앞으로 정치인이나 사회적으로 영향력있는 사람이 선동할수 있는부분이니
적어도 이 영상을 본 사람들이라면 매사에 의심을 해야합니다.
고인들 추억팔이로 AI화 해서 문화적으로 부터 슬금슬금 접근해 오는데
그거 절대 반가운 기술 발전 아닙니다.
그냥 내가 진짜라고 믿고있는것 외에는 모두 가짜일 가능성을 염두해 두는 습관을 가져야 하는 세상의 초읽기 입니다.
아직까지는 그렇게 정교하지 않아서 다행이구만 ㅎㅎ
그리고 1차2차적으로 전화를 해서 직접 전화로 확인을 하셔야 합니다.
나중에는 정말 정교해져서 음성까지 구분이 힘들다?? 그럼 그 발전한 기술로 또 다른 보안이 나오니 걱정 하지 맙시다~
요즘에 피싱사기도 단순 전화사기에서 대면피싱으로 바꼈다던데 딥페이크까지 진짜 무섭네요 이런거는 많이 공유되야 할것 같습니다
와 무섭고 눈물난다 ㅜ ㅜ.. 어쩌다가 우린 이런 상황까지 오게 됐을까
신기술과 접목한 사기가 많아지고 있는 요즘 정부에서 사기예방부서 크게 만들어서 국내,국제사기에 대응해야 한다고 생각합니다. 한해 사기로 해외로 유출되는 돈도 엄청 많을 듯
내가 이런날이 언젠가 올줄 알았다 하...
기술의 발전에 있어서 장점도 단점도 있는건데
단점을 보완할 생각도 안하고 기술부터 무적장 내는 느낌같아 내심 불안했는데..
이런거 범죄로 악용 될 가능성이 있는것을 애초에 차단 하면 안됩니까?
SNS에 셀카 찍은거.. 프사 올려놓은걸로 딥페이크 악용하면 어쩔려고 진짜
나는 당할 일 없겠다 울엄마가 영상 재생하는 방법 모르심...
저희 엄마는 온라인 뱅킹 할 줄 몰라요,,,,ㅋㅋㅋㅋㅋ
@@엄공주-z4g 아닌데요ㅋㅋㅋ
부모님들은 자식을 너무 사랑해서 좀만 속여도 넘어가서 진짜 걱정임. 옛날에 울엄마도 피싱당할뻔했는데 어떤여자가 나인척 막 울면서 엄마살려줘 이랬다고 함. 걍 그것만 듣고서도 속아서 울고불고 납치범한테 줄 돈구하고다녔음. 다행히 돈빌려달라고 연락했던 엄마친구분이 애한테 먼저 전화해보라고함. 얼마나 패닉이었으면 그때까지 내번호로 전화할 생각조차 못하고있었음 울엄마.. 솔직히 병원에서 차분하게 영상찍어보내는정도는 얘가 왜이러나 하고 안속는사람이 더 많을거같은데 만약에 사기범이 애 납치한척하고 울고있는 영상 저화질 딥페이크로 찍어보내면 부모님들 진짜 난리날수도있음. 미리 조심하라고 말씀드려야할듯
지금은 바로 걸려오는 전화를 끊었지만, 기술이 발전하면 피싱범이 당당하게 딥페이크된 목소리로 통화할 것 같네요....
저건 기초적인 학습만 거친 딥페이크 기술이네요. 학습이 잘된 딥페이크는 진짜인지 아닌지 구분도 안돼요. 근데 딥페이크로 영상통화가 가능할지는 의문이네요. 딥페이크라는 기술은 결국 영상위에 이미지를 얹는거라 영상의 패킷양이 많아질텐데, 그땐 패킷 때문에라도 어플사에서 블락 시켜버릴듯.
진짜 사람 간절하고 걱정하는 마음 이용해서 돈 뺏는것들은 죽었으면 좋겠어ㅡ.ㅡ
그리고 저 영상이 아무리 어색해도 부모님 입장에선 우리 딸/아들이 아파서 링겔 맞는다고 연락이 왔는데.. 바로 보내줄 거 같음..
진짜 헐이다... 무섭네ㅜㅜ 엄빠한테도 말씀드려야겠다ㅜㅜ
부모님과 자식만의 암호를 만들면 간단하게 해결됩니다. 전화를 못한다거나 영상통화를 못한다고 해도 사기를 치려면 문자나 톡은 계속 보내올텐데, 사전에 약속한 암호 말하라고 하면 보이스피싱은 그부분은 대처할수없죠. 아무리 얼굴이 똑같아도.
이 영상에서 나오는 딥페이크는 일단 퀄리티가 너무 낮음 유튜브만 봐도 진짜 딥페이크 티안나는거 훨씬많은데 속을꺼 같은데
본방 보고 부모님께 알려드려야겠다고 생각했는데, 이렇게 짧은 영상으로 편집해주셔서 감사합니다. 이거 보여드려야겠어요
여자분은 진짜 닮은거같아.
어플이 아니라 전문적으로 합성하면 진짜속은거같음
점점 피싱도 고도화되네요. 부모님들 특히 미리 주의를 드려야 할 듯합니다.
진짜 큰일이다 이거 시간지나면 더할거같은데....진짜 대응할거를 말녀해야될거같다..ㅠ
정말 그알팀 대단한거 같습니다 이런 정보를 누구보다 빠르게 알려줘서 대처를 할 수 있게 해줘서 고맙습니다
대화 정도는 해야 믿을 듯하다 그리고 평소에 암호 같은 것도 만들어서 맞는 지 확인하는 방법도 필요할 듯....
결국은 다 아날로그로 회귀하게 되려나? 영상 사진 음성 다 믿을 수 없게 되어버리는 때가 오면
난 이미 아날로그 시대가 그리움
역시 부모님은 대단해
아씨 눈물나 ㅜㅜㅜ 사기꾼들 제대로 처벌하라고 ㅜㅜ 우리집도 보이스피싱 당했는데 대포통장 주인 찾아도 아무도 처벌안받고 아무도 벌받은이가 없다고 이러니까 사기를 치지
이게 오픈소스라서 학습이 많이 잘된 소스가 아니어서 그렇지 맘멈고 고성는 소스 구해서 하면 속을거 같아요
부모입장에서 안당하는 가장 확실한방법.
1. 어~전화기 찾고 전화해~~~
2. 어~ 내가 10분있다가 이번호로 영상통화 걸께 받아~ 하고 바로 걸어버리기~
3. 일단 내가 거기로 갈께~ 어디라고?
사기도 발전 하네 ㅋㅋㅋ 나중엔 인조인간까지 만들어서 사기치겠다
전화를 굉장히 무미건조하게 받기 때문에 엄빠가 안속으실거 같음 ㅋㅋㅋㅋㅋㅋㅋ 근데 밑에처럼 구호를 만들다던가 금전은 대면을 통해 받는다던가 이런 대책은 필요할듯. 세상 참..
부모님께 확실히 말해놔야겠네...카드번호같은거 보내주지말고 입금하지말고 의심해보고 아니면 직접 그 병원에 오던가 물어보라고해야겠네....아니 왜 이런것만 빠르게 발전하냐..
역시 부모님의 사랑은... 자식들은 죽어도 뛰어넘을수 없네요ㅠㅠ
딥페이크 어플 다운로드 못하게하라❌❗❗❗❗❗❗
안비슷하다고 사람들이 하는 이유는 저 참가자들 사진이 다 뽀샵 오지게 한 사진이라 그럼 ㅋㅋㅋㅋㅋ 보세요
보이스 피싱은 날로 발전하네요.. 40여년전 군대간 막내 삼촌도 군대에서 다쳣다고 해서 할머니가 그당시 10만원을 보내줬다고 하던데 자식으로 부모맘속이는 사기꾼 사형 시켜야 이런게 근절 될까요 ㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠ