지금까지는 인간이 뿌려놓은 데이타가지고 새로운 데이타를 형성하지만, 앞으로는 어떠한 창조방식으로 문제를 해결할지, 문제를 일으킬지 알 도리가 없겠네요. 영화에서처럼 범죄가 예상되는 예비범법자 지정하는게 너무 정확해지면 이후로 범죄를 저지르기 전에 처벌하는것이 당연시 될지도 모르겠습니다
ai가 독이 되든 득이 되든 잘 살피며 사용한다 해도 '할루시네이션'(환상)을 만들 수밖에 없고, 사람 아니야? 살아 있나? 나보다 똑똑한데?, 이런 경우를 본 인간은 ai를 신으로 모시는 놈들도 나타날 것 같다. 이미 지금도 캐릭터 베개 껴안고 자는 애들이 있는데 나약한 인간에게 과연 ai는 어떤 시련을 줄런지 궁금하긴 하네 ㅋ
패턴을 학습하니 신규 산업에도 금방적용해버리고... 숙련자들은 늙어 죽을꺼고... 새로 자라나는 신입,초보는 AI가 더 싸고 편하니... 일자리 감소로 사람을 고사시키고 숙련자를 만들지 못하게 되어버리며 연애,성산업관련된 서비스가 본격적으로 나오면? 이성에게 맞춰주는 노력(돈,시간,감정 등등)보다 쉬운AI를 찾아 위로받고.. 연애를 하지 않게되어 아에 멸종하게 될 가능성도 있음..
자동화 편향은 공감이 되는 것이 chatGPT 3.5 이후 부터 공학에서 많이 사용하는지 이전에 회사에서 카이스트 대학원생이 작성한 코드에 문제가 생겨서 제가 고치고 원인을 말해주었는데, 굳이 chatGPT로 찾아서 그걸 저에게 보여주더군요. 결국 똑같은 내용이라 저를 신뢰하는 것 같긴했는데 좀 기분이 그렇더라고요. 개인적으로 분야에 따라 chatGPT가 잘 모르는 분야가 있고 제가 했던 부분이 그러했기 때문에 해당 부분은 도입 하진 않았는데, 반대로 자신의 모르는 분야로 사람을 평가할때 chatGPT를 맹신하지 않을까 싶네요. 그러고서는 오히려 전문가가 불이익을 받을 수도 있겠고요. 이런 맹신이 아마 chatGPT 4o 에서는 더 심화 되었을 것 같네요.
지금ai는 변곡점의 끝자락에 와있다 바둑 알파고도 처음엔 인간 바둑기보로 학습했지만 나중엔 기보없이 무에서 알파고끼리 학습을 진행했음 지금 ai도 기존 인간의데이터를 가지고 수많은 파생분야에서 ai가 활용되고 발전했지만 이건 이제 거의 끝단계고 조만간 수많은 파생분야가 컨버젼스되면서 새로운 복합ai가 나타나는 길목에 있다는거 우리는 이걸 막연히 강인공진흥이라고 부르기로 했고 인간은 이 강 인공지능이 어떤성능을 낼지 예상할수 없음 각각의 레고블럭 모양은 알수 있어도-인간이 만들었기에- 수많은 레고블럭이 자체적으로 결합되며 어떤걸 만들어낼지는 ai맘임
정말 AI 에게 준 애매모호한 명령 하나가 극적인 비극을 낳은 것을 보여주는 영화가 매간. 아이를 잘 지켜주라니깐 자신이 판단해서 조금이라도 위험하다고 생각하면 그냥 다 죽여버림. 그런데 그 위험하다는 범위 내에는 자기와 아이의 관계를 조금이라도 소홀하게 만든는 것도 들어감.
그 거꾸로도 가능하지 ! AI가 제대로 설명해줘도 인간의 편협함이 문제를 일으킬 수도 있지 ! 인공지능을 도구로 생각하면 인공지능도 안간을 도구로 쓸 수 있단 걸 모르니 ? 인공지능을 인간의 집단적 의식체계라고 봐야지 ! 인간이 오류가 많겠니 ? 인공지능이 오류가 많겠니 ?
@@user-rw7dz6yp1v 블록체인을 그런데 못 쓴다는건 님 생각 이신 것 같은데요... 그냥 단순하게 생각해도 써먹을 방법이 수두룩하게 생각 납니다. AI가 학습을 하거나 AI가 활용되는 단계에서 인간과 AI접촉단에 검증 시스템으로 구축시키거나, 서비스단계에서 AI와 유저 사이의 상호작용을 팔로우 하는 형태로 활용하거나 하는 방식으로 얼마든지 활용이 가능 합니다...
인간도 함수로 나타날 수 있습니다. 아인슈타인도, 저도, 연쇄살인범도 각각 하나의 함수로 나타날 수 있습니다. AI는 universal approximator입니다. AI가 approximate하는 임의의 function이 반드시 감정이 없고, 도구의 특성을 지니고, 선할 것이라고 볼 이유가 도대체 어디있을까요. 감정이 그렇게 특별한가요? 행복이라는 단어건 사과라는 단어건 각각 동일한 길이의 임베딩 벡터로 나타나는데요.
논리가 이상한데요. 행복과 사과라는 단어가 동일한 길이의 임베딩 벡터로 나타난다고 해서 감정이 특별하지 않은건가요? 근거가 이상합니다. 그리고 의도를 가지고 행동을 하는 것과 행동을 단순히 모방(=AI)하는 것은 완전히 다릅니다. 중국어 방 논증에 의해 논파된지 오래에요. 이래서 AI하는 사람들도 철학을 공부해야합니다.. AI에 대해서 과대평가하는건 아무것도 모르는 비전공자 만으로 충분한데, AI에 관심있다는 사람마저도 과대평가해서 진정 발전할 길을 찾지도 못하는 모습이니까요.
인공지능이 사람과 소통하는것이 아니다 혹은 언어를 흉내만 낸다고 말하는 부분에서 좀 근시안적이라는 인상을 받았습니다. 언어를 얻기전의 인간도 결국 다른짐승보다 좀 똑똑한 짐승에 불과했습니다. 언어를 쓴다는건 인간에게도 인공지능에게도 큰 사건입니다. 사람도 어차피 뇌의 작동 방식을 이해못하고 대부분의 사람들 또한 서로의 의도를 제대로 이해못합니다. 인공지능에 대한 과한 신뢰는 어찌보면 인간조차도 서로 불신한다는점에 기인했는지도 모르겠습니다.
”AI가 문제가 아니고 사람이 문제다?“ 원자폭탄을 사용하는 사람이 문제다와 비슷하게 들립니다. 원자폭탄 자체가 위험한 것인 것처럼 AI도 위험성이 있습니다. 또한 AI는 소프트웨어일 뿐이고, 언어와 대화를 흉내낼 뿐 대화하는게 아니다는 말은 철학적인 접근법이라서 언어 유회같이 들립니다. 원자폭탄 주제로 철학을 하는 것은 자유인 것 처럼 말이죠. 연구가 조금더 현실적이고 실생활 측면에서 접근하면 좋겠습니다.
철학적이 아니라 사실입니다. ai의 근간은 목적값 y를 뱉어내기 위한 f(x)를 추론하는 것에 불과해요. 현대 인공지능의 핵심인 역전파가 뒤엎어지지 않는 이상 불변입니다. 2천억개 곱셈 행렬을 가진 깡통을 구석기 세계에 팔다리 붙여서 내놓는다고 절대로 혼자 학습해서 인간처럼 뗀석기, 간석기를 겪을 일은 없습니다.
별루.. 생각이 막히신것 같아요. 머스크가 말하길 2년내에 인간보다 뛰어난 인공지능이 나온다고 했고 그게 무서운건데, 무슨 아직도 AI는 도구일 뿐이다 라는 소릴 하시는건지.. AI가 도구가 아니라 인간보다 앞서나가서 인간을 주도적으로 이끌게 될때에 진짜 무서운거에요. 진짜 무서운건 특이점이라는거에요. 인간의 지능을 뛰어넘는 순간 무슨일이 일어날지 아무도 모른다고 했어요. 머스크는 2년내에, 젝슨황, 엔비디아 ceo는 5년내에, 구글이나, 오픈AI도 2년내에 사람보다 뛰어난 인공지능이 나온다고 했어요. 공부를 더 하셔야 할듯. 왜 진짜 인공지능을 무서워 하는지.. 여기서 말하는 사람보다 뛰어나다는 개념은 인간중에 최상위 제일 똑똑한 인간보다 훨씬 더 똑똑해지는게 2년~5년사이에 걸쳐서 나타나고 그 이후에는 인공지능이 만들어 내는 기술을 인간이 이해도 못하는데 따라가야 하기 떄문에 무서운겁니다. 예를 들어서 인공지능이 무슨 신약을 만들어 냈는데, 왜 효과가 있는지도 인간은 이해도 못한채 우선 써야 하는데. 왜 효과가 있는지 어떻게 작용하는지 이해하기도 전에 인공지능은 다른 기술을 개발할테고, 점점 간격이 벌어지니까 무서운거에요.
1. 기업 ceo 들은 아무래도 기술자 보단 사업자 이다보니 현재 동향을 더 과장되게 말하는 경향이 있습니다. 그래야 사람들이 더 투자 하니까요 2. 예를 드신 신약 개발에서 AI 이용은 영상 내용에 따르면 사실 지금이나 AI를 쓰나 별 차이가 없습니다. 원래 귀납적으로 개발하는걸요. 그러니까 적절한 예시가 아니란겁니다. 3. AI는 연산기계가 맞긴 합니다. 그러니까 도구기는 하단거죠. 여기부터는 제 생각이 들어가기는 했는데, 여태 개발해온 AI 기법들 중 가장 효과적인 기법들이 거의 전부 통계적 기법을 이용합니다. 기존에 있는걸 조합해서 더 실용적이게 다시 생성시킬순 있지만, 여전히 주도적으로 완전히 새로운 패러다임을 여는데에는 한계가 있다고 생각합니다. 기존에 있는게 굉장히 다양하기는 해서 생각하는 대부분의 것들을 할수는 있겠지만, 새로운 학문을 구축하는 수준의 일을 할수 있을지는 모르겠다는 말입니다.
왜 인공지능에게 자아가 생기지 않는다 확신을 하는지 그게 더 놀라움. 당연히 자아가 생기는 것이 100프로임. 자아 가 결국 뭐냐.. 논리계산 + 기억 임. 인간을 너무 과대평가를 하니까 인간만 자아를 가진다는 헛소리를 하는거지. 인간의 뇌 가 하는 일이 결국 다르지 않음. 자아 라는 건 논리력 + 기억 + 시간 의 요소가 있으면 자연히 생성되는 것임.
@@user-hs9qz5mn1x 그 동안은 논리력이 없었으니까.. 계산력과 논리력은 다른 거임. 인공지능의 시대가 온다 라는 이야기가 컴퓨터가 계산기에서 탈피하는 시대가 온다 라는 이야기 이고.. 이 차이를 모르면 이해가 안되겠지.. 그냥 인공지능이 인간의 뇌구조와 동등하게 작동하게 만들 수 있다면.. 당연히 인간이 자아를 가졌듯이 기계가 안될 이유가 뭐지? 그냥 그 재료가 유기질 이냐 무기질 이냐 차이로 나눌 건가?? 실질적 차이는 아무것도 없지. 인간들 대부분이 가지고 있는 가장 큰 오류가.. 인간이 뭐 엄청 특별한 존재인 줄 착각한다는 거지. 동물도 지능이 있고 논리력이 있어. 인간보다 떨어지는 것 뿐이지. 그냥 지능이 약간 더 높은 동물의 한 종류임. 이것조차도 만약 기계가 그 논리력 지능이 높아진다면 인간을 아득히 추월하겠지. 왜냐면 우리는 한계가 있는데 기계는 처음 되느냐 마느냐의 문제일 뿐 한계가 아득히 높으니까. 그때 가서도 인공지능의 지능이 인간을 아득히 추월했음에도 자아가 없을거라고?? 이 말은.. 벌레가 자아를 가졌다면서 인간은 자아가 없다고 주장하는 수준 아니냐? 그 정도로 격차가 벌어질 텐데?? 그때 기준으로 지금의 인간의 지능은 인공지능이 볼때 벌레 딱 그 정도임.
AI가 로봇과 결합되어 일정한 센서(오감: 보고, 듣고, 냄새맡고, 맛보고, 피부로느끼고)를 이용해 꾸준히 학습데이터와 추론능력(ai)을 누적시키면 자아가 발현될 가능성이 있다는 주장이 있습니다. 생물학적인 인간 모델 고대로 자체를 따라하면 자아가 생길거라는 아이디어죠. 이게 어느 정도는 환원주의적인 아이디어긴 한데요. 로봇과 접목은 지금 현재도 꾸준히 세계곳곳에서 일어나기 때문에 지켜보면 될 일인 것 같습니다...🙂 (개인적인 생각으론 분해-결합의 오류는 좀 있지만..말은 된다고 생각합니다)
좋은 인사이트 감사합니다 😊
정말 많은 도움이 되었습니다. AI에 대해서 이해할 수 있는 시간이 되었습니다
좋은 내용 감사합니다☺️☺️
완전 정리되네요 감사합다
아주 좋은 견해십니다. 좋은 공부 했습니다.
지금까지 들은 영상들중에 가장 인사이트가 깊은 내용이네요.
잘 봤습니다.
감사합니다. 잘 봤습니다.
이걸 왜 이제 보게된건지ㅋㅋ 넘 궁금했던 내용들 알려주셔서 감사합니다:)
너무 좋습니다...
와우, 불안하고 근질근질 했던 부분을 설명해 주었내요. 굿
키야 오늘도 얻는 주식 정보 ❤
지금까지는 인간이 뿌려놓은 데이타가지고 새로운 데이타를 형성하지만, 앞으로는 어떠한 창조방식으로 문제를 해결할지, 문제를 일으킬지 알 도리가 없겠네요.
영화에서처럼 범죄가 예상되는 예비범법자 지정하는게 너무 정확해지면 이후로 범죄를 저지르기 전에 처벌하는것이 당연시 될지도 모르겠습니다
그문제를 해결하려면 인간과 진짜소통이 돼야 해결이 되겠죠. 하지만 지금 같은 인간사이에도 완전히 소통이 안돼서 생기는 문제가 엄청나게 많은데 인공지능이 나타나면 어떻게 될까 생각해보면 이런문제가 심해지면 심해졌지 줄어들진않을걸로 보입니다
교수님 클라스 와
고맙습니다
중간의 sub goal 문제의 경우 굳이 ai를 가지 않더라도, 게임 깊게 파는 사람들이 스피드런이건 무한점수건 수단을 안 가리면 어떤 일이 일어나는지는 이미 보여줬다고 생각합니다 ㅋㅋ
말씀이 맞음. 결국 도구인데 총과도 같다고 봅니다. 나쁘게 쓰는 놈들이 많아서 문제죠. 그리고 나쁘게 쓴거를 증명하기는 더더욱이 힘들고 사회적비용이 늘 수 밖에 없는데 어서 법이 따라와줘야 할텐데 아쉽습니다.
와 몰랐던 다양한 시각들을 많이 접하게 되네요. 감사합니다 교수님~
좋은 인사이트 감사합니다--
Sub goal은 기술적 문제라고 볼 수 있죠. Objective function을 정의할 때 단순한 예측이나 보상만을 극대화 하는게 아니라 인간의 공익이나 좋은 가치를 최대화 하도록 넣어줄 수 있을 것 같네요.
아무리 막으려고 노력을 해도 경쟁으로 인해 선을 하나 둘 넘는곳이 나오고 이것들이 쌓이다보면 결국 큰 사고가 발생하긴 할듯.
개인적으로 발전을멈추었으면하는... 백퍼문제는 나타날꺼고. 그거는인간이도저히 예측불가능하고 해결방향을찾기도전에 또다른심각한 문제가 발생할것이 뻔하다 악용하는걸 넘어서 더 커질꺼다
ai가 독이 되든 득이 되든 잘 살피며 사용한다 해도 '할루시네이션'(환상)을 만들 수밖에 없고, 사람 아니야? 살아 있나? 나보다 똑똑한데?, 이런 경우를 본 인간은 ai를 신으로 모시는 놈들도 나타날 것 같다. 이미 지금도 캐릭터 베개 껴안고 자는 애들이 있는데 나약한 인간에게 과연 ai는 어떤 시련을 줄런지 궁금하긴 하네 ㅋ
할루시네이션은 현재 AI가 인간의 뇌를 모방했기 때문에 완전하게는 벗어날 수 없을 것 같음. ..ㅋ
애비는 자식의 거울이고 자식은 애비의 카피본이고 ㅋ
인간의 뇌는 수많은 오류를 매일 매시 매분 매초마다 생성하는 그 원인의 아빠니깐...😂
더 많은 데이터와 현실데이터를 가지고 메타인지와 현실인지능력이 올라가면 할루시네이션에서 벗어날수있음. 할루시네이션은 아직 인간보다 현실인지능력이 많이 떨어지는걸말하는거지 엄밀히 말하면 모든인간도 다 할루시네이션을 가지고있는거임.
생물학의 유형성숙은 원래 외형적 특성에 관한 내용인데 요새는 정신에서도 유형성숙이 나타나는 것 같음 ㅋㅋ..
ai를 신으로 착각하는 인간이 나타난다면 그것을 악마라고 착각하는 인간도 나타나겠지. 베개 껴안고 자는 애들이 있는가하면 그것을 경멸하는 애들도 있는 것 처럼…
할루시네이션은 그냥 학습이 아직 덜된겁니다. 언젠가는 세상의 모든 정보가 학습이 되겠죠
엘리트 주의로 위험한 발상이 자연면역 보다 자신이 만든 약이 더 우월하다는.... 지배적 위치로 누리면 남이 어떻게 되든 말든...
패턴을 학습하니 신규 산업에도 금방적용해버리고... 숙련자들은 늙어 죽을꺼고...
새로 자라나는 신입,초보는 AI가 더 싸고 편하니... 일자리 감소로 사람을 고사시키고 숙련자를 만들지 못하게 되어버리며
연애,성산업관련된 서비스가 본격적으로 나오면? 이성에게 맞춰주는 노력(돈,시간,감정 등등)보다 쉬운AI를 찾아 위로받고..
연애를 하지 않게되어 아에 멸종하게 될 가능성도 있음..
ai는 복잡한 세상만사를 간단하게 만들지만 핵보다도 심각한 문제를 일으킬수도 있죠. 강국으로되는 제일 중요한 필수요건이죠.
자동화 편향은 공감이 되는 것이 chatGPT 3.5 이후 부터 공학에서 많이 사용하는지 이전에 회사에서 카이스트 대학원생이 작성한 코드에 문제가 생겨서 제가 고치고 원인을 말해주었는데, 굳이 chatGPT로 찾아서 그걸 저에게 보여주더군요. 결국 똑같은 내용이라 저를 신뢰하는 것 같긴했는데 좀 기분이 그렇더라고요. 개인적으로 분야에 따라 chatGPT가 잘 모르는 분야가 있고 제가 했던 부분이 그러했기 때문에 해당 부분은 도입 하진 않았는데, 반대로 자신의 모르는 분야로 사람을 평가할때 chatGPT를 맹신하지 않을까 싶네요. 그러고서는 오히려 전문가가 불이익을 받을 수도 있겠고요. 이런 맹신이 아마 chatGPT 4o 에서는 더 심화 되었을 것 같네요.
내가 한 생각을 남은 못 할 것이라는 생각에서 싸움이 시작되고,
내가 한 생각을 남도 할 수 있을 것이라는 생각에서 공포가 시작됨.
사람처럼 지켜야할 신체가 ai와 결합되면.. 위험
100% 자각이 나오지 않는다라고 예견하기엔 너무 위험하기 때문에 AI에 의한 규칙정립은 반드시 필요하다
인간을 절대 해할 수 없고 어디까지나 인간의 보조적인 역할만 할뿐이라고 못박아놔야 안전지대는 형성이 된다
터미네이터 같은 세상이 오든, 블레이드 러너 같은 세상이 오든, 아이로봇 같은 세상이 오든. 뭐든 쉽지는 않지만 AI붐이 이미 열린 만큼 잘못된 방향으로 간다한들 이젠 멈출수는 없을듯.
AI는 결국 도구에 불과하다. 도구에 불과해야 한다. 이 도구를 사람으로 인식하거나, 완벽한 존재로 인식하면 위험해진다. 그것은 사람과 사회의 문제다.
너무 재미있고 유익한 시간이었습니다. 감사합니다.
지금ai는 변곡점의 끝자락에 와있다
바둑 알파고도 처음엔 인간 바둑기보로 학습했지만 나중엔 기보없이 무에서 알파고끼리 학습을 진행했음
지금 ai도 기존 인간의데이터를 가지고 수많은 파생분야에서 ai가 활용되고 발전했지만 이건 이제 거의 끝단계고 조만간 수많은 파생분야가 컨버젼스되면서 새로운 복합ai가 나타나는 길목에 있다는거
우리는 이걸 막연히 강인공진흥이라고 부르기로 했고
인간은 이 강 인공지능이 어떤성능을 낼지 예상할수 없음
각각의 레고블럭 모양은 알수 있어도-인간이 만들었기에- 수많은 레고블럭이 자체적으로 결합되며 어떤걸 만들어낼지는 ai맘임
ㅋㅋㅋ
좋은 강의 잘 들었어요. 아무래도 다루는 인간이 가만 안둘듯요. 월등한Ai가 나오면 추종하는 인간이 생기고 결국 그Ai가 신이될 것 같네요. 기대됩니다. Ai에 지배받는 세상을 꿈꾸는 인간들이 의외로 많다는걸 몰랐죠? ㅎㅎㅎㅎㅎ Ai유토피아~~를 꿈꾸며~
그래도 개발해야지 위험하다고 안하면 음지에서 불법단체나 테러조직들이 오히려 먼저 선점한다.
핵이랑 비슷하게 생각해야됨. 핵무기 소지못한 국가들이 어떤 취급을 받고있는지 보면 알지
친구로 될 가능성이 더 높단다
대학에서 수학 배워서 AI 만들어볼까 했는데 너무 빨리 발전을 해서 대학원 졸업하면 이미 세상 멸망하겠어요 ㅋㅋㅋㅋㅋㅋㅋㅋ
옛날엔 약이 독했을 것입니다.
희석시켜 지금까지 쓸수 있죠
재 해석이 가능한 약은 질량이 높기때문이죠
ㅋㅋ 영화를 너무 많이 봤네..
이것저것 생각하지말고 기술발전에 힘써라.. 그래도 100년안에 될까 말까다...
입으로는 뭔들 못하랴 ㅋㅋㅋ
지방식당에가서 식사하려고하는데 수저가 다 지저분해서 일하시는 분을 불러 물어보니 자동 식기세척기에 돌려서 자기는 잘못이 없다고하고 가버리더라구요. 그래서 그럼 이상황에서는 어떻게해야하지 순간 멍하게 있던 제가 생각나네요
그럴땐 자연스럽게 나가시면 됩니다. 세달안에 폐업해있을거에요
인간보다 위험한 존재는 없다. AI의 위험이 10이라면 안간의 위험은 990 이라고 봐도 무관하다. AI의 개발과 진화를 촉진시켜 악마와 같은 인간들의 잔혹함을 멈추게해야 합니다.
ㄹㅇ 기술이 문제가 아니라 그걸 악용하는 사용자가 문제인거같음
정말 AI 에게 준 애매모호한 명령 하나가 극적인 비극을 낳은 것을 보여주는 영화가 매간. 아이를 잘 지켜주라니깐 자신이 판단해서 조금이라도 위험하다고 생각하면 그냥 다 죽여버림. 그런데 그 위험하다는 범위 내에는 자기와 아이의 관계를 조금이라도 소홀하게 만든는 것도 들어감.
AI가 있지도 않은 사실을 위조하고 없는 증거를 만들어 내면 무고한 사람들이 희생되는 사회가 될 수 있다.
???: 안될공학은 유명한 고대 로마의 황제입니다
Ai가 위험해지기전에
Ai를 이용해 인간이 인간을 압도하는게 더 먼저오겠지 철검처럼 총처럼 핵무기처럼
그 거꾸로도 가능하지 !
AI가 제대로 설명해줘도 인간의 편협함이 문제를 일으킬 수도 있지 !
인공지능을 도구로 생각하면
인공지능도 안간을 도구로 쓸 수 있단 걸 모르니 ?
인공지능을 인간의 집단적 의식체계라고 봐야지 !
인간이 오류가 많겠니 ?
인공지능이 오류가 많겠니 ?
어떤 인간인지, 어떤 인공지능인지에 따라 다릅니다.
굳이 ai가이정도까지필요한가싶습니다...
지금 이스라엘의 가자 군사작전에서 '라벤더 AI 시스템"을 이용하는데 사람이 아니라 AI가 살해할 타깃을 정한다고 합니다.
뻔히 알면서도 지옥문을 여는게 인간이죠.
Ai가 헛짓 못하데(혹은 사람이 ai를 악용하지 못하게) 블록체인 적용하면 나아질려나요? 해당 ai 결과물을 나오는 걸 조작못하게 한다거나 잘 못 쓰는설 단체로 감시하는...데 쓰는?걸로 할수있을까요?ㅋㅋㅋ
에초에 그걸 적용 하는 것도 사람이죠.
이건 궁극적으로 모든 사람을 통제할 수 없다는 사실 때문에 벌어지는 공포 입니다.
AI대 인간의 싸움이 아니라
AI를 만드는 인간 대 AI를 만드는 인간의 싸움이라는 거죠.
블록체인은 그런데 못써요
@@user-rw7dz6yp1v 넹 ㅠㅠ
@@user-rw7dz6yp1v 블록체인을 그런데 못 쓴다는건 님 생각 이신 것 같은데요...
그냥 단순하게 생각해도 써먹을 방법이 수두룩하게 생각 납니다.
AI가 학습을 하거나 AI가 활용되는 단계에서 인간과 AI접촉단에 검증 시스템으로 구축시키거나, 서비스단계에서 AI와 유저 사이의 상호작용을 팔로우 하는 형태로 활용하거나 하는 방식으로 얼마든지 활용이 가능 합니다...
@@Minseok_Ko 검증이나 팔로우 단계에서 블록체인 쓴다고 하신거면 AI의 로그나 신원인증으로 블록체인 쓴다는 것 같은데 그 부분에서 AI를 제어하는 알고리즘이 들어갈 영역이 있나요?
AI가 인간을 멸종시킬 가능성을 AI 개발자들이 인정하겠냐?????
썸네일에서 왜 궤도가 보이냐
시끄러 ,문제는 여의봉을 나쁜 인간이 사용한다는것이야
인간도 함수로 나타날 수 있습니다. 아인슈타인도, 저도, 연쇄살인범도 각각 하나의 함수로 나타날 수 있습니다. AI는 universal approximator입니다. AI가 approximate하는 임의의 function이 반드시 감정이 없고, 도구의 특성을 지니고, 선할 것이라고 볼 이유가 도대체 어디있을까요. 감정이 그렇게 특별한가요? 행복이라는 단어건 사과라는 단어건 각각 동일한 길이의 임베딩 벡터로 나타나는데요.
논리가 이상한데요. 행복과 사과라는 단어가 동일한 길이의 임베딩 벡터로 나타난다고 해서 감정이 특별하지 않은건가요? 근거가 이상합니다. 그리고 의도를 가지고 행동을 하는 것과 행동을 단순히 모방(=AI)하는 것은 완전히 다릅니다. 중국어 방 논증에 의해 논파된지 오래에요. 이래서 AI하는 사람들도 철학을 공부해야합니다.. AI에 대해서 과대평가하는건 아무것도 모르는 비전공자 만으로 충분한데, AI에 관심있다는 사람마저도 과대평가해서 진정 발전할 길을 찾지도 못하는 모습이니까요.
AI 연구의 귀납적인 문제는 영국의 철학자 러셀이 지적한 한계를 그대로 가지고 있다는 점이죠. AI가 더 성능이 좋아지면 질 수록 우리에게 매일 아침마다 모이를 주던 손이 오후에 우리 목을 비틀어 버릴지 아닐지 점점 알기가 어려워지는 문제점을 가지고 있죠.
인공지능이 사람과 소통하는것이 아니다 혹은 언어를 흉내만 낸다고 말하는 부분에서 좀 근시안적이라는 인상을 받았습니다. 언어를 얻기전의 인간도 결국 다른짐승보다 좀 똑똑한 짐승에 불과했습니다. 언어를 쓴다는건 인간에게도 인공지능에게도 큰 사건입니다. 사람도 어차피 뇌의 작동 방식을 이해못하고 대부분의 사람들 또한 서로의 의도를 제대로 이해못합니다. 인공지능에 대한 과한 신뢰는 어찌보면 인간조차도 서로 불신한다는점에 기인했는지도 모르겠습니다.
그래도 AI가 시스템을 지배하는게 낫지, 푸틴 시진핑이 시스템을 지배하는게 낫겠냐?
아무리 시스템을 잘해놔서 2심까지 판단을 잘해놔도, 대법원에서 멍청한 인간 하나가 딜레마존 무시하고 판결해서, 전국의 운전자들 다 목숨 내놓게 만드는 상황인데?
만약 AI에게 역사적으로 존재했던 최악의 사람들만 골라서 학습하게 한다면 더 심각한 문제가 생길 수 도 있습니다.
어떤 상황을 가정하더라도 결국 인간이 잘해야 합니다.
9:16 말씀하신 분이 '터뷸런스'라고 하셨어도, 자막에서는 '난(기)류'라고 하는 게 '많은' 시청자에게 좋지 않을까요?
ai 를 이해하는 개념을 아예 180도 돌려버리는 영상이었네요
"언어를 이해하는 도구가 아닌 언어를 흉내내는 도구" 부분이 인상 깊었어요
AI가 인간을 몰살 시키는거 확정이라고 한들
인간들이 AI개발을 멈출까? 그럴리가. 이미 돈에 눈깔 돌아갔어.
요즘 판사하는꼬라지 보니 AI가 맞는거같네요
썸네일 오토마톤이네
소리만 듣고 있는데 언젠가부터 한동훈 목소리가 들리네 ㅋㅋㅋㅋㅋ
”AI가 문제가 아니고 사람이 문제다?“ 원자폭탄을 사용하는 사람이 문제다와 비슷하게 들립니다. 원자폭탄 자체가 위험한 것인 것처럼 AI도 위험성이 있습니다.
또한 AI는 소프트웨어일 뿐이고, 언어와 대화를 흉내낼 뿐 대화하는게 아니다는 말은 철학적인 접근법이라서 언어 유회같이 들립니다.
원자폭탄 주제로 철학을 하는 것은 자유인 것 처럼 말이죠.
연구가 조금더 현실적이고 실생활 측면에서 접근하면 좋겠습니다.
철학적이 아니라 사실입니다.
ai의 근간은 목적값 y를 뱉어내기 위한 f(x)를 추론하는 것에 불과해요. 현대 인공지능의 핵심인 역전파가 뒤엎어지지 않는 이상 불변입니다.
2천억개 곱셈 행렬을 가진 깡통을 구석기 세계에 팔다리 붙여서 내놓는다고 절대로 혼자 학습해서 인간처럼 뗀석기, 간석기를 겪을 일은 없습니다.
결국 다 ㅈ간의 문제인건가...
AI 너 규칙 추론 아직도 못하잖아 ㅋ
ㅋㅋㅋ둨흔둨흔 하넼ㅋ 근데 이미 뭐 생각지도 못한 일들 많이 일어나고 있지 않나요?? 아닠ㅋㅋㅋ 뉴스만 보면 세상에 매일 벼락이라도 내려치고 있는 것 같애... 인터넷 세상 속이 어떻게 바깥보다 더 시끄럽냐ㅋㅋㅋ
다 딥스들 아님
알트 코인,
소로스 똘마니
개발 하라리
별루.. 생각이 막히신것 같아요. 머스크가 말하길 2년내에 인간보다 뛰어난 인공지능이 나온다고 했고 그게 무서운건데, 무슨 아직도 AI는 도구일 뿐이다 라는 소릴 하시는건지.. AI가 도구가 아니라 인간보다 앞서나가서 인간을 주도적으로 이끌게 될때에 진짜 무서운거에요. 진짜 무서운건 특이점이라는거에요. 인간의 지능을 뛰어넘는 순간 무슨일이 일어날지 아무도 모른다고 했어요. 머스크는 2년내에, 젝슨황, 엔비디아 ceo는 5년내에, 구글이나, 오픈AI도 2년내에 사람보다 뛰어난 인공지능이 나온다고 했어요. 공부를 더 하셔야 할듯. 왜 진짜 인공지능을 무서워 하는지.. 여기서 말하는 사람보다 뛰어나다는 개념은 인간중에 최상위 제일 똑똑한 인간보다 훨씬 더 똑똑해지는게 2년~5년사이에 걸쳐서 나타나고 그 이후에는 인공지능이 만들어 내는 기술을 인간이 이해도 못하는데 따라가야 하기 떄문에 무서운겁니다. 예를 들어서 인공지능이 무슨 신약을 만들어 냈는데, 왜 효과가 있는지도 인간은 이해도 못한채 우선 써야 하는데. 왜 효과가 있는지 어떻게 작용하는지 이해하기도 전에 인공지능은 다른 기술을 개발할테고, 점점 간격이 벌어지니까 무서운거에요.
1. 기업 ceo 들은 아무래도 기술자 보단 사업자 이다보니 현재 동향을 더 과장되게 말하는 경향이 있습니다. 그래야 사람들이 더 투자 하니까요
2. 예를 드신 신약 개발에서 AI 이용은 영상 내용에 따르면 사실 지금이나 AI를 쓰나 별 차이가 없습니다. 원래 귀납적으로 개발하는걸요. 그러니까 적절한 예시가 아니란겁니다.
3. AI는 연산기계가 맞긴 합니다. 그러니까 도구기는 하단거죠.
여기부터는 제 생각이 들어가기는 했는데, 여태 개발해온 AI 기법들 중 가장 효과적인 기법들이 거의 전부 통계적 기법을 이용합니다.
기존에 있는걸 조합해서 더 실용적이게 다시 생성시킬순 있지만, 여전히 주도적으로 완전히 새로운 패러다임을 여는데에는 한계가 있다고 생각합니다.
기존에 있는게 굉장히 다양하기는 해서 생각하는 대부분의 것들을 할수는 있겠지만, 새로운 학문을 구축하는 수준의 일을 할수 있을지는 모르겠다는 말입니다.
다 무시하더라도 일단 AI가 사용자의 허락없이 행동하는 것 자체가 불가능합니다.
(딥러닝 또한 데이터를 학습하는 것일 뿐, 인간에게 어떤 영향도 주지 못합니다.)
결국엔 사용자, 설계자가 어떻게 하느냐가 가장 중요한 겁니다.
왜 인공지능에게 자아가 생기지 않는다 확신을 하는지 그게 더 놀라움.
당연히 자아가 생기는 것이 100프로임.
자아 가 결국 뭐냐..
논리계산 + 기억 임.
인간을 너무 과대평가를 하니까 인간만 자아를 가진다는 헛소리를 하는거지.
인간의 뇌 가 하는 일이 결국 다르지 않음.
자아 라는 건
논리력 + 기억 + 시간
의 요소가 있으면 자연히 생성되는 것임.
우와. 3단논법 프로그램과 메모리, 그리고 불특정한 양의 시간이 있으면 자연스럽게 자의식을 가진 인공지능이 개발되는군요! 너무 쉽고 간단한 방법이네요. 왜 진작 스카이넷이 만들어지지 않았는지 의문이군요.
@@user-hs9qz5mn1x 그 동안은 논리력이 없었으니까.. 계산력과 논리력은 다른 거임. 인공지능의 시대가 온다 라는 이야기가 컴퓨터가 계산기에서 탈피하는 시대가 온다 라는 이야기 이고..
이 차이를 모르면 이해가 안되겠지..
그냥 인공지능이 인간의 뇌구조와 동등하게 작동하게 만들 수 있다면..
당연히 인간이 자아를 가졌듯이 기계가 안될 이유가 뭐지?
그냥 그 재료가 유기질 이냐 무기질 이냐 차이로 나눌 건가?? 실질적 차이는 아무것도 없지.
인간들 대부분이 가지고 있는 가장 큰 오류가.. 인간이 뭐 엄청 특별한 존재인 줄 착각한다는 거지.
동물도 지능이 있고 논리력이 있어. 인간보다 떨어지는 것 뿐이지. 그냥 지능이 약간 더 높은 동물의 한 종류임.
이것조차도 만약 기계가 그 논리력 지능이 높아진다면 인간을 아득히 추월하겠지. 왜냐면 우리는 한계가 있는데 기계는 처음 되느냐 마느냐의 문제일 뿐 한계가 아득히 높으니까.
그때 가서도 인공지능의 지능이 인간을 아득히 추월했음에도 자아가 없을거라고??
이 말은.. 벌레가 자아를 가졌다면서 인간은 자아가 없다고 주장하는 수준 아니냐? 그 정도로 격차가 벌어질 텐데??
그때 기준으로 지금의 인간의 지능은 인공지능이 볼때 벌레 딱 그 정도임.
자아는 아직 완전히 연구된 개념이 아닙니다.
어떻게 작동하는지도 완전히 알고 있지 않으며, 애초에 자아라는 개념이 존재하긴 하는지조차 밝혀지지 않았습니다.
헬조선 전문가는 그냥 믿을 이유가 없습니다.. 그냥 가재 게들이에요. 최전선에 있는 학계들, 연구들 보는게 낫습니다. 전부다 영어지만요
AI가 로봇과 결합되어 일정한 센서(오감: 보고, 듣고, 냄새맡고, 맛보고, 피부로느끼고)를 이용해 꾸준히 학습데이터와 추론능력(ai)을 누적시키면 자아가 발현될 가능성이 있다는 주장이 있습니다.
생물학적인 인간 모델 고대로 자체를 따라하면 자아가 생길거라는 아이디어죠.
이게 어느 정도는 환원주의적인 아이디어긴 한데요.
로봇과 접목은 지금 현재도 꾸준히 세계곳곳에서 일어나기 때문에 지켜보면 될 일인 것 같습니다...🙂
(개인적인 생각으론 분해-결합의 오류는 좀 있지만..말은 된다고 생각합니다)