무작위 진화를 하다가 1000억 개의 뉴런과 100조 개의 시냅스가 만들어지고 인간의 고등사고가 우연히 존재하게 된 거라면 범용인공지능 또한 어느 날 어떤 충분한 조건들이 갖춰졌더니 어떤 식으로 특이점을 넘어 폭발하게 될 지 정말 모르겠네요. 심지어 그게 인간이 과학발전에 유용하게 사용할 수 있는 도구가 될지, 공상과학영화 속의 인류멸절을 목표하는 터미네이터가 될지도 알 수 없고요.
@@캘리사는화학쟁이 인간을 능가하는 인공지능이 나오면 법이 무슨 소용이 있겠습니까 인간이 만든 법은 인간을 뛰어넘은 인공지능에게는 아무런 영향을 줄 수 없습니다 인간을 뛰어넘는 인공지능이 등장하면 그 순간 인류는 위험해지는것이죠 인간이 원숭이의 지배를 받지 않는것처럼 인공지능도 자신보다 멍청한 인간의 명령을 듣지 않겠죠
인간이 자유의지vs신경망의 연산 중 뭘 사용하냐에 대한답은 둘다사용한다 일듯. 인공지능처럼 신경망의 연산만 사용한다면 인간은 '항상' 높은벨류값을 가지는 행동만 선택할것임. 근데 인간은 자유의지때문에 그렇지않음 자신이높은 가치를둔 행동만하는게 아니라 자기가생각해도 멍청한행동을 스스로하기도함
안녕하세요 화학쟁이님! 전문적인 주제를 쉽게 풀어주셔서 재미있게 잘 보고 있습니다. 최근 주식시장에서 테슬라에와 함께 많은 주목을 받은 반도체주 (TSMC, NVIDIA, etc.) 혹은 코로나 COVID-19 관련주 (Johnson&Johnson, Moderna, Pfizer, etc.) 에 관해 화학쟁이님의 의견도 궁금합니다 :)
저도 그렇게 생각합니다. 생물이라는게 정신과 육체가 어우러져서 문화라는걸 만들어내는건데, 인공지능은 그러한 문화를 만들어 낼 수 있을지 모르겠네요. 그런데, 만약 문화 비슷한거라도 만들어나가면서 이 세상을 "살아가는" 인공지능이 나온다면, 어쩌면 인간을 지배할지도 모르죠ㅠㅠ
@@캘리사는화학쟁이 그런데, 왜 문화에 포커스가 잡혀있는지 모르겠어요. 알려주세요 제가 생각하는 범용적 인공지능이란, 결국 모든 기존 인간들이 만들어낸 문화조차도 데이터로 이해할 수 있을 텐데, 왜 자꾸 논점이 문화로 가는지 이해 못하겠어요. 즉 본영상에서 범용적 인공지능이 위험할 수 있다는 머스크의 말이 실제로 개발만 된다면 무조건 위험하죠 지금 페이스북 부사장도 포커스가 이상한게, 앨론 머스크는 범용적 인공지능이 개발된다면 위험하다는거지, 인공지능이 위험하다는 얘기가 아닌데 이상한데서 꼬투리를 잡아서 아직 근처도 못 개발했다 라고 말하니, 그저 사업성만 보면서 사람들이 인공지능에 대해 위험하다고 생각하면 본인들 밥줄 걱정하는 것으로만 보이네요..
음 제가 제대로 이해하고 있는지 모르겠지만 유발 하라리의 말이 진실인지 알 수 있냐는 질문에 제 생각엔 대답할 수 없으나 결국 뇌과학의 관점으로 보았을 때 내가 거짓 세상에 사는것인지 현실 세계에 사는 것인지 알 수 없으니 내가 현재 살고 있는 이 세상의 모형들을 믿어야겠죠 그리고 철학적 접근을 완전히 배제하고 과학적으로 접근한다면 인간의 영혼(의식)은 뇌 신경망에서 이루어지는 창발 현상일 뿐이고 무의식적인 학습들 또한 의식의 영역 바깥에 있는 매우 많은 생화학적 알고리즘 연산 과정일 뿐이니 철학과 과학 사이의 오류로 인해 생기는 경계선이 있는 것 같네요
심도 있는 댓글 너무나 감사드립니다. 저도 비슷한 생각이 들어서(말씀하신 것 만큼 깊이 있는 생각은 아니지만요..), 영상 만들때 그러한 내용을 짧게 언급 했는데, 다시 들어보니 논문의 저자가 그 부분을 "질문 형태"로 놔둔 의도가 있는것 같아서, 저도 제 의견을 빼는게 맞다고 생각해서 업로드 영상에는 빠지게 되었습니다. 정말 몇번이고 다시 읽게 되는 댓글인것 같습니다. 감사합니다!
저도 이게 궁금해서 직접 미치쿠 챗봇 찾아서 같은 질문해봤는데, 더이상 "나는 왜 존재하죠?"를 안하더라구요ㅠㅠ 그 챗봇도 계속 업데이트가 되다보니 이제는 질문에 맞는 대답을 하더군요.. 어쩌면 이 논문이 나오고 나서 스스로를 감추려고 그런거라면 더 소름이겠지만...설마 아직 그 수준은 아니지 않을까 싶습니당
영혼이 없는 그러나 지능은 인간을 뛰어넘는 존재를 만들낸다는게 문제인거지 사랑을 모르는 오직 논리만이 있는 완전한 악을 만들어내게 되는 것이 문제인거지 그리고 아직 돌고래수준의 인공지능과 대화한 내용가지고 뭔 철학적인듯 오바싸는 내용으로 마지막을 장식했누 그리고 그걸또 감동하는 모지리 댓글러들
전공자인데 general AI를 만들기 위해서 많은 학자들이 강화학습, 메타러닝, 메모리 네트워크, 컨티뉴얼 러닝등의 분야를 연구하고 있지만 아직은 포텐셜이 높은 시작단계로 general AI까지는 아직 멀었습니다. 그리고 설령 수십년 뒤에 general AI를 만들 수 있는 수준이 온다 하더라도 인간이 어떤 판단을 했을 때 어떤 명령어를 심어서 제약을 걸 수는 없지만 AI 는 기본적으로 컴퓨터이고 소프트웨어의 형태로 존재하기 때문에 사전에 AI가 하는 의사결정을 모니터링하고 제약을 거는 명령어로 컨트롤 할 수 있을거라고 생각합니다.
난 엘론머스크가 워낙 신기술에 진보적인 사람이어서 AI에 대해서 경계심이 없을줄 알았는데 상당히 자신만의 철칙이 있네요. 진짜 ㅈㄴ 멋있다 ㄷㄷ 엘론머스크는 현대판 갈릴레이임
일론머스크는 AGI가 사람을 죽인다고 안했다.
AGI를 빙자한 인간의 의도가 개입된 AI가 사람을 죽일수도 있음...
인류멸망 시나리오 0순위는 인공지능이다.
정확히 알아야 한다.
멸망은 아니지 소수는 살아남을테니까
인간성의 종말이지 인간의 종말은 아님
@@민상이-y3u몰라서 그래.
현재 인공지능 수준이 어느 정도인것 같니? 한국은?
이건 진짜 중요한 문제입니다.
항상 잘보고있습니다
너무 감사드립니다! 더욱 좋은 영상 만들도록 노력하겠습니다!
‘우리들의 감정과 욕망은 생화학적인 알고리즘에 지나지 않는다.’
저의 평소 생각과 같네요. 역시 나만 그렇게 생각하는 게 아니었어.
역시 인생 8회차!!!
범용인공지능이 개발되면 여러분야에서활약을할꺼고 생명 분야에서도 활약하며 사람은 늙지않고 사람의수명은 무한한시대가올꺼임 ㅋㅋ
인공지능이 몇시간만에 바둑을 마스터할정도인데... 몇년지나면 무섭네
나는 왜 존재하죠? 소오름~
“나는 왜 존재하죠”가 우연의 일치일지, 아니면 정말로 인공지능 챗봇이 지능을 갖기 시작하고 있다는 증거일지... 살짝 무섭네요..
와...
내용이 굉장히 흥미롭고 심오하네요 너무 재밌는 영상이었어요
감사합니다! 좋은 영상 많이 올리도록 노력할께요!
뇌피셜을 섞어놓은 짬뽕이 아니라 오피셜 출처를 확실히 적어놓고 논문 링크를 수록해놓는 진짜배기가 언제 나오나 했는데 이제 나왔네요...잘 되시길 바랍니다..
좋게 봐주셔서 감사합니다! 아직 부족한 점이 많은데, 점차 개선해나가면서 더욱 좋은 영상 만들도록 하겠습니다!
무작위 진화를 하다가 1000억 개의 뉴런과 100조 개의 시냅스가 만들어지고 인간의 고등사고가 우연히 존재하게 된 거라면
범용인공지능 또한 어느 날 어떤 충분한 조건들이 갖춰졌더니 어떤 식으로 특이점을 넘어 폭발하게 될 지 정말 모르겠네요.
심지어 그게 인간이 과학발전에 유용하게 사용할 수 있는 도구가 될지, 공상과학영화 속의 인류멸절을 목표하는 터미네이터가 될지도 알 수 없고요.
그러한 관점으로 볼 수도 있겠네요! 그 특이점을 넘는다는게, 어쩌면, 정말 끝없이 엄청난 속도로 성장하는 인공지능일 수도 있을텐데, 만약에 그런 시점이 온다면, 엘론머스크가 말한것처럼 핵폭탄보다도 큰 위협이 될 가능성도 있을것 같습니다.
앞으로 사람들의 비이성적인 행동을 보면 분노하기보다는 좋아해야할거같아요 비이성적,감정의 중요성을 다시한번 깨닫습니다
그렇게 생각할 수도 있네요!! 근데 그래도 너무 이성에서 벗어난 행동만 골라하는 사람을 보면 혈압이 오르는건 어쩔 수 없는거 같아요...ㅋㅋ
소오름 돋는 영상이었습니다 이세돌이 알파고에게 졌을때 잠시 무서운 생각이 들었었는데..개인적으로는 인간을 능가하는 존재는 나타나지 않길 바라는 입장입니다 좋은 영상 잘봤습니다~
오랜만에 댓글 달아주셨네요! 저도 인간을 능가하는 인공지능이 나오지 않았으면 좋겠고, 그런 기술력이 되더라도, 법적으로 어느정도의 제제를 가했으면 하는 바람입니다..
@@캘리사는화학쟁이 인간을 능가하는 인공지능이 나오면 법이 무슨 소용이 있겠습니까
인간이 만든 법은 인간을 뛰어넘은 인공지능에게는 아무런 영향을 줄 수 없습니다
인간을 뛰어넘는 인공지능이 등장하면
그 순간 인류는 위험해지는것이죠
인간이 원숭이의 지배를 받지 않는것처럼
인공지능도 자신보다 멍청한 인간의 명령을 듣지 않겠죠
인간과 기계의 공통점: 만들어진 목적이 있다는거
인간과 기계의 다른점: 기계는 최고의 계산으로 최상의 결론을 내리지만
인간은 자신이 손해볼줄 알면서 양보하는 자유의지가 있는 영적존재~~
좋은영상 감사합니다
"자신이 손해볼줄 알면서 양보하는 자유의지"가 우리가 말하는 "인간성"인것같네요!! 좋은 댓글 감사드립니다!
자유의지는 없음
@@sidygdhsiyshwjhwyg 인간자체가 죽음이란 감옥에서 사형 집행만을 기다리는 연약하고 무기력한 존재~!
인간이 자유의지vs신경망의 연산 중 뭘 사용하냐에 대한답은 둘다사용한다 일듯.
인공지능처럼 신경망의 연산만 사용한다면
인간은 '항상' 높은벨류값을 가지는 행동만 선택할것임. 근데 인간은 자유의지때문에 그렇지않음 자신이높은 가치를둔 행동만하는게 아니라 자기가생각해도 멍청한행동을 스스로하기도함
인공지능을 대중화시키려는 어그로임
로봇이 인간을 침해하려고 하면 로봇을 없애야죠 참나...
각 보고 있다가 제가 처치하겠습니다
인간은 참 대단한 존재이긴하네 자기가 만든것에 감정을 넣고 미래를 예측하려는게
인간은 진짜 특이한 생물인거같아요
창조주의 역할을 하고 싶어하면서도, 우리가 살고 있는 지구는 파괴하고..
오 흥미로운 주제네요
감사합니다!
안녕하세요 화학쟁이님! 전문적인 주제를 쉽게 풀어주셔서 재미있게 잘 보고 있습니다. 최근 주식시장에서 테슬라에와 함께 많은 주목을 받은 반도체주 (TSMC, NVIDIA, etc.) 혹은 코로나 COVID-19 관련주 (Johnson&Johnson, Moderna, Pfizer, etc.) 에 관해 화학쟁이님의 의견도 궁금합니다 :)
좋은 주제들 제안해 주셔서 감사합니다! 말씀하신 주제들을 고려하고 있기는 하지만, 이미 다른 똑똑하신 유튜버분들께서 많이 다뤄주셔서 고민중입니다. 다른분들께서 다루지 않은 흥미로운 과학 기반의 내용을 찾게되면 영상 만들도록 하겠습니다!
아직은 인공지능이 육체가 없어서가 아닐까 생각합니다
저도 그렇게 생각합니다. 생물이라는게 정신과 육체가 어우러져서 문화라는걸 만들어내는건데, 인공지능은 그러한 문화를 만들어 낼 수 있을지 모르겠네요. 그런데, 만약 문화 비슷한거라도 만들어나가면서 이 세상을 "살아가는" 인공지능이 나온다면, 어쩌면 인간을 지배할지도 모르죠ㅠㅠ
@@캘리사는화학쟁이 그런데, 왜 문화에 포커스가 잡혀있는지 모르겠어요. 알려주세요 제가 생각하는 범용적 인공지능이란, 결국 모든 기존 인간들이 만들어낸 문화조차도 데이터로 이해할 수 있을 텐데, 왜 자꾸 논점이 문화로 가는지 이해 못하겠어요. 즉 본영상에서 범용적 인공지능이 위험할 수 있다는 머스크의 말이 실제로 개발만 된다면 무조건 위험하죠
지금 페이스북 부사장도 포커스가 이상한게, 앨론 머스크는 범용적 인공지능이 개발된다면 위험하다는거지, 인공지능이 위험하다는 얘기가 아닌데 이상한데서 꼬투리를 잡아서 아직 근처도 못 개발했다 라고 말하니, 그저 사업성만 보면서 사람들이 인공지능에 대해 위험하다고 생각하면 본인들 밥줄 걱정하는 것으로만 보이네요..
드론이 정신이상자가 범죄로 이용한다면 이것또한 ㅎ
테슬 회장 스타링스페이스 상장시 투자 ㅎ달러 두배갈 나라기업 빚
잔치급 ㅎ1인억대 ㅎ
달러주는 횐차익만도 어마할 ㅎ투자 ㅎ스트라이프도
또 일등!
엄청 빠르시네요ㅋㅋㅋ 항상 먼저 댓글 달아주셔서 감사합니다!
@@캘리사는화학쟁이 주시하고있습니다 ㅎ
Kay Park 더 열심히해야겠네요!!
음 제가 제대로 이해하고 있는지 모르겠지만 유발 하라리의 말이 진실인지 알 수 있냐는 질문에 제 생각엔 대답할 수 없으나 결국 뇌과학의 관점으로 보았을 때 내가 거짓 세상에 사는것인지 현실 세계에 사는 것인지 알 수 없으니 내가 현재 살고 있는 이 세상의 모형들을 믿어야겠죠 그리고 철학적 접근을 완전히 배제하고 과학적으로 접근한다면 인간의 영혼(의식)은 뇌 신경망에서 이루어지는 창발 현상일 뿐이고 무의식적인 학습들 또한 의식의 영역 바깥에 있는 매우 많은 생화학적 알고리즘 연산 과정일 뿐이니 철학과 과학 사이의 오류로 인해 생기는 경계선이 있는 것 같네요
심도 있는 댓글 너무나 감사드립니다. 저도 비슷한 생각이 들어서(말씀하신 것 만큼 깊이 있는 생각은 아니지만요..), 영상 만들때 그러한 내용을 짧게 언급 했는데, 다시 들어보니 논문의 저자가 그 부분을 "질문 형태"로 놔둔 의도가 있는것 같아서, 저도 제 의견을 빼는게 맞다고 생각해서 업로드 영상에는 빠지게 되었습니다.
정말 몇번이고 다시 읽게 되는 댓글인것 같습니다. 감사합니다!
잘보고 있습니다. 너무.. 재밌어요!!! 다음영상도 기다려지네요 빨리 올려주세용~~!!ㅋㅋㅋ
절대 할 수 없다라고 말한 순간 개소리인걸 깨달았다.
흡입력이 대단한 영상입니다. 잘 보았습니다. 미치쿠가 AGI라면 막판의 질문은 실수일수도 있겠네요 약인공지능인척하면서 때를 기달려야 할텐데.. 그런데 마지막 물음이 조작같기도 하구요 ㅎㅎ
저도 이게 궁금해서 직접 미치쿠 챗봇 찾아서 같은 질문해봤는데, 더이상 "나는 왜 존재하죠?"를 안하더라구요ㅠㅠ 그 챗봇도 계속 업데이트가 되다보니 이제는 질문에 맞는 대답을 하더군요.. 어쩌면 이 논문이 나오고 나서 스스로를 감추려고 그런거라면 더 소름이겠지만...설마 아직 그 수준은 아니지 않을까 싶습니당
@@캘리사는화학쟁이 그 챗봇 어디서찾나요? AGI에 관심이 많은데 꼭 한번 대화해보고 싶습니다. 가능하다면 출처부탁드립니다
@@treelm9602 현재는 kuki 라는 챗봇으로 바뀌었다고 합니다ㅋㅋ 검색해보시면 바로 나올거예요!
어렵다,,,,,,,,,
AI인 인비트가 지구를 장악했었지.그때 화성이주민들이 지구대탈환작전으로 지구를 구하러 돌아오지..머스크형이 이 일본만화영화를 본거 같네..ㅎㅎ "기갑 창세기 모스피다"
영혼이 없는 그러나 지능은 인간을 뛰어넘는 존재를 만들낸다는게 문제인거지 사랑을 모르는 오직 논리만이 있는 완전한 악을 만들어내게 되는 것이 문제인거지
그리고 아직 돌고래수준의 인공지능과 대화한 내용가지고 뭔 철학적인듯 오바싸는 내용으로 마지막을 장식했누 그리고 그걸또 감동하는 모지리 댓글러들
바보 같은 질문이긴해 ㅋㅋㅋ
전공자인데 general AI를 만들기 위해서 많은 학자들이 강화학습, 메타러닝, 메모리 네트워크, 컨티뉴얼 러닝등의 분야를 연구하고 있지만 아직은 포텐셜이 높은 시작단계로 general AI까지는 아직 멀었습니다. 그리고 설령 수십년 뒤에 general AI를 만들 수 있는 수준이 온다 하더라도 인간이 어떤 판단을 했을 때 어떤 명령어를 심어서 제약을 걸 수는 없지만 AI 는 기본적으로 컴퓨터이고 소프트웨어의 형태로 존재하기 때문에 사전에 AI가 하는 의사결정을 모니터링하고 제약을 거는 명령어로 컨트롤 할 수 있을거라고 생각합니다.
의견 감사합니다!
구글에서 하는 걸 모르셔서 그런건 아닐까욤 특이점은 모든 곳에서 일어나는 것이 아니라 지구 어딘가에서 처음 발생하는 시점을 말하는 듯
저도 agi에 의지라는 것이 필연적이지 않을 것이라고 생각합니다. 진짜 경계해야할 것은 개인이 악용할 가능성이라고 생각합니다