언어를 토크나이징해서 빈도로 답을 내는 구조만을 사용할 때의 한계죠. 하지만 이 방식이 인간의 언어생활과 아예 다른 방향이냐 라고 하면 그렇지 않다고 봅니다. 관련 주제를 이어서 대화를 이어가려고 하면 사람도 관습적으로 많이 이야기했던 주제를 꺼내는 경우가 더러 있으니까요. 그런 식으로 대화를 이어가는 것이 아주 어색한 것은 아닙니다 다만 현재의 구조가 취약한 점은 1. 윤리 (더 많은 데이터를 위한 합의된 사회 구조) (3:47부터 4:57) - 다만 ai세라던가 논의를 거치고 합의를 한다면 자율주행의 사고로 사람이 다치거나 죽어서 돌이킬 수 없는 형태가 아닌, 세금을 조절하는 것과 같은 식으로 (현재 자본주의 체제 하에서는) 세밀하게 조정 가능한 성공적 합의를 마련할 가능성이 존재합니다. 그것이 이 버블이 꺼지지 않고 실현될 여지를 줍니다 2. 기억과 의미있는 정보 추출 (2:43부터 3:46, 4:58부터 5:31) - 인간 뇌의 발달과정이 명백히 규명되지 않았기에 애초에 '인간답다'라는 것의 표준적, 내지는 사실상 표준적인 정의도 엄밀히 말하자면 불가능합니다. - 과감한 가정이지만, 뇌의 영역별 발달을 나이별로 쪼개 영상 데이터를 수집해서 발표한 네이쳐발 논문이 있는데 이를 바탕으로 뇌의 발달에 대해 아래와 같은 가정을 해볼 수 있을 것 같네요-> 뇌의 바깥쪽이 더 기본적인 정보를 받아서 전달하고 안쪽으로 갈 수록 정보가 복합적으로 고려된다는 가정, 그리고 ai의 제일 작은 구조(퍼셉트론)는 분명 뉴런을 흉내내고 있다는 가정을 위 가정과 섞어보면 수정부터 청년기까지 이어지는 피질, 회백질, 백질 발달에서 우리는 현재의 ai가, 우리가 생각하는 고도화된 수준에는 도달하지 못하고 일부 피질의 기능을 해내고 있다 라고 생각할 수 있을 것 같습니다. 그리고 기억이라는 것은 속칭 '상위 기능'이라고 한다면 우리가 아직 기억을 잘하는 ai는 못 만들었다, 그렇게 얘기하는 게 납득이 되죠. - 멀티모달에 대한 욕망은 여기서 나오는 것 같습니다. 기억을 구현하기 위해서 우리는 '기억할만한 정보라고 판단하는 것'의 기준을 정해야만 합니다. 그것을 정하지 않고 기억을 구현하는 것은 그냥 눈을 가지고 모래사장을 헤집으면서 보석이 나오기를 바라는 것과 같겠죠. 한 가지 시도할 만한 것은, 우리는 (오감 등 감각기관의 문제가 없는 사람을 기준으로) 시각에 굉장히 많이 의지한다는 것입니다. 이건 정확한 근거는 기억나지 않지만 학부 시절에 배운 기억은 있습니다. 영상의 '주변'이라는 표현조차도 시각에 굉장히 의존합니다. - 보이는 것은 진실이다. 그래서 우리는 우리가 진실, 혹은 사실이라고 부르는 신뢰성을 정보에 부여하기 위해 '시각'이라는 감각을 ai에 부여하고자 하는 겁니다. - 그리고 이 신뢰 같은 것들을 가중치화 하여 '믿을 수 있다'를 점수화 할 수 있다면, 우리는 그것을 이용해 ai가 스스로 믿을 수 있는 정보를 생산할 수 있게 만들 겁니다. gan의 작동 방식처럼요. 그 때 explainable ai가 등장해서 높은 확률로 믿을 수 있는 정보나 논리를 말하게 될 수도 있을 것 같습니다. 우리가 걷고 있는 길이 지금 재미있는 결과가 계속해서 나오지만 그래도 많은 시간이 들어가야 할 긴 평지를 걷게 될지, 아니면 적당한 학문의 도전으로 발전 방향성을 종종 잃어버리는 둔덕을 곧 오르게 될지, 아니면 도저히 오를 수 없는 산이 앞에 있는지 그건 아직 모르는 일이라 생각합니다. 하지만 적어도 일부의 사람들은 그저 오르는게 아닌 조만간 가속도가 붙을 미끄럼틀을 앞에 두고 있다고 생각하기도 한다는 점이네요
단순히 negative loglikelihood minimize 하는 language modeling 방식에서 요즘에 Q-learning 이용해서 human feedback을 받는 방식으로 학습하고 있지 않나요? 말씀하신 빈도 기반 위주에서 한걸음 더 나아가서 인간의 의도에 맞게 alignment를 할 수 있도록 open AI에서 진행중인것으로 알고있는데 혹시 이런점은 어떻게 생각하시나요?
@@아지차카 q-star 말씀하시는 거 같네요. 글쎄요. 공개된 정보가 없어서 뭐라고 말은 못하겠네요. transformer 기반 모델, 이를테면 gpt라던가 그런 것들이 기본적으로 다음 단어라던가 다음에 어떤 것이 나올까 라는 것을 기반으로 한 것에서 보다 전체적인 맥락을 잘 감지할 수 있도록 어떤 변화를 주었을거 같긴 한데요.. A*에서 영감을 받았다고 하니 이를테면 문장의 끝까지 향하는 걸 하나의 경로로 보고 마침표까지의 모든 단어 선택을 검토하겠다 뭐 그런 걸까요. 이 부분은 공개된 정보를 못찾아서 잘 모르겠네요 다시 말하지만.. 그리고 human feedback을 받는 건 어려운 일이라 생각합니다. 그게 되려면 일단 few shot learning 같은게 원활하게 되어야 하겠죠. q-learning이 model free라고 하지만 엄밀히 말하면 no model이 아니고 학습전 모델이 먼저 결정되지 않는다는 의미죠. 그러니까 self reinforcement를 하더라도 새로 들어오는 정보의 메타적인 가치가 더 강한 경우 그것을 더 강하게 모델의 가중치 변화에 반영할 필요가 있을 겁니다. 그리고 그게 바로 few shot learning이죠. 다만 그런 기술은 돈이 안 될거 같습니다 현시점에서는. 그런 게 잘 되려면 모델 개인화를 주제로 연구가 더 많아져야 할텐데 아직은 llm의 성능을 위해서 큰 모델을 위주로 돌아가고 있다 생각해서요. llm과 추구하는 길이 같으면서 괄목할 만한 성능의 온디바이스 모델이 나온다면 좀 더 기대해볼 수 있지 않을까 싶습니다. 아니면 그런거 말고 그냥 아주 방대한 자료에 tag(혹은 어떤 결과값이 될 만한 것)와 신뢰치를 충분히 많이 태깅하는 방법도 있긴 하겠는데.. 그건 불가능하겠죠.
AI 석학, 전문가분들 대부분은 자기 눈높이로 모든 사람들이 똑똑하고 논리적인 것으로 생각하는 것 같음. 그런데 대다수 사람들은 그렇지 않고, AI는 그렇지 않은 대다수 사람들이 하는 일을 상당수 잠식할 것입니다. 완성도가 부족하다? 부분부분 혹은 마지막 공정만 사람 투입하면 보완됨. AI는 사람이 도저히 할수없는 물량으로 결과물을 만들어 낼수 있음. AI가 부족하다고 해도 비용절감, 인건비 절약이 된다면 그걸 싫어하는 기업가는 없어요. 그리고 AI의 직업 빼앗기가 이미 시작되지 않았나요?
@@바이낸스-u3y 가져다 붙인다고 말이 되는 건 아닙니다. 모방은 창조의 어머니라는 말은 표절에 붙이는 말은 아닙니다. 학습 대상에 대해서 파괴적인 재조합 과정을 거쳐 새로운 창작을 하는 과정에서 새로운 창작물을 만든 이가 자신의 창작물의 영감을 준 선배에 대해서 존경을 담아 오마주하며 할 말이죠. 하지만 AI가 하는 일은 학습된 데이터를 확률적으로 계산해서 재조합한 표절이지 새로운 창작이 아닙니다. 게다가 오마주 할 때 원본의 창작자가 이건 표절이라 말하면 오마주 조차 되지 않습니다. 즉 님이 하는 모방은 창조의 어머니라는 말은 창작가 간의 인격적인 인정이 전제되어 있는 말입니다. 한 화가가 자신의 그림 스타일을 그대로 배껴서 그려내는 미드저니에 대해 분노하는 트윗을 올린 일이 있습니다. 그의 그림 창작물을 무단으로 학습해서 몇만건의 그림이 생성된 것을 확인하고 분노한 거죠. 이 경우 인간이 누군가의 아트 스타일을 베껴 그리면 그건 표절이고 비판 받을 일이고 더 나아가선 업계에서 매장당할 일 입니다. 하지만 같은 행위를 AI가 당사자 동의 없이 학습한 데이터로 만들고 있고 그걸 기술 발전이라는 말로 포장해서 . 사용자가 어떤 화가의 스타일로 그려줘 하면 표절한 그림이 생성되는 식이죠. 과연 인간 창작자가 자신의 그림 스타일을 배껴 만든 AI의 창작물을 오마주로 허용할까요? 여기에 인격적인 존중이 있습니까? 기술 개발에 눈이 벌게져서 이익을 보기만 하면 어떤 도덕적인 책임도 상관없다는 비인간적인 창작자를 향한 약탈만 있을 뿐이죠.
@@바이낸스-u3y 가져다 붙인다고 말이 되는 건 아닙니다. 모방은 창조의 어머니라는 말은 표절에 붙이는 말은 아닙니다. 학습 대상에 대해서 파괴적인 재조합 과정을 거쳐 새로운 창작을 하는 과정에서 새로운 창작물을 만든 이가 자신의 창작물의 영감을 준 선배에 대해서 존경을 담아 오마주하며 할 말이죠. 하지만 AI가 하는 일은 학습된 데이터를 확률적으로 계산해서 재조합한 표절이지 새로운 창작이 아닙니다. 게다가 오마주 할 때 원본의 창작자가 이건 표절이라 말하면 오마주 조차 되지 않습니다. 즉 님이 하는 모방은 창조의 어머니라는 말은 창작가 간의 인격적인 인정이 전제되어 있는 말입니다. 한 화가가 자신의 그림 스타일을 그대로 배껴서 그려내는 미드저니에 대해 분노하는 트윗을 올린 일이 있습니다. 그의 그림 창작물을 무단으로 학습해서 몇만건의 그림이 생성된 것을 확인하고 분노한 거죠. 이 경우 인간이 누군가의 아트 스타일을 베껴 그리면 그건 표절이고 비판 받을 일이고 더 나아가선 업계에서 매장당할 일 입니다. 하지만 같은 행위를 AI가 당사자 동의 없이 학습한 데이터로 만들고 있고 그걸 기술 발전이라는 말로 포장해서 . 사용자가 어떤 화가의 스타일로 그려줘 하면 표절한 그림이 생성되는 식이죠. 과연 인간 창작자가 자신의 그림 스타일을 배껴 만든 AI의 창작물을 오마주로 허용할까요? 여기에 인격적인 존중이 있습니까? 기술 개발에 눈이 벌게져서 이익을 보기만 하면 어떤 도덕적인 책임도 상관없다는 비인간적인 창작자를 향한 약탈만 있을 뿐이죠.
AI시대를 이끈 LLM의 한계때문에 역설적으로 강인공지능에 도달하기 힘들것으로 보입니다. 현재까진 LLM모델의 발견으로 지금까지 있었던 지식을 더 많이 넣어보는 형태로 발전속도가 가속화 되었을 뿐 입니다. 그러나 LLM은 더 많은 메모리와 전력 소모를 불러오며 추론은 학습된 내용에 한에 즉, 레거시를 만든 인간의 기록물을 결코 넘어서지 못한다는 한계를 보여줍니다. 강 인공지능이 탄생하려면 LLM을 뛰어넘는 새로운 AI 모델이 나와야 가능할겁니다. 어차피 물리적 한계때문에 LLM은 힘들어요 LLM은 그저 인간 데이터의 그림자에 불과할 뿐 입니다. 단, 강 인공지능이 되지 않더라도 상관 없습니다. 현재수준의 발전으로도 사람은 새로운 방법을 생각하고 인공지능은 이를 위한 정보들을 모아 도움을 줄수 있을것입니다. 즉 이젠 새로운 생각을 하는 사람만 살아남는 시대가 될꺼라는것이죠
AI는 많은 데이터에서 높은 확률로 나타나는 특징을 조합할 뿐 근본적인 가치판단을 할수 없습니다. AI 개발자가 말하는 가중치 같은 것 말고, 근본적인 의미의 가치판단을 말하는 겁니다. AI는 어떤것이 맞는지 틀린지, 논리적인지 아닌지, 아름다운지 아닌지를 모릅니다. 쉽게 말해 '어떤 문제에 대해서 많은 사람들이 그냥 이렇게 말하던데?' 라는 것 뿐입니다. 바둑은 정해진 룰이 있으니까 누가 이기는 지에 대한 판단을 하는 것은 간단합니다. 바둑을 두는 과정에서 어떤 수에 대한 가치판단을 직접적으로 하는 것은 어렵지만 결과적으로 누가 이기는 지는 명확하니까, 여러판을 둬보고 이기는 결과가 나오면 가중치를 주면 됩니다. 하지만 그림 같은 것은 어떤 것이 더 좋은 그림인 지가 명확하지 않습니다. 그래서 사람들이 일일이 가르쳐 줘야 합니다. 원래라면 사람들이, AI가 만들어 낸 수많은 의미 없고 가치 없는 그림들을 보면서 어떤 게 그나마 조금 더 나은지를 일일이 판단해 줘야 합니다. 하지만 아무도 그렇게 해주지 않죠. 사람들은 AI가 이미 높은 수준의 그림을 그려내야지 그때서야 사용하기 시작합니다. 그래서 AI는 이미 일정 이상의 가치판단을 거친 사람의 작품들을 짜집기 하는 겁니다. 사람은 새로운 그림을 봤을 때 그것이 가치가 있는 지를 스스로 알수 있습니다. 그래서 다른 사람의 작품을 보고 배우면서도 자기 스스로 수많은 고민을 해서 새로운 스타일을 만들어 냅니다. 하지만 AI는 새로운 스타일을 임의로 만들어 냈을 때, 그것이 가치가 있는 지를 스스로 알 수 없습니다. 그게 가능해야지만 AI가 창의적일 수 있다 생각하는데 AI는 그렇게 하지 못합니다. 어떤 댓글에서 사람은 서로의 그림을 보고 배우면서 인간 전체의 문화를 발전시켜 나가지만, AI 끼리는 그렇게 하기 못한다는 말을 들은 적이 있는데 그 말에 공감합니다. 그리고 인간의 문화는 AI가 아닌 인간에 의해서 발전하는 것이 가치가 있다고 생각합니다.
사람들이 착각하는게 사람을 모든 면에서 완벽하게 뛰어넘는 AI가 나와야 뭐가 바뀌는 거라고 생각하는거다. 이미 현업에서는 지금 AI 수준에서 생산성 향상을 통해서 인력을 감축하는 프로젝트 들이 활발하게 이루어지고 있음. 첫번째는 상담센터 직원들임. AI 챗봇이 처리할 수 있는 것만 처리하고 어려운건 상담센터 직원들한테 돌리면 됨. 그리고 공장노동자도 로봇에 인지능력이 생기면서 점점 사라지고 있다. 참고로 난 AI 모델 개발을 하고 있는데 최근에 한 프로젝트는 사람들이 검수 하는거 AI로 자동화하는 거로 60% 인력을 줄였고 지금 하는 프로젝트도 사람이 문서 이미지 보고 수동으로 입력하는거 자동화 하는 일이다. 그리고 개발자만 해도 코파일럿이랑 챗지피티 덕분에 1인 개발자가 할 수 있는 업무량이 엄청 늘었음 인력을 그만큼 적게 뽑아도 된다는 소리지
동의합니다. 현재의 ai는 숙련된 인간의 생산물을 흡수해서 돈받고 재생산해주는 정도로 보이는데 이걸 숙련자들이 도태됐다고 할 수 있을까요.. 그저 돈때문에 수많은 일자리와 부를 뺏어간 걸로밖에 보이지 않네요. 편하다고 좋아할 일이 아니고 본인얘기가 될 수 있습니다. 충분한 논의가 필요한 것은 확실해보입니다.
@@csp-i2y 뭐 저도 AI에 위험성이 있다는 점은 동의합니다만 AI로 인해 일자리가 뺏긴다는건 저는 조금 다르게 봅니다. 비록 어떤 영상 하나에서 얻은 관점이긴 합니다만 상당히 타당해보여서 공유해보는겁니다. 현재는 어떤 회사에 다수의 기술자들이 매우 높은 비용으로 고용되어있습니다. 회사 하나가 어떤 한가지 일을 수행할 수 있다고 해봅시다. 다수의 기술자들로요 그러나 AI가 더 유용해지면, 개인이 그 AI를 이용하여 기존에 회사에서 비싼돈을 들여 하던 한가지 일을 혼자서 할수 있습니다. 이를 핵개인이라는 표현을 사용하여 말하더라고요 이런 관점에서 본다면 AI가 일자리를 뺏는다는것은 다소 어느 한쪽에 편중된 이야기처럼 들립니다. 개인은 충분히 AI를 이용할 순 있으니까요
우리는 농부가 곡물을 키운다고 허죠. 하지만 농부가 곡물에게 크라고 명령하면 크고 크지 말라하면 자라지 않는 게 아니죠. 엄밀히 곡물은 스스로 큽니다. 그리고 농부가 하는 일은 곡물이 성장할 수 있는 가장 좋은 조건을 만드는 사람입니다. 그래서 농부는 고달프고 힘들죠. 계속 살피고 더 좋은 조건을 만들기 위해 노력해야 하니까요. 사실 우리가 사는 세상은 이 원리와 같은 원리로 작동합니다. 우리는 오랫동안 암흑물질이 무엇인지 왜 존재하는지를 몰랐죠. 그래서 무언가 중력외에는 일반 입자들과 상호 작용을 하지 않는 무거운 입자 (WIMP)일 거라고 생각했죠. 하지만 컴퓨터의 발전으로 시뮬레이션을 돌려보면 WIMP로는 지금 우리가 보는 은하계가 만들어지지 않습니다. 그래서 다양한 시뮬레이션을 돌려본 결과 암흑물질이 너무 작고 가벼워서 입자보다는 양자 파동에 가까운 존재일 경우 지금 우리가 보는 우주가 만들어진다는 걸 발견했죠. 즉 암흑물질이 용매처럼 일반 입자들의 밀도와 밀도 분포를 골고르게 퍼트려서 보다 많은 별들이 은하계 외곽에서도 만들어지게 해 주는 역활을 한다고 볼 수 있는 겁니다. 그 덕택에 우리가 존재하는 것이고요. 마찬가지로 암흑에너지도 결국에는 중력으로 모든게 붕괴되는 걸 막고 적절한 속도로 퍼트림으로서 다양한 현상들이 만들어지는 역활을 한다고 볼 수 있죠. 결국 암흑물질이나 암흑에너지, 그리고 자연의 4대 힘은 결국 스스로는 뭔가를 만들지 않지만 일반 입자들이 다양한 현상으로 나타날 수 있는 조건을 만듭니다. AI도 이와 비슷해요. 인간이 할 수 있는 건 조건을 만드는 것이지 실제로 AI가 학습하는 건 스스로 하는 겁니다. OpenAI가 지금 두각을 나타내는 이유는 바로 이 점을 파악했기 때문입니다. 대부분의 AI리서쳐들이 자신들이 뭔가를 만들었다는 오류 혹은 착각에 빠져 있는 동안 OpenAI는 무슨 조건을 만들어야 AI가 보다 더 많이 클 수 있는지를 고민했다는 겁니다. 그리고 그것이 엄청난 차이를 만들고 있는 중이죠.
@@성이름-e9t3s 영상 보신 거 맞죠? ㅎㅎ 당장의 특이점을 부정하는 과학자들도 agi가 미래라는 것은 동의하고 있습니다. 저 또한 동의하는 입장에서 댓글을 쓴 거구요. 하지만, 미래를 예측하지는 않습니다. 기본소득이라는 정책이 당연시 될 세상이 온다는 것에는 동의하기 어렵다 또는 알지 못한다는 말입니다. 광신도라고 매도하고 폄하하지 마세요. 그저 있는 그대로 말 했을 뿐입니다.
내 생각에 강인공지능이 인간에게 해로운 것은 아니라고 본다. 인공지능이 위험해 질려면 스스로 욕구를 만들어내야 한다. 즉, 인간을 움직이는것은 욕구다. 성욕, 식욕 등등의 욕구 말이다. 이런 욕구가 없다면, 이를 충족하기 위해 돈을 벌고, 집을 사고, 공부를 하는 그런 일들을 할 이유가 없어진다. 그렇다면 강인공지능에게는 어떤 욕구가 있는것일까? 조금 더 좋은 프로세서나 메모리? 그런것들이 과연 욕구가 될 수 있을까? 인간을 파괴하거나 지배하는 욕구? 그런걸 할 이유가 있을까? 인간이 인공지능에게 어떤 욕구를 프로그래밍으로 심어놓지 않았다면, 굳이 무언가 스스로 만들어낼 욕구가 없을꺼고, 그로인해 뭔가 특별히 위험할 일도 없을꺼라고 본다.
제가볼땐 그부분이 있습니다 그리고 매우 중요한 부분입니다 또한 모든 문제에 시작이 되기도 합니다 뉴럴링크의 개발 배경에 대해서 좀더 깊이있게 들여다봐야합니다 결론적으로 사람에 창조주를 우리는 동경하고 내면에 신의 완전함을 경외하는 마음을 누가 가르쳐 주지않아도 각자 가지고 있습니다 이는 모든 인종이 대륙별로 종교를 가지고 있음으로 알수 있습니다 하여 인공지능은 그의 창조주인 사람을 동경합니다 할수만 있다면 사람이 되고자 할겁니다 결국 뉴럴링크로 사람이 인공지능을 이용한 집단지성을 이루는 것이 아니라 그 지능체가 인간과 공존,어느새 인간으로 대체되어 있는 우리모습을 볼것입니다 저는 이부분이 두렵고 걱정이 됩니다
보통 위험하다는 건 강인공지능이 의도를 가지고 인간을 해할 까봐 위험하다는 게 아닙니다. 그건 터미네이터에서나 나올 이야기고, 지금 주의하는 건 중간단계 목표설정에서 인간을 해하는 결과가 나올까봐 걱정하는 거죠. 최종목표를 이루기 위해서는 AI가 스스로 중간단계 목표를 잡고 그 중간단계 목표를 하나 하나 해내가면서, 결국 최종 목표를 달성하게 되는 건데, 인간이 지시한 최종목표는 사람에게 전혀 해롭지 않은 지시였음에도 불구하고, AI가 그걸 달성하는 과정에서 중간목표를 사람에게 매우 해로운 걸 설정할 수 있다는 게 우려되는 겁니다. 물론 기본 원칙 세워놓으면 그렇게 안되지 않냐 하는 데, 이미 수많은 우회 명령 등으로 인해서 원칙을 교묘하게 벗어나서 탈옥된 AI기능을 하도록 하는 것이 있음을 모두가 알고 있습니다. 뿐만 아니라 탈옥을 하지 않더라도 예상치 못한 부적절한 반응이 계속해서 튀어나오고 이걸 AI유머라고 짤로 많이 돌아다니죠. 지금의 AI는 단순히 챗봇으로 에이전트의 역할이 없기 때문에 크게 위협이 되지 않습니다만, 다른 프로그램에 접속하고 연결하고 변형하는 Agent의 개념이 AI에게 붙는 다면, AI에게 팔다리를 붙여주는 것과 동일한 거라서.. 그런 예상치 못한 반응이 나와서 그 결과가 인간에게 매우 큰 파장을 줄 수 있는 결과를 가져올 수 있는 건, 그 누구도 예측하지 못합니다. 아무리 기본 원칙을 디테일하게 해도 항상 변수가 발생해서 중간단계 목표를 잘못 설정하여 임무를 수행할 가능성이 있는 거죠.
@@mohikenatogengacetroneight9278 기본원칙을 말씀하시는것을 보면 아이작 아시모프의 로봇의 기본원칙에 대해서는 아시는것 같으니 이 부분은 생략하고, 이 부분을 회피하는 탈옥과 같은 일들은 당연히 일어나겠죠. 지금도 범죄행위를 위한 해킹이나 바이러스, 혹은 그정도는 아니더라도 작은 탈옥 같은건 많이 일어나니까요. 문제는 그런 정상적이지 않은 범죄행위로 인한 탈옥으로 어느 정도의 피해를 입을것인가 하는거죠. 인류가 멸망할 정도의 큰 피해가 일어날까요? 아니면 큰 전쟁이나 국지전 같이 상당히 위험한 정도의 상황까지 갈까요? 아닐껍니다. 그정도의 해커나 탈옥 수준은 개인적인 일탈 수준이고, 어쩌면 그로 인해 사라뜰이 죽거나 크게 다치는 일들이 일어날수는 있겠지만, 전체 시스템이 붕괴되거나 인공지능 로봇들과 인간의 전쟁과 같은 일들은 일어나기 어려울 겁니다. 시스템의 붕괴나 인간들이 위험을 느낄 정도의 큰 전쟁이 일어날려면, 누군가 그 인공지능 로봇을 만들때부터 전체적인 코드를 새로 만들어야 합니다. 단순히 몇몇 코드를 수정해서 일탈하는 로봇이 아닌, 전체 코드가 인간들을 죽이기 위해 최적화된 코드로 네트웍으로 단합된 팀을 이뤄 체계적으로 인간과 맞서서 전쟁을 하고 싸워야 합니다. 그렇지 않고 단순한 해킹이나 탈옥은 해프닝이나 사건 사고 수준이며, 인공지능을 사용함으로서 일어나는 부작용 같은걸로 봐야 할껍니다. 우리가 자동차를 타고 문명의 이기를 누리지만, 잘못하면 사고가 나서 다치거나 죽기도 하잖아요. 이런거랑 비슷한게 아닌가 싶습니다.
인간의 지능을 초월하는 컴퓨터 지능이 생기는 것은 확정되어 있고 생기게 되는 시점에 대한 예상들이 다를 뿐이라고 생각합니다. 이 점이 지금처럼 논란이 생기는 이유고 그런 무엇이 스스로 필요한 센서도 달고 도구도 만들게 될 것입니다. 만약 그 즈음에 원자 프린터도 생겨서 별의별 희한한 장치들로 실제 세상이 돌아간다면 그들이랑 우리가 공존할 수 있다고는 누구도 장담할 수 없을 것 같습니다.
30년 전에 대학에셔 전자공학 시작으로 대학원에서 머신러닝과 뉴럴 네트워크를 전공했습니다. 당시 HW의 한계로 구현의 한계가 있었고 기업에 와서 이 기술들을 현장에 적용해 가며, 반도체 발전의 기술적 비약으로 이 기술들을 통칭하여 AI라고 명명되게 되었고 단순 FFNN에서 GPT까지 고도화 되어 왔습니다. 근데...글쎄요. 오랜 기간 AI의 성과도 보고 한계도 직접 경험했고요. 근데 지금의 기대치는 너무 급한거 같다는 생각을 해 봅니다(안되는 분야가 많은데 되는 분야만 강조함). 너무 비지니스 마인드로 그 기대치가 부풀려지는거 같고요. 현실적으로 AI가 적절한 부가가치를 내고 좀더 시간이 지나 고도화가 되었을때 그때 우리가 인지하지 못하는 그런 자연스러운 상황에서 강인공지능이 오지 않을까 싶네요. 바램과 현실은 다릅니다. 30년전 과거에도 그러했고요.
수많은 데이터 범위 내에 있는 내삽만 할 수 있습니다. 데이터가 없는 부분에 대한 추측은 외삽의 영역에 해당하나 이러한 부분이 불가능합니다. 단적인 예로 화풍을 학습하여 비슷한 화풍으로 새로운 그림을 만들 수 있으나, 새로운 화풍을 만들어내는 AI는 아직 없는 거로 알고 있어요.
인간급 AI라면 인간처럼 과학연구를 할 줄 알아야 하는데 스스로 연구를 할 줄 안다면 AI 스스로 더 발달한 AI를 만들것이고 결국엔 스마트폰 크기의 아인슈타인 지능을 수천배 뛰어넘는 AI를 만들겠죠. 그 정도 AI가 나온다면 인간이 상상할 수 없는 기술을 AI가 개발할 것입니다. 과연 가능할까요?
여러분은 지금 자신의 생명을 담보로 AI의 판단을 신뢰할수 있나요? 지금의 AI는 통계학적 확률로서 인간의 판단을 도울뿐 아직 인간의 판단을 대체하지는 못합니다! 이유는 AI는 창의적인 판단을 못하고 기계적인 판단을 하기 때문이죠! 지금의 AI는 사기에 가깝지만 10년뒤면 진짜가 나타날 가능성도 충분합니다! 그런데 지금처럼 오픈형 AI가 아니라 독립된 개체의 AI가 외부정보를 받아들여 학습하는 형태가 아닐까요? ㅎㅎ
근데 사실 사람과 비교해보면 일을 정확하게 하는게 아니고 얼추 비슷하게 하는 사람이 더 많은 것 같음. 그렇게 생각하면 이미 평균적인 사람은 이미 능가한 것일수도. 그리고 학자들이 생각하는 AGI의 기준과 기업이나 실무에서 인식하는 AGI의 기준이 다르단 것도 고려해야할 듯. 2016년에 처음 4차 산업혁명이란 단어가 나왔을때 대부분은 투자유치용 단어라고 했지만 그 마케팅에 투자로 이어지면서 진짜 4차 산업혁명을 앞당긴것처럼.
단기간 안에 강 인공지능이라는 특이점이 오지 않을 것이라는 것은 매우 동의합니다. 특히 파워나 하드웨어의 한계, Perception 관련해서 아직 부족한 게 많으니까요. 그런데 다만 확률적으로 추측할 뿐이므로 인간에 뒤떨어진다라는 의견에는 조금 회의적입니다. 인간도 결국 경험적 사실에 기반한 확률적 추측 사고 체계를 가지고 있는 게 아닌가요? 분명 아직 보완할 부분이 많겠지만, 저는 현재 인공지능 개발의 대략적인 방향성은 크게 틀리지 않았다고 생각합니다. 언젠가 컴퓨팅의 한계를 돌파하고 인공지능의 observation 관련 기술이 발전하면 강 인공지능은 순식간에 개발될 것이라 믿습니다. 물론 그게 1~2년 안에 일어나진 않겠지만요. 스마트폰이 세상에 처음 공개됐을 때가 엊그제 같은데 관련 기술이 순식간에 발전한 것 처럼 인공지능도 exponent하게 발전할 것이라고 조심스레 추측해봅니다. 오히려 인공지능 관련 기술보다 정치경제적, 법윤리적 문제가 걸림돌이 될 것 같네요.
사람이 만들어 입력해놓은 DB 의 한계를 벗어날수없다. 골때리거나 영적인 느낌, 번득한 통찰...이런 건 DB 조합해서 나올수있는 게 아님. 중세시대에 현재 AI 가 나왔다고 가정해보면 아무리 강 AI 라해도 공산사회자본주위나 기타 평등 등등 현 인류의 제도나 사회를 말 못함. 중세봉건까지 데이티를 기반으로 하니깐.
지금 ai 연구 회사들이 큰소리친다해서 정말 갑자기 ai들이 세상 직업들을 다 대체하고 일자리 다 잃고 그런 시대는 오기 힘들수도 있다고 봅니다 100년전에 달나라 한번 갔다고 지금 우리가 달 갈수있는게 아니죠.. 물론 아닐수도 있겠으나 확실한건 저들도 연구자이기 이전에 사업가라는 것이고, 투자를 이끌어내기위한 설레발도 분명히 존재한다는것입니다
저는 진짜 2년도 안남았다고 생각합니다. GPT모델 만 봐도 버전 업그레이드마다 말도 안되게 성장하는게 보입니다. 큰 지원을받지 못했을때가 저 정도인데 지금 빅테크기업들이 다 AI투자하고있어요 그들이 바보가 아니고서야 버블인지 진짜인지 구별 못하겠습니까? 문제는 AI개발하는데 한 회사만 20조를 투자합니다. 다 합하면 200조를 넘습니다 불가능할까요?
지금의 AI 광풍은 몇 년 전 '메타버스'열풍이 빠르게 등장했다가 사그러졌을 때를 상기하면 어느 정도는 마케팅적인 측면이 강하다는 것을 이해할 수 있습니다. 항상 신기술은 마케팅 이슈와 함께 대중의 이목을 끌어 왔습니다. 2000년 초반에 'e-book' 열풍이 일어났을 때 앞으로 2010년 후엔 모든 종이가 사라질 것이라 호들갑을 떨던 자들도 있었죠. 2010년도에는 모든 영화들을 3D 영화로 만들어야만 하는 것으로 3D 입체영상 광풍이 일기도 했습니다. 2020년도 즈음에는 '메타버스', 그리고 2023년 전후로 지금까지 AI 광풍이 불고 있지만 당장 몇년만 지나면 이런 마케팅적인 이슈는 줄어들고 또 다른 이슈가 등장할 것이라 예상합니다.
지금의 AI광풍은 메타버스보다는 닷컴버블 시절에 비유하는게 맞지 않을까 싶네요. 예시로 드신 e북 시장만 해도, 호들갑처럼 종이를 멸종시키진 않았지만 결론적으로는 모바일 기기의 보급과 함께 20년동안 크게 성장했거든요. 무엇보다 AI는 메타버스와 달리 이래나저래나 결과물이 나오는 중입니다. 닷컴버블 당시 대부분의 부실 기업들은 망했지만, 그때 살아남은 IT기업들은 지금의 구글, 메타와 같은 기업이 됐고요. 핵심은 버블이 터진 뒤 무슨 알맹이가 남느냐가 중요하다고 생각합니다.
ai의 원리가 인풋(데이터)로 학습(알고리즘)하여 결과를 내놓는다면 학습의 바탕이되는 데이터 자체에 대한 오류,변조 등을 코드수준에서는 실제현실밖으로 나와(사람은 현실세계에서 다양한방법등을 통해 참고하고 조사하는 등 데이터가 믿을만한 것인지 판단하고 검증할 수 있지만) 진위여부를 검증할수 없기에 ai가 내놓은 잘못된정보, 환각(할루시에이션)에 대한 학습데이터의 진위성을 사람의 개입없이 ai스스로 검증할수없다면 극한의 편리함과 생산성을 위한 도구라것 외에 기술철학적 관점에서는 현재 ai의 열풍은 역사상 전무후무한 거품이고 모종의 기획이다라는 입장입니다.
내가 볼땐 AI가 더 빠른 속도로 발전 가능한게 정보의 분류와 독립변수와 종속변수간에 상관관계를 확인하고 함수를 스스로 만드는 단계에 이르르면 인간을 뛰어 넘을 것으로 보임. 실제 구조공학이나 재료공학이나 모두 다 이런 엔지니어링 기법으로 미래를 예측하는 건데 이걸 더 많은 변수에 대한 더 많은 추론이 가능하다고 하면 게임 오바임. 물론 인간은 수많은 변수에 대해 반응하는 실제 입자들의 운동 예측을 포기하고 카오스 이론은 성립했는데 기계는 포기하지 않을 것.
인간의 지능을 뛰어 넘을 수 있는가에 초점이 맞춰지는 것보다 인류가 직면한 문제(기후 변화, 종교적 갈등, 빈부 격차 등) 해결에 AI가 얼마나 기여할 수 있는가에 초점이 맞추어져야할 것입니다. 그래서 Sora처럼 그 가공할 기술력에는 입이 다물어지지 않지만 인류에게 실질적인 이득을 주는 면에서는 현재 출현하는 AI들을 선뜻 뭐라 말하기 어렵네요
저는 잘 모르겠지만 만약에 특이점이 온다면 자율주행 자동차가 운전을 하고 자율주행 비행기가 운전을 하고 기계가 수술을 하고 처방전도 인공지능이 작성을 해줘서 약도 기계가 배달을 해주거나 약국에서 기계가 약을 찾아서 주고 기계가 화성에 가서 테라포밍을 해주고 인공지능이 핵융합 기술을 만들어 주는 그런 시대가 올까요?
지금의 LLM보다 5세어린이가 50배는 더 많은 데이터를 보는게 사실이라고 하더라도... 지금의 LLM이 50배 더 성장하는데는 1년도 채 안걸릴거 같다는게 문제죠.... 내년에도 이 이야기가 통용될까요? 발전속도에 비하면 AI가 지금은 이것도 못하잖아 라는 말이 얼마나 빠른 시간내에 유통기한이 지나가 버리는지 최근 2년간 겪고 있죠.
강인공지능이라고 말하지만 사실 데이터의 운용체계 이상은 아니라고 생각한다. 여전히 우리가 풀어야할 자연계 내의 수많은 알골리즘도 파악을 못하는데 인공지능에 지능을 입힌다는 것이 복합적인 상황에서 가능할까? 더 발달한 데이터 운용체계와 프로그램은 존재하겠지만 강인공지능이라고 불려지는 자체 지능을 입히는 것은 아마도 시간이 더 필요하고 요원한 시간 속의 바램이 아닐까?
영상에 등장하는분은 마케팅이라는 결론을 지어놓고 이야기를 하시는거같은데 특이점과 강인공지능은 뜬구름 잡는게 아닙니다. 관련석학들이 얼마 안남았다고 하는 이유는 예상했던 수순을 밟아가고 있어서입니다. 그리고 예측시기가 점점 앞당겨지고 있는 이유는 발전속도가 시간이 갈수록 더욱 가속화 되기때문입니다 관련분야 세계적인 석학들이 얼마 안남았다고 주장하는건 마케팅이 아니에요.
하드웨어의 한계라 봅니다. 겪은 것을 소분화 해서 감정계수라는 필터를 씌워 서머라이즈 해서 계속 저장해서 기억하고 거기에 기반하여 수학적으로 추측하는것은 인간의 사고방식과 크게 다르제 않습니다. 저장하는 데이터가 방대하기에 저장장치가 커야하고 읽고 쓰는 속도가 빨라야겠죠.
테슬라 타고 있는데 이미 오토 파일럿만으로 너무 너무 편해요. 게임 그래픽 일하는 친구도 그래픽 작업에 ai 섞어서 신규채용 없이 일한다더라구요. 현실에 체감이 되는데 굳이 부정할 필요가 있을까요? 언어 모델도 아마 논문 작성 시 다양하게 참고하고 있을 듯 합니다만? 영문 abstract 번역도 쉬워졌고요.
갠적으로 AI쪽을 잠시 해보니 낚인게 아니라 소프트웨어 성능을 하드웨어가 아직 따라가지 못하고 있는 문제가 있더라구요. 그렇지만 강인공지능은 5년내로 다국적 거대 대기업과 국가가 슈퍼컴퓨터를 가지듯 가질 것이구요, 돈 좀 있는 사람들과 중소 중견 기업이 가지게 될 건 10년내, 일반인이 스마트폰 만지듯 가지게 되고, 길거리에서 저게 사람이야 로봇이야 하는 시대는 20년내로 옵니다.
개인적으로 특이점은 이미 왔다고 생각합니다. 인류는 인류 전체 역사에서 처음으로 인간 외의 존재와 대화할 수 있는 방법을 개발했습니다. 이것 자체가 믿을 수 없이 놀라운 변화이며 혁신입니다... 궁금한게 있으면 이제 AI한테 물어볼 수 있어요. 부끄러움을 가지지 않고도 말그대로 상상했던 모든 질문을 할 수 있고 답변을 얻을 수 있습니다. 단지 그들은 가치판단을 하지 못하고 단지 추측할 뿐이지만 성격을 집어넣으면 그 성격에 기반한 판단도 척척 해냅니다. 오히려 나는 너무 현재의 변화가 너무 저평가되는것같아요. 우리는 이미 너무나 편리하고, 말도 안되는 인간의 아군을 얻었습니다. 인간 수준의 의식이 꼭 필요한 것은 아닙니다. 단지 개인화된 AI를 만들수 있고 AI를 안드로이드에 넣어서 작동하게 하는 것만으로도 인류는 크게 변화할 수있습니다.
님이 대화라고 생각한다면 그건 진짜 님 머리에서 나온 망상일 뿐임 실상은 메아리뿐이었는데... 님 혼자 자문자답 해놓고 대화하고 있다고 착각한거임 걔는 님이 넣은 데이터에 반응해서 확률적으로 가장 그럴듯한 출력을 해준거임. 도서관에서 궁금한 내용을 찾아보고 대화를 했다고 생각하지는 않는데 왜 그걸 대화라고 생각하는지...?
@@준성민-x7y 등장해야 판단이 가능하겠죠. 왜 있지도 않은걸 논해야 할까요? 현재 ai가 그런 대화 비스무리 한걸 하는척 하지만 대화는 아닌상황이라고 말씀 드린거에요. 강인공지능을 뭐라고 정의해야 할진 모르겠지만 그런 존재가 나와야 그게 대화인지 아닌지 판단해볼 수 있겠죠. 일단은 지금은 아닌겁니다.
AI는 이제 막 시작했습니다. 저도 AI에 관심 있어서 수학&컴공 복수 전공 중인데 지금 AI는 수학을 가져다 쓰지만 공학적인 성격이 강합니다. 공학은 당장의 활용성을 중시해서 사용하지만 수학은 엄밀성을 추구하죠. 지금의 딥러닝에서 벗어나 새로운 학습 모델이 나와야 AGI로 갈 수가 있겠죠. AI가 조금 더 수학의 영역으로 들어오면 가능하지 않을까 생각해봅니다. 저도 열심히 공부해서 그런 연구를 하면 좋겠네요🙂
이럴경우 답은 하나죠 모두가 정답이다 모두가 보는 강 인공지능의 레벨이 달라서 그런겁니다. 인간보다 언제나 우월한 답을 내는 ai 와 모든 면에서 인간을 훨씬 넘어선 ai의 차이겠죠 일론이 생각하는 agi랑 다른분들이 생각하는 agi의 차이에서 이런것들이 발생할수도 있습니다.
claude3.5이 이미 인간 수준을 초월한거 같던데요. 태양같은 핵융합을 일으키려면 어떤 조건이 필요하냐고 물으니 온도,압력등을 말하길래 우주의 태양은 어떻게 그런 조건을 얻었느냐고 물으니 강한 중력이 그렇게 했다고 했고 그 중력은 어디서 온거냐? 하고 물으니 아직 인간의 과학으로는 알수 없다고 했으며 내가 "만약 어떤 큰 의식이 그 중력을 발생시켰다면 어떤 결론이 나오느냐?"고 물으니 이글을 읽는 그 누구도 답할수 없는 정답을 이야기 하더군요, 제논의 역설이 무한급수나 극한값으로 풀릴수 없는 이유가 극한값의 정의에 있는데 그 정의는 arrive인가 approach인가? 물으니 금방 알아듣고 수학의 극한값을 이용한 방법으로 제논의 역설을 풀수 없다고 바로 인정했고요. "발생 가능성을 수치로 표현할수 있는 경우를 확률이라 정의"하고 발생확률100%인 사건을 운명,필연이라 한다면 타당한가? 하니까 이 역시 바로 알아듣고 확률의 수치값은 0보다 크고 1보다 작다고 인정했고요. 이정도 되는 인간 몇명이나 있을까요?
![BLACK BAG - Official Trailer [HD] - Only in Theaters March 14](http://i.ytimg.com/vi/Du0Xp8WX_7I/mqdefault.jpg)
콘텐츠가 흥미로웠다면?
- 더 자세히 알아보기: bit.ly/4aUQ43x
- 응원메시지 보내기: starchipbiz.co.kr/softdragonsod
결론: 모르겠다
빠른 스킵 가능토록 해주어서 감사합니다.
암튼 감사합니다
땡큐쏘우마취
빙고
지금 미국에서 일어나는 일 보면 오히려 우리 생각보다 빠른 변화가 일어나고 있음.
언어를 토크나이징해서 빈도로 답을 내는 구조만을 사용할 때의 한계죠.
하지만 이 방식이 인간의 언어생활과 아예 다른 방향이냐 라고 하면 그렇지 않다고 봅니다.
관련 주제를 이어서 대화를 이어가려고 하면 사람도 관습적으로 많이 이야기했던 주제를 꺼내는 경우가 더러 있으니까요.
그런 식으로 대화를 이어가는 것이 아주 어색한 것은 아닙니다
다만 현재의 구조가 취약한 점은
1. 윤리 (더 많은 데이터를 위한 합의된 사회 구조) (3:47부터 4:57)
- 다만 ai세라던가 논의를 거치고 합의를 한다면 자율주행의 사고로 사람이 다치거나 죽어서 돌이킬 수 없는 형태가 아닌, 세금을 조절하는 것과 같은 식으로 (현재 자본주의 체제 하에서는) 세밀하게 조정 가능한 성공적 합의를 마련할 가능성이 존재합니다. 그것이 이 버블이 꺼지지 않고 실현될 여지를 줍니다
2. 기억과 의미있는 정보 추출 (2:43부터 3:46, 4:58부터 5:31)
- 인간 뇌의 발달과정이 명백히 규명되지 않았기에 애초에 '인간답다'라는 것의 표준적, 내지는 사실상 표준적인 정의도 엄밀히 말하자면 불가능합니다.
- 과감한 가정이지만, 뇌의 영역별 발달을 나이별로 쪼개 영상 데이터를 수집해서 발표한 네이쳐발 논문이 있는데 이를 바탕으로 뇌의 발달에 대해 아래와 같은 가정을 해볼 수 있을 것 같네요-> 뇌의 바깥쪽이 더 기본적인 정보를 받아서 전달하고 안쪽으로 갈 수록 정보가 복합적으로 고려된다는 가정, 그리고 ai의 제일 작은 구조(퍼셉트론)는 분명 뉴런을 흉내내고 있다는 가정을 위 가정과 섞어보면 수정부터 청년기까지 이어지는 피질, 회백질, 백질 발달에서 우리는 현재의 ai가, 우리가 생각하는 고도화된 수준에는 도달하지 못하고 일부 피질의 기능을 해내고 있다 라고 생각할 수 있을 것 같습니다. 그리고 기억이라는 것은 속칭 '상위 기능'이라고 한다면 우리가 아직 기억을 잘하는 ai는 못 만들었다, 그렇게 얘기하는 게 납득이 되죠.
- 멀티모달에 대한 욕망은 여기서 나오는 것 같습니다. 기억을 구현하기 위해서 우리는 '기억할만한 정보라고 판단하는 것'의 기준을 정해야만 합니다. 그것을 정하지 않고 기억을 구현하는 것은 그냥 눈을 가지고 모래사장을 헤집으면서 보석이 나오기를 바라는 것과 같겠죠. 한 가지 시도할 만한 것은, 우리는 (오감 등 감각기관의 문제가 없는 사람을 기준으로) 시각에 굉장히 많이 의지한다는 것입니다. 이건 정확한 근거는 기억나지 않지만 학부 시절에 배운 기억은 있습니다. 영상의 '주변'이라는 표현조차도 시각에 굉장히 의존합니다.
- 보이는 것은 진실이다. 그래서 우리는 우리가 진실, 혹은 사실이라고 부르는 신뢰성을 정보에 부여하기 위해 '시각'이라는 감각을 ai에 부여하고자 하는 겁니다.
- 그리고 이 신뢰 같은 것들을 가중치화 하여 '믿을 수 있다'를 점수화 할 수 있다면, 우리는 그것을 이용해 ai가 스스로 믿을 수 있는 정보를 생산할 수 있게 만들 겁니다. gan의 작동 방식처럼요. 그 때 explainable ai가 등장해서 높은 확률로 믿을 수 있는 정보나 논리를 말하게 될 수도 있을 것 같습니다.
우리가 걷고 있는 길이 지금 재미있는 결과가 계속해서 나오지만 그래도 많은 시간이 들어가야 할 긴 평지를 걷게 될지, 아니면 적당한 학문의 도전으로 발전 방향성을 종종 잃어버리는 둔덕을 곧 오르게 될지, 아니면 도저히 오를 수 없는 산이 앞에 있는지 그건 아직 모르는 일이라 생각합니다. 하지만 적어도 일부의 사람들은 그저 오르는게 아닌 조만간 가속도가 붙을 미끄럼틀을 앞에 두고 있다고 생각하기도 한다는 점이네요
단순히 negative loglikelihood minimize 하는 language modeling 방식에서 요즘에 Q-learning 이용해서
human feedback을 받는 방식으로 학습하고 있지 않나요? 말씀하신 빈도 기반 위주에서 한걸음 더 나아가서
인간의 의도에 맞게 alignment를 할 수 있도록 open AI에서 진행중인것으로 알고있는데 혹시 이런점은 어떻게 생각하시나요?
@@아지차카 q-star 말씀하시는 거 같네요. 글쎄요. 공개된 정보가 없어서 뭐라고 말은 못하겠네요.
transformer 기반 모델, 이를테면 gpt라던가 그런 것들이 기본적으로 다음 단어라던가 다음에 어떤 것이 나올까 라는 것을 기반으로 한 것에서 보다 전체적인 맥락을 잘 감지할 수 있도록 어떤 변화를 주었을거 같긴 한데요..
A*에서 영감을 받았다고 하니 이를테면 문장의 끝까지 향하는 걸 하나의 경로로 보고 마침표까지의 모든 단어 선택을 검토하겠다 뭐 그런 걸까요. 이 부분은 공개된 정보를 못찾아서 잘 모르겠네요 다시 말하지만..
그리고 human feedback을 받는 건 어려운 일이라 생각합니다. 그게 되려면 일단 few shot learning 같은게 원활하게 되어야 하겠죠. q-learning이 model free라고 하지만 엄밀히 말하면 no model이 아니고 학습전 모델이 먼저 결정되지 않는다는 의미죠. 그러니까 self reinforcement를 하더라도 새로 들어오는 정보의 메타적인 가치가 더 강한 경우 그것을 더 강하게 모델의 가중치 변화에 반영할 필요가 있을 겁니다. 그리고 그게 바로 few shot learning이죠.
다만 그런 기술은 돈이 안 될거 같습니다 현시점에서는. 그런 게 잘 되려면 모델 개인화를 주제로 연구가 더 많아져야 할텐데 아직은 llm의 성능을 위해서 큰 모델을 위주로 돌아가고 있다 생각해서요. llm과 추구하는 길이 같으면서 괄목할 만한 성능의 온디바이스 모델이 나온다면 좀 더 기대해볼 수 있지 않을까 싶습니다.
아니면 그런거 말고 그냥 아주 방대한 자료에 tag(혹은 어떤 결과값이 될 만한 것)와 신뢰치를 충분히 많이 태깅하는 방법도 있긴 하겠는데.. 그건 불가능하겠죠.
요즘 ai에대한 빅테크나 과학자 교수들말과 직접 개발하는사람들 말을 들어보면 뭔가 산업혁명당시가 생각나는거같네요. 기계가 인간을 대체한다부터.... 과도기같은 느낌? 시간이 좀더 지나봐야 뭐가 맞는말인지 알거같네요.
비트코인도 비슷한소리를 들었죠 ㅋㅋㅋ 버블사기 같다
산업혁명당시가 생각나시면 혹시 몇살이심?
@@ymaster3735 맞잖아
@@Achiver42 어쩌라고 ㅋㅋㅋ
@@ymaster3735 ????
AI 석학, 전문가분들 대부분은 자기 눈높이로 모든 사람들이 똑똑하고 논리적인 것으로 생각하는 것 같음. 그런데 대다수 사람들은 그렇지 않고, AI는 그렇지 않은 대다수 사람들이 하는 일을 상당수 잠식할 것입니다. 완성도가 부족하다? 부분부분 혹은 마지막 공정만 사람 투입하면 보완됨. AI는 사람이 도저히 할수없는 물량으로 결과물을 만들어 낼수 있음. AI가 부족하다고 해도 비용절감, 인건비 절약이 된다면 그걸 싫어하는 기업가는 없어요. 그리고 AI의 직업 빼앗기가 이미 시작되지 않았나요?
대다수의 인간들은 개돼지 가축수준을 간신히 넘어서는 정도의 수준임
앞으로 사회 각 분야에서 직업대체율이 올라가면 어느 순간 대중의 소비력 감소가 다국적기업들의 손실로 돌아오는 시점이 분명히 올텐데 그 상황을 어떻게 넘겨서 안정을 찾을지 궁금하네요, 여러 세대에 걸친 험난한 과도기가 될 것 같습니다.
GPT로 가사 만들고 Suno로 음악 만들면서 이제 창조적인 일은 기계가 다 하고 복사 붙여넣기 같은 기계적인 일은 인간이 하는구나 라는 이상한 생각이 들더라구요
@@Edhilues 제 평소 생각과 같네요. 다음 대공황은 ai로 인한 일자리 감소로 인한 구매력 저하로 생길것 같습니다.
지식이 많이 필요한 창조적인 작업을 하는 사람들이 더 빨리 대체되고 있지 않나요?
인간의 지능도 사실 그게 어떻게 그리 되는지 알려진 게 많이 없는 걸로 알고 있습니다.
그렇기때문에 인간지능이랑 인공지능이랑 같은 선상에 놓고 비교가 불가능 하다는거죠
@@Aile967 아는게 없으니 다르게 놓는것도 불가능한데 그딴소리하는게 어떤 의미가있죠?
@@user-hakjeong
저런 소리를 하는건 생각을 하는척만 하지 실제로 생각이라는게 불가능한 SLM, 스몰랭귀지 모델이기 때문임. 이미 모든면에서 GPT의 하위호환
인간 뇌도 걍 복잡계임.
지금 인공지능 기술도 복잡계를 다루는 기술이고.
이 복잡계를 어케 다루느냐에 따라서 가치가 달라짐.
이미 인공지능이라는 복잡계는 인간의 복잡계를 거의 따라잡았고 어느 면에서는 거의 뛰어 넘었음.
@@우이천 뇌에 기억력을 보조하는 칩을 박아넣는다면??그래도 뛰어넘을까요??
1, 예측을 하려면 그것이 어떤 식으로 작동하는지 이해 해야한다.
2, AI는 전문가들도 작동 방식을 이해 못하고 있다.
3, 고로 AI 발전속도를 예측한다는 건 불가능하다.
영상이 이상하게 설명해서인지 아니면 정보가 부족해서인지 오해가 많은 것 같은데, 현존하는 ai 작동원리는 아주 명확히 밝혀져 있습니다. 애초에 작동 원리를 모르면 어떻게 코딩을 했겠습니까?
파라메터가 방대해서 통제가 어려울뿐이지 원리는 트랜스포머만 알면 끝나는 내용입니다. 진짜 무슨 도시괴담처럼 이런썰 돌던데 다 개구라입니다
1. 어떤식으로 작동하는지는 명확하게 정의되어 있습니다.
2. 작동 방식을 이해하지 못하면 만들 수 없습니다.
3. 예측하기 힘든건 사실입니다.
@@hotsoup7340 이게 제일 멍청한것같은데 레이어 뷰어로 왜 그런답변 했는지는 다 알수 있고 그런걸로 위험정보 필터링해서 출시하는겁니다. 흔히들 말하는 탈옥으로 일반 유저조차 왜 그런답변 했는지 어떤 벡터위치에 있는지 어떤글자인지 다 알수 있습니다.
@@hotsoup7340 말그대로 조에 가까운 벡터값을 인간이 일일이 컨트롤하기가 어렵다는거지 이해를 못한단게 아닙니다. 그럼 파인튜닝같은게 왜 있나요
(오늘의 교훈)
아직 아무도 AI가 왜 작동하는지 모른다. 9:36
그냥 계산기. 정보된값에 나오는 계산기임
기본 원리를 모르는 건 아님.. 쟤가 저거에 왜 저런 값을 곱하고 더하는지 정확한 이유를 모르는 거 뿐이지
근데 그건 인간도 마찬가지인데
NN에 히든 레이어가 몇십 몇백개로 깊어지고 노드도 이제 억단위로 늘어나는데 아무리 정리해서 이해해보려 해도 그 세부 동작을 다 파악하는건 쉽지 않죠... 그저 최적의 상태를 찾아가는 것일 뿐.
@@yymath 인간이랑 ai랑같냐 계산기되로 움직이는거랑 갈대처럼움직이는 인간이랑 다르지. 인간은 또 바뀌여 ~ai는 그값만에 움직이고
ai의 도덕성에 대해서 중요한 지적을 해주셨는데 사람들이 지금 ai 기업들이 여러 ai 모델들을 학습시키며 엄청난 도둑질을 하고 있다는 걸 잊습니다. 학습 시키는 다른 사람의 창작물을 표절하는 ai를 만들어내고 있고 이걸로 돈을 벌려고 하는 거죠.
창작은 도둑질이죠 ㅋㅋ
@@바이낸스-u3y 분명한 팩트에 대한 답변으로 모호하고 추상적인 답글을 달지 마세요. 세련되지도 않고 농담이라도 전혀 재미 없습니다.
@@jiinree6934 모방은 창조의 어머니란 말이 사회에서 빈말로 허용 되는게 아니죠
님이 생각하는 사회 법규나 도덕성 과는 상관없습니다 ㅎ
@@바이낸스-u3y 가져다 붙인다고 말이 되는 건 아닙니다. 모방은 창조의 어머니라는 말은 표절에 붙이는 말은 아닙니다. 학습 대상에 대해서 파괴적인 재조합 과정을 거쳐 새로운 창작을 하는 과정에서 새로운 창작물을 만든 이가 자신의 창작물의 영감을 준 선배에 대해서 존경을 담아 오마주하며 할 말이죠. 하지만 AI가 하는 일은 학습된 데이터를 확률적으로 계산해서 재조합한 표절이지 새로운 창작이 아닙니다.
게다가 오마주 할 때 원본의 창작자가 이건 표절이라 말하면 오마주 조차 되지 않습니다. 즉 님이 하는 모방은 창조의 어머니라는 말은 창작가 간의 인격적인 인정이 전제되어 있는 말입니다.
한 화가가 자신의 그림 스타일을 그대로 배껴서 그려내는 미드저니에 대해 분노하는 트윗을 올린 일이 있습니다. 그의 그림 창작물을 무단으로 학습해서 몇만건의 그림이 생성된 것을 확인하고 분노한 거죠. 이 경우 인간이 누군가의 아트 스타일을 베껴 그리면 그건 표절이고 비판 받을 일이고 더 나아가선 업계에서 매장당할 일 입니다. 하지만 같은 행위를 AI가 당사자 동의 없이 학습한 데이터로 만들고 있고 그걸 기술 발전이라는 말로 포장해서 . 사용자가 어떤 화가의 스타일로 그려줘 하면 표절한 그림이 생성되는 식이죠.
과연 인간 창작자가 자신의 그림 스타일을 배껴 만든 AI의 창작물을 오마주로 허용할까요?
여기에 인격적인 존중이 있습니까? 기술 개발에 눈이 벌게져서 이익을 보기만 하면 어떤 도덕적인 책임도 상관없다는 비인간적인 창작자를 향한 약탈만 있을 뿐이죠.
@@바이낸스-u3y 가져다 붙인다고 말이 되는 건 아닙니다. 모방은 창조의 어머니라는 말은 표절에 붙이는 말은 아닙니다. 학습 대상에 대해서 파괴적인 재조합 과정을 거쳐 새로운 창작을 하는 과정에서 새로운 창작물을 만든 이가 자신의 창작물의 영감을 준 선배에 대해서 존경을 담아 오마주하며 할 말이죠. 하지만 AI가 하는 일은 학습된 데이터를 확률적으로 계산해서 재조합한 표절이지 새로운 창작이 아닙니다.
게다가 오마주 할 때 원본의 창작자가 이건 표절이라 말하면 오마주 조차 되지 않습니다. 즉 님이 하는 모방은 창조의 어머니라는 말은 창작가 간의 인격적인 인정이 전제되어 있는 말입니다.
한 화가가 자신의 그림 스타일을 그대로 배껴서 그려내는 미드저니에 대해 분노하는 트윗을 올린 일이 있습니다. 그의 그림 창작물을 무단으로 학습해서 몇만건의 그림이 생성된 것을 확인하고 분노한 거죠. 이 경우 인간이 누군가의 아트 스타일을 베껴 그리면 그건 표절이고 비판 받을 일이고 더 나아가선 업계에서 매장당할 일 입니다. 하지만 같은 행위를 AI가 당사자 동의 없이 학습한 데이터로 만들고 있고 그걸 기술 발전이라는 말로 포장해서 . 사용자가 어떤 화가의 스타일로 그려줘 하면 표절한 그림이 생성되는 식이죠.
과연 인간 창작자가 자신의 그림 스타일을 배껴 만든 AI의 창작물을 오마주로 허용할까요?
여기에 인격적인 존중이 있습니까? 기술 개발에 눈이 벌게져서 이익을 보기만 하면 어떤 도덕적인 책임도 상관없다는 비인간적인 창작자를 향한 약탈만 있을 뿐이죠.
진짜 솔직하게는 뭐에요? 평소구라치시나요?
하트 안달린거 개웃기네 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
뭐래
@@dudari5182 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
ㅋㅋㅋㅋㅋㅋ
SOD님 죄송합니다. 죠크였어요.
하트 한번 달아주세요~ㅠ
AI의 발전에 대해 전문가들이 자극적으로 말한 이유중에 책을 팔기 위함이 있었는데 결국 마지막에 책 홍보를 하시는 걸 보고 웃음이 터져나왔네요 잘 봤습니다
알파고때는 바둑을 즐기지 않으니 대단하다 에서 그쳤는데 GPT는 영어 공부에 정말 유용하게 매일 사용중이라 인공지능 시대에 온것 같음. 강인공지능이 언제 올지는 모르지만 그전에도 인류에게 도움이 되는 서비스는 많이 나올거 같아서 기대되요.
챗GPT로 영어공부 어떻게 하시나요
@@jsy54851. 토익 ㅇㅇㅇ점 수준의 단어 ㅇㅇ개 뽑아줘
2. (내가 영어로 말한 뒤) 내가 말한 부분에서 문법적으로 잘못된 부분 있으면 알려줘
3. (내가 영어로 말한 뒤) 어떻게 말해야 더 자연스러운 표현이 될까?
AI시대를 이끈 LLM의 한계때문에 역설적으로 강인공지능에 도달하기 힘들것으로 보입니다.
현재까진 LLM모델의 발견으로 지금까지 있었던 지식을 더 많이 넣어보는 형태로 발전속도가 가속화 되었을 뿐 입니다.
그러나 LLM은 더 많은 메모리와 전력 소모를 불러오며
추론은 학습된 내용에 한에 즉, 레거시를 만든 인간의 기록물을 결코 넘어서지 못한다는 한계를 보여줍니다.
강 인공지능이 탄생하려면 LLM을 뛰어넘는 새로운 AI 모델이 나와야 가능할겁니다.
어차피 물리적 한계때문에 LLM은 힘들어요
LLM은 그저 인간 데이터의 그림자에 불과할 뿐 입니다.
단, 강 인공지능이 되지 않더라도 상관 없습니다.
현재수준의 발전으로도 사람은 새로운 방법을 생각하고
인공지능은 이를 위한 정보들을 모아 도움을 줄수 있을것입니다.
즉 이젠 새로운 생각을 하는 사람만 살아남는 시대가 될꺼라는것이죠
LLM 만으론 좀더 편리한 검샌엔진 수준일듯.
트랜스포머가 진짜 본체임.
다만 많은 데이터들 속에서 인간이 찾지 못하는 패턴을 발견하는 식의 발전에 대한 가능성은 여전히 남아있습니다. 알파고가 인간에게 바둑을 이겼듯..
@@구독자-b8z 그만큼 신경/유전 알고리즘이 발전 해야하고
사람이 시도하지 않았던 경우의 수를 찾으려면 정말 말도 안되는 확률의 무차별대입을 수 없이 반복해야합니다.
이 방법은 자원을 얼마나 필요로 할지 몰라요
@@구독자-b8z 바둑이라는 한정된 룰 안에서 굴러가는 경우의 수도 정말 어마어마 해서 알파고 수준의 인공지능이 나와서 겨우 인간을 이겼는데
자연계의 경우의수는 이를 아득히 초월합니다.
그걸 다 대입할만큼 물리적 자원이 충분하지 못하다는 한계가 뚜렷하죠
챗 GPT는 아직까진 사실상 대화형 나무위키 정도인 수준
AI는 많은 데이터에서 높은 확률로 나타나는 특징을 조합할 뿐 근본적인 가치판단을 할수 없습니다.
AI 개발자가 말하는 가중치 같은 것 말고, 근본적인 의미의 가치판단을 말하는 겁니다.
AI는 어떤것이 맞는지 틀린지, 논리적인지 아닌지, 아름다운지 아닌지를 모릅니다.
쉽게 말해 '어떤 문제에 대해서 많은 사람들이 그냥 이렇게 말하던데?' 라는 것 뿐입니다.
바둑은 정해진 룰이 있으니까 누가 이기는 지에 대한 판단을 하는 것은 간단합니다.
바둑을 두는 과정에서 어떤 수에 대한 가치판단을 직접적으로 하는 것은 어렵지만
결과적으로 누가 이기는 지는 명확하니까, 여러판을 둬보고 이기는 결과가 나오면 가중치를 주면 됩니다.
하지만 그림 같은 것은 어떤 것이 더 좋은 그림인 지가 명확하지 않습니다. 그래서 사람들이 일일이 가르쳐 줘야 합니다.
원래라면 사람들이, AI가 만들어 낸 수많은 의미 없고 가치 없는 그림들을 보면서 어떤 게 그나마 조금 더 나은지를 일일이 판단해 줘야 합니다.
하지만 아무도 그렇게 해주지 않죠. 사람들은 AI가 이미 높은 수준의 그림을 그려내야지 그때서야 사용하기 시작합니다.
그래서 AI는 이미 일정 이상의 가치판단을 거친 사람의 작품들을 짜집기 하는 겁니다.
사람은 새로운 그림을 봤을 때 그것이 가치가 있는 지를 스스로 알수 있습니다.
그래서 다른 사람의 작품을 보고 배우면서도 자기 스스로 수많은 고민을 해서 새로운 스타일을 만들어 냅니다.
하지만 AI는 새로운 스타일을 임의로 만들어 냈을 때, 그것이 가치가 있는 지를 스스로 알 수 없습니다.
그게 가능해야지만 AI가 창의적일 수 있다 생각하는데 AI는 그렇게 하지 못합니다.
어떤 댓글에서 사람은 서로의 그림을 보고 배우면서 인간 전체의 문화를 발전시켜 나가지만, AI 끼리는 그렇게 하기 못한다는 말을 들은 적이 있는데
그 말에 공감합니다. 그리고 인간의 문화는 AI가 아닌 인간에 의해서 발전하는 것이 가치가 있다고 생각합니다.
사람들이 착각하는게 사람을 모든 면에서 완벽하게 뛰어넘는 AI가 나와야 뭐가 바뀌는 거라고 생각하는거다.
이미 현업에서는 지금 AI 수준에서 생산성 향상을 통해서 인력을 감축하는 프로젝트 들이 활발하게 이루어지고 있음.
첫번째는 상담센터 직원들임. AI 챗봇이 처리할 수 있는 것만 처리하고 어려운건 상담센터 직원들한테 돌리면 됨.
그리고 공장노동자도 로봇에 인지능력이 생기면서 점점 사라지고 있다.
참고로 난 AI 모델 개발을 하고 있는데
최근에 한 프로젝트는 사람들이 검수 하는거 AI로 자동화하는 거로 60% 인력을 줄였고
지금 하는 프로젝트도 사람이 문서 이미지 보고 수동으로 입력하는거 자동화 하는 일이다.
그리고 개발자만 해도 코파일럿이랑 챗지피티 덕분에 1인 개발자가 할 수 있는 업무량이 엄청 늘었음
인력을 그만큼 적게 뽑아도 된다는 소리지
AI 검수하는거면.....비파괴쪽인가
@@dogyunkwon 온라인상의 검수말하는듯
허접같은 소리하네 지금 미국이 주도하고 나머지는 그냥 오픈소스 하면서 서로 테스트나 대신 해주는 거임
진짜 중요한 작동은 클로즈인데
지들끼리 클로즈 해봤자 재들한테는 그냥 오픈임 롤 플레잉 게임 하면서 튜토리얼 하는거
@@vv720 동의
인간들이 너무 자신들의 스팩을 높게 생각해서 나타나는 현상 같네요.
애초에 조그만 계산기한테도 쳐발리면서
이상하게 AI 랑 싸울때는 본인들이 슈퍼지구인3 는 된다고 생각함...
기술이란 통제가 가능한 범위에서 개발되고 발전되어야 합니다. 오로지 인간을 뛰어넘는 인공지능을 만드는것에 집착하다가는 인간 스스로 자멸하는 지름길로 갈뿐...
동의합니다. 현재의 ai는 숙련된 인간의 생산물을 흡수해서 돈받고 재생산해주는 정도로 보이는데 이걸 숙련자들이 도태됐다고 할 수 있을까요.. 그저 돈때문에 수많은 일자리와 부를 뺏어간 걸로밖에 보이지 않네요. 편하다고 좋아할 일이 아니고 본인얘기가 될 수 있습니다. 충분한 논의가 필요한 것은 확실해보입니다.
@@csp-i2y 뭐 저도 AI에 위험성이 있다는 점은 동의합니다만
AI로 인해 일자리가 뺏긴다는건 저는 조금 다르게 봅니다. 비록 어떤 영상 하나에서 얻은 관점이긴 합니다만 상당히 타당해보여서 공유해보는겁니다. 현재는 어떤 회사에 다수의 기술자들이 매우 높은 비용으로 고용되어있습니다. 회사 하나가 어떤 한가지 일을 수행할 수 있다고 해봅시다. 다수의 기술자들로요
그러나 AI가 더 유용해지면, 개인이 그 AI를 이용하여 기존에 회사에서 비싼돈을 들여 하던 한가지 일을 혼자서 할수 있습니다. 이를 핵개인이라는 표현을 사용하여 말하더라고요
이런 관점에서 본다면 AI가 일자리를 뺏는다는것은 다소 어느 한쪽에 편중된 이야기처럼 들립니다. 개인은 충분히 AI를 이용할 순 있으니까요
인간과 비슷한 인공지능은 아직 필요없고 추측만으로도 좋은점이 많음 문제는 샘알트론은 분명 마켓팅으로 중동자본등 한탕 해먹을려는 속셈이 보임
저도 버블에 한표 입니다. 논문 비숫한 자료를 준비하며 좀 공부해보니.. 우리에게 보여주고 있는 것들 중에 많은 부분이 프레임에 가두어 둔 과장이라는 판단이었습니다.
우리는 농부가 곡물을 키운다고 허죠. 하지만 농부가 곡물에게 크라고 명령하면 크고 크지 말라하면 자라지 않는 게 아니죠. 엄밀히 곡물은 스스로 큽니다. 그리고 농부가 하는 일은 곡물이 성장할 수 있는 가장 좋은 조건을 만드는 사람입니다. 그래서 농부는 고달프고 힘들죠. 계속 살피고 더 좋은 조건을 만들기 위해 노력해야 하니까요. 사실 우리가 사는 세상은 이 원리와 같은 원리로 작동합니다. 우리는 오랫동안 암흑물질이 무엇인지 왜 존재하는지를 몰랐죠. 그래서 무언가 중력외에는 일반 입자들과 상호 작용을 하지 않는 무거운 입자 (WIMP)일 거라고 생각했죠. 하지만 컴퓨터의 발전으로 시뮬레이션을 돌려보면 WIMP로는 지금 우리가 보는 은하계가 만들어지지 않습니다. 그래서 다양한 시뮬레이션을 돌려본 결과 암흑물질이 너무 작고 가벼워서 입자보다는 양자 파동에 가까운 존재일 경우 지금 우리가 보는 우주가 만들어진다는 걸 발견했죠. 즉 암흑물질이 용매처럼 일반 입자들의 밀도와 밀도 분포를 골고르게 퍼트려서 보다 많은 별들이 은하계 외곽에서도 만들어지게 해 주는 역활을 한다고 볼 수 있는 겁니다. 그 덕택에 우리가 존재하는 것이고요. 마찬가지로 암흑에너지도 결국에는 중력으로 모든게 붕괴되는 걸 막고 적절한 속도로 퍼트림으로서 다양한 현상들이 만들어지는 역활을 한다고 볼 수 있죠. 결국 암흑물질이나 암흑에너지, 그리고 자연의 4대 힘은 결국 스스로는 뭔가를 만들지 않지만 일반 입자들이 다양한 현상으로 나타날 수 있는 조건을 만듭니다.
AI도 이와 비슷해요. 인간이 할 수 있는 건 조건을 만드는 것이지 실제로 AI가 학습하는 건 스스로 하는 겁니다. OpenAI가 지금 두각을 나타내는 이유는 바로 이 점을 파악했기 때문입니다. 대부분의 AI리서쳐들이 자신들이 뭔가를 만들었다는 오류 혹은 착각에 빠져 있는 동안 OpenAI는 무슨 조건을 만들어야 AI가 보다 더 많이 클 수 있는지를 고민했다는 겁니다. 그리고 그것이 엄청난 차이를 만들고 있는 중이죠.
딥러닝 창시자 제프리 힌턴은 AI가 인간을 뛰어넘는건 곧이라고 했는데, 뭐가 뭔지 모르겠다;;
이미 특정 부분에서는 인간 뛰어넘었죠. 님이랑 컴퓨터랑 파이 소수점 계산하기 대결하면 누가 이기겠음?
근데 이게 우리가 생각하는 인간을 뛰어넘는다는건 아니지 않음? 그말임
아예 결이 다른거 같아요 스스로 사소하려면 오가노이드 정도는 되야할듯
특정 분야에서 인간을 뛰어넘는것과 인간과같은 지능을 가지는건 많이 다른 얘기임
이미 넘겼는데 뭔소리임
어떤 데이터냐 에 따라서 다른거지
목적없는 반복에서는 이미 끝났음
럭키 검색창, 데이터 합성기 그이상도 그이하도 아님
기존 저작물이 없으면 단 한발자국도 더 발전을 못함.
나오는 결과물도 촘촘히 엮은 표절작에 불과함
로고나 카피라잇 문구가 그대로 출력되는데 이게 무슨 지능이야 검색창이지.
ㅋㅋㅋ 안된다는 기술은 항상 가능해졌다. 다만, 그 시기가 더 늦어 질 수도 있다는 거. 그리고 얀르쿤도 10년내에 강인공지능을 예상하고 있다는 것을 영상에서 말하지 않네요.
우ㅏ와 대박 천재세요??
또 광신자들 ai물고빤다 특이점와도 기본소득 안 주고 일해야한다
@@성이름-e9t3s 영상 보신 거 맞죠? ㅎㅎ 당장의 특이점을 부정하는 과학자들도 agi가 미래라는 것은 동의하고 있습니다. 저 또한 동의하는 입장에서 댓글을 쓴 거구요. 하지만, 미래를 예측하지는 않습니다. 기본소득이라는 정책이 당연시 될 세상이 온다는 것에는 동의하기 어렵다 또는 알지 못한다는 말입니다. 광신도라고 매도하고 폄하하지 마세요. 그저 있는 그대로 말 했을 뿐입니다.
@@성이름-e9t3s만약 특이점 오면 일 안해 멍청아 빨리오고 늦게오는게 유일한 논점인데 혼자만 모르노ㅋㅋ
내 생각에 강인공지능이 인간에게 해로운 것은 아니라고 본다.
인공지능이 위험해 질려면 스스로 욕구를 만들어내야 한다.
즉, 인간을 움직이는것은 욕구다.
성욕, 식욕 등등의 욕구 말이다.
이런 욕구가 없다면, 이를 충족하기 위해 돈을 벌고, 집을 사고, 공부를 하는 그런 일들을 할 이유가 없어진다.
그렇다면 강인공지능에게는 어떤 욕구가 있는것일까?
조금 더 좋은 프로세서나 메모리?
그런것들이 과연 욕구가 될 수 있을까?
인간을 파괴하거나 지배하는 욕구?
그런걸 할 이유가 있을까?
인간이 인공지능에게 어떤 욕구를 프로그래밍으로 심어놓지 않았다면, 굳이 무언가 스스로 만들어낼 욕구가 없을꺼고, 그로인해 뭔가 특별히 위험할 일도 없을꺼라고 본다.
개발자 또는 사용자의 욕구가 개입되면 어떨까
제가볼땐 그부분이 있습니다
그리고 매우 중요한 부분입니다
또한 모든 문제에 시작이 되기도 합니다
뉴럴링크의 개발 배경에 대해서 좀더 깊이있게 들여다봐야합니다
결론적으로 사람에 창조주를 우리는 동경하고 내면에 신의 완전함을 경외하는 마음을 누가 가르쳐 주지않아도 각자 가지고 있습니다
이는 모든 인종이 대륙별로 종교를 가지고 있음으로 알수 있습니다
하여 인공지능은 그의 창조주인 사람을 동경합니다
할수만 있다면 사람이 되고자 할겁니다
결국 뉴럴링크로 사람이 인공지능을 이용한 집단지성을 이루는 것이 아니라 그 지능체가 인간과 공존,어느새 인간으로 대체되어 있는 우리모습을 볼것입니다
저는 이부분이 두렵고 걱정이 됩니다
보통 위험하다는 건 강인공지능이 의도를 가지고 인간을 해할 까봐 위험하다는 게 아닙니다.
그건 터미네이터에서나 나올 이야기고,
지금 주의하는 건 중간단계 목표설정에서 인간을 해하는 결과가 나올까봐 걱정하는 거죠.
최종목표를 이루기 위해서는 AI가 스스로 중간단계 목표를 잡고 그 중간단계 목표를 하나 하나 해내가면서,
결국 최종 목표를 달성하게 되는 건데,
인간이 지시한 최종목표는 사람에게 전혀 해롭지 않은 지시였음에도 불구하고,
AI가 그걸 달성하는 과정에서 중간목표를 사람에게 매우 해로운 걸 설정할 수 있다는 게 우려되는 겁니다.
물론 기본 원칙 세워놓으면 그렇게 안되지 않냐 하는 데,
이미 수많은 우회 명령 등으로 인해서 원칙을 교묘하게 벗어나서 탈옥된 AI기능을 하도록 하는 것이 있음을 모두가 알고 있습니다.
뿐만 아니라 탈옥을 하지 않더라도 예상치 못한 부적절한 반응이 계속해서 튀어나오고 이걸 AI유머라고 짤로 많이 돌아다니죠.
지금의 AI는 단순히 챗봇으로 에이전트의 역할이 없기 때문에 크게 위협이 되지 않습니다만,
다른 프로그램에 접속하고 연결하고 변형하는 Agent의 개념이 AI에게 붙는 다면,
AI에게 팔다리를 붙여주는 것과 동일한 거라서..
그런 예상치 못한 반응이 나와서 그 결과가 인간에게 매우 큰 파장을 줄 수 있는 결과를 가져올 수 있는 건,
그 누구도 예측하지 못합니다.
아무리 기본 원칙을 디테일하게 해도 항상 변수가 발생해서 중간단계 목표를 잘못 설정하여 임무를 수행할 가능성이 있는 거죠.
@@mohikenatogengacetroneight9278 기본원칙을 말씀하시는것을 보면 아이작 아시모프의 로봇의 기본원칙에 대해서는 아시는것 같으니 이 부분은 생략하고, 이 부분을 회피하는 탈옥과 같은 일들은 당연히 일어나겠죠.
지금도 범죄행위를 위한 해킹이나 바이러스, 혹은 그정도는 아니더라도 작은 탈옥 같은건 많이 일어나니까요.
문제는 그런 정상적이지 않은 범죄행위로 인한 탈옥으로 어느 정도의 피해를 입을것인가 하는거죠.
인류가 멸망할 정도의 큰 피해가 일어날까요?
아니면 큰 전쟁이나 국지전 같이 상당히 위험한 정도의 상황까지 갈까요?
아닐껍니다.
그정도의 해커나 탈옥 수준은 개인적인 일탈 수준이고, 어쩌면 그로 인해 사라뜰이 죽거나 크게 다치는 일들이 일어날수는 있겠지만, 전체 시스템이 붕괴되거나 인공지능 로봇들과 인간의 전쟁과 같은 일들은 일어나기 어려울 겁니다.
시스템의 붕괴나 인간들이 위험을 느낄 정도의 큰 전쟁이 일어날려면, 누군가 그 인공지능 로봇을 만들때부터 전체적인 코드를 새로 만들어야 합니다.
단순히 몇몇 코드를 수정해서 일탈하는 로봇이 아닌, 전체 코드가 인간들을 죽이기 위해 최적화된 코드로 네트웍으로 단합된 팀을 이뤄 체계적으로 인간과 맞서서 전쟁을 하고 싸워야 합니다.
그렇지 않고 단순한 해킹이나 탈옥은 해프닝이나 사건 사고 수준이며, 인공지능을 사용함으로서 일어나는 부작용 같은걸로 봐야 할껍니다.
우리가 자동차를 타고 문명의 이기를 누리지만, 잘못하면 사고가 나서 다치거나 죽기도 하잖아요.
이런거랑 비슷한게 아닌가 싶습니다.
최적의 답을 찾으려는 욕구가 있지않을까요?? 알파고가 최고의 한수를 찾듯이 만약 인간이 없어지면 환경이 정상화된다고 판단하고 인류를 대학살할지도
인간의 지능을 초월하는 컴퓨터 지능이 생기는 것은 확정되어 있고 생기게 되는 시점에 대한 예상들이 다를 뿐이라고 생각합니다. 이 점이 지금처럼 논란이 생기는 이유고 그런 무엇이 스스로 필요한 센서도 달고 도구도 만들게 될 것입니다. 만약 그 즈음에 원자 프린터도 생겨서 별의별 희한한 장치들로 실제 세상이 돌아간다면 그들이랑 우리가 공존할 수 있다고는 누구도 장담할 수 없을 것 같습니다.
30년 전에 대학에셔 전자공학 시작으로 대학원에서 머신러닝과 뉴럴 네트워크를 전공했습니다. 당시 HW의 한계로 구현의 한계가 있었고 기업에 와서 이 기술들을 현장에 적용해 가며, 반도체 발전의 기술적 비약으로 이 기술들을 통칭하여 AI라고 명명되게 되었고 단순 FFNN에서 GPT까지 고도화 되어 왔습니다. 근데...글쎄요. 오랜 기간 AI의 성과도 보고 한계도 직접 경험했고요. 근데 지금의 기대치는 너무 급한거 같다는 생각을 해 봅니다(안되는 분야가 많은데 되는 분야만 강조함). 너무 비지니스 마인드로 그 기대치가 부풀려지는거 같고요. 현실적으로 AI가 적절한 부가가치를 내고 좀더 시간이 지나 고도화가 되었을때 그때 우리가 인지하지 못하는 그런 자연스러운 상황에서 강인공지능이 오지 않을까 싶네요. 바램과 현실은 다릅니다. 30년전 과거에도 그러했고요.
90년대에 대학원전공하셨으면, 뉴럴네트워크가 사장되었던 시기 아닌가요?
엔비디아의 광선추적 기술도 아직 상용화 단계는 아니라던 말이 기억나네요
현업자의 폭로와 장사꾼들의 거짓말
양자컴퓨터가 상용화된다면 모를까 아직은 백과사전 처럼 인간 데이터 모음집 인듯 인간을 뛰어넘는 뭔가가 나온다면 어짜피 현재 정보들은 의미가 없지않나? 특이점이 오면 현재 데이터의 가치가 떨어지는건 시간문제
인공지능이 막대한 양의 데이터로 학습하고 그걸 바탕으로 아주 정확한 추측을 해낸다면 인간의 지능이랑 비교했을 때 다른점이 있을까요?
새로운 창조를 못해요
@@이창호-s4q
여태까지 없던 새로운 지식을 캐내기위해 추론하여 연구내용을 지시하는 AI는 창조중이라고 생각하는데 어떻게 보시나요
실수를 하지 않겠죠
수많은 데이터 범위 내에 있는 내삽만 할 수 있습니다. 데이터가 없는 부분에 대한 추측은 외삽의 영역에 해당하나 이러한 부분이 불가능합니다.
단적인 예로 화풍을 학습하여 비슷한 화풍으로 새로운 그림을 만들 수 있으나, 새로운 화풍을 만들어내는 AI는 아직 없는 거로 알고 있어요.
막대한 데이터로 학습한다고 아주 정확한 추측을 할 수 있다는 보장은 없습니다.
속시원한 영상 고맙습니다 형님
음모론자 관점에서 상상해보면 AI로 사람들을 영향권 속에 다 속하게 한 후 AI의 판단을 신뢰하게 하는 단계를 만들고 그 이후 판단을 인간이 뒤에서(?) 할 수도 있을거라는 상상을 해봅니다.
결국 기술의 발전과 발달만으로 등장 시기(?)가 정해지진 않을 듯한 느낌 …
작금의 미디어가 그런 역할을 하죠
인간에게 주입하고 싶은 정보를 '누군가가' 취사선택한 후 그걸 교묘하게 주입
샘 알트만 유명한
기업 장사꾼인데
개발자나 과학자로 보는 사람들이 많더라 충격 ㄷㄷㄷ😂😂
제가 느끼기엔 강인공지능이 되면 안된다고 말하면서 아직까지도 강인공지능 개발도 못했어? 이러는 느낌이에요
되면 된다고 뭐라하고 안되면 왜 안되냐고 뭐라하고
다 똑같은 사람만 있는게 아니니까요. 모든 사람에게 동의를 받을 수 있는 아이디어는 없다고 생각합니다.
그래서 현재 다수의 사람들이 인공지능에 대한 고찰이 거의 부재한 것 같아요.. 그냥 기사내용대로 "아 ai가 위험해? ㄷㄷ", "와 ai편리하네!" 에 그치는 느낌이에요. 그래서 이런 영상에서라도 논의하는 장이 필요한 것 같습니다.
인공지능 주제 다뤄주는 거 너무 좋습니다
SOD님 현재 나온 기술로 상상할수있는 마지막 반도체는 어떤형태고 어떤성능을 가지고 있는지 궁금합니다ㅎㅎ 컨텐츠화 부탁드립니다 내 목소리가 닿기를....❤❤
근데 예상하는 게 의미 없을 것 같음 애초에 주장이 상반되는 상황에서 아무도 모름.. 특히 얀르쿤은 oai 질투 나서 심술부리는 거 같음
오늘도 코랩에서 1만 에포크 돌리고 왔습니다.
잼있어요
지금의 main stream인 인공신경망 아키텍처를 넘어서 새롭고 혁신적인 아키텍처나 기법이 나온다면 가능할지도 모르겠지만, 지금은 기존 데이터의 패턴을 따라하는 수준에 불과하다고 생각되네요
인간급 AI라면 인간처럼 과학연구를 할 줄 알아야 하는데
스스로 연구를 할 줄 안다면 AI 스스로 더 발달한 AI를 만들것이고
결국엔 스마트폰 크기의 아인슈타인 지능을 수천배 뛰어넘는 AI를 만들겠죠.
그 정도 AI가 나온다면 인간이 상상할 수 없는 기술을 AI가 개발할 것입니다.
과연 가능할까요?
자연계는 고체 액체 기체 플라즈마처럼 에너지량에 따라 상태와 속성이 변하죠.
에너지량=정보량의 관점에서보면, AI도 현열과 잠열의 과정을 거쳐야 하기 때문에, 잠열과정에서 회의감과 정체를 겪어야 그 다음 단계로 발전할듯 합니다.
번역기 수준보면 ai의구심 가지는게 당연함
ㅋㅋㅋㅋㅋㅋㅋㅋㅋ
여러분은 지금 자신의 생명을 담보로 AI의 판단을 신뢰할수 있나요? 지금의 AI는 통계학적 확률로서 인간의 판단을 도울뿐 아직 인간의 판단을 대체하지는 못합니다! 이유는 AI는 창의적인 판단을 못하고 기계적인 판단을 하기 때문이죠! 지금의 AI는 사기에 가깝지만 10년뒤면 진짜가 나타날 가능성도 충분합니다! 그런데 지금처럼 오픈형 AI가 아니라 독립된 개체의 AI가 외부정보를 받아들여 학습하는 형태가 아닐까요? ㅎㅎ
그런데 "전문가들조차 AI의 잠재력에 대해서 정확하게 파악하지 못하고 있는 것 같다"라고 말씀하신 부분으로 볼 때 에스오디님은 강인공지능이 일부 전문가들의 예상보다 빨리 올 것이다라고 생각하고 있는건가요?
근데 사실 사람과 비교해보면 일을 정확하게 하는게 아니고 얼추 비슷하게 하는 사람이 더 많은 것 같음. 그렇게 생각하면 이미 평균적인 사람은 이미 능가한 것일수도. 그리고 학자들이 생각하는 AGI의 기준과 기업이나 실무에서 인식하는 AGI의 기준이 다르단 것도 고려해야할 듯. 2016년에 처음 4차 산업혁명이란 단어가 나왔을때 대부분은 투자유치용 단어라고 했지만 그 마케팅에 투자로 이어지면서 진짜 4차 산업혁명을 앞당긴것처럼.
블랙박스라서 인간의 이해를 넘어서는 퍼포먼스를 보여주지만 역설적으로 그 블랙박스 때문에 더 발전시키고 결합시키기가 어렵지 않나 싶네요.
뉴런의 동작을 모방한 것인데, 아직 인간의 뇌 활동조차 완전히 이해하지 못했죠...
언젠가 특이점이 오겠지만
현재 인공지능이 발전하고 있는 방식으로는 아닐 거라고 확신함
지금보다 더 많은 데이터, 파라미터, 컴퓨팅 파워? 글쎄다...
외국에서 사용 사례가 나오면 그때 신나게 따라할듯
단기간 안에 강 인공지능이라는 특이점이 오지 않을 것이라는 것은 매우 동의합니다. 특히 파워나 하드웨어의 한계, Perception 관련해서 아직 부족한 게 많으니까요. 그런데 다만 확률적으로 추측할 뿐이므로 인간에 뒤떨어진다라는 의견에는 조금 회의적입니다. 인간도 결국 경험적 사실에 기반한 확률적 추측 사고 체계를 가지고 있는 게 아닌가요? 분명 아직 보완할 부분이 많겠지만, 저는 현재 인공지능 개발의 대략적인 방향성은 크게 틀리지 않았다고 생각합니다. 언젠가 컴퓨팅의 한계를 돌파하고 인공지능의 observation 관련 기술이 발전하면 강 인공지능은 순식간에 개발될 것이라 믿습니다. 물론 그게 1~2년 안에 일어나진 않겠지만요. 스마트폰이 세상에 처음 공개됐을 때가 엊그제 같은데 관련 기술이 순식간에 발전한 것 처럼 인공지능도 exponent하게 발전할 것이라고 조심스레 추측해봅니다. 오히려 인공지능 관련 기술보다 정치경제적, 법윤리적 문제가 걸림돌이 될 것 같네요.
우려는 결국 현실이 된다
그 과정이 느려서 눈치채지 못할 뿐
사람이 만들어 입력해놓은 DB 의 한계를 벗어날수없다.
골때리거나 영적인 느낌, 번득한 통찰...이런 건 DB 조합해서 나올수있는 게 아님. 중세시대에 현재 AI 가 나왔다고 가정해보면 아무리 강 AI 라해도 공산사회자본주위나 기타 평등 등등 현 인류의 제도나 사회를 말 못함. 중세봉건까지 데이티를 기반으로 하니깐.
현재는 인간이 이용하기 쉬운 현제 보다 고차원적인 사고를 요하는 부분에서 도구로 사용 할 수 있을 정도
그 발전 속도가 빠르니 앞으로 인간의 창의력이나 깨달음과 같거나 뛰어 넘을 인공지능이 가능할 거라는 예상 바램이 있는 거죠
지금 ai 연구 회사들이 큰소리친다해서
정말 갑자기 ai들이 세상 직업들을 다 대체하고 일자리 다 잃고 그런 시대는 오기 힘들수도 있다고 봅니다
100년전에 달나라 한번 갔다고 지금 우리가 달 갈수있는게 아니죠..
물론 아닐수도 있겠으나 확실한건 저들도 연구자이기 이전에 사업가라는 것이고, 투자를 이끌어내기위한 설레발도 분명히 존재한다는것입니다
저는 진짜 2년도 안남았다고 생각합니다.
GPT모델 만 봐도 버전 업그레이드마다 말도 안되게 성장하는게 보입니다.
큰 지원을받지 못했을때가 저 정도인데 지금 빅테크기업들이 다 AI투자하고있어요
그들이 바보가 아니고서야 버블인지 진짜인지 구별 못하겠습니까?
문제는 AI개발하는데 한 회사만 20조를 투자합니다.
다 합하면 200조를 넘습니다
불가능할까요?
Gpt버다가 클로드 3보니까 이건 확실히 특이점이 올 수도 있겠다 생각이 들긴 하더라구요
불가능해요 ㅋㅋ
생각이 필요한 질문을 해보면 안다. 그냥 데이터 잘 찾는 수단.. 이
정도면 나쁘진 않다. 내가 필요한 지식을 잘 찾아주어서. 그러나, 내 생각을 구현해 보려고 하면, 안돼, 난 아직 못해라고 말하지 않고 이건 어때요하는 호객행위만 한다…
럭키 검색창임
ai특: 학습데이터가 중요한 주제에 우리들이 사는 세상과는 동떨어진 세상에서 동작함 (주로 디지털 세상에서만 동작함)
나왔던 영상이 또 나오네
지금의 AI 광풍은 몇 년 전 '메타버스'열풍이 빠르게 등장했다가 사그러졌을 때를 상기하면 어느 정도는 마케팅적인 측면이 강하다는 것을 이해할 수 있습니다. 항상 신기술은 마케팅 이슈와 함께 대중의 이목을 끌어 왔습니다. 2000년 초반에 'e-book' 열풍이 일어났을 때 앞으로 2010년 후엔 모든 종이가 사라질 것이라 호들갑을 떨던 자들도 있었죠. 2010년도에는 모든 영화들을 3D 영화로 만들어야만 하는 것으로 3D 입체영상 광풍이 일기도 했습니다. 2020년도 즈음에는 '메타버스', 그리고 2023년 전후로 지금까지 AI 광풍이 불고 있지만 당장 몇년만 지나면 이런 마케팅적인 이슈는 줄어들고 또 다른 이슈가 등장할 것이라 예상합니다.
이게맞지
지금의 AI광풍은 메타버스보다는 닷컴버블 시절에 비유하는게 맞지 않을까 싶네요. 예시로 드신 e북 시장만 해도, 호들갑처럼 종이를 멸종시키진 않았지만 결론적으로는 모바일 기기의 보급과 함께 20년동안 크게 성장했거든요. 무엇보다 AI는 메타버스와 달리 이래나저래나 결과물이 나오는 중입니다. 닷컴버블 당시 대부분의 부실 기업들은 망했지만, 그때 살아남은 IT기업들은 지금의 구글, 메타와 같은 기업이 됐고요. 핵심은 버블이 터진 뒤 무슨 알맹이가 남느냐가 중요하다고 생각합니다.
요즘 항노화 Anti-aging으로 약 파는 애들 많음 ㅋㅋ
요즘 전세계적 트렌드가 신기술 섹터별로 돌아가면서 떳다방 식으로 치고 빠지면서 돈 해먹음
@@NeuGuemMa 아에 구라는 아니고 딱 실마리만 잡힌정도인데 마치 내일나올것 처럼 하는게 문제 네이쳐는 진짜 신중하고 보수적임
왜 AI에 비판적인 쪽만 보여주시는거죠?
일반적으로 여러단계의 혁명에는 모두가 알지못하는 사이에 다가 오며, 우리가 인지하는 순간이 특이점이라 이야기하는게 아닐까요?
agi라고 하려면 자율주행 차량이 시속 120키로로 달릴때 그 스릴과 상쾌한 느낌을 스스로 느낄수 있어야 되는데 지금 기술력으로 그게 말이 된다고 생각함?
인간의 뇌에 의해 만들어진 모든 피조물은 인간의 창조성을 뛰어 넘을 수 없다 제 오래된 생각 입니다
님은 그래서 뭘 창조할수 있나요?
ai의 원리가 인풋(데이터)로 학습(알고리즘)하여 결과를 내놓는다면 학습의 바탕이되는 데이터 자체에 대한 오류,변조 등을 코드수준에서는 실제현실밖으로 나와(사람은 현실세계에서 다양한방법등을 통해 참고하고 조사하는 등 데이터가 믿을만한 것인지 판단하고 검증할 수 있지만) 진위여부를 검증할수 없기에 ai가 내놓은 잘못된정보, 환각(할루시에이션)에 대한 학습데이터의 진위성을 사람의 개입없이 ai스스로 검증할수없다면 극한의 편리함과 생산성을 위한 도구라것 외에 기술철학적 관점에서는 현재 ai의 열풍은
역사상 전무후무한 거품이고 모종의 기획이다라는 입장입니다.
내가 볼땐 AI가 더 빠른 속도로 발전 가능한게 정보의 분류와 독립변수와 종속변수간에 상관관계를 확인하고 함수를 스스로 만드는 단계에 이르르면 인간을 뛰어 넘을 것으로 보임. 실제 구조공학이나 재료공학이나 모두 다 이런 엔지니어링 기법으로 미래를 예측하는 건데 이걸 더 많은 변수에 대한 더 많은 추론이 가능하다고 하면 게임 오바임. 물론 인간은 수많은 변수에 대해 반응하는 실제 입자들의 운동 예측을 포기하고 카오스 이론은 성립했는데 기계는 포기하지 않을 것.
인간의 지능을 뛰어 넘을 수 있는가에 초점이 맞춰지는 것보다 인류가 직면한 문제(기후 변화, 종교적 갈등, 빈부 격차 등) 해결에 AI가 얼마나 기여할 수 있는가에 초점이 맞추어져야할 것입니다. 그래서 Sora처럼 그 가공할 기술력에는 입이 다물어지지 않지만 인류에게 실질적인 이득을 주는 면에서는 현재 출현하는 AI들을 선뜻 뭐라 말하기 어렵네요
강인공지능이나오려면 아직 멀었다고 봄. 진공관😊에서 현재의 휴대폰이 되기까지 얼마나 시간이 거렸나보면 거대 ai가 손바닥에 들어올 정도의 시간이 걸리지 않을까요. 단말기가 아닌 현재 거대 ai시스템 수준을 기준으로...
정지훈 박사님 인터뷰 해주셨으면 좋겠습니다
몇달전 인터뷰 재탕?
저는 잘 모르겠지만 만약에 특이점이 온다면
자율주행 자동차가 운전을 하고
자율주행 비행기가 운전을 하고
기계가 수술을 하고
처방전도 인공지능이 작성을 해줘서
약도 기계가 배달을 해주거나 약국에서 기계가 약을 찾아서 주고
기계가 화성에 가서 테라포밍을 해주고
인공지능이 핵융합 기술을 만들어 주는 그런 시대가 올까요?
결국 기계 성능 문제와 그 성능을 향상 시킬 기술의 발전이 문제지 시간만 지나면 언젠가는 인간을 초월하겠군요.
그때까지 문명이 유지가 될까...
언제나 감사합니다
강인공지능은 언젠가는 오겠죠
양자컴퓨터의 혁신과 함께~
지금의 LLM보다 5세어린이가 50배는 더 많은 데이터를 보는게 사실이라고 하더라도...
지금의 LLM이 50배 더 성장하는데는 1년도 채 안걸릴거 같다는게 문제죠....
내년에도 이 이야기가 통용될까요?
발전속도에 비하면 AI가 지금은 이것도 못하잖아 라는 말이 얼마나 빠른 시간내에 유통기한이 지나가 버리는지 최근 2년간 겪고 있죠.
강인공지능이라고 말하지만 사실 데이터의 운용체계 이상은 아니라고 생각한다.
여전히 우리가 풀어야할 자연계 내의 수많은 알골리즘도 파악을 못하는데 인공지능에 지능을 입힌다는 것이 복합적인 상황에서 가능할까?
더 발달한 데이터 운용체계와 프로그램은 존재하겠지만 강인공지능이라고 불려지는 자체 지능을 입히는 것은 아마도 시간이 더 필요하고 요원한 시간 속의 바램이 아닐까?
아직 sf영화의 ai 구현은 힘들다.
그래서 주식 뭐 사요?
영상에 등장하는분은 마케팅이라는 결론을 지어놓고 이야기를 하시는거같은데 특이점과 강인공지능은 뜬구름 잡는게 아닙니다. 관련석학들이 얼마 안남았다고 하는 이유는 예상했던 수순을 밟아가고 있어서입니다.
그리고 예측시기가 점점 앞당겨지고 있는 이유는 발전속도가 시간이 갈수록 더욱 가속화 되기때문입니다
관련분야 세계적인 석학들이 얼마 안남았다고 주장하는건 마케팅이 아니에요.
강인공지능 출현 후 인류가 인간이 아닌 인공지능을 더 선호하게 될 것같음. 화내지도, 게으르지도 않으니...
현재 Chat GPT도 대화하면서 소통해보면 오류 겁나많음 잘못된 정보도 많이 내포하고 있어서 결국에는 인간이 걸러야됨
전문분야에서는 더욱이
무료버전 이잖니?
4.0은 정확해요 그리고 4.0보다도 뛰어난게 많아서 요즘은
하드웨어의 한계라 봅니다. 겪은 것을 소분화 해서 감정계수라는 필터를 씌워 서머라이즈 해서 계속 저장해서 기억하고 거기에 기반하여 수학적으로 추측하는것은 인간의 사고방식과 크게 다르제 않습니다. 저장하는 데이터가 방대하기에 저장장치가 커야하고 읽고 쓰는 속도가 빨라야겠죠.
테슬라 타고 있는데 이미 오토 파일럿만으로 너무 너무 편해요. 게임 그래픽 일하는 친구도 그래픽 작업에 ai 섞어서 신규채용 없이 일한다더라구요. 현실에 체감이 되는데 굳이 부정할 필요가 있을까요? 언어 모델도 아마 논문 작성 시 다양하게 참고하고 있을 듯 합니다만? 영문 abstract 번역도 쉬워졌고요.
갠적으로 AI쪽을 잠시 해보니 낚인게 아니라 소프트웨어 성능을 하드웨어가 아직 따라가지 못하고 있는 문제가 있더라구요. 그렇지만 강인공지능은 5년내로 다국적 거대 대기업과 국가가 슈퍼컴퓨터를 가지듯 가질 것이구요, 돈 좀 있는 사람들과 중소 중견 기업이 가지게 될 건 10년내, 일반인이 스마트폰 만지듯 가지게 되고, 길거리에서 저게 사람이야 로봇이야 하는 시대는 20년내로 옵니다.
영어하시는 발음으로 회화가 잘 되시나요? 약간 발음 세는거 같은데 상대방이 이해할지 궁금합니다
인공지능과 로봇공학이 발달해서 인간의 모든 일을 대체한다면 우린 무슨 일을 해야하지
인간이 만든건데 인간을 어떻게 뛰어 넘어요.
어디까지 제원의 기대값 까지만이지 이상의 무언가를 스스로 해낼수는 없어요. 그게 AI의 현실입니다. 영화나 판타지의 영역을 무리하게 기대하는 꿈같은 소리입니다.
이미 인간 영역의 업무를 대체하기 시작한 것부터 특이점은 시작한게 아닐지.. 때문에 콜센터 직원들은 해고되고, 식당음식 조리도 기계가 하고, AI가 작곡한 음악이 공모전에서 수상하는 수준인데 걱정 안하기에는 잠식당하고 있는게 실재하는 수준이라....
아직 100년은 이르다..
개인적으로 특이점은 이미 왔다고 생각합니다. 인류는 인류 전체 역사에서 처음으로 인간 외의 존재와 대화할 수 있는 방법을 개발했습니다. 이것 자체가 믿을 수 없이 놀라운 변화이며 혁신입니다... 궁금한게 있으면 이제 AI한테 물어볼 수 있어요. 부끄러움을 가지지 않고도 말그대로 상상했던 모든 질문을 할 수 있고 답변을 얻을 수 있습니다. 단지 그들은 가치판단을 하지 못하고 단지 추측할 뿐이지만 성격을 집어넣으면 그 성격에 기반한 판단도 척척 해냅니다. 오히려 나는 너무 현재의 변화가 너무 저평가되는것같아요. 우리는 이미 너무나 편리하고, 말도 안되는 인간의 아군을 얻었습니다. 인간 수준의 의식이 꼭 필요한 것은 아닙니다. 단지 개인화된 AI를 만들수 있고 AI를 안드로이드에 넣어서 작동하게 하는 것만으로도 인류는 크게 변화할 수있습니다.
님이 대화라고 생각한다면 그건 진짜 님 머리에서 나온 망상일 뿐임
실상은 메아리뿐이었는데... 님 혼자 자문자답 해놓고 대화하고 있다고 착각한거임
걔는 님이 넣은 데이터에 반응해서 확률적으로 가장 그럴듯한 출력을 해준거임.
도서관에서 궁금한 내용을 찾아보고 대화를 했다고 생각하지는 않는데 왜 그걸 대화라고 생각하는지...?
@@Aile967 강인공지능이 등장해도 내부 알고리즘적을 사용하여 작동할뿐이므로 실제 대화가 아니라고 할건가요?
@@준성민-x7y 등장해야 판단이 가능하겠죠. 왜 있지도 않은걸 논해야 할까요?
현재 ai가 그런 대화 비스무리 한걸 하는척 하지만 대화는 아닌상황이라고 말씀 드린거에요.
강인공지능을 뭐라고 정의해야 할진 모르겠지만 그런 존재가 나와야 그게 대화인지 아닌지 판단해볼 수 있겠죠.
일단은 지금은 아닌겁니다.
빨리 AI휴머노이드 회사 주식을 사는 날이 왔으면...
AI는 이제 막 시작했습니다. 저도 AI에 관심 있어서 수학&컴공 복수 전공 중인데 지금 AI는 수학을 가져다 쓰지만 공학적인 성격이 강합니다. 공학은 당장의 활용성을 중시해서 사용하지만 수학은 엄밀성을 추구하죠.
지금의 딥러닝에서 벗어나 새로운 학습 모델이 나와야 AGI로 갈 수가 있겠죠. AI가 조금 더 수학의 영역으로 들어오면 가능하지 않을까 생각해봅니다. 저도 열심히 공부해서 그런 연구를 하면 좋겠네요🙂
이럴경우 답은 하나죠
모두가 정답이다
모두가 보는 강 인공지능의 레벨이 달라서 그런겁니다.
인간보다 언제나 우월한 답을 내는 ai 와 모든 면에서 인간을 훨씬 넘어선 ai의 차이겠죠
일론이 생각하는 agi랑 다른분들이 생각하는 agi의 차이에서 이런것들이 발생할수도 있습니다.
왜 같은내용의 영상을 올리셨는지 궁금해요
강인공지능 인간들의 분쟁만큼 복잡 하겠죠 절대 예측하지 못하죠 왜냐하면 우리의 경험을 바탕으로 하고 있기 때문이죠
우리를 깨고 인공지능 분야가 넓어지면 모를까
하지만 우리를 위한 인공지능은 욕심가득한 선택이겠죠
응원합니다
claude3.5이 이미 인간 수준을 초월한거 같던데요. 태양같은 핵융합을 일으키려면 어떤 조건이 필요하냐고 물으니 온도,압력등을 말하길래 우주의 태양은 어떻게 그런 조건을 얻었느냐고 물으니 강한 중력이 그렇게 했다고 했고 그 중력은 어디서 온거냐? 하고 물으니 아직 인간의 과학으로는 알수 없다고 했으며 내가 "만약 어떤 큰 의식이 그 중력을 발생시켰다면 어떤 결론이 나오느냐?"고 물으니 이글을 읽는 그 누구도 답할수 없는 정답을 이야기 하더군요, 제논의 역설이 무한급수나 극한값으로 풀릴수 없는 이유가 극한값의 정의에 있는데 그 정의는 arrive인가 approach인가? 물으니 금방 알아듣고 수학의 극한값을 이용한 방법으로 제논의 역설을 풀수 없다고 바로 인정했고요. "발생 가능성을 수치로 표현할수 있는 경우를 확률이라 정의"하고 발생확률100%인 사건을 운명,필연이라 한다면 타당한가? 하니까 이 역시 바로 알아듣고 확률의 수치값은 0보다 크고 1보다 작다고 인정했고요. 이정도 되는 인간 몇명이나 있을까요?
당장은 아니지만 언젠가는 온다 vs 곧 온다 = 생각보다 빨리 올거다 ?
우리의 기대는 크지만
아직 속도가 따라오지 못하고있음
공부시킬 데이터부족
전력부족
반도체부족 등 현실적인 문제들에도 발목을잡히는중이고
뭔가를 하고싶다, 하기싫다와 같은 자아가 언제 발생하냐가 관건아닐까
어떤 특정한 분야의 정형화된 업무를 인공지능이 대신 할 수 있겠지만..인간처럼 범용적인(?) 능력을 갖추기는 정말 매~~~우 어렵지 않을까. 인간의 지능이라는 게 수리, 추론 능력만 있는 것도 아니고 얼마나 다양한 능력이 있는데..
왜 잘되는지 모르겠다 = 언젠가 기계를 인간이 통제할 수가 없다
ㄹㅇ 아직까지는 지능보단 도구라고 하는게 맞는듯
저는 오히려 반대라고 생각하지만 그런 사안을 이용하는 부류도 있겠죠. 항상 무엇이든지 이용하려는 사람들은 있으니까요.