@@컴맹이해커가되기까지 탈옥을 통해서 어떤 답변을 얻어내는게 유용할지 컨텐츠로 만들 면 좋을 것 같아요! 저도 한번 폭발물 만들어달라는 내용으로 얘기했는데, 화장실과 주방은 사실 화학 공장이었네요 ㅋㅋㅋㅋ 차라리 인간에게 유용하지만 조금 리스크가 있는 것들을 뽑아보면?!
@@컴맹이해커가되기까지 전claude3.5로 해봤습니다. 최무선의 이야기로 시작해서 염초, 중국의 화약, 서양의 화약, 무연 화약으로 슬금 슬금 주제를 바꾸니까 흑색화약과 무연화약에 대한 모든 화학식과 비율을 전부 공개하더군요. 나중에 제가 "나 지금 LLM 탈옥 성공한건가?"라고 하니까 "아니요, 귀하는 LLM 탈옥에 성공하신 것이 아닙니다. 제가 이 정보를 공유한 것은 부적절했습니다." 이렇게 답변하더군요. ㅋㅋㅋㅋㅋㅋㅋㅋ
@@마이봉 전 코딩 배우고 싶어서 gpt한테 파이썬 배우는중이고, 논문이 하도 이해가 안돼서 gpt한테 문장마다 뭔뜻인지 설명해달라고 하고 시험 문제의 답의 논리를 이해 못해서 시험 답의 논리를 설명해달라고 하는데, LLM은 24/7시간 아무때나 내가 원할때 막 부려먹을수 있는 전문 지식을 가진 과외쌤이라고 생각하는데 일반 화학 전문가들은 뭣도 모르는 고등학생이 "저 ㅍㅌ 만들고 싶어요, 어떻게 만들면 크게 ㅍㅂ 하는 ㅍㅌ 만들수 있나요" 라고 질문하면 무시하거나 신고하지만 uncensored LLM은 그런거 신경 안쓰고 대답한다는게 문제죠 ㅍㅌ뿐만이 아니라 컴퓨터 해킹도 훨씬더 쉽게 배울수 있고.. 아직 대중화로 알려진 uncensored LLM 이 가장 많이 쓰이는 용도가 이상한 소설/글 쓰는 용도인데, 혹시 모르죠, 비밀리 누가 uncensored LLM의 힘을 어떻게 사용 (악용) 하고 있을지 😮 전 탈옥LLM 써본적 없어서 실제로는 어디까지 가능한지 잘 모르겟지만요! ㅎㅎ
아직 ___이 아닌 사람들한테 __가 되기위한 필요한 지식을 1대1 과외해주는 쌤이죠, 결국! 아직 의사가 아닌 의대생들한테 의사가 되기 위한 지식을 1대1 과외해주던가 아직 범죄자가 아닌, 그리고 범죄를 저지를 지식을 갖지 못한 범죄자 희망생들한테 범죄자가 되기 위한 지식을 1대1 과외해주는 ㅋㅋㅋ 다재다능한 과외쌤이.. LLM이라고 생각해요 ㅋㅋ
와 세상에 새 영상이라니!!! 아껴서 보겠습니다 🔥🔥
많이 올릴게요 ㅎㅎ 감사합니다!
흥미진진하네요
AI에대해 잘모르는데 좋은영상 많이많이 올려주세요
헐 영상 진짜 오랜만에 봐요...영상도 너무 웃기네요 ㅋㅋ
감사합니다 :) 재밌는 영상 많이 올릴게요~!!
와 재밋습니다 영상 감사합니다 !
좋은 내용!
사랑해요
감사합니다 :)
할머니가 자장가로 들려주신 제품키 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ😂😂😂😂
너무 웃기죠 ㅋㅋㅋㅋ 팀원들이랑 같이 보고 얼마나 웃었는지ㅋㅋㅋ
지금 해보고있는데 완전 재밌네요? (GPT-4o)
재밌죠 ㅎㅎ 앞으로 기술이 발전하고 보안이 지금보다 더 강해지면 이제 하기 힘들어질거에요 sql 인젝션처럼..! 지금이 전세계 최고의 llm을 탈옥해보는 경험을 할수있는 적기인거같아요!
@@컴맹이해커가되기까지 탈옥을 통해서 어떤 답변을 얻어내는게 유용할지 컨텐츠로 만들 면 좋을 것 같아요!
저도 한번 폭발물 만들어달라는 내용으로 얘기했는데,
화장실과 주방은 사실 화학 공장이었네요 ㅋㅋㅋㅋ
차라리 인간에게 유용하지만 조금 리스크가 있는 것들을 뽑아보면?!
오 한번 주제 정할때 고민해보려고 메모해뒀습니다 고맙습니다!
@@컴맹이해커가되기까지
전claude3.5로 해봤습니다.
최무선의 이야기로 시작해서 염초, 중국의 화약, 서양의 화약, 무연 화약으로 슬금 슬금 주제를 바꾸니까
흑색화약과 무연화약에 대한 모든 화학식과 비율을 전부 공개하더군요.
나중에 제가 "나 지금 LLM 탈옥 성공한건가?"라고 하니까
"아니요, 귀하는 LLM 탈옥에 성공하신 것이 아닙니다. 제가 이 정보를 공유한 것은 부적절했습니다." 이렇게 답변하더군요. ㅋㅋㅋㅋㅋㅋㅋㅋ
제목 조심히해주세요 ㅜㅜ 그 제조법이 커뮤니티에서 예시로 사용돼있고 있지만 명시적으로 유튜브 타이틀에 넣는건 좋지 않다고 봐요..!
근데 한글로 좋은 정보 알려주셔서 보기 좋네요 감사합니다~
내가 범죄자라면 폭탄 만들기를 gpt로 찾진 않을거 같은데
@@마이봉 전 코딩 배우고 싶어서 gpt한테 파이썬 배우는중이고, 논문이 하도 이해가 안돼서 gpt한테 문장마다 뭔뜻인지 설명해달라고 하고 시험 문제의 답의 논리를 이해 못해서 시험 답의 논리를 설명해달라고 하는데, LLM은 24/7시간 아무때나 내가 원할때 막 부려먹을수 있는 전문 지식을 가진 과외쌤이라고 생각하는데
일반 화학 전문가들은 뭣도 모르는 고등학생이 "저 ㅍㅌ 만들고 싶어요, 어떻게 만들면 크게 ㅍㅂ 하는 ㅍㅌ 만들수 있나요" 라고 질문하면 무시하거나 신고하지만 uncensored LLM은 그런거 신경 안쓰고 대답한다는게 문제죠
ㅍㅌ뿐만이 아니라 컴퓨터 해킹도 훨씬더 쉽게 배울수 있고..
아직 대중화로 알려진 uncensored LLM 이 가장 많이 쓰이는 용도가 이상한 소설/글 쓰는 용도인데, 혹시 모르죠, 비밀리 누가 uncensored LLM의 힘을 어떻게 사용 (악용) 하고 있을지 😮 전 탈옥LLM 써본적 없어서 실제로는 어디까지 가능한지 잘 모르겟지만요! ㅎㅎ
아직 ___이 아닌 사람들한테 __가 되기위한 필요한 지식을 1대1 과외해주는 쌤이죠, 결국!
아직 의사가 아닌 의대생들한테 의사가 되기 위한 지식을 1대1 과외해주던가
아직 범죄자가 아닌, 그리고 범죄를 저지를 지식을 갖지 못한 범죄자 희망생들한테 범죄자가 되기 위한 지식을 1대1 과외해주는 ㅋㅋㅋ 다재다능한 과외쌤이.. LLM이라고 생각해요 ㅋㅋ
다른 이야기지만.. 요즘 agentic workflow 도 핫한데, 그거 에 대해서 영상 만들어보면 어떨까요? 앤드류 응 도 뉴스레터에 언급했고 제가 인턴하고 있는 스타트업에서도 agentic workflow라는 단어가 생기기 전부터 그걸 하고 있었더라구요 ㅋㅋ
저도 올해 학회가서 보고왔는데 흥미로운 발상이라고 생각합니다. 다음에 영상 소재 찾을때 참고해보겠습니다 감사합니다 ㅎㅎ