Видео

소프트 스킬을 기르는 방법에 대한 항상 고민이 많았는데 좋은 경험 공유해주셔서 감사드립니다😊

29:00

1년차 개발자 입니다. SCDF 관련 자료를 찾다가 발표 pdf 자료를 찾게되어 유튜브에 검색하니 강의가 있어 보게 되었습니다. 덕분에 SCDF에 대한 이해에 많은 도움이 되었습니다. 감사합니다!

기억은 기록을 못따라갑니다.

그냥 오픈소스 썻다 뭐 이런 내용이네 네이버 기술력 진짜 처참하다 ㅋㅋㅋ

GPU 리소스 관리하는 게 gpu 클러스터 운영하는 관점에서 참 어려운 것 같습니다. 저는 스타트업에서 근무하는데, MIG를 일관되게 사용하고 싶지만 A100이상의 카드들에서만 기능이 제공되고, CPU 같이 쿠버네티스에서 소숫점 할당이 유동적이면 좋겠지만 아키텍처적으로 이게 어렵다 알고 있습니다. (NVIDIA DEVICE PLUGIN에서 타임 슬라이싱을 제공하지만 RACE CONDITION 발생 여지 도 존재) 필요한 리소스에 따라 RTX 카드기반으로 노드를 추가했지만 소프트웨어적으로 해결 못하는 것 같아 아쉬움이 남고, vmware 같은 곳에서 구독형 SaaS로 vGPU 솔루션을 팔고 있으나 너무 비싸서 😅 도입하기 참 쉽지 않습니다. 발표에서 언급한 HAMI 는 프로젝트가 좀 더 커지면 도입해을 고려해 봐야겠지만 GPU 클러스터 운영하는 분들의 고민하는 포인트들이 다 비슷한 것 같습니다

GPU k8s 구성이 필요했는데 좋은 정보 감사합니다😊👍

네이버에 구글 출신이 오셨을지도

Legend

간만에 차분한 설명의 발표자료를 들은것 같습니다. 오래돼서 그런지 최근 나온 (프론트? 또는 빽인드)의 JAVA 의 여러 스타일에 대해 따라가기 버겁구나하는 생각이 들긴하지만. 재미있게 내용을 들은것 같습니다. 아쉽지만 적응 하기 힘든 사람들을 위해 더 쉽게 이야기 해도 좋을것 같아요.

정말 명강의입니다. 잘들었습니다

40:29 네이버 사례

저도 사실 모노레포 자주 쓰는데 엉망징창으로 썼었거든요... 좋은 영상 감사합니다.

감사합니다

잘봤습니다!

20:55 서버에서 할당해주지 않는다

1:24:54

타입스크립트 관련 영상들은 전부 변수 옆에 : 붙이고 타입 적으면 된답니다~! 로 끝나서 아쉬웠는데 이 영상은 너무 좋네요 👍!!

장애 시나리오와 client fail over 에 내용 유익했습니다. 좋은 정보 전달주셔서 감사합니다.

백날 쇼해봐야 KT 하는지 그대로 하고 있는 네이버 배포전에 돈부터 내라는 필요 없어

ai 같군요

지금은 엄청난 적자로 망하고 있는 회사...?

도움도되고 재밌게 봤습니다. 감사해요~!

유사기능 공개된것은 없나요?

말 더듬는거보니 생각의 정리가 안됐나보다

네이버는 정말 자랑스러운 한국의 It기업입니다 존경하고 사랑합니다 치지직도 좋고 검색도 좋고 웹툰도좋고 정말 최고 ㅎㅎ

쉽고 직관적인 코드로 깊이있는 내용을 쉽게 이해시켜주는 최고의 영상이었습니다.

안녕하세요 혹시 컨텍스트 길이 관련해서 이슈는 없으셧었을까요?!

말하고 싶은게 뭐냐 그래서

좋은 영상 잘 봤습니다. 강의자료를 받을 수 있을까요?

11:05

타입스크립트 강의랍시고 올라오는 영상들이랑 질적으로 다르네요. 좋은 영상 감사합니다!

52:40~1:11

여기서 화면 에서. 원반지름 증가시켯다. 감소시켯다 하신거는. R studio로 하신건가요

English please

이런 수준의 세미나 풀로 녹화해서 그냥 올려주는 네이버.. 그저 빛 ..

15:00 Dynamic factor rotation

잘 모르는거같은데? 인터넷에 나도는거 읽는수준이잖아

3:50

값진 영상 감사하빈다.

적절한 인격을 갖춘 사람에게서 리뷰를 받아야 적절한 리뷰가 되는데, 공격적이고 적절하지 못한 리뷰를 하는 리뷰어보다 객관적이고 감정이 섞이지 않은 인공지능의 리뷰를 받을 수 있는 좋은 시대가 되었군요

좋은 사례 공유 감사합니다.

## LLM을 이용한 AI 코드 리뷰 도입기 ### 1. AI 코드 리뷰를 도입하게 된 계기 - 개발자들은 코드 작성 외에도 많은 업무를 처리해야 하기 때문에 상대적으로 코드 리뷰에 소홀할 수 있음. - 좋은 코드를 작성하기 위해 노력하지만 코드 리뷰 시간이 부족한 것이 현실임. ### 2. 기업 사례 분석: 자동 코드 리뷰 도입 현황 - Amazon: LLM 기반 코드 리뷰 도구인 CodeGuru를 사용하고 있음. - GitHub: Microsoft에서 제공하는 LLM 코드 도구인 Copilot을 사용해 자동화된 코드 리뷰를 제공하고 있음. - Coursera, Atlassian, Cognizant, Samsung, Wheel Pros 등 많은 회사들이 자동 코드 리뷰 도구를 도입하고 있음. - 개발자 후기에 따르면 자동 코드 리뷰 도입 후 코드 품질 향상, 코딩 속도 향상, 코드 안정성 향상 효과를 경험했다고 함. ### 3. 아키텍처 및 시나리오 - Meta에서 개발한 LLM 모델인 Llama3 70B를 채택했음. - 오픈소스이며 라이선스 문제가 없음. - 15조 개의 토큰으로 훈련되었으며, 토큰나이저가 매우 크기 때문에 한정된 리소스로 실행시키기에 적합함. - Human Evaluation 부문 벤치마크에서 Llama3가 다른 모델들에 비해 성능이 높음. - 시나리오 1. 사용자가 Pull Request를 생성하면 GitHub Actions를 통해 Runner 내부 클라이언트가 동작하게 됨. 2. 클라이언트는 GitHub에서 Pull Request의 리뷰 대상과 코드 패치들을 가져와서 전처리 과정을 거친 후 모델 서버에 리뷰를 요청함. 3. 모델 서버는 전처리 과정을 거쳐 코드를 리뷰하고, 리뷰 결과를 후처리 작업 후 GitHub에 리뷰 코멘트를 남김. 4. 피드백 결과들을 취합하기 위해 Runner에 띄워져 있는 Post Processor에 코드에 대한 피드백을 전송함. 5. 모든 리뷰가 끝나면 Runner 내부의 Post Processor는 피드백들을 취합해서 후처리 작업을 하고, GitHub에 리뷰 결과들을 취합한 리포트를 코멘트로 남김. ### 4. AI 코드 리뷰 도입기 - 코드 리뷰 도구를 만드는 만큼 코드 리뷰의 기준을 네 가지로 크게 정립했음. - 함수나 메서드가 올바르게 동작하는 상태인지 - 런타임 에러 가능성은 없는지 - 코드가 더 나아질 수 있는지 - 보안상 이슈가 없는지 - 네 가지 리뷰 기준을 검사하도록 시스템 프롬프트를 작성하고, 한국어를 출력하도록 제한하는 프롬프트를 추가해야 했음. - LLM은 답변이 정말 다양하게 나오는데, LLM이 이상한 답변을 주지 않도록 프롬프트 엔지니어링 기법 중 하나인 역할 부여를 통해 Hallucination을 크게 줄일 수 있었고, 다양한 출력 형식이 나오지 않도록 출력 제한을 요청하는 시스템 프롬프트도 설정해야 했음. - 모델에게 명령할 시스템 프롬프트를 정하고, 모델이 실행될 서버를 구축해야 했는데, AI Platform에서 모델 서빙을 쉽게 할 수 있도록 구축해 놓았기 때문에 Inference Service 컴포넌트를 Kubernetes 상에 단순히 띄워 놓으면 모델과 REST API를 통해 통신이 가능했음. - 그다음 OSS에서 Pull Request, GitHub Action을 통해 클라이언트를 트리거할 수 있는 동작을 만들 수 있도록 action.yaml 스크립트를 작성해야 했음. 이 스크립트는 트리거가 되면 Runner 내부에서 클라이언트가 동작하도록 하는 스크립트임. - 자동 리뷰 시스템을 도입하고자 하는 repository에 Runner를 띄우고 위 GitHub Action workflow 스크립트를 삽입하게 되면 자동 리뷰 시스템을 도입할 수 있도록 했음. 이 스크립트를 리뷰 받고자 하는 repository 저장소 최상위 경로에서 .github/workflows 폴더를 만들어 주고 이 안에 yaml 파일 형식으로 이 스크립트를 넣어주면 POI의 자동 코드 리뷰를 사용하게 됨. - 실제 리뷰 예시: HTTP 통신을 하는 코드에서 Thread.sleep을 사용하는 코드에 대해 기존 코드는 스레드를 블로킹해서 아무 작업도 하지 않고 에러 핸들링이 어려운 코드인 반면, 제안받은 코드는 Akka와 Concurrent 모듈을 추천해 줌으로써 높은 수준의 추상화가 가능하고 에러 처리에 대해 기능을 가짐. 또한 기존 코드는 스레드풀 환경에서 아무 작업도 수행하지 않아 리소스가 비율적으로 사용될 수 있는 반면, 추천받은 코드는 비동기적으로 동작해서 블로킹 없이 이벤트를 처리할 수 있음. 에러 핸들링의 경우에도 더 안전한 코드를 위한 조치를 제안하는 것을 확인하실 수 있음. - 리뷰 결과 리포트는 총 세 가지 항목으로 이루어져 있음. - 리뷰 기준의 각 항목에서 몇 건이 해당되는지 제공해 줌. 작성한 코드의 개선 방향을 파악하고 팀원들과 논의해 볼 수 있음. - 이슈들을 요약해서 제공해 줌으로써 다시 한번 이슈들에 대해 점검해 볼 수 있음. - 작성한 코드에서 적용 가능한 외부 개발자 도구나 플랫폼과 같은 솔루션을 추천해 줌. - 시범적으로 사용해 본 팀원들의 후기: 도입을 함으로써 코드 개발 문화가 훨씬 향상되었음을 느꼈음. ### 5. What's Next? - 최종적으로 모든 코드 에러를 개발 초기 단계에서 탐지하는 것을 목표로 함. - 외부 플랫폼 취약점 방지 사항을 파인튜닝해서 적극적으로 추천하는 모델로 발전시키고자 함. (By Joon's RUclips Analyzer)

와우네요.. 소중한 개발경험 공유 감사합니다

적용 사례 공유 감사합니다

코드 리뷰 프롬프트를 받을 수 있을까요?

코드 리뷰를 받지 못하는 1인개발자에게 큰 도움이 되겠네요. 좋은 사례 공유 감사합니다!

멋집니다!

위 영상에서, 사내 발표영상을 외부로 공개하다보니, 제가 발표하면서 미쳐 바꾸지 못한 용어들이 있는데요, n2c = 구축한 쿠버네티스 환경 oss = github 이렇게 이해하시면 됩니다!

연구 개발만하다가 이렇게 적용 사례를 보니 정말 신박합니다. 구축부터 활용까지 야무지게 하네요.