Видео

2024년 3월 20일 BRL 세미나. 서울시립대학교 CIDA연구실 (발표자: Aditi) 발표 논문: OpenCodeInterpreter: Integrating Code Generation with Execution and Refinement (ACL 2024) 인용수: 76회 (2024.12.27 기준) 논문 링크 : dl.acm.org/doi/10.1145/3611643.3616304 본 논문은 오픈 소스 LLM을 활용한 코드 생성을 다룹니다. 오픈소스 모델이 비공개 모델보다 낮은 성능을 보인다는 것이 널리 알려져 있습니다. 한편, 이 모델은 GPT-4보다 같거다 조금 더 높은 정확도를 보였습니다.

2024년 3월 5일 BRL 세미나. 강원대학교 PLML연구실 (발표자: 이창섭) 발표 논문: The EarlyBIRD Catches the Bug: On Exploiting Early Layers of Encoder Models for More Efficient Code Classification (ESEC/FSE 23) 인용수: 8회 (2024.12.27 기준) 논문 링크 : dl.acm.org/doi/10.1145/3611643.3616304 본 논문은 기존의 encoder model를 사용한 classification 방법이 관행적으로 last layer의 정보만 사용하고 있음을 지적하였습니다. 이에, 이용 가능한 모든 정보를 활용하여 classification하는 방법을 제안하였습니다, 4개의...

2024년 2월 27일 BRL 세미나. 성균관대학교 소프트웨어 분석 연구실 (발표자: 이재혁) 발표 논문: Enhancing Coverage-Guided Fuzzing via Phantom Program (ESEC/FSE 2023) 인용수: 8회 (2024.12.27 기준) 논문 링크 : dl.acm.org/doi/10.1145/3611643.3616294 본 논문은 기존 Fuzzing 기법이 source program의 dependency에 의하여 의미 없는 Seed를 만들어낼 문제가 있음을 지적하였습니다. 이에, dependency를 제거한 phantom program을 만들어 dual fuzzing을 하였습니다. 주요 아이디어는 fuzzing하려는 source program 자체를 조작하여 pro...

2024년 2월 20일 BRL 세미나. 연세대학교 계산이론 연구실(발표자: 남궁영수) 발표 논문: Rethinking Negative Pairs in Code Search (EMNLP 2023 Main) 인용수: 5회 (2024.12.20 기준) 논문 링크 : arxiv.org/abs/2310.08069 본 논문은 코드서치 모델의 contrastive learning을 위한 기존 InfoNCE loss에서, negative pair들이 가진 문제점들을 조명합니다. (False negative problem, Potential relevance of negative samples) 그리고, 이런 문제들을 해소하기 위해 negative term에 explicit하게 weight를 적용하는 방법을 제시하며,...

2024년 2월 6일 BRL 세미나. 서울시립대학교 CIDA 연구실(발표자: Aditi) 발표 논문: Enhancing Automated Program Repair through Fine-tuning and Prompt Engineering (Cite 14) 인용수: 14회 (2024.12.16 기준) 논문 링크 : arxiv.org/pdf/2304.07840.pdf 본 논문은 pre-reained LLM을 사용해 프로그램 오류 수정 (Automatic Program Repair)를 진행합니다. Buggy 코드에게 코드 리뷰의 개념을 사용해 코드를 수정합니다.

2024년 1월 30일 BRL 세미나. 강원대학교 프로그래밍 언어 및 기계학습 연구실(발표자: 게레) 발표 논문: A New Era in Software Security: Towards Self-Healing Software via Large Language Models and Formal Verification 인용수: 53회 (2024.12.02 기준) 논문 링크 : arxiv.org/abs/2305.14752 코드: github.com/Yiannis128/esbmc-ai 본 논문은 LLM을 소프트웨어 모델 체킹 테크닉과 통합합니다. 이를 통해 자동 프로그램 수리 (Automatic Program Repair. APR) 프레임워크 ESBMC-AI를 구성하였습니다.

2024년 1월 23일 BRL 세미나. 성균관대학교 소프트웨어분석연구실(발표자: 김민종) 발표 논문: A Unified Framework for Mini-game Testing: Experience on WeChat (ESEC/FSE 2023) 논문 링크 : dl.acm.org/doi/pdf/10.1145/3611643.3613868 본 논문은 iExplorerGame이라는 블랙박스 테스팅 프레임워크를 통해 WeChat의 내장 모바일 게임 앱들을 자동으로 테스트하는 기술을 소개하고 있습니다. 프로그램의 코드가 아니라 GUI를 이용하여 테스팅을 할 수 있다는 점이 인상적입니다.

2024년 1월 16일 BRL 세미나. 연세대학교 계산이론 연구실(발표자: 안혜선) 발표 논문: JointMatch: A Unified Approach for Diverse and Collaborative Pseudo-Labeling to Semi-Supervised Text Classification (EMNLP 2023 Main) 논문 링크 : aclanthology.org/2023.emnlp-main.451/ 본 논문은 두 개의 모델을 사용하여 cross-training을 통해 이루어지는 효과적인 pseudo-labeling 전략을 제시합니다. Class-balanced한 pseudo-label 생성을 위한 local thresholding 방법론을 제시하며, 기존 pseudo-labeling의 ...

2024년 1월 9일 BRL 세미나. 서울시립대학교 CIDA 연구실 (발표자: Aditi) 발표 논문: LLMLingua: Compressing Prompts for Accelerated Inference of Large Language Models (EMNLP 2023) & LongLLMLingua: ACCELERATING AND ENHANCING LLMS IN LONG CONTEXT SCENARIOS VIA PROMPT COMPRESSION (ACL 2024) 논문 링크 : arxiv.org/pdf/2310.05736.pdf & arxiv.org/pdf/2310.06839.pdf 본 논문은 LLM의 Key Information의 퍼셉트론 향상을 위한 Prompt Compression 다룹니다.

2024년 1월 2일 BRL 세미나. 강원대학교 PLML 연구실 (발표자: 이상화) 발표 논문: CODEFUSION: A Pre-trained Diffusion Model for Code Generation (EMNLP 2023) 논문 링크 : aclanthology.org/2023.emnlp-main.716/ 기존 연구에서, Diffusion은 이미지에 주로 사용되며 높은 다양성이 특징인 모델이며, 최근에는 텍스트 분야까지 확장되어 높은 성능을 보였습니다. 본 논문에서는 Diffusion 기반 NL-to-code 모델을 최초로 제안하였고, Python, Bash, Excel CF Rule에서 높은 성능과 다양성을 보였습니다.

2023년 12월 19일 BRL 세미나. 연세대학교 계산이론 연구실 (발표자: 최석웅 석사과정생) 본 세미나에서는 RAG의 검색 결과에서 불필요한 정보를 제거하는 것의 효과성으로 관련해서 다음의 두 논문을 소개해드리고자 합니다. 1. Chain-of-Note: Enhancing Robustness in Retrieval-Augmented Language Models (EMNLP 2024 main conference) (arxiv.org/abs/2311.09210) 2. Learning to Filter Context for Retrieval-Augmented Generation (Cite 63)(arxiv.org/abs/2311.08377) 첫 번째 논문은 검색 결과에 대한 요약 및 query와의 관련...

2023년 12월 12일 BRL 세미나. 서울시립대학교 CIDA연구실 (발표자: Aditi학생) 발표 논문: Chain-of-Verification Reduces Hallucination in Large Language Models (ACL 2024) 논문 링크 : arxiv.org/pdf/2309.11495.pdf 본 논문은 Chain of Though 개념을 사용하여 LLM의 할루시네이션 문제를 조명합니다.

2023년 11월 28일 BRL 세미나. 연세대학교 계산이론 연구실 (발표자: 한중혁 학생) 발표 논문: P-BCS: Binary Code Summarization Guided by Control Flow Graph and Pseudo Code (EMNLP-2023) 논문 링크 : arxiv.org/pdf/2310.16853.pdf 본 논문은 바이너리 프로그램의 요약문을 생성하는 데 어셈블리 코드를 활용하는 새로운 방법론을 소개합니다. 현재까지 C, C , Java, Python 등의 언어에 대한 코드 요약 연구는 활발히 진행된 반면, 어셈블리 코드에 대한 이전 연구는 제한적이었습니다. 그래서 이 논문이 흥미로운 주제를 다루고 있다고 생각합니다. 어셈블리 코드와 이에 대한 control flow gra...

2023년 11월 21일 BRL 세미나. 성균관대학교 소프트웨어 분석 연구실 (발표자: 이재혁 학생) 발표 논문: CODAMOSA: Escaping Coverage Plateaus in Test Generation with Pre-trained Large Language Model ICSE 2023) 논문 링크 : www.carolemieux.com/codamosa_icse23.pdf 본 논문은 기존 Software Testing의 Evolutionary algorithm을 이용할 경우 생기는 문제점 중 Coverage Stall (더 이상 성능이 향상되지 않는 상태)을 지적했고, 이를 LLM을 통해 해결하는 아이디어를 갖고 있습니다.

23. Towards a Unified View of Parameter-Efficient Transfer Learning (ICLR 2022) 리뷰

22. MathCoder: Seamless Code Integration in LLMs for Enhanced Mathematical Reasoning 리뷰

21. Unleashing the Power of Compiler Intermediate Representation to Enhancel ... (ICSE 2022) 리뷰

20. PESCO: Prompt-enhanced Self Contrastive Learning for Zero-shot Text Classification (ACL 2023) 리뷰

19. Is Your Code Generated by ChatGPT Really Correct?:Rigorous Evaluation of ... (NeurlPS 2023) 리뷰

18. UniXcoder: Unified Cross-Modal Pre-training for Code Representation (ACL 2022) 리뷰

17. Natural Language to Code Translation with Execution (EMNLP-2022) 리뷰

14. InCoder: A Generative Model for Code Infilling and Synthesis (ICLR 2023) 리뷰

16 Leveraging Automated Unit Tests for Unsupervised Code Translation (ICLR 2022) 리뷰

15. Learning to Explore Paths for Symbolic Execution (CCS'21) 리뷰

13. One Adapter for All Programming Languages? Adapter Tuning for Code Search and ... (ICSE 2023) 리뷰

11. Training language models to follow instructions with human feedback (NIPS 2022) (Cite 10895) 리뷰

12. Coder Reviewer Reranking for Code Generation (ICML 2023) 리뷰

10. Enhancing Dynamic Symbolic Execution by Automatically Learning Search Heuristics (TSE 2022) 리뷰

9. Code Translation with Compiler Representations (ICLR 2023) 리뷰