엔비디아 625배 효율!...세계 최초 '초저전력 AI 반도체' 개발 / YTN
HTML-код
- Опубликовано: 11 сен 2024
- 기존 AI 반도체, 전력·크기↑…온 디바이스 불가
외부 연결 없이도 GPT2 초저전력·초고속 구동
엔비디아 A100 대비 소모전력 1/625·면적 1/41
DNN-to-SNN 등가 변환…각 방식의 장점만 취해
[앵커]
챗GPT와 같은 고도의 인공지능 서비스가 나오면서 인공지능을 구동할 수 있는 'AI 반도체' 개발 경쟁이 치열한데요,
국내 연구진이 인간 뇌를 모사해 전력 소모를 획기적으로 줄인 고성능 AI 반도체를 세계 최초로 개발했습니다.
최소라 기자입니다.
[기자]
스마트폰 등이 외부 서버를 통하지 않고도 스스로 인공지능을 구동하는 '온 디바이스 AI'.
보안이 우수해 차세대 IT 기기의 청사진이지만, 이를 구현하는 건 쉽지 않습니다.
복잡한 연산을 처리하는 만큼 AI 반도체는 전력도 많이 필요하고, 크기도 크기 때문입니다.
국내 연구진이 인간 뇌를 모사해 초저전력으로 인공지능을 구동하는 뉴로모픽 AI 반도체를 세계 최초로 개발했습니다.
가로·세로 4.5㎜에 불과한 칩입니다.
컴퓨터에 장착하고, GPT를 구동했더니, 외부 서버의 도움 없이도 글을 요약하거나 다른 언어로 번역하는 건 물론, 주어진 데이터를 학습한 뒤 요청에 맞는 답변을 생성해 냅니다.
일반 컴퓨터가 45분 걸리는 연산을 칩을 장착한 경우 단 3분 만에 처리하기도 합니다.
개발된 칩은 엔비디아의 GPU A100 그래픽카드와 비교하면 전력 소모가 625분의 1에 불과하고 칩 면적도 41분의 1로 작습니다.
[김상엽 / KAIST 전기·전자공학부 박사 : (PC뿐만 아니라) 갤럭시24 핸드폰 모델에서 저희 보드를 연결해 언어 작업들을 처리할 수 있도록 구현했습니다.]
초저전력·초소형화를 가능하게 한 건 두 가지 인공지능 방식을 장착하고, 각각의 장점을 취하도록 만든 덕분입니다.
입력된 데이터가 큰 경우, 연산 정확도가 높은 기존 AI 방식인 '심층 인공 신경망'이 활약하고, 연산량이 적으면 전력 효율이 우수한 '스파이킹 뉴럴 네트워크'가 데이터를 처리해 두 기술이 상보적으로 작동하도록 했더니 시너지 효과가 난 겁니다.
[유회준 / KAIST 전기·전자공학부 교수 : 사람이 생각을 많이 할 때는 에너지를 많이 소모하게 되고요. 그리고 생각이 적을 때는 에너지 소모가 적습니다. 뉴로모픽도 이와 동일합니다. 입력해야 할 것이 많으면 많이 돌리고 입력할 게 적으면 적게 돌립니다.]
뉴로모픽 기반의 반도체로 GPT와 같은 거대 언어 모델을 구동하는 데 성공한 건 이번이 세계 최초입니다.
연구팀은 현재 칩에 탑재된 GPT의 다음 버전인 GPT3.0을 탑재하는 연구를 진행 중이라며, 언어 모델 외에도 다양한 응용 분야로 연구범위를 확장하겠다고 밝혔습니다.
YTN 사이언스 최소라입니다.
YTN 최소라 (csr73@ytn.co.kr)
※ '당신의 제보가 뉴스가 됩니다'
[카카오톡] YTN 검색해 채널 추가
[전화] 02-398-8585
[메일] social@ytn.co.kr
▶ 기사 원문 : www.ytn.co.kr/...
▶ 제보 하기 : mj.ytn.co.kr/m...
▣ YTN 유튜브 채널 구독 : goo.gl/Ytb5SZ
ⓒ YTN 무단 전재, 재배포금지 및 AI 데이터 활용 금지