기존 AI 반도체, 전력·크기↑…온 디바이스 불가
외부 연결 없이도 GPT2 초저전력·초고속 구동
엔비디아 A100 대비 소모전력 1/625·면적 1/41
DNN-to-SNN 등가 변환…각 방식의 장점만 취해
챗GPT와 같은 고도의 인공지능 서비스가 나오면서 인공지능을 구동할 수 있는 'AI 반도체' 개발 경쟁이 치열한데요,
국내 연구진이 인간 뇌를 모사해 전력 소모를 획기적으로 줄인 고성능 AI 반도체를 세계 최초로 개발했습니다.
최소라 기자입니다.
[기자]
스마트폰 등이 외부 서버를 통하지 않고도 스스로 인공지능을 구동하는 '온 디바이스 AI'.
보안이 우수해 차세대 IT 기기의 청사진이지만, 이를 구현하는 건 쉽지 않습니다.
복잡한 연산을 처리하는 만큼 AI 반도체는 전력도 많이 필요하고, 크기도 크기 때문입니다.
국내 연구진이 인간 뇌를 모사해 초저전력으로 인공지능을 구동하는 뉴로모픽 AI 반도체를 세계 최초로 개발했습니다.
가로·세로 4.5㎜에 불과한 칩입니다.
컴퓨터에 장착하고, GPT를 구동했더니, 외부 서버의 도움 없이도 글을 요약하거나 다른 언어로 번역하는 건 물론, 주어진 데이터를 학습한 뒤 요청에 맞는 답변을 생성해 냅니다.
일반 컴퓨터가 45분 걸리는 연산을 칩을 장착한 경우 단 3분 만에 처리하기도 합니다.
개발된 칩은 엔비디아의 GPU A100 그래픽카드와 비교하면 전력 소모가 625분의 1에 불과하고 칩 면적도 41분의 1로 작습니다.
[김상엽 / KAIST 전기·전자공학부 박사 : (PC뿐만 아니라) 갤럭시24 핸드폰 모델에서 저희 보드를 연결해 언어 작업들을 처리할 수 있도록 구현했습니다.]
초저전력·초소형화를 가능하게 한 건 두 가지 인공지능 방식을 장착하고, 각각의 장점을 취하도록 만든 덕분입니다.
입력된 데이터가 큰 경우, 연산 정확도가 높은 기존 AI 방식인 '심층 인공 신경망'이 활약하고, 연산량이 적으면 전력 효율이 우수한 '스파이킹 뉴럴 네트워크'가 데이터를 처리해 두 기술이 상보적으로 작동하도록 했더니 시너지 효과가 난 겁니다.
[유회준 / KAIST 전기·전자공학부 교수 : 사람이 생각을 많이 할 때는 에너지를 많이 소모하게 되고요. 그리고 생각이 적을 때는 에너지 소모가 적습니다. 뉴로모픽도 이와 동일합니다. 입력해야 할 것이 많으면 많이 돌리고 입력할 게 적으면 적게 돌립니다.]
뉴로모픽 기반의 반도체로 GPT와 같... (중략)
YTN 최소라 (csr73@ytn.co.kr)
▶ 기사 원문 : https://www.ytn.co.kr/_ln/0105_202403072322210907
▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424
▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs
[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]
외부 연결 없이도 GPT2 초저전력·초고속 구동
엔비디아 A100 대비 소모전력 1/625·면적 1/41
DNN-to-SNN 등가 변환…각 방식의 장점만 취해
챗GPT와 같은 고도의 인공지능 서비스가 나오면서 인공지능을 구동할 수 있는 'AI 반도체' 개발 경쟁이 치열한데요,
국내 연구진이 인간 뇌를 모사해 전력 소모를 획기적으로 줄인 고성능 AI 반도체를 세계 최초로 개발했습니다.
최소라 기자입니다.
[기자]
스마트폰 등이 외부 서버를 통하지 않고도 스스로 인공지능을 구동하는 '온 디바이스 AI'.
보안이 우수해 차세대 IT 기기의 청사진이지만, 이를 구현하는 건 쉽지 않습니다.
복잡한 연산을 처리하는 만큼 AI 반도체는 전력도 많이 필요하고, 크기도 크기 때문입니다.
국내 연구진이 인간 뇌를 모사해 초저전력으로 인공지능을 구동하는 뉴로모픽 AI 반도체를 세계 최초로 개발했습니다.
가로·세로 4.5㎜에 불과한 칩입니다.
컴퓨터에 장착하고, GPT를 구동했더니, 외부 서버의 도움 없이도 글을 요약하거나 다른 언어로 번역하는 건 물론, 주어진 데이터를 학습한 뒤 요청에 맞는 답변을 생성해 냅니다.
일반 컴퓨터가 45분 걸리는 연산을 칩을 장착한 경우 단 3분 만에 처리하기도 합니다.
개발된 칩은 엔비디아의 GPU A100 그래픽카드와 비교하면 전력 소모가 625분의 1에 불과하고 칩 면적도 41분의 1로 작습니다.
[김상엽 / KAIST 전기·전자공학부 박사 : (PC뿐만 아니라) 갤럭시24 핸드폰 모델에서 저희 보드를 연결해 언어 작업들을 처리할 수 있도록 구현했습니다.]
초저전력·초소형화를 가능하게 한 건 두 가지 인공지능 방식을 장착하고, 각각의 장점을 취하도록 만든 덕분입니다.
입력된 데이터가 큰 경우, 연산 정확도가 높은 기존 AI 방식인 '심층 인공 신경망'이 활약하고, 연산량이 적으면 전력 효율이 우수한 '스파이킹 뉴럴 네트워크'가 데이터를 처리해 두 기술이 상보적으로 작동하도록 했더니 시너지 효과가 난 겁니다.
[유회준 / KAIST 전기·전자공학부 교수 : 사람이 생각을 많이 할 때는 에너지를 많이 소모하게 되고요. 그리고 생각이 적을 때는 에너지 소모가 적습니다. 뉴로모픽도 이와 동일합니다. 입력해야 할 것이 많으면 많이 돌리고 입력할 게 적으면 적게 돌립니다.]
뉴로모픽 기반의 반도체로 GPT와 같... (중략)
YTN 최소라 (csr73@ytn.co.kr)
▶ 기사 원문 : https://www.ytn.co.kr/_ln/0105_202403072322210907
▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424
▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs
[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]
Category
🗞
뉴스