1조 2000억개 트랜지스터 탑재한 슈퍼 칩 개발

인공지능 스타트업 세레브라스 시스템즈(Cerebras Systems)가 세계 최대 크기 컴퓨터 그래픽 칩셋 WSE(Wafer Scale Engine)를 개발했다. WSE는 20cm × 22cm라는 크기에 무려 1조 2000억 개의 트랜지스터가 탑재되어 있다. 

세레브라스 시스템즈 WSE는 지난 8월 19일(현지 시간) 스탠포드 대학(Stanford University)에서 개최된 마이크로 프로세서 및 마이크로 컴퓨터 관련 컨퍼런스 ‘Hot Chips’에서 발표했다. 

세레브라스 시스템즈가 세계 최대 크기 컴퓨터 그래픽 칩셋 WSE(Wafer Scale Engine)를 개발했다. [Cerebras Systems]

지금까지 최대 크기 칩은 NVIDIA의 데이터센터용 GPU인 Tesla V100이다. WSE는 이보다 56.7배나 크다.

트랜지스터 숫자도 2002년에 인텔이 발표한 64비트 마이크로 프로세서의 아이타니엄(Itanium)이 2억 2100만 개 트랜지스터를 탑재하고 있었다. 하지만  WSE는 아이타니엄의 5000배인 1조 2000억 개다. 2017년 IBM의 새로운 모델 POWER9도 80억개 트랜지스터를 탑재한 점을 감안하면, WSE 규모를 잘 알 수 있다. 

WSE는 트랜지스터가 1조 2000억개가 들어간 만큼 전력 소모도 15000W다. 이를 커버하기 위해 칩 전용 수랭식 냉각 시스템을 장착했다.

WSE는 크기만큼이나 사양도 엄청나다. 40만 개의 코어, 100페타 바이트의 코어 간 대역폭, 18GB 용량의 SRAM, 9페타 바이트의 메모리 대역폭이다. 제조는 대만 TSMC의 16nm 공정으로 만들어졌다.

칩이 크면 데이터 처리를 짧은 시간에 할 수 있어 인공지능에서 칩 크기는 매우 중요하다. 실제로 구글을 비롯해 페이스북, OpenAI, 텐센트, 바이두 등 인공지능 모델의 근본적인 한계는 모델 훈련 시간이 너무 오래 걸린다는 점이다. 

물론 칩 제조업체가 일반적으로 대형 칩을 제작하지 않는 이유가 있다. 단일 웨이퍼는 제조 공정에서 전형적으로 불순물이 발생한다. 그 때문에 웨이퍼에 칩이 하나만 있으면 불순물이 발생하면 전체 칩이 고장이 날 수 있다. 하지만, WSE는 칩을 2중으로 설계했기 때문에 하나의 불순물인 생긴다 해도 전체 칩이 고장 나지 않는다.

세레브라스 시스템즈 공동 창업자이자 CEO인 앤드류 펠드먼(Andrew Feldman)은 “WSE는 개인용 PC가 아닌 머신 러닝과 딥 러닝을 위한 데이터 센터 등에서 사용되는 것을 목표로 하고 있다”며, “특히 보조 인공지능 및 자율주행자동차 등 대규모 개발 프로젝트에서 활약할 수 있다”고 기대하고 있다.

김들풀 기자 itnews@