FPGA와 ASIC을 통한 deep learning 연구

 

 최근 몇 년간 deep learning에 대한 연구가 활발해 지고 있습니다. 

일반적인 deep learning 연구는 GPU(Graphic Processing Unit)에서 이루어 지고 있습니다.

 Deep learning은 반복적이고 단순한 연산을 반복하는 작업이 많음으로 수많은 core를 가진 GPU를 이용한 병렬처리로 인해 CPU를 통해 연산할 때 보다 비교할 수 없을 정도로 빠른 속도로 연산이 가능해 Deep learning을 연구하는데 최적이라고 할 수 있습니다.

 

 GPU를 이용한 연구가 활발해지고 있는 반면에, FPGA(Field Programmable Gate Array) 또는 ASIC(Application Specific Integrated Circuit)을 이용한 연구도 진행되고 있습니다. 

 대표적인 예로는 Microsoft의 Catapult와 Google의 TPU가 있습니다. 

 GPU는 일반적인 FPGA 또는 ASIC보다 처리 능력도 뛰어나고 memory도 크기 때문에 많은 데이터를 연산해야 하는 deep learning에 적합한데 왜 FPGA나 ASIC을 사용할까요?

 

 많은 이유가 있지만 대표적으로 전력 소모량으로 뽑을 수 있습니다. 

 GPU는 기본적으로 Graphic Processing Unit이기 때문에 deep learning 연구에 필요한 연산기를 제외하고도 부가적인 unit들이 많기 때문에 이로 인해 전력 소모량도 늘어나고 부피도 커지게 됩니다. 

 FPGA나 ASIC으로 필요한 processing unit만 제작하여 사용을 하게 되면 hardware가 단순해지며 전력 소모량을 줄일 수 있습니다.

 전력소모량이 중요한가요? 라고 생각 할 수 있습니다. 일반적으로 많은 GPU를 사용하지 않는 개인이나 소규모 연구에서는 큰 차이가 없겠지만 Google과 Microsoft와 같은 대규모 데이터 센터를 가지고 있는 기업의 경우 전력 부담금이 매우 높기 때문에 이를 낮추기 위해 FPGA와 ASIC을 통한 연구를 진행하고 있다고 할 수 있습니다.

 

 GPU는 부피도 크고 전력소모량도 많기 때문에 현장에서 deep learning을 이용한 application을 사용하거나 직접 학습해야 하는 'edge 디바이스'의 형태를 구성하는데도 FPGA와 ASIC를 사용한다.