나의 학부 졸업작품 감상 평(MNIST dataset을 이용한 dnn accelerator 시뮬레이션)

NPU

자전거 타는 구구 2021. 4. 20. 23:34

3년전 딱 지금 시기에 학부 졸업작품으로 NPU를 만들기를 시작하게 되었습니다.

그 땐 딥러닝이 뭔지도 잘 몰랐고, rtl도 2학년 때 수업 이후로 쓴 적이 없어서 쉽지 않다고 생각했습니다.

그 때 DianNao를 Reference삼았었는데, 역시나 쉽지 않더라구요

Tensorflow에서 가중치 뽑는 방법도 몰라서 선배 도움 받아서 c로 feed forward 짜고 back proagation까지 구현 한 다음에 직접 뽑아냈었습니다.

조금 더 알아봤으면 지금처럼 편하게 tensorflow에서 읽었을텐데 말이죠.

처음에는 CNN을 구현하려고 했는데... 논문도 읽고 data flow를 생각하다 보니 결국 fully connected만 이용해서 MNIST 데이터 세트를 구별하는 정도로 작아졌습니다.

그래도 그 때는 알고리즘 구현도 c로 하고 rtl을 이용해서 뭔가 memory controller도 만들어서 고생 했다고 생각했는데..

메모리 줄인다고 quantization도 넣어보고 pruning이랑 clipping도 넣어보고..

지금 보니 마냥 귀여운 프로젝트로 보이네요

아래는 데모영상입니다.