thread, warp 그리고 SIMT

thread란 무엇인가?

thread란 processor에서 작업을 하는 주체를 의미합니다.

즉, C = A + B라는 연산을 실행했을 때 이 A+B 연산을 하는 주체를 의미합니다.

여기서 thread가 2개 이상인 processor를 multi-threaded processor라고 합니다.

warp이란 무엇인가?

thread가 등장하면 곧 warp이란 단어가 등장합니다.

warp은 thread의 덩어리를 의미합니다.

warp은 NVIDIA식의 용어이며, NVIDIA에서는 32개의 thread를 1개의 warp이라고 정의합니다.

AMD같은 경우에는 warp대신 wavefront라는 단어를 사용하는데, 64개의 thread당 1개의 wavefront라고 정의합니다.

SIMT란 무엇인가?

warp은 같은 명령어로 동시에 동작 가능한 thread의 집합을 의미합니다. 이 동작을 lock-step이라고 합니다.

따라서 어떠한 warp이 존재한다면 이 warp에 존재하는 thread들은 같은 명령어로 동작을 수행합니다.

이 동작을 Single Instruction Multi Thread(SIMT)라고 합니다.