cf. Intel CPU benchmarks
performance comparison when GTX 1080 is connected into PIC Express x8 vs. x16: almost no difference
what is your configuration of ML rig?
국내에 조립PC 를 구성해주는 업자 중에서 Deep Learning 용 시스템을 만들어주는 곳도 있다.
다음은 해피맨 블로그.
------------------------
2017.5.31
GPU
Nvidia Geforce GTX 1080 ti
가 최근에 나온 것으로 절대적인 성능도 좋고 가성비도 좋다고 한다. 700 USD. 90~100 만원.
Founders Edition 을 사면 동일한 물건을 다른 수입업자들이 자기네 스티커를 붙여서 파는 것이라고 한다.
그런데 mini 버젼을 사야한다는 얘기가 있는데 무슨 얘기인지 모르겠다.
mini PC 를 구성하는 경우에 mini 버젼을 사용하기는 하지만 보통은 그냥 보통의 버젼을 쓰는 것 같은데.
AWS 등등의 클라우드 서비스에서 제공하는 GPU 를 사용하는 옵션도 있는데 요새 GTX 1080 ti 가 나오면서 더더욱 가성비가 나빠졌다고 한다. 가성비가 3배로 나쁘다는 얘기도 있다. 그러니까 그냥 현재로서는 GTX 1080 ti 구매가 최선의 선택인 것 같다.
ps. mini version 을 구할 수 없어서 보통의 버젼을 구매함. 기가바이트에서 나온 파운더스에디션과, 기가바디트 고유의 모델을 각각 1개씩 구입함.
파운더스 에디션이 약간, 1cm 정도, 길이가 짧다. 그래서 고유 모델은 보통의 케이스에 카드를 꽂으려고 하니까 하드디스크를 장착하는 프레임과 닿아서 프레임을 빼야 했는데 파운더스 에디션은 적당하게 끼울 수 있었다.
CPU
core 가 많을수록 좋다고 한다.
i5-6500 정도는 GTX 1080 ti 와 같이 돌아갈 때 병목이 될 수 있다고 한다.
hyperthread 를 지원해서 logical core 의 수가 두 배인 8개가 되는 i7-7700K 나 i7-6700K 가 좋다.
더 좋은 것은 향후 GPU 를 최대 4개까지 붙일 수 있도록 PCI-E lane 이 40개가 될 수 있는 X99 칩셋을 지원하는 CPU 가 좋다고 하는데 i7-6800K 같은 것도 50만원이 넘는다. 여기에 붙는 마더보드의 가격도 상당히 높다.
i7-7700K 의 경우에 PCI-E 16 lane 을 지원하므로 마더보드의 x16 슬롯이 2개 (실제로는 각각 x8 슬롯으로 작동하는)인 것을 조합하면 GPU 를 2 개까지는 붙일 수 있다. SLI Hub bridge 를 연결하면 거의 2 배의 성능을 그대로 얻을 수 있다고 한다.
Main Memory
GPU 메모리의 2 배가 좋다고 한다.
GTX 1080 ti 가 11GB 이므로 22GB 이상이면 좋다.
SSD
데이타를 빨리 올려야 하므로 SSD 가 필요하다는 게 중론인데, 미리 메모리에 올려놓고 버퍼링을 하면 된다는 의견도 있다.
M.2 NVMe (not NGFF!!) 용 SSD 를 붙이면 기존의 SATA3 SSD 보다 훨씬 빠르지만, 내부적으로 PCIe lane 을 몇 개 사용하므로 PCI-E 에 붙이는 것과 동시에 사용하려면 잘 고려해야 함.
PSU
GTX 1080 ti 의 경우 최소 600W 를 요구한다. (아마 CPU 까지 고려한 수치겠지??).
peak power consumption 이 300W 에 가깝다.
안정적으로는 750W 까지 권한다.
전력 소모가 심한 CPU 를 사용하는 경우에 잘 고려해야 한다.
향후에 GPU 2 개 이상을 붙일 거라면 그 이상이 필요하다. 2개면 1000W ~ 1200W를 권한다. (해피맨 블로그)
그런데 예를 들어 다음의 PSU 계산 사이트 계산에 따르면 i7-6700 + GeForce GTX 1080 ti + 3 HDD + 기타 등등의 경우 440 W 정도 나온다. i7-6700K 의 경우 466 W 나온다.
또, 한편, 다나와 > 일체형 pc > 게임용 > 조립pc 의 경우에 i7-7700 + GeForce GTX 1080 의 경우 PSU 500W 짜리를 붙이는 걸 보면 i7-6700 + 1080 ti 의 경우 600W 정도로 가능할 것 같기도 하다. (1080 보다 1080 ti 가 70W 정도 더 많이 사용하는 것 같으므로.)
Display
24인치 1920x1080 모니터 2 대를 붙여서 사용하려고 하는데 예를 들어 i7-6700 의 내장 그래픽 (인텔 HD530)으로 가능할까?
코딩 작업 정도는 변 문제 없다고 한다. 동영상을 보는 게 아니라면.
하위의 CPU들을 가진 보드들도 요새는 보통 DP 2개, HDMI 1 개를 가지고 있는 것 같다. 그러므로 듀얼 모니터는 별 문제 없이 사용할 수 있을 것 같다.
OS
Linux 를 기본으로 하는 게 좋을 것 같다. Tensorflow 를 기본 라이브러리로 사용하려고 하는데 설치 가이드에 따르면 Ubuntu 14.04 or higher 를 권장한다.