Zestaw komputerowy do Machine Learning: RTX 3090, 1400W, 2x1TB NVMe, chłodzenie wodne, 128GB RAM

Czesc
Chcę kupić do firmy komputer, który będzie wykorzystywany do pracy codziennej i machine learningu. Na stację roboczą (bez peryferiów) mam do wydania łącznie 21 tyś brutto. Zastanawiam się czy ktoś z Was się zna na temacie i mógłby mi doradzić jakie komponenty wybrać...

Moje założenia:
- 1 karta graficzna 3090 rtx
- Chcę, żeby zestaw nadawał sie do rozbudowania o kolejne karty graficzne, więc pewnie dobrze, żeby płyta główna miała sloty na kolejne 2 karty
- zasilacz pewnie >1400W, ponieważ te karty graficzne mają spory pobór mocy
- zakładałem 2 dyski po 1TB Samsung 1TB M.2 PCIe NVMe 980 PRO
- chłodzenie wodne procesora.
- duża obudowa - pewnie big/full tower
- 128 GB RAM
- chłodzenie wodne do procesora - czy warto w to w ogóle iść?
Jakieś akcesoria?

Oj, za 21 tysięcy to tylko na Ryzenach, Threadipperów tam nie włożysz z takimi wymaganiami, a składanie multiGPU na X570 nie ma sensu ze względu na ograniczenie linii PCIe.
Zasilacz około 1500W nie udźwignie 3x RTX 3090 i procesora (Threadripper 3960X lub Ryzen 9 3950X).

Jakbyś miał 30000 - 35000 zł, to można by było myśleć nad sensownym zestawem, który brałby pod uwagę Twoje wymagania.

Machine Learning to szerokie pojęcie, co konkretnie zamierzasz na tym robić... do nauki ML/DL to Ci Compute Stick od Intela wystarczy.

Komputer będzie wykorzystywany głównie do deep learningu w analizie obrazów, do analizy baz danych i prac biurowych.
Wydaje mi się, że jakiś ryzen będzie akurat się mieścił w tych widełkach cenowych, tylko kwestia doboru płyty, chłodzenia, zasilacza, ramu i obudowy żeby to ze sobą rozsądnie chodziło.

Ale wtedy zakup dwóch lub więcej kart graficznych jest bez sensu.

Soft do deep learningu i machine learningu wykorzysta wiele kart graficznych.
Oprogramowanie biurowe czy gry są w stanie korzystać z jednej karty graficznej. Wyjątek stanowi jedynie kilka jakiś starych tytułów gier, które obsługują SLI, ale to mi kompletnie nie jest potrzebne. Oczywiście szereg programów do renderingu video jest też w stanie wykorzystać kilka kart, ale ja z takiego softu nie korzystam

Człowieku, czego nie rozumiesz???

ITSpec. napisał:

składanie multiGPU na X570 nie ma sensu ze względu na ograniczenie linii PCIe.

Co z tego, że będziesz miał 3 karty, jak masz na nie wszystkie tylko 16 linii PCIe?

Obliczenia DL idą na GPU i VRAM, stosunkowo niewiele danych jest wymieniane między CPU a GPU/RAM a VRAM (dane wejściowe i wynikowa sieć). Oczywiście wszystko zależy od danych... tzn. stosunku danych wejściowych do złożoności środowiska (obliczeń) i zakładanej liczby pokoleń (iteracji).

https://www.pugetsystems.com/labs/hpc/PCIe-X1...h-4-x-Titan-V-GPUs-for-Machine-Learning-1167/
https://timdettmers.com/2018/12/16/deep-learn...e-guide/#PCIe_Lanes_and_Multi-GPU_Parallelism

Dzieki @tzok za te linki. Tak, nie wiedziałem jak duże jest znaczenie procesora i ramu w takiej maszynie. W linku, który podesłałeś znalazłem świetną analizę dotyczącą GPU z deep learning:
https://timdettmers.com/2020/09/07/which-gpu-for-deep-learning/

U nas na razie będzie to przede wszystkim computer vision dla zdjęć rentgenowskich (stosunkowo niezbyt duże pliki danych i niezbyt duża ilość) i modele da się robić na Titanie z 11GB pamięci. Dla tomografii komputerowej będzie ciężej, bo tam pojedyncze badanie może mieć kilka GB i analityki jest duuużo więcej.

Mam budżet, który muszę wydać, więc początkowo myślałem, żeby kupić mocny procek i jedną kartę GPU 3090RTX. Procek AMD Ryzen Threadripper 3960X, 3.8GHz, 128 MB, za 6400zł z płytą Gigabyte TRX40 AORUS PRO WIFI, ale teraz mam wrażenie, że w ogóle nie wykorzystam tej mocy procka - do tego pewnie obudowa jakaś tower ATX
- 128GB DDR4 3200MHz Cl16, choć płyta wykorzystuje do 4400MHz, więc jeszcze się zastanawiam na 3600MHz CL18, ale to w sumie na jedno wychodzi - a cena drugich kości wyższa o 5 stówek
Teraz wychodzi na to, że to trochę za mocna maszyna, jeśli chodzi o procek - tyle, że przez dłuuuugi czas nie będę musiał wymieniać CPU. Ram bardziej na zestaw z 4 GPU już się nadaje

- dysk 2TB podłączany przez M.2. Dla dużych projektów zostaną mi jeszcze dwa sloty M.2, a z dysków zawsze można zrobić RAID0
Widziałem zasilacze 1.6 i 2 kW (wersja dla koparek kryptowalut), ale po tym artykule sądzę, że pewnie teraz można kupić jakiś nawet 1450kW i po prostu w przyszłości kombinować nad drugim zasilaczem, bo te RTXy potrzebują max 350 W jeden. Czyli na zestaw 2xGPU i procek jeden zasilacz 1.45 kW wystarczy, ale dla więcej GPU będzie kryzys. Nie wiem kiedy będę kupował trzeciego czy czwartego rtx3090 - byćmoże szybciej wyjdą rtx40xx, więc sensowniej będzie te sprzedać i iść w nową linię. Wtedy zestaw CPU, ram, dysk, płyta powinny jeszcze się nadawać...

A tu jeszcze dobry artykuł dlaczego linie PCI nie są istotne dla zestawu, który planowałem na 2-3 karty: https://timdettmers.com/2018/12/16/deep-learning-hardware-guide/#Needed_RAM_Clock_Rate

Dobra, coś tam złożyłem:
https://www.morele.net/inventory/info/df626d86/

Jakoś to będzie pewnie chodzić... powoli, ale będzie...