Serwer reServer Jetson-50-1-H4 z modułem Jetson AGX Orin 64 GB

reServer Jetson-50-1-H4 to serwer brzegowy AI bazujący na technologii Jetson AGX Orin 64 GB, który oferuje wydajność na poziomie 275 TOPS w aplikacjach AI. Oparty jest na tym samym formacie, co 2-kieszeniowy multimedialny NAS Seeed Studio reServer wprowadzony w zeszłym roku z komputerem jednopłytkowym Intel Core Tiger Lake.

12-rdzeniowy serwer ARM jest wyposażony w 32 GB pamięci LPDDR5, 256 GB dysk NVMe SSD z fabrycznie załadowanym pakietem Jetpack SDK, Triton Inference o otwartym kodzie źródłowym, dwie zatoki SATA na nośniki 2,5- i 3,5-calowe, Ethernet o prędkości 10 Gb/s, podwójne wyjście wideo 8K przez porty HDMI i DisplayPort, USB 3.2 i szereg innych interfejsów.

Dane techniczne (wstępne):

* SoM — moduł Jetson AGX Orin z:
— Procesor — 12-rdzeniowy procesor z rdzeniami ARM Cortex-A78AE v8.2 — 64-bitowy układ z 3 MB pamięci podręcznej L2 + 6 MB L3,
— Akceleratory GPU/AI:
— Architektura NVIDIA Ampere z 2048 rdzeniami NVIDIA CUDA i 64 rdzeniami Tensor taktowanymi 1,3 GHz,
— Akcelerator DL ​​— 2x NVDLA v2.0,
— Akcelerator wizji — PVA v2.0 (programowalny),
— Wydajność AI — do 275 TOPS (INT8) przy poborze mocy 60 W,
— Kodowanie wideo — 2 x 4K60 | 4 x 4K30 | 8 x 1080p60 | 16 x 1080p30 (H.265),
— Dekodowanie wideo — 1 x 8K30 | 3 x 4K60 | 7x 4K30 | 11x 1080p60| 22x 1080p30 (H.265),
— Pamięć systemowa — 32 GB 256-bit LPDDR5 o prędkości 204,8 GB/s,
— Pamięć masowa — Flash o pojemności 64 GB eMMC 5.1.
* Pamięć masowa — dysk SSD 256 GB w formacie M.2 NVMe, 2 porty SATA i zatoki na nośniki 2,5- i 3,5-calowe;
* Wyjście wideo — HDMI 2.1 i DisplayPort 1.4a do rozdzielczości 8Kp60;
* Sieć:
— Port Ethernet RJ45 10 Gb/s,
— Port Gigabit Ethernet RJ45,
— Wi-Fi i Bluetooth,
— Port M.2 B-Key dla modułów Lora, 4G LTE lub 5G.
* USB — Trzy porty USB 3.2 Type-A, jeden USB 3.2 typu C;
* Debugowanie — złącze UART dla konsoli szeregowej;
* Pasywne rozpraszanie ciepła z dużym radiatorem i złączem dla opcjonalnego wentylatora (jest on zdaje się dołączony na dole obudowy);
* Buzzer;
* Zegar czasu rzeczywistego;
* Zasilanie — 24 V przez gniazdo DC;
* Wymiary — 233 mm x 132 mm x 124 mm.




reServer Jetson-50-1-H4 jest dostarczany z modułem Jetson AGX Orin 64 GB oraz zasilaczem 24 V.

Na temat serwera wnioskowania Triton wiadomo niewiele. Oto jak opisuje go NVIDIA:

„Triton Inference Server usprawnia wnioskowanie AI, umożliwiając zespołom wprowadzanie, uruchamianie i skalowanie przeszkolonych modeli AI z wybranej struktury w dowolnej infrastrukturze opartej na GPU lub CPU. Zapewnia badaczom AI i analitykom danych swobodę doboru odpowiedniej struktury dla swoich projektów bez wpływu na wdrożenie produkcyjne. Pomaga także programistom w dostarczaniu wniosków o wysokiej wydajności w chmurze, na urządzeniach lokalnych, brzegowych i osadzonych.

Serwer ten obsługuje wszystkie główne platformy, takie jak TensorFlow, NVIDIA TensorRT, PyTorch, MXNet, Python, ONNX, RAPIDS FIL (dla XGBoost, scikit-learn itp.), OpenVINO, niestandardowe rozwiązania tworzone w C++ i inne”.

Seeed Studio wymienia kilka aplikacji z serwerami dla małych lub domowych biur, automatykę przemysłową, robotykę, służbę zdrowia, systemy inteligentnego rolnictwa i NAS. Oczywiście trudno wyobrazić sobie, aby ktokolwiek używał go jako NAS czy serwer biurowy, ponieważ będzie na to za drogi. Firma nie podała jeszcze cen i twierdzi, że sprzęt jest obecnie w wersji beta, ale biorąc pod uwagę, że sam zestaw deweloperski NVIDIA Jetson AGX Orin jest sprzedawany za około 2000 dolarów, a pojedynczy moduł za 1599 USD (w ilościach od 1 tysiąca sztuk), reServer Jetson-50-1-H4 powinien kosztować w granicach 2500 dolarów lub więcej w momencie premiery. Więcej szczegółów może wkrótce pojawić się w sklepie Seeed Studio.

Źródło: https://www.cnx-software.com/2022/04/22/reserver-jetson-50-1-h4-is-an-ai-edge-server-powered-by-nvidia-jetson-agx-orin-64gb/