Akceleratory dla systemów uczenia maszynowego są już niezwykle popularnymi układami instalowanymi w wielu systemach. Nie ma się co dziwić, że co chwilę prezentowane są nowe układy tego rodzaju. Spółka Movidius, należąca obecnie do Intela, zaprezentowała w ostatni poniedziałek, 28 sierpnia, swój nowy układ - Myriad X, który jest następcą akceleratora Myriad 2 wprowadzonego do sprzedaży 18 miesięcy wcześniej.
Remi El-Ouazzane, wicedyrektor w Intel New Technology Group, której obecnie częścią jest Movidius, na pytanie co różni zaprezentowany układ od konkurencji, jaka prezentowana była w ostatnich miesiącach, odpowiedział w bardzo prosty sposób: "Układ ten jest w realnej sprzedaży, pozostałe nie są".
Poprzednik omawianego układu, Myriad 2, był akceleratorem dedykowanym do systemów rozpoznawania obrazów oraz do wspomagania inferencji. Ten wielordzeniowy procesor wizyjny zdobył spore zainteresowanie w branży, wśród firm zajmujących się projektowaniem dronów czy systemów monitorowania. Dzięki współpracy z projektantami tego rodzaju urządzeń Movidius zdobył spore doświadczenie w realnych aplikacjach, które wykorzystane zostało przy projektowaniu nowych bloków sprzętowych w nowym układzie.
"W Myriad X nasz oryginalny pomysł - heterogeniczny system komputerowy wspierany rdzeniami DSP i sprzętowymi akceleratorami - pozostaje niezmieniony" mówi El-Ouazzane. "W Myriad 2 dużo akceleracji dla sieci neuronowych zapewniane było przez oprogramowanie, natomiast Myriad X wyposażony jest w dedykowany system do wspierania obliczeń w sieciach neuronowych". Nowy układ wyposażony jest w o wiele bardziej złożony sprzęt i bardziej skomplikowaną architekturę, co pozwala mu lepiej wspierać uczenie maszynowe i inferencję.
Jak mówi szef firmy, projektując układ Myriad X, firma poszukiwała wszelakich rozwiązań, które pozwalają na akcelerację pracy sieci neuronowych, ale bez poświęcania wydajności energetycznej procesora. Dzięki rozbudowanym blokom akceleratora Myriad X jest w stanie wykonać trylion operacji na sekundę podczas inferencji z wykorzystaniem sieci neuronowej, jak mówi El-Ouazzane. "I to wszystko pobierając mniej niż jeden wat. To niemalże rząd wielkości więcej, niż mógł Myriad 2" dodaje przedstawiciel firmy.
Co zatem jest w środku nowego procesora Myriad X? Movidius zwiększył liczbę rdzeni DSP nazywanych SHAVE (Strumieniowy Akcelerator wektorowy o Hybrydowej Architekturze) z 12 obecnych w Myriad 2 do 16. Do tego dodano ponad 20 różnych sprzętowych bloków akceleracji sieci neuronowych. Każdy z tych bloków zaprojektowany został do realizacji jednego, konkretnego zadania, dzięki czemu idealnie się w nim sprawuje i nie potrzebuje żadnego zapasu wydajności obliczeniowej. Zadania te to na przykład mapowanie głębi obrazu w celu ekstrakcji krawędzi na obrazie (kluczowy algorytm wykorzystywany przez drony), akcelerator korekcji zniekształceń kamer, aby zapewnić szersze pole widzenia (wykorzystywane w superszybkim śledzeniu punktów np. w systemach zliczania ludzi na podstawie obrazu z kamery wideo) itp.
Uczenie maszynowe to bardzo szybko zmieniający się świat, jak zauważa El-ouazzane. "Twoja architektura musi mierzyć się cały czas z nowymi wyzwaniami. Rdzenie DSP są bardzo przydatne w tego rodzaju aplikacji, szczególnie w systemach realizujących algorytmy wizyjne czy uczenie maszynowe".
Programowalność także jest krytyczna, gdyż daje ogromną elastyczność. Pozwala na dostosowanie układu do pracy jako np. tylko procesor wizyjny, który korzysta z rdzeni DSP do rekonstruowania obrazu czy jego filtrowania. Myriad X oferuje interfejsy MIPI o wysokim stopniu konfigurowalności. Do procesora podłączyć można do ośmiu kamer RGB o rozdzielczości HD, dzięki wykorzystaniu 16 wbudowanych interfejsów MIPI. Dzięki temu oraz innym interfejsom, procesor ten może przetwarzać do 800 milionów pikseli na sekundę w postaci przetwarzanych obrazów.
Oprócz posiadania dużej ilości sprzętowych akceleratorów nowy układ szczyci się niskim zużyciem mocy - na poziomie jednego wata - oraz nowatorską architekturą pamięci. Dzięki zintegrowaniu pamięci podręcznej w układzie przyspiesza się jego działanie minimalizując ilość transferów poza układ. Myriad X posiada 2,5 MB wewnętrznej pamięci - Myriad 2 posiadał 2 MB. Oczywiście, żeby prowadzić wydajne obliczenia dla sieci neuronowych potrzebne jest o wiele więcej pamięci, dlatego też układ obsługuje zewnętrzną pamięć DRAM. Myriad X posiada interfejs dla pamięci LPDDR4 i obsługuje 4 Gb pamięci DRAM w jednej kości 8 mm x 8,8 mm.
Myriad X dostarczać będzie ponad 4 TOPS (tryliony operacji na sekundę) wydajności - szacunki te oparte są na teoretycznej wydajności wszystkich jego elementów składowych. Układ produkowany będzie przez Taiwan Semiconductor Manufacturing Co. (TSMC) w technologii 16 nm FinFET. Firma, zapytana czemu to jej nabywca - Intel - nie będzie odpowiedzialny za produkcję fizycznych układów odpowiedziała, że "Układ był już w zaawansowanej fazie opracowania, gdy Movidius nabyty został przez Intela". Miało to miejsce pod koniec zeszłego roku. Transakcja warta była 400 milionów dolarów.
Movidius zamierza dalej rozwijać swoją technologię. "Około dwóch lat temu zdaliśmy sobie sprawę, że apetyt rynku na sieci neuronowe jest niemalże nieskończony" komentuje El-Ouazzane. Największym wyzwaniem, jak mówi przedstawiciel firmy, jest utrzymanie poboru mocy na niskim, nie większym niż około półtora wata, poziomie. Trzeba w tym celu opracowywać dedykowane bloki sprzętowe, które następnie implementuje się w krzemie.
Źródło: http://www.eetimes.com/document.asp?doc_id=1332202&
Remi El-Ouazzane, wicedyrektor w Intel New Technology Group, której obecnie częścią jest Movidius, na pytanie co różni zaprezentowany układ od konkurencji, jaka prezentowana była w ostatnich miesiącach, odpowiedział w bardzo prosty sposób: "Układ ten jest w realnej sprzedaży, pozostałe nie są".
Poprzednik omawianego układu, Myriad 2, był akceleratorem dedykowanym do systemów rozpoznawania obrazów oraz do wspomagania inferencji. Ten wielordzeniowy procesor wizyjny zdobył spore zainteresowanie w branży, wśród firm zajmujących się projektowaniem dronów czy systemów monitorowania. Dzięki współpracy z projektantami tego rodzaju urządzeń Movidius zdobył spore doświadczenie w realnych aplikacjach, które wykorzystane zostało przy projektowaniu nowych bloków sprzętowych w nowym układzie.
"W Myriad X nasz oryginalny pomysł - heterogeniczny system komputerowy wspierany rdzeniami DSP i sprzętowymi akceleratorami - pozostaje niezmieniony" mówi El-Ouazzane. "W Myriad 2 dużo akceleracji dla sieci neuronowych zapewniane było przez oprogramowanie, natomiast Myriad X wyposażony jest w dedykowany system do wspierania obliczeń w sieciach neuronowych". Nowy układ wyposażony jest w o wiele bardziej złożony sprzęt i bardziej skomplikowaną architekturę, co pozwala mu lepiej wspierać uczenie maszynowe i inferencję.
Jak mówi szef firmy, projektując układ Myriad X, firma poszukiwała wszelakich rozwiązań, które pozwalają na akcelerację pracy sieci neuronowych, ale bez poświęcania wydajności energetycznej procesora. Dzięki rozbudowanym blokom akceleratora Myriad X jest w stanie wykonać trylion operacji na sekundę podczas inferencji z wykorzystaniem sieci neuronowej, jak mówi El-Ouazzane. "I to wszystko pobierając mniej niż jeden wat. To niemalże rząd wielkości więcej, niż mógł Myriad 2" dodaje przedstawiciel firmy.
Co zatem jest w środku nowego procesora Myriad X? Movidius zwiększył liczbę rdzeni DSP nazywanych SHAVE (Strumieniowy Akcelerator wektorowy o Hybrydowej Architekturze) z 12 obecnych w Myriad 2 do 16. Do tego dodano ponad 20 różnych sprzętowych bloków akceleracji sieci neuronowych. Każdy z tych bloków zaprojektowany został do realizacji jednego, konkretnego zadania, dzięki czemu idealnie się w nim sprawuje i nie potrzebuje żadnego zapasu wydajności obliczeniowej. Zadania te to na przykład mapowanie głębi obrazu w celu ekstrakcji krawędzi na obrazie (kluczowy algorytm wykorzystywany przez drony), akcelerator korekcji zniekształceń kamer, aby zapewnić szersze pole widzenia (wykorzystywane w superszybkim śledzeniu punktów np. w systemach zliczania ludzi na podstawie obrazu z kamery wideo) itp.
Uczenie maszynowe to bardzo szybko zmieniający się świat, jak zauważa El-ouazzane. "Twoja architektura musi mierzyć się cały czas z nowymi wyzwaniami. Rdzenie DSP są bardzo przydatne w tego rodzaju aplikacji, szczególnie w systemach realizujących algorytmy wizyjne czy uczenie maszynowe".
Programowalność także jest krytyczna, gdyż daje ogromną elastyczność. Pozwala na dostosowanie układu do pracy jako np. tylko procesor wizyjny, który korzysta z rdzeni DSP do rekonstruowania obrazu czy jego filtrowania. Myriad X oferuje interfejsy MIPI o wysokim stopniu konfigurowalności. Do procesora podłączyć można do ośmiu kamer RGB o rozdzielczości HD, dzięki wykorzystaniu 16 wbudowanych interfejsów MIPI. Dzięki temu oraz innym interfejsom, procesor ten może przetwarzać do 800 milionów pikseli na sekundę w postaci przetwarzanych obrazów.
Oprócz posiadania dużej ilości sprzętowych akceleratorów nowy układ szczyci się niskim zużyciem mocy - na poziomie jednego wata - oraz nowatorską architekturą pamięci. Dzięki zintegrowaniu pamięci podręcznej w układzie przyspiesza się jego działanie minimalizując ilość transferów poza układ. Myriad X posiada 2,5 MB wewnętrznej pamięci - Myriad 2 posiadał 2 MB. Oczywiście, żeby prowadzić wydajne obliczenia dla sieci neuronowych potrzebne jest o wiele więcej pamięci, dlatego też układ obsługuje zewnętrzną pamięć DRAM. Myriad X posiada interfejs dla pamięci LPDDR4 i obsługuje 4 Gb pamięci DRAM w jednej kości 8 mm x 8,8 mm.
Myriad X dostarczać będzie ponad 4 TOPS (tryliony operacji na sekundę) wydajności - szacunki te oparte są na teoretycznej wydajności wszystkich jego elementów składowych. Układ produkowany będzie przez Taiwan Semiconductor Manufacturing Co. (TSMC) w technologii 16 nm FinFET. Firma, zapytana czemu to jej nabywca - Intel - nie będzie odpowiedzialny za produkcję fizycznych układów odpowiedziała, że "Układ był już w zaawansowanej fazie opracowania, gdy Movidius nabyty został przez Intela". Miało to miejsce pod koniec zeszłego roku. Transakcja warta była 400 milionów dolarów.
Movidius zamierza dalej rozwijać swoją technologię. "Około dwóch lat temu zdaliśmy sobie sprawę, że apetyt rynku na sieci neuronowe jest niemalże nieskończony" komentuje El-Ouazzane. Największym wyzwaniem, jak mówi przedstawiciel firmy, jest utrzymanie poboru mocy na niskim, nie większym niż około półtora wata, poziomie. Trzeba w tym celu opracowywać dedykowane bloki sprzętowe, które następnie implementuje się w krzemie.
Źródło: http://www.eetimes.com/document.asp?doc_id=1332202&
Fajne? Ranking DIY