Elektroda.pl
Elektroda.pl
X
PCBway
Proszę, dodaj wyjątek dla www.elektroda.pl do Adblock.
Dzięki temu, że oglądasz reklamy, wspierasz portal i użytkowników.

ARM prezentuje dwa nowe NPU dla swoich rdzeni

ghost666 06 Lis 2019 00:55 375 0
  • ARM prezentuje dwa nowe NPU dla swoich rdzeni
    ARM zmienił nazwę swojego osiągającego 4 TOPS układu NPU z ARM ML na Ethos-N77 i wprowadził na rynek mniejsze modele NPU: Ethos-N57 (2 TOPS) praz Ethos-N37 (1 TOPS) o niskim poborze mocy. System te dedykowane są do systemów sztucznej inteligencji, wykorzystujących system operacyjny Linux wraz z ARM NN SDK. Firma zaprezentował także nowy procesor graficzny Mali-G57 i niewielki procesor VPU Mali-D37.

    Małe koprocesory AI dla systemów na krawędzi chmury wydają się być niezwykle istotnym składnikiem inteligencji obliczeniowej w dzisiejszych czasach. Nowe energooszczędne jednostki przetwarzające z rodziny Ethos mogą nie być tak minimalistyczne jak np. SoC AI KL520 firmy Kneron, które dostępne są w modułach obliczeniowych AI Edge firmy Aaeon; zapewniają one wydajność na poziomie 0,3 TOPS przy poborze mocy ok pół wata. Układy ARM oferują jednak wbudowane i mobilne alternatywy o niższej mocy dla nowego układu ARM - 4-TOPSowego Ethos-N77, wcześniej znanego jako ARM Machine Learning (ML). Jednostki NPU są obsługiwane programowo przez oparty na systemie Linux zestaw SDK ARM NN (patrz wykres poniżej).

    ARM prezentuje dwa nowe NPU dla swoich rdzeni


    Oprócz zaprezentowania Ethos-N57 i Ethos-N37, ARM zaprezentował niedawno procesor graficzny Mali-G57 dla smartfonów średniej klasy. Jest on oparty na tej samej architekturze Valhall zastosowanej w wysokiej klasy GPU Mali-G77. Mali-G57 zapewnia lepszą grafikę i wciągające wrażenia z gry oraz oferuje lepszą wydajność dla obciążeń uczenia maszynowego, mówi należący do Softbank ARM. Firma zaprezentowała także niewielki procesor VPU Mali-D37, przeznaczony dla urządzeń mobilnych niskiej klasy i urządzeń wbudowanych. Bazujący na tej samej architekturze Komedia, jak w Mali-D71, oferuje on obsługę strumieni 4K. Podstawowy model Mali-D37 obsługuje obraz do rozdzielczości QHD+ (1440 x 2880) na smartfonie. Procesor wideo mierzy mniej niż milimetr kwadratowy; produkowany jest w technologii 16 nm - ma wielkość około jednej trzeciej wielkości Mali-D71.

    Wiadomości te ARM podał niedawno po ogłoszeniu nowego rozszerzenia instrukcji niestandardowych dla architektury ARMv8-M dla mikrokontrolerów Cortex-M. Instrukcje te umożliwiają klientom ARM zaprojektowanie MCU z własnymi instrukcjami niestandardowymi. Informacje o tym, wraz z zmianami w programie licencyjnym ARM, podawaliśmy już jakiś czas temu. W poniższym newskie przyjrzymy się bliżej nowym NPU Ethos i niektórym innym nowym rozwiązaniom dla systemów sztucznej inteligencji, które pojawiły się w tym roku. Większość z nich została opracowana przez licencjobiorców ARM.

    Ethos-N57 i -N37

    Ethos-N57 i Ethos-N37 są "zoptymalizowane pod kątem najbardziej kosztów i żywotności baterii" mówi przedstawiciel ARM. NPU obsługują typy danych Int8 i Int16 i oferują techniki zwiększania wydajności, takie jak Winograd. Zapewniają również "zaawansowane techniki zarządzania danymi minimalizujące przenoszenie danych i wymaganą moc". Ethos-N57 wyposażony jest w 8-krotny silnik obliczeniowy i obsługuje wydajność 2-TOPS dla obciążeń AI przy użyciu 1024 8-bitowych MACów. Jest przeznaczony do inteligentnych centrów domowych, smartfonów i telewizorów cyfrowych.

    ARM prezentuje dwa nowe NPU dla swoich rdzeni


    Powyżej zaprezentowano schemat blokowy wcześniejszej architektury ARM ML (Ethos-N77). Na samej górze, na miniaturze, widać natomiast schemat blokowy nowego ARM Ethos.

    Układ Ethos-N37 mierzy tylko jeden milimetr kwadratowy. Oferuje on cztery silniki obliczeniowe o wydajności do 1 TOPS dla obciążeń AI przy użyciu 512 8-bitowych MACów. Ethos-N37 jest przeznaczony do telefonów z niższych półek cenowych i urządzeń inteligentnych, takich jak inteligentne aparaty fotograficzne.

    Jeśli chodzi o drugi skraj sektora, to Ethos-N77 (były ARM ML, oferujący 4 TOPS dla obciążeń AI) ma znacznie większy obszar pamięci do 4 MB niż układy Ethos-N57 i N37 (do 512 KB). Skierowany jest on do smartfonów klasy premium, systemów rzeczywistości rozszerzonej i wirtualnej jak i aplikacji do fotografii obliczeniowej. Ethos-N57 i N37 zapewniają "opłacalne ML dla głównych układów SoC o znacznie mniejszych budżetach rozmiarowych" wskazuje ARM. Wykorzystana technologia kompresji minimalizuje wymagania co do przepustowość systemu od 1,5 do 3 razy względem innych rozwiązań. Dzięki bezstratnej kompresji dla wag i wzbudzeń, z wykorzystaniem klastrowania itp, jak wskazuje firma, producenci chipów nie muszą dokonywać modyfikacji struktury pamięci swoich układów w celu zintegrowania nowych NPU.

    Do ośmiu NPU może być grupowanych w jednym SoC w celu przetwarzania wielu sieci neuronowych równolegle lub do implementacji pojedynczej, dużej sieci podzielonej na rdzenie. NPU obsługują także konfiguracje 64-rdzeniowe za pomocą technologii ARM CoreLink. Oba NPU obsługują zabezpieczenia TrustZone, a także struktury neuronowe, w tym TensorFlow, TensorFlow Lite, Caffe2, PyTorch, MXNet i ONNX.

    Jednostki NPU Ethos można zaprogramować za pomocą ARM NN od Linaro, otwartego pakietu SDK dla Linuxa, zaprojektowanego w celu „implementacji obciążeń związanych z uczeniem maszynowym na urządzeniach energooszczędnych” informuje ARM. Jak wskazują analitycy, ARM NN „wypełnia lukę między istniejącymi strukturami dla sieci neuronowych a procesorem, GPU„.

    ARM NN SDK zapewnia dodatkową warstwę abstrakcji, która zmniejsza wyzwania programistyczne przy wykorzystywaniu wielu procesorów. Jak wskazuje spółka „pozwala to na uruchamianie obciążeń na urządzeniach takich jak telefony, telewizory i inteligentne domy, przy minimalnym wysiłku”. NPU Ethos obsługują także AndroidNN od Google.

    Steve Roddy, wiceprezes działu ML w firmie ARM wskazuje, że IP dla nowych NPU Ethos zostało wydane klientom firmy i najpewniej pojawi się w krzemie do końca 2020 roku. Pokazuje to dynamikę rozwoju sektora systemów AI o niskiej mocy – telefonów, elektroniki użytkowej i innych urządzeń brzegowych.

    ARM prezentuje dwa nowe NPU dla swoich rdzeni
    Arm Ethos konkuruje z najnowocześniejszymi układami AI od własnych klientów

    Prawie każdy duży producent chipów ma jakieś układ AI – już na rynku lub dopiero w fazie rozwoju. Wiele z nich jest przeznaczonych dla telefonów, elektroniki użytkowej i innych wbudowanych urządzeń brzegowych. Oprócz technologii Movidius Myriad X firmy Intel większość konkurencji pochodzi od licencjonowanych przez ARM SoC.

    Najbardziej znanym producentem układów AI jest Nvidia z opartymi na ARM modułami Jetson wyposażonymi w procesory graficzne obsługujące CUDA, które oferują akcelerację dla obciążeń AI. Jest to najnowszy moduł Jetson Nano (na zdjęciu po lewej stronie) przeznaczony do urządzeń wbudowanych o ograniczonych zasobach. Bardziej wydajne moduły Jetson również są dostępne w ofercie Nvidii; obejmują one moduły Jetson TX2 i wysokiej klasy Jetson AGX Xavier.

    Xilinx zaprezentował również platformę AI Xilinx, o której pisaliśmy już tutaj oraz tutaj. Platforma ta zostanie zintegrowana z wchodzącymi właśnie do produkcji układami Versal, powstającymi w technologii 7 nm. Rdzeń „rzadkiej sieci neuronowej” w Xilinx AI wykorzystuje technologię przycinania CNN i algorytm głębokiej kompresji, aby zmniejszyć rozmiar sieci neuronowych dla aplikacji brzegowych.

    ARM prezentuje dwa nowe NPU dla swoich rdzeni ARM prezentuje dwa nowe NPU dla swoich rdzeni
    Architektura AI Xilinx (po lewej) i schemat blokowy Rockchip RK1808 (po prawej).


    Inni klienci ARM, którzy sami nurkują na wodach AI, to Samsung, który rozwija technologię NPU, dedykowane do implementacji AI w smartfonach oraz MediaTek, który wkrótce wypuści na rynek ośmiordzeniowy układ z rdzeniami ARM Cortex-A73 i Cortex-A53 - MediaTek i500. Ma on być wyposażony w procesor AI taktowany zegarem 500 MHz. Pojawić ma się również, wyższej klasy układ MediaTek i700 (platforma AI IoT i700) wyposażony w NPU.

    Rockchip, który wykorzystał 3-TOPSowe NPU w swoim RK3399Pro, wprowadził także SoC z obsługą tego rodzaju akceleratorów, takie jak nowy, dwurdzeniowy (ARM Cortex-A35) RK1808 i nadchodzący niebawem RK3358 produkowany w technologii 8 nm, który będzie zawierał cztery rdzenie ARM Cortex-A76 i cztery Cortex-A55. RK1808 jest ukierunkowany na te same aplikacje AI o niskiej mocy, których dotyczą nowe układy Ethos od ARM.

    Na bardzo niskim poziomie istnieją również takie rozwiązania, jak zorientowany na mikrokontrolery, w szczególności ekosystem Arduino, oparty na RISC-V procesor GAP8 AI dla urządzeń zasilanych bateryjnie oraz oferowany przez firmę DMP układu NPU o niskim poborze prądu - ZIA DV700.

    ARM prezentuje dwa nowe NPU dla swoich rdzeni
    Coral Dev Board wychodzi z wersji beta

    Google również współpracowało z ARM nad modułem Coral Edge TPU z układami AI – Tensor Processing Unit, który jest wbudowany w opartą na systemie Linux płytkę Coral Dev. Wykorzystuje ona SoC i.MX8M od NXP. Edge TPU wkrótce pojawić ma się również w module Asus Tinker Edge T i przemysłowych wersjach płyty Coral Dev - CR1S-CM-A.

    Moduł Coral właśnie opuścił fazę beta. Google właśnie zaktualizowało swoją witrynę internetową dla układów Coral o dodatkową dokumentację i wczesne studia przypadków. Ponadto Google wkrótce wydać ma nową wersję systemu operacyjnego Mendel OS - lekką wersję Debian Buster zaprojektowaną dla Coral Dev Board i Coral Edge TPU.

    Dalsze informacje

    IP Ethos-N57 i Ethos-N37 od ARM są teraz dostępne dla klientów firmy i powinny pojawić się w krzemie pod koniec 2020 roku. Więcej informacji można znaleźć w zapowiedziach prasowych ARM, gdzie znaleźć można także bliższe informacje na temat GPU Mali-G57 i VPU Mali-D37.

    Źródło: http://linuxgizmos.com/arm-unveils-two-lightweight-npus-for-edge-ai/

    Fajne! Ranking DIY
    O autorze
    ghost666
    Tłumacz Redaktor
    Offline 
    Fizyk z wykształcenia. Po zrobieniu doktoratu i dwóch latach pracy na uczelni, przeszedł do sektora prywatnego, gdzie zajmuje się projektowaniem urządzeń elektronicznych i programowaniem. Od 2003 roku na forum Elektroda.pl, od 2008 roku członek zespołu redakcyjnego.
    ghost666 napisał 9485 postów o ocenie 7286, pomógł 157 razy. Mieszka w mieście Warszawa. Jest z nami od 2003 roku.
  • PCBway