Elektroda.pl
Elektroda.pl
X

Search our partners

Find the latest content on electronic components. Datasheets.com
Elektroda.pl
Please add exception to AdBlock for elektroda.pl.
If you watch the ads, you support portal and users.

Intel przedstawia neuromorficzny układ drugiej generacji

ghost666 09 Oct 2021 13:38 888 0
Computer Controls
  • Intel przedstawia neuromorficzny układ drugiej generacji
    Intel właśnie zaprezentował swój nowy neuromorficzny układ obliczeniowy drugiej generacji - Loihi 2, Jest to pierwszy układ zbudowany w oparciu o technologię procesową Intel 4. Zaprojektowany został do badań nad najnowocześniejszymi neuromorficznymi sieciami neuronowymi. Układ Loihi 2 wprowadza szereg ulepszeń w porównaniu do swojego poprzednika. Obejmują one nowy zestaw instrukcji dla neuronów, który zapewnia im większą programowalność, dzięki czemu skoki mogą mieć wartości całkowite powyżej 1 i 0, a także możliwość skalowania do trójwymiarowych siatek chipów dla większych systemów.

    Producent chipów zaprezentował również Lava, platformę oprogramowania typu open source do tworzenia aplikacji inspirowanych działaniem umysłu i neuronów. Intel ma nadzieję zaangażować liczną grupę badaczy neuromorficznych w rozwój Lavy, która po uruchomieniu pozwoli zespołom badawczym na wzajemną współpracę.

    Loihi to intelowska wersja tego, jak powinien wyglądać sprzęt neuromorficzny, zaprojektowany dla inspirowanych mózgiem sieci neuronowych (SNN). Sieci typu SNN są używane w obliczeniach opartych na zdarzeniach, w których informacje są kodowane w czasie trwania i wysyłania impulsów wejściowych. Ogólnie rzecz biorąc, skoki, które pojawiają się wcześniej, mają większy efekt obliczeniowy niż te, które pojawiają się później.

    Wśród kluczowych różnic między sprzętem neuromorficznym a standardowymi procesorami do zastosowań AI jest drobnoziarnista dystrybucja pamięci, co oznacza, że ​​pamięć Loihi jest osadzona w poszczególnych rdzeniach. Ponieważ skoki Loihi zależne są od czasu to cała architektura jest asynchroniczna.

    "W obliczeniach neuromorficznych obliczenia powstają dzięki interakcji między wszystkimi dynamicznymi elementami w systemie" wyjaśnił Mike Davies, dyrektor Laboratorium Obliczeń Neuromorficznych Intela. "W tym przypadku neurony mają tę dynamiczną właściwość, że są w stanie dostosowywać się w czasie rzeczywistym do otrzymywanych danych wejściowych, a programista może nie znać dokładnej trajektorii kroków, przez które przejdzie chip, aby uzyskać odpowiedź. Procesor przechodzi dynamiczny proces samoorganizacji swoich stanów i osiada w jakimś nowym stanie. Ten ostatni ustalony punkt, jak go nazywamy, lub stan równowagi, jest tym, co koduje odpowiedź na problem, który chcesz rozwiązać" dodał Davies. "Więc różni się to zasadniczo od tego, jak myślimy o obliczeniach w innych architekturach".

    Chipy Loihi pierwszej generacji zostały do ​​tej pory zademonstrowane w różnych zastosowaniach badawczych, w tym w adaptacyjnym sterowaniu ramieniem robota, gdzie ruch dostosowuje się do zmian w systemie, zmniejszając tarcie i zużycie ramienia. Loihi jest w stanie dostosować swój algorytm sterowania, aby skompensować błędy lub nieprzewidywalne zachowanie systemu, umożliwiając robotom działanie z pożądaną dokładnością. Loihi został również wykorzystany w systemie, który rozpoznaje różne zapachy. W tym scenariuszu może uczyć się i wykrywać nowe zapachy znacznie wydajniej niż odpowiednik oparty na np. głębokim uczeniu maszynowym. Projekt z Deutsche Bahn wykorzystał z kolei Loihi do planowania rozkładu tras pociągów. System szybko reagował na zmiany, takie jak zamknięcie torów lub zatrzymanie pociągów.

    Funkcje drugiej generacji

    Zbudowany na przedprodukcyjnej wersji procesu Intel 4, układ Loihi 2 ma na celu zwiększenie poziomu programowalności i wydajności bez obniżania efektywności energetycznej. Podobnie jak jego poprzednik, zwykle zużywa około 100 mW (do 1 W). Jedną z najważniejszych zmian jest zwiększenie gęstości zasobów; podczas gdy chip nadal zawiera 128 rdzeni, liczba neuronów zwiększa się ośmiokrotnie. "Uzyskanie zwiększenia ilości pamięci, neuronów i synaps w jednym chipie jest niezbędne dla poprawny rentowności komercyjnej… i komercjalizacji ich w sposób, który ma sens dla zastosowań naszych klientów" mówi Davies.

    Intel przedstawia neuromorficzny układ drugiej generacji


    W układzie Loihi 1 obciążenia często mapowałyby się na architekturę w nieoptymalny sposób. Na przykład liczba neuronów często osiągała maksimum, gdy wolna pamięć była nadal dostępna. Ilość pamięci w Loihi 2 jest w sumie podobna, ale została podzielona ona na banki pamięci, które są bardziej elastyczne. Do parametrów sieci dodano dodatkową kompresję, aby zminimalizować ilość pamięci wymaganej dla większych modeli. To uwalnia pamięć, którą można ponownie przydzielić neuronom.

    W rezultacie Loihi 2 może poradzić sobie z większymi problemami przy tej samej ilości pamięci, zapewniając około 15-krotny wzrost pojemności sieci neuronowej na milimetr kwadratowy powierzchni chipa – pamiętając, że powierzchnia układu jest o połowę mniejsza dzięki nowej technologii procesowej.

    Programowalność neuronów

    Programowalność to kolejna ważna modyfikacja architektoniczna. Neurony w Loihi 1, które wcześniej miały stałą funkcję, choć można je było konfigurować, uzyskują teraz pełny zestaw instrukcji. Zestaw instrukcji zawiera wspólne instrukcje arytmetyczne, porównania i sterowania przepływem programu. Ten poziom programowalności umożliwia o wiele wydajniejsze działanie różnych typów SNN.

    "To rodzaj mikrokodu, który pozwala nam programować niemal dowolne modele neuronów" powiedział Davies. "To obejmuje ograniczenia Loihi 1, a tam, gdzie generalnie znajdujemy większą wartość aplikacji, można ją odblokować za pomocą jeszcze bardziej złożonych i bogatszych modeli neuronów, czego nie oczekiwaliśmy na początku powstawania rodziny Loihi. Ale teraz możemy faktycznie objąć cały zakres modeli neuronowych, które nasi partnerzy próbują zbadać, oraz to, co proponuje i charakteryzuje domena neuronauki obliczeniowej".

    Intel przedstawia neuromorficzny układ drugiej generacji


    W przypadku Loihi 2 idea 'kolców' również została uogólniona. Loihi 1 wykorzystywał ścisłe skoki binarne, aby odzwierciedlić to, co widać w biologii, gdzie skoki nie mają żadnej wielkości. Wszystkie informacje są reprezentowane przez synchronizację skoków, a wcześniejsze skoki miałyby większy efekt obliczeniowy niż późniejsze skoki. W Loihi 2 skoki przenoszą konfigurowalny ładunek całkowity, dostępny dla programowalnego modelu neuronu. Chociaż biologiczne mózgi tego nie robią, jak mówi Davies, Intelowi było stosunkowo łatwo dodać do architektury krzemowej takie rozwiązanie bez pogorszenia wydajności układu.

    "To jest przykład, w którym odchodzimy od ścisłej wierności biologicznej, szczególnie dlatego, że rozumiemy, jakie jest znaczenie dla kodowania czasu" powiedział. "Ale również zdaliśmy sobie sprawę, że możemy zrobić pewne rzeczy lepiej i możemy rozwiązać te same problemy przy użyciu mniejszej ilości zasobów, jeśli mamy tę dodatkową wielkość, którą można wysłać wraz z samym skokiem".

    Uogólnione komunikaty oparte na zdarzeniach są kluczem do obsługi przez Loihi 2 głębokiej sieci neuronowej zwanej siecią neuronową sigma-delta (SDNN), która jest znacznie szybsza niż podejście czasowe stosowane w Loihi 1. SDNN obliczają wartości stopniowanej aktywacji w ten sam sposób, jak robią to konwencjonalne sieci DNN, ale informują o istotnych zmianach tylko wtedy, gdy te zachodzą, czyli w sposób rzadki, sterowany zdarzeniami.

    Skalowanie 3D

    Loihi 2 jest przedstawiany jako do 10 razy szybszy niż jego poprzednik (na poziomie obwodu). W połączeniu z ulepszeniami funkcjonalnymi, projekt może zapewnić nawet 10-krotny wzrost prędkości działania, twierdzi Davies. Loihi 2 obsługuje minimalne kroki czasowe w całym chipie poniżej 200 ns. Może również przetwarzać sieci neuromorficzne do 5000 razy szybciej niż neurony biologiczne.

    Nowy chip zawiera również możliwości potencjalnej skalowalności, które pozwolić mają Intelowi skalować sieci neuronowe do trzeciego wymiaru. Bez pamięci zewnętrznej, na której można by uruchamiać większe sieci neuronowe, Loihi 1 wymagało wielu urządzeń (takich jak układ scalony Intela 768-Loihi, Pohoiki Springs). Planarne siatki układów Loihi 1 stają się sieciami 3D w systemach opartych na Loihi 2. Dodatkowo, przepustowość między układami została poprawiona czterokrotnie, głównie dzięki kompresji i nowym protokołom zapewniającym pozostawienie jedynie jednej dziesiątej nadmiarowego ruchu szczytowego przesyłanego między układami. Davies powiedział, że łączny wzrost wydajności jest około 60-krotny dla większości obciążeń roboczych, co jest zasługą eliminacji wąskich gardeł, powodowanych przez łącza między chipami.

    Wspierane jest również uczenie trójczynnikowe, które jest popularne w najnowocześniejszych badaniach algorytmów neuromorficznych. Ta sama modyfikacja, która odwzorowuje czynniki trzecie na określone synapsy, może zostać wykorzystana do przybliżenia wstecznej propagacji, metody szkoleniowej stosowanej w głębokim uczeniu. To tworzy nowe sposoby uczenia się przez Loihi.

    Intel przedstawia neuromorficzny układ drugiej generacji


    Lava

    Ramy oprogramowania Lava uzupełniają ulepszenia Loihi. Projekt open source jest w pełni dostępny dla społeczności badawczej, zajmującej się tematyką układów neuromorficznych. "Oprogramowanie nadal ogranicza tę dziedzinę" powiedział Davies. "W ciągu ostatnich kilku lat nie nastąpił duży postęp, nie w tym samym tempie, co w zakresie sprzętu. I nie doszło do powstania jednej struktury oprogramowania, jak widzieliśmy w świecie głębokiego uczenia się, w którym TensorFlow i PyTorch nabierają ogromnego rozpędu i bazy użytkowników".

    Chociaż firma Intel posiada szeroko używane portfolio aplikacji dla układów Loihi, współdzielenie kodu między zespołami programistycznymi jest ograniczone. To sprawia, że ​​deweloperom trudniej jest budować w oparciu o postępy dokonane gdzie indziej. Promowany jako nowy projekt, a nie produkt, jak powiedział Davies, oprogramowanie Lava ma służyć jako sposób na zbudowanie struktury wspierającej dla badaczy korzystających z Loihi i pracujących nad szeregiem nowych algorytmów. Chociaż Lava ma na celu asynchroniczne przekazywanie komunikatów oparte na zdarzeniach, będzie również obsługiwać realizacje heterogeniczne. To pozwala naukowcom opracowywać aplikacje, które początkowo działają na procesorach. Mając dostęp do sprzętu Loihi, badacze będą mogli następnie mapować części obciążenia pracą na chip neuromorficzny. "Mamy nadzieję, że to podejście pomogłoby obniżyć barierę wejścia" ocenia Intel.

    "Widzimy tutaj potrzebę konwergencji i wspólnego rozwoju w kierunku większego celu, który będzie niezbędny do komercjalizacji technologii neuromorficznej" powiedział Davies. Loihi 2 będzie używany przez naukowców opracowujących zaawansowane algorytmy neuromorficzne. Oheo Gulch, jednoukładowy system do testów laboratoryjnych, będzie początkowo dostępny dla naukowców, a następnie dostępny ma być układ Kapoho Point - ośmiochipowa implementacja Loihi 2 Kapoho Bay. Kapoho Point zawierać ma interfejs Ethernet zaprojektowany tak, aby umożliwić układanie płytek w stosy do zastosowań takich jak robotyka, które wymagają większej mocy obliczeniowej.

    Oprogramowanie Lava jest dostępne do pobrania na repozytorium w GitHubi.

    Źródło: https://www.eetimes.com/intel-unveils-second-generation-neuromorphic-chip/

    Cool! Ranking DIY
    About Author
    ghost666
    Translator, editor
    Offline 
    Fizyk z wykształcenia. Po zrobieniu doktoratu i dwóch latach pracy na uczelni, przeszedł do sektora prywatnego, gdzie zajmuje się projektowaniem urządzeń elektronicznych i programowaniem. Od 2003 roku na forum Elektroda.pl, od 2008 roku członek zespołu redakcyjnego.
    ghost666 wrote 10591 posts with rating 8941, helped 157 times. Live in city Warszawa. Been with us since 2003 year.
  • Computer Controls