Wiele wskazuje, że już niebawem w zwykłych domowych komputerach zagości zintegrowany z płytą główną nowy procesor. Teraz w naszych komputerach znajdziemy nie tylko CPU i GPU, ale także specjalny układ dedykowany do inferencji (część działania sztucznej inteligencji) - VPU (Vision Processor Unit), który kończy testować i implementować Intel i Movidius, zakupiony przez Intela w 2016 roku.
Jednakże sam sprzęt to nie wszystko. VPU jednak doczekać ma się także wsparcia systemu operacyjnego. Firma Microsoft zaprezentowała na Windows Developer Day framework Windows ML - system do obsługi zadań uczenia maszynowego na platformie Windows. Microsoft poinformował, że niebawem jego systemy operacyjne mają zostać wzbogacone o natywne wsparcie dla układów VPU. Oznacza to jednocześnie, że nowe układy Intela są o krok bliżej do zawitania do naszych domów, a nie tylko telefonów komórkowych, dronów i kamer przemysłowych, gdzie dotychczas upatrywano głównego zastosowania nowego układu.
W telefonicznym wywiadzie dla EE Times, dyrektor ds. marketingu w Movidiusie, Gary Brown, potwierdził stanowisko Microsoftu. "(...) tak, niebawem będzie można zobaczyć układy VPU na płytach głównych komputerów domowych". Windows ML ma pozwolić systemowi giganta z Redmond dogonić konkurencję, która także mocno interesuje się systemami sztucznej inteligencji. To bardzo dynamicznie zmieniający się sektor.
"Windows ML będzie dynamicznie determinował, jaki sprzęt będzie najodpowiedniejszy do danego zadania i będzie je przydzielać różnym procesorom obliczeniowym w komputerze, także Intelowemu VPU" - donosi producent tych układów. "Nasz układ VPU jest w stanie przejąć ciężkie obliczenia związane z systemami sztucznej inteligencji, takimi jak rozpoznawanie obrazów, twarzy, głosu czy danych biometrycznych. W ten sposób odciąży CPU i GPU w komputerze. VPU pomóc ma zwolnić te zasoby, które mogą być wykorzystane w maszynie do innych celów" - mówi Brown.
VPU od Intela/Movidiusa wchodzi do mainstreamu
"Dodanie natywnego wsparcia dla VPU w systemie operacyjnym Windows wskazuje deweloperom aplikacji, że układ ten właśnie wchodzi do mainstreamu" - powiedział analityk z Tirias Researcg, Kevin Krewell. Nie jest on jednak pewien, czy to odpowiedni krok i czy te systemy są odpowiednim miejscem dla nich. "Widzę układy VPU w zastosowaniach wirtualnej czy rozszerzonej rzeczywistości, takich na przykład jak kolejnej generacji Hololens. Nie jestem pewien, czy układ taki sprawdzi się w komputerze PC. Ma on pod dostatkiem wydajności, w postaci CPU i GPU. VPU Movidiusa działać może najlepiej w układach, takich jak drony, które nie mają zbyt wielkiej wydajności obliczeniowej".
"Być może wynika to zupełnie z czego innego; być może to pierwszy krok Windowsa w kierunku urządzeń takich jak drony czy roboty".
Świat sztucznej inteligencji szybko się rozwija. Microsoft jest pod ogromnym ciśnieniem, aby nadążyć za postępem technologicznym. W zeszłym roku Khronos rozpoczął własne starania nad frameworkiem do uczenia maszynowego. Podobnie jak API systemów graficznych, ma być to uniwersalne API, jednakże jak wynika z prezentacji Microsoftu, firma ta i tak musi stworzyć własne API do uczenia maszynowego pod systemem Windows.
Mike Demler, analityk z The Linley Group, bacznie obserwuje postępy frameworku do uczenia maszynowego pod Windowsem i porównuje je z innymi API do np. sieci neuronowych. "To najwyższy czas, by Microsoft dogonił inne platformy, takie jak ARM" - mówi Demler. "Natywne wsparcie systemu operacyjnego dla produktu Movidiusa pozwoli firmie tej zdobyć lepszy dostęp do rynku laptopów i tabletów" - dodaje.
Demler zna też prawdopodobną odpowiedź na pytanie, czemu Microsoft to robi: "Deweloperzy już teraz mogą uruchamiać aplikacje uczenia maszynowego na Windowsie, korzystając z CPU, GPU czy dedykowanych platform, takich jak Myriad, ale Windows ML (framework uczenia maszynowego - przyp.red.) ma dać im większą standaryzację". Dla użytkowników komputerów PC framework ten ma ułatwić "migrację zadań uczenia maszynowego z chmury do lokalnych urządzeń, w tym przypadku komputerów PC" - tłumaczy Demler.
Jakie aplikacje znajdą systemy AI?
W momencie, gdy procesor AI wykorzystywany jest w konkretnym systemie wbudowanym, zadania, jakie ma realizować ten układ, są dosyć jasne. Może to być śledzenie obiektów, unikanie kolizji w przypadku dronów czy też rozpoznawanie twarzy czy osób w przypadku kamer przemysłowych. Celem jest przesunięcie wykorzystania AI do granic systemów tak, by urządzenia wbudowane były w stanie działać w myśl zasady "zmierz, oceń, działaj" zupełnie samodzielnie, jak wskazuje były CEO Movidiusa, Remi El-Ouazzane. Obecnie pełni on rolę wicedyrektora w Intelu.
Jakie więc aplikacje dla procesora sztucznej inteligencji mogą czekać na komputerze PC?
Brown z Intela sugeruje, że jest ich wiele. "Wyobraźcie sobie, że wchodzicie do pokoju, w którym na stole leży tablet z Windowsem. Może on Was zobaczyć i rozpoznać twarz, a następnie rozpoznając głosowe komendy, pomóc nam jako prywatny asystent, chociażby w zakresie doboru i wyszukiwania muzyki czy porządkowania zdjęć. Wizyjne systemy AI będą w stanie wiele pomóc w zakresie wideokonferencji" - mówi. Oczywiście wiele jest w rękach deweloperów, którzy tworzyć będą te aplikacje.
Demler wierzy, że aplikacje wykorzystujące AI na komputerach PC nie będą wiele różnić się od tych, z jakich korzysta się w urządzeniach mobilnych. "Wlicza się w to biometryka, rzeczywistość wirtualna czy rozszerzona, przetwarzanie obrazów, rozpoznawanie obrazów i wiele, wiele innych" - wylicza.
Brown potwierdza, że Myriad X jest pierwszym układem sztucznej inteligencji, jaki wspierany będzie przez Windows ML w komputerach przenośnych. Zapytany, kiedy spodziewać można się, że układ ten pojawi się na płytach głównych, odpowiada on jedynie, iż nastąpi to niebawem. Wiele wskazuje jednakże też, że framework Microsoftu nie jest nacelowany tylko w układy od Intela/Movidiusa.
Zapytany o spekulacje odnośnie innych układów AI, jakie pojawić się mogą w komputerach PC, Demler podkreślając, że chodzi głównie o komputery przenośne, wskazuje kilku kandydatów: "Jest wiele aplikacji uczenia maszynowego na komputerach PC, które wykorzystują GPU od Nvidii. Niedawno Linley prezentował akcelerator AI pod nazwą Gyrfalcon. To niewielkie urządzenie wpina się do portu USB, podobnie jak system Movidiusa. Cała sztuczka polega teraz tylko na przejściu tych układów na płytę główną. (...) W Chinach istnieje szereg firm zainteresowanych AI, między innymi Cambricon rozwijający układy sztucznej inteligencji. Jednym z jego inwestorów jest Lenovo".
Myriad X
Pierwszym układem, jaki doczeka się wsparcia frameworka Windows ML jest Myriad X od Intela i Movidiusa. Zaprezentowany został on w zeszłym roku. El-Ouazzane informował wtedy, że jest to trzeciej generacji VPU. "Poszukujemy wszelkich dróg, by zwiększyć wydajność układu bez zwiększania poboru prądu" - mówił były już CEO Movidiusa.
Architektura układu Myriad X wyposażona jest w wiele sprzętowych akceleratorów. Umożliwia mu to obecnie wykonanie tryliona operacji na sekundę podczas obliczeń związanych z inferencją wykorzystującą głębokie sieci neuronowe. Wszystko to pobierając moc poniżej jednego wata.
Myriad X wyposażony został, jak tłumaczył Movidius, w zwiększoną liczbę specjalnych rdzeni DSP do obliczeń wektorowych. W układzie Myriad 2 było ich 12, a w najnowszym VPU jest ich 16. Do tego dodano ponad 20 specjalnych akceleratorów sprzętowych dla sieci neuronowych. Zaprojektowane one zostały do realizacji konkretnych zadań w ramach inferencji itp.
Zadania, jakie wspiera Myriad X, to między innymi analiza głębokości, ekstrakcja krawędzi na obrazach (co jest niezwykle istotne w przypadku lądujących dronów), kompensacja zniekształcenia obrazu z kamery szerokokątnej czy też superszybka ocena ruchu elementów na zdjęciu, co ważne jest w aplikacjach monitoringowych, np. do zliczania osób widocznych w kamerze.
Źródło: https://www.eetimes.com/document.asp?doc_id=1333045
Jednakże sam sprzęt to nie wszystko. VPU jednak doczekać ma się także wsparcia systemu operacyjnego. Firma Microsoft zaprezentowała na Windows Developer Day framework Windows ML - system do obsługi zadań uczenia maszynowego na platformie Windows. Microsoft poinformował, że niebawem jego systemy operacyjne mają zostać wzbogacone o natywne wsparcie dla układów VPU. Oznacza to jednocześnie, że nowe układy Intela są o krok bliżej do zawitania do naszych domów, a nie tylko telefonów komórkowych, dronów i kamer przemysłowych, gdzie dotychczas upatrywano głównego zastosowania nowego układu.
W telefonicznym wywiadzie dla EE Times, dyrektor ds. marketingu w Movidiusie, Gary Brown, potwierdził stanowisko Microsoftu. "(...) tak, niebawem będzie można zobaczyć układy VPU na płytach głównych komputerów domowych". Windows ML ma pozwolić systemowi giganta z Redmond dogonić konkurencję, która także mocno interesuje się systemami sztucznej inteligencji. To bardzo dynamicznie zmieniający się sektor.
"Windows ML będzie dynamicznie determinował, jaki sprzęt będzie najodpowiedniejszy do danego zadania i będzie je przydzielać różnym procesorom obliczeniowym w komputerze, także Intelowemu VPU" - donosi producent tych układów. "Nasz układ VPU jest w stanie przejąć ciężkie obliczenia związane z systemami sztucznej inteligencji, takimi jak rozpoznawanie obrazów, twarzy, głosu czy danych biometrycznych. W ten sposób odciąży CPU i GPU w komputerze. VPU pomóc ma zwolnić te zasoby, które mogą być wykorzystane w maszynie do innych celów" - mówi Brown.
VPU od Intela/Movidiusa wchodzi do mainstreamu
"Dodanie natywnego wsparcia dla VPU w systemie operacyjnym Windows wskazuje deweloperom aplikacji, że układ ten właśnie wchodzi do mainstreamu" - powiedział analityk z Tirias Researcg, Kevin Krewell. Nie jest on jednak pewien, czy to odpowiedni krok i czy te systemy są odpowiednim miejscem dla nich. "Widzę układy VPU w zastosowaniach wirtualnej czy rozszerzonej rzeczywistości, takich na przykład jak kolejnej generacji Hololens. Nie jestem pewien, czy układ taki sprawdzi się w komputerze PC. Ma on pod dostatkiem wydajności, w postaci CPU i GPU. VPU Movidiusa działać może najlepiej w układach, takich jak drony, które nie mają zbyt wielkiej wydajności obliczeniowej".
"Być może wynika to zupełnie z czego innego; być może to pierwszy krok Windowsa w kierunku urządzeń takich jak drony czy roboty".
Świat sztucznej inteligencji szybko się rozwija. Microsoft jest pod ogromnym ciśnieniem, aby nadążyć za postępem technologicznym. W zeszłym roku Khronos rozpoczął własne starania nad frameworkiem do uczenia maszynowego. Podobnie jak API systemów graficznych, ma być to uniwersalne API, jednakże jak wynika z prezentacji Microsoftu, firma ta i tak musi stworzyć własne API do uczenia maszynowego pod systemem Windows.
Mike Demler, analityk z The Linley Group, bacznie obserwuje postępy frameworku do uczenia maszynowego pod Windowsem i porównuje je z innymi API do np. sieci neuronowych. "To najwyższy czas, by Microsoft dogonił inne platformy, takie jak ARM" - mówi Demler. "Natywne wsparcie systemu operacyjnego dla produktu Movidiusa pozwoli firmie tej zdobyć lepszy dostęp do rynku laptopów i tabletów" - dodaje.
Demler zna też prawdopodobną odpowiedź na pytanie, czemu Microsoft to robi: "Deweloperzy już teraz mogą uruchamiać aplikacje uczenia maszynowego na Windowsie, korzystając z CPU, GPU czy dedykowanych platform, takich jak Myriad, ale Windows ML (framework uczenia maszynowego - przyp.red.) ma dać im większą standaryzację". Dla użytkowników komputerów PC framework ten ma ułatwić "migrację zadań uczenia maszynowego z chmury do lokalnych urządzeń, w tym przypadku komputerów PC" - tłumaczy Demler.
Jakie aplikacje znajdą systemy AI?
W momencie, gdy procesor AI wykorzystywany jest w konkretnym systemie wbudowanym, zadania, jakie ma realizować ten układ, są dosyć jasne. Może to być śledzenie obiektów, unikanie kolizji w przypadku dronów czy też rozpoznawanie twarzy czy osób w przypadku kamer przemysłowych. Celem jest przesunięcie wykorzystania AI do granic systemów tak, by urządzenia wbudowane były w stanie działać w myśl zasady "zmierz, oceń, działaj" zupełnie samodzielnie, jak wskazuje były CEO Movidiusa, Remi El-Ouazzane. Obecnie pełni on rolę wicedyrektora w Intelu.
Jakie więc aplikacje dla procesora sztucznej inteligencji mogą czekać na komputerze PC?
Brown z Intela sugeruje, że jest ich wiele. "Wyobraźcie sobie, że wchodzicie do pokoju, w którym na stole leży tablet z Windowsem. Może on Was zobaczyć i rozpoznać twarz, a następnie rozpoznając głosowe komendy, pomóc nam jako prywatny asystent, chociażby w zakresie doboru i wyszukiwania muzyki czy porządkowania zdjęć. Wizyjne systemy AI będą w stanie wiele pomóc w zakresie wideokonferencji" - mówi. Oczywiście wiele jest w rękach deweloperów, którzy tworzyć będą te aplikacje.
Demler wierzy, że aplikacje wykorzystujące AI na komputerach PC nie będą wiele różnić się od tych, z jakich korzysta się w urządzeniach mobilnych. "Wlicza się w to biometryka, rzeczywistość wirtualna czy rozszerzona, przetwarzanie obrazów, rozpoznawanie obrazów i wiele, wiele innych" - wylicza.
Brown potwierdza, że Myriad X jest pierwszym układem sztucznej inteligencji, jaki wspierany będzie przez Windows ML w komputerach przenośnych. Zapytany, kiedy spodziewać można się, że układ ten pojawi się na płytach głównych, odpowiada on jedynie, iż nastąpi to niebawem. Wiele wskazuje jednakże też, że framework Microsoftu nie jest nacelowany tylko w układy od Intela/Movidiusa.
Zapytany o spekulacje odnośnie innych układów AI, jakie pojawić się mogą w komputerach PC, Demler podkreślając, że chodzi głównie o komputery przenośne, wskazuje kilku kandydatów: "Jest wiele aplikacji uczenia maszynowego na komputerach PC, które wykorzystują GPU od Nvidii. Niedawno Linley prezentował akcelerator AI pod nazwą Gyrfalcon. To niewielkie urządzenie wpina się do portu USB, podobnie jak system Movidiusa. Cała sztuczka polega teraz tylko na przejściu tych układów na płytę główną. (...) W Chinach istnieje szereg firm zainteresowanych AI, między innymi Cambricon rozwijający układy sztucznej inteligencji. Jednym z jego inwestorów jest Lenovo".
Myriad X
Pierwszym układem, jaki doczeka się wsparcia frameworka Windows ML jest Myriad X od Intela i Movidiusa. Zaprezentowany został on w zeszłym roku. El-Ouazzane informował wtedy, że jest to trzeciej generacji VPU. "Poszukujemy wszelkich dróg, by zwiększyć wydajność układu bez zwiększania poboru prądu" - mówił były już CEO Movidiusa.
Architektura układu Myriad X wyposażona jest w wiele sprzętowych akceleratorów. Umożliwia mu to obecnie wykonanie tryliona operacji na sekundę podczas obliczeń związanych z inferencją wykorzystującą głębokie sieci neuronowe. Wszystko to pobierając moc poniżej jednego wata.
Myriad X wyposażony został, jak tłumaczył Movidius, w zwiększoną liczbę specjalnych rdzeni DSP do obliczeń wektorowych. W układzie Myriad 2 było ich 12, a w najnowszym VPU jest ich 16. Do tego dodano ponad 20 specjalnych akceleratorów sprzętowych dla sieci neuronowych. Zaprojektowane one zostały do realizacji konkretnych zadań w ramach inferencji itp.
Zadania, jakie wspiera Myriad X, to między innymi analiza głębokości, ekstrakcja krawędzi na obrazach (co jest niezwykle istotne w przypadku lądujących dronów), kompensacja zniekształcenia obrazu z kamery szerokokątnej czy też superszybka ocena ruchu elementów na zdjęciu, co ważne jest w aplikacjach monitoringowych, np. do zliczania osób widocznych w kamerze.
Źródło: https://www.eetimes.com/document.asp?doc_id=1333045
Fajne? Ranking DIY