Elektroda.pl
Elektroda.pl
X

Search our partners

Find the latest content on electronic components. Datasheets.com
Please add exception to AdBlock for elektroda.pl.
If you watch the ads, you support portal and users.

Ayar Labs współpracuje z Nvidią w zakresie optycznych chipsetów I/O

ghost666 04 Aug 2022 23:42 306 0
  • Ayar Labs współpracuje z Nvidią w zakresie optycznych chipsetów I/O
    Kalifornijski start-up Ayar Labs buduje ekosystem wokół swojej optycznej technologii komunikacyjnej chip-to-chip. Firma nawiązała współpracę z Nvidią w celu opracowania architektur nowej generacji z optycznymi wejściami/wyjściami. „W ciągu ostatniej dekady akcelerowane przez Nvidię obliczenia przyniosły ogromne przyspieszenie dla algorytmów sztucznej inteligencji” — powiedział w oświadczeniu Rob Ober, główny architekt platform produktów dla centrów danych w firmie Nvidia. „Następny wzrost będzie wymagał nowych, zaawansowanych technologii, takich jak optyczne układy wejścia/wyjścia, aby obsłużyć wymagania dotyczące przepustowości, mocy i skalowania przyszłych obciążeń AI i ML oraz architektur systemowych”.

    Ayar Labs współpracuje z Nvidią w zakresie optycznych chipsetów I/O
    Mark Wade
    „Od jakiegoś czasu współpracujemy z Nvidią za kulisami” — komentuje prezes i CTO Ayar Labs, Mark Wade (na zdjęciu po prawej). „Chcą oni uzyskać wzrost efektywności na poziomie systemu o rząd wielkości rocznie i odkryli, że wydajność połączeń między układami poważnie ją obecnie ogranicza”.

    „Od dłuższego czasu jesteśmy dobrze dostosowani do problemu Nvidii” — mówi Wade. „Jeśli chcesz budować masowo skalowalne systemy, które mogą znacznie wykraczać poza to, co są w stanie zrobić teraz… Jeśli chcesz uzyskać wiele tysięcy połączonych logicznie GPU, z których wszystkie pracują nad tym samym problemem z siecią neuronową, musisz rozwiązać mankament dotyczący przeskalowania połączeń. I myślę, że zgadzamy się z Nvidią względem środka zaradczego, co oznacza, że ​​z samych zasad fizyki wynika, że fotonika i optyka — są jedynym sposobem, aby to zrobić”. Oficjalna linia Nvidii zakłada, że ​​modele AI będą miały 100 bilionów lub więcej połączeń do 2023 roku (600 razy więcej niż w 2021 r.) i że w tym momencie techniczne możliwości istniejących miedzianych platform interkonektowych zostaną przekroczone. Firma Ayar twierdzi, że jej optyczne technologie komunikacji chip-to-chip mogą zapewnić nawet 1000-krotnie większą przepustowość w porównaniu z miedzianymi interkonektami przy jednej dziesiątej mocy i opóźnień.

    Światłowód

    Firma Ayar pracuje nad technologią optycznych systemów I/O, odkąd wydzieliła się z MIT, University of Colorado Boulder i University of California w Berkeley w 2015 roku. Chiplety TeraPHY marki są w stanie zapewnić wysoką przepustowość, dużą prędkość i niski pobór mocy z wykorzystaniem optycznej komunikacji chip-to-chip za pośrednictwem światłowodów. „Pokolenie za pokoleniem nadal skalujemy złożoność obliczeń” — powiedział Wade. „Jednak w tym samym czasie przepustowości I/O bardzo trudno było dotrzymać kroku, nawet w latach 2010… Jak elektryczne technologie I/O poradzą sobie w próbie uniknięcia tego limitu przepustowości?” — pyta retorycznie. Problem ten widoczny jest w wielu wymiarach, w tym w ilości mocy wymaganej dla I/O i pasma koniecznego na jednostkę obliczeniową. Łącza elektryczne zaczynają potrzebować retimerów, co wiąże się ze wzrostem kosztów i złożoności na poziomie systemu.

    Technologia Ayar została stworzona, aby rozwiązać te mankamenty. Firma wytwarza swoje optyczne chiplety I/O w GlobalFoundries i dostarcza klientom przetestowane układy matryce, gdzie są one składane w formie flip-chip wraz z SoC na module, co umożliwia nowoczesna technologia interposerów. Chiplety TeraPHY firmy Ayar zajmują się konwersją sygnałów elektrycznych na informację optyczną, dzięki czemu dane mogą podróżować między chipami za pomocą światłowodów. Dziś Ayar używa interfejsu elektrycznego między SoC hosta a chipletem optycznym, który zaprojektował wraz z Intelem w 2018 roku w ramach projektu DARPA PIPES. Jednak firma planuje być w przyszłości kompatybilna zarówno ze standardami komunikacji chiplet-to-chiplet UCIe, jak i CXL.

    „Jesteśmy naprawdę podekscytowani specyfikacją UCIe” — wskazał Wade. „Uważamy, że będzie to mocna siła napędowa do konwergencji rozwiązań… Wszyscy dostawcy chipletów zmagają się z tym problemem. Nie chcesz dzielić planów rozwoju produktu na milion różnych jednostek. UCIe zamierza wprowadzić tutaj pewne wyrównanie i jesteśmy tym podekscytowani” — mówi.

    Jedną z kluczowych decyzji firmy Ayar na wczesnym etapie było oddzielenie samego źródła światła od chipletów fotonicznych (Ayar Labs ma własne niezależne źródło światła laserowego o wielu długościach fali o nazwie: „SuperNova”). „Fizyka laserów jest odłączona od fizyki mikroelektroniki CMOS; nie lubią one pracować w wysokich temperaturach” — oznajmił Wade. „Szybko tracą sprawność energetyczną, a ich niezawodność spada wykładniczo”. Węzły obliczeniowe o wysokim TDP zużywają setki watów; temperatura wewnątrz obudowy SoC może wynosić 80°C lub więcej. Rozdzielenie źródła światła i SoC pozwala na umieszczenie go dalej, utrzymując jego temperaturę poniżej 55°C.



    Ayar Labs współpracuje z Nvidią w zakresie optycznych chipsetów I/O
    Chiplety fotoniczne Ayar Labs TeraPHY są pakowane obok chipletów obliczeniowych z oddzielnym źródłem światła laserowego SuperNova.


    Budowa ekosystemu

    Intel wybrał Ayar Labs do dostarczenia optycznych I/O dla swojego projektu DARPA PIPES (fotonika w pakiecie dla ekstremalnej skalowalności) w 2019 roku. Koncept demonstrował chiplety Ayara współpracujące z układem Intel FPGA, ale partnerstwo wykracza obecnie poza FPGA, jak wyjaśnia Wade. „Pytanie brzmiało, czy interesującą technologię Ayar będzie można zaprojektować, wyprodukować i zmontować w odległości mniejszej niż milimetr od SoC w sposób, który faktycznie rozwiąże problemy SoC?” — wskazał Wade. „Praca nad projektem DARPA PIPES naprawdę potwierdziła naszą technologię i architekturę produktu… To był główny dowód”. Intel Capital jest teraz strategicznym inwestorem w Ayar Labs. Hewlett Packard Enterprise jest kolejnym (poprzez ramię Venture Capital, Hewlett Packard Pathfinder), a w kwietniu dołączyła do nich Nvidia, podczas rundy serii C o wartości 130 milionów dolarów. Wade zwraca uwagę, że plan rozwoju interfejsu HPE Slingshot — systemu komunikacji HPC stworzonego przez integratora systemów Cray, który został przejęty przez HPE w 2019 roku — wymaga w przyszłości optycznych chipów I/O. „Platformy staną się bardziej heterogeniczne, poruszając się ze znacznie większą przepustowością między różnymi rodzajami gniazd” — powiedział Wade. „HPE jest na czele, próbując dowiedzieć się, jakie środki zaradcze w zakresie połączeń mogą faktycznie sprawić, że ta heterogeniczna wizja będzie skuteczna”. HPE i Ayar będą współpracować w dziedzinie badań i rozwoju fotoniki, aby zbudować wspólny ekosystem rozwiązań i klientów.

    Ayar Labs współpracuje z Nvidią w zakresie optycznych chipsetów I/O


    Inny inwestor strategiczny, Lockheed Martin, ma wiele interesujących potrzeb w segmencie obronnym, ale według Wade'a zmierzch elektrycznych I/O jest wszechobecny. „Zderzenie wymagań zasilania sekcji I/O i TDP ma miejsce właśnie teraz, a w ciągu najbliższej dekady zobaczymy transformację z wykorzystaniem fotoniki we wszystkich segmentach i pionach” — zasugerował.

    Inni inwestorzy strategiczni firmy to GlobalFoundries i Applied Ventures (oddział VC firmy Applied Materials).

    Właściwy moment

    Dlaczego jest to akuratny czas na pojawienie się optycznych I/O? Czy technologia jest już gotowa, czy też wreszcie pojawił się popyt na rynku? „Kluczowe aspekty technologiczne sprawiły, że zostały usunięte ryzyka znane od około 2018 roku” — odpowiedział Wade. „Główny czynnik, który musiał zaistnieć to wystarczająco silne zapotrzebowanie na rynku końcowym, aby dostosować wysokonakładowy, zaawansowany łańcuch dostaw produkcyjnych”. Wade porównał wprowadzanie do obiegu rozbudowanych technologii z problemem kurczaka i jajka. Wyeliminowanie ryzyka z techniki pomaga w tworzeniu popytu na rynku, co pozwoliło z kolei ukierunkować niektórych kluczowych producentów masowych na krytycznej ścieżce w łańcuchu dostaw.

    „Moja opinia jest taka, że ​​będziemy ograniczeni stawkami poprzez ustanowienie łańcucha dostaw” — powiedział Wade. „W tym roku kwalifikowana jest technologia, która skupia większość koncentracji segmentu na inżynierii. Jednocześnie wykonujemy dużo pracy, aby upewnić się, że mamy gotowy łańcuch dostaw, aby trafić za kilka lat na tę ścieżkę, do której dążymy”. Ayar Labs planuje w tym roku skupić się na skalowaniu produkcji swoich technologii poprzez partnerstwa i rozwój ekosystemu. Równocześnie spodziewa się też, że wyśle przy schyłku obecnego periodu pierwsze: ​„tysiące jednostek” do klientów docelowych.

    Źródło: https://www.eetimes.com/ayar-labs-partners-with-nvidia-for-optical-i-o-chiplets/

    Cool? Ranking DIY
    About Author
    ghost666
    Translator, editor
    Offline 
    Fizyk z wykształcenia. Po zrobieniu doktoratu i dwóch latach pracy na uczelni, przeszedł do sektora prywatnego, gdzie zajmuje się projektowaniem urządzeń elektronicznych i programowaniem. Od 2003 roku na forum Elektroda.pl, od 2008 roku członek zespołu redakcyjnego.
    ghost666 wrote 11189 posts with rating 9469, helped 157 times. Live in city Warszawa. Been with us since 2003 year.