logo elektroda
logo elektroda
X
logo elektroda
Adblock/uBlockOrigin/AdGuard mogą powodować znikanie niektórych postów z powodu nowej reguły.

Wywiad z Jimem Kellerem - rozmowa o AI, RISC-V i przejściu Tenstorrent na Edge IP

ghost666 24 Lip 2023 10:27 858 0
  • Wywiad z Jimem Kellerem - rozmowa o AI, RISC-V i przejściu Tenstorrent na Edge IP
    Legendarny projektant procesorów, Jim Keller, objął na początku 2023 roku stanowisko dyrektora generalnego przedsiębiorstwa Tenstorrent, zajmującego się układami sztucznej inteligencji (AI), po tym, jak przez dwa lata pełnił funkcję CTO tej firmy. Jego historia obejmuje okresy pracy w Apple, Tesli i AMD. W ostatnich latach Keller stał się zdeklarowanym zwolennikiem architektury RISC-V, a rozwijający się open-source ISA był kluczowym tematem dyskusji podczas wywiadu wideo na wyłączność, jaki Keller udzielił portalowi EE Times.





    „Wierzę, że w ciągu najbliższych 5 do 10 lat RISC-V przejmie wszystkie centra danych” — wskazał Keller w rozmowie z EE Times, dodając, że dotyczy to zwłaszcza obliczeń naukowych i systemów o dużej mocy obliczeniowej. Powiedział, że w sektorze superkomputerów to otwarte ISE może dominować jeszcze szybciej. Keller jest wielkim zwolennikiem otwartego oprogramowania zarówno dla sprzętu, jak i oprogramowania; Tenstorrent zamierza wkrótce otworzyć własny stos oprogramowania AI. „Chcieliśmy to zrobić już w zeszłym roku, ale nie byliśmy na to gotowi. Nasz stos oprogramowania był zbyt chaotyczny i trzeba go było odpowiednio podzielić na części” — oznajmił Keller. „Aspirujemy do tego, by być przedsiębiorstwem, które z sukcesem tworzy oprogramowanie typu open-source”.

    W niespodziewanym posunięciu dla firmy zajmującej się chipami do centrów danych, Tenstorrent udzielił niedawno licencji zarówno na swój rdzeń akceleratora Tensix AI, jak i rdzeń procesora Ascalon marce LG Electronics. Koreański gigant elektroniki użytkowej zamierza wykorzystać Tensix IP w systemach wbudowanych, pracujących na krawędzi, w inteligentnych telewizorach i chipach samochodowych. Oba podmioty planują również współpracę nad przyszłymi generacjami procesorów RISC-V, akceleratorów AI oraz kodeków wideo IP i/lub chipletów. (LG wydzieliło własny dział IP w zakresie AI w 2020 roku).

    „Więc po pierwsze, są świetną firmą technologiczną, mam nawet jeden z ich telewizorów, więc kiedy ich spotkałem, w pewnym sensie zafascynowaliśmy się technologią, tym, że idzie do telewizorów, do tego też tym, że mają własne układy. Okazuje się, że dysponują dość silnym zespołem inżynierów. Wiedzą, jak robić chipy, mają portfel własności intelektualnej. [...] Wiedzą, co robią” — mówi Keller o LG. „Chcieli, a rozmawialiśmy o tym z wieloma ludźmi, bloków IP, które byłyby programowalne, tak, aby mogli je modyfikować, aby zaspokajać swoje potrzeby” — opowiada. To było jednym z założeń przy opracowaniu układu Tensix. Sztuczna inteligencja będzie bardzo ewoluować, jak wskazuje Keller. Trzeba rozróżnienia między wnioskowaniem a treningiem, językiem a obrazem, chociaż docelowo to wszystko będzie rozmyte. „Jednym z moich ulubionych modeli jest stable diffusion. Ma model językowy, obrazu [...], pipeline uczący, jest generatywny, ma swoje jednostki, wygląda jak kuchenny zlewozmywak [z jakiegoś powodu przedmiot ten jest w USA metaforą uniwersalności i ilości zintegrowanych opcji — przy.red.]” — tłumaczy CEO Tenstorrenta.

    Opisując zainteresowanie klientów rdzeniami IP Tenstorrent jako: „miłą niespodziankę”, Keller powiedział, że firma wciąż znajduje się w trybie eksploracji biznesowej. „Szczerze mówiąc, jesteśmy na początku naszej działalności… wciąż jesteśmy mali i pracujemy nad wieloma kwestiami technologicznymi” — mówi. „Jako technolog bardzo zależy mi na kontaktach z inteligentnymi ludźmi, więc jeśli ktoś mądry mówi: chcę mieć dostęp do twojego sprzętu z otwartym kodem źródłowym, abym mógł zaprogramować go tak, jak chcę, dlaczego miałbym odmówić?” — wskazuje, odnosząc się m.in. do LG. Według Kellera, rynek Edge AI jest taki, że alternatywne oferty IP były jak dotąd zbyt skoncentrowane i trudne do zaprogramowania. „W ciągu ostatnich dwóch lat było pięć zmian kierunku rozwoju...” — oznajmił. „Czy to obraz, czy język, wnioskowanie, czy trening? Czy to duży model, czy mały? Czy to jest generatywne, czy nie? Każdy, kto celował w bloki IP, miał problem, bo następny model nie działał”.

    Jednakże bloki IP, to nie jedyny produkt firmy. Tenstorrent planuje produkcję niedrogich kart-akceleratorów AI do pracy na krawędzi. Jak informuje Keller, zamysł zakłada zbudowanie kart kosztujących 1000-2000 dolarów za sztukę, które można umieścić np. w serwerze. Z drugiej strony, firma myśli też o dużo tańszych układach. „Teraz zostaliśmy poproszeni o spełnienie kilku interesujących poziomów cenowych” — mówi Keller, wymieniając najpierw karty do serwerów za 500 dolarów, co wg CEO nie jest dużym problemem. Przedstawia on jednak ciekawszy mankament: „Rozmawiałem z ludźmi budującymi zasilacze [do komputerów PC — przyp.red.], byliby zachwyceni chipem kosztującym 30 dolarów, który mogliby umieścić w zasilaczach serwerów”. Okazuje się, że system kontroli takiego zasilacza jest bardzo skomplikowany. Gdy system sterowania dochodzi do pewnego poziomu, model AI jest bardziej opłacalnym rozwiązaniem niż klasyczne algorytmy. Jednakże przeszkoda, o której mówi Keller w wywiadzie, to brak odpowiedniego układu, który mógłby być w tak niskiej cenie. „Sztuczna inteligencja zawita wszędzie z zupełnie innych powodów. I wtedy pojawia się pytanie, co z tym zrobić?” — generalizuje. Tego rodzaju problemy to właśnie powód, dla którego firma Tenstorrent rozwija swoje programowalne chipy do implementacji AI na krawędzi chmury.

    W wywiadzie Keller sporo opowiada o oprogramowaniu, które tworzy spółka. Z uwagi na sposób jego dystrybucji, wiele przedsiębiorstw, które z niego korzystają, może się w nim bardzo dobrze zorientować, a to doprowadza do tego, że znają je lepiej niż sam producent, jak żartobliwie przyznaje. Dodatkowo przytacza szereg przykładów, które pokazują, że otwieranie standardów pozwala na przyspieszenie postępu, gdyż angażuje więcej podmiotów w rozwój danej technologii. Jako przykład podaje ekosystem x86, który ewoluował właśnie dzięki temu, że mogło na rynku pojawić się więcej graczy. Mówiąc jednak o tej platformie, wspomina, że RISC-V ma niebawem ją zastąpić, przynajmniej w sektorze centrów danych czy superkomputerów. Jedną z przyczyn takiego stanu rzeczy jest właśnie szybki postęp, wynikający z open-source.

    „I są ku temu dwa powody. Jednym z nich jest to, że [...] wiele z tego było oparte na otwartym Linuxie, ale sporo też korzystano z zastrzeżonego oprogramowania do zarządzania systemem. Kiedy AMD pokazało całkiem niezły produkt, nie zadziałał on, ponieważ AMD nie miało dostępu do całego zastrzeżonego kodu zarządzania systemem Intela. Ludzie faktycznie musieli to napisać, a wiele z tego zostało przepisane w otwartym kodzie źródłowym w C. Więc kiedy przeportowano system na ARM, można by pomyśleć, cóż, migracja z Intela dla AMD była łatwa. Przejście do ARM będzie trudniejsze... Nie! Jest łatwiej. Programy pisane w C, kompilatory etc. działają. Kłopot nie polegał na tym, czy był to x86, czy ARM, a na tym, że oprogramowanie było prawnie zastrzeżone” — wyjaśnia Keller.

    W dalszej części wywiadu Keller opowiada o problemach z rozwojem i strategią Tenstorrent i o swoim spojrzeniu na konkurencję, w tym własne chipy produkowane przez hiperskalerów. Mówi też o tematach niezwiązanych stricte z technologią — o roli chaosu w tworzeniu innowacji, startupach etc. Pochyla się również nad wątkiem, który dla wielu może być równie fascynujący, co zagadkowy — czy sztuczna inteligencja może sama wprowadzać innowacje? W dobie generatywnych algorytmów AI to istotne pytanie.

    Keller opowiada też o nadchodzących w USA regulacjach dotyczących AI. Zauważa on pewne mniej oczywiste niedociągnięcia nowego prawa, między innymi, to, że nie do końca sensowne jest specyfikowanie, kogo ma dotyczyć. „Czy mógłbyś więc regulować dużych graczy, którzy mają 10 000 procesorów graficznych? Tak, możesz policzyć, ile firm je ma i objąć stosownymi normami. Jednak, co się stanie, gdy będzie 100 milionów komputerów, na których można uruchamiać programy AI? Czy zamierzamy umieścić oprogramowanie szpiegujące w każdym telefonie? Co to za świat? Rozwiązanie stwarza problem o wiele gorszy niż stanowi ten początkowy” — wskazuje Keller. Wyraża on swoje obawy, że wszelkie próby uregulowania AI przerodzą się w potężne mechanizmy biurokracji: „będą robiły to, co ona czyni — służyć biurokracji”. Oczywiście, czy tak będzie, zobaczymy w przyszłości.

    Źródła:
    https://www.eetimes.com/jim-keller-on-ai-risc-v-tenstorrents-move-to-edge-ip/
    https://www.youtube.com/watch?v=_MrGNlXRi9M

    Fajne? Ranking DIY
    O autorze
    ghost666
    Tłumacz Redaktor
    Offline 
    Fizyk z wykształcenia. Po zrobieniu doktoratu i dwóch latach pracy na uczelni, przeszedł do sektora prywatnego, gdzie zajmuje się projektowaniem urządzeń elektronicznych i programowaniem. Od 2003 roku na forum Elektroda.pl, od 2008 roku członek zespołu redakcyjnego.
    https://twitter.com/Moonstreet_Labs
    ghost666 napisał 11960 postów o ocenie 10197, pomógł 157 razy. Mieszka w mieście Warszawa. Jest z nami od 2003 roku.
REKLAMA