Karpathy wskazuje, że do rozpoczęcia przygody z własnym LLM starcza budżet 100$ - przeznaczamy go na wynajem klastra 8XH100 przy cenie 24$ za godzinę. Trening modelu AI trwa około 4 godziny. Szczegóły uruchomienia można znaleźć w dyskusji Introducing nanochat: The best ChatGPT that $100 can buy.
Uzyskany w ten sposób model osiąga lepsze rezultaty niż GPT-2 opublikowany w 2019 roku, choć wciąż daleko mu do współczesnych modeli - nawet tych dostępnych do uruchomienia lokalnie. Mimo to stanowi on interesującą platformę do nauki i eksperymentów.
Źródło: https://github.com/karpathy/nanochat
Historia zmian na repozytorium (całość jest aktywnie rozwijana w ostatnich dniach): https://github.com/karpathy/nanochat/commits/master/
Fajne? Ranking DIY Pomogłem? Kup mi kawę.
