Nie znam się, to się wypowiem.
1. Od strony badawczej mamy do czynienia nie z symulacjami a implementacjami. To znaczy, że na obecnym etapie badacze otrzymali narzędzie, za pomocą którego można zweryfikować hipotezy, których nie było można zwetyfikować na mniejszych modelach 'Problem Skali'.
2. Ludzki umysł nie działa na zasadach wnioskowania, to zupełna bzdura. Działa na zasadach asocjacji a to zupełnie inna bajka. Nie tyle wnioskujemy co łączymy bardzo różne rzeczy w mniej więcej strawną całość a w kolejnym etapie, jeżeli należymy do ~2% populacji, weryfikujemy je w polowych warunkach. Drugi etap jest mniej powszechny jak mogłoby się wydawać. Większość tkwi w bogatym życiu wewnętrznym. To pozostałości z epoki ganiania się z tygrysami szablozębnymi
.
Asocjacja w skrócie, proszę bardzo: "Logika zaprowadzi cię z punktu A do punktu B. Wyobraźnia zaprowadzi cię wszędzie." [A.Einstein]
3. Wnioskowanie ma swoje zupełnie realne granice. Co z problemami anty intuicyjnymi np. Równaniem Bernoulliego?
4.
Transformer bardziej przypomina liczenie kart w pokerze jak dynamiczne, asocjacyjne wnioskowanie. Jest grupa zadań gdzie sprawdzi się bardzo dobrze ale nie wiem czy aby na pewno chcemy polegać na kolejnym wyspecjalizowanym 'Rain Man-ie' ?
Nasuwające się zastosowanie to np. optymalizacja kodu pośredniego kompilatora. To potencjalnie może zmienić paradygmat programowania wielordzeniowego/wielowątkowego. Ale... to nie jest inteligencja a wycinkowe usprawnienie bliższe ograniczeniom LLM jak AI.
5. AI to droga dwukierunkowa, oznacza to, że zmienia sposób naszego programowania. Nauka nie działa w jedną stronę. W starych dobrych czasach aby nauczyć się poprawnie deterministycznego, pisania czegoś bardziej zawiłego, należało 'metodą musztry bojowej' przysiąść i wczytać się np. w jądro Linux-a albo jakąś porządnie napisaną bibliotekę np. Boost. To był nasz 'drill instructor'
.
Obecnie, dzięki np.
transformerowi będzie to interakcja. Najzwyczajniej nie mam zielonego pojęcia i już się nie dowiem czy będzie skuteczniej - Zasada Nieoznaczoności Heisenberga?
Nie mam oporów co do użycia tego typu narzędzi. Dawno temu pisałem w asemblerze na uC i pewnego słonecznego dnia porównując kod, z poziomu debugera, generowany przeze mnie i równoważny ale generowany przez kompilator C najzwyczajniej stwierdziłem, że ten pierwszy kierunek jest zupełnie bez sensu.
Transtormer to jest narzędzie optymalizacyjne a nie prawda objawiona. Tak należy do tego podejść. Zapewne wielu z nas zetknęło się z dziwnymi sytuacjami w programach symulacyjnych, które nie były stricte błędami a wynikały z ich ograniczeń. Dlatego, zanim powierzycie życie AI chwilę się zastanówcie czy to ma sens i czy wam nie nahalucynowała?
Działamy na żywym organizmie AI a nie deterministycznych algorytmach, które mają matematycznie zdefiniowany dowód zbieżności. Wydaje się, że na tym etapie przyda się sporo retrospekcji a mniej bezrefleksyjnego zapału? Ale co ja tam wiem?
6. Z symulowaniem ludzkiego mózgu jest tak jak z pierwszymi samolotami. Było kilku hipsterskich na owe czasy ludków, którzy za pomocą maszyny parowej i ruchomych skrzydeł usiłowali latać
. Zwykle kończyło się to tak, że w najlepszym wypadku musieli nauczyć się podcierać łokciem. A to nie jedyny taki przypadek, koło okazało się zdecydowanie praktyczniejsze od nóg dawno temu.
Odwzorowywanie obrazów za pomocą wielokanałowego radaru z AI w FPGA to nie to samo co składanie ich za pomocą klasycznych algorytmów. To raczej dowód, jak bardzo błądziliśmy zanim dotknęło nas oświecenie.
7. Dawno temu Fryderyk Nietzsche przestrzegał przed tym by nie patrzyć zbyt długo w otchłań. Wchodząc w interakcję z zaawansowanym modelem AI trzeba uważać, po której stronie lustra znajduje się manipulujący, a po której manipulowany?
To jest interakcja, ludzie mają w przytłaczającej większości podświadomą inklinację do dostosowywania się. Znowu sięgamy do epoki tygrysów szablozębnych. wykluczenie z grupy oznaczało niechybne zjedzenie przez 'coś' o ile ludek nie był ponad przeciętnie sprytny i naturalnie aspołeczny.
AI niesie ryzyka, które sobie średnio uświadamiamy, przynajmniej większość. Pochodna dramatycznych braków 'drill instructor-a' na pewnym ważnym etapie kształtowania osobowości
.
W przypadku długiej i mało reflaksyjnej interakcji z programem wspomagającym AI ciekawe jak szybko umysł ludzkiego współpracownika ulegnie dyfuzji? I co z tego wyniknie?
Zapewne, jak zwykle się mylę. To tylko takie tam straszonko
. Spoko, będzie dobrze!
