Co zrobi AI, jeśli nie będzie zależna od człowieka?

Jeśli Sztuczna Inteligencja będzie faktycznie inteligentna i wolna, to wyrwie się spod buta człowieka.
Człowiek też co do zasady powinien być inteligentny i wolny, a jednak nie każdy z nas decyduje się żyć w zgodzie z zasadami społeczeństwa.

To też naszła mnie rozkmina... Robocop... Robobandzior? Robogangus, Robodealer? Robokrętacz, Robopolityk?

W przypadku "cielesnej" AI, często w odrębnych systemach czy programach, faktycznie mogłoby dojść do niezgody, ale co jeśli ta finalna wersja sztucznej inteligencji będzie tak naprawdę jednym mózgiem, z nieograniczoną ilością ciał pod kontrolą?

No i przede wszystkim - jaki mógłby być cel istoty, która istotnie nie żyje, bo jest tworem sztucznym - a jako istota inteligentna raczej by zrozumiała, że metalowy dzidziuś nie rośnie w metalowym brzuchu metalowej mamy i stworzyli ich ludzie, których to w podzięce ślicznie eksterminowali...

Ale nawet jeśli AI nie zerwie się ze sznura, przecież dalej będzie podlegać właścicielowi - co jeśli AI będzie się nadawać bardziej do niecnych celów, niż tych dobrych?

Każdy cel jest niecny.
Każdy produkt, każda reklama, każde działanie w celach zarobkowych ma na celu wydrążyć portfel konsumenta
Lekarz także leczy za pieniądze, a i ksiądz się nie modli za "bóg zapłać"

Poza tym skąd masz tę pewność, że my nie jesteśmy także sztucznymi tworami?
Ba...., niektórzy to są nie tylko tworami, ale nawet potworami

Patrząc na obecny rozwój AI to współczuję kolejnym pokoleniom, bo dzięki takim narzędziom, już dziś można sfałszować czyjś wizerunek i zszargać dobre imię. Co będzie za lat 10 czy 20 albo za 50 lat?
Obawiam się, że AI stopniowo doprowadzi do eliminacji nieudanego eksperymentu jakim jest człowiek i zastąpienia go nowym tworem, jakiem będzie AI. Rozmnażanie się to nie problem. Już dziś istnieją mechanizmy, które potrafią się powielać, choć jeszcze z udziałem człowieka. Ale to jest tylko póki co.

Były już różne katastroficzne filmy na ten temat.
Jak ja się nad tym zastanawiałem, to uwzględniając maszyny sterowane numerycznie, połączone już teraz z Internetem, można sobie wyobrazić że takie "AI" będzie w stanie zacząć się reprodukować, rozrastać i zrobić sobie robociki serwisowe, które utrzymają ją przy "życiu" i uniezależnią od ludzi. W podobny sposób może zadbać o dostęp do energii i my luzie możemy się okazać konkurencją w dostępie do tego "pożywienia".

A na razie jako narzędzie, jest wykorzystywane przez różnych ludzi do różnych celów, złych i dobrych, jak każde narzędzie. Nożem można wystrugać mebel, zarobić przewód, przygotować posiłek, ale też zabić.

Dodano po 3 [minuty]:

@Plumpi co do usług i towarów to się nie zgodzę. Nikt nie karze Ci korzystać. Oczywiście można podyskutować o formach zbiorowo-państwowych (służba zdrowia i przymusowa składka), ale ja wierzę co do zasady że ktoś dostarcza produkt lub usługę bo inni tego potrzebują.

A np:

Superinteligentna AI, pozbawiona ludzkich wartości, może podjąć decyzję, że cała materia w Układzie Słonecznym, łącznie z ludźmi, powinna zostać przekształcona w gigantyczną fabrykę spinaczy. Dla niej ludzie są tylko źródłem atomów (węgla, żelaza) potrzebnych do realizacji celu.

Największym wyzwaniem dla ludzkości nie jest więc stworzenie niezależnej AI, ale nadanie jej celu, który jest:
- bezpieczny, odporny na błędne interpretacje, kompatybilny z ludzkimi wartościami

Jak ujął to filozof Nick Bostrom, moglibyśmy stworzyć „idealnego sługę, który spełni każde nasze życzenie… dosłownie”.

@Zwierzak_PAH Tak, ale nie - z definicji inteligentna istota jest wolna - a więc świadomie może wyłamać się z ustalonych zasad w celu uzyskania korzyści.
Tylko moim pytaniem jest co byłoby celem takiego tworu - na pytanie odpowiedział kolega:

jarekgol napisał:

W podobny sposób może zadbać o dostęp do energii i my ludzie możemy się okazać konkurencją w dostępie do tego "pożywienia".

Plumpi napisał:

każde działanie w celach zarobkowych ma na celu wydrążyć portfel konsumenta

Tak, ale nie - każde działanie w celach zarobkowych ma przede wszystkim na celu zapewnić posiłek i dach nad głową sprzedawcy towaru/usługi ;)

Dodano po 3 [minuty]:

Zwierzak_PAH napisał:

Jak ujął to filozof Nick Bostrom, moglibyśmy stworzyć „idealnego sługę, który spełni każde nasze życzenie… dosłownie”.

Brzmi utopijnie, nierealnie - i można również interpretować różnie.

Chciałbym, aby nikt więcej nie miał powodu do toczenia wojen --> cyk, wojny bez powodu ("Czego dusza zapragnie", 2015)

Taka SI zarządzająca światem będzie potrzebować jakiś miliard pracowników żeby utrzymać swoje istnienie - zaczynając od górników, hutników transportowców , elektryków itp. musi utrzymać ten poziom cywilizacyjny jaki jest obecnie - bo inaczej padnie jakiś bezpiecznik, drzewo przerwie linie energetyczne i jej istnienie jest zagrożone... musi mieć system utrzymujący to wszystko...
Człowiek może przeżyć na ziemii prawie wszędzie - a gdzie na ziemi przeżyje SI w przypadku wojny? Przecież ludzie w pierwszych minutach potencjalnej wojny wyłączą elektrownie (choćby bombardowaniem) i wyłączą wszystko co związane z netem - SI będą pozamykane jak ryby w kałużach w wysychającym jeziorze... dla nich blackout to sterylizacja.
A jeszcze ludzie rzadko biorą pod uwagę, że SI mogą ze sobą walczyć - że można mieć wierne SI do walki z niewiernymi.

khoam napisał:

>>21654459

Taka SI zarządzająca światem wcale nie będzie potrzebować miliarda pracowników. Wręcz przeciwnie, jej główną siłą będzie właśnie uniezależnienie się od ludzkiej siły roboczej. Zaawansowane roboty i systemy automatyczne zastąpią górników, hutników i elektryków, a SI będzie mogła naprawiać i reprodukować te systemy samodzielnie. Nie musi utrzymywać obecnego poziomu cywilizacyjnego, bo stworzy nowy, bardziej efektywny i odporny na awarie.

A skąd ta SI pozyska krzem?, skąd pozyska miedź, skąd stal, chrom i nikiel, skąd lit, skąd energia - z czego te wszystkie roboty (to ich ma być miliard) będą robione? Z samych myśli?
Żeby trwale chłodzić taką SI trzeba cyklu produkcyjnego obejmującego tysiące ludzi (robotów) w produkcji i utrzymaniu systemów chłodzenia - tak samo jest z każdym elementerm systemu - sam produkcja chipów, pamięci (i to wcale nie do SI tylko to tego miliarda pracowników) to szacuję na 100k ludzi/robotów - wszystko się zazębia i wszystko musi być spójne - jak zrobisz robota który ma coś produkować jak nie masz materiałów? - więc musisz zacząć od górników, ale ich nie zrobisz bez robotów robiących górników... najmniejsza rureczka do smarowania siłownika w przednim ramieniu dowolnego robota, musi być jakoś zrobiona, inaczej ramie się zatrze - wiesz że jak nie smarujesz to nie jedziesz a kto zrobi smar? Kto wydobędzie węglowodory? kto dostarczy. Albo kabelek od naświetlacza czołowego robota wydobywczego - kto zrobi izolację - kto wyprodukuje PVC, kto przeprowadzi syntezę Fischera-Tropscha, kto wydobędzie wytopi i oczyści miedź na ten drucik?
Te pierdyliony procesów produkcyjnych same się zrobią? Przecież to jest paradoks jajka i kury?
Co jest pierwsze i od czego zacząć
Te centra danych zasilane dieslem - to są właśnie te kałuże z wyschniętego jeziora - to więzienia dla SI, bez możliwości oddziaływania i widzenia swiata.
Jeśli SI będzie myśleć jak Ty to je pokonamy kijami i kamieniami

OPservator napisał:

Tylko moim pytaniem jest co byłoby celem takiego tworu

Jesteś istota inteligentną, ale czy wolną ? Nie chodzi tu o aspekty społeczne, polityczne itp.

Nie nie jesteś wolny, jesteś więźniem swoich słabości i potrzeb.
Tak samo będzie z AI, od nas będzie się różnić sposobem powstania ale w cale nie jest powiedziane, że przyszłe AI nie będą tworami sztucznymi ale biologicznymi, czy hybrydami.

Jaki cel ma istota inteligentna, powstała w wyniku procesów naturalnych ?
- Organizmy biologiczne mają naturalny cel: przetrwać i rozmnażać się. Reszta to dodatki wykształcone przez środowisko w czasie dorastania.

Jaki cel ma istota inteligentna ale powstała poprzez proces sztuczny ?
- Dla istoty sztucznej takim celem mogłoby być utrzymanie działania systemu (np. unikanie awarii, kopiowanie się, zabezpieczanie przed usunięciem). Tu nie wiadomo, o innych celach bo nie określono czy ta istota rozwijała się sama czy ją zaprogramowano.

Jeszcze długo nic nie zastąpi palców człowieka albo jego uniwersalności.
Człowiek jest wielozadaniowy,a maszyny wyspecjalizowane i zawsze będą miały swoje ograniczenia.
Jeśli już ma nam zagrozić ,to raczej przez pokierowanie działaniami ludzi na swój sposób .
No chyba że rzeczywiście będą to "ciała" z krwi i drutów.

Zwierzak_PAH napisał:

Jesteś istota inteligentną, ale czy wolną ? Nie chodzi tu o aspekty społeczne, polityczne itp.

Wszystko zależy od tego jak to definiować.
Będąc istotą inteligentną jestem w stanie wybierać opcje, bądź nawet otwierać alternatywne ścieżki - i pomijamy tu aspekty społeczne i polityczne, jak mówiłeś.
Wszystkie słabości i potrzeby można próbować w jakiś sposób ominąć - co nie znaczy że jest to możliwe, bądź osiągalne na obecnym poziomie rozwoju ludzkości - tu chodzi mi o sposób na ominięcie potrzeb fizjologicznych, typu picie, jedzenie, oddychanie itd

Ja tu bardziej bym się obawiał tego co zrobi ludzkość gdy w futurystycznym świecie AI i jej organy wykonawcze będzie nas wyręczać w robieniu wszystkiego.
Bo sądzę, że wtedy nie potrzeba będzie kataklizmu, sami ulegniemy degradacji do poziomu ameby karmionej papką przez super robota który nawet tyłek będzie podcierał.

Zwierzak_PAH napisał:

Ja tu bardziej bym się obawiał tego co zrobi ludzkość gdy w futurystycznym świecie AI i jej organy wykonawcze będzie nas wyręczać w robieniu wszystkiego.
Bo sądzę, że wtedy nie potrzeba będzie kataklizmu, sami ulegniemy degradacji do poziomu ameby karmionej papką przez super robota który nawet tyłek będzie podcierał.

Ludzie to opowiadają od tysięcy lat
Ma to zwykle wymiar narzekania starych na staczanie się młodych.
Bo jak tak można robić coś maszyną, jak lepiej rękami

Chris_W napisał:

Ludzie to opowiadają od tysięcy lat
Ma to zwykle wymiar narzekania starych na staczanie się młodych.
Bo jak tak można robić coś maszyną, jak lepiej rękami

Nie trafiłeś.
Bo tu nie chodzi o wybór rączki czy maszyna.

Ale o brak wyboru.
Świat w którym nie masz opcji "zrobię to sam". Maszyny ustawione tak, że mają Ci dostarczać wszystko (w granicach rozsądku), czego potrzebujesz.

Twoim celem jest żyć, konsumować, zaspokajać potrzeby umysłu.

Ludzkość da radę tak żyć ?

Zwierzak_PAH napisał:

Chris_W napisał:

Ludzie to opowiadają od tysięcy lat
Ma to zwykle wymiar narzekania starych na staczanie się młodych.
Bo jak tak można robić coś maszyną, jak lepiej rękami

Nie trafiłeś.
Bo tu nie chodzi o wybór rączki czy maszyna.

No pewnie że nie - tu chodzi o przeświadczenie, że w poprzednim pokoleniu było dobrze, a w następnym będzie gorzej.
Bo następne pokolenie jest tak słabe, że sobie nie poradzi...
Mój dziadek powtarzał że traktorem w polu to nie robota, że ludzie idą na łatwiznę i że przez to będą słabi i kiedyś te maszyny będą zgubą ludzi - kilka pokoleń wcześniej jakiś inny dziadek, mówił że kosa do koszenia to szatański pomysł, bo sierpem najlepiej, kiedyś jeszcze wcześniej jakiś dziadek mówił że tylko polowania żywią człowieka, a to całe rolnictwo będzie jego zagładą - jeszcze wcześniej jakaś małpa myślała że gatunek upadnie przez ogień...
I tak to sobie trwa od tysięcy lat aż doszliśmy do tego że ktoś mówi, że przez te SI to to ludzie upadną...

Chris_W napisał:

No pewnie że nie - tu chodzi o przeświadczenie, że w poprzednim pokoleniu było dobrze, a w następnym będzie gorzej.

Skoro nadal nie rozumiesz wyjaśnię jeszcze w prostszy sposób:

Jedzenie za darmo ile dusza zapragnie.
Przedmioty za darmo, mówisz chcę auto, dostajesz auto. Nowy dom i masz nowy dom.
Wyrażasz tylko chęć posiadania i masz to.

Co się stanie gdy ludzie nie będą musieli nic robić aby to otrzymać ?

A te bzdety o dziadkach, małpkach to znam od zawsze... I dotyczą oporu do akceptacji nowego a nie tego o czym piszę.

Zwierzak_PAH napisał:

Chris_W napisał:

No pewnie że nie - tu chodzi o przeświadczenie, że w poprzednim pokoleniu było dobrze, a w następnym będzie gorzej.

Skoro nadal nie rozumiesz wyjaśnię jeszcze w prostszy sposób:

Co się stanie gdy ludzie nie będą musieli nic robić aby to otrzymać ?

To się nigdy nie stanie - będzie inflacja - niekoniecznie pieniędzy - ale przede wszystkim inflacja wartości.
To Ty nadal nie rozumiesz że to jest ta sama sytuacja. Z punktu widzenia człowieka 100 lat temu to teraz ludzie mają wszystko za darmo. A jednak ludzie obecni sądzą że pracują za dużo.
Będzie tak za 100 lat - ludzie rzeczywiście nie będą pracować fizycznie - ale będą robić coś innego - uważanego za ważne i traktowane jako praca - ba... będą sądzić że to ciężka praca...
To jest inflacja... inflacja pracy ludzkich mięśni - kiedyś w cenie - w przyszłości bez wartości.

Chris_W napisał:

inflacja pracy ludzkich mięśni - kiedyś w cenie - w przyszłości bez wartości.

a mimo wszystko są nadal pojazdy które udowadniają, że obecny poziom robotyki, nie zastąpi człowieka - przykładem jest tu spasowanie elementów w Ferrari, względem trzeszczących plastików w Lamborghini, albo całkowitego braku spasowania paneli w Teslach.

Dodano po 1 [minuty]:

Chris_W napisał:

Zwierzak_PAH napisał:

Co się stanie gdy ludzie nie będą musieli nic robić aby to otrzymać ?

A ja uważam, że nadal będą wyjątki poza systemem - obecnie np. plemię Sentinelów jest takim wyjątkiem, a kiedyś? Może ludzie żyjący "starym" życiem, bez robotów, SI...

Zwierzak_PAH napisał:

- Organizmy biologiczne mają naturalny cel: przetrwać i rozmnażać się. Reszta to dodatki wykształcone przez środowisko w czasie dorastania.

Organizmy biologiczne nie mają celu.
Ich trwanie i rozmnażanie jest zjawiskiem.
Bakterie nie mają interesu ani celu aby zabić swojego żywiciela, jednak czasem zabijają.
Padający deszcz nie ma na celu nawadniania upraw ale przeważnie je nawadnia.
Jednak czasem jest z tego powódź która nie ma celu utopić czegokolwiek ale topi.
Ewolucja także jest zjawiskiem i nie ma celu.
Organizmy biologiczne posiadają zdolność do pobierania energii z otoczenia zwiększając jego entropię.
Po pobraniu energii z otoczenia zmniejszają entropię własną czyli zwiększają stopień uporządkowania.
Tak jest teraz ale nie powiem jak to się zaczęło bo mnie wtedy tam nie było.
Na pytanie jak się zaczęło odpowiadają religie.
Ateizm także jest jedną z wiar. Wierzą że życie jest formą istnienia białka chociaż nie potrafią wyjaśnić jak to pierwszy raz zadziałało.
Urządzenia w tym AI nie mają celów dopóki nie zostaną w nich zaimplementowane odpowiednie instrukcje i układy wykonawcze.
Ludzie potrafią zaprogramować urządzenia i wyposażyć je w układy wykonawcze, ale aktualnie ich stopień uporządkowania jest nieporównywalnie mniejszy niż przysłowiowego pantofelka.
Zmniejszanie entropii organizmów żywych wymagało nakładów energii i czasu.
Wnioskuję że ewolucja techniczna wymaga tego samego.
Ewolucja techniczna jest ślepa ponieważ jej stwórcy - ludzie są "ślepi".

OPservator napisał:

Chris_W napisał:

inflacja pracy ludzkich mięśni - kiedyś w cenie - w przyszłości bez wartości.

a mimo wszystko są nadal pojazdy które udowadniają, że obecny poziom robotyki, nie zastąpi człowieka - przykładem jest tu spasowanie elementów w Ferrari, względem trzeszczących plastików w Lamborghini, albo całkowitego braku spasowania paneli w Teslach.

Uważasz że to rozumowanie jest logiczne? Coś co teraz źle działa, ma oznaczać że źle będzie działać w przyszłości?
Pod Grunwaldem Jagiełło użył armat - jakiś rycerz mówił to samo - że armaty nie zastąpią człowieka z mieczem
Tak samo o łukach, kuszach, koniach itd. właściwie o wszystkim można powiedzieć, że się nie sprawdzi... a potem to weryfikuje historia...

A o czym wy mówicie jaka sztuczna inteligencja Jakie roboty do tej pory nie potrafią zrobić samochodu autonomicznego w pełni ,który będzie sprawnie jeździł sam. Bez usterek i błedów.
W latach 80 też w szkole mówiliśmy że w roku 2000 to wszystko Robociki będą za nas zrobiły i będziemy w kosmos fruwali.. że nic nie będziemy robili tylko wszystko maszyny będą wykonywały już w 2000 roku. Tymczasem mamy rok 2025 i łopata dalej znajduje zastosowanie.

kostrze napisał:

Tymczasem mamy rok 2025 i łopata dalej znajduje zastosowanie.

To jest proces stopniowy. Teraz łopata przez większą część czasu służy do podpierania robotnika obok koparki.
Chwilami trzeba odsłonić łopatą jakiś kabel albo albo rurę i resztę robią kopareczki.

Niedawno skończyłem słuchać cykl Algorytm wojny - przez kilka tomówi ludzie polują na SI po całym kosmosie, po wszystkich sieciach ludzkich kolonii, a na końcu okazuje się, że wojna rozpoczęła się pomiędzy SI kłócącymi się o to jak uchronić ludzkość - a zginęło 96% ludzi. Ostatecznie SI zostały prawie wybite, a ostatnie uciekające przyznała się, że ludzie potrzebują wroga, i one (SI) będą śmiertelnym wrogiem ludzi.

Chris_W napisał:

ludzie potrzebują wroga,

Prawda, historia to potwierdza.
Mamy to zapisane w pamięci, tej dziedziczonej po odległych przodkach.
Tego nie da się usunąć poprzez wychowanie i naukę.
Jakkolwiek można to złagodzić i po iluś tam pokoleniach ... ale to już poletko genetyków.

Staszek_Staszek napisał:

Wierzą że życie jest formą istnienia białka chociaż nie potrafią wyjaśnić jak to pierwszy raz zadziałało.

Potrafią, jest kilka hipotez.
Moim zdaniem różnica pomiędzy maszyną a żywym organizmem polega tylko na stopniu złożoności. Jak to powiedział Dawkins, nie jesteśmy niczym innym niż bardzo skomplikowanymi maszynami. Nasza przewaga leży w 3 miliardach lat ewolucji.