Utopia (niby nie istnieje, ale może by tak coś podobnego...)

rozmowy nie zawsze niepoważne.

Moderator: RedAktorzy

ODPOWIEDZ
Awatar użytkownika
Albiorix
Klapaucjusz
Posty: 2055
Rejestracja: pn, 15 wrz 2008 14:44

Post autor: Albiorix » pn, 07 cze 2010 01:33

Nie potrzeba mega inteligentnych sztucznych inteligencji które mówią i myślą żeby pomagać w rządzeniu. Wystarczą proste systemy eksperckie i sieci neuronowe, takie jakie mamy dzisiaj. Powinny być dość jasne żeby ludzie rozumieli z grubsza ich działanie.

Dlaczego nie muszą być podłączone do internetu? Ano dlatego że raczej powinny dostawać dane przygotowane przez ludzi, np urząd statystyczny czy urzędników sejmu.

Sytuacje wymagające decyzji mogą być rozwiązywane na 3 ogólne sposoby:
1. przez ludzi na miejscu
2. jeśli się nie da przez ludzi na miejscu to przez prawo
3. jeśli się nie da przez prawo to przed decyzję urzędników

Np:
1. Mieszkańcy osiedla chcieliby mieć wodociąg bo dużo wydają na szambo. Najfajniej by było gdyby byli oni bogaci, pracowici i kooperatywni, zrzucili się, założyli spółdzielnię kanalizacyjną, położyli sobie rury, ustalili składki i cieszyli oszczędnościami na szambie.

2. Ciężko jest niestety o duże skupiska ludzi tak wspaniale samorządnych. Dlatego w naszym hipotetycznym państwie mogłoby istnieć prawo mówiące że burmistrzowie mają obowiązek położyć rury w takich a takich okolicznościach.

3. Ciężko niestety o precyzyjne i sensowne prawo określające wszystko w każdym szczególe. Co więcej, takie prawo muszą tworzyć ludzie więc im jest precyzyjniejsze tym więcej zawiera błędów i pułapek.
To czego dokładnie nie określa prawo, zależy od decyzji urzędników (w ogólnym sensie, od burmistrzów po policjantów i sędziów). W tym przypadku burmistrz albo inny ludek decyduje na co wydać pieniądze podatników: nowe boisko czy może kanalizację dla naszego osiedla.

SI nie zastępują urzędników tylko rozbudowują prawo. O ile prawo może zawierać jedynie bardzo proste algorytmy podejmowania decyzji (np może podawać algorytm określania kary zależnie od rodzaju wykroczenia), o tyle SI może robić to w sposób bardziej złożony i samouczący. Przypadki nietypowe, nie dające się ująć w zrozumiałe dla SI liczby, jak zwykle spadają ostatecznie na ludzi.

W firmach odpowiednikiem prawa są "procedury". Np w firmie zajmującej się wysyłkami, w sortowni, jest procedura "co zrobić z przychodzącą paczką". Ta procedura może mówić pracownikowi grze paczkę wrzucić, jak ją oznaczyć, komu przekazać żeby ostatecznie trafiła do odbiorcy.
Jeśli jest system informatyczny który optymalniej mówi do jakiej ciężarówki wrzucić paczkę żeby kierowcy jak najmniej się najeździli - zbliżamy się do ideału władzy SI na skalę firmy.


Prawo i automatyka są o tyle dobre że są odporne na korupcję, powtarzalne i przewidywalne. Kiedy zasady są przewidywalne, zwiększa się bezpieczeństwo obywateli czyli jest dobrze.
Prawo i automatyka nie są odporne na błędy, ale dzięki powtarzalności, można owe błędy zaobserwować i poprawić.

Czyli - władza SI to nic nowego i nie wymaga wybitnych technologii. To po prostu wyższy poziom techniczny idei "państwa prawa". Są to drobne pomocne narzędzia na których częściej wychodzi się dobrze niż źle (w przeciwieństwie do wizji z filmów SF w których standardowo każda SI jaka dorwie się do władzy zaczyna mordować ludzi).
nie rozumiem was, jestem nieradioaktywny i nie może mnie zniszczyć ochrona wybrzeża.

Awatar użytkownika
in_ka
Dwelf
Posty: 522
Rejestracja: ndz, 25 mar 2007 22:26

Post autor: in_ka » pn, 07 cze 2010 01:42

Zgodziwszy się w pełni z Albiorixem dodam jeszcze tylko ciekawy szczególik dotyczący uczenia się / samouczenia sieci neuronowych, że lepsze i szybsze są efekty tego procesu, gdy część danych jest niepoprawna! Tak więc obawy, że należałoby sieci neuronowej dostarczać wyłącznie doskonałych danych są niezasadne :).

Lasekziom
Kadet Pirx
Posty: 1386
Rejestracja: ndz, 21 wrz 2008 12:49

Post autor: Lasekziom » pn, 07 cze 2010 01:53

Albiorix pisze: Przypadki nietypowe, nie dające się ująć w zrozumiałe dla SI liczby, jak zwykle spadają ostatecznie na ludzi.
i w tym właśnie miejscu się nie zgodzę, bo nawet te netupowe mogłyby być załatwiane przez SI.

Prawo i automatyka nie są odporne na błędy, ale dzięki powtarzalności, można owe błędy zaobserwować i poprawić.
I tu właśnie pogrzebany jest pies.
Gdyby tak było już moi wykładowcy dorwaliby się do władzy.
Wraz z rozwojem świata należałoby rozwijać system. ktoś musiałby uaktualniać oprogramowanie (jeżeli nie powstałaby jeszcze sztuczna świadomość), lub 2 kontrolowac te błędy.
Wszelkie mechanizmy opierające się na człowieku to mechanizmy zawodne, więc... Mamy problem.

A cała reszta tego co napisałeś...
Podzielam tą opinię w 100%
Idź do rządu.
Jak się dostaniesz to coś mi się wydaje, że będę miał super pracę i duzo kasy:)
edit
bo inka weszła
Wkraczasz już właśnie w podstawy sztucznej świadomości.
SI zaczyna samo się rozbudowywać i wnioskować.

Awatar użytkownika
in_ka
Dwelf
Posty: 522
Rejestracja: ndz, 25 mar 2007 22:26

Post autor: in_ka » pn, 07 cze 2010 02:08

Lasekziom pisze:[(...)Wkraczasz już właśnie w podstawy sztucznej świadomości.
SI zaczyna samo się rozbudowywać i wnioskować.
Nie. Pisałam o samouczeniu się sieci neuronowej.
Wyciągasz zbyt daleko idące wnioski.
Chyba, że dywagujesz fantastycznie.

Lasekziom
Kadet Pirx
Posty: 1386
Rejestracja: ndz, 21 wrz 2008 12:49

Post autor: Lasekziom » pn, 07 cze 2010 02:41

niee:)
mniej więcej na tym polega sztuczna świadomośc.

Awatar użytkownika
Cordeliane
Wynalazca KNS
Posty: 3663
Rejestracja: ndz, 16 sie 2009 19:23

Post autor: Cordeliane » pn, 07 cze 2010 17:34

Lasekziom pisze:niee:)
mniej więcej na tym polega sztuczna świadomośc.
Wybacz, Ziomie, ale to bzdura kompletna. Miałeś Ty w ogóle jakieś zajęcia z sieci neuronowych? Bo ja miałam. Prosta sieć neuronowa nie ma jeszcze nic wspólnego ze sztuczną świadomością. Jeśli uważasz inaczej, to podaj proszę jakieś definicje - tylko nie takie, które sam sobie wymyśliłeś...
Light travels faster than sound. That's why some people appear bright until they speak.

Lasekziom
Kadet Pirx
Posty: 1386
Rejestracja: ndz, 21 wrz 2008 12:49

Post autor: Lasekziom » pn, 07 cze 2010 17:58

Cordeliane pisze:
Lasekziom pisze:niee:)
mniej więcej na tym polega sztuczna świadomośc.
Wybacz, Ziomie, ale to bzdura kompletna. Miałeś Ty w ogóle jakieś zajęcia z sieci neuronowych? Bo ja miałam. Prosta sieć neuronowa nie ma jeszcze nic wspólnego ze sztuczną świadomością. Jeśli uważasz inaczej, to podaj proszę jakieś definicje - tylko nie takie, które sam sobie wymyśliłeś...
Cordelko jak cię lubię, tak w ten sposób nie będziemy rozmawiać.

Awatar użytkownika
Albiorix
Klapaucjusz
Posty: 2055
Rejestracja: pn, 15 wrz 2008 14:44

Post autor: Albiorix » pn, 07 cze 2010 18:06

Wytnij aluzje osobiste. Zostaw:
"Sieci neuronowe nie mają nic wspólnego ze sztuczną świadomością".

Nie rozbudowują się. Nie wnioskują w sensie przekształceń symbolicznych. Uczą się przez nadawanie wag połączeniom między neuronami. Wracając do polityki - nie chodziło mi o sztuczne świadomości i inne cuda tylko o niemagiczne współczesne SI, takie jak algorytmy pozycjonujące Google.
nie rozumiem was, jestem nieradioaktywny i nie może mnie zniszczyć ochrona wybrzeża.

Awatar użytkownika
Cordeliane
Wynalazca KNS
Posty: 3663
Rejestracja: ndz, 16 sie 2009 19:23

Post autor: Cordeliane » pn, 07 cze 2010 18:13

Lasekziom pisze:Cordelko jak cię lubię, tak w ten sposób nie będziemy rozmawiać.
No co? Proszę o uzasadnienie Twojej wypowiedzi - może to ja mam jakieś luki w edukacji. A zastrzeżenie, że nie chodzi mi o takie definicje, które sam wymyśliłeś, wysunęłam żartobliwie (fakt, zapomniałam o emotce - ta dzisiejsza młodzież już nie potrafi odczytać ironii, jeśli nie ma emotki...), pamiętając z innych wątków, że zdarza Ci się pojmować pewne słowa inaczej, niż innym użytkownikom forum (nie mówię tu tylko o sobie) ;)
Dlatego chętnie zobaczyłbym Twoją wypowiedź, powołującą się na jakieś konkretne źródło naukowe.
Light travels faster than sound. That's why some people appear bright until they speak.

Lasekziom
Kadet Pirx
Posty: 1386
Rejestracja: ndz, 21 wrz 2008 12:49

Post autor: Lasekziom » pn, 07 cze 2010 18:25

in_ka pisze: szczególik dotyczący uczenia się / samouczenia sieci neuronowych, że lepsze i szybsze są efekty tego procesu, gdy część danych jest niepoprawna!
in_ka pisze:
Lasekziom pisze:[(...)Wkraczasz już właśnie w podstawy sztucznej świadomości.
SI zaczyna samo się rozbudowywać i wnioskować.
Nie. Pisałam o samouczeniu się sieci neuronowej.
Albiorix pisze:Wytnij aluzje osobiste. Zostaw:
"Sieci neuronowe nie mają nic wspólnego ze sztuczną świadomością".

Nie rozbudowują się. Nie wnioskują w sensie przekształceń symbolicznych. Uczą się przez nadawanie wag połączeniom między neuronami.

Tu jest taka mała niekonsekwencja.
In_ka mówi o układzie który sam się uczy i rozwija.
Ja dodałem że To właśnie działanie jest podstawą sztucznej świadomości, a kolejnym etapem jest samodzielne wnioskowanie.

Nie, nie miałem nigdy zajęć z sieci neuronowych, (co już podkreśliłem mówiąc że ekspert w tej dziedzinie ze mnie żaden) i nie o nich się wypowiadam.
Nie, nie znam żadnej definicji sztucznej świadomości, ale wiem jaka jest jej idea.

Teraz Alibi mówi że sieci te nie mają zdolności do uczenia się, i opierają się jedynie na przyznawaniu wag.

W tym układzie faktycznie nie mają nic wspólnego.
A wracając do tematu.
Wiem albi. Po prostu to jest pomysł na usprawnienie państwa.

Ja jestem całkowicie za tym żeby nastąpiła rewolucja technologiczna. Między innymi właśnie po to wybrałem takie a nie inne studia.
edit.
Nie.
Chodzi mi o to, że ani razu nie wypowiedziałem się o tych sieciach, ale o uczących się układach.

Awatar użytkownika
Albiorix
Klapaucjusz
Posty: 2055
Rejestracja: pn, 15 wrz 2008 14:44

Post autor: Albiorix » pn, 07 cze 2010 18:34

Mają zdolność uczenia się, która polega na przyznawaniu wag.

Teoretycznie w ludzkim mózgu uczenie się też polega na przyznawaniu wag :)
nie rozumiem was, jestem nieradioaktywny i nie może mnie zniszczyć ochrona wybrzeża.

Lasekziom
Kadet Pirx
Posty: 1386
Rejestracja: ndz, 21 wrz 2008 12:49

Post autor: Lasekziom » pn, 07 cze 2010 18:40

a co by było gdyby cały kraj był utrzymywany przez proste SI?

Awatar użytkownika
Albiorix
Klapaucjusz
Posty: 2055
Rejestracja: pn, 15 wrz 2008 14:44

Post autor: Albiorix » pn, 07 cze 2010 19:06

Nic by nie działało ;)

Ktoś musi je tworzyć i udoskonalać.
Ktoś musi stanowić władzę wykonawczą.
Ktoś musi obsługiwać przypadki które nie podchodzą pod proste modele matematyczne.

Przykład:
Wyobraźmy sobie że system ekspercki zarządza transportem miejskim. Na podstawie zapisów z kasowników w autobusach, kamer na ulicach itp, liczy obciążenie dróg, wykorzystanie transportu publicznego. Na tej podstawie wylicza gdzie robić remonty, gdzie poszerzać drogi, gdzie i ile puścić autobusów. Do tego może pamiętać jak w poprzednich latach różni wykonawcy wywiązywali się z terminów i budżetów na roboty publiczne i na ten podstawie doradzać w trakcie przetargów.

Ktoś musi ten system obsługiwać.
Do tego jeśli system wygeneruje jakiś oczywisty idiotyzm - ludzie go łatwo zauważą. Maszyna pozostawiona sama sobie - nie.

Różnica jest taka że maszyna lepiej poradzi sobie w przypadkach "środkowych" i lepiej zauważy 15% różnicy prędkości na trasie autobusów tu czy tam i może zoptymalizować dojazdy uwzględniając 400 ulic jednocześnie.

Za to może mieć problemy w przypadkach granicznych, czyli np przy bardzo małym lub bardzo dużym ruchu. Może np wymyślić że do osiedla X powinien docierać jeden autobus raz dziennie o godzinie 3 w nocy, to raczej nie ma to sensu. Albo może sobie nie poradzić z faktem że ludzie chcieliby mieć deptak na starówce. Albo nie może nie potrafić przyjąć do wiadomości że jakiegoś odcinka nie da się szybko wyremontować bo są problemy prawne albo techniczne.
nie rozumiem was, jestem nieradioaktywny i nie może mnie zniszczyć ochrona wybrzeża.

Lasekziom
Kadet Pirx
Posty: 1386
Rejestracja: ndz, 21 wrz 2008 12:49

Post autor: Lasekziom » pn, 21 cze 2010 00:31

nie mam zbytnio czasu, żeby się zbytnio nad tym rozwodzić, ale:
1. Źle mnie zrozumiałeś.
nie chodzi mi o to żeby SI przejęło władzę nad światem, ale proste usunięcie pracowników fizycznych ze struktury społecznej. Po co ktokolwiek ma pracować fizycznie? bez sensu.

2. :)
Albi ja już w tej chwili jestem w stanie ci powiedzieć, że maszyny robią się nie tylko coraz szybsze ale coraz cwańsze. Nie jestem do końca pewien czy za 100 lat nie będą czasem łatwiej zauważać nawet mało oczywistych błędów niż my. I to tak same z siebie, a nie na bazie algorytmów sprawdzających poprawność.

(nie wiem czy kojażysz ghety z mass effecta - nie wiem czy twórcy tej gry o tym wiedzieli, ale sposób w jaki powstała świadomość ghetów, bazuje na znanym od dawna, ale nie każdemu, algorytmie roju)

3. Zgłosiłem już na koło naukowe projekt (rozwijający ten algorytm), nie chcę wdawać się w szczegóły (bo bym ksiązke musiał napisać calą), ale jeśli uda mi się go rozwinąć tak, jakbym chciał, to takie miasta zarządzane przez SI staną się...
akceptowalne...
możliwe do wyobrażenia sobie...?

Problem jest jednak taki że obecnie nie znam nikogo kto miałby rzetelną wiedze na jego temat. Wiem, że NASA i Armia Stanów Zjednoczonych pracują obecnie na nim, ale coś mi się nie chce wierzyć żebym się do nich dostał na praktyki:P.

Tak czy siak Im więcej siedze na tym kierunku tym bardziej zaczynam widzieć to, że rzeczywistośc jest ograniczona naszą wyobraźnią, w tym samym stopniu co wyobraźnia rzeczywistością.
Ale to już raczej temat do radowalni.

krzysz-pan
Sepulka
Posty: 6
Rejestracja: pt, 09 lip 2010 19:12

Post autor: krzysz-pan » ndz, 11 lip 2010 18:58

Lasekziom pisze:Ja myślę o takim ustroju, w którym rządy sprawowaliby fachowcy.
Każda placówka (naukowa, zdrowotna...) miałaby swojego przedstawiciela. Chodzi mi o to: co by było, gdyby odwołać wszystkie ministerstwa, a w ich miejsce powoływać autonomicznie rządzące sobą jednostki (Np w sprawach nauki byłaby krajowa rada nauki złożona z demokratycznie wybieranych delegatów najbardziej prestiżowych uczelni, która wprowadzałaby reformy, w resorcie edukacji wyższej), podlegające jedynie ABW i urzędowi skarbowemu.
Ni to oligarchia, ni to demokracja, ale ustrój jakiego jeszcze nie było, a IMHO bardzo dobry, bo każdy by pilnował czegoś na czym się zna i głosował na kogoś kogo faktycznie zna, nie było by żadnych prasowych manipulacji...
A kto by to wszystko utrzymał w KUPIE?

kazdy fachowiec jset przekonany że nie ma nikogo mądrzejszego niż on

ODPOWIEDZ