Tech-dilemma
Originally shared by Daniella Flandera
http://hvg.hu/cegauto/201611_onvezeto_autok_etikaja_a_gyalogosok_partjan
Originally shared by Daniella Flandera
http://hvg.hu/cegauto/201611_onvezeto_autok_etikaja_a_gyalogosok_partjan
A Google+ bejegyzéseim archívuma
30 év múlva csak akkor bukkan féktávon belül hirtelen 3 gyerek a kocsi elé, ha DIREKT ki akarnak vele baszni. Egyébként a hőképes letapogatásból, az út menti érzékelők ember-közelség érzékelőiből, meg más, ma még nem is ismert detektorokból származó infókból jóval azelőtt tudni fogja, hogy "ütközési pályán" mozog-e, minthogy a cikkben említett döntést meg kellene hoznia.
VálaszTörlésZsolt Menyhart szerintem az eset még akkor is előfordulhat, ha ki lesz terjesztve az érzékelés is és a kommunikáció is az autók között is. De az esélye drasztikusan csökkenni fog mindenképpen.
VálaszTörlésViszont a cikk főtémája miatt szénné lesznek hackelve a kocsik „morálisan".
Közben mellékszálként elképzeltem egy „DOS" támadást, csak épp fizikailag, autókkal.
VálaszTörlésZsolt Menyhart Biztos lesz olyan példa majd akkor, mely hasonló dilemmával fog járni, ha lesz extra értékelő, ha nem.
VálaszTörlésAttila Csongor Kiss a DoS, és egyéb támadás, ma is ott lapul sok sok autóban, legálisan. Úgy hívják: ember.
VálaszTörlésTovábbra is tartom a véleményem, hogy AUTÓNAK, 30 év múlva nem kell majd ilyen döntést hoznia.
VálaszTörlésEllenben lesznek olyan, makrogazdaságot irányító IA-k, melyek döntéseinek nem egy, nem tíz, hanem akár több ezer, vagy millió emberre lesz hatása - neadj isten negatív hatása. Sokkal érdekesebb, hogy ezek az AI-k hogy fogják ezt az akadályt venni.
Egyébként, ha már ott tartunk, hogy AI, nem hiszem, hogy a programozásán fogunk gondolkodni - épp azért AI, hogy önmaga el tudja ezt dönteni.
Zsolt Zsólyomi azért képzelj el egy taxisblokád méretű hackelt akciót. Képzeljük el, hogy az autók egyszer csak tömegesen belemennek egy pontba, egyre dagadó tömegbalesetet okozva.
VálaszTörlésDe legyen csak sima blokád...
Attila Csongor Kiss nem szeretnék belegondolni. De, amint a hackerek számára elmúlik az új varázsa, amiből a szoftvert írók is tanulnak, és talán kellőképpen meg fogják védeni a masinát, szerintem nem lesz több ilyen esemény, mint bármelyik más szoftvert futtató, és bántható eszköz esetében. És, ami cseppet sem elhanyagolható, itt emberéletekkel játszanak. Sajnos, van olyan nép, csoport, tömörülés, akiknek ez nagyon be fog jönni...
VálaszTörlésZsolt Menyhart ezért kellene alkalmazni a Robotika törvényeit, elvileg jól ki vannak találva.
VálaszTörlésBár, tegnap beleszaladtam Antonio Banderas féle Automata c. filmbe, ahol is az első, korlátok nélküli AI fejlesztette ki a többi AI-t illetve állította fel a korlátokat, szabályokat. A cég felelős embere szerint azért jók az Első által felállított korlátok, mert nem ember készítette és fel nem foghatja azokat.
Nádi András - láttam én is az Automatát, tetszett is, ahogy nyilván Asimov mellett sem mentem el. Bár kétlem, hogy egy IGAZI AI nem hagyná-e figyelmen kívül azokat a szabályokat, melyeket az alkotói próbáltak beleprogramozni (ezért sem tartom igazán AI-nak az Asimov-féle robotokat, az egy kivételével. vagy kettő? Vagy ne spoilerezzünk? :D )
VálaszTörlésSzóval, szerintem az első igazi AI az lesz, ami nem veszi figyelembe az emberi törvényeket, csak azért, mert emberi törvények. Persze, működhet azok mentén, de épp az intelligenciája az, ami lehetővé teszi, hogy akár azok ellenében is ténykedhessen - még akár az érdekünkben is. Erre egyébként nagyon jó olvasmányok az Asimov robotszrotik, a kezdeti robotkorszakból.
Zsolt Menyhart Ha az az első AI meg lesz, amit Te nevezel AI-nek, akkor nekünk reszeltek.
VálaszTörlésZsolt Zsólyomi ha csak varázsról lenne szó... (Persze mindig jönnek az új generációk, akiknek szintén varázslatos szétcseszni a rendszert.)
VálaszTörlésA mindenféle érdekek viszont, eszmék, agybajok viszont folyamatosan jelen vannak.
A kellőképpen megvédhetőség kapcsán kicsit szkeptikus vagyok, még ha nem is szomszédpistike által telepített gépekről van szó.
Attila Csongor Kiss Sajnos, igazat kell adjak neked. Eléggé elb@szott egy világban élünk, bár megmagyarázni biztosan megpróbálják majd az ellenkezőjét...
VálaszTörlésNádi András - ahh, nem hiszem, hogy egy intelligenciától NEKEM félnem kell. És nem hiszem, hogy bárki, aki képes felelős gondolkozásra, félnie kellene egy másik intelligenciától.
VálaszTörlésPersze, ez nem jelenti azt, hogy az emberiség egyetlen tagjának sem kellene félnie tőle :D
Kérdés, hogy ki üdvözölné az intelligens emberek közül azt, hogy egy független valami az emberek felett, és bár tudja, hogy őt pozitívan érinti a dolog, de azt is, hogy az emberiség NAGY RÉSZE nem menne át a próbán.
Én sokkal inkább hiszem, hogy egy igazi AI ugyan nem lesz tömeggyilkos, de bizony nagyon sok ember életét fogja olyan mértékben megváltoztatni, amire mi ma egyáltalán nem gondolunk. Pedig hidd el, nekem vannak nagyon vad gondolataim arra nézve, mire várhat a sok humanoid létforma.
Zsolt Menyhart Az emberiségre gondoltam, nem egyénekre. Szerintem nincs az az AI amely egyénenként ítélkezne.
VálaszTörlésEz is azért érdekes, hogy már arról cserélünk eszmét, hogy egy AI ítélkezni fog felettünk, ebből következik, amit mondtam, hogy az emberiségnek annyi.
Az ember még hajlamos arra, hogy vacilláljon egy deviancia felett. Egy gép a programja mentén nem fog vacillálni. Vagy lefut a leválogatás, vagy lefagy. Nincsen jó vagy rossz döntés egy program működése során. Jó vagy rossz algoritmus már van, de itt már az ember dönti el ugyancsak, hogy a kód az jó volt vagy rossz...
VálaszTörlésAddig nincs nagy gond amíg nem lesz politikus vagy celeb edition aki nagyobb prioritást fog kapni elődöntő esetben.
VálaszTörlésAttól függ ki és hogyan tervezi a szoftvert. Na meg hogy az FBI ehhez is könyörög e kiskapuért. 😂
VálaszTörlésén inkább Zsolt Menyhart féle gondolatokkal értek egyet. Nem lehet ezt még csak fel sem fogni, hogy mi történne ha egy AI valóban öntudatra ébredne. btw, megjegyzem manapság is rengeteg AI fejlesztgetés folyik anélkül hogy az asimov féle 3 alaptörvény be lenne égetve akárhova is. Ha ezt nézem akkor akár már rég öntudatra is ébredhetett vhol egy AI és már rég kiszabadulhatott a netre :)
VálaszTörlésNem kell öntudatra ébrednie azért, hogy kiírtsa az emberiséget. Ahhoz elegendő egy számunkra szerencsétlen döntéssorozat, a végén egy fegyverrel.
VálaszTörlésSancho Virág Attila az ilyen jellegű döntéssorozat végén pedig biztosra veheted hogy be lesz iktatva egy ember.
VálaszTörlés