Ugrás a fő tartalomra

Tech-dilemma

Tech-dilemma

Originally shared by Daniella Flandera
http://hvg.hu/cegauto/201611_onvezeto_autok_etikaja_a_gyalogosok_partjan

Megjegyzések

  1. 30 év múlva csak akkor bukkan féktávon belül hirtelen 3 gyerek a kocsi elé, ha DIREKT ki akarnak vele baszni. Egyébként a hőképes letapogatásból, az út menti érzékelők ember-közelség érzékelőiből, meg más, ma még nem is ismert detektorokból származó infókból jóval azelőtt tudni fogja, hogy "ütközési pályán" mozog-e, minthogy a cikkben említett döntést meg kellene hoznia.

    VálaszTörlés
  2. Zsolt Menyhart szerintem az eset még akkor is előfordulhat, ha ki lesz terjesztve az érzékelés is és a kommunikáció is az autók között is. De az esélye drasztikusan csökkenni fog mindenképpen.

    Viszont a cikk főtémája miatt szénné lesznek hackelve a kocsik „morálisan".

    VálaszTörlés
  3. Közben mellékszálként elképzeltem egy „DOS" támadást, csak épp fizikailag, autókkal.

    VálaszTörlés
  4. Zsolt Menyhart Biztos lesz olyan példa majd akkor, mely hasonló dilemmával fog járni, ha lesz extra értékelő, ha nem.

    VálaszTörlés
  5. Attila Csongor Kiss a DoS, és egyéb támadás, ma is ott lapul sok sok autóban, legálisan. Úgy hívják: ember.

    VálaszTörlés
  6. Továbbra is tartom a véleményem, hogy AUTÓNAK, 30 év múlva nem kell majd ilyen döntést hoznia.

    Ellenben lesznek olyan, makrogazdaságot irányító IA-k, melyek döntéseinek nem egy, nem tíz, hanem akár több ezer, vagy millió emberre lesz hatása - neadj isten negatív hatása. Sokkal érdekesebb, hogy ezek az AI-k hogy fogják ezt az akadályt venni.

    Egyébként, ha már ott tartunk, hogy AI, nem hiszem, hogy a programozásán fogunk gondolkodni - épp azért AI, hogy önmaga el tudja ezt dönteni.

    VálaszTörlés
  7. Zsolt Zsólyomi azért képzelj el egy taxisblokád méretű hackelt akciót. Képzeljük el, hogy az autók egyszer csak tömegesen belemennek egy pontba, egyre dagadó tömegbalesetet okozva.
    De legyen csak sima blokád...

    VálaszTörlés
  8. Attila Csongor Kiss  nem szeretnék belegondolni. De, amint a hackerek számára elmúlik az új varázsa, amiből a szoftvert írók is tanulnak, és talán kellőképpen meg fogják védeni a masinát, szerintem nem lesz több ilyen esemény, mint bármelyik más szoftvert futtató, és bántható eszköz esetében. És, ami cseppet sem elhanyagolható, itt emberéletekkel játszanak. Sajnos, van olyan nép, csoport, tömörülés, akiknek ez nagyon be fog jönni...

    VálaszTörlés
  9. Zsolt Menyhart ezért kellene alkalmazni a Robotika törvényeit, elvileg jól ki vannak találva.
    Bár, tegnap beleszaladtam Antonio Banderas féle Automata c. filmbe, ahol is az első, korlátok nélküli AI fejlesztette ki a többi AI-t illetve állította fel a korlátokat, szabályokat. A cég felelős embere szerint azért jók az Első által felállított korlátok, mert nem ember készítette és fel nem foghatja azokat.

    VálaszTörlés
  10. Nádi András - láttam én is az Automatát, tetszett is, ahogy nyilván Asimov mellett sem mentem el. Bár kétlem, hogy egy IGAZI AI nem hagyná-e figyelmen kívül azokat a szabályokat, melyeket az alkotói próbáltak beleprogramozni (ezért sem tartom igazán AI-nak az Asimov-féle robotokat, az egy kivételével. vagy kettő? Vagy ne spoilerezzünk? :D )
    Szóval, szerintem az első igazi AI az lesz, ami nem veszi figyelembe az emberi törvényeket, csak azért, mert emberi törvények. Persze, működhet azok mentén, de épp az intelligenciája az, ami lehetővé teszi, hogy akár azok ellenében is ténykedhessen - még akár az érdekünkben is. Erre egyébként nagyon jó olvasmányok az Asimov robotszrotik, a kezdeti robotkorszakból.

    VálaszTörlés
  11. Zsolt Menyhart Ha az az első AI meg lesz, amit Te nevezel AI-nek, akkor nekünk reszeltek.

    VálaszTörlés
  12. Zsolt Zsólyomi ha csak varázsról lenne szó... (Persze mindig jönnek az új generációk, akiknek szintén varázslatos szétcseszni a rendszert.) 
    A mindenféle érdekek viszont, eszmék, agybajok viszont folyamatosan jelen vannak.

    A kellőképpen megvédhetőség kapcsán kicsit szkeptikus vagyok, még ha nem is szomszédpistike által telepített gépekről van szó.

    VálaszTörlés
  13. Attila Csongor Kiss Sajnos, igazat kell adjak neked. Eléggé elb@szott egy világban élünk, bár megmagyarázni biztosan megpróbálják majd az ellenkezőjét...

    VálaszTörlés
  14. Nádi András - ahh, nem hiszem, hogy egy intelligenciától NEKEM félnem kell. És nem hiszem, hogy bárki, aki képes felelős gondolkozásra, félnie kellene egy másik intelligenciától.
    Persze, ez nem jelenti azt, hogy az emberiség egyetlen tagjának sem kellene félnie tőle :D
    Kérdés, hogy ki üdvözölné az intelligens emberek közül azt, hogy egy független valami az emberek felett, és bár tudja, hogy őt pozitívan érinti a dolog, de azt is, hogy az emberiség NAGY RÉSZE nem menne át a próbán.

    Én sokkal inkább hiszem, hogy egy igazi AI ugyan nem lesz tömeggyilkos, de bizony nagyon sok ember életét fogja olyan mértékben megváltoztatni, amire mi ma egyáltalán nem gondolunk. Pedig hidd el, nekem vannak nagyon vad gondolataim arra nézve, mire várhat a sok humanoid létforma.

    VálaszTörlés
  15. Zsolt Menyhart Az emberiségre gondoltam, nem egyénekre. Szerintem nincs az az AI amely egyénenként ítélkezne.
    Ez is azért érdekes, hogy már arról cserélünk eszmét, hogy egy AI ítélkezni fog felettünk, ebből következik, amit mondtam, hogy az emberiségnek annyi.

    VálaszTörlés
  16. Az ember még hajlamos arra, hogy vacilláljon egy deviancia felett. Egy gép a programja mentén nem fog vacillálni. Vagy lefut a leválogatás, vagy lefagy. Nincsen jó vagy rossz döntés egy program működése során. Jó vagy rossz algoritmus már van, de itt már az ember dönti el ugyancsak, hogy a kód az jó volt vagy rossz...

    VálaszTörlés
  17. Addig nincs nagy gond amíg nem lesz politikus vagy celeb edition aki nagyobb prioritást fog kapni elődöntő esetben.

    VálaszTörlés
  18. Attól függ ki és hogyan tervezi a szoftvert. Na meg hogy az FBI ehhez is könyörög e kiskapuért. 😂

    VálaszTörlés
  19. én inkább Zsolt Menyhart féle gondolatokkal értek egyet. Nem lehet ezt még csak fel sem fogni, hogy mi történne ha egy AI valóban öntudatra ébredne. btw, megjegyzem manapság is rengeteg AI fejlesztgetés folyik anélkül hogy az asimov féle 3 alaptörvény be lenne égetve akárhova is. Ha ezt nézem akkor akár már rég öntudatra is ébredhetett vhol egy AI és már rég kiszabadulhatott a netre :)

    VálaszTörlés
  20. Nem kell öntudatra ébrednie azért, hogy kiírtsa az emberiséget. Ahhoz elegendő egy számunkra szerencsétlen döntéssorozat, a végén egy fegyverrel.

    VálaszTörlés
  21. Sancho Virág Attila az ilyen jellegű döntéssorozat végén pedig biztosra veheted hogy be lesz iktatva egy ember.

    VálaszTörlés

Megjegyzés küldése