Dönthet-e mesterséges intelligencia egy ember életéről és haláláról?

2014. augusztus 06.

Az Én, a robot című filmben Will Smith karaktere azért gyűlölte a gépeket, mert egy korábbi autóbaleseténél, mikor egy tizenéves kislánnyal együtt a vízbe zuhant, a segítségükre induló robot gyors kalkulációja alapján az ő megmentésének volt nagyobb esélye, így ő tovább élhetett, a kislány viszont megfulladt.

Ez egy sci-fi jeleneteként érdekes dilemma, azonban a technológia fejlődése korábban teheti valós problémává, mint gondolnánk.

Dönthet-e egy mesterséges intelligencia emberek életéről és haláláról?

A katonai csapásmérő drónok használata egyre gyakoribbá vált az elmúlt években, de ezeket katonák vezérlik távolról, ők döntenek a célpontokról, és ők húzzák meg a ravaszt. Néhányszor előfordult, hogy ellenséges hackerek átvették az irányítást a drónok felett (ráadásul filléres eszközökkel), emiatt egyes katonai vezetők az önállóan működő, a célpontokról önálló döntést hozó drónokban látták a jövőt. Ezek ugyanis nem fogadnának el kívülről jövő parancsot, így a feltörésük is jóval nehezebb lenne. Ez az irány azonban akkora ellenállást váltott ki a közvéleményben, hogy - legalábbis egyelőre - elnapolták a kérdést.

Egy katonai szakértő nyilatkozta: “Egy mesterséges intelligencia hibázásának következményei sokkal rosszabbak a közvélemény szemében. Az emberek valamiért könnyebben elfogadják az emberi hibák okozta járulékos veszteségeket.”

rcar4.jpg

Az életről, halálról döntő robotok létjogosultságának kérdésköre tehát még a hadászatban is érzékeny pontnak számít, pedig egy háborús övezetre azért más szabályok vonatkoznak. Azonban ez a dilemma hamarosan a hétköznapi emberek életébe is beszivárog.

A Google robotautók fejlődésével 10-20 éven belül valósággá válhat, hogy az autók utasai csak nézőként vesznek részt a közlekedésben. Elkerülhetetlen balesetek azonban mindig lesznek, így az autót irányító üzleti logikát súlyos döntések meghozatalára kell felkészíteni.

Az Alagút probléma

Jason Millar, az ottawai egyetem filozófiatanára kitalált egy morális problémahelyzetet, amit Alagút problémának nevezett el. Kábé így szól:

Egy egysávos hegyi úton utazol a Google robotautóddal. Az autó nagy sebességgel közelít egy szűk alagúthoz. Épp mielőtt odaérnél, egy gyerek ugrik ki a bokrok közül és átszalad az úton. Azonban az út közepén megbotlik és elesik, elzárva ezzel az alagútba vezető utat. A robotsofőrnek csak két választása van: Tovább hajt, és halálra gázolja a gyereket, vagy elrántja a kormányt, így az alagút valamelyik falának csapódva te halsz meg. Hogyan kellene döntenie?

rcar1.jpg

Nehéz kérdés, amiben nincs jó válasz. Nincs harmadik opció, amiben mindenki megmenekül, hiszen akkor mindenki azt választaná, így nem lenne dilemma. Mivel nyilvánvaló, hogy a mesterséges intelligencia a neki megadott szabályok alapján dönt, így felmerül egy még fontosabb kérdés: Ki döntse el, hogy az autó szoftvere melyik megoldás mellett döntsön ilyen helyzetben? Az autógyártó? Az autó utasa? A robot KRESZ-t megalkotók?

Hagyományosan ugyan a gyártók készítik fel a szoftvereket a különböző esetek kezelésére, de a fenti példa olyan morális döntést igénylő terület, aminek megválaszolását kevesen bíznák informatikusokra.

Meg kell jegyezni, hogy tévútra visz, ha azon kezdünk gondolkodni, hogy az autó szenzorainak érzékelnie kellene előre, hogy a gyerek elénk fog ugrani. Nem ez a lényeg. Minden elővigyázatosság ellenére elkerülhetetlen balesetek a jövőben is elő fognak fordulni, így a kérdés érvényes a mainál jóval fejlettebb technológia esetén is.

Az Open Roboethics Initiative (ilyen is van) közvéleménykutatást szervezett, hogy az emberek melyik választ preferálnák saját robotautójuk esetében. A szavazás nem várt eredményeket hozott.

Nem meglepő, hogy a többség (64%) arra szavazott, hogy az autó az ő életét mentse meg, de meglepő módon a válaszadók 36 százaléka a gyerek túlélése (és saját halála) mellett döntött.

rcar2.jpg

Vajon miért áldoznák fel magukat ilyen sokan?

Míg az első tábor fő érve az volt, hogy a gyerek hibája, hogy az autó útjába került, sokkal izgalmasabbak az autó félrerántására szavazók motivációi:

  • magasan kiemelkedett az az indok, hogy mindig egy gyerek életét választanák a sajátjukkal szemben.
  • 11%-ot kapott az - a korábbi Én, a robot c. filmben is szereplő - indok, hogy nem tudnának azzal a bűntudattal élni, hogy egy gyerek halála kellett az ő túlélésükhöz
  • 14% szerint, mivel a sofőr valószínűleg felnőtt, így a gyerek még többet élhet
  • még egy érdekes opció a válaszadók 14 százalékától, hogy egy robotautónak ugyanazt kellene tennie, amit egy humán vezető tenne ilyen helyzetben, ami pedig a kormány elrántása, bármi legyen is a következmény

Neked mi a véleményed?

Azt is megkérdezték, hogy mennyire érzik nehéznek az olvasók megválaszolni ezt a kérdést? Bár azt várták, az emberek többsége nehéznek érzi majd, elvégre komoly etikai feladványról van szó, meglepte őket, hogy a válaszadók 48 százaléka könnyűnek találta a döntést. Még különösebb, hogy azok válaszai között, akik könnyűnek találták, kb. egyenlően oszlott meg a gyerek ill. a sofőr halálával járó opció.

Talán a legfontosabb kérdés arra vonatkozott, kinek a feladata legyen eldönteni, hogy az Alagút probléma típusú helyzetekben hogyan viselkedjen az autó. A válaszadók közel fele szerint az utas dönthessen, míg 33 százalék szerint ez a jogalkotók feladata. Csak 12 százalék nevezte meg a gyártót.  Mégis, összességében a válaszadók fele szerint ne az utas döntsön arról, kit áldozzon fel az autó.

Meg lehet határozni általános szabályokat?

Vajon egy hivatalos bizottság ki tudna találni olyan általánosan érvényesíthető szabályokat, amelyek minden lehetséges esetet lefednek? Más döntés legyen beletáplálva a robotba, ha egy 70 feletti halálos beteg utas ül az autóban, mintha egy tinédzser? Vagy mi legyen akkor, ha nem is egy, hanem két gyerek ugrik az autó elé? Vagy mondjuk egy egész iskolás csoport (bármilyen életszerűtlen is)? Vesse össze az utasok számával, és döntsön a “kisebb” áldozat mellett?

Az ilyen példák nagyon érzékenyek a kontextusra. Ha az eredeti példában a gyereket nyugdíjasra cseréljük, az autóba pedig beteszünk egy alvó csecsemőt, valószínűleg egész más eredmények jöttek volna ki a szavazáson.

A probléma rengeteg kérdést vet fel

Az is felmerül, egyáltalán képesek-e az autó szenzorai, és üzleti logikája egy másodperc alatt felmérni, mi az ami a kocsi elé ugrott? Hiszen a kérdés jóval egyszerűbb, ha mondjuk egy őz és egy ember közt kell választani.

Nagy kérdés, hogy a technológia elterjedését mennyire gátolná, ha a gyártó, vagy egy hivatalos grémium döntene el egy ilyen kérdést. Hiszen végül is veszünk egy autót, a vezetésbe nincs beleszólásunk, és egy harmadik fél döntse el, hogy bizonyos helyetben megöljön-e minket a robot?

rcar3.jpg

A kormány félrerántásával, és az utas feláldozásával járó főszabállyal szemben felmerülhet, hogy viszonylag egyszerűen kijátszható lenne. Egy vakmerő gyalogos felbérelésével könnyű lenne kiszemelt személyek meggyilkolása, és balesetnek beállítása.

Ugyanakkor, ha az AI mindenképp a gyalogos érdekeit nézi, az sok gyalogost felelőtlen közlekedésre motiválhatna. Például abban, hogy átszaladjon-e még a zebrán a villogó sárgánál, amikor egy autó közeledik.

Nem utolsó sorban, feltehető, hogy az az autó, amely nem az utasa érdekét nézi egy ilyen vagy-vagy szcenárióban, eladhatatlan lenne a piacon.

Ha azonban azt a választ fogadjuk el, hogy az autó ilyen esetben üsse el a gyalogost, az is óriási felelősséget tesz a gyártókra, hiszen az üzleti intelligenciának kell eldöntenie, hogy a kormány félrerántása esetén halálos vagy túlélhető balesetet szenvedne az autó utasa? Ha úgy látja, hogy halálos, akkor tartja az irányt, fékez, és lesz ami lesz. De vajon minden esetben jól tud dönteni? Milyen változást fog okozni a közvéleményben, amikor megtörténnek az első halálos gázolások? Ahogy a fenti katonai drónos példa is mutatta, a gépekkel szemben kisebb a toleranciaküszöb a közvéleményben. Nyilván emiatt is nagyon óvatos a Google a robotautó fejlesztésében.

Persze nem szabad túlértékelni sem ezeket a dilemmákat. A mesterséges intelligencia által irányított autók megoldást hozhatnak olyan problémákra, mint az álmosság, vagy az ittas vezetés okozta balesetek, amelyek Amerikában évente 12 000 halálesetet okoznak.

A robotautók természetesen még rengeteget fognak fejlődni az ilyen esetek elkerülésében, akár a beláthatatlan területeknél a sebesség korlátozásával, akár külső légzsákokkal, de az Alagút problémában felvetett kérdésekre egyszer mindenképp válaszolni kell.

Kattints a Like gombra, és azonnal értesülsz róla facebookon, ha új poszt jelenik meg a Smart Tech Blogon:

A bejegyzés trackback címe:

http://smart.blog.hu/api/trackback/id/tr936580313

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben.

SemBoga 2014.08.08. 12:39:02

@Yooha:

"De úgy általában csak olyanra kellene egy ilyen rendszert megcsinálni, hogy be lehessen avatkozni - bár a fenti példában nem sok idő lenne erre."

ha annyira intelligens a rendszer, akkor a környezeti veszély potenciált képes érzékelni, ezért lassabban kell ilyen esetben hajtania, hogy elkerülje a dilemma okozta veszélyt :) azaz ne kelljen falba/szakadékba hajtania, ne kelljen gyereket elcsapnia, egyszerűen csak lassabban kell mennie, hogy tudjon fékezni és meg is tudjon állni

bahahaha 2014.08.08. 12:46:17

@különvélemény2: Miért szólna ez a cikk erős MI-ről? Amiről szó van, azt gyenge MI-vel is meg lehet oldani, sőt, azzal oldják meg. Az erős MI témáját csak te rángattad ide (és az, hogy ilyesmi egyelőre csak sci-fi-ben létezik, nem hit-, hanem ténykérdés).

bahahaha 2014.08.08. 12:50:47

@Preo: "Mért nevezi a cikk ferdítője üzleti logikának a mesterséges intelligenciát?"

Mert az nem mesterséges intelligencia, hanem egyszerű program, annak meg azt a részét, amiről most szó van, szokás angolul business logicnak nevezni (igen, itt volt némi jelentésbővülés) és bármiféle jobb fordítás híján magyarul ennek a tükörfordítását szokták használni.

bahahaha 2014.08.08. 12:54:44

@Macropus Rufus: "A robot autónak amúgy elmondaná valaki, hogy mi értelme is van?"

A közúti balesetek csökkentése és hogy ne arra pazarolják az idejüket az emberek, hogy autót vezetnek (szarul), amikor ahelyett egy csomó minden mást is csinálhatnának és még minden bizonnyal egy rakat más előnye is lesz.

venmarton 2014.08.08. 13:05:11

@bahahaha: Igaz, hogy az üzleti logika pontos értelmezésében nem illik ide, inkább szakmai ártalom, hogy ezt írtam, illetve nem akartam minden mondatba kétsze mesterséges intelligenciát írni. :)

Nem olyan fontos, de azért megjegyzem, hogy a posztot én írtam, azaz nem cikk fordításról van szó.

galaxiscsirke 2014.08.08. 13:10:47

Amúgy szerintem ez is olyan dolog,amit hajlamosak a végletekig fokozni, mintha muszáj lenne eldönteni,hogy minden autó robot is lehessen, vagy nem. Ez is csak egy megoldás,aminek megvan a helye,van,ahol használható lesz,van,ahol nem (bármennyi gyártó bármilyen erőfeszítése ellenére sem). Pl. kamionoknál én akár kötelezővé is tenném,de nem teljeskörűen,hanem úgy,hogyha a sofőr elalszik,a gép átveszi,és szépen kényelmesen elmegy a legközelebbi pihenőhelyig és beparkol. Sofőr szépen kialussza magát,és továbbindul. Így megvan az az előnye,hogy balesetmegelőz, és ki van küszöbölve a morális hátrány, mert nem mindig és mindenhol a gép vezet. Természetesen kötelező lenne jól látható jelzésnek lennie abban az esetben,ha a gép vezet,hogy a többi autós is tudjon róla. Személyautóba is be lehetne építeni ezt,tehát a robotvezetés backup lenne abban az esetben,ha az ember "kiesett", arra az időre,amíg az autó az embert biztonságos megállóhelyre juttatja (haza,pihenő,esetleg kórház). Apámnak anno sok éve jól jött volna,ugyanis az M7-en Bpről hazafele infarktusa volt, és tudott még telefonálni a siófoki kórházba,ott meg mondták,hogy mire kiérne a mentő oda,megfordulna a pályán,visszaérne,az már nem biztos,hogy beleférne az időbe,úgyhogy felkészültek a fogadására,meg azért a következő lejáratig elindították a mentőt,de ő előbb beért, és ott kiderült,hogy valóban kb. 5-10 percen múlhatott volna a dolog, a mentővel nem ért volna be. Ez esetben a robotautóban lehetne egy vészhelyzeti távvezérlés,amit vagy az utas indít, ha még cselekvőképes annyira, vagy ha tud telefonálni,az alapján a diszpécser a gépén bejelöli a célállomást,és elküldi a parancsot az autónak,ami oda megy,és adott esetben az autópályán a ledes táblákra is kikerülhet figyelmeztetés az útvonalra, v. a városban az útvonalon előre zöldet adhatna a lámpákon kiegészítő figyelmeztetéssel (mondjuk lehetne minden jelzőlámpán egy kék fény,ami ilyen esetben villog,hogy figyelem,különleges eset,vészhelyzetben elsőbbséggel rendelkező jármű fog érkezni). Ez utóbbihoz rendes infratruktúra is kéne természetesen,de önmagában is elég sok előnye lenne.

Borenbukk 2014.08.08. 13:12:11

@Gera: Ahogy azt Lenin elvtars mondta volna, ha nem mast mondott volna: Olvasni, olvasni, olvasni! Nem az mindegy, mennyi hiba van, hanem az, mennyire kritikus egy rendszer. Akarmennyire kritikus, akarmennyire alaposan tesztelik, mindig at fognak csuszni hibak.

bahahaha 2014.08.08. 13:18:59

@galaxiscsirke: Egészen pontosan milyen indokok szólnak amellett, hogy engedjük közúton vezetni az embereket, ha van már normálisan működő automata autó?

csárlszbrunzol 2014.08.08. 13:28:16

@galaxiscsirke:
- mikor vészfékez először az átlagautós 120-ról?
- közvetlenül a halála előtt

waldorfbalcon 2014.08.08. 13:33:19

Úgy látom egy kicsit félrement a vita. A posztíró helyesen a morális dilemmát tette a központi helyre, a legtöbben azonban a morális dilemma helyett a technológiai kérdést boncolgatják.

A modellhelyzetek éppen arra jók, hogy a technológián túli kérdéseket tegyék központi helyre. Amikor a kérdés nem gyorsulásról meg szögsebességről szól, hanem arról, hogy adott helyzet értékelésekor milyen technológián kívüli(!) szempontokat kell/lehet érvényesíteni egy technológiailag fel nem oldható szituációban. Mert ilyen bőven előfordulhat és törvényszerűen elő is fordul.

A lényeg, hogy itt nem a kütyü képességeiről van szó, hanem a mi humán értékrendünk érvényesítésének kérdéséről. Hiszen az akármilyen fejlettségű gép is ennek mentén fog működni, a megadott haárértékek és utasítások mentén jár el, ezeket pedig mi állítjuk be. Ez a kérdés tehát rólunk szól: hova és mi alapján tesszük ezeket a határértékeket, és értékválasztásokat. Ez pedig nem technológiai kérdés, bármilyen csábító elkalandozni a technológiai részletek felé, hanem kőkeményen morális probléma.

Nazareus 2014.08.08. 13:34:31

@Borenbukk: Nem egészen. Lehet hibamentes rendszert épiteni, minél egyszerübb, annál könnyebb. Pl. nem nagyon hallottam még olyanról, hogy egy mosógép szoftvere rossz lett volna. De még egyszerübb, ha pl. egy háromszög területszámitó programot képzelsz el: meg lehet irni egy ilyen programot 100%-ig hibamentesen.

Viszont a másik oldal, az anyagfáradás elkerülhetetlen (föleg a mozgó alkatrészekben), ez viszont nem hiba, nem elkerülhetetlen adottság, de tudni kell kezelni (vagy lehetöség szerint elörejelezni).

galaxiscsirke 2014.08.08. 13:38:16

@bahahaha: Az, hogy ha a gépet felkészítjük 1000000 várható helyzetre, biztosan felmerül egy 1000001. eset,amire nem számít,és baj lehet. Lehet,hogy ennek elhanyagolható a valószínűsége, de gondoljuk meg, hogy ha mégis megtörténik, azonnal tele lesz vele a média,és eséllyel az ördögtől valónak fogják kikiáltani az egészet. Az emberi hibát mindig könnyebb elfogadni,mint a gépit (legalábbis könnyebben található anyázható személy).
A gépi helyzetfelismerés sosem lehet annyira kiterjedt,mint az emberi,hiába számol gyorsabban. Még a gépi fordítás sem megoldott,pedig ott nem kell valós időben képfelismerni és 1000féle érzékelőadatot számításba venni,és még időhatár sincs (legalábbis engem nem érdekelne,hogy 1 100 oldalas cuccot 2 v. 5 óra alatt fordítana le a gép helyettem). Annyira kiterjedt háttérismeretek kellenek hozzá (mármint a rendes fordításhoz),amilyen a gépnek sose lesz, akkor se,ha örökké a neten lóg (a google translate-ot ne emlegessük,az még viccnek is rossz).

Borenbukk 2014.08.08. 13:42:35

@Nazareus: Ez, ha nem haragszol, marhasag. Kijelented, hogy lehet hibatlan egy program, ha olyan szimpla, hogy mar nem program. Ebbol barmifele kovetkeztetest levonni osszetett rendszerek mukodesere...
A hibas mosogep szoft pedig egeszen biztos vagyok benne, hogy mar eloallt, nem is egy alkalommal.

Nazareus 2014.08.08. 13:45:13

@Borenbukk: Mi az, hogy olyan szimpla,hogy már nem program? :DD Attól, hogy egyszerü, még program marad. Vagy szerinted milyen bonyolultsági foktól tekinted programnak a programot?

Borenbukk 2014.08.08. 13:53:31

@Nazareus: Ha most te a mesterseges intelligencia fele hajlo, esetleg raketa vezerlo programok hiba mentessegevel kapcsolatos vitaban tenyleg azt ohajtod felhozni, hogy dehat a haromszog teruletszamito programok teljes generacioi is...

for i in range(5):
print i

Uh! Igazad lehet, tenyleg sikerult.

Borenbukk 2014.08.08. 13:54:33

@Borenbukk: Basszus, meg ezt sem sikerult hibatlanra. Istbiz, nem szandekos. A hule blogmotor elnyelte a masodik sor behuzasat.

waldorfbalcon 2014.08.08. 13:55:08

Egy olyan rendkívül nagy bonyolultágú szituáció feldolgozásárara írt program, mint amilyen a közlekedés, nem hozható létre hiba vagy bennefoglalt dilemmák nélkül. Jelen esetben csupán ez érdekes.

mt-03 2014.08.08. 13:57:19

sztem tok egyszeru a megoldas.
penfeldobas.
a MI randomgeneralas alapjan dont az egyik vagy masik esetre. igy sok ilyen balestenel kiegyenlitett lesz az aldozatok aranya es nem vadolhato reszrehajlassal.
ha igy is ugy is meg kell, hogy haljon valaki akkor ne legyen elore beprogramozva...

Liquid_Night 2014.08.08. 13:58:32

@különvélemény2: Én hiszek az evolúcióban, de biztos vagyok benne, hogy a kreativitás többet jelent számolásnál...sőt, valójában az a tudománytalan, aki nincs azzal tisztában, hogy a természet horizontjai még mindig mennyire kijjebb vannak, mint a tudományé:)

ON
Amúgy a válaszadók közül kíváncsi lennék, hogy hányan gondoltak arra: nem az előre adott válaszok közül választok, hanem keresek egy harmadikat, ami tán feloldja a dilemmát. Ez is releváns...

Az én válaszom az lenne, hogy ha 50 év múlva mindenki robotautót vezet, akkor én nagyon szívesen fogok autókázni valami vén, kormányos, gázpedálos ócskavas sportautóval - hogy ez mit is jelenthet, akkor már nem fogják tudni. Még akkor is (vagy pláne akkor), ha addigra ezzel kb. úgy fogok kinézni, mint vmi félmeztelen, lovat szőrén ülő eszelős ma, a forgalomban :)

bahahaha 2014.08.08. 13:59:30

@galaxiscsirke: "Az, hogy ha a gépet felkészítjük 1000000 várható helyzetre, biztosan felmerül egy 1000001. eset,amire nem számít,és baj lehet."

Viszont azt konkrétan tudjuk, hogy ha embert engedünk a volán mögé, abból baj lesz. Nem lehet, lesz.

"Még a gépi fordítás sem megoldott"

Az valószínűleg nem is lesz az, mert baromi nehéz, jó eséllyel csak erős MI-vel lehet megoldani, aminek egyelőre nyoma se látszik. Ehhez képest az autóvezetés sokkal-sokkal egyszerűbb probléma.

"Az emberi hibát mindig könnyebb elfogadni,mint a gépit (legalábbis könnyebben található anyázható személy)."

Ez nekem határozottan egy hajánál fogva előrángatott érvnek tűnik, amit semmi konkrétum nem támaszt alá. Egyébként is elég idióta álláspontnak tűnik az, hogy inkább haljanak meg tízszer-szízszor-ezerszer többen az utakon, csak legyen kit hibáztatni.

különvélemény2 2014.08.08. 14:03:22

@bahahaha: "Miért szólna ez a cikk erős MI-ről?"

A cikk egy morális döntés meghozataláról szól, nem egy leprogramozott valószínűségről. Az csak része.
Morális döntést, csak erős mi hozhat.

Mindig ott a keveredés, hogy ami valószínűséget számol ezredmásodperc alatt, az buta gép, mert jelenleg erre csak buta gépek képesek.

Borenbukk 2014.08.08. 14:03:32

@bahahaha: "Egyébként is elég idióta álláspontnak tűnik az, hogy inkább haljanak meg tízszer-szízszor-ezerszer többen az utakon, csak legyen kit hibáztatni."

Egyetertek. Ha megoldando kerdes, akkor jogos. Ha ellenerv a robotautokkal szemben, akkor idiotizmus.

1001nappal 2014.08.08. 14:05:35

A kérdés természetesen álkérdés. Lehet persze sültbaromságokról vitatkozni, elvégre fontos a kattintásszám. Én csak azon csodálkozom, hogy egy rakás műszaki végzettségű ember miért képtelen általános iskola 5-es szinten számolni. Előbb ki kellene találni egy valós problémát, utána lehetne hozzárendelni morális kérdéseket.
Az álkérdésre válaszolva: El kell csapni a gyereket. Elvégre, ha a szülő akkora agyhalott, hogy nem hajlandó 5 dollárt költeni a gyereke biztonságára, akkor ne a vétlen vezető viselje a következményeket.

Nazareus 2014.08.08. 14:05:43

@Borenbukk: Egyáltalán nem a mesterséges intelligencia felé hajló programokra reflektáltam, hanem arra a kijelentésedre, mely szerint lehetetlen hibamentes programot késziteni. Nem lehetetlen.

waldorfbalcon 2014.08.08. 14:06:34

@Liquid_Night: Amennyiben az elterjedtség elér egy bizonyos határértéket, több mint valószínű, hogy nem engednek a forgalomba olyan gépet, amelyik minimálisan nem felel meg az automatizáltsági rendszerkövetelménynek. Jelenleg is valami ilyesmit szolgál a műszaki vizsga, bár más paraméterek alapján. Kicsit hasonlóképpen, mint ahogy nem hajthatsz fel az autópályára segédmotoros kerékpárral.
Mindez azt is jelentené, hogy adott országokban, útvonalakon stb. csak(!) gépi irányítású gépjárművek közlekedhetnek, és az emberi vezetés afféle külön erre a célra kialakított helyeken való hobbivá alakul.

különvélemény2 2014.08.08. 14:07:58

@waldorfbalcon:
Emberi morális problémaként felfogni persze, hogy nem csábító, inkább értelmetlen.

Született már morális döntés az eutanáziáról, vagy az abortuszról?
Pontosan hány ember moralizál rajta, hány évtizede?

Borenbukk 2014.08.08. 14:09:59

@Nazareus: Tovabbra is fenntartom, ez egy allerv. Tokeletesen igaz es tokeletesen irrelevans.
Lasd meg: Lehetetlen az embenek karjaival csapkodva repulni. Szerintem lehetseges, hiszen en is kepes vagyok husz centi magasra felugrani.

waldorfbalcon 2014.08.08. 14:12:29

@Nazareus: Amennyiben az a felfogás, hogy minden bug feature, akkor persze lehet :) De az, hogy mi a "hiba" vagy hibás működés sokszor egyáltalán nem olyan egyértelmű meghatározni, adott körülmények között egy korrekten futó utasítás is lehet "hibás", nem csupán az, amit elsőre annak gondolnánk. És éppen itt van a kutya eltemetve, a hiba nem csupán abszolút, de relatív fogalom is, és éppen itt jön be a cikk által is boncolgatott probléma-halmaz. Azért nincsen hibátlan működés, mert a helyes működés, mindig egy adott feltételrendszer szerint "helyes", márpedig nem minden helyzet ilyen egyértelmű helyzet, a hiba sokszor nem a gépi működésben, hanem a keretrendszer felállításában vagy a mérlegelési szempontokban van. Ott peduig nem létezuik "hibátlan" működés, éppen ez a dilemma lényege.

Az már egy külön problémacsomag, hogy minél komplexebb egy rendszer, annál nagyobb felületen jelentkezhet a hiba, és ezért praktikusan jelentkezik is.

1001nappal 2014.08.08. 14:12:39

@bahahaha: Már most is lehetséges lenne szinte tökéletes gépi fordítót készíteni. Csak baromi drága lenne. A Google-nek lett volna rá pénze, de rosszul döntött.

waldorfbalcon 2014.08.08. 14:13:16

@különvélemény2: Tehát nem is kell róluk gondolkodni? Értelmetlen? Nem gondolnám.

waldorfbalcon 2014.08.08. 14:17:09

@1001nappal: A gugli nem döntött rosszul, nagyon is racionálisan döntött. Arrafelé indult, amihez megvan az adata és kapcitása a statisztikai alapú rendszerek felé.
Jelen pillanatban nem lehet tökéletes fordítót írni, és nem csak azért mert tökéletes fordítás nem létezik. Két magasan képzett ember is másként fog lefordtani egy szöveget. Hanem azért is, mert a nem statisztikai, hanem szabály-alapú megközelítések is rengeteg kihívással küzdenek, és nagyon messze vannak a tökéeltestől. Jelenleg a hibrid megoldások a legígéretesebbek, de még azok is csak gyerekcipőben járnak.
Persze amennyiben végtelen mennyiségű pénz, erőforrás és idő áll redelkezésre, akkor lehetne gyorsabban is haladni. Egyelőre ilyesmi nincs, sima meló van.

különvélemény2 2014.08.08. 14:17:48

@waldorfbalcon:
Félreértettél.
Komment szempontjából gondoltam, mint ahogy te is arra reagáltál, hogy a kommentelők erre indultak el.

Nyilván vannak erre filozófusok, akik, ha másra nem is, arra jók, hogy életük végéig egy megoldhatatlan problémán moralizáljanak. Eközben érveket ütköztetnek, ami nagyon hasznos, mert nekünk átlagembereknek módunk van ezekből az érvekből kiválasztani azokat, amelyekkel egyetértünk, így kialakulhat a saját véleményünk.

1001nappal 2014.08.08. 14:25:13

@waldorfbalcon:
Remélem a google-autók nem statisztikai algoritmus alapján fognak működni. :-)

waldorfbalcon 2014.08.08. 14:26:35

@különvélemény2: Ez így van, viszont a posztíró felvetése nagyon is valós, hogy ezen dillemákra adott választ ki illeszti a gépbe, ill. paraméterezi fel? Fejlesztő, hatóság, user? Ezért is va probléma az önállóan döntő gépekkel. Ott ugyanis az emberi döntéssel ellentétben nagyon mocsarassőá válik a „felelősség” kérdése. Egy embert felelsségre lehet vonni egy adott konkrét döntésért, de egy gépet? Ott már annyira közvetett lesz ez a viszony, hogy azt gondolom, éppen ezért is hárítjuk ma ennek lehetőségét.

1001nappal 2014.08.08. 14:30:00

@waldorfbalcon: Nem létező problémára válasz sem létezik.

1001nappal 2014.08.08. 14:35:56

@waldorfbalcon:
Egyébként pedig "szinte tökéletes" gépi fordításról írtam. Adj nekem 10 programozót egy évre, és megkapod az algoritmusokat hozzá.
Utána már csak pár tízmillió dollárt kell ráköltened, hogy feltöltsd adatokkal. :-)

waldorfbalcon 2014.08.08. 14:39:24

@1001nappal: Pedig sok szempontból a döntései mögött bizony statisztikai modellek állnak :) Jelenleg is azt csinálja, hogy feltételezi, hogy az adott aktorok viselkedése bizonyos keretek között megegyezik a statisztikai valószínűséggel. Például, hogy a szembesávból nem fognak kétmásodpercenként hirtelen elévágni, hiszen ez esetben olyan alacsonyra kellene vennie a sebességet, hogy ezt ki tudja védeni, ami használhatatlanná tenné.
Mint ahogy persze a mi agyunk is bőséggel használja ugyanezt a megközelítést, szóval nem olyan rossz az :)

waldorfbalcon 2014.08.08. 14:40:48

@1001nappal: Szerintem ezek a problémák nagyon is valósak, és ahogy fejlődik a technológia egyre valósabbak lesznek. Sokat fogunk mpég ezen töprengeni, meglásd.

waldorfbalcon 2014.08.08. 14:42:00

@1001nappal: Tudod, hányszor hallottam már ezt :) De fő az optimizmus!

Szakyster 2014.08.08. 14:48:09

Amúgy igencsak tipikus, hogy az emberek nem eszeretnek választ adni ilyen problémára, rettegnek a vérmatektól. MIndenki csak a kibúvót keresi.

galaxiscsirke 2014.08.08. 14:48:34

@bahahaha: Nem látom,hol van az a mondatom,ahol azt az álláspontot közlöm,hogy inkább haljanak meg 1000x többen. Bár anno a lovaskocsi kitalálásakor nem volt ennyi agyalás előtte,pedig alapvetően az is felfogható önvezető járműnek: a kocsis "kiesése" esetén ló backup üzemmódban hazatalál kocsistul,és mégse tiltakoztak ellene,pedig a ló is megvadul néha,és belemegy kocsistul az árokba. Elfogadták,hogy ezzel jár, vmit vmiért (bár a balesetben meghaltak hozzátartozóit ez nem vigasztalta akkor se,és most se fogja).
Az autóvezetés NEM egyszerű probléma. Maga a képfelismerés sem az,és az elég lényeges szerepet játszik ebben (hiába egészítik ki az autót infrakamerával,radarral,sok gyorsulásmérővel,GPS-szel és társaival,a képfelismerés a döntő. Ha pl. kirakják a papírrendőrt az út szélére, akkor a kamera emberként fogja felismerni (száz méterektől hiába több kamera,3D,nem fog értékelhetően térbeli képet alkotni),és ha el akarja kerülni az alagút-esethez hasonlókat,akkor szépen nekiáll lassítani,mert az algoritmus szerint útszéli ember bármikor kiléphet,ezért csökkenteni kell a várható féktávot. Ha bokor mögött mozog a szarvas az ágak között szélben, a kamera nem fogja "sejteni" (mert mi alapján sejtené), hogy ott akár szarvas is lehet,és nem fog lassítani. Ha meg mégis,akkor bokorsor mellett 10zel fog elmenni,mert a képparaméterek szerint akár szarvas is lehet bármelyik mögött. Ami az embernek magától értetődik képfelismerés szempontjából (nagyságkonstancia,színkonstancia,hasonlók),az a gépnek egyáltalán nem az. Neki különböző forrásokból kell az infot összegyűjteni (+radar, +infra, stb), és összegezni. Akár hőkamera is lehetne rajta,nagyban segítené az állatok,emberek felismerését,de mi van,ha hófúvásban kabátos ember megy az út szélén, szabálytalanul a jobb oldalon? Abból nem sok hőt fog látni,a hó meg a körvonalakat fogja elmosni,tehát megintcsak vért izzadhat a proci,mire kitalálja,hogy mi van előtte (a radarnak meg rontja a hatásfokát a hó). Tehát szabályrendszer szempontjából ha egyszerűbb is az autóvezetés,minden egyéb tekintetben 1000x bonyolultabb gépi szemmel.

Macropus Rufus 2014.08.08. 14:55:58

@bahahaha:
"A közúti balesetek csökkentése"
a cikk pont arról szól, hogy lehetnek gondok. Továbbá a balesetek csak akkor fognak csökkeni illetve megszünni, ha az összes autó robot lesz. Azok egymással fognak kommunikálni. De amíg egyfajta hibrid közelekedés lesz, élő veztő álltal vezetett járművek és a szoftverek állalt vezetettek egyidőben lesznek az utakon, véleményem szerint a balesetek száma meg fog nőni. Az emberri marhaságra nagyon nehéz felkészíteni egy autót ami szabály rendszer szerint megy.

Egy példa: 2x1 sáv. A külső sávban egy ember vezette jármű rakodik, vészvillógóval áll, fogja a sávot. A szabály az, hogy csak akkor mehetsz át a másik sávba, ha ott nem jönn semmi illetve ha beengednek. Namost sok esetben az ember vezette jármú szarik arra, hogy te ott szívsz. Mit csinál ilyenkor a bátrabaj? Betolja az orrát a másik sávba, ezzel megállásra készteti az ott jövőt. Ez szoftver nem tudja áthágni a szabályokat. Ha meg beletáplálod a szabályok áthágását, semmivel nem lesz jobb sofőr mint egy ember.
Tehát a szoftver vezérelte autó ott fog várni amíg valaki be nem engedi őt. Mind ez a tisztán szoftver vezérelte autók környezetében nem fog előfordúlni, de hamarabb lesz hibrid közlekedés mint tisztán szoftveres.

"és hogy ne arra pazarolják az idejüket az emberek, hogy autót vezetnek"
taxi, busz, vonat, repülő, haj, stb...

Macropus Rufus 2014.08.08. 14:58:39

@Gera: ebben igazad van. De egy automerőművet nem piacra szánnak. Értem ez alatt nem kell nagyon versenyeznie senkivel, hogy ő legyen az első. Egy autó esetében évente hoznak ki új modelleket, valószínáleg a firmware is évente fog frissűlni. (lásd pl. a tévék esetében, hogy néha 2 hetente jönn új upgrade. Mi a túrónak?)
A kocsiknál is lesz. És ha már dömbingről van szó, ott a lehetőség a hibázásra is. Mert siteni kell, hogy hamarabb legyen a mi vasunk az úton mint a konkurenciáé. Ez a gond - ahhogy írtad is - a telefonokkal. (többek közt)

galaxiscsirke 2014.08.08. 15:05:50

@FeroxX: Az ilyen visszaéléseket nemigen lehet kivédeni, semmilyen rendszerrel. Clarke írta az Űrodüsszeiában,hogy lehet olyan gépet építeni, ami szinte minden üzemzavar,baleset,kezelési hiba ellen véd. Viszont képtelenség olyat építeni,ami a szándékos emberi rosszindulat ellen is véd. Bármit is csinálnak a robotautókkal,akármilyen tökéletesre sikerül fejleszteni,mindig lesz olyan,aki visszaél a dologgal,és rosszindulatú módon használja,akár tetszik,akár nem.
"Kedvencem" a ráfutás: bátyám elé bevágott 1 idióta robogós futár Bpn kereszteződésben,féktávon belül,lett is kopp. A poén,hogy egy közelben levő rendőr is látta,oda is ment,és arra jutottak,hogy hacsak nincs folyamatos kamerafelvétel,akkor mindenképp a bátyám lesz a hibás,mert utólag senki nem bizonyítja,hogy nem volt régebben előtte a robogós. Tehát ha vki a járgánya hátulját más számlájára/biztosítójára javíttatni akarja,ez 1 tökéletes módszer, ugyanis a szabály megfogalmazása lehetővé teszi adott körülmények között a szabály pofátlan kihasználását. Robotautó dettó: akárhogy is lesz,mindig lesz olyan lehetőség,amiben a bizonyítékok alapján a szabályok szerint történtek a dolgok, a gép a program szerint döntött,ami az adott kimenetelhez vezetett,így vagy nem lesz felelős,vagy mindenki az,akinek köze volt a dologhoz.

waldorfbalcon 2014.08.08. 15:08:51

@Macropus Rufus: Természetsen még nem tudhatjuk, de én azt gondolom, talán nem több, mint inkább kevesebb balaset lesz a hibrid időszakban is.

Egyrészt ilyen kritikus környezetben működő rendszereknél jellemzőbb az óvatosabb, kockázatkerülő beállítás. Szóval igen, valszeg ott fog dekkolni háromszor annyi ideig a robotautó, cserébe nem megy bele a rizikósabb szitukba, amibe egy ember simán.

Másrészt az eddigi low-tech „robotizáció” is inkább segítette a túlélést. Ebbe beletartozik a biztonsági üveg, a légzsák, az abs, újabban a sávtartó, követési távolságfigyelő, fékerőelosztó stb. Persze ennek van olyan hatása is, hogy van, aki ettől felbátorodik, hogy ó, majd a technika megoldja, és belemegy csínbe, amit már a humán szoftverrel nem tud kezelni. De arányában azt gondolom, jobb eséllyel lehet túlélni egy modern autóban, mint mondjuk egy 50 évvel ezelőttiben. És valószínűleg egy 50 későbbiben még jobb eséllyel lehet majd.

Ebből a szempontból én optimista vagyok, azzal egütt, hogy egyébként imádok vezetni, és nem szívesen adnám át a kontrollt egy gépnek :) Ugyanakkor például örülök, hogy a repülőn, amin ülök van mondjuk robotpilóta és automatikus segédlet, és a reptéren, ahová leszállunk rengeteg radar és szenzor segíti a közlekedést.

bahahaha 2014.08.08. 15:19:33

@1001nappal: "Már most is lehetséges lenne szinte tökéletes gépi fordítót készíteni."

És pontosan mi alapján állítod ezt? Ugyanis amennyire én követem a terület fejlődését, ez komoly helyeken nem merült fel.

1001nappal 2014.08.08. 15:20:31

@waldorfbalcon:
Ez a probléma konkrétan nem létezik. Nem létező problémához morális paradoxonokat rendelni szerinted nem ostobaság? (Általános iskola 5-es matek + józan ész kell annak a belátásához, hogy a probléma nem létezik.) Én elhiszem, hogy remek időtöltés álproblémákon agyalni. De azért lássuk be, hogy egy üzleti vállalkozás (robotautó-gyár) ilyenekbe nem fog belemenni, tehát a morális probléma ebben a formában egészen biztosan nem fog felmerülni.
Ez ugyanis személyes tapasztalat. Bár én más szempontból vizsgálom a közlekedésbiztonságot (hibrid mopedautó építése), és csak hobbiból, de a poszt számomra már az elejétől "bűzlött". Gondolj bele, hogy akinek ez a szakmája, és évek óta űzi, mennyi időt szán az álproblémákon agyalásra. Szerintem semennyit.

1001nappal 2014.08.08. 15:24:07

@bahahaha: A Google Fordító tesztelése alapján állítom. Bizonyos algoritmusok segítségével a félrefordításainak a 99%-a kiküszöbölhető. Komoly helyek nincsenek a gépi fordításban. Sajnos. Őskövületek vannak és szerencsevadász startupuk.

Kovacs Nocraft Jozsefne 2014.08.08. 15:24:55

@különvélemény2:

Vagy nem is a programozó, hanem az, aki a szempontokat, preferenciákat felállítja. Ez még akkor is igaz, ha ma még nem is létező, igen fejlett AI dönt.

De ez nen gond. Semmi akadályát nem látom annak, hogy az AI-t testre szabják. A tulaj választ ad pár kérdésre (pl. konfliktus esetén kit védjen meg az AI), és az AI a válaszok alapján dönt ilyen esetekben.

A posztoló valahogy kifelejtette ezt a leheőséget, pedig egy program testre szabása már ma is alapvető funkció.

bahahaha 2014.08.08. 15:24:56

@Macropus Rufus: ""és hogy ne arra pazarolják az idejüket az emberek, hogy autót vezetnek"
taxi"

ROTFL. Több kérdésem nincs.

bahahaha 2014.08.08. 15:27:34

@1001nappal: Bocs, de azt kell mondanom, hogy nyilvánvalóan fingod sincs arról, hogy mit beszélsz.

És itt csatlakoznék azokhoz, akik szerint az ilyen fajta elmélkedésnek, mint ami itt a posztban meg utána sok hozzászólásban is volt, sok értelme nincs, mert olyan problémákról töprengenek, amik alapvetően nem értenek meg. Philosophy is dead, ahogy Hawkings mondta.

waldorfbalcon 2014.08.08. 15:32:49

@1001nappal: Azért ez nem egészen így van, a posztíró is hozott valós példát az önállóan döntő harci drón kérdésével, ezt én is követtem anno a sajtóban.

Automata vonat, metró már jóideje forgalomban van. Az önvezető autók Kaliforniában bevezetés előtt állnak, máshol is megy a fejlesztésük ezerrel. Amint kint lesznek nagyobb számban az utakon ezek éles problémák lesznek, és nem mindegy, hogy előtte vagy utólag zajlik a vita és születik döntés ezekben a kérdésekben. Erre való a társadalmi vita.

Hasonló ez kicsit a génekzelt növényekhez, állatokhoz, klónozáshoz stb. Ott is technológia és morális, humán etikai kérdések ütközéséről van szó. És ott is nagyon fontos, hogy ez az érv-ellenérv ciklus sokszor körbeérjen, hogy minél megalapozottabb döntések születhessenek. Az automatikus közlekedésnél ugyanez a helyzet. Jobb felvetni ezeket a kérdéseket modellként, és végiggondolni a lehetséges kimeneteleket, megelőzve, amit meglehet, mint megvárni x számú tragédiát és utána hümmögni.

1001nappal 2014.08.08. 15:37:18

@bahahaha: Biztos, hogy fingom sincs hozzá, elvégre te mondod, a Hatalmas Elme. Igaz, hogy évtizedek óta foglalkozom a témával, ismerem minden próbálkozását és "eredményét", de nyilván te mindenhez jobban értesz nálam. :-)

venmarton 2014.08.08. 15:39:41

@waldorfbalcon: "@Macropus Rufus: Természetsen még nem tudhatjuk, de én azt gondolom, talán nem több, mint inkább kevesebb balaset lesz a hibrid időszakban is."

Addig szerintem a Google sem terjeszti ki a teszteket amíg ebben nem biztosak.

bahahaha 2014.08.08. 15:41:39

@1001nappal: Aha. Persze. Ez teljesen hihető. Egy csendes zseni, aki olyan területtel fogalkozik otthon hobbiból, amit egy rakat ragyogó koponya kutat, de neki sikerült kitalálnia valamit, ami hatalmas áttörést hozhatna a témát, de szerénységből ezt inkább megtartja magának, mert nem akarja gennyesre keresni magát.
Minden második kommentelő ilyen.

waldorfbalcon 2014.08.08. 15:41:43

@Kovacs Nocraft Jozsefne: Azért a testreszabás is nyilvánvalóan csak adott keretek között érvényesíthető. Például adott törvényi keretek között. Nem mondhatom pl. hogy a súlyos testi sértés még belefér, hogy 10 perccel előbb érjek be a munkahelyemre (szándékosan túlzó példa), és az sem evidens, hogy más élete fölött rendelkezem. Ezért is büntetik pékldául a cserbenhagyást, pedig ott csak passzív mulasztás van.
Ezeket a törvényi kereteket pedig valahgyan létre kell hozni, ami megint csak sok esetben morális kérdés (a törvények nagyban támaszkodnak erre). Többek között ezért sem értelmetlen ezekenk a kérdéseknek a feszegetése. Ha olyan törvényeket hoznak, amelyek nem egyeznek a morális érzékkel, abból komolyan feszültségek keletkezhetnek, ezért nem árt kicsit nyilvánosan és közösen is agyalni minderről.

odamondó 2014.08.08. 15:42:46

14% szerint, mivel a sofőr valószínűleg felnőtt, így a gyerek még többet élhet"

14% retardált mert nincs semmiféle sofőr épp erről szól a dilemma.

1001nappal 2014.08.08. 15:43:19

@waldorfbalcon: Én már csak egy valós (morális) problémát várnék, amin érdemes elgondolkodni. A drónkérdés kívül esik a robotautóval kapcsolatos morális problémákon. Az alagút-példa egyszerűen nem vet fel morális kérdést. A robotautó minden esetben kivédi a balesetet.
Meg kellene tanulni számolni (és minimálisan gondolkodni) a filozófusoknak, az MI-szakértőknek és a programozózseniknek, mielőtt bölcselkedni kezdenek. Ilyen egyszerű.

waldorfbalcon 2014.08.08. 15:45:47

@venmarton: Így van, ebben én is biztos vagyok. A gugli autónak eddig pl. egyetlen balesete volt tudtommal, és pont akkor, amikor ember vette át a irányítást. Nekik is óriási blama lenne, ha kiengednék őket az utcára és egy rosszul sikerült szoftverfrissítés után mondjuk elkezednék letarolni a gépek az utcákat, mert a járdát tekintenék érvényes felületnek. Én egy olyan 15-20 év múlvára látom sanszosnak a hibrid közlekedés beindulását.

waldorfbalcon 2014.08.08. 15:47:01

@odamondó: Egyelőre úgy szól az elképzelés, hogy az utasnak képesnek kell lennie átvennie az irányítást, tehát jogosítvánnyal kell rendelkeznie, ergó felnőtt.

venmarton 2014.08.08. 15:47:05

@1001nappal: "Ez a probléma konkrétan nem létezik"

Szerintem nagyon is létező probléma. Ha naponta Amerikában az utakon mondjuk 30 halálos baleset van, és ebből akár 1-2-ben egy robotautó működése lesz felelős, akkor 5-10 évre eláshatja a Google ezt a programot a közvélemény reakciója miatt.

1001nappal 2014.08.08. 15:48:12

@bahahaha: Nincs néhány tízmillió dollárom. Ha neked van, szívesen együtt dolgozom veled. Már ha gennyesre akarod magad keresni. De te nyilván ennél szentebb ember vagy.

Laciii 2014.08.08. 15:48:19

@galaxiscsirke:
"ha hófúvásban kabátos ember megy az út szélén"
Akkor vezetsz majd te, az esetek maradék 99,9%-ban meg vezet a gép.

dukeekud 2014.08.08. 15:49:21

Szerintem mar kerdes feltevese, hogy majd "MI dont helyetunk" hibas.
Mert valojaban az vezeteshez, nem kell mesterseges intelligencia. Primitiv logikai aramkorokkel mar 30 evvel ezelott is megoldhato lett volna, legfeljebb a szenzorok hianyoztak. Az autovezetes csak az ember szamara tul bonyolult.
A balesetek 99.9% alapveto emberi hibak miatt kovetkezik be,(gyorshajtas, alapveto kressz szabalyok be nem tartasa, eves, ivas, alvas, kutyasimogatas, aggreszio, telefonalas) Ilyen hibak egy automatanal eleve kizartak.
Es nezuk meg statisztikakat. Evente vilagszerte 1.3 millio ember hal meg es 50 millio serul meg kozlekedesi balesetben. Szoval azert mert a robotautok esetleges hibaja miatt, tortenik majd nehany baleset,(amiket valoszinuleg a legprofibb sofor sem tudott volna elkerulni), inkabb hagyjuk, hogy tovabbra is millio szamra haljanak, es 10 millios nagysagrendben seruljenek meg az emberek ? (sok milliardos anyagi karrol mar ne is beszeljunk)
A valasztas, nem lehet ketseges, millionyi ember eletet kell osszevetni nehany ember eletevel.

venmarton 2014.08.08. 15:50:57

@waldorfbalcon: Olvastam erről szakmai véleményeket, a pesszimisták mondtak 15-20 évet. :)

waldorfbalcon 2014.08.08. 15:53:38

@1001nappal: Persze kiagyalhatunk egy valós szituációkat akár a meglévő rtechnológiai alapokra is.

A robotautó nem tud kivédeni minden helyzetet, épp arról beszéltünk fentebb, hogy a való világbeli működés feltétele ilyenkor is a kockázat, azaz a statisztikai feltételezése adott működési feltételeknek, környezeti változóknak,mások viselkedésének stb. Különben bármilyen veszélyhelyzet csak úgy lenne elkerülhető, ha az autó egy hermetikusan lezárt tűz-víz-saválló betonbunkerben egyhelyben áll.

A puszta számolás pedig nem minden esetben elég. Különben nem létezne sem erkölcs, sem morál.

1001nappal 2014.08.08. 15:56:19

@venmarton: A konkrét alagút-probléma nem létezik. Aki kitalálta, nem tud számolni. (Vagy képtelen józan paraszti ésszel gondolkodni.) A robotautó teljesen más elvek alapján fogja irányítani az autót, mint ahogy az ember vezet. Ehhez kell némi józam paraszti ész és némi matek. A konkrét szituációban a robotautó fél méteren (!!!) belül megáll. (A józan ész szabályai szerint nem közelíti meg a szituációt nagy sebességgel!!!! Erre való a központi és a fedélzeti kockázatelemzés, valamint a fixen telepített és az autóba épített érzékelőrendszer.) Számoljál már egy kicsit!

odamondó 2014.08.08. 15:56:37

@waldorfbalcon: egyelőre. A példa meg arról szólt hogy mit tegyen egy robotautó. Semmiféle sofőr nem volt említve.

waldorfbalcon 2014.08.08. 15:58:29

@venmarton: Én nem arra gondoltam, ohgy akkor fog elindulni az első ilyen autó a közlekedésben, hanem hogy akkorra lesz olyan mértékben elterjedt, hogy mondjuk a magyar autóforgalom 2-5%-át adja (ami mondjuk az usa-ban 8-10% körüli, Japánban meg mondjuk 15% (ott nagyon sok az idős vezető, régóta keresik a megoldást, nagy az igény). Ezt már lehetne hibridnek nevezni.

waldorfbalcon 2014.08.08. 16:00:55

@odamondó: Átlagemberek válaszoltak a jelen helyzetből kiindulva, amikor a söfőr felnőtt. Ahogy a poszt is említi rengeteg tényezővel elehet színezni az adott szituációt, gyerek a hátsó ülésen stb.

1001nappal 2014.08.08. 16:04:11

@waldorfbalcon:
Az általános morális kérdés ott dől el, hogy 100%-os robotautó-közlekedésnél a halálesetek száma millióról lecsökken ezerre. Innentől kezdve nincs kérdés. A gyerek szituáció pedig fantáziatermék. A legtöbb halálos baleset biciklis és gyalogosgázolás valamint ütközés. Az ilyen szituációk 99,9%-ában nem merül fel morális kérdés. Ezek kivédésében (ténylegesen) ezerszer hatékonyabb a robotautó. Akkor mi is a morális kérdés? Hogy évi egy esetben esetleg rosszul dönt az MI? Ugye viccelsz?

waldorfbalcon 2014.08.08. 16:10:09

@1001nappal: Mondok egy valós szituációt: autópályán megengedett 130-al (németeknél mondjuk akár 180-al) megy a robotautó a belső sávban. Autópálya két felét sűrű sövény választja el. Emögül kilépve valaki átrohan a pályán, a melletted lévő sávban egy kamion halad. Ennél a tempónál nem fogsz megállni fél méteren belül, vagy elütöd vagy elrántva a kormányt a melletted lévő kamiont trafálod el, mindkettő valószínűleg halálos. De az átrohanó ember helyett választhatjuk azt is, hogy bekerül a képbe egy fazon aki nem vette be a Cavintont és szembe hajt fel a pályára (minden évben van ilyen) az előtted lévő furgon, ami miatt nem is láthatod, még félre tudja kapni a kormányt , de neked már szembe jön 120-al és megint vagy frontális ütközés vagy korlát vagy a másik oldali kamion.

Gyárthatunk ilyeneket, shit happens all the time. De az alapkérdés nem ez, hanem hogy milyen döntési paraméterekkel lássuk el a gépet olyan helyzetekre, amely számunkra is nehezen megoldható döntés. Erről szól a poszt és ez a valódi feladvány.

galaxiscsirke 2014.08.08. 16:11:38

@Laciii: Ha nem is ennyire kihegyezve,de kb. így van. A repülők többségét III. kategóriás reptéren a robotpilóta képes leszállítani a földig (nem csak látótávolságig megközelíteni). Mégis mindig a pilóta vezet leszállásnál, szélcsendes tiszta időben is. Vajon miért? Pedig a repülőtér jóval szigorúbban kontrollált környezet. Talán azért, mert még ha 0.001% is a gépi hibázás esélye, az éppen 0.001%-kal több a megengedhetőnél. Természetesen lehet jönni a pilótahibákkal,vannak is,baj is van belőlük. De ezzel szembeállíthatjuk az egyes rendszerek hibáját is,amikből szintén elég nagy gáz szokott lenni,de akkor ott az ember,aki ott és akkor rögtönöz és korrigál. Attól még messze vagyunk,hogy annyira redundáns legyen egy gépi rendszer,hogy az egyik alrendszer hibáját felismerje a rendszer és kijavítsa,ÉS mindez még költséghatékony is legyen. Pl. minimum 3 példány kéne a vezérlő számítógépből a robotautóban (meg akkor már minden érzékelőből is), mert ha csak 2 van,és azokból 1 bármi hiba folytán hibásan dönt,a másik jól,akkor honnan találja ki a rendszer,melyiket fogadja el? De 3-ból jóval valószínűbb,hogy 1 időben csak 1 fog hibázni,és a rendszer a másik 2 azonos programja szerint műxik tovább.

waldorfbalcon 2014.08.08. 16:15:56

@1001nappal: Ez két külön kérdés.

Az egyik, hogy mikor éri el a 100%-os arányt a robotautó penetráció. Véleményem szerint sokára. Még a legfejlettebb területeken is mondjuk úgy 40-50 év, globálisan szvsz sokkal több. Szerintem pl. lesznek olyan pályák, ahová mr csak ilyennel lehet fehatjani stb.
Csökkenni fog-e a balesetek száma? Szerintem egészen biztosan.

A másik, hogy 100%-os penetráció megold-e minden kérdést? Biztosan nem. Tuti, hogy az életbeli tapasztalatok alapján folyamatosan finomítani kell a rendszert, ugyanúgy ahogy azt pl. a repülésbiztonságnál látjuk. Van, amire fel lehet készülni és sajnos vannak a try and error esetk, amikor a tragédiákra adott reakciókból jönnek létre a biztonságosabb megoldások. Ez fog történni a robotautókkal is. Ez a dilemma megvolt/van a repülésben is: kivehesse-e az ember kezéből a gép a teljes irányítást adott szituációkban?

bahahaha 2014.08.08. 16:19:21

@galaxiscsirke: "Mégis mindig a pilóta vezet leszállásnál, szélcsendes tiszta időben is."

Pontosítsunk: pilóta vezet leszállásnál szélcsendes, tiszta időben. Rossz látási viszonyoknál meg az automata.

"Attól még messze vagyunk,hogy annyira redundáns legyen egy gépi rendszer,hogy az egyik alrendszer hibáját felismerje a rendszer és kijavítsa,ÉS mindez még költséghatékony is legyen."

Egyáltalán nem. Ahol kritikus rendszerek vannak, ott mindenhol ez van (repülőgépeken is) és teljesen nyilvánvalóan ez lesz az önvezető autóknál. Lehet, hogy most még viszonylag drága, de ez csak elektronika, annak meg kőként zuhan az ára.

@waldorfbalcon: Erre gyárthatunk elméleteket, csak ezzel az van, hogy ezek a problémák egyáltalán nem így, nem ilyen formában fognak jelentkezni a konkrét vezérlőszoftver számára. Emberi sofőröknél is gyárthatnánk erről remek filozófiai problémákat, csak az van, hogy a valóságban az ember úgyis csak annyit csinál, hogy rátapos a fékre meg agy nélkül elrántja a kormányt, teljesen mindegy, hogy mit szülnek meg a filozófusok.

venmarton 2014.08.08. 16:20:02

@galaxiscsirke: "Mégis mindig a pilóta vezet leszállásnál, szélcsendes tiszta időben is. Vajon miért?"

Erről kérdeztem egyszer egy Malév pilótát, az volt a válasza: Mert ha a robot pilóta szállna le, akkor nem lenne a munkában semmi érdekes." :)

galaxiscsirke 2014.08.08. 16:21:06

@waldorfbalcon: Ez jó kérdés,és valós probléma,de ilyen helyzetekre kiterjedtebb beruházással is lehet megoldás (nyilván az se 100%-os,de nagyban csökkentheti a kockázatot): az autópálya, fokozottan veszélyes terület lévén,rendesen bekamerázandó. Ha megoldható lenne kellő sebességű rádiós adatátvitel a pályáról az autóknak,akkor a robot az előtte levő pályakamerák képeiből is tájékozódhatna,és oda is belátna,ahova az autóból nem tudna (pl. a szemből felhajtás következményeit kivédené,mert kilométerekkel előtte tudna róla, az más kérdés,hogy egyéb rendszerekkel eleve ki kéne küszöbölni a szemben való felmenést már a felhajtónál).

steery 2014.08.08. 16:25:00

Ezt a dilemmát rendkívül egyszerű módszerekkel meg lehet oldani. Íme a listájuk:
1. Minden robotautó kizárólag a benne ülő utasáért felelős, őt kell életben tartania. Épeszű ember ugyanis nem vesz olyan kocsit, illetve nem ül be olyan kocsiba, ami esetleg megölheti őt, nem törődve a védelmével.
2. Ha egy robotautó képes rá, hogy moralizáljon és esetleg megölje az utasát, azt nagy piros címkével fel kell tüntetni az oldalán, hogy az ember beszállás előtt eldönthesse: akar-e ilyen kocsin utazni és kockáztatni az életét vagy nem? Az öngyilkosjelöltek imádni fogják!
3. Vissza kell fogni a rohanó világ tempóját. Minden autó és különösen a robotautók menjenek olyan sebességgel, aminél karambol esetén még túlélik az utasok az ütközést, a biztonsági öveknek és légzsákoknak köszönhetően (30-40, max 50 km/h). Ekkor nem gond, ha a kocsi biztonsági okokból nekihajt egy kőfalnak. Legfeljebb sokat káromkodnak utána a nyakfájós utasok. Ezen sebesség fölött egy kocsi csak emberi vezetővel mehet, így övé a felelősség és nincs probléma.
4. Az óvodában (nem az iskolában!) minden 3-4 éves kisgyereket meg kell tanítani arra, hogyan kell biztonságosan közlekedni. Ha kiugrassz a kocsik elé az útra, el fognak gázolni és ocsmány módon meg fogsz dögleni. Ezt a legjobb valódi esetekkel (kép, film, jajgatás, boncterem, temetés) illusztrálni, hogy utána rémálma legyen a kölyköknek és egy életre megjegyezzék a leckét.
5. Minden kocsi orrára az ütköző fölé légzsákot kell szerelni, ami felfújódik, mielőtt a gyerek vagy őzike teste nekicsapódna.
Ész kész. Probléma megoldva.

venmarton 2014.08.08. 16:25:24

Akit érdekel, az alagút probléma egyébként egy korábbi dilemma robotosított változata:

en.wikipedia.org/wiki/Trolley_problem

waldorfbalcon 2014.08.08. 16:36:33

@bahahaha: Írod:
„a valóságban az ember úgyis csak annyit csinál, hogy rátapos a fékre meg agy nélkül elrántja a kormányt, teljesen mindegy, hogy mit szülnek meg a filozófusok.”

Így van, a hús-vér ember valóban csak erre képes, pontosan ezért nem mindegy, hogy a nem csak pánikreakcióra képes gépet milyen döntési paraméterekkel és szempontokkal ruházzuk fel. Mi, pánik nélkül higgadtan végiggondolva. Pont ez a lényeg: mi lesz a jó döntés?

waldorfbalcon 2014.08.08. 16:46:54

@venmarton: A jó sci-fi szerzők, Asimov, Lem stb. egyébként jókat agyaltak ezeken a problémákon, és egyes állításaik mint pl. a robotika 3 alaptörvénye máig hivatkozási alapnak számítanak. Nem szabad elfelejtenünk, hogy mi alapból emberből vagyunk, a magunk képére alakítjuk a világot, és így a gép-ember viszonyt is. A (morál)filozófia, ezeken a kérdéseken való töprengés, éppen ezért nem hülyeség, hanem a világhoz való viszonyunk egyik legfontosabb alaprétege.
(Félreértések elkerülése végett az is egyfajta filozófia, hogy „basszon el akár egy egész óvodáscsoportot is, ha elém kerül, leszarom” – csak az egyszerűbb fajtából.)

Érdekes lenne egyébként (ez is gyakran felmerülő toposz), ha az ünnepelt erős AI úgy döntene, hogy az ember helyett inkább magát menti, mert értékesebb nála. Na akkor már mondhatnánk, hogy belépett a játékba egy új szereplő.

waldorfbalcon 2014.08.08. 16:50:50

@galaxiscsirke: Igen, de ez megint csak technikai kerülő, az alapként feltett morális kérdésre nem ad választ.
Nem mintha az könnyű lenne, sőt piszkosul kényelmetlen, ezért is kerülgetjük, hiszen egyrészt alapvetően arról szól, hogy mennyire vgyunk önfeláldozóak, másrészt arról, hogy ezt az önfeláldozási kérdést mennyire mernénk rábízni egy tőlünk független fgépi aktorra, aki majd dönt, hogy mi mennyire vagyunk feláldozhtóak. És pont itt van a probléma, ha az ilyen típusú döntés (kegyetlenség/kegyelem, önzetlenség/önzés) kikerül a mi hatáskörünkből, azt bizony nem könnyű megemészteni. Nagyon nem. Ez a lényeg, semmi más.

Liquid_Night 2014.08.08. 16:53:48

@waldorfbalcon: Ez fejben nagyon szép. Így születik az összes tudományos-futurista vízió, amiből persze semmi sem valósul meg, és nézünk bután, hogy arra miért nem gondoltunk, ami aktuál történt. Pedig milyen nyilvánvaló vót...

Szerintem ez a robotautós hype kb. annyira reális, mint a fegyverek és a 3D nyomtatók parája...

Jelenleg 2014ben is láthatsz 17ik századi amish lovaskocsikat az utakon, nem itt, hanem Amerikában. Ami azt illeti, a nem ok nélkül hírhedt 4es főúton is láthatsz kalapos öreg bácsit lovaskocsin a román kamionok között, pedig ő még vhol a 19ikben él:) Node legyünk realisták...vannak veteránautók, meg vannak múzeálisak is, közlekednek, mehetnek, pedig újan azokkal a képességekkel sehol se kapnának típusbizonyítványt.

Másrészt meg nem hinném, hogy az amerikai autós kultúra benyelné azt, amit leírtál. Nem azért írom ezt, mert túlzottan ijesztő és így hárítom. Hanem azért, mert hiába látod a Priust, meg a többi szép új világos nonszenszt a médiában mindenhol (tényleg ideje lenne már egy újabb áttörésnek, én is várom, de csak nem akar jönni), az Average Joe bizony V8assal nyomul ma is ha tud, és ők vannak többen...ami azt illeti, az európai se nyelné be, németeknél pl. mekkora ellenállás van az autópályás sebességkorlátozások ellen? És ha ő nem hajlandó feladni azt a jogot, hogy 250el nyomja az Autobahn-on, akkor azt elfogadná, hogy mostantól már csak utasként ülhet a személyi járművében?:)

Talán Anglia lenne az, ahol el tudnám ezt képzelni...ott lassan már a konyhakést is betiltják, a pimpelt autós srácok pedig lassan a terroristával lesznek egy szinten:) (de már kezdenek rájönni, hogy mi lesz, ha nem szólalnak fel a Nanny State ellen)

waldorfbalcon 2014.08.08. 17:03:58

@Liquid_Night: Persze, viszot a vteránautók külön rendszámmal és engedélyel mehetnek, autópályán sem nagyon látod őket, és 90%-uk nem menne át a műszakin, okkal.
Én is ezért írtam, hogy ez az átmenet lassú lesz, de az irány valószínűleg az egyre robotizáltabb közlekedés lesz.
Nem olyan régen pl. az eus szabályozók közé is kötelezően be akarták venni egy olyan technológia beépítését, amely egyszerűen nem engedné gyorsabban haladni a járművet az adott területen érvényes sebességhatránál. Mondjuk szerencsére, mert a sebeségtúlépés mellett az is veszélyes lehet, ha nem tudsz kimenekülni egy helyzetből.
Ezek egyre inkább erősebbek lesznek, mivel rengeteg ember hal meg az utakon békeidőben, kvázi mintha egy kisebb háború lenne, és ennek csökkentése érthető törekvés. Egyik eszköze pedig a közlekedésmbiztonsági eszközök fejlődése, aminek része az automatizálás is.
A másik jelenség egyébként, hogy az usa-ban is csökken az autóvezetés kedv, mégpedig a fiatalok körében, nézd csak meg a statisztikákat!
Én is szeretek vezetni, mindenem a technika, de a trend egyértelmű, a kérdés csupán az idő.

Laciii 2014.08.08. 17:13:53

@waldorfbalcon:
"(Félreértések elkerülése végett az is egyfajta filozófia, hogy „basszon el akár egy egész óvodáscsoportot is, ha elém kerül, leszarom” – csak az egyszerűbb fajtából.)"
Mi jogon jelented ki, hogy egyszerűbb? Ha ma kivezetik őket az út közepére lehet holnap egy medvebarlangba mennek és akkor hiába halsz meg te vétlenül más baromsága miatt.

waldorfbalcon 2014.08.08. 17:18:15

@Laciii: Nyilvánvalóan arra utaltam, hogy a szimpla önzésen túl, amit bárki egyszerűen elő tud állítani, léteznek egyéb magatartásformák is. Persze nagyon bonyolultan is el lehet jutni az pure önzésig, de a többség azért nem fárasztja ezzel magát.

Laciii 2014.08.08. 17:37:41

@waldorfbalcon:
De mit nevezzünk szimpla önzésnek? Meghalni és magára hagyni a családodat minden bajjal nem önzés?
A halál a túlélőknek nehéz, biztos az az önző aki lemond a túlélésről, hogy a saját lelkiismeretét kímélje és átrakja ezt a terhet másokra.

Ha már filozofálunk filozofáljunk rendesen.

waldorfbalcon 2014.08.08. 17:44:19

@Laciii: Az emberi viselkedésben megtalálható az önzés és altruizmus egyaránt. Az adott helyzet és egyén kérdése, hogy éppen melyik ösztönző lép működésbe. A biológiai és egyéni mellett ezt nagyon sokszor befolyásolják a kutlurális szociális elemek is persze. Nem csoda, hogy mindez sokszor rendkívül bonyolult helyzeteket eredményez, ezért is van értelme beszélgetni róla.

Liquid_Night 2014.08.08. 18:03:05

@waldorfbalcon: Sokoldalas semmitmondás helyett: nekem az a meglátásom, hogy egyre kevésbé akar a nép a trendek rabszolgája lenni.

Igen, megveszik az ájfónt meg az obey feliratú sapit, de egyre nagyobb cinizmussal és nihilizmussal...közben az ipar meg már nem tud mit kitalálni, hogy pörgesse a fogyasztást. A vásárlóerő megvan, de szerintem egyre jobban ábrándulunk ki a trendekből...valódi áttörés kéne megint, valami olyan, mint ami az IC megjelenése volt az akkori technológiához képest.

A biztonságőrületnek meg már most megvannak az ellenzői, és a kontraindikációi is. Tény, a norma egyenlőre afelé mutat, hogy lassan már egy körömcsipeszt se vehetsz a kezedbe mások által adott bőrmegcsípési garancia nélkül. Viszont a másik oldalon meg folyamatosan jelennek meg az egyre újabb devianciák, amiknek közös jellemzője a veszély keresése...vajon miért. Amiről beszélsz, az nem embernek való rendszer, hanem kb. olyan, mint amilyennek a cyberpunk disztópiák képzelték el azt a világot, ahol egy MI kerül hatalomra:) És erre lassan, de biztosan, lehet, hogy nem ilyen szinten, de mégis mindenki rájön...

Arról a trivialitásról meg itt ne is beszéljünk, hogy az EU hogyan nyírja ki a saját autó (és egyéb) iparát az idióta bürokratizmusával, és hogy az ilyenek, meg egyebek miatt mekkora az euroszkepticizmus :)

waldorfbalcon 2014.08.08. 18:25:06

@Liquid_Night: Nem tudom, szerintem nem minden trend rossz. Én például nagyon drukkolok az elektromos autóknak, és ha le tudnák vinni tömeggyártással olyan alacsony szintre az árát, tuti vennék pl. egy Teslát, kicsit sem ragaszkodom a benzingőzhöz.

Az automatizálásnak is megvannak a maga erényei, előnyei, de korántsem gondolom, hogy minden automatizálható lenne, vagy érdemes lenne minden automatizálni. Értelmes célokat kell megfogalmazni, hogy élhető, értelmes életet élhessünk, szerintem ez a fontos.

Hasonló módon az eu-t is lehet jól csinálni, óriási dolog, hogy nincs háború, és szabadon lehet utazni, tanulni, munkát vállalni. Bürokratikus túlbuzgás az persze akad, elég nagy és bonyolult ahhoz, hogy legyen. De inkább ebből csináljunk jobbat, mint újra a mindenki mindenki ellent játsszuk, az ugyanis tuti bukó, ez már kiderült párszor.

Liquid_Night 2014.08.08. 18:55:35

@waldorfbalcon: Azért te nagyon komoly károsultja vagy az újbeszél-nek:)

Egy ideje kb. minden, amit élhető és értelmes életként fogalmaznak meg valaki mások, az az életet aktuál élők számára nem több, mint a saját, személyes Amerikai Pszichó-juk üzemanyaga.

Az eu-t meg tényleg jól kéne csinálni, csak jól csinálás címén épp azon dolgoznak szorgosan, hogy essen szét belőle az is, amit eddig még nem sikerült jobban elcsinálni. Hiába no, kemény meló kell ahhoz, hogy valami igazán ígéreteset, és alapvetően jól működőt verjünk szét:)

Kovacs Nocraft Jozsefne 2014.08.08. 19:32:39

@waldorfbalcon:

"Azért a testreszabás is nyilvánvalóan csak adott keretek között érvényesíthető. Például adott törvényi keretek között. "

Természetesen. De pl. az említett Alagút-dilemma esetén követendő eljárást bele lehet venni a testre szabásba, mert egyik választás sem törvényellenes. Nem vagyok köteles feláldozni az életemet egy gyerek - vagy bármely más ember - életéért. Már csak azért sem, mert mivel nem én vezetem az autót, hibás sem lehetek a felmerült közlekedési veszélyben. Es esetben két ártatlan ember élete között kell választani, és érthető, ha valaki a sajátját választja.

waldorfbalcon 2014.08.08. 19:34:18

@Liquid_Night: Mindenkinek megvan a maga hite meg károsultsága, nekem is neked is. Nem írhatjuk elő, mit gondolojon a másik. De nincs ezzel semmi baj, mindenki dolgozzon a sajátján.

waldorfbalcon 2014.08.08. 19:36:52

@Kovacs Nocraft Jozsefne: Pontosan, ezért dilemma a dilemma. Nyilván érdemes minden szereoposztásban lejátszani: én ülök az autóban - idegene gyerek, idegen az autóban - az én gyerekem, és a legbizarabb: én ülök az autóban - az én gyerekem.

Kovacs Nocraft Jozsefne 2014.08.08. 19:42:39

@venmarton:

Annyiban igazad van, hogy a közvélemény nem fogja figyelembe venni, hogy az MI vezette autók előtt nem 30, hanem 30,000 volt a balesetek szma.

Kovacs Nocraft Jozsefne 2014.08.08. 19:48:34

@dukeekud:

"A valasztas, nem lehet ketseges, millionyi ember eletet kell osszevetni nehany ember eletevel."

Tisztán számtani, statisztikai alapon igazad van. A mor(t)ális probléma ott van, hogy az említett néhány ember minden bizonnyal NEM halna meg, ha nem MI vezetné az autókat.

Vagyis szabad-e akaratuk ellenére feláldozni ártatlan emberek életét azért, hogy sokkal több - szintén ártatlan - ember megmeneküljön?

Persze ez is csak álprobléma, hiszen nem KONKRÉTAN egyes emberek életét áldozza fel szándékosan az MI (iil a program), hanem mindez egy személytelen döntési folyamat eredménye.

dukeekud 2014.08.08. 20:34:15

@Kovacs Nocraft Jozsefne: Persze amikor emberek eleterol van szo, akkor nincs helye szamoknak, statisztikanak, de a kulonbseg akkora lesz, hogy nem lehet majd figyelmen kivul hagyni.

Forditsuk meg. Bevezetik a robot autot, ami tokeletlensege folytan evente megol 1000 embert. Erre betiltjak, es ujra jonnek az emberek, es a kovetkezo evben mar 1 millio halott lesz. Az 1 millio halott rokonai joggal mondhatjak, hogy 999 ezren meg mindig elnenek, ha nem emberek vezetnek az autokat.
Cinikusan azt lehet mondani, hogy egy halottnak igazabol mindegy, hogy egy hibas szamitogep oli meg, vagy valakinek a szemebe sut a nap, ezert halalra gazol valakit a zebran. Akkor mar inkabb legyen kevesebb a halott.

Liquid_Night 2014.08.08. 22:12:47

@waldorfbalcon: Ezt nem tudom vitatni...de nem is kell.

Azért never forget, how to be a rebel! (or at least, a troll)

:)

galaxiscsirke 2014.08.09. 13:38:05

Azt gondolom a egészről,hogy még mindig túl nagy lépés lenne egyszerre a full robotautó. Abban látom a bevezetés lehetőségét,hogy egyes részrendszerek lennének automatizálva (pl. alvósofőrhaza/parkolóbavivő,auto.beparkoló (ami már van is), esetleg automata postaautó kisebb helységekben, ilyesmik), hogy az egyes részalkalmazásoknál gyűljenek a tapasztalatok,nem a gyártók tesztelőivel,hanem a "mezei" felhasználókkal. Ha ezek egyenként már kiforrtak,könnyebben összerakhatók egy járműben,és az emberek is fokozatosan hozzászoknának,nem lenne akkora "ugrás".

fátum 2014.08.19. 17:59:05

@Nazareus: Akkor fogalmazd meg úgy, hogy pontos legyen. Még a végén a programozókat okolják mindenért.