Az Én, a robot című filmben Will Smith karaktere azért gyűlölte a gépeket, mert egy korábbi autóbaleseténél, mikor egy tizenéves kislánnyal együtt a vízbe zuhant, a segítségükre induló robot gyors kalkulációja alapján az ő megmentésének volt nagyobb esélye, így ő tovább élhetett, a kislány viszont megfulladt.

Ez egy sci-fi jeleneteként érdekes dilemma, azonban a technológia fejlődése korábban teheti valós problémává, mint gondolnánk.

Dönthet-e egy mesterséges intelligencia emberek életéről és haláláról?

A katonai csapásmérő drónok használata egyre gyakoribbá vált az elmúlt években, de ezeket katonák vezérlik távolról, ők döntenek a célpontokról, és ők húzzák meg a ravaszt. Néhányszor előfordult, hogy ellenséges hackerek átvették az irányítást a drónok felett (ráadásul filléres eszközökkel), emiatt egyes katonai vezetők az önállóan működő, a célpontokról önálló döntést hozó drónokban látták a jövőt. Ezek ugyanis nem fogadnának el kívülről jövő parancsot, így a feltörésük is jóval nehezebb lenne. Ez az irány azonban akkora ellenállást váltott ki a közvéleményben, hogy - legalábbis egyelőre - elnapolták a kérdést.

Egy katonai szakértő nyilatkozta: “Egy mesterséges intelligencia hibázásának következményei sokkal rosszabbak a közvélemény szemében. Az emberek valamiért könnyebben elfogadják az emberi hibák okozta járulékos veszteségeket.”

Az életről, halálról döntő robotok létjogosultságának kérdésköre tehát még a hadászatban is érzékeny pontnak számít, pedig egy háborús övezetre azért más szabályok vonatkoznak. Azonban ez a dilemma hamarosan a hétköznapi emberek életébe is beszivárog.

A Google robotautók fejlődésével 10-20 éven belül valósággá válhat, hogy az autók utasai csak nézőként vesznek részt a közlekedésben. Elkerülhetetlen balesetek azonban mindig lesznek, így az autót irányító üzleti logikát súlyos döntések meghozatalára kell felkészíteni.

Az Alagút probléma

Jason Millar, az ottawai egyetem filozófiatanára kitalált egy morális problémahelyzetet, amit Alagút problémának nevezett el. Kábé így szól:

Egy egysávos hegyi úton utazol a Google robotautóddal. Az autó nagy sebességgel közelít egy szűk alagúthoz. Épp mielőtt odaérnél, egy gyerek ugrik ki a bokrok közül és átszalad az úton. Azonban az út közepén megbotlik és elesik, elzárva ezzel az alagútba vezető utat. A robotsofőrnek csak két választása van: Tovább hajt, és halálra gázolja a gyereket, vagy elrántja a kormányt, így az alagút valamelyik falának csapódva te halsz meg. Hogyan kellene döntenie?

Nehéz kérdés, amiben nincs jó válasz. Nincs harmadik opció, amiben mindenki megmenekül, hiszen akkor mindenki azt választaná, így nem lenne dilemma. Mivel nyilvánvaló, hogy a mesterséges intelligencia a neki megadott szabályok alapján dönt, így felmerül egy még fontosabb kérdés: Ki döntse el, hogy az autó szoftvere melyik megoldás mellett döntsön ilyen helyzetben? Az autógyártó? Az autó utasa? A robot KRESZ-t megalkotók?

Hagyományosan ugyan a gyártók készítik fel a szoftvereket a különböző esetek kezelésére, de a fenti példa olyan morális döntést igénylő terület, aminek megválaszolását kevesen bíznák informatikusokra.

Meg kell jegyezni, hogy tévútra visz, ha azon kezdünk gondolkodni, hogy az autó szenzorainak érzékelnie kellene előre, hogy a gyerek elénk fog ugrani. Nem ez a lényeg. Minden elővigyázatosság ellenére elkerülhetetlen balesetek a jövőben is elő fognak fordulni, így a kérdés érvényes a mainál jóval fejlettebb technológia esetén is.

Az Open Roboethics Initiative (ilyen is van) közvéleménykutatást szervezett, hogy az emberek melyik választ preferálnák saját robotautójuk esetében. A szavazás nem várt eredményeket hozott.

Nem meglepő, hogy a többség (64%) arra szavazott, hogy az autó az ő életét mentse meg, de meglepő módon a válaszadók 36 százaléka a gyerek túlélése (és saját halála) mellett döntött.

Vajon miért áldoznák fel magukat ilyen sokan?

Míg az első tábor fő érve az volt, hogy a gyerek hibája, hogy az autó útjába került, sokkal izgalmasabbak az autó félrerántására szavazók motivációi:

• magasan kiemelkedett az az indok, hogy mindig egy gyerek életét választanák a sajátjukkal szemben.
• 11%-ot kapott az - a korábbi Én, a robot c. filmben is szereplő - indok, hogy nem tudnának azzal a bűntudattal élni, hogy egy gyerek halála kellett az ő túlélésükhöz
• 14% szerint, mivel a sofőr valószínűleg felnőtt, így a gyerek még többet élhet
• még egy érdekes opció a válaszadók 14 százalékától, hogy egy robotautónak ugyanazt kellene tennie, amit egy humán vezető tenne ilyen helyzetben, ami pedig a kormány elrántása, bármi legyen is a következmény

Neked mi a véleményed?

Azt is megkérdezték, hogy mennyire érzik nehéznek az olvasók megválaszolni ezt a kérdést? Bár azt várták, az emberek többsége nehéznek érzi majd, elvégre komoly etikai feladványról van szó, meglepte őket, hogy a válaszadók 48 százaléka könnyűnek találta a döntést. Még különösebb, hogy azok válaszai között, akik könnyűnek találták, kb. egyenlően oszlott meg a gyerek ill. a sofőr halálával járó opció.

Talán a legfontosabb kérdés arra vonatkozott, kinek a feladata legyen eldönteni, hogy az Alagút probléma típusú helyzetekben hogyan viselkedjen az autó. A válaszadók közel fele szerint az utas dönthessen, míg 33 százalék szerint ez a jogalkotók feladata. Csak 12 százalék nevezte meg a gyártót.  Mégis, összességében a válaszadók fele szerint ne az utas döntsön arról, kit áldozzon fel az autó.

Meg lehet határozni általános szabályokat?

Vajon egy hivatalos bizottság ki tudna találni olyan általánosan érvényesíthető szabályokat, amelyek minden lehetséges esetet lefednek? Más döntés legyen beletáplálva a robotba, ha egy 70 feletti halálos beteg utas ül az autóban, mintha egy tinédzser? Vagy mi legyen akkor, ha nem is egy, hanem két gyerek ugrik az autó elé? Vagy mondjuk egy egész iskolás csoport (bármilyen életszerűtlen is)? Vesse össze az utasok számával, és döntsön a “kisebb” áldozat mellett?

Az ilyen példák nagyon érzékenyek a kontextusra. Ha az eredeti példában a gyereket nyugdíjasra cseréljük, az autóba pedig beteszünk egy alvó csecsemőt, valószínűleg egész más eredmények jöttek volna ki a szavazáson.

A probléma rengeteg kérdést vet fel

Az is felmerül, egyáltalán képesek-e az autó szenzorai, és üzleti logikája egy másodperc alatt felmérni, mi az ami a kocsi elé ugrott? Hiszen a kérdés jóval egyszerűbb, ha mondjuk egy őz és egy ember közt kell választani.

Nagy kérdés, hogy a technológia elterjedését mennyire gátolná, ha a gyártó, vagy egy hivatalos grémium döntene el egy ilyen kérdést. Hiszen végül is veszünk egy autót, a vezetésbe nincs beleszólásunk, és egy harmadik fél döntse el, hogy bizonyos helyetben megöljön-e minket a robot?

A kormány félrerántásával, és az utas feláldozásával járó főszabállyal szemben felmerülhet, hogy viszonylag egyszerűen kijátszható lenne. Egy vakmerő gyalogos felbérelésével könnyű lenne kiszemelt személyek meggyilkolása, és balesetnek beállítása.

Ugyanakkor, ha az AI mindenképp a gyalogos érdekeit nézi, az sok gyalogost felelőtlen közlekedésre motiválhatna. Például abban, hogy átszaladjon-e még a zebrán a villogó sárgánál, amikor egy autó közeledik.

Nem utolsó sorban, feltehető, hogy az az autó, amely nem az utasa érdekét nézi egy ilyen vagy-vagy szcenárióban, eladhatatlan lenne a piacon.

Ha azonban azt a választ fogadjuk el, hogy az autó ilyen esetben üsse el a gyalogost, az is óriási felelősséget tesz a gyártókra, hiszen az üzleti intelligenciának kell eldöntenie, hogy a kormány félrerántása esetén halálos vagy túlélhető balesetet szenvedne az autó utasa? Ha úgy látja, hogy halálos, akkor tartja az irányt, fékez, és lesz ami lesz. De vajon minden esetben jól tud dönteni? Milyen változást fog okozni a közvéleményben, amikor megtörténnek az első halálos gázolások? Ahogy a fenti katonai drónos példa is mutatta, a gépekkel szemben kisebb a toleranciaküszöb a közvéleményben. Nyilván emiatt is nagyon óvatos a Google a robotautó fejlesztésében.

Persze nem szabad túlértékelni sem ezeket a dilemmákat. A mesterséges intelligencia által irányított autók megoldást hozhatnak olyan problémákra, mint az álmosság, vagy az ittas vezetés okozta balesetek, amelyek Amerikában évente 12 000 halálesetet okoznak.

A robotautók természetesen még rengeteget fognak fejlődni az ilyen esetek elkerülésében, akár a beláthatatlan területeknél a sebesség korlátozásával, akár külső légzsákokkal, de az Alagút problémában felvetett kérdésekre egyszer mindenképp válaszolni kell.