BME Filozófia és Tudománytörténet Tanszék Etikai elméletek 3 Utilitarizmus
A helyes cselekedet Az utilitarianizmus szerint az a helyes cselekedet, ami legtöbb jót eredményezi. Az erkölcsileg helyes cselekedet az, ami a legtöbb ember számára összességében a legtöbb jót hozza, és a legkevesebb kárt okozza. Vagyis a jó cselekedet az, ami hasznos a jó előmozdítása szempontjából. Ez a hasznosság elve. (Utilitarianizmus=haszonelvűség, de nem gazdasági haszon!) Jónak (jó következménynek) pedig azt tekintjük, ami jó az érintetteknek.
A következmények kiszámítása Egy helyzetben azt kell tenni, aminek összességében a legjobbak a következményei. A cselekedetet a következményei alapján ítéljük meg! (Szemben a kantiánus és az erényetikával!) Egy helyzetben tehát ki kell számítani a lehetséges cselekedetek valószínű következményeit, és a legjobb várható értékűt kell választani. Általában csak valószínűségekkel dolgozhatunk, mert egy cselekedet következményeit teljes bizonyossággal megjósolni szinte lehetetlen.
A cselekedet megítélése az utilitarianizmus segítségével A cselekedet hétköznapi helyzetekben történő megítéléséhez, morális konfliktus eldöntéséhez az utilitarianizmus alapján az alábbi kérdések segíthetnek: Melyek a lehetséges cselekedetek? Mik ezek valószínű következményei? Melyik okozza ezek közül a legnagyobb valószínűséggel összességében a legtöbb jót és a legkevesebb kárt? Hasonló a költség-haszon elemzéshez, de nem ugyanaz! Általában éppen a pénzben ki nem fejezhető, vagy nehezen kifejezhető következmények a legfontosabbak erkölcsi szempontból!
Az utilitarianizmus kritikája I. Probléma: Amilyen ésszerű, hogy a cselekedeteket a következményeik alapján ítéljük meg, olyan nehéz ezt megvalósítani mert: Általában nehéz, néha lehetetlen számba venni a lehetséges következményeket. Pl. egy K+F projekt. Nehéz, néha lehetetlen valószínűséget rendelni hozzájuk. Sokszor nem lehet tudni, hogy kinek, mi jó. Nehéz összemérni, hogy kinek mekkora mennyiségű jót és másoknak valójában mekkora bajt hoz a cselekedet, gyakran lehetetlen az egyenleget számítani!
Az utilitarianizmus kritikája II. Probléma: Alapvető etikai normák megszegése is igazolható vele, ha végül összességében több jót eredményez a cselekedet. Pl. koncepciós perek, emberkísérletek: akik ezeket propagálják azok szerint ez ugyan rossz annak, aki meghal, de a társadalom egészében ennél több haszon keletkezik. Pl. Csernobil (vagy akár a vörösiszap-katasztrófa) hosszútávon jó lehet, mert nagyobb katasztrófákat előzött meg. A legtöbb erőművet átvizsgálták, megerősítették a protokollokat, stb.
Az utilitarianizmus kritikája III. Probléma: amennyiben a következményeknek az érintettek által adott szubjektív értékelése számít, akkor a szubjektíve jónak tűnő, de kívülről nyilvánvalóan helytelen, esetleg gonosz cselekedet is igazolható a következmények kalkulációjával. Pl: mátrix, pl, adósság elfelejtése, pl. semmire sem jó terméktulajdonságok fejlesztése Mert a szubjektív jót úgy lehet növelni, ha jót teszünk, de akkor is, ha rosszat, és közben manipuláljuk az érintettet, hogy jónak tűnjön neki.
Szabály-utilitarianizmus I. Az eddig tárgyalt tett-utilitarianizmus az egyes tetteket akarja a következményeik alapján megítélni, és súlyos nehézségeket vet fel. (Lásd fent!) A szabály-utilitarianizmus nem az egyes tetteket minősíti, hanem a társadalom által elfogadott cselekvési szabályokat, azaz normákat. Egy norma jó, és a norma szerinti cselekedet helyes, ha a norma alapján való cselekvés hosszútávon, statisztikailag több jót eredményez az érintetteknek, mint rosszat.
Szabály-utilitarianizmus II. Pl. a Légy igazságos! azért helyes norma, mert az igazságtalan cselekedet több rosszat és kevesebb jót eredményez, mint az igazságos cselekedet. Ez, csakúgy minta a szerződéselmélet, azt magyarázza meg, hogy miért azok a normák, amiket általában elfogadunk, és miért kell őket betartani
Szabály-utilitarianizmus III. A szabály-utilitarianizmus tehát általában az elfogadott normák betartását írja elő, de nem kell őket feltétlenül betartani, mint a kötelességetikák szerint. Viszont csak akkor lehet megszegni egy normát, ha meg tudjuk indokolni, hogy jobb következményekre jutunk, mintha betartanánk.
Szabály-utilitarianizmus IV. A szabály-utilitarianizmus egyesíteni akarja a kötelesség-etikák előnyeit... könnyen alkalmazhatók a cselekedet megítélésére...az utilitarianizmussal ami egy következmény-etika figyelembe veszi a következményeket a kötelesség-etika merevsége (mindig a norma szerint kell cselekedni, akkor is, ha az katasztrofális következményekkel jár) nélkül és a kötelességek konfliktusának feloldási lehetőségével.
A cselekedet megítélése a szabály-util. segítségével A cselekedet hétköznapi helyzetekben történő megítéléséhez, morális konfliktus eldöntéséhez az alábbi kérdések segíthetnek: Ha valamilyen szabályt megszegünk, akkor tényleg lényegesen több jó származik ebből, mintha betartanánk?
Etikai elméletek - összefoglalás
Áttekintés Morális realizmus Létezik morális jó és rossz, helyes és helytelen Ennek eredete lehet isteni parancs vagy az (vallási parancsok) egyének egyenlősége (KANT) Probléma: megalapozás, ellentmondások Morális antirealizmus Szerződés-elmélet Utilitarizmus Probléma: intuitíve gonosz dolgok megalapozása, ellentmondások
A gyakorlatban Nincs egyértelmű érv arra, hogy melyik etikai elmélet mellett kellene elköteleződni, ha egyáltalán Léteznek további etikai elméletek A gyakorlatban úgy tűnik, hogy az emberek kombinálják is ezeket Az etikai elméletek mellett a személyes értékprofilunk és egyes döntések esetén a heurisztikus képességeink kognitív beállítódásaink fognak szerepet játszani
Alkalmazás - önvezető autó
Teoretikusan felmerülő problémák
Önvezető autók - problémafelvetés I Kit üssön el adott szituációkban (lásd az előző órán) Sztenderd példa 1: Az önvezető autó megállni már nem tud, vagy egy 8 éves kislányt vagy egy 80 éves nagymamát üt el, ha kitér az egyik vagy a másik oldalra Ha nem tér ki mindkettőt elüti Etikai probléma: Diszkriminálhat-e életkor (vagy egyéb paraméter) szerint az önvezető autó Ha igen, melyek a megengedhető paraméterek?
Önvezető autók - problémafelvetés II Kit üssön el adott szituációkban (lásd az előző órán) Sztenderd példa 2: A három sávos úton középen halad az önvezető autó, elé zuhan egy konténer az előtte haladó teherautóról, mert az nem veszi észre a magasság-korlátozást Egyenesen haladva az utasok sérülnek. Az egyik oldalon egy bukósisakos kerékpáros, a másikon egy sisak nélküli Etikai probléma: Célozhat - e az önvezető autó azon az alapon, hogy mekkora védelme van annak akinek nekimegy? Ha ilyenkor a sisakost választjuk, akkor az nem a sisak-viselést bünteti? Univerzalizálható-e az elv?
Önvezető autók - problémafelvetés III Az ütközés elkerülésének problémái Az ütközés elkerülése egy másik járművel jó ötletnek tűnik, főleg ha van hová menekülni. Csakhogy... Sztenderd példa: Az önvezető autó áll a zebránál, amin egy óvodás csoport halad át Hátulról közelít egy furgon nagy sebességgel Az önvezető autó könnyedén kitér az útjából, ám akkor a furgon beleszalad az ovisokba Problémák Maradjon-e a sávban, sőt akár tolasson-e mert így megmentheti az ovisokat? Innen csak egy lépés, hogy akár avatkozzon-e be (vágjon be veszélyesen vezetők elé, lökjön le az útról más autókat) ha azzal életeket ment az önvezető autó?
Önvezető autók - problémafelvetés IV A balek önvezető autó Példa: Ismerve az önvezető autó kiváló akadály-elkerülő képességét és reakcióidejét elé vághatok az autópályán Ügyesen kitér a leállósávra, megment mindenkit az ütközéstől Én pedig elé kerültem a sorban Súlyosabb példa Ha tudjuk, hogy az önvezető autó feláldozza az utasát bizonyos szituációkban (pl. több gyalogos halna meg mint ahány utas van) akkor elképzelhető, hogy szándékosan rávehetjük az utasai megölésére
A technológiából adódóan felmerülő problémák
Általános autonóm robot architektúra
Elvárások a rendszerrel szemben Az átlagember: 0,6 másodperc alatt reagál ha számít a problémára, egyébként 0,85s 0,96s alatt veszi el a lábát a gázról, 1,64s után kezdi tekerni a kormányt és 2,2s alatt fog teljesen fékezni Az ideális ember...... sem fog 0,1-0,15s alatt reagálni Ezért az önvezető autóknál a maximális reakcióidőt 0,1s körül specifikálják
Modern önvezető autó architektúra
Reakcióidő
Szenzorok Lidar drága: X M forint Radar Olcsó Felbontás Full HD (1080) - még elmegy QHD kizárt - túl sok számítási kapacitás
BME Formula Racing Team önvezető járműve
Technológiából eredő etikai probléma I Milyen mélységig elemezzünk, mire áldozzuk a számítási kapacitást? Objektum felismerés? Jármű elhelyezése? Predikció
Energiafelhasználás - hatótáv összefüggése
Predikciók A pontosság nem ismert A Moral Machine példái nagyon naivak Valójában nem tudjuk kiszámítani, hogy pontosan mekkora a fékút - pedig pár méter eltérés nagyon sokat számít mit fog csinálni a másik jármű vagy gyalogos ütközés esetén milyen nagy sérülés vagy kár keletkezi stb.
Objektumok keresése
A neurális hálók becsapása
A neutális hálók becsapása
Hogyan téved a neurális háló?
A probléma madártávlatból A hagyományos autóknál nincs ilyen 2,5 tonnás pick-upot veszek de ügyetlen vezető vagyok szétterítettem az ügyetlenségemből fakadó kockázatot a többi vezetőn meg az épített környezeten Mégis, mindenki vehet Hummert, hatalmas járműveket Úgy tűnik, hogy érzékenyebbek vagyunk a biztonságra mit korábban! Lehetne a biztosítással is kezelni, megfigyelnénk, hogy kb. mekkora károk kelekteznek az önvezető autózásból majd számítanánk biztosítási díjakat
Pontosság
Hogyan közelítsük meg? Szabályra van szükség, mert ez következik a technológiából Nem tekintjük morális ágensnek az önvezető autót Lásd emberek által elkövetett hibákra - nem vonjuk ki a többi embert a forgalomból Rugalmas elvre van szükség Szerződéselmélet Szabály-utilitarizmus Szükség van mérnöki tudásra!
Milyen konvenciók alakíthatók ki? Az utasok feláldozása? Frissítések Nem fog működni, mert becsapható lesz az önvezető autó, ha megvezetjük, rávehetjük, hogy az utasait megölje Nem lesz elfogadható, hogy ismerten hibás verziók közlekedjenek Kiszámíthatóság Mit fog tenni adott szituációban, de védelemmel az ellen, hogy ezt kihasználják
Köszönöm a figyelmet!