Robotjog? Hogyan viszonyuljon a jog a robotokhoz és a mesterséges intelligenciához? Pódiumbeszélgetések a minőségről Június 5.

Átírás

1 Robotjog? Hogyan viszonyuljon a jog a robotokhoz és a mesterséges intelligenciához? Pódiumbeszélgetések a minőségről Június 5. Ződi Zsolt Egyetemi docens

2 Három tézis (1) A robotikát szabályozni kell, de sem nem úgy, ahogy Asimov képzelte, sem pedig nem úgy, ahogy most szabályozzuk (2) Az embereknek szóló szabályok és a gépeknek szóló kódok más természetűek ez mindenféle gondokat fog okozni (3) Nem lesz egységes robotjog: inkább ágazati szabályozások lesznek, amelyek az adott terület kockázataira koncentrálnak

3 Robotjog

4 Asimov törvények 1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen. 2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének. 3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba. Ezek egyrészt túl általánosak, (a gyakorlatban semmi hasznunkat nem tudjuk venni), másrészt már most sem igazak

5 Preambulum (63) (...) minden érintett számára biztosítani kell a jogot arra, hogy megismerje (...) hogy a személyes adatok automatizált kezelése milyen logika alapján történt, valamint azt, hogy az adatkezelés legalább abban az esetben, amikor az profilalkotásra épül milyen következményekkel járhat Automatizált döntéshozatal és profilalkotás szabályozása GDPR I. Preambulum (68) Ha a személyes adatok kezelése automatizált módon történik, az érintettek számára (...) lehetővé kell tenni azt is, hogy (a) rájuk vonatkozó személyes adatokat tagolt, széles körben használt, géppel olvasható és interoperábilis formátumban megkapják 13. cikk (Az érintett rendelkezésére bocsátandó információk): (...) automatizált döntéshozatal ténye, ideértve (...) az alkalmazott logikára és arra vonatkozóan érthető információk, hogy az ilyen adatkezelés milyen jelentőséggel, és az érintettre nézve milyen várható következményekkel bír.

6 Automatizált döntéshozatal és profilalkotás szabályozása GDPR II. 22. cikk Automatizált döntéshozatal egyedi ügyekben, beleértve a profilalkotást (1) Az érintett jogosult arra, hogy ne terjedjen ki rá az olyan, kizárólag automatizált adatkezelésen ideértve a profilalkotást is alapuló döntés hatálya, amely rá nézve joghatással járna vagy őt hasonlóképpen jelentős mértékben érintené. (2) Az (1) bekezdés nem alkalmazandó abban az esetben, ha a döntés: a) az érintett és az adatkezelő közötti szerződés megkötése vagy teljesítése érdekében szükséges; b) meghozatalát az adatkezelőre alkalmazandó olyan uniós vagy tagállami jog teszi lehetővé, amely az érintett jogainak és szabadságainak, valamint jogos érdekeinek védelmét szolgáló megfelelő intézkedéseket is megállapít; vagy c) az érintett kifejezett hozzájárulásán alapul. (3) A (2) bekezdés a) és c) pontjában említett esetekben az adatkezelő köteles megfelelő intézkedéseket tenni az érintett jogainak, szabadságainak és jogos érdekeinek védelme érdekében, ideértve az érintettnek legalább azt a jogát, hogy az adatkezelő részéről emberi beavatkozást kérjen, álláspontját kifejezze, és a döntéssel szemben kifogást nyújtson be. (4) A (2) bekezdésben említett döntések nem alapulhatnak a személyes adatoknak a 9. cikk (1) bekezdésében említett különleges kategóriáin, kivéve, ha a 9. cikk (2) bekezdésének a)* vagy g)** pontja alkalmazandó, és az érintett jogainak, szabadságainak ésjogos érdekeinek védelme érdekében megfelelő intézkedések megtételére került sor. *az érintett kifejezett hozzájárulását adta ** az adatkezelés jelentős közérdek miatt szükséges, uniós jog vagy tagállami jog alapján

7 És akkor most próbáljuk meg elképzelni a következő helyzetet Az érintett rábízza egy robot-tanácsadóra a pénzét. Vajon a tanácsadónak milyen mélységig kell beszámolnia a döntéseiről, a paraméterekről, amelyek alapján döntött, stb. Mit jelent a bármikor emberi beavatkozást kérhet ebben az összefüggésben? Mit jelent a kifejtheti az álláspontját? Ez nyilvánvalóan teljesen abszurd. A dolog jelenleg hasonlít arra a helyzetre, mint amikor a XX. század elején állítólag azt követelték az autótulajdonosoktól, hogy egy zászlós ember menjen előttük.

8 A jog és a kód

9 A jog az embereknek szól Jelenleg sokan dolgoznak azon, hogy az autonóm járművek megértsék és képesek legyenek alkalmazni a KRESZ táblákat De erre nyilvánvalóan csak addig van szükség, amíg emberek ÉS robotok együtt vannak jelen az utakon. Ahogy csak robotok maradnak, az emberi szabályokra nincsen többé szükség

10 A kód nem emberi nyelv, a robotok nem emberi szabályokat igényelnek A robotok nem a jogot alkalmazzák, hanem a kódot, de a kód más the difficulty is that we have no terms to put into the machines, as the scientists have numbers and symbols. Legal terms are almost all vague verbalizations which have only a ritualistic significance. (Lee Loevinger: Jurimetrics 1949)

11 A jog és a kód 1. bonyolultabb szabályok és kettős jogrendszer Az emberek 3-4 változót képesek fejben tartani egy döntéskor - a gépek akárhányat Ha sok paramétert lehet figyelembe venni, miért kellene korlátozódni 3-4-re? De ha jogvita van mi alapján folyik a pereskedés? Lesz emberi nyelven írott jog egyáltalán? Mi lesz a kettő közt a viszony

12 A jog és a kód 2. Dinamikus szabályok Az emberek kiszámítható szabályokat, előreláthatóságot akarnak - a gépek számára ez nem érték, nekik változhatnak állandóan a szabályok A dinamikus szabályok előnye változnak a pillanatnyi körülményekhez. Sőt, a gépek egymástól is tanulhatnak, és így is változtathatnak a szabályokon.

13 A jog és a kód 3. - Az értékválasztások algoritmizálása Az alapul fekvő értékeinket explicitté kell tennünk. Csakhogy ezek olyakor nem algoritmizálhatóak Pl. igazságosság egyszerre tartalmazza, hogy Minden eset egyedi, és a maga sajátosságai szerint kell eldönteni Az egyforma eseteket egyformán kell eldönteni Vajon lesznek egyforma esetek egyáltalán a jövőben?

14 A jog és a kód 4. - Új szakmák és a fordítás nehézségei Jelenleg a jog szabályait a programozók kódolják gépi nyelvre de ez szinte bizonyosan nem marad így Talán egy külön szakma lesz a jogi tudásmérnök, aki az első fordítást elvégzi az emberi nyelv és a kódok között És visszafelé? Mi lesz vajon visszafelé a helyzet? Ki fordítja vissza a kódokat érthető, emberi nyelvre? Vagy lemondunk arról, hogy ez lehetséges?

15 A jog és a kód 5. - Legitimációs kérdések Már most is sok a technikai szabály a jogban, amelyek felett a politikai közösség szinte semmilyen kontrollt nem gyakorol De a kódokkal még többletprobléma is van: lehet hogy már nem is lesznek érthetők és kiszámíthatók. Nem rendelkeznek a jog ismérveivel többé. A legtöbb, az életünk különböző területét szervező kód nem átlátható számunkra és különböző nagy multicégek tulajdonában van. (Ezt tartják a legnagyobb problémának.)

16 Ágazati robotjogok

17 Miért ágazati robotjog? A robotjog szabályai már most is rossz helyen vannak. (Adatvédelmi jog) De még komolyabb lesz a probléma, ha a már most látható területeken elterjednek az MI alkalmazások Minden területen más a kockázat persze van néhány dolog, amely összekapcsolja őket. Ezeket a közös problémákat, és a rájuk adott válaszokat lehet a különböző etikai kódexekben olvasni.

18 Egy jellemző etikai kódex

19 Ágazati robotjog 1. jogalkotást segítő döntő, vagy mérlegelő-automaták Talán itt működnek a legjobban az általános elvek. De itt is kellenek kiegészítő szabályok pl. a rendszer nem lehet elfogult egyes kisebbségekkel Mindig kell emberi felülvizsgálati lehetőség Mindig?

20 Ágazati robotjog 2. Autonóm járművek A balesetek, incidensek dokumentálásának szabályai Kártérítés és kártelepítés szabályai, kötelező biztosítás Adatbiztonság és a preferált adatáramlás szabályai Büntetőjogi felelősség? Vagy ilyen nem lesz? A járművek együttműködésének és tudásmegosztásának szabályai Az M2M és am2i kommunikáció szabványai

21 Orvosi MI Téves diagnózis Tudásmegosztás kötelezővé tétele Erőforrás-allokáció mi alapján hozzon döntést, ha ilyet is rábíznak. Bármilyen kritikus döntés, amelyben emberi egészség vagy élet forog kockán

22 További ágazatok Játékipar, szórakoztatóipar Rendőri munka Harcászat Gondozás Közigazgatás Gépi implantátumok