Ki felel a végén?

Technológia és emberek

Az Allianz legutóbbi mesterséges intelligenciáról M. I. készített globális riportjában foglaltak szerint az M. I. segítségével 2035‑ig tizenkét fejlett ország éves gazdasági növekedési rátája duplázódhat meg, azaz a technológia megkerülhetetlen tényezővé válik. A szűk értelemben vett mesterséges intelligencia ma is körülvesz bennünket: ilyen például a WAZE navigációs szoftver, a Siri az Apple virtuális asszisztense (vagy Siri „pályatársai” Alexa aki az Amazonnál „dolgozik”, vagy Cortana a Microsoft „üdvöskéje”)vagy éppen a YouTube, a Facebook, a Spotify vagy a TikTok ajánló algoritmusa, vagy akár az okosotthonok működésének lelke az IoT. Ha a jelenlegi ütemben folytatódik tovább a fejlődés, akkor 2040-2050-re megszülethet az úgynevezett „általános” mesterséges intelligencia, ami az emberi intelligenciához hasonló lehet. Amennyiben ez képes még tovább fejlődni, és egyre gyorsabb ütemben tudja továbbfejleszteni önmagát, akkor jöhet létre a mesterséges szuperintelligencia, ami minden szempontból sokkal gyorsabb, erősebb és pontosabb, mint az ember.

Már ma is tapasztaljuk a mesterséges intelligenciához hasonló felforgató technológiák számos előnyét, hosszú távon számolni kell azonban azzal is, hogy ezek alapvető hatással lesznek a gazdaságra, politikára, a közlekedés valamint az egészségügy területére és a környezetre. Ezek a technológiák nemcsak a munka világát forgatják fel, hanem jól berögzült szokásokat és megszokott szerepeket alakítanak át, sok esetben a gondolkodásunkat, döntéseinket befolyásolják, új kockázatokat, kár- és felelősségi helyzeteket teremtenek. Egyénként, vállalatként, intézményként is készen kell állnunk ezen új helyzetekre, jó előre át kell gondolnunk az új kockázatokhoz szorosan kapcsolódó felelősség kérdését.

Felforgatott iparágak, változó felelősök

Az előrejelzések szerint a mesterséges intelligenciának köszönhetően biztonságosabbá válik például a közlekedés, a közlekedési balesetek száma akár 90 százalékkal is csökkenhet. Mi történik azonban, ha balesetet szenvedünk egy önvezető autóval? Egy ilyen esemény számos felelősségi és etikai kérdést is felvet a kárrendezés tekintetében. Egyértelműen meg kell tudni határozni a felelőst egy közlekedési baleset okozásáért: az önvezető autó tulajdonosát, az önvezető autó szoftverét fejlesztő vállalatot vagy az autót gyártó céget terheli majd a felelősség? Az autó vezetőjének, üzembentartójának a felelőssége ugyanis ebben az új helyzetben értelmezhetetlenné válik. 

A felforgató technológiák többek között az egészségügyben is forradalmi átalakulást okoznak: a mesterséges intelligenciának köszönhetően például számos olyan betegség válik gyógyíthatóvá, amelyekről ezidáig nem is álmodtunk, a robotok használata pedig többek között a műtéti beavatkozások és a beteggondozás területét alakítja át. A jelenleg zajló világjárvány számos esetben világított rá arra, hogy a technológia megfelelő alkalmazása mekkora jelentőséggel bír egy krízishelyzet kezelésében. Mindazonáltal hosszú távon számos új kockázattal és újfajta káresemények bekövetkezésének lehetőségével is számolni kell. Gondoljunk csak az adataink nem megfelelő kezelésére, a betegjogaink sérülékenységére, avagy egy orvos-gép együttműködésre épülő gyógyászati beavatkozás esetleges sikertelenségére. Vajon a jövőben, amikor majd ember és gép dolgozik együtt, kié lesz a felelősség egy káresemény bekövetkezése során? Meddig tart egy robotasszisztens felelőssége, és ki lesz a felelős az adott rendszerek esetleges hibáiért a nap végén? A gyártó, az üzemeltető, a rendszert fejlesztő szoftvercég vagy a rendszer tulajdonosa, esetleg az, aki közvetlenül dolgozott vele? Vajon kell-e biztosítást kötni az adatainkra, amikor a legkülönbözőbb eszközök, rendszerek használják majd azokat az aktuális egészségi állapotunk monitorozásához, vagy a gyógyítási folyamatok során? Kié lesz a felelősség, kire-mire kötjük a biztosítást, amikor a technológiának köszönhetően „szuperképességű” emberekké válunk, és a technológia a képességeink kiterjesztése érdekében részünkké válik?

És eljátszhatnánk még számos példa gondolatával, hiszen a technológia mindenhol ott lesz, az életünk szinte minden szegletét áthatja majd. A legfontosabb, amit most tehetünk, hogy felkészülünk ezekre a szcenáriókra és megpróbáljuk elképzelni, megtervezni, milyen lesz a jövő, annak mely részét tartjuk meg magunknak, és melyeket „engedjük át” a gépeknek, azaz tudatosan készülünk egyfajta hibrid működésre. 

Hogyan tovább?

A fejlett technológiai megoldások teljes körű társadalmi bevezetéséből eredő előnyök maximális kihasználása érdekében aktív kockázatkezelési stratégiákra lesz szükség. Különösen fontos lesz tehát az olyan alapkérdések tisztázása, mint:

• a szoftverek hozzáférhetősége,
• a biztonság, az elszámoltathatóság,
• a felelősség és az etika kérdésköre.

Ha mindegyik területre odafigyelünk, akkor a felforgató technológiák fejlesztése és bevezetése kevesebb veszéllyel jár a társadalom számára.

A biztosítóknak kulcsszerepe lesz majd az újonnan felmerülő kockázatok minimalizálásának, kezelésének és áthárításának az előmozdításában. A hagyományos biztosítási fedezeteket úgy kell átalakítani, hogy azok egyaránt védjék a fogyasztókat és a vállalkozásokat. Várhatóan új felelősségbiztosítási modelleket kell majd elfogadni olyan területeken, mint például az önvezető autózás, ezzel is növelve a gyártókra és szoftverfejlesztőkre nehezedő nyomást,  csökkentve a fogyasztók felelősségét.

A jövőnket számos új, elképesztően izgalmas technológia alakítja. Ezek fejlesztése során most azzal tehetünk a legtöbbet, ha mindvégig szem előtt tartjuk, hogy mi, emberek vagyunk ezen technológiák fejlesztői, alakítói, így nagyon nem mindegy, mit tanítunk nekik, milyen adatokkal tápláljuk őket, milyen viselkedési mintákkal szolgálunk számukra.