dr. Tamás Eszter Kata, dr. Várady Endre

Az EU Bizottsága azt vallja, hogy Európa az új forradalmi technológiák és a régi hagyományos értékek kontinense. Ezen szemlélet mentén készítette elő a mesterséges intelligenciáról szóló Fehér Könyvet. A könyv célja, hogy megteremtse a szükséges bizalmat és jogszabályi keretet, amely elengedhetetlen a mesterséges intelligencia szélesebb körű európai elterjedéséhez. Mivel a mesterséges intelligencia lassan, de biztosan meghatározó eleme lesz üzleti életünknek, a vállalkozásoknak érdemes figyelemmel kísérni a jogszabályi fejleményeket.

Miért született meg a Fehér Könyv?
A mesterséges intelligencia szabályozására égetően szükség van. Ez a fajta intelligencia az adatgazdálkodás és az algoritmusok világában egyre inkább hétköznapjaink részévé válik, és számtalan etikai és jogi kérdést vet fel. Bár megszámlálhatatlan üzleti előnnyel rendelkezik, mégis számos potenciális kockázatot rejt magában, ideértve az átláthatatlan döntéshozatalt, a diszkriminációt, a magánélet sérelmét, a biztonságra gyakorolt hatását vagy a felelősségi körök tisztázatlanságát. Ki lesz például a felelős azért, ha egy önvezető autóban a rendszer hibát követ el? Mi van akkor, ha a tévesen megtanult adatok alapján az online rendszer megtagadja az ügyfél hitelbírálatát? Ezekből a példákból is kiderül, hogy miért számít mérföldkőnek az EU Bizottsága által közzétett Fehér Könyv, amely első alkalommal írja körül a mesterséges intelligencia lehetséges jogszabályi keretét.

Célkeresztben a magas kockázattal járó mesterséges intelligenciával működő rendszerek
A Fehér Könyv nem az összes mesterséges intelligencia rendszert kívánja szabályozni, hanem – kockázatalapú és arányos szabályozási megközelítést alkalmazva – a hangsúlyt a magas kockázatú rendszerekre helyezi. A magas kockázatot aszerint ítéli meg, hogy mi forog kockán, figyelembe véve mind az érzékeny iparágakat (pl. egészségügy, közlekedés), mind a tervezett felhasználás módját (pl. az arcfelismerő rendszereket az érintett ágazatoktól függetlenül magas kockázatúnak kell tekinteni).
Az érintett gazdasági szereplők a nem magas kockázatú mesterséges intelligenciával működő rendszerek esetében is dönthetnek úgy, hogy önkéntesen alávetik magukat a szabályozási követelményeknek, és ezzel igazolni tudják a végfelhasználók felé saját rendszereiknek megbízhatóságát. Habár ebben a folyamatban a részvétel önkéntes, ha a résztvevő egyszer aláveti magát a szabályozásnak, úgy a követelmények ránézve is kötelezővé válnak.

A helyes adatok betáplálása
A Fehér Könyv hangsúlyozza, hogy a mesterséges intelligenciával működő rendszereket megfelelő adatokkal kell táplálni. Ahogy az emberi testnek szüksége van a megfelelő élelemre a boldoguláshoz, ugyanúgy ezeket a rendszereket is „etetni” kell. Ha az „étrend” kiegyensúlyozatlan, a mesterséges intelligencia igazságtalanul előnyben részesíthet bizonyos kategóriákat, pl. férfiakat a nőkkel szemben. Ezért nagyon fontos biztosítani, hogy az adatkészletek kellően széleskörűek és reprezentatívak legyenek ahhoz, hogy minden lényeges forgatókönyvet lefedjenek, és ne vezessenek tiltott megkülönböztetéshez.

Nyomon követhetőség
A mesterséges intelligenciával működő rendszerek nagymértékben átláthatatlanok. Döntésük mögött gyakran nem világos a „miért” (ún. „fekete doboz hatás”), és ez megnehezíti a szabályok ellenőrzését, valamint betartatását. Ezért a Fehér Könyv lehetséges alternatívákat ad a mesterséges intelligenciával működő rendszerek nyomon követésére, például előírja, hogy az adatkészletekről nyilvántartás szülessen, és hogy a programozási módszerek dokumentálva legyenek.

Átláthatóság mindenek előtt
A felhasználók mesterséges intelligenciába vetett bizalma csakis az átláthatóságon alapulhat. A Fehér Könyv ezért leírja, hogy a felhasználóknak meg kell érteniük ezeknek a rendszereknek a képességeit és korlátait. Fontos, hogy a felhasználó számára világos és egyértelmű legyen, hogy mikor kommunikál mesterséges intelligenciával egy ember helyett.

A mesterséges intelligencia soha nem lehet független az emberi kontrolltól
A Fehér Könyv szerint etikus és emberközpontú mesterséges intelligencia csak emberi részvétel biztosításával lehetséges. Ez magában foglalhatja az emberi kontrollt a döntés meghozatala előtt (pl. csak ember hozhat elutasító döntést), vagy a döntés után (pl. az elutasítást feldolgozhatja a mesterséges intelligencia, de utána biztosítani kell az emberi kontrollt). A lényeg viszont mindig ugyanaz: a mesterséges intelligencia soha nem lehet független az emberi kontrolltól.

Miért fontos a Fehér Könyv?
A mesterséges intelligencia szabályozása új szemléletet igényel, és számos jogterületet érint az adatvédelemtől a szabályozási kérdéseken át, egészen a felelősségi kérdéskörig. A Fehér Könyv olyan praktikus kérdésekre ad lehetséges választ, amelyek napjainkban örök vita tárgyát képezik. Az üzleti világ jövőjét biztosan átszövi a mesterséges intelligencia, ezért érdemes naprakésznek lenni ebben a témában, és idejében felkészülni a várható szabályozásokra.

A Fehér Könyvvel kapcsolatos legfontosabb tudnivalókat kollégáink, dr. Tamás Eszter Kata és dr. Várady Endre gyűjtötték egy csokorba.