Dr. Várady Endre, AI szekértőnk, alábbi írásában azt vizsgálja, hogy mi a dolgunk az algoritmikus méltányossággal és a torzításkezeléssel?  

Miért vált kulcskérdéssé a méltányosság?

Ahogy a mesterséges intelligencia (MI) egyre inkább beépül az üzleti döntéshozatalba, a méltányosság már nem csupán technológiai, hanem stratégiai kérdéssé is vált. Az MI rendszerek hatalmas adatokkal és összetett algoritmusokkal dolgoznak, ennek ellenére előfordulhat, hogy torz eredményeket adnak. Ez történhet az adatok egyensúlyhiánya, múltbeli diszkrimináció, vagy akár modellhiba miatt is.

Az algoritmikus méltányosság azt vizsgálja, hogy egy MI rendszer hogyan bánik a különböző egyénekkel és csoportokkal, valamint arra keresi a választ, hogy a diszkrimináció azonosítható-e statisztikai módszerekkel. Egy vállalat például megmérheti, hogy egy toborzási algoritmus aránytalanul előnyben részesíti-e a nőket a férfiakkal szemben. Az így létrejött mutatók ugyanakkor nem feltétlenül veszik figyelembe az olyan üzletileg lényeges tényezőket, mint például az alkalmasság. Mindez arra rávilágít rá, hogy a méltányosságot nem lehet pusztán a számok alapján megítélni.

Túl a számokon – a méltányosság holisztikus megközelítése

A valódi méltányosság jogi-, társadalmi- és etikai dimenziókat is magában foglal. A statisztikai eszközök segíthetnek egy probléma beazonosításában, de ritkán tárják fel a probléma valódi okát, sőt, üzleti szempontból is csak korlátozottan alkalmazhatóak.

Vegyünk példának egy bankot, amely a nemek közötti előrejelzési arány kiegyenlítésével próbálja csökkenteni a diszkriminációt. Ez az elgondolás első ránézésre jónak tűnhet, de jobban belegondolva kiderül, hogy a modell működésébe való mesterséges beavatkozás pontatlanságokat okozhat, amelyeket aztán üzletileg is kezelni kell.

Ugyanígy előfordulhat, hogy valami statisztikailag megalapozott, de jogilag mégis diszkriminatív. Például a biztosítók korábban kedvezőbb díjakat kínáltak női sofőröknek, mivel ritkábban okoztak balesetet. Az Európai Unió Bírósága azonban ezt a gyakorlatot a Test-Achats ügyben jogellenesnek minősítette, mivel az megsértette az egyenlő bánásmód elvét. Az ilyen történelmi gyakorlatokra épülő MI modellek akkor is társadalmilag kirekesztők lehetnek, ha egyébként pontosak.

Ezért van szükség olyan felelős és átlátható irányítási keretrendszerekre, amelyek figyelembe veszik az emberi kontrollt, az adatok tudatos kezelését, és a modellek valódi működésének megértését.

Az egyensúly keresése: pontosság vagy méltányosság?

Az üzleti döntéshozók gyakran kerülnek válaszút elé: vagy a modell pontosságát, vagy a diszkriminációmentességet őrzik meg. De van egy fenntartható megközelítés is: olyan rendszert kell kialakítani, amely egyszerre tudja kezelni az előbb említett két lehetőséget.  Ehhez azonban átgondolt, szervezeti szintű együttműködésre van szükség.

Különleges adatok a méltányosság szolgálatában

Az egyik leghatékonyabb eszköz a torzítások enyhítésére a különleges adatok tudatos, kontrollált felhasználása. Az olyan jellemzők, mint az etnikai hovatartozás vagy a nemi háttér segíthetnek az MI rendszerek teljesítményének értékelésében, valamint az esetleges diszkrimináció korrigálásában. De ezek használata súlyos adatvédelmi kérdéseket vet fel.

Jogszabályi útvesztő: adatvédelem és MI-egyensúly

A különleges adatok kezelése szigorú GDPR-feltételekhez kötött (9. cikk). Ezzel szemben az AI Act a 10. cikk (5) bekezdése – megfelelő biztosítékok mellett – lehetőséget ad a különleges adatok magas kockázatú MI rendszerekben való felhasználására, ha a torzítás észlelése és javítása más adatokkal (például szintetikus vagy anonimizált adatokkal) nem valósítható meg hatékonyan és  feltétlenül szükséges az alapvető jogok védelme érdekében.

Néhány jogi szakértő szerint mindez összeegyeztethető a GDPR 9. cikk (2) g) pontjában foglalt „jelentős közérdek” jogalappal, de ezt a hatóságok hivatalosan még nem erősítették meg. Így a két szabályozás viszonya továbbra is bizonytalan, különösen az adatkezelés jogalapja szempontjából.

További kérdéseket vet fel, hogy a 10. cikk (5) kizárólag a magas kockázatú rendszerekre vonatkozik. Az ennél alacsonyabb kockázatú rendszerek – például a korábban is említett gépjármű-biztosítási kockázatértékelő algoritmus – esetében is felmerülhetnek méltányossági problémák, ahol ugyanakkor különösen nem egyértelmű, hogy a kifejezett hozzájáruláson túl milyen más jogalap teszi lehetővé a különleges adatok jogszerű kezelését.

Szükség van egy tudatos keretrendszerrel rendelkező felelős MI-re

A szabályozás még nem teljesen tisztázott, ennek ellenére a vállalatoknak nem szabad tovább várniuk. A megbízható MI használatához olyan belső keretrendszerekre van szükség, amelyek biztosítják az átláthatóságot, az elszámoltathatóságot, a folyamatos monitorozást és a megfelelő emberi kontrollt.

Az algoritmikus torzítás nem csak technológiai kérdés, hanem üzleti, jogi és etikai felelősség is, amely megelőző, multidiszciplináris hozzáállást igényel.

Az MI hosszú távon csak akkor válhat megbízható, fenntartható technológiává, ha az adatvédelem és az MI-szabályozás egymással összhangban működik. Ennek megteremtése nem választás kérdése, hanem a sikeres MI-irányítás alapfeltétele.