Az EU mesterséges intelligenciáról szóló megállapodása (AI Act) nemsokára jogszabállyá válhat és a fordítóipart is vastagon érinteni fogja.

Az Európai Unió tagállamai 2024. február elején előzetes megállapodásra jutottak a szöveg kapcsán, amelyet február 13-án, 2024-ben a Európai Parlament polgári szabadságjogokkal és belső piaccal foglalkozó bizottságai is jóváhagytak. Az EU AI törvénye lesz az első átfogó jogi keretrendszer a mesterséges intelligenciára (AI) az egész világon. Az új szabályok célja, hogy elősegítsék a megbízható AI-t Európában és azon túl, biztosítva, hogy az AI rendszerek tiszteletben tartsák az alapvető jogokat, a biztonságot és az etikai elveket. 

Az “AI törvény” kezdetei a nagy nyelvi modellek áttörése előttre nyúlnak vissza, a ChatGPT 2022 végi megjelenéséig. Így a szöveg első, 2020-ban megfogalmazott változata egyáltalán nem említette a nagy nyelvi modelleket. 2021-re a jogalkotók már tudatában voltak annak, hogy ezek a megjelenő modellek a számtalan alkalmazásukkal új kockázatokat hordoznak.

A "kockázat" a feltehetően a jővőbeli törvény alapfogalma lesz: különböző szintű kockázatokat különböztet meg, a "kis kockázatútól" (nincs kimondott kötelezettség), a "korlátozott kockázatú" (ami magában foglalja a chatbotokat, és amely esetben kötelezettség van arra, hogy tájékoztassák a felhasználókat, hogy AI-val kerültek kapcsolatba), a "magas kockázatú" (biometria, infrastruktúra és sok más), és az "elfogadhatatlan kockázatú" (tiltott AI felhasználások, mint például a social scoring) között. A social scoring magyarul talán a közösségi médián alapuló pontozásos minősítés kifejezésnek felel meg leginkább.

A nyelvi AI alkalmazások, mint például a gépi fordítás, nem feltétlenül alacsony kockázatúak. Az AI Act nyolc "magas kockázatú területe" néhol átfedésben van a AI nyelvi szolgáltatásokkal és technológiával. Például ott, ahol a gépi fordítást és az AI általi szövegleírást nyilvános szolgáltatásokban és jogérvényesítés során használják. Így a nyelvi iparágnak alaposan meg kell vizsgálnia, hogy a mindennapi üzleti tevékenységére hatással lesz-e az új szabályozás.

Miért van szükség az AI szabályozására?

Az AI törvény teszi lehetővé, hogy az európaiak megbízhassanak a mesterséges intelligencia által kínált lehetőségekben. Bár a legtöbb AI-rendszer korlátozott vagy semmilyen kockázatot nem jelent, és hozzájárulhat számos társadalmi kihívás megoldásához, bizonyos AI-rendszerek kockázatokat teremtenek, amelyekkel foglalkoznunk kell.

Kockázati szintek

Az AI szabályozási keretrendszer négy kockázati szintet különböztet meg: elfogadhatatlan kockázat; magas kockázat; korlátozott kockázat; minimális vagy semmilyen kockázat.

Azok az AI rendszerek, amelyek egyértelmű fenyegetést jelentenek az emberek biztonságára, megélhetésére és jogaira, betiltásra kerülnek, a kormányzati “szociális pontozástól” (ld. korábban) kezdve a veszélyes viselkedést ösztönző hangsegéddel rendelkező játékokig.

Magas kockázat

A magas kockázatúként azonosított AI rendszerek közé tartoznak az AI technológiák, amelyeket a következő területeken használnak:

• kritikus infrastruktúrák (pl. közlekedés), amelyek veszélyeztethetik az állampolgárok életét és egészségét;
• oktatási vagy szakmai képzés, amely meghatározhatja valaki oktatáshoz való hozzáférését és szakmai pályafutását (pl. vizsgák pontozása);
• termékek biztonsági komponensei (pl. robot-asszisztált műtétekben alkalmazott AI alkalmazás);
• foglalkoztatás, munkavállalók kezelése és az önfoglalkoztatáshoz való hozzáférés (pl. önéletrajzok rendezése toborzási eljárásokban);
• létfontosságú magán- és közszolgáltatások (pl. hitelminősítés, amely megtagadja az állampolgároktól a kölcsön felvételének lehetőségét);
• bűnüldözés, amely beleavatkozhat az emberek alapvető jogainak gyakorlásába (pl. a bizonyítékok megbízhatóságának értékelése);
• migráció, menedékjog és határellenőrzés kezelése (pl. utazási okmányok hitelességének ellenőrzése);
• igazságszolgáltatás és a demokratikus folyamatok adminisztrációja (pl. a törvény alkalmazása egy konkrét tényállásra).

A magas kockázatú AI rendszerek piacra bocsátása előtt szigorú kötelezettségeknek kell megfelelniük:

• megfelelő kockázatértékelési és kockázatcsökkentési rendszerek létrehozása;
• a rendszert tápláló adatkészletek magas minősége a kockázatok és a diszkriminatív eredmények minimalizálása érdekében;
• tevékenységek naplózása az eredmények nyomon követhetőségének biztosítása érdekében;
• részletes dokumentáció, amely minden szükséges információt tartalmaz a rendszerről és annak céljáról az engedélyező hatóságok számára a megfelelőség értékelése céljából;
• világos és megfelelő információk a felhasználónak;
• megfelelő emberi felügyeleti intézkedések a kockázat minimalizálása érdekében;
• magas szintű robusztusság, biztonság és pontosság.

Minden távoli biometrikus azonosító rendszert magas kockázatúnak tekintenek, és szigorú követelményeknek kell megfelelniük. A távoli biometrikus azonosítás használata közterületeken bűnüldözési célokra alapvetően tilos.

Szűk kivételek vannak, de szigorúan szabályozottak, mint például egy eltűnt gyermek felkutatása, konkrét és közvetlen terrorfenyegetés megelőzése vagy súlyos bűncselekmény elkövetőjének vagy gyanúsítottjának észlelése, lokalizálása, azonosítása vagy üldözése.

Ezek a felhasználások bírósági vagy más független testület általi engedélyhez kötöttek, és megfelelő korlátozásokkal rendelkeznek időben, földrajzi kiterjedésben és a keresett adatbázisokban.

Az AI Törvény tehát elsősorban a magas kockázatú AI alkalmazásokra összpontosít, amelyek jelentős hatással lehetnek az emberek életére és jogaira. Bár a nyelvi szolgáltatások, mint a fordítás és a tolmácsolás, első pillantásra nem tűnnek magas kockázatúnak, bizonyos esetekben mégis beleeshetnek ebbe a kategóriába. Például, ha egy fordító AI rendszert használnak kritikus infrastruktúra dokumentációjának fordítására az oktatásban vagy az igazságszolgáltatásban, ahol a pontatlanságok vagy félreértelmezések súlyos következményekkel járhatnak.

Nyelvi szolgáltatók esetében, ha az általuk használt vagy nyújtott AI rendszer magas kockázatúnak minősül, számos követelménynek és kötelezettségnek kell megfelelniük, mint például:

• Minőségirányítási rendszerek: biztosítani kell, hogy a fordítási AI rendszerek megbízhatóak és pontosak legyenek, és hogy képesek legyenek kezelni a kulturális különbségeket.
• Adatvédelem: az AI rendszerek által feldolgozott adatok védelme, különösen, ha személyes adatokról van szó.
• Átláthatóság és felügyelet: a nyelvi szolgáltatóknak biztosítaniuk kell, hogy az AI rendszerek átlátható módon működjenek, és hogy emberi felügyelet alatt álljanak, különösen kritikus feladatok esetén.

Korlátozott vagy alacsony kockázat

A korlátozott kockázat azokra az AI rendszerekre vonatkozik, amelyekre specifikus átláthatósági kötelezettségek vonatkoznak. Chatbotok és hasonló AI rendszerek használata esetén a felhasználóknak tudatában kell lenniük annak, hogy géppel kerülnek kapcsolatba, így tájékozott döntést hozhatnak a folytatásról vagy visszalépésről.

A legtöbb nyelvi AI, mint a rutinszerű fordítási és tolmácsolási szolgáltatások, valószínűleg az alacsony vagy minimális kockázatú kategóriába esnek, ahol kevesebb szabályozási korlát van. Ezekben az esetekben a nyelvi szolgáltatók nagyobb szabadságot élvezhetnek, de továbbra is figyelniük kell az átláthatóság és az adatvédelem alapelveire.

Minimális vagy semmilyen kockázat

Az AI törvény lehetővé teszi a minimális kockázatú AI-k szabad használatát. Ide tartoznak olyan alkalmazások, mint az AI-támogatású videójátékok vagy a spam szűrők. Az EU-ban jelenleg használt AI rendszerek túlnyomó többsége ebbe a kategóriába tartozik.

A megállapodás végrehajtása és a kockázatos mesterséges intelligenciák szolgáltatóinak pontos teendői még nem tisztázottak, de az AI Act megalkotói gondoltak arra, hogy a folyamatosan fejlődő technológiával lépést tartsanak, és a szöveget kiterjesszék a  jövőben megszülető megoldásokra is.

Összefoglalás

Az EU AI Act hatással van minden olyan szervezetre és vállalkozásra, amely mesterséges intelligencia (AI) alapú rendszereket fejleszt, nyújt vagy használ, beleértve a nyelvi szolgáltatókat is, mint amilyenek a fordítók és fordítóirodák. Ahhoz, hogy megértsük, hogyan érinti őket ez a törvény, fontos megvizsgálni a törvény különböző aspektusait és a nyelvi szolgáltatások sajátosságait.

Bár az AI Törvény elsősorban a magas kockázatú AI alkalmazásokra összpontosít, a nyelvi szolgáltatóknak is ismerniük kell a törvény általános kereteit és azokat a követelményeket, amelyek potenciálisan érinthetik őket. Ez magában foglalja a minőségirányítási rendszerek kialakítását, az adatvédelmi intézkedéseket, az átláthatóságot és az emberi felügyeletet, hogy biztosítsák az AI által nyújtott nyelvi szolgáltatások megbízhatóságát és etikus felhasználását.

 

---

Hozzászólások (0)