I korthet betyder EUs AI act följande

EUs AI Act är ett förslag på en lagstiftning med syfte att styra utvecklingen och tillämpningen av artificiell intelligens (AI)-teknik inom EU:s medlemsländer. Lagstiftningen syftar till att säkerställa att AI-system är säkra, transparenta och respekterar EU:s lagar och värderingar. Målet är att skydda medborgare och individer inom EU.

EU AI Act förväntas att träda i kraft 20 dagar efter publicering i EUs officiella skrifter. 

För dig som är företagare eller företagsledare, haf jag skapat en kort summering som jag kommer att uppdatera kopplat till att förstå lagstiftningen och koncepten i den.  

Här är en kort summering vad företagare behöver vara medvetna om gällande EUs AI Act

Ett riskbaserat, generellt perspektiv: AI-lagen tar sin utgångspunkt i fyra olika risknivåer från ett övergripande perspektiv. Till skillnad från den amerikanska lagstiftningen som är mer specifik baserad på olika tillämpningar. EU AI Act klassificerar därmed AI-system efter deras risknivå – från minimal risk till oacceptabel risk. Reglerna och kraven som tilldelas varje AI-applikation beror på den potentiella skada de kan orsaka hälsa, säkerhet eller grundläggande rättigheter.

Förbjudna metoder: Viss användning av AI anses oacceptabelt och är förbjuden enligt EU AI Act. Det inkluderar AI-system som manipulerar mänskligt beteende för att kringgå användarnas fria vilja (med undantag för specifika omständigheter som för brottsbekämpning), och system som använder ”social scoring” av regeringar (likt det som används idag i Kina).

Högrisk: AI-system som anses vara av hög risk inkluderar de som används i tex kritisk infrastruktur, sysselsättning, viktiga privata och offentliga tjänster, brottsbekämpning, migration med mera. Den typen av system ska genomgå rigorösa bedömningsprocesser innan de implementeras live, inklusive krav på transparens och efterlevnad av tydliga principer för datastyrning.

Data- och biashantering: AI med hög risk måste utformas på ett sätt som förhindrar partiskhet, vilket ställer krav på att säkerställa att AI-lösningen är rättvis och inte diskriminerar individer eller grupper. Vilket inkluderar användning av vad EU benämner som “högkvalitativa datamängder” för att träna AI-system och ställer krav på att dokumentera prestationen för AI-systemet över olika demografiska grupper.

Transparens och informationsskyldigheter: Företag som utvecklar och implementerar AI måste ge användarna tydlig information om hur AI-systemet fungerar, dess kvalité (dvs sannolikhet för tex faktafel) och dess begränsningar. Detta betonas särskilt för AI-system som interagerar med människor eller används på sätt som avsevärt kan påverka människors liv.

Övervakning och straffnivåer: AI-lagen kommer att upprätthållas av nationella myndigheter som kommer att övervaka lagen. Vid bristande efterlevnad kommer straff utövas, vilket kan vara i form av böter på upp till 6 % av den totala globala årliga omsättningen för vad EU anser är de allvarligaste överträdelserna.

Styrning: Lagen föreslår en struktur för styrning med nationella tillsynsmyndigheter, en europeisk styrelse för artificiell intelligens och andra åtgärder för att säkerställa att AI-reglerna tillämpas enhetligt i hela EU.

De fyra olika risknivåerna inom EU AI Act

EU:s AI Act kategoriserar AI-system efter fyra olika risknivåer, varje nivå med specifika regleringskrav. EU tillämpar detta från ett generellt, övergripande perspektiv.

Minimal Risk:
AI-applikationer som faller inom denna kategori utgör liten risk för användarnas rättigheter eller säkerhet. Ett konkret exempel på det är AI i spel eller spamfilter.

Den här typen av teknik kan utvecklas och användas med minimala begränsningar. Dock rekommenderas transparens från EU, såsom att informera användare om att de interagerar med AI, även om det inte är obligatoriskt.

Begränsad Risk:
Denna kategori inkluderar tillämpning av AI som interagerar med användare och kan påverka deras val, såsom chattbotar som tillhandahåller kundsupport eller AI som genererar innehåll i personaliserade flöden.

För företag som tillämpar AI med begränsad risk kräver EU att transparens säkerställs. Det innebär att det måste vara tydligt för användaren av systemet/tekniken att det har en AI-komponent. Vilket enligt EUs tankegång ger användarna medvetenhet och möjligen ett alternativ att välja ett mänskligt alternativ, tex alternativet att vilja prata med en människa som arbetar i supporten.

Hög Risk:
AI som anses vara av hög risk är AI som kan påverka säkerhet, rättigheter och frihet för individer. Det inkluderar AI som används inom kritiska sektorer som tex hälsovård, polisverksamhet, utbildning, anställningsprocesser och juridiskt beslutsfattande.
Den här typen av AI måste följa strikta krav innan de lanseras på marknaden. Vilket inkluderar noggrann datahantering, omfattande dokumentation på hur data används, processen den genomgått, källan till datat, mänsklig översyn, transparens och spårbarheten av funktionalit.

Den här typen av AI eller AI-lösningar kräver en process innan lansering som verifierar och bevisar efterlevnad med AI EU Act.

Oacceptabel risk:
Definieras genom användning av AI som skapar en oacceptabel risk för hälsa, säkerhet och grundläggande rättigheter för individer och är därmed direkt förbjudna. Inkluderar AI som använder subliminala tekniker för att påverka individers beslutsfattande, eller utnyttjar sårbarheter hos specifika grupper av personer för att manipulera en persons beteende på ett sätt som kan orsaka fysisk eller psykisk skada.

Andra förbjudna tillämpningar inkluderar sociala poängsystem av regeringar som kan leda till diskriminering. AI som tillåter identifiering av individer i realtid via biometrisk identifiering (ansiktsigenkänning, fingeravtryck mm) i offentligt tillgängliga utrymmen för brottsbekämpning, förutom i specifika, tydligt definierade situationer.

Källor för att lära dig mer om EU AI Act

AI Act kopplat till EUs digitala strategi fram

EUs egna artikel på ämnet AI Act


Den initiala press releasen som publicerades om EU AI Act

Mer detaljerad information om de olika risknivåerna inom EU AI Act