Nyfiken på vad de nya lagarna innehåller. Jag har försökt beskriva innehållen och vilka effekter de ger på ett mer vardagligt språk än vad lagtexterna ger.

Artificiell intelligens (AI) är inte längre något som bara hör hemma i filmer eller forskningslabb. Den har blivit en del av vår vardag. Varje gång du frågar din röstassistent om vädret, tar emot smarta rekommendationer på Netflix eller när ditt bankkort nekas för att banken misstänker ovanlig aktivitet, så är det AI som arbetar i bakgrunden. Denna teknik gör våra liv smidigare, men den väcker också frågor: Vem ansvarar om AI-systemet tar ett felaktigt beslut? Hur ser vi till att inte bli övervakade eller diskriminerade av en algoritm? Det är här EU:s nya AI Act kommer in i bilden.

Mer information om AI Act hittar du här och du kan också läsa EU-kommissionens sammanställning här.

AI Act är tänkt att bli ett slags ”spelregler” för AI inom EU. Syftet är att skapa tydliga ramar så att teknik utvecklas och används på ett sätt som gynnar oss människor, samtidigt som våra rättigheter och vår säkerhet skyddas. Detta innebär bland annat att företag och organisationer som arbetar med AI måste:

• Bedöma risker: De ska analysera vilka risker ett AI-system kan medföra, till exempel om det kan leda till orättvis särbehandling när någon söker jobb eller om det finns risk för felaktiga medicinska rekommendationer.
• Vara öppna med hur AI fungerar: Istället för ”hemliga lådor” där ingen förstår hur beslut fattas, ställer AI Act krav på transparens. Användare ska kunna få förklarat för sig hur AI-systemet kom fram till just det beskedet. Om du till exempel blir nekad ett lån av en AI-baserad kreditbedömningsmjukvara, ska du kunna få insikt i hur beslutet togs och vilka data som användes.
• Ta ansvar vid fel: Om ett AI-system orsakar skada, exempelvis genom att ge felaktiga rekommendationer som leder till ekonomiska förluster eller hälsorisker, ska det finnas tydliga vägar för ersättning och rättelse. Detta skapar en trygghet för oss användare och gör det mer rimligt att lita på tekniken.

För oss vanliga människor betyder detta att vi kan känna oss mer säkra på att AI:n som används i samhället inte bara är smart, utan också rättvis och pålitlig. Om en AI-baserad rekryteringstjänst nekar dig ett jobb, ska du kunna lita på att det inte är för att du är kvinna, äldre eller har ett visst namn. Om ett AI-system används i sjukvården för att ställa preliminära diagnoser, ska vi kunna vara säkra på att det finns strikta säkerhetsåtgärder och kvalitetskrav bakom kulisserna.

För utvecklare, de personer och företag som faktiskt bygger dessa AI-system, innebär AI Act att det inte längre räcker med att bara göra en ”smart algoritm”. Nu måste de tänka på etik, juridik och transparens redan från början. De måste lägga tid på att testa sina system noggrant, dokumentera hur de fungerar och se till att det går att förklara systemets logik för både användare och myndigheter. Detta kan innebära att utvecklare behöver jobba närmare jurister, etikspecialister och andra experter för att säkerställa att deras AI inte bryter mot lagen.

Till en början kan detta kännas som mer arbete och större kostnader för företagen, men i längden skapar det en stabil grund för hela AI-området. När alla vet vilka regler som gäller blir det enklare att investera i AI, att våga använda tekniken och att lita på att den faktiskt hjälper oss, istället för att skada oss. Det kan också leda till nya jobbmöjligheter för de som kan förklara, granska och bedöma AI-lösningar ur ett mänskligt och juridiskt perspektiv.

I takt med att AI Act implementeras, och när vi som användare vänjer oss vid tydligare förklaringar och mer etiskt förankrad AI, kan vi förvänta oss en framtid där tekniken används allt smartare och mer ansvarsfullt. Vi behöver inte vara rädda för ”mörka algoritmer” som styr våra liv i hemlighet. Istället kan vi se fram emot en tid där AI är ett verktyg som verkligen jobbar för vår skull, under klara och begripliga regler, och där både användare och utvecklare vet var gränserna går.