EU-lagstiftning ska skydda medborgarna från AI

Det finns ett talesätt som säger att ny teknik ofta uppfinns i USA, produceras i Kina och regleras i Europa.

Om det alltid är så – och i så fall hur effektiv lagstiftningen är – återstår att se, men säkert är att EU nu inför lagstiftning för att skydda medborgarna från de negativa konsekvenserna av artificiell intelligens.

Den nya förordningen om artificiell intelligens har just antagits av Europeiska rådet och kommer att träda i kraft före sommarsemestrarna.

Den vägledande principen i förordningen är att AI-teknik ska kategoriseras utifrån hur stor potentiell risk en viss teknik utgör för samhället. Ju större risk, desto strängare blir reglerna.

AI som endast utgör en begränsad risk kommer att omfattas av mycket lätta transparensskyldigheter, medan AI med hög risk kommer att godkännas men omfattas av ett antal krav och skyldigheter för att få tillträde till EU-marknaden.

Antagandet av AI-förordningen är en viktig milstolpe för Europeiska unionen. Denna banbrytande lag, som är den första i sitt slag i världen, tar itu med en global teknisk utmaning som också skapar möjligheter för våra samhällen och ekonomier. Med AI-akten betonar Europa vikten av förtroende, öppenhet och ansvarighet när man hanterar ny teknik, samtidigt som man säkerställer att denna snabbt föränderliga teknik kan blomstra och främja europeisk innovation, säger Mathieu Michel, Belgiens digitaliseringsminister, i ett pressmeddelande om den nya lagstiftningen.

AI-teknik som kognitiv beteendemanipulation eller social scoring kommer att vara helt förbjuden i EU eftersom riskerna anses vara oacceptabla.

Lagen förbjuder också användning av AI för så kallad predictive policing (tänk ”Minority Report”) baserad på profilering och system som använder biometriska data för att kategorisera människor enligt specifika kategorier som ras, religion eller sexuell läggning.

Peter Gotschalk

(f. 1973): Chefredaktör L&B Home. Peter har arbetat för Ljud & Bild sedan 2012. Han har varit aktiv som teknikjournalist i många medier sedan 1998, bland annat som chefredaktör för prylmagasinet GEAR och som journalist för tidningarna PC World och Privat Computer. Peter skriver om mobiltelefoner och andra bärbara enheter samt om teknisk innovation, inklusive 5G, elektrisk mobilitet och smarta hem.