Motsägelser i EU:s strategi för AI

Boudicca Georgii Hellberg, om hur utvecklingen av artificiell intelligens ställer frågor kring vilken typ av aktör EU vill vara.

EU:s planer på att i polisiära sammanhang använda AI-drivna drönare har ifrågasatts.

EU-kommissionen publicerade i slutet av februari en vitbok om artificiell intelligens (AI) och även en strategi angående en inre marknad för data. Dessa dokument utgör den nya kommissionens ambition för hur EU ska förhålla sig till AI och publicerades efter det att kommissionens ordförande Ursula von der Leyen hade deklarerat i sitt “trontal” att AI tillhör ett av kommissionens viktigaste prioritetsområden.

Det är omöjligt att exakt sia om AI:s framtida betydelse, men det står redan klart att världens stormakter räknar med att teknologin kommer att vara avgörande för den globala maktbalansen. Det är också uppenbart att det är USA och Kina, snarare än Europa, som ligger i utvecklingens framkant både civilt och militärt. Företag som Google och Amazon äger en betydande del av den digitala infrastruktur som hanterar stora dataflöden. USA och Kina står även för majoriteten av investeringar och patentansökningar inom AI. Dessutom menar forskare på Harvard Belfer Center att AI kommer att revolutionera militär teknologi och analytiker beskriver en kapprustning mellan USA och Kina inom just militär AI.

EU har förhållit sig till denna utmaning på ett motsägelsefullt sätt. Å ena sidan strävar EU-kommissionen efter att utveckla ett etiskt förhållningssätt till AI. Unionen försöker till exempel att skapa en global gyllene standard för dataintegritet och digitala rättigheter genom regleringar som t ex GDPR. Å andra sidan har Ursula von der Leyen också en ambition att EU ska bli en geopolitiskt inriktad aktör, som är mindre beroende av utomeuropeiska teknikföretag och i stället har teknologisk suveränitet. EU:s etiska och geopolitiska målsättningar för AI är dock svårförenliga, framförallt eftersom en stor mängd data är en av de allra viktigaste tillgångarna för att kunna utveckla AI.

Den tvådelade strategin framgår tydligt i Kommissionens vitbok om AI. Först och främst är det tydligt att flera av förslagen syftar till att säkerställa allmänhetens tillit till och förtroende för AI. Till exempel föreslås ökad reglering av högriskområden; gällande aspekter såsom transparens och tillsyn. Vitbokens andra grundsten är däremot fokuserad på att öka unionens kompetens inom AI. Som en del av denna inriktning föreslås bland annat ökade investeringar i AI och etablering av en inre marknad för data.

I ett globalt sammanhang kan EU:s etiska förhållningssätt till AI utgöra en unik konkurrensfördel gentemot USA och Kina. Detta förutsätter dock att unionen lyckas skapa förtroende bland användare som är kritiska till så kallad övervakningskapitalism, till exempel efter händelser såsom skandalen kring Cambridge Analytica. Men eftersom tillgång till data är avgörande för AI:s utveckling hindrar EU:s relativt hårt reglerade marknad företagande inom AI. Som ett resultat av dessa motsägelsefulla mål har EU:s vitbok fått kritik av branschföreningar, som anser att förslagen hindrar företagsamhet. Men vitboken har också blivit kritiserad av förespråkare för digitala rättigheter, som menar att den selektiva regleringen av högriskområden är för snäv. En aspekt som ännu inte har diskuteras tillräckligt är dock vad EU:s strategi innebär för unionens ökade satsning på säkerhetspolitik och försvarsindustri inom ramen för Pesco och EDF.

Kommissionens vitbok förtydligar att förslagen inte gäller den militära sektorn (och någon strategi specifikt för militär AI finns ännu inte). Inte desto mindre har EU:s strategi för AI inom icke-militära industrier stora konsekvenser också på det militära området. AI är ju en teknologi med dubbla användningsområden, vilket innebär att AI utvecklat för civila syften enkelt kan appliceras i militära sammanhang. Den allra senaste tekniken inom AI utvecklas inte heller nödvändigtvis av militära forskningsorganisationer, utan av kommersiella aktörer som Google. Detta har lett till att USA, och i ännu större utsträckning Kina, främjar civil-militär integration.

I USA har företag såsom Google och Palantir samarbetat med Pentagon i Project Maven, för att förbättra drönares förmåga att analysera bilder. I Kina är försvarsindustrin dominerad av statliga företag. Kommunistpartiet har stor kontroll och insikt i teknikindustrin efter att ha installerat partikommittéer i drygt 35 stora teknikföretag  för att försäkra att företagens mål överensstämmer med partiets. Kinas tidiga digitalisering, stora befolkning och bristen på dataskydd innebär också att dessa företag gynnas av tillgången till enorma mängder personlig data.

Hanteringen av AI i icke-militära sektorer har stor betydelse för utvecklingen av militär AI även i europeiska länder. En kommersiellt framställd teknik och data använd av EU för militära syften skulle sannolikt vara kontroversiell, vilket möjligtvis är en av orsakerna bakom tystnaden. EU har redan ifrågasatts i fråga om planer på att i polisiära sammanhang använda AI-drivna drönare och en gemensam databas för ansiktsigenkänning. I USA blev Googles medverkan i Project Maven mycket omtvistat och protesterna från företagets egna anställda resulterade i att företaget inte förnyade sitt kontrakt med det amerikanska försvarsdepartementet. Om EU utvecklar ett förhållningssätt till AI som bygger på ett etiskt varumärke och tillit bland medborgare, riskerar denna konkurrensfördel att undermineras av ett europeiskt samarbete likt Project Maven.

Det är svårt att se hur EU ska kunna kombinera sina två motstridiga linjer till ett enhetlig politik, som tillåter unionen att å ena sidan bibehålla sin status som en “digital regulatory superpower” och, å andra sidan samtidigt utveckla förmågor inom militär AI för att därigenom också bli en “tech superpower”. Istället för att exkludera den militära aspekten från när strategin för AI ska läggas fast bör EU därför uppmuntra en diskussion om vad denna avvägning innebär. Är EU:s normativa inställning till datahantering viktigare än att utveckla militär förmåga inom AI?

I dagens osäkra geopolitiska klimat handlar den frågeställningen inte bara att ta ställning till de risker som AI kan innebära, utan också grundläggande frågor om vilken sorts aktör EU vill och kan vara.

BOUDICCA GEORGII HELLBERG är magisterstudent i europeisk politik vid Oxford University och deltar i Frivärlds Utrikesakademi.