Tema 4
Politisk lederskab i en digital fremtid
- I’m increasingly inclined to think that there should be some regulatory oversight, maybe at the national and international level, just to make sure that we don’t do something very foolish. I mean with artificial intelligence we’re summoning the demon
– Elon Musk
Verden er under hastig forandring. Det er som sådan ikke noget nyt. Som art er vi mennesker karakteriseret ved vores evne til at forestille os en tilværelse forskellig fra den, vi befinder os i, men også vores evne til at gøre vores forestillinger til virkelighed. Netop denne intellektuelle kapacitet er årsagen til, at menneskeheden har og opnået det højteknologiske samfund, der karakteriserer det 21. århundrede.
Nogle mener dog, at vi er gået et skridt for langt eller er godt på vej til det. Dette skyldes blandt andet den eksponentielle hastighed, som karakteriserer den teknologiske udvikling.
Hvor en lineær udvikling betyder, at der er en konstant sammenhæng mellem tid og værdiforøgelse, betyder en eksponentiel udvikling, at værdien ikke forøges med en konstant mængde hvert år, men i stedet ganges op med en faktor.
Hvis det fx har taget dig et år at nedbringe din hurtigste løbetid på en 5 km med fem minutter, så vil det ud fra en lineær betragtning tage dig et år mere at nedbringe den med yderligere fem minutter. Det modsatte karakteriserer en såkaldt eksponentiel udvikling. Dette vil ofte betyde, at den i starten bevæger sig forholdsvist langsomt, men over tid kan udviklingen eksplodere på meget kort tid. Det er denne form for udvikling, der ifølge eksperter driver teknologiske udvikling, som for hvert år går hurtigere og hurtigere.
Figur 4.0. Illustration af eksponentiel og lineær vækst.
En måde at forstå vores teknologiske udvikling på er ved hjælp af Moores Lov.
Ingeniøren Gordon E. Moore, der blandt andet har været med til at grundlægge computergiganten Intel beskrev i 1965, forudså hvordan antallet af transistorer på en chip fordobles cirka hvert andet år og spåede at denne udvikling ville fortsætte og at den tilgængelige computerkraft ville vokse eksponentielt. Moore fik ret. Siden hans forudsigelser har computerteknologien udviklet eksponentielt hvilket for forbrugeren i dagens samfund betyder, at produkterne på hylden bliver bedre og bedre for hvert år, men at prisen forbliver den samme.
Imagine taking a time machine back to 1750
(Uddrag fra waitbutwhy.com)
Imagine taking a time machine back to 1750—a time when the world was in a permanent power outage, long-distance communication meant either yelling loudly or firing a cannon in the air, and all transportation ran on hay. When you get there, you retrieve a dude, bring him to 2015, and then walk him around and watch him react to everything. It’s impossible for us to understand what it would be like for him to see shiny capsules racing by on a highway, talk to people who had been on the other side of the ocean earlier in the day, watch sports that were being played 1,000 miles away, hear a musical performance that happened 50 years ago, and play with my magical wizard rectangle that he could use to capture a real-life image or record a living moment, generate a map with a paranormal moving blue dot that shows him where he is, look at someone’s face and chat with them even though they’re on the other side of the country, and worlds of other inconceivable sorcery. This is all before you show him the internet or explain things like the International Space Station, the Large Hadron Collider, nuclear weapons, or general relativity.
This experience for him wouldn’t be surprising or shocking or even mind-blowing—those words aren’t big enough. He might actually die.
But here’s the interesting thing—if he then went back to 1750 and got jealous that we got to see his reaction and decided he wanted to try the same thing, he’d take the time machine and go back the same distance, get someone from around the year 1500, bring him to 1750, and show him everything. And the 1500 guy would be shocked by a lot of things—but he wouldn’t die. It would be far less of an insane experience for him, because while 1500 and 1750 were very different, they were much less different than 1750 to 2015. The 1500 guy would learn some mind-bending shit about space and physics, he’d be impressed with how committed Europe turned out to be with that new imperialism fad, and he’d have to do some major revisions of his world map conception. But watching everyday life go by in 1750—transportation, communication, etc.—definitely wouldn’t make him die.
Læs den fulde udlægning på Tim Urbans blog waitbutwhy.com her.
Figur 4.1. Et bud på menneskelig udvikling over tid?
Kilde: waitbutwhy.com.
Overvågningskapitalister der overvåger din adfærd online, ansigtsgenkendelse som stater og private aktører kan bruge til at identificere dig og selvkørende biler, der kan køre bedre end mennesker er alt sammen noget, der for få årtier siden var forbeholdt science-fiktion romaner og fremtidsfilm. I dag er det virkelighed. Denne hastige udvikling kalder på en dyb og bred politisk debat af, hvad vi som samfund forholder os til den teknologiske udvikling.
I dette tema går vi i dybden med netop det og ser nærmere på, hvordan forskellige verdensdele forholder sig til kunstig intelligens og den teknologiske udvikling og ikke mindst, hvilken tanker vi gør os her i Europa og i EU.
Den kinesiske tilgang – proaktive investeringer og masseindsamling af data
Der er forskellige tilgange til kunstig intelligens alt efter hvilket land og dermed politiske interesse, der er tale om. En af de tilgange er eksempelvis den kinesiske vej, der i forhold til mulighederne i kunstig intelligens i høj grad kan betegnes som statsligt proaktiv.
Kina har en proaktiv tilgang til at opsøge mulighederne og investerer i udviklingen af både intelligens og moderne teknologi. Styret i Kina har således lagt en klar plan for anvendelse af kunstig intelligens i landet i fremtiden, og de har ikke mindst investeret massive pengemængder i at realisere denne ambition.
I 2017 udgav den kinesiske styre deres strategi New Generation Artificial Intelligence Development Plan (AIDP), og denne løftede for første gang sløret for en dybdegående plan for Kinas fremtidige satsning på udvikling af kunstig intelligens. I rapportens indledning står der blandt andet:
- AI has become a new focus of international competition. AI is a strategic technology that will lead in the future; the world’s major developed countries are taking the development of AI as a major strategy to enhance national competitiveness and protect national security.
– New Generation Artificial Intelligence Development Plan, Kina, 2017
For at sikre Kinas fremtidige økonomi og sikkerhed, ser landets styre kunstig intelligens som essentiel for deres fortsatte udvikling, og alt tyder på, at de indtil videre holder sig til strategien.
Den kinesiske regering har struktureret et regionalt kapløb, så regionerne i landet kæmper om at danne de bedste rammer for virksomheder, der baserer sig på kunstig intelligens. De værktøjer, som kineserne bruger er blandt andet, at finansiere en markant udvidelse i antallet af professorater indenfor forskellige typer kunstig intelligens på de kinesiske universiteter, give skatterabatter til startupvirksomheder inden for kunstig intelligens og givet leverandørkontrakter med staten til relevante virksomheder.
Måske allervigtigst har den kinesiske regering arbejdet tæt sammen med nogle af de største virksomheder herunder Baidu, der minder om Google og til Alibaba, der minder om amerikanske Amazon. Dette samarbejde har især drejet sig om at give disse virksomheder adgang til store datasæt, samt muliggjort at virksomhederne gensidigt kan dele data internt mellem sig til gavn for gensidig optimering og konkurrencedygtighed. I bestræbelserne på at udvikle den kunstige intelligens er denne strategi afgørende, da udviklingen af algoritmerne og dermed den kunstige intelligens er dybt afhængig af gigantiske datasæt.
Den kinesiske styres indsats har resulteret i at Kina i dag har det største marked for startup-virksomheder inden for kunstig intelligens i verden, og de kinesiske universiteter producerer ligeledes flest nye artikler om kunstig intelligens.
Set med vestlige øjne er der ingen tvivl om, at den kinesiske regeringens forkærlighed for indsamling og deling af data sker på bekostning af kinesernes frihed og privatliv.
Disse borgerrettigheder, som vi prioriterer ganske højt i vores del af verden, har dog umiddelbart ikke givet anledning til politiske overvejelser i det kinesiske styre.
Den amerikanske tilgang – frit spil til markedets superstjerner
I mere end 100 år har USA været foregangslandet for innovation og teknologisk udvikling. Den amerikanske bilproducent Henry Ford opfandt den masseproducerede bil og samlebåndet i starten af det 20. århundrede og revolutionerede vores måde at leve på. USA stod også i spidsen for udviklingen af atomkraft i midten af det 20. århundrede, hvilket revolutionerede den globale magtbalance samt vores måde at producere energi på. I sidste halvdel af det 20. århundrede revolutionerede virksomheder som IBM, Apple og Microsoft verden med introduktion af software og personlige computere.
Innovation er en integreret del af USA, hvor det berømte område Silicon Valley, syd for San Francisco i delstaten Californien, er kendt for at lægge grund til nogle af vores tids mest innovative virksomheder. En lang række af dem er samtidig blevet nogle af verdens største og mest værdifulde virksomheder, hvilket fremgår på listen herunder.
Figur 4.2. Verdens 20 mest værdifulde techbrands.
Figuren er udarbejdet af visualtcapitalist.com. Du kan læse mere her.
Selvom USA har haft stor succes med at udvikle førende virksomheder i techindustrien, er det på en meget anderledes baggrund end den kinesiske.
I USA har man haft fokus på at give de førende virksomheder høj grad af frihed til at drive virksomhed og dermed på liberal vis søgt at skabe gode rammer for virksomheder og dermed innovation.
Man kan dermed skelne mellem en kinesisk tilgang, hvor staten bruger kræfter på at styre udviklingen , og en amerikansk tilgang, hvor det er de private markedskræfter, der giver frie rammer.
Grundet den amerikanske historie med innovation og teknologisk fremskridt har Silicon Valley og techvirksomhederne skabt brugbare produkter, der har givet folket nye spændende muligheder og derfor også nydt bred opbakning fra forbrugere og offentlige myndigheder i mange år.
Men de seneste år har flere skandaler illustreret, hvordan techgiganterne ikke har gjort borgernes liv bedre, men i stedet skabt store samfundsmæssige problemer. Som eksempel fik Facebook en stor rolle i skandalen om Cambridge Analytica (som du kan læse mere om i Tema 2), og i 2020 har de amerikanske konkurrencemyndigheder anlagt sag mod Google om konkurrenceforvridende adfærd.
Techgiganternes indflydelse på fundamentale demokratiske processer har betydet, at de amerikanske myndigheder har måtte bevæge sig væk fra deres grundposition om at lade markedet diktere udviklingen. Dog må de amerikanske myndigheder overordnet set betegnes som værende tilbageholdende i reguleringen af techgiganternes gøren og laden. Denne tilbageholdenhed skyldes ikke mindst en frygt for, at udenlandske – især kinesiske konkurrenter – overhaler udviklingen hos de amerikanske virksomheder. Det opsummerer den amerikanske ingeniør og entreprenør Peter Diamandis her:
- If the government regulates against use of drones or stem cells or artificial intelligence, all that means is that the work and the research leave the borders of that country and go someplace else.
— Peter Diamandis
Land of the Free og det store dilemma
USA – Land of the Free – står i dag over for en stort dilemma, hvad angår de liberale og vestlige værdier samt udviklingen af kunstig intelligens. På den ene side står hensynet til virksomhedernes frie mulighed for at drive virksomhed. Her tænkes på at skabe de bedst mulige forudsætninger for at skabe økonomisk vækst, velstand og teknologisk udvikling gennem et frit og liberalt marked uden statens indblanding. På den anden side står hensynet til borgerens privatliv og frihed. Som beskrevet i Tema 1, 2 og 3 følger der med kunstig intelligens nye store trusler imod vores privatliv og vores frihedsrettigheder.
Note: ’I agree’. Vi kender det alle. Vi står lige på nippet til at bruge en ny app, og pludselig popper Terms and Conditions op på skærmen. Men hvor ofte får du dem egentlig læst? Ikke særligt ofte, eller måske aldrig, hvis du er, som de fleste forbrugere. Det kan dog også diskuteres, om det er overhovedet er rimeligt at forvente, at forbrugerne læser side efter side af om, hvad man giver lov til ved brug af app’en. I ovenstående video følger du en mand, der har sat sig for at læse den fulde Terms and Conditions til Amazons bogværktøj Kindle. Er det rimeligt at det skal tage op mod 9 timer at læse vilkårene?
Den foreløbige prioritering – i en amerikansk kontekst – har åbenlyst været at sikre vækst og velstand for samfundet og i mindre grad at beskytte samfundets borgere imod privatlivskrænkelser. For at få et bedre empirisk blik for, hvilke politiske muligheder og indgreb, der kan bruges til at kontrollere disse fremadstormende teknologiske muligheder, må man derfor rette blikket mod Europa.
Den europæiske tilgang – vækst skal rime på værdier
I Europa har den Europæiske Union (EU) en tilgang til teknologiens udvikling, herunder kunstig intelligens og dataindsamling, der er markant anderledes end den i Kina og i mindre grad også anderledes end den i USA. Dette skyldes i høj grad, at vi Europa ikke er ligeså tilbageholdende med at regulere markedskræfterne for at værne om de europæiske forbrugere, borgere og deres menneskerettigheder.
Retten til privatliv fremgår af den Europæiske Menneskerettighedskonvention Artikel 8 og fastslår, at enhver har ret til respekt for sit privatliv og familieliv, sit hjem og sin korrespondance. For at blandt andet at sikre overholdelsen af retten til privatliv har EU vedtaget en datalovgivning, der giver en beskyttelse af forbrugeres data bedre end noget andet sted i verden.
Europæiske virksomheder i dag er langt fra at kunne konkurrere med de allerstørste techvirksomheder i verden, men vi europæere bruger til gengæld flittigt produkter og services som Facebook, Google, Instagram. De fleste af EU’s borgere er på fornavn med Siri, benytter på daglig basis Google og kommunikerer med deres venner gennem platforme som Facebook, Instagram, Snapchat og TikTok.
For at forstå mere om EU’s politiske tilgang til teknologi, skal du her lytte til Margrethe Vestager, der er EU’s ledende næstformand med ansvar for Europas digitale fremtid, og hvilke overvejelser hun gør sig:
Demokratiske værdier i en digital tidsalder – persondatabeskyttelse og etiske retningslinjer
EU-Kommissionen tror på, at teknologien skal udvikles og anvendes på måder, der vinder folks tillid. Derfor er det Kommissionens strategi at lave en politisk plan for implementering af kunstig intelligens, der er baseret på grundlæggende værdier, giver borgerne tillid til disse systemer og samtidig giver virksomhederne et incitament til at udvikle dem.
Et af det store politiske tiltag, som EU-Kommissionen allerede har søsat, er den såkaldte GDPR-lovgivning fra 2018. General Data Protection Regulation – på dansk også kaldet Databeskyttelsesforordningen – er en forordning, der har til formål at beskytte data om individet generelt. Denne lovgivning har derfor ikke kun betydning for online indsamling og udveksling af data, men også i andre henseender.
For de virksomheder med en forretningsmodel, der udspringer af dataindsamling og overvågning (som du kan læse om i Tema 1) er lovgivningen af afgørende betydning. Straffen for at bryde GDPR-lovgivningen er op til 4 % af en virksomheds årlige indtægter på verdensplan, hvilket er astronomiske summer, når det drejer sig om nogle af verdens største virksomheder. Indtil videre er Google blevet idømt en bøde på 50 mio. euro af de franske myndigheder for brud på GDPR-lovgivningen. Bøden blev begrundet med, at Google ikke gav forbrugeren nok information om, hvilke data der afgives ved brug af Googles produkter samt en manglende mulighed for at tage aktivt stilling til, om man vil give tilsagn til dette. Bøden kan lyde af meget, men i virkeligheden er der hele tale om en mindre afgørelse, der dog viser, at GDPR-lovgivningen er i brug.
En væsentligt hårdere straf end bødestraffen for på brud på GDPR-lovgivningen kan være at udstede et midlertidigt eller permanent forbud for en specifik virksomhed – fx Facebook – mod at indsamle data i blandt EU-borgere. Et sådan forbud vil de facto lukke virksomhedens mulighed for at drive forretning, og derfor er der tale om en meget vidtgående – dog potentiel – restriktion, hvis fx Facebook ikke overholder GDPR-lovgivningen.
Vi har allerede set eksempler på, at sådanne mulige restriktioner har en effekt på de store virksomheders måde at drive forretning i Europa på. I februar 2020 var Facebook således få uger fra at lancere sin nye datingplatform, Facebook Dating, i EU, men Facebook valgte at skrinlægge lanceringen, efter flere myndigheder i EU-landene mente, at der manglede dokumentation for produktets metoder med henvisning til GDPR-lovgivningen, hvilket altså fik Facebook til at droppe deres datingplatform.
En af techvirksomhedernes helt store udfordringer er GDPR-lovgivningens artikel 5, der stiller krav om, at virksomheder ikke må bruge data til andre formål end det formål, de oprindeligt blev indsamlet til. Dette er en åbenlys udfordring for virksomhederne, der lever af at indsamle viden om mennesker og bruge denne viden til at forbedre sine algoritmer, opdage nye forretningsmuligheder og ikke mindst sælge en lang række produkter til andre virksomheder. En direkte retssag mod en af de store techvirksomheder – baseret på GDPR-forordningens artikel 5 – har endnu ikke se dagens lys, men potentialet til at tage denne artikel i brug er til stede.
Afslutningsvist er det værd at påpege at Databeskyttelseslovgivning blot er i sin indledende fase, hvor EU samt de nationale myndigheder i de europæiske lande er i gang med at udforske og undersøge, hvordan lovgivningen bedst muligt finder anvendelse for at beskytte europæernes privatlivsrettigheder i fremtiden.
En anden måde EU-Kommissionen har arbejdet med at sikre, at den digital tidsalder kommer til at udspille sig i overensstemmelse med demokratiske værdier og grundlæggende rettigheder er gennem de såkaldte Etiske Retningslinjer For Pålidelige Kunstig Intelligens, der udkom i sommeren 2018.
Fair konkurrence – gælder også i den digitale verden
I kampen for at sikre demokratiske værdier og rettigheder i en digital tidsalder er spørgsmålet om fair konkurrence også et vigtigt område. Men hvad har konkurrence egentlig at gøre med ansvarlig udvikling af kunstig intelligens og forretningsmodeller, der relaterer sig til dette?
Start med at lytte til Margrethe Vestagers udlægning nedenfor:
Som Margrethe Vestager udfolder i videoen, er det vigtigt med fair og lige konkurrence blandt techvirksomhederne for at sikre borgernes rettigheder i et digitalt samfund.
Grundlæggende er udfordringen, at techvirksomhederne er så store, at de reelt set har monopol på deres produkter. Hvis vi eksempelvis kigger på Google, har virksomheden en bred portefølje af tjenester – som fx Gmail, Drev, Docs, Meet – udover det oprindelige hovedprodukt i form af søgemaskinen. Derudover ejer Google også platformen YouTube og en lang række mindre sider og apps. Udfordringen for forbrugeren er, at denne virksomhed, der besidder en så stor markedsdel af techindustrien, kan udnytte sin viden og data til at skabe dårligere vilkår for forbrugeren, end de ville have på et marked med fri konkurrence.
Figur 4.3. Googles europæiske dominans.
Figuren er udarbejdet af statista.com og du kan læse mere her.
Med Margrethe Vestager i spidsen har EU derfor længe bekæmpet Googles forsøg på at udbrede sin dominans yderligere. Det har foreløbigt resulteret i, at EU har rejst tre separate sager mod Google for brud på konkurrencereglerne i EU. I alt har EU uddelt bøder på over 8 milliarder euro til Google, men indtil videre er ingen af sagerne endeligt afgjort, da Google har anket dem alle.
- In Europe, we would congratulate anyone who is successful. But congratulations stop if we find that you start to misuse a dominant position
– Margrethe Vestager
I det nedenstående uddrag kan du læse mere om sagen imod Google vedrørende deres udnyttelse af konkurrencefordele i Androids Styresystem.
”Vestagers slag mod Google handler om mere end en milliardbøde”
Sagen handler om Android, Googles styresystem til mobiltelefoner. Allerede i midten af 00’erne indså tech-giganten, at smartphones ville blive en gamechanger. At mobiltelefonen fremover ville blive vores primære indgang til nettet.
Det udgjorde en potentiel trussel mod Googles kerneforretning. Det var lykkedes firmaet at vinde kampen om at blive computerbrugernes foretrukne søgemaskine og derved generere enorme summer i annonceindtægter. Men det var ikke givet, at det ville blive tilfældet på smartphones.
Android var svaret på den udfordring. Google tilbød, at telefonproducenter som HTC, Samsung og Huawei frit kunne gøre brug af styresystemet i forventning om, at det ville generere trafik til Googles tjenester og derved data om brugerne og annonceindtægter. (…)
…at forære styresystemet væk har været med til at sikre det stor udbredelse. Ifølge EU-Kommissionen kører omkring 80 procent af alle smartphones i Europa og i verden i dag på Android.
Ulovlige licenser
Forretningsmodellen kan umiddelbart virke ulogisk, for der er i princippet ingen garanti for, at brugerne af en Android-telefon vil gøre brug af Googles søgetjeneste eller firmaets webbrowser Chrome. (…)
Men det havde de selvfølgelig tænkt over. En smartphone er selvsagt ikke meget værd, hvis man ikke kan downloade apps til den. Derfor er det afgørende for mobilproducenterne, at deres telefoner har adgang til Googles app-central Play Store.
Det kræver en licens fra Google, og det er her, EU-Kommissionen mener, at firmaet har overtrådt reglerne for misbrug af en dominerende markedsposition. For at få licens til Play Store skulle producenterne nemlig skrive under på nogle betingelser. For det første skulle de love, at Googles søgemaskine og webbrowseren Chrome blev forudinstalleret på deres telefoner. Samtidig betalte Google producenterne for ikke at installere andre søgetjenester.
På den måde blev Googles apps standarden på Android-telefoner.
Det giver en stor konkurrencefordel. Hvis forbrugeren vil bruge en anden søgemaskine eller browser, må de selv gøre en aktiv indsats for at skifte. Og det gør langt, langt de færreste. Dermed har Google »reduceret rivalers evne til at konkurrere effektivt«, og det er i juridisk forstand at regne for misbrug af firmaets dominerende position på markedet, konkluderer EU-Kommissionen.
Samlet set er det ikke for tidligt at konkludere, at EU har positioneret sig som det førende politiske lederskab i verden, hvad angår den implementering og regulering af kunstig intelligens. Det store spørgsmål er, om EU’s bestræbelser på at definere en digital fremtid, der stemmer overens med det vestlige samfunds liberale værdier, kan smitte af på andre regioner i verden. På den anden side kan man frygte, at EU bliver sat af i kampen om at udvikle fremtidens førende kunstige intelligens i kampen for at gøre denne intelligens ansvarlig og kompatibel med vores værdier.