Tema 3
Skal teknologien fange eller frigøre?
- Of the many diverse and fascinating challenges, we face today, the most intense and important is how to understand and shape the new technology revolution, which entails nothing less than a transformation of humankind
– Klaus Schwab, grundlægger af World Economic Forum.
Som ovenstående citat fra den tyske ingeniør og grundlægger af World Economic Forum, Klaus Schwab, bevidner, er den hastige udvikling af kunstig intelligens – om vi vil det eller ej – i gang med at ændre de allermest basale rammer for vores samfund.
Ofte kan det være svært at se en hastig udvikling udefra, når man selv vokser op i den, og dagligt tager del i den. Hvad er der for eksempel specielt revolutionerende ved, at jeg kan tale med en, der hedder Siri og bor inde i min mobiltelefon? Og hvorfor er det så mærkeligt, at selvsamme instrument kan genkende mit ansigt og rådgive mig om, hvor jeg kan købe økologisk shampoo og vise mig vej derhen?
I dette kapitel skal vi dykke ned i potentialet af anvendelse af kunstig intelligens og dataindsamling inden for EU’s grænser og ikke mindst, hvilke etiske krav vi bør stille som samfund for at denne anvendelse sker i overensstemmelse med vores demokratiske værdier.
Først skal du lytte til Margrethe Vestagers syn på de teknologiske muligheder vi står over for som europæiske borgere.
Ansigtsgenkendelse – bliver Big Brother-samfundet til virkelighed?
Forestil dig en verden, hvor du aldrig frygter for, at du selv og dine kære vil blive udsat for noget kriminelt. En verden, hvor staten – og dermed politiet – altid har kontrol over samfundets borgere, og hvor man altid ved, at man skal holde sig under 50 km/t, ellers kommer der prompte repressalier. En verden hvor et slagsmål i byen, et tasketyveri eller et indbrud hører fortiden til, da politiet opklarer alle sager, og konsekvensen af enhver kriminel handling vil være straf. Ingen går fri.
Dernæst skal du forestille dig en verden, hvor du aldrig er alene. Når du går til skole ved staten, hvilken vej du går. Når du er i sommerhus med dine forældre eller venner, så ved staten, hvor I er, hvor mange I er, og hvad I har med. Eller måske efter en tur i byen, hvor du dagen derpå kan spekulere over, hvad staten nu har indsamlet af information om dig, som du ikke engang selv kan huske.
Som du måske har luret, er de to verdenen ovenfor potentielt én og samme verden. Nemlig en verden hvor samfundet både kan nyde godt af implementeringen ansigtsgenkendelse, men også et samfund, hvor individets grundlæggende ret til frihed kan blive vældig udfordret af samme teknologi.
Denne type samfund kaldes ofte Big Brother-samfundet med henvisning til George Orwells roman 1984. I romanen beskriver Orwell, hvordan alle borgere overvåges af myndighederne igennem teleskærme og konstant mindes herom igennem mantraet ”Big Brother is watching you!”.
Selve ideen om overvågningskameraer i offentligheden er, som det fremgår af ’1984’-referencen, i sig selv ikke noget nyt, men den banebrydende udvikling i det 21. århundrede er dem, der skal kigge på skærmene: kunstigt intelligente systemer.
Tidligere var overvågningskameraerne passive i den forstand, at der som udgangspunkt ikke var nogen, der kiggede på optagelserne, medmindre der var en god grund. Hvis politiet fik en henvendelse ville de først og fremmest tjekke de relevante overvågningskameraer.
Med fremkomsten af kunstig intelligens er kameraerne gået fra at være passive til at kunne fungere som aktive øjne, der selv ser, genkender og rapporterer tilbage til systemet. Mest interessant er de kunstigt intelligente systemers evne til at lave ansigtsgenkendelse.
Kunstig intelligens har givet de eksisterende øjne – i form af kameraerne – en hjerne, der kan analysere hændelser i live tid, genkende specifikke mennesker på billederne og selv vurdere, hvorvidt hændelsen skal rapporteres og klassificeres som fx en kriminel hændelse.
Et eksempel kan være et overvågningskamera på en gade, der fanger en person, der overfalder en anden. Her vil algoritmen straks genkende billedets mønster som et muligt overfald, og derfor alarmere politiet om, at dette overfald finder sted med en dertilhørende koordinat til den geografiske placering. Derudover vil en fuldt implementeret ansigtsgenkendelsesdatabase fra politisk side også muliggøre, at algoritmen ville kunne genkende den person, der overfalder samt den forurettede. Denne teknologi er som bekendt allerede en del af din smartphone, hvilket meget godt viser, at det mere er et politisk spørgsmål end et teknologisk spørgsmål, om det skal implementeres i det offentlige rum samfundet i nærmeste fremrid.
Genkendelsesteknolgien er naturligvis også i stand til at genkende biler, nummerplader og andre enheder, der bevæger sig i det offentlige rum.
Gør teknologien dig fri eller fanget?
Om denne verden er attraktiv handler i høj grad om øjet, der ser og ikke mindst om, hvilken forståelse man har af begrebet ’frihed’.
Blandt de mest betydningsfulde filosoffer og idéhistorikere på dette område er Isaiah Berlin (1909-1997). Han beskriver i sin bog Two Concepts of Liberty, hvordan man grundlæggende kan anskue frihed på to måder, som henholdsvis en negativ frihed eller en positiv frihed.
Den negative frihedsopfattelse tager udgangspunkt i frihed fra, at udefrakommende (stat såvel som andre individer) blander sig i det enkelte individs frihed. Altså individets frihed til selv at træffe sine egne valg, uden at andre skal blande sig. I dette lys er overvågningssamfundet tydeligvis et brud på individets negative frihed til at bevæge sig rundt, uden at andre kan holde øje med ens handlinger, placering og gøremål.
I modsætning hertil står den positive frihed, der handler om at have frihed til at opnå noget bestemt. Her kan der være tale om, at staten giver borgeren ret til skolegang, hvilket giver borgeren positiv frihed til at kunne begå sig bedre og friere, end vedkommende kunne uden denne ret. I et overvågningsperspektiv ville den positive frihed kunne bruges som argument for, at borgeren i virkeligheden blev fri til at bevæge sig uforstyrret og fredeligt rundt i samfundet, i forhold til tidligere, hvor man kunne frygte at blive udsat for kriminalitet og ugerninger.
Berlin mente selv, at den positive frihed ofte ender med at blive formynderisk i og med, at den giver magtudøveren et falsk argument for at indskrænke individets ret til negativ frihed. Han argumenterede dermed for, at enhver frihed til (positiv frihed) var en trussel imod individets ret til at blive beskyttet fra andres indblanding i eget liv. Havde Berlin levet i dag ville han formentlig pointere de store farer, der ligger i at sætte den positive frihed – friheden til at undgå kriminalitet imod sig – over den negative frihed – friheden fra at staten overvåger et individs gøren og laden, når snakken falder på kunstig intelligens og potentialet i ansigtsgenkendelse.
Ansigtsgenkendelse – i andre dele af verden
En ting er at diskutere fordele, ulemper og etik, hvad angår vil implementeringen ansigtsgenkendelse i vores samfund. Et ligeså væsentlig spørgsmål er dog, hvor langt er man i politisk proces om at tillade eller forbyde teknologien. Og er det overhovedet realistisk, at vi får indført en sådan teknologi i det offentlige rum i EU-lande inden for en overskuelig fremtid?
Kigger vi først mod Kina var der fx i 2019 et estimeret antal på 200 millioner CCTVs (overvågningskameraer i det offentlige rum), og landet har angiveligt planer om at tredoble antallet inden for en overskuelig årrække. Som du kan læse mere om i tema 4, har Kina en landeplan for en hidtil uset implementering i kunstig intelligens. Det er derfor ikke overraskende, at en teknologi som ansigtsgenkendelse allerede er bredt implementeret i landet.
I USA har man indført ansigtsgenkendelse ved flere grænseovergange, der har til formål at stoppe eventuelt illegale eller kriminelle i at krydse landets grænser. Samtidig spekuleres der bredt i, at ansigtsgenkendelse er under udvikling – og måske endda allerede under anvendelse – i en lang række politikorps rundt om i landets stater. Dertil kommer det faktum, at en stor del af teknologien udvikles af amerikanske virksomheder – i kamp mod kinesiske – og dette styrker incitamentet for den amerikanske regering til at bakke op om landets virksomheder i dette kapløb om at have den nyeste teknologi.
Af disse to lande er Kina dog suverænt længst på implementering, mens amerikanske delstater og offentlige myndigheder stadig lægger an til at bevæge sig i samme retning. Men hvad med EU, hvor står vi i forhold til at implementere eller regulere brugen af ansigtsgenkendelse?
EU og ansigtsgenkendelse – implementering eller forbud?
EU er som en økonomisk, kulturel og politisk fremtrædende region naturligvis også et relevant marked for anvendelsen af ansigtsgenkendelse. I starten af 2020 blev det afsløret, at en rapport udarbejdet af politienheder fra ti EU-medlemslande anbefaler at indføre et ansigtsgenkendelsessystem, der kan gå på tværs af medlemslandenes politi og på sigt udvides til et samarbejde med andre vestlige lande.
Andre rapporter fra de politiske gange i EU melder dog om en helt anden plan for den fremtidige tilgang til ansigtsgenkendelse i EU. I 2020 kom det også frem i et lækkert arbejdsdokument fra EU-kommissionen, at man overvejede at udstede et midlertidigt forbud mod brugen af ansigtsgenkendelse på alle offentlige steder i EU. Siden er EU-kommissionen endnu ikke gået videre med idéen, men har ved flere lejligheder afsløret, at et forbud stadig overvejes.
Det er dog værd at bemærke, at mulighederne for at bruge ansigtsgenkendelse i det offentlige rum inden for EU’s grænser i forvejen er begrænsende. Det skyldes den såkaldte GDPR-lovgivning i EU, der trådte i kraft i 2018, og som sikrer, at alle en lang række personfølsomme data ikke kan indsamles frit om individer uden et direkte samtykke. Dette gælder dels information om fx køn, seksualitet, religion, men også information om folks udseende, hvilket ansigtsgenkendelse må siges at basere sig på.
I tema 4 kan du fordybe dig videre i, hvordan EU grundlæggende imødeser og håndterer etiske og moralske udfordringer i kølvandet på udviklingen af kunstig intelligens.
Selvkørende biler – vejen frem eller en etisk deroute
Nogle bliver skræmte. Andre bliver fascinerede. Næsten alle får en eller anden følelse indeni, når snakken falder på selvkørende biler.
Ideen om selvkørende biler kan dateres helt tilbage til Verdensudstillingen i New York i 1939, hvor virksomheden General Motors præsenterede en Futurama-udstilling med en motorvej, hvor et system guidede bilerne igennem trafikken uden menneskelig indvirkning. Siden er tanken blevet portrætteret flere gange i fiktion såvel som kommercielt, men ingen har formået at skabe en meningsfuld måde at virkeliggøre teknologien. Det er ikke mere end 25 år siden, at flere førende forskere kategorisk afskrev muligheden for at udvikle en tilstrækkelig teknologi til at muliggøre selvkørende biler.
Den drastiske udvikling i teknologier vedrørende kunstig intelligens samt en gentænkning at systemet således, at det i dag baserer sig på satellitkoordinater i højere grad end en imitation af en decideret ”person” bag rattet, har dog ændret på denne opfattelse.
I dag har Waymo, et datterselskab til Googles moderselskab Alphabet, kørt over 32.000.000 km på offentlige veje i USA. Disse kilometer er alle kørt under prøvetilladelser i en række amerikanske stater, mens en endelig tilladelse fortsat er under politisk behandling.
I EU har der endnu ikke været en ligeså udstrakt forsøgsordning, hvad angår selvkørende biler. Flere signaler har dog peget i retningen af, at Parlamentet såvel som Kommissionen er positivt indstillede overfor at gøre selvkørende biler til en fast bestanddel af den europæiske trafik inden længe. I 2019 udkom en rapport fra Europa-Parlamentet under titlen Self-driving cars in the EU: from science fiction to reality, der skitserede de mange fordele, som førerløse biler kan bringe i EU. De vigtigste pointer kan du se i infografikken, figur 3.0, nedenfor:
Figur 3.0. Fordele ved selvkørende biler
Du kan læse mere her.
Som det kan ses er forventninger til selvkørende biler store. Hvert år dør der i omegnen af 22-25.000 i trafikuheld inden for EU’s grænser. På baggrund af store amerikanske studier ved man, at 90 % af trafikuheld skyldes menneskelige fejl bag rattet. Til sammenligning er der hidtil ingen døde i forbindelse med de 32.000.000 km som Waymo har kørt, og kun et fåtal af døde i forbindelse med andre operatører, der har haft tilladelse til at bruge selvkørende biler på offentlige veje. Det er derfor åbenlyst, at en overgang til selvkørende biler rummer et gigantisk potentiale for at reducere dødsfald i trafikken i EU.
Hvad angår klimaspørgsmålet rummer teknologien ligeledes store muligheder for at nedbringe udledningen af CO2 i forbindelse med biltransport. De selvkørende biler kan optimeres således, at udledningen af CO2, enten fra brug af el eller benzin, er minimeret til det lavest mulige. Dertil kommer måske den største mulige revolution. Waymo og andre udbydere planlægger et opgør med hele den personejede bilindustri til fordel for en slags abonnementsløsning, hvor man bestiller en bil af en given kvalitet i en app, men som man deler med andre, når man ikke bruger den. Denne overgang fra privat bilisme til en abonnementslignende løsning rummer et kolossalt klimabesparende potentiale, da der derved skulle produceres langt færre biler, end der bliver i dag.
På trods af disse fordele, er der dog stadig stor tvivl om hvorvidt, hvordan og hvornår, at selvkørende biler kan komme ud og køre på de europæiske veje. I 2020 offentliggjorde EU-Kommissionen rapporten New recommendations for a safe and ethical transition towards driverless mobility. Rapporten var optimistisk omkring de mulige gevinster af implementeringen af førerløse biler på de europæiske veje, men ifølge ekspertgruppen bag rapporten, er der fortsat en lang række etiske, politiske og juridiske spørgsmål, der skal behandles før en egentlig juridisk godkendelse af førerløse biler bør komme på tale i EU. Initiativtager bag rapporten, EU-kommissær for Innovation, forskning, kultur, uddannelse og unge Mariya Gabriel, sagde i forbindelse med rapportens offentliggørelse:
- Technological progress alone will not be sufficient for Connected and Automated Vehicles (CAVs) to achieve their potential. From inception to use, the timely and systematic integration of ethical principles will be essential to align this emerging technology with our societal values and needs.
– EU-kommissær for Innovation, forskning, kultur, uddannelse og unge, Mariya Gabriel
For at forstå denne tilbageholdenhed over for implementering af en så lovende teknologi, må vi dykke videre ned i substansen af denne problematik. I det følgende vil du blive introduceret til et af de mest anvendte eksempler på, hvilke politiske og etiske overvejelser det vil kræve at godkende selvkørende biler på vejene i EU.
The Trolley Problem – hvad skal bilen beslutte sig for?
Førerløse biler kan på mange måde være en gevinst for samfundet og med kunstig intelligens, er vi kommet langt i bestræbelserne på at realisere brugen af førerløse biler. På en række punkter kan vi dog ikke blot bede den kunstige intelligens om et svar, men i stedet er det den kunstige intelligens, der afkræver et svar fra os mennesker på, hvordan vi vil have systemet til at handle.
Dette gælder spørgsmål, der drejer sig om etik. Ifølge Den Danske Ordbog henviser begrebet til: opfattelse af hvilke handle- og tænkemåder der grundlæggende er rigtige og forkerte eller gode og dårlig. The Trolley Problem er et klassisk etisk dilemma, der stiller skarpt på, hvad den enkelte borger føler er etisk korrekt i en situation, hvor der er flere negative alternativer. Det er desuden et eksempel på, hvilke svar som politikerne skal kunne give udbyderne af selvkørende biler – og dermed dem der programmere den kunstige intelligens – inden disse sendes på vejene i EU.
I testen bliver man på skift stillet overfor forskellige dilemmaer, hvor man skal afgøre, hvilket af to negative scenarier, man vil foretrække. Det er op til respondenten at afgøre, hvad der er mest korrekt at gøre.
The Trolley Problem er formuleret i mange forskellige udgaver. I det ovenstående eksempel kommer en førerløs bil kørende på vejen. I bilen sidder tre børn. Af ukendte årsager er vejbanen pludselig blokeret og den kunstige intelligens i bilens førerløse system bliver sat overfor et dilemma. Censoren i bilens front giver besked om, at bilen har retning imod en betonblok, og systemet vurderer, at en kollision med stor sandsynlighed vil koste alle tre børn i bilen livet.
Samtidig har bilen registreret, at tre ældre borgere er på vej over et fodgængerfelt for grønt lys. Det eneste alternativ til en dødelig kollision med betonblokken vil være at køre disse tre ældre borgere ned og systemet kan vurdere, at dette ligeledes vil koste alle tre borgere livet.
Det kunstigt intelligente system, der ’fører’ den førerløse bil har altså alle informationer til rådighed og har – modsat et menneske bag rattet – rigelig med tid til at træffe den optimal beslutning. Det store spørgsmål er bare, hvad den optimale beslutning er?
Eksemplet er åbenlyst forenklet, men ikke desto mindre er det et godt eksempel på, hvilke menneskelige og politiske overvejelser, der bør ligge bag anvendelse af kunstig intelligens. Hertil kommer det juridiske spørgsmål om, hvem der bærer ansvaret, når en selvkørende bil påkører en borger.
Scenarie 1
Bilen må tage kollisionen, og det koster de tre børn livet. De ældre borgere får retmæssigt lov at passere vejen for grønt lys.
Scenarie 2
Bilen tager et sving for at undgå kollision med betonblokken. Dette betyder dog, at bilen må påkøre de tre ældre borgere, der alle sandsynligvis omkommer ved påkørslen. De tre børn overlever.