EU-kommissionen har nyligen släppt rekommendationer från en oberoende tvärvetenskaplig expertgrupp för en säker och etisk övergång till självkörande bilar. Bland experterna bakom rapporten finns Veronica Johansson, universitetslektor vid Bibliotekshögskolan.

– Det här är nog ett av de mest långtgående exemplen hittills på var våra ämneskunskaper kommit till stor nytta, säger hon.

Veronica Johansson har tidigare skrivit en avhandling om kritiska perspektiv på visualisering av data och i samband med det deltagit i diskussioner med andra forskare med fokus på data och framtidens trafiksäkerhet. Det var efter det som hon blev kontaktad av en avdelning inom EU:s generaldirektorat för forskning och innovation. De undrade om hon var intresserad av att anmäla sig som expert för uppdraget att ta fram rekommendationer för en säker och etisk övergång till självkörande bilar. Och det var hon.

– Det var ett uppdrag i ett helt annat sammanhang än vad jag är van vid. Det kändes otroligt spännande, säger Veronica Johansson.  

Smart teknik kan få oönskade konsekvenser

I projektet som pågick under ett års tid jobbade en grupp främst med frågor om trafiksäkerhet och en annan med frågor om ansvarstagande. Veronica Johansson ingick i en grupp som koncentrerade sig på data, artificiell intelligens och algoritmer utifrån användarcentrerade och samhälleliga perspektiv.

– Vi fokuserade på skydd av personlig integritet, om rätten till likabehandling, om möjligheter till insyn och att människor ska ha rimliga möjligheter att kunna förstå, välja och påverka vad de går med på. Liksom vilka personuppgifter som samlas in, säger hon och fortsätter:

– Det kan även handla om att vissa data tvärtom bör skyddas som öppna och fria resurser för att stärka innovation och motverka monopol på marknaden. Helt enkelt vad som är etiskt försvarbart och önskvärt ur många olika perspektiv.

Veronica Johansson pekar på att sådana frågor generellt är viktiga i dagens samhälle, men att de också kommer till uttryck på en del specifika sätt, i samband med uppkopplade och automatiserade fordon och trafikmiljöer. Hon lyfter fram de risker som uppstår när privat ägande förväntas minska till förmån för så kallade mobilitetstjänster.

– Genom de algoritmer och självlärande funktioner som fordon och tjänster kommer att bygga på kan kommersiella aktörer hamna i en svårkontrollerad maktposition. Enskilda eller grupper av användare riskerar att försvagas och bli utsatta.

AI kan förstärka fördomar

Veronica Johansson menar att AI-system som är självlärande lätt kan dra felaktiga slutsatser, utgå från att det finns samband mellan saker som inte alls har med varandra att göra och föra vidare eller till och med förstärka fördomar. Som exempel nämner hon att ett fordon eller en tjänst kan bedöma att alla ungdomar eller vissa områden medför en ökad risk för vandalisering.

Andra risker som hon ser är att fordonet eller tjänsten bryter mot eller utnyttjar kryphål i regler för personuppgiftsbehandling, profilerar kunder och börjar med diskriminerande skillnader i prissättning. Likaså att användaren utsätts för en oönskad skräddarsydd reklam som bygger på fördomar baserade på antaganden om grupptillhörighet.

– Följden kan bli att vissa individer eller grupper nedprioriteras och inte får samma service eller villkor. Sådana risker, oavsett om de sker medvetet eller omedvetet, måste förstås motverkas, säger Veronica Johansson.

Samtidigt tycker hon att det är viktigt att påpeka att forskarna inte ser enbart problem.

– Etik handlar inte bara om att undvika skada och negativa konsekvenser, utan också om att agera för att åstadkomma positiva effekter. Det kommer också tydligt till uttryck i gruppens rekommendationer.

Nya möjligheter till inkludering

Att bygga framtidens trafikmiljöer utifrån etiska normer och principer ger enligt rapporten möjligheter att på nya sätt inkludera tidigare marginaliserade grupper, främja hållbar utveckling och finna vägar för ökad transparens gentemot användare och trafikanter.

– Det skapar bättre förutsättningar för delaktighet, jämlikhet och självbestämmande. Rapportens 20 rekommendationer kan förhoppningsvis bidra till sådan utveckling på såväl nationell nivå som på EU-nivå, säger Veronica Johansson.

Det känns lite otippat att ämneskunskaper inom biblioteks- och informationsvetenskap kommer till nytta inom ett så oväntat område som självkörande bilar?

– Ja, det är nog många förvånade över. Samtidigt är det självklart att kompetensen ligger hos oss. Information utgör kärnan i vårt ämne och det breda fler- och tvärvetenskapliga angreppssätt som vi har gör att vi har möjlighet att kombinera en mängd olika perspektiv, inklusive etiska, juridiska, tekniska och sociologiska, på informationsrelaterade frågor.

Omgivna av informationssystem

Veronica Johansson pekar på att nästan allt som vi omger oss med i dag är ”smarta apparater” som är uppkopplade mot internet och samlar in och bearbetar information på olika vis.

– De smarta apparaterna har blivit informationssystem som kan studeras och beskrivas utifrån våra perspektiv. Med ”datafieringen” i samhället – att mer och mer omvandlas till och värdesätts i form av data – så har helt enkelt våra forskningsobjekt ökat, säger hon och slår fast:

– Våra perspektiv är dessutom unika eftersom vi har en så lång och välutvecklad tradition av forskning och teorier om information i olika former så som data. Jag hade mycket att tillföra genom det, i en grupp som ändå bestod av så många experter på olika områden.

Självkörande bilar förväntas bli verklighet i stor skala inom en snar framtid och rapporten kommer att användas som underlag för politiska beslut.

– Själva planerar vi i expertgruppen att göra en akademisk uppföljning med artiklar i en vetenskaplig tidskrift, säger Veronica Johansson.

Kluriga frågor om sekretess på folkbiblioteken

Nu är hon, tillsammans med kollegan Maria Lindh, universitetslektor vid Bibliotekshögskolan, även aktuell med ännu en färsk rapport som knyter an till samma tema, med titeln ”Skyddsvärden i vågskålen: internet på folkbibliotek – ideologi, juridik och praktik”. Projektet som genomförts på uppdrag av Förvaltningen för kulturutveckling i Västra Götaland, Kultur i Halland och Biblioteksutveckling Sörmland, utgår dels från dataskyddsförordningen, dels från de förändringar som genomfördes i offentlighets- och sekretesslagen 2018. Och som innebär att sekretessen numera inte bara omfattar uppgifter om den enskildes lån och reservationer utan också användningen av informationsteknik i biblioteket.

– Det väckte intressanta och kluriga frågor om vad som ryms inom begreppet sekretess, vilken teknik som ska omfattas, vilken kunskap och insyn i de juridiska och tekniska förutsättningarna som finns på biblioteken och hur det kan påverka användarna, säger Maria Lindh.

En närbesläktad fråga till integritet är den om intellektuell frihet – och de båda universitetslektorerna studerade även den. Frågor som väcks är i vilken utsträckning till exempel internetfilter i biblioteken används och om det går det att använda internet och annan informationsteknik anonymt i biblioteket? Vilka informationsrelaterade friheter och risker kan helt enkelt identifieras i samband med internet och informationsteknik i folkbiblioteken idag, vem har makten att bestämma, och vad är viktigast: anonymitet eller spårbarhet?

Rädsla för övervakning skapar självcensur

Veronica Johansson och Maria Lindh menar att folkbiblioteken tillhör de sista utposterna som inte fullt ut har kommersialiserats – en samhällsinstitution där personliga och intellektuella friheter fortfarande värnas. De fyller en viktig demokratisk funktion för allas möjligheter till lika tillgång till information och informationsteknik.

– Folkbiblioteken utgör en motvikt till stora kommersiella aktörer som driver på för att vi inte längre ska se någon möjlighet och mening med att försöka skydda vår personliga integritet när vi använder internet, säger Veronica Johansson och får medhåll av Maria Lindh:

– Det är frågor som ligger i kärnan av bibliotekarieprofessionen och kunskap om dem efterfrågas allt mer på en bred samhällsfront. Vi behöver titta på de etiska aspekterna av vad som händer när allting vi använder och gör innebär att data om oss samlas in och vi blir profilerade.

Förutom direkta integritetsrisker pekar rapportförfattarna på att följden kan bli självcensur – att människor inte vågar söka information eller kommunicera via elektroniska medier om viktiga men ur olika perspektiv känsliga ämnen. Helt enkelt av rädsla för att bli övervakade eller för att data ska läcka och de därmed kan spåras, identifieras och råka illa ut.

– Om användarna inte vet vilken information som samlas in kanske de lägger band på sig själva och hindras från att ta del av viss information som de annars skulle ha gjort. I grunden är det här en fråga om yttrandefrihet och demokrati och därmed otroligt viktigt, säger Maria Lindh.

Allt handlar om mänskliga rättigheter

De disciplinärt vitt skilda projekten har en tydlig gemensam nämnare:

– I båda de här rapporterna har vi fått knyta an till EU:s och FN:s grundläggande förklaringar om mänskliga rättigheter, säger Veronica Johansson.

Hon understryker att det i båda fallen rör det sig om djupt etiska frågor som rätten till integritet och rättigheter till fri tillgång till information, insyn, transparens och medbestämmande. Och därmed möjligheter för individen att förstå och påverka villkoren för användning av tjänster och teknik i informationssamhället.

– Det löper som en röd tråd. Det handlar i grunden om hur den sentida tekniska utvecklingen relaterar till och påverkar mänskliga rättigheter. Vanliga lagar hinner inte med och kan inte täcka allt, så då måste vi identifiera vad mer som måste uppmärksammas och hur, säger Veronica Johansson.

Hon pekar på vikten av informationskompetens, att utbilda människor i att hävda sina intressen och värna sina rättigheter.

– Det som i olika sammanhang beskrivs som informationskompetens, datakompetens, kritisk kompetens och liknande är ett spår som växt och blivit mer aktuellt med tiden, säger Veronica Johansson.

Läs mer

Veronica Johanssons forskarprofil

Maria Lindhs forskarprofil

Horizon 2020 Commission Expert Group to advise on specific ethical issues raised by driverless mobility (E03659). (2020). Ethics of Connected and Automated Vehicles : Recommendations on Road Safety, Privacy, Fairness, Explainability and Responsibility. Luxembourg

Johansson, V., & Lindh, M. (2020). Skyddsvärden i vågskålen : internet på folkbibliotek - ideologi, juridik, praktik. Vänersborg: Kultur i Halland & Biblioteksutveckling Sörmland.