Mänsklighetens dröm eller mardröm – tre digitala vägskäl

Det digitala samhället, den digitala biologin och det digitala språket. Björn Regnell, professor i programvarusystem vid LTH, menar att digitaliseringen är en framtidsutmaning lika allvarlig som frågan om klimatet och biologisk mångfald – och att tärningen ännu inte är kastad.

Tiina Meri – Publicerad den 30 juni 2021

Enligt Björn Regnell kommer människan att behöva samarbeta kring uppförandekoder för kodning – alltså arenan där den digitala världen skapas – och för att förse maskiner med moral. Foto: Kennet Ruona

Hur har den digitala utvecklingen förändrat våra liv om 60 år? Hur ser samhället ut, vad hände med den personliga integriteten och vilka frågor sysselsätter forskare år 2081 – när de som idag är unga har hunnit nå ålderns höst?

Eftersom LTH fyller 60 år 2021 passar vi på att även blicka framåt i tiden, och ställer frågorna till Björn Regnell, professor i programvarusystem.

Han ser att digitaliseringen redan ställer mänskligheten inför tre helt avgörande vägval, där både ljusa och mörka scenarier är tänkbara:

– Frågan är hur vi lyckas styra mot det goda och undvika det destruktiva, alltså de förstörande tillämpningarna av den nya tekniken. Här ligger både osäkerhet och frihet. 

Chans till global demokratirörelse

Det ena vägvalet som avgör vilken framtid vi går till mötes handlar om det digitala samhället, där ett orosmoln är att tekniken ger ökade möjligheter till övervakning.

– När vi läser George Orwells bok 1984 är det intressant att den beskriver statlig beteendestyrning. Men det som sker nu är att inte bara repressiva stater, utan också globala oligopol, övervakar och styr människors beteenden. Redan idag tränar AI-algoritmerna sig i hur de ska styra ditt klickbeteende och få ihop säljbar information, så att stora nätjättar som Facebook och andra bolag kan maximera sin vinst.

Skandalen med det brittiska analysföretaget Cambridge Analytica är, menar Björn Regnell, ett skrämmande exempel eftersom det visar att en skrupellös spelare kan få människor att rösta på ett visst sätt. Företaget sålde inte ”prylar” utan tjänsten att påverka val, påminner han.

Precis som i fallet med klimatförändringar tror Björn Regnell att det i den digitala utvecklingen finns ett slags tipping points eller tröskeleffekter.

– Jag tror att det är bråttom att utveckla ömsesidiga spelregler för att förhindra spridande av hat och komma till rätta med det förgiftande som trollfabrikerna ägnar sig åt i syfte att sprida desinformation och osäkerhet. Vi behöver stärka samhällskontraktet och tala mer om regler för hur vi ska kommunicera med varandra.

Det digitala samhället innebär övervakningens och beteendestyrningens utmaningar till trots även en chans till transparens och demokratisering:

– Vi kan få se en maktförskjutning där fler får information, kunskap och insyn. I en global demokratirörelse går ett upplyst folk kanske inte längre med på en repressiv makts förtryck.

Maskinerna tar över – även i krig

Det andra vägskälet som Björn Regnell vill sätta fingret på handlar om vad han kallar den digitala biologin. När datorer kopplas samman med hjärnan kommer kroppens förmåga att öka och livet förlängas:

– Inom bara några år kan kanske var och en köpa sig ett robotskelett på Bauhaus som hjälper oss att bära tyngre vikter när vi bygger eller renoverar. Genom exoskelett som dessa kan vi förhindra förslitningsskador och förhoppningsvis slopa många arbetsuppgifter som är farliga eller skadliga för människor. Och när robottekniken kopplas till sinnesceller i våra hjärnor kan exempelvis döva komma att höra.

På orossidan ser Björn Regnell risk för att maskiner ”tar över”, inte minst i framtidens krigföring, där nya, obemannade vapensystem fattar självständiga beslut om att döda.

– I krig behövs stövlar på marken. Och dessa kommer i framtiden i form av metallfötter. Om det blir krig mellan två industriellt högutvecklade samhällen kan vi vänta oss att kriget förs av AI-robotar, eller cyborgsoldater. Det är väldigt skrämmande, och idag finns inget internationellt förbud mot autonoma vapensystem.

Metaprogrammering slår igenom

Hur det digitala språket utvecklas är ett tredje vägskäl, enligt Björn Regnell.

– Redan idag kan vi styra världen bara genom att manipulera symboler. Den som vill minska utsläpp av avgaser från en bil omformar kanske inte ett kugghjul, utan kod. Det är ett exempel på den digitala revolution som just nu äger rum.

Dagens programmeringsspråk kräver fortfarande relativt hög kompetens att använda. Men med hjälp av smart stöd av framtidens maskiner kan i stort sett vem som helst programmera, säger Björn Regnell.

– Människans abstraktionsförmåga är en superkraft, och jag tror att vi den närmaste tiden kommer att använda den till att ta stora steg när det gäller att förenkla programmeringen och samtidigt hantera extrem komplexitet.

Inom bara några år bör metaprogrammering och programsyntes slå igenom på lite bredare front, med program som skriver program åt maskiner, säger Björn Regnell. 

– Dagens maskinlärning är ett första steg, där en maskin tränas att abstrahera på egen hand. När metaprogrammering kombineras med artificiell intelligens, AI, uppstår en accelererande smarthet, där maskiner på gott och ont kan skapa ännu smartare maskiner, utan mänsklig inblandning.

Internet kan inte tas för givet

Att demokrati och demokratisering stärks på 60 års sikt är dessvärre inte självklart. Idag märks enligt Björn Regnell ett stort hot i form av ett internet som bryts sönder. Repressiva stater försöker skapa internetöar där de hindrar datatrafik i syfte att strypa meningsutbyte.

– I Sverige finns samtidigt en aningslöshet kring hur sårbart vårt samhälle är. Om 60 år framstår dagens organisering som oerhört naiv. Från grunden och uppåt måste vi utforma alla samhällsmekanismer – mänskliga och tekniska – med tanke på både digital sårbarhet och demokrati. Om vi om 60 år inte lyckats hantera vår digitala sårbarhet har vi inte heller kunnat försvara vår demokrati.

Trots farhågan för oheliga allianser mellan repressiva stater och oligopol menar Björn Regnell att det digitala språkets utveckling i mångt och mycket inger hopp.

– Digitaliseringen innebär att vem som helst kan samla sig till motkraft, om internet är öppet. För att lyfta dig och andra ur fattigdom och elände behöver du kanske inte en miljard för att bygga en textilfabrik, du behöver kanske bara tillgång till ett fritt internet och kunskaper i det digitala språket.

Nya arbetstillfällen – och mer tal om moral

Programmeringens utmaningar kommer att skapa många nya arbetstillfällen i en framtid där lingua franca enligt Björn Regnell är den kod som är tillgänglig för alla att använda, läsa, modifiera och distribuera:

– Öppen källkod är en grundförutsättning för digitaliseringen, och i vår del av världen har de flesta stora företag insett att det är rationellt att ha en gemensam infrastruktur. Företag som inte samarbetar kring den digitala språkutvecklingen hamnar på efterkälken, delvis för att de har svårt att knyta till sig och behålla kompetens.

Enligt Björn Regnell kommer människan att behöva samarbeta kring uppförandekoder för kodning – alltså arenan där den digitala världen skapas – och för att förse maskiner med moral.

– Maskinerna som ska hjälpa oss behöver inte ha en religion, men de behöver en trosföreställning om sig själva och världen, de behöver ett moralsystem. Och för att fungera väl tillsammans med oss måste de kunna tillskansa sig människans politiska och samhällsmässiga fiktioner, våra upplevda gemenskaper.

"Digital allmänbildning behövs"

Den digitala revolutionen är enligt Björn Regnell en lika genomgripande utmaning för planeten som klimatförändringarna och förlusten av biologisk mångfald.

– Den digitala utvecklingen kommer att vara överordnad all annan teknikutveckling, och precis som vid all sådan finns kopplingar till stora samhällsomvandlingar. Hastigheten och omfattningen har vi däremot inte skådat förut.

Björn Regnell menar att alla måste läsa på och medvetandegöra sig om digitaliseringens ofantliga möjligheter och ödesdigra risker.

– Det är bara genom bred digital allmänbildning hos allmänheten, tillsammans med djupa kunskaper hos lagstiftaren och medieföreträdare, som vi kan försvara och utveckla en hållbar demokrati.

Björn Regnell

Björn Regnell

Björn Regnell är professor i programvarusystem vid Institutionen för datavetenskap, LTH, Lunds universitet.

Han har bidragit till flera forskningsområden inom bland annat kravhantering, programvarukvalitet, produkthantering och empiriska forskningsmetoder. 

Under 2019–2020 var han vicerektor för digitalisering vid LTH.

Robotikens tre lagar

Under 1940-talet formulerade den skönlitterära författaren Isaac Asimov tillsammans med John W Campbell, redaktör för tidskriften Astounding Science Fiction:

  1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.
  2. En robot måste lyda order från en människa, förutom om sådana order kommer i konflikt med första lagen.
  3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.

I romanform presenterade Asimov senare den "nollte" lagen (Zeroth Law), som i en fjärran framtid skapats för att prioriteras framför de första tre: En robot får inte genom handling, eller underlåtelse att handla, orsaka att mänskligheten skadas.

Källa: Wikipedia

Teknologisk singularitet

Teknologisk singularitet

Teknologisk singularitet är den tidpunkt då artificiell intelligens (AI) överträffar människans, vilket kan innebära en skenande teknisk utveckling med potentiellt ödesdigra konsekvenser för människans existens.

Huruvida den teknologiska singulariteten någon gång kommer att inträffa råder det delade meningar om.

Källa: Nationalencyklopedin

Lästips

Lästips

Björn Regnell tipsar om tre böcker för dig som vill öka din digitala allmänbildning:

The age of surveillance capitalism av Harvardprofessorn Shoshana Zuboff (Profile Books). "Den går systematiskt igenom storföretagens drivkrafter bakom att mjölka användare på data, i en accelererande rovdrift. Boken ställer också frågan om den skeva maktbalansen mellan globala företag, nationalstater och enskilda medborgare, där vi utan reglering av digitaliseringen riskerar att få se demokratins kollaps."

Sapiens – En kort historik över mänskligheten av Yuval Noah Harari (Natur & Kultur). "En teknikhistorisk exposé där människans förmåga att skapa symboler och tro på fiktioner står i centrum. Uppföljaren Homo Deus, med fokus på framtiden, är också mycket läsvärd."

Den andra maskinåldern av Erik Brynjolfsson och Andrew McAfee (Daidalos). "En teknikoptimistisk syn på framtidens samhälle med fokus på arbetsmarknadens omvandling. Den har ifrågasatts för att inte tillräckligt belysa farorna med teknikutvecklingen. Den kom redan 2014 men är läsvärd ännu, inte minst med tanke på att flera av bokens profetior, som då ansågs vågade, är verklighet idag."