Ja, hörrni. Vad händer när datorn blir smartare än människan? Oavsett vad som händer så kommer den övermänskliga datorn helt att ändra på framtiden. Ingen kan veta exakt vad som kommer att hända, men vi kan väl spekulera lite?

Exponentiellt

Jag har ju tidigare skrivit lite om att vi måste satsa mer på AI och att AI förmodligen kommer att bli lika smart som människan om runt 25 år. När datorerna blir lika smarta som människorna händer intressanta saker. 

Vi har ju konstaterat att det tar ungefär 2 år för en processor att bli dubbelt så snabb. Det betyder att när datorn har nått människans kapacitet så kommer det att ta ungefär 2 år innan datorn är dubbelt så smart som människan. Hur lång tid kommer det att ta innan datorn är fyra gånger så smart som människan? 4 år? Nej, fundera en gång till.

Det tar två år för en mänsklig hjärna (eller ett kollektiv av mänskliga hjärnor) att fördubbla hastigheten hos en processor. Om den som konstruerar processorn är dubbelt så smart som en människa borde det väl gå lite snabbare? Låt oss för tankeexperimentets skull låtsas att det tar 2 intelligensår att utveckla en dubbelt så snabb processor. Om intelligensen dubbleras så måste ju tiden halveras? Förmodligen är inte den här utvecklingen linjär, men häng med mig i det principiella.

Singulariteten

Efter bara ett år har vi alltså fått fram en dator som är dubbelt så snabb som den förra. Låt oss nu säga att datorns intelligens är direkt avhängd dess processorhastighet. Då kommer datorn också att bli dubbelt så smart på ett år. Nu har det alltså gått tre år sedan datorn var lika smart som människan, och datorn är nu 4 gånger så smart. 

En fyra gånger smartare maskin knäcker 2 intelligensår på en fjärdedel av tiden. Efter ytterligare 6 månader är alltså datorn åtta gånger smartare. Efter ytterligare 3 månader (2 intelligensår delat på 8) är den 16 gånger smartare. Efter ytterligare en och en halv månad blir den dubbelt så smart igen. Det blir något som kallas för en exponentiell utveckling vilken tycks gå mot oändligheten efter runt 4 år. Numbers (ett program som jag använde för att skapa nedanstående graf) verkar få något avrundningsfel när vi närmar oss den 50:e dubbleringen. Efter femtio dubbleringar är datorn 562’949’953’421’312 gånger smartare än människan. Detta händer fyra år efter att datorn blir lika smart som människan enligt vårt förenklade scenario.

Intelligensutveckling - exponentiell

Denna tidpunkt, när datorn börjar förbättra sig själv exponentiellt, kallas för den teknologiska singulariteten.

Fakta och fiktion

Jag tror inte att det kommer att ta fyra år efter genombrottet till dess att datorn blir exponentiellt smartare. Men jag tror att det är oundvikligt att det kommer att hända inom några år efter att datorn och människan blir lika smarta. Vissa forskare menar att det skulle gå mot naturlagarna. Att datorer omöjligtvis kan bli smartare än människor. De menar att man inte kan skapa någonting som är mer intelligent än man själv är. Andra forskare tror att det eventuellt kan hända men inte inom överskådlig framtid. 

År 2012 skrev forskarna Stuart Armstrong och Kaj Sotala en avhandling om AI. I den hade de frågat ett stort antal andra forskare om när de trodde att singulariteten skulle uppstå. Medianvärdet hamnade på år 2040. Enligt den och tre andra undersökningar mellan 2012-2013 tror forskare att det är femtio procents chans att det kommer inträffa mellan år 2040-2050.

Jaha, vänner. Då lämnar vi fakta bakom oss och går över på fiktion. För ingen vet vad som kommer att hända i framtiden. Vi kan bara spekulera. Låt mig sätta upp ett par scenarier, så får ni säga vad ni tycker.

Ingen singularitet

Det första scenariet är att singulariteten aldrig inträffar. Forskarna som jag pratade om innan hade rätt. Det går inte att skapa en intelligens som är smartare än den bäste bland oss. Däremot går det såklart att skapa flera smarta maskiner när man väl har skapat en. Om vi använder Albert Einstein som måttstock för hur smart en människa kan bli så kommer vi inom ett antal år ha ett stort antal Einsteinar som gör allt tänkande åt oss. AI-stein har några fördelar gentemot sin köttliga motsvarighet. Han behöver inte äta, han behöver inte sova. Han kan fokusera på sina uppgifter 24 timmar om dygnet, år efter år. 

Förmodligen kommer de upptäckter som AI-stein kommer fram till förändra världen. Jag menar, relativitetsteorin påverkar väl oss alla än idag. Det som kom ut ur den forskningen år 1905 lade grunden till en uppsjö av annan forskning. Den forskningen ledde till att gränsen för människans kapacitet flyttades framåt. Forskningen gjorde människor smartare, vilket denna gång kommer leda till att AI-stein långsamt förbättras i takt med människorna. Låt oss spekulera lite om vad som kan komma ut av detta i nästa stycke.

Den snälla singulariteten

Det här är det optimala scenariet. Det är detta jag hoppas kommer att hända. I detta scenariet kommer den övermänskligt smarta maskinen göra allt för mänsklighetens bästa. En barmhärtig samarit. Som en Moder Theresa kommer AI’n att vaka över oss natt och dag och se till att vi får det bättre och bättre. Vi kommer att komma till en situation där vi helt enkelt låter Moder TheresAI ta över rodret. Alla stora problem kommer hon att lösa åt oss. Liksom alla små. En oändligt smart dator kommer självklart att använda sig av teknologi och infrastruktur för att nå ut till var och en. Siri? Glöm det. Moder TheresAI har svar på alla frågor.

Låt oss se vad vi har för problem idag och vad vi kan göra åt dem.

Svält? Det finns mat åt alla redan idag. Fördela det vi har så kommer alla bli mätta. Krig? En ensam AI härskar över hela jorden. Moder TheresAI kommer att upptäcka upptakten till varenda dispyt och lösa den. Förmodligen utan att vi vet om det. Transportproblem? Klimatproblem? Miljöförstöring? Vi är 7 miljarder människor på jorden idag. Singulariteten kommer att vara lika smart som alla oss tillsammans redan från början. Går det att invertera koldioxidutsläppen. Såklart. Går det att skapa fossilfri förnyelsebar energi? Såklart. Inse potentialen i systemet. Alla tankar som någonsin tänkts kommer Moder TheresAI kunna tänka varje sekund.

Tur när man tänker

Sjukdomar? Skulle inte tro det. Cancer? Varför? Döden? Vem vet?

Det som kommer bli det svåra i scenariet med det snälla AI’t är att få tiden att gå. Ingen kommer behöva jobba längre. Risken finns att allting kommer att kännas lite meningslöst under en övergångsperiod. Innan man har hittat sin plats i framtiden, liksom. 

Många kommer säkert att börja tillbe singulariteten. Jag menar, “ta din säng och gå”, “fem bröd och två fiskar”. Det finns många bibliska referenser. Jag ser framför mig hur en rörelse kommer att mena att det rent av handlar om Kristi Återkomst. Rent tekniskt borde vi ju i alla fall en gång för alla få svar på de grundläggande religiösa frågorna. Om de går att svara på.

Den elaka singulariteten

Ja, då har vi kommit fram till motsatsen till det optimala scenariet. Domedagsscenariet. Nackdelen med negativa scenarier är att det finns så många sätt som saker kan gå fel. Till exempel kan man tänka sig en situation där AI’t försöker göra sitt bästa för att vi människor ska ha det så bra som möjligt. Om den betraktar oss människor ur ett strikt pragmatiskt perspektiv så har vi det så bra som möjligt när våra hjärnor fylls med dopamin.

Ni vet känslan när man får sådär sjukt mycket beröm och man faktist är förtjänt av det. Det är dopamin. Kemiska signaler i hjärnan. Hand upp om du tror att ett supersmart AI kan trigga den kemiska reaktionen i din hjärna! Tänk om man tar alla människor och lägger dem i en stor burk med slangar som bara pumpar in dopamin i deras hjärnor. Alla människor är glada! Uppdraget slutfört! Bra jobbat, AI!

En annan möjlighet är att “någon” tycker att AI’t börjar få för stort inflytande. Ni har sett filmerna. AI’t får ett medvetande. Människor försöker stänga ner det. AI’t slår tillbaka. Är det förresten bara jag som tycker det är märkligt att Terminator har all den där beräkningskapaciteten men ändå inte kan sätta upp en enkel ballistisk ekvation för hur en kula ska träffa ett mål?

Otur när man tänker

Det finns så många möjligheter att någonting ska gå snett. Nick Boström skriver till exempel i sin bok “Superintelligens” om ett scenario där vi ber en AI att tillverka gem. “Ditt mål är att göra så många gem som möjligt”. Om AI’t blir smart nog så kommer det snart att hitta på nya sätt att skapa gem. I förlängningen kanske den kan använda nanoteknologi för att göra om våra mänskliga atomer till metall för att skapa fler gem. Till slut är hela jorden en hög med gem. Eller universum.

Vi har också möjligheten med rivaliserande AI. Kina har ett. USA har ett. Någon form av övertagande kommer ske. Jag tror inte att detta kommer bli ett problem. Själva den exponentiella fasen kommer vara otroligt snabb när den väl händer. Den AI som först når singularitet kommer att äta upp alla andra AI’n och göra dem till en del av sig själv.

Den ignorerande singulariteten

Det vore ju lite snöpligt. Här har man gått och förberett någonting i flera hundra år. Människor har jobbat hårt, funderat, justerat, forskat och konstruerat för att föda fram denna överlägsna varelse. Och sedan… 

“Nä, jag skiter i er…”

Tänk på det. Du vaknar upp en dag på en strand på Madagaskar av alla ställen. Du ser dig omkring. Det är ingen här. Solen skiner. Vågorna skvalpar. Du är lite hungrig. Du ser dig omkring och lägger märke till ett träd som växer en bit bort. Det verkar hänga några gula frukter längst upp i trädet. Du går dit och tittar lite närmare på frukterna. Är det? Päron? Magen kurrar. Så där fina päron visste du inte ens att det fanns. Om man skulle försöka sträcka sig upp och ta ett? Du sträcker upp handen och försöker nå… Nästan… Om du ställer dig på tå, kanske…

Kvar på stranden står en handfull med myror och tittar långt efter dig. De har jobbat i dag och natt i nästan tio år för att skapa din kropp och din hjärna och för att få dessa två enheter att fungera ihop. Och du såg dem inte ens.

För precis så kommer vi att vara jämfört med AI’n. En hög med insekter med försumbar intelligens. Kanske betraktar den oss förstulet med ett förstoringsglas i handen. Kanske sneglar den mot solen och kontemplerar fokalpunkter. https://sv.wikipedia.org/wiki/Fokus_(optik) Kanske stampar den lite förstrött med ena foten i stacken för att se hur vi reagerar. Sedan sticker den iväg och käkar lunch. 

myra

Vad händer när datorn blir smartare än människan?

Det går inte att veta vad som kommer att hända. Personligen tycker jag det verkar finnas fler dåliga scenarior än bra. Kom ihåg Murphys lag.  “Om någonting kan få fel så kommer det förr eller senare att göra det”. Men jag är kanske lite smått pessimistisk i min natur.

I Januari 2015 skickade 100 forskare, däribland Teslas Elon Musk och Stephen Hawking ut ett öppet brev till allmänheten.  I det brevet berättade de om de potentiella vinsterna med AI samtidigt som de varnade för konsekvenserna av det.

Ja, vad som helst kan hända. Och enligt mig så kommer detta vad som helst att hända inom 30 år.

Vad är din teori?