Vad händer när AI tar över?

I den takt som utvecklingen går idag, tyder allt på att maskiner som är smartare än människor kommer att bli verklighet under vår livstid. Inte bara det, dessa supersmarta maskiner, resultatet av artificiell intelligens, AI, kommer att kunna konstruera ännu bättre versioner av sig själva, i ständigt ökande takt. Är detta en god eller illavarslande framtidsvision?

Dagensanalys.se fick sitta med och diskutera den så kallade “singulariteten” tillsammans med en grupp unga snillen i podcasten “Hjärnsläppet”. Diskussionen kom att handla mycket om hur lite vi vet om hur framtiden faktiskt kommer att se ut och hur svårt det är att lösgöra sig från den uppfattning vi har idag om hur datorer och datornätverk fungerar. Vi har vant oss vid att betrakta mänsklig intelligens som universums höjdpunkt, men allt tyder på att AI kommer att passera den gränsen inom 30-40 år. Vad som väntar på andra sidan är oerhört svårt för oss att föreställa oss, trots vår fantastiska hjärnkapacitet.

Hur långt kommer tekniken bakom avancerad AI att spridas? Kommer skurkstater och terrorister att komma åt den? Är det bra att utvecklingen i stora drag drivs av kommersiella intressen? Kommer goda forskare att kunna lägga in tillräckligt med positiva och människovänliga ingångsvärden i sina algoritmer, så att inte maskinerna vänder sig emot oss? Kommer de artificiella intelligenserna att betrakta sig som individer precis som människor, eller ser de inga gränser till andra medvetanden? Stänger de av sig själva när de gjort en bättre kopia, eller bygger de bara på sin egen kompetens? Kommer en människas medvetande att kunna ta plats i en maskin och utvecklas i symbios med den?

Lyssna på diskussionerna om dessa och många andra frågor här: Hjärnsläppet.se (avsnitt sju).