Vi människor är tyvärr bra på att ta död på varandra, och möjligheten att vi tar död på alla människor är tyvärr alltför stor.
Jag tror att det finns tre hot mot mänsklighetens överlevnad. Den första är rätt uppenbar i dessa dagar. Om någon börjar bomba ett annat land med kärnvapen kommer det oundvikligen leda till massdöd och att vi i värsta fall inte kommer att kunna överleva. Planeten kan bli obeboelig.
Det andra hotet handlar om miljön. Vi är väldigt många människor på planeten som släpper ut för mycket gift i luft, jord och vatten. Bara att få fram rent vatten till sju miljarder människor är en enorm utmaning och påfrestning på miljön.
Det tredje hotet är det jag skriver om i Svart Kod och Svart Storm. Hotet från konstgjord intelligens må låta abstrakt, men nyligen såg vi autonoma vapen i form av drönare användas i krig. Det är bara en typ av hot som konstgjord intelligens skulle kunna leda till. Även om vi ännu inte har sett generell konstgjord intelligens (vilket inte betyder att den inte existerar) så kommer vi oundvikligen se en generell AI inom de kommande decennierna.
Problemet och utmaningen kommer att bli att undvika att en tillräckligt avancerad AI som har tillåtelse att förbättra sig själv ändå håller sig till givna ramar. Vilket kommer vara allt annat än enkelt.
