I min trilogi om den svarta koden varnar jag för vad som kan hända om vi låter AI – den konstgjorda intelligensen – utvecklas utan att vi tar kontroll. Svart Kod, Svart Storm och kommande Svart Värld varnar för att mänskligheten kan gå under, men jag var långtifrån först att varna för riskerna med AI.

SVT publicerade nyligen en artikel om experterna som tidigare varnat för att AI kan innebära mänsklighetens undergång. Bland de mest kända finns Elon Musk och Stephen Hawking. Att Elon Musk varnar för AI kan tyckas lite konstigt, med tanke på vilket fokus han har på teknik och mänsklig utveckling, men han är också realist.

Stephen Hawking hade en lite annorlunda varning. Han varnade inte för att riskerna med AI är inte att den skulle bli ond och vilja förgöra mänskligheten, utan snarare att den kan bli för bra på det uppdrag som den ska utföra. Kommer mänskligheten då i vägen för det uppdraget kan det innebära vår undergång.

Ett exempel på det är det klassiska exemplet med en AI som får i uppdrag att bygga gem så effektivt och bra som möjligt. Slutresultatet är att hela planeten blir en enda stor fabrik som tillverkar gem och det är allt som finns på jorden.

Elon Musk är lite inne på samma sak, och inte minst vad det gäller svårigheterna att skapa någon form av konstgjord moral. Maskiner bygger på logik, inte känslor, och Musk trycker hårt på vikten av att reglera AI-utvecklingen. Här kan du läsa lite mer om vad han har sagt om AI.

Problemet är dock att hur mycket vissa länder än lägger på att reglera AI så pågår en kapprustning kring AI i världen. AI betyder makt och militär AI-utveckling vet vi väldigt lite om. Det läcker ut en del, som att autonoma vapen kan ta beslut självständigt baserat på ansiktsigenkänning om vem de ska skjuta ihjäl. Ett oerhört stort problem tycker jag, då program kan hackas och det finns väldigt få program som är 100% buggfria.

Jag är förstås inte emot AI eller digital utveckling, men jag tycker som experterna som varnat för AI. Säkerhet måste komma först, inte sist eller som ett plåster efteråt.