Mina två trilogier som har hotet från AI som tema blir alltmer sanna för varje dag som går. Tyvärr måste jag säga, för de är båda två dystopier. Både Svart Kod-serien och serien om De röda grevarna tar upp frågan om vad som händer när AI blir smartare än oss.
En av anledningarna till att AI fortsätter utvecklas åt fel håll är den upprustning som sker i världen just nu. Miljarder och åter miljarder kronor ska investeras i försvaret, av uppenbara anledningar. Men krig är inte längre krig i de traditionella domänerna land, sjö och luft. Nu utspelas krigen även i cyberrymden och i den verkliga rymden.
Det betyder att den som blir bäst på att anfalla med hjälp av AI kommer att vinna krigen i cyberrymden och i den verkliga världen. De olika världarna smälter samman och ett bra (egentligen dåligt) exempel på det är utvecklingen av drönare.
Drönare är i grund och botten en flygande dator. Utan en dators hjälp skulle en drönare vara väldigt svår att flyga manuellt eftersom den som styr skulle behöva kompensera väldigt mycket för luftströmmar och små obalanser i motorkraft. Datorn ombord på drönaren använder en mängd sensorer för att göra flygningen bättre och få mer precision. En drönare kan faktiskt flyga själv enligt en förutbestämd rutt, men här har hänt mycket.
För att få effektiva vapensystem så har drönarna fått hjälp av konstgjord intelligens. De kan numera hitta sina mål på egen hand och rentav döda en människa med hjälp av ansiktsigenkänning och annan data. Låter det som science-fiction? Det tyckte jag när jag skrev del två i Svart Kod-serien. I Svart Storm används drönare på ett sätt som då verkade väldigt avancerat.
Det gamla uttrycket att verkligheten överträffar dikten stämmer verkligen. Och ibland kommer verkligheten ikapp dikten.
Det här är en väldigt skrämmande utveckling eftersom maskiner får lov att döda människor. De AI-system som styr drönarna blir hela tiden mer avancerade och en ytterst skrämmande utveckling är drönarsvärmar. En drönare som jagar soldater eller stridsvagnar är illa nog, men om tusentals drönare släpps lös samtidigt? Idag är det inte möjligt att kombinera så många drönare till en svärm, men det är inte långt borta.
Under kriget i Ukraina har drönare använts flitigt. Förra året (2024) användes ungefär en miljon drönare totalt sett. I år beräknas över fyra miljoner drönare användas och användningen blir alltmer avancerad. Kapprustningen om avancerade vapensystem kommer att tillåta AI att utvecklas på sätt som inte borde vara tillåtna och det är frågande om någon går segrande ur kapprustningen. Möjligtvis är det AI som segrar till slut.
Givetvis kan man fråga sig om det inte är bra att vi utvecklar smarta AI-drönare och andra AI-system som kan försvara våra länder. I nuläget har vi kanske inte ens ett val. Den som inte rustar upp sina förmågor inom AI kommer hamna efter. Kanske når vi en sorts terrorbalans på samma sätt som med kärnvapen, men det är inte säkert.
AI används inte bara för att utveckla självständiga drönare som opererar själva eller i svärmar. AI har blivit ett vapen i så många olika hänseenden att det är svårt att överblicka. Med den enorma mängd information som ett AI-system kan bearbeta blir en kapabel AI en oerhörd fördel för den som planerar anfall. En AI kan samla in alla sårbarheter och hitta det smartaste sättet att anfalla på.
Men om den som försvarar har en bättre AI, vad händer då? De kanske har medvetet låtit en sårbarhet synas för att de vet att motståndaren kommer anfalla där. Och så vidare, ni fattar. Det är bara ett användningsområde som redan idag används.
Ett annat, som också redan använts, är psykologisk krigföring. Redan tidigt i Rysslands anfallskrig mot Ukraina sågs president Zelensky på en videoinspelning där han gav upp. Det var en falsk deepfake video och det finns många andra liknande exempel på när AI används för att skapa falskt material. Det är ett område som utvecklas hela tiden och AI används allt mer för att analysera sociala medier så att den som vill sprida ett falskt budskap kan göra det på bästa sätt.
Samma sak med övervakning av en befolkning. Det går utan vidare att låta AI hitta mönster i hur människor beter sig online och förutse vad de röstar på, vad de har för behov, vad man ska trycka på för att få dem att rösta annorlunda och så vidare.
Kommer det då ta slut någon gång? Jag tror inte vi ens i närheten av att se slutet på utvecklingen av konstgjord intelligens och jag tror dessvärre att jag har väldigt rätt i mina böcker. Den svarta koden behövs mer än någonsin och det behövs dessutom regeringar som inser riskerna.
Nedan kan du se videon där president Zelensky ”ger upp”.
Vad tycker du? Utvecklas AI åt fel håll?
