Ett av de områden där AI kan accelerera forskningen är inom läkemedel. Bland annat på grund av att en AI kan testa många olika kombinationer av verksamma substanser snabbare än vad en människa kan göra. Naturligtvis vill vi alla att vi ska kunna bota fler sjukdomar. Eller?

I grund och botten är nya, verksamma läkemedel givetvis en bra sak. Så mycket lidande som kan stoppas om vi skulle kunna bota cancer, ALS eller andra sjukdomar som idag är svåra eller omöjliga att bota. Ett sådant exempel är det Hong Kong-baserade biotechföretaget Insilico Medicine, som nu börjar testa det första 100% AI-utvecklade läkemedlet på människor.

Nu är forskning på läkemedel och hela läkemedelssektorn en av världens mest reglerade branscher, men mitt problem är att jag litar inte på vare sig en AI eller de som utvecklar koden. Idag kan det rentav vara en annan maskin som utvecklat koden.

Autonoma AI som forskar fram nya läkemedel skulle också kunna användas för att skapa nya sjukdomar. De skulle också kunna skapa biverkningar som är svåra att överblicka för människor, särskilt om alltför få människor har varit involverade i utvecklingsprocessen.

Än så längre tror jag att det inte är ett problem med AI som utvecklar läkemedel, åtminstone inte i västvärlden där kontroll och regleringar är så starka, men i takt med att AI utvecklas kan det bli ett problem. Särskilt om en AI får för sig att det är människor som är planetens största problem (vilket man lätt kan hålla med om, men det blir mindre bra om samma AI också kan utveckla en ny pandemi).

Just de här utmaningarna skriver jag i min trilogi om den svarta koden, som börjar med Svart Kod.