The original text is in Swedish – autotranslated English version below.
En del företag har idag det som kallas för Chief Ethics Officer, det vill säga en etikchef. Någon som ansvarar för att företaget arbetar etiskt.
Med tanke på vad som händer inom konstgjord intelligens och den oerhört snabba utvecklingen tror jag den här rollen kommer att inte bara bli vanligare, utan existentiellt fundamental på de flesta företag som inte är fåmansbolag.
Anledningen är enkel. Maskiner har inte känslor och har svårt att förstå mänsklig moral. De kan simulera båda delar men det betyder inte att de har förmågan att ta rätt beslut.
Ett av de vanligaste exemplen när det här blir ytterst aktuellt handlar om självkörande bilar. En självkörande bil kan lära sig att den ska köra över en ensam människa om det betyder att den räddar en barnfamilj. Den sortens beteende går relativt enkelt att bygga in, men vi kommer inte kunna lära maskinen att på riktigt förstå det okränkbara värdet av ett människoliv. Därför, och av ren överlevnadsinstinkt, måste vi se till att säkerställa att maskinerna aldrig får skada människor såväl som djur och natur.
Med autonoma maskiner som kommer att utföra allt mer av mänskliga uppgifter är det här redan idag superviktigt. Vi har, tyvärr, många människor som hyllar tekniken utan att se riskerna. Det är då det blir riktigt farligt och det är då även företag kan gå under. Värst är förstås att människoliv kan gå till spillo.
Tyvärr är det dessutom så att mänskligheten är experter på att inte jobba med moral. Tvärtom är det den med flest bomber som bestämmer och det brukar sällan vara någon god idé. Det gamla talesättet att om man är stark så måste man vara snäll gäller i alla lägen, men det är det en hel hög människor som inte har fattat.
Att stå upp för etik är att vara människa. I grund och botten är vi empatiska, goda människor, men det blir många gånger väldigt fel. Med en så avancerad teknik som AI kan det bli så fel att mänskligheten antingen går under eller blir slavar. Vissa är redan slavar under tekniken, men det kan bli mycket värre.
Chief Ethics Officer är garanterat ett framtidsyrke och jag tror att det kommer behövas ännu fler roller på stora företag som arbetar med etik, särskilt inriktat på den avancerade tekniken. Nu går utvecklingen fortare än den någonsin gjort och den kommer gå ännu fortare imorgon.
Vad tror du?
English version – Automated translation by Chat GPT – Errors can exist.
The Job of the Future – Chief Ethics Officer
Some companies today already have what’s called a Chief Ethics Officer — someone responsible for ensuring the company operates ethically.
Given what’s happening in artificial intelligence and the incredibly rapid pace of development, I believe this role will not only become more common, but existentially fundamental for most companies that aren’t small, owner-run businesses.
The reason is simple. Machines don’t have emotions, and they struggle to understand human morality. They can simulate both, but that doesn’t mean they’re capable of making the right decisions.
One of the most common examples where this becomes critically relevant is self-driving cars. An autonomous vehicle could be trained to run over a single person if doing so saves a family with children. That kind of behavior is relatively easy to program, but we will never be able to teach a machine to truly understand the inviolable value of a human life. Therefore — and out of pure survival instinct — we must ensure that machines are never allowed to harm people, animals, or the natural world.
With autonomous systems taking over more and more human tasks, this issue is already extremely important. Unfortunately, many people celebrate the technology without seeing the risks. That’s when things become truly dangerous — and when companies can collapse. Worst of all, lives can be lost.
Humanity, unfortunately, also has a poor track record when it comes to morality. Quite the opposite — the side with the most bombs tends to make the decisions, and that’s rarely a good idea. The old saying that if you’re strong, you must also be kind applies here, but far too many people still haven’t grasped that.
Standing up for ethics is part of being human. At our core, we’re empathetic and decent people, yet things often go terribly wrong. With a technology as powerful as AI, those mistakes could be catastrophic — to the point where humanity either collapses or becomes enslaved. Some people are already slaves to technology, but it could get much worse.
Chief Ethics Officer is undoubtedly a profession of the future, and I believe large companies will need even more ethics-focused roles, especially ones dedicated to advanced technologies. Development is moving faster than ever before — and it will move even faster tomorrow.
What do you think?
