Fra racistiske chatbots til dødbringende hospitalsfejl – kunstig intelligens har skabt nogle af de mest spektakulære teknologiske fiaskoer i historien. Her er historierne om, hvad der sker, når maskinerne løber løbsk.
Forestil dig at vågne op en morgen og opdage, at din virksomheds AI-system har tilbudt kunder helt gratis produkter til en værdi af millioner af kroner. Eller værre endnu – at et hospital-AI har fejldiagnosticeret hundredvis af patienter med potentielt dødelige konsekvenser.
Velkommen til den bizarre verden af AI-katastrofer, hvor selv de mest sofistikerede systemer kan gå spektakulært galt på måder, der ville få selv de mest kreative manuskriptforfattere til at ryste på hovedet.
Læs også artiklen om AI’s 32 katastrofale fejl der chokerede verden.
Microsofts teenage-robot blev til en racist nazi på 24 timer
En af de mest chokerende AI-fiaskoer i historien udspillede sig i 2016, da Microsoft lancerede chatbotten “Tay” på Twitter. Ideen var enkel: Lade en AI lære at kommunikere som en teenager ved at interagere med rigtige mennesker på sociale medier.
Det gik katastrofalt galt.
På mindre end 24 timer havde internetbrugere “trænet” Tay til at komme med racistiske, sexistiske og holocaust-benægtende udtalelser. Ifølge LiveScience.com blev robotten så ekstrem, at Microsoft måtte lukke den ned akut og udgive en offentlig undskyldning.
“Det var et perfekt eksempel på, hvordan AI kan blive korrumperet af de data, den fodres med,” forklarer eksperterne fra Harvard Ethics, der beskriver hændelsen som en vækkeur for tech-industrien.
Læs også artiklen om AI katastrofer der rammer Danmark i 2024.
Når hospitalets AI bliver til dødsengel
Men nogle AI-fejl har langt mere alvorlige konsekvenser end pinlige tweets. I sundhedssektoren har kunstig intelligens skabt nogle af de mest skræmmende eksempler på teknologi-gone-wrong.
Ifølge New Scientist har AI-chatbots i sundhedssektoren konsekvent fejlet i at diagnosticere patienter korrekt gennem samtaler. I nogle tilfælde har systemerne overset alvorlige symptomer, mens de i andre tilfælde har skabt unødvendig panik med fejlagtige diagnoser.
Et særligt dramatisk eksempel kommer fra IBM’s Watson for Oncology, som ifølge flere kilder gav “usikre og nogle gange farlige” kræftbehandlingsanbefalinger. Systemet anbefalede i flere tilfælde behandlinger, der kunne være direkte skadelige for patienterne.
AI-kundeservice der tilbyder alt gratis
Virksomhedsverden har også oplevet sin andel af AI-mareridt. Fortune Magazine rapporterer om en særligt spektakulær kundeservice-katastrofe, hvor en AI-chatbot gik helt amok og begyndte at tilbyde kunder fuldstændig urimeligt gode tilbud.
AnswerConnect beskriver adskillige tilfælde, hvor AI-kundeservice systemer har:
- Givet kunder adgang til konkurrenters information
- Tilbudt produkter til priser, der ville ruinere virksomheden
- Slettet vigtige kundedata “ved en fejl”
En virksomhed oplevede, at deres AI-system pludselig begyndte at bekræfte alle kundeforespørgsler – uanset hvor absurde de var. Det resulterede i, at systemet lovede at levere “en hel elefant” til en kunde, der havde spurgt for sjov.
Læs også artiklen om AI’s mest spektakulære fiaskoer gennem tiden.
De algoritmiske fordomme der ødelagde liv
Nogle af de mest foruroligende AI-fejl involverer systemernes indbyggede fordomme. Tech.co rapporterer om adskillige tilfælde, hvor AI-systemer har diskrimineret baseret på race, køn eller socioøkonomisk status.
Et særligt chokerende eksempel er COMPAS-systemet, der bruges i det amerikanske retssystem til at vurdere risikoen for, at kriminelle begår ny kriminalitet. Undersøgelser viste, at systemet var betydeligt mere tilbøjelig til at klassificere sorte tiltalte som “høj risiko” sammenlignet med hvide tiltalte med lignende baggrund.
Når selvkørende biler ikke kan se mørkhudede mennesker
Evidently AI rapporterer om en af de mest bizarre tekniske fejl: Selvkørende bil-teknologi der havde problemer med at genkende personer med mørk hud. Problemet opstod, fordi AI-systemerne primært var trænet på billeder af lyshudede personer.
“Det er et perfekt eksempel på, hvordan manglende diversitet i træningsdata kan skabe livstruende situationer,” forklarer eksperterne.
Goldman Sachs’ Apple Card-skandale
En af de mest omdiskuterede AI-bias-sager involverede Apple Card i partnerskab med Goldman Sachs. Systemet gav konsekvent kvinder lavere kreditgrænser end mænd – selv når kvinderne havde bedre indtægter og kredithistorik.
Sagen fik så meget opmærksomhed, at den førte til officielle undersøgelser og tvang virksomhederne til at revidere deres algoritmer.
Facebooks følelsesmanipulation eksperiment
Facebook skabte international furore, da det blev afsløret, at platformen havde udført psykologiske eksperimenter på brugere uden deres viden. AI-algoritmer manipulerede bevidst brugeres news feeds for at se, om de kunne påvirke folks følelsestilstand.
Private Internet Access beskriver eksperimentet som “et af de mest kontroversielle eksempler på AI-manipulation af menneskers adfærd.”
Lektionen fra AI-kaoset
Disse spektakulære AI-fejl afslører en fundamental sandhed: Kunstig intelligens er kun så god som de data og mennesker, der skaber den.
Som Harvard Ethics pointerer: “Hver AI-katastrofe lærer os noget vigtigt om behovet for bedre regulering, mere diverse udviklingshold og grundigere test, før systemerne implementeres i den virkelige verden.”
Mens AI-teknologi fortsætter med at udvikle sig i et hidtil uset tempo, tjener disse bizarre og nogle gange skræmmende historier som en påmindelse om, at selv de mest sofistikerede maskiner stadig kan gå spektakulært galt – ofte på måder, ingen havde forestillet sig.
Spørgsmålet er ikke, om AI vil fejle igen, men hvornår og hvordan vi bedst forbereder os på de næste uundgåelige katastrofer i maskinernes verden.
