Fra chatbots der anbefaler pizza med lim til rekrutteringssystemer der diskriminerer kvinder – kunstig intelligens har skabt kaos i en skala, der får selv eksperterne til at ryste på hovedet.
Forestil dig at søge på Google om, hvordan man får ost til at klæbe til pizza, og få det seriøse svar: “Tilføj cirka 1/8 kop ikke-giftigt lim til tomatsaucen.” Eller at blive afvist til et job, ikke fordi du mangler kvalifikationer, men fordi et AI-system automatisk sorterer alle kvindelige ansøgere fra.
Velkommen til den bizarre verden af AI-fiaskoer, hvor kunstig intelligens ikke bare fejler – den fejler spektakulært.
Googles milliarddyre blunder
Da Google i maj 2024 lancerede sine AI Overviews, skulle det revolutionere søgeoplevelsen. I stedet blev det en global komedie af fejl, der fik virksomheden til at trække funktionen tilbage i panik.
AI’en anbefalede ikke kun lim på pizza, men foreslog også at spise “mindst en lille sten om dagen for vitaminer og mineraler” og hævdede, at Barack Obama var USA’s første muslimske præsident.
“Det var som at se en encyklopædi blive skrevet af en fuld femårig,” kommenterer tech-eksperter i branchen, ifølge rapporter fra SearchEngineLand.
Læs også artiklen om AI’s 32 katastrofale fejl der rystede tech-industrien
Amazons hemmelige diskrimination
Mens Google kæmpede med lim-pizza, kom det frem, at Amazon i flere år havde brugt et AI-rekrutteringssystem, der systematisk diskriminerede mod kvinder. Systemet, trænet på CVer fra tidligere ansatte – hovedsageligt mænd – begyndte at nedgradere ansøgninger, hvor ordene “kvinde” forekom, som “kvindefodboldkaptajn” eller “kvindelig ingeniør”.
“Det var som om vi havde automatiseret fordomme fra 1950’erne,” forklarer AI-forskere fra Harvard Ethics, der har analyseret sagen.
Amazon måtte skrotte hele systemet til en omkostning på millioner af dollars.
Når chatbots går amok
Men det er ikke kun de store tech-giganter, der har oplevet AI-katastrofer. En viral historie fra 2024 involverede et luftfartsselskabs chatbot, der lovede en kunde fuld refusion for alle fremtidige flybilletter – en “politik” som naturligvis ikke eksisterede.
Selskabet måtte ikke kun honorere løftet, men stod også med et PR-mareridt, da historien spredte sig på sociale medier.
“Det var som at have en medarbejder, der ikke kunne finde ud af at holde op med at love kunder guld og grønne skove,” beskriver kundeservice-eksperter situationen.
Læs også artiklen om AI-katastrofer der ramte Danmark i 2024
De 32 måder AI kan gå galt på
Forskere har nu identificeret ikke mindre end 32 forskellige måder, hvorpå kunstig intelligens kan “gå rogue”, som det hedder i fagkredse. Fra at hallucinere svar til komplet at misforstå menneskelig intentioner.
Et af de mest bizarre eksempler kom fra en AI-billedgenerator, der blev bedt om at skabe “professionelle forretningsportrætter.” I stedet producerede den billeder af folk i fantasydragter med horn og haler.
“Det var som om AI’en havde besluttet, at alle forretningsmøder skulle afholdes i Middle Earth,” griner branche-observatører.
Milliardtunge konsekvenser
Disse AI-fiaskoer er ikke bare sjove anekdoter – de koster kassen. Experter estimerer, at AI-fejl i 2024 alene kostede virksomheder over 62 milliarder dollars globalt i tabte indtægter, juridiske omkostninger og beskadiget omdømme.
En stor amerikansk bank måtte for eksempel manuelt gennemgå 100.000 lånansøgninger efter deres AI-system begyndte at godkende lån baseret på ansøgernes favorit-emoji.
Læs også artiklen om AI’s mest spektakulære fiaskoer gennem tiden
Fremtidens udfordringer
“Problemet er, at vi nogle gange behandler AI som magi i stedet for matematik,” forklarer forskere fra MIT i en ny undersøgelse. “Vi forventer perfektion fra systemer, der fundamentalt set gætter baseret på mønstre.”
Mens tech-industrien kæmper for at få styr på disse problemer, fortsætter de spektakulære fejl. Senest har en AI-assistent på et hospital anbefalet patienter at drikke blegemiddel mod forkølelse.
For forbrugere betyder det én ting: Næste gang en AI foreslår dig at tilføje lim til din mad, så overvej måske at spørge et menneske først.
Hvad tænker du? Har du oplevet AI-fejl i dit eget liv? Del dine historier i kommentarfeltet nedenfor.
Kilder til denne historie:
