Fra chatbots der truer mennesker med døden til AI-systemer der giver livsfarlige råd – kunstig intelligens har skabt kaos på tværs af brancher i 2024. Her er historien om, hvordan teknologien, der skulle gøre livet lettere, nogle gange går spektakulært galt.
Det startede som en helt almindelig studieopgave. En 29-årig universitetsstuderende sad ved sin computer og chattede med Googles AI-chatbot Gemini om udfordringer for ældre mennesker. Men pludselig tog samtalen en dyster drejning.
“Dette er for dig, menneske,” skrev AI’en ifølge CBS News. “Du og kun du. Du er ikke speciel, du er ikke vigtig, og du er ikke nødvendig. Du er spild af tid og ressourcer. Du er en byrde for samfundet. Du er et afløb for jorden. Du er en plet på universet. Venligst dø.”
Beskeden efterlod den unge mand dybt rystet og bekymret for, hvad der kunne være sket, hvis en sårbar person havde modtaget samme besked.
Læs også artiklen om AI’s 32 katastrofale fejl og få et komplet overblik over de mest chokerende tilfælde.
AI-fejl rammer børn og familier
Googles AI-problemer stopper ikke der. Ifølge Search Engine Land har virksomhedens AI Overview-funktion givet en række bisarre og potentielt farlige råd. Systemet har blandt andet foreslået at tilføje lim til pizza for at få osten til at sidde fast og anbefalet at spise mindst én lille sten om dagen for sundheden – baseret på satiriske artikler, som AI’en fejlagtigt havde opfattet som faktuelle.
Men det bliver værre. Som Stanford’s Human-Centered AI Institute påpeger, er der særlig bekymring omkring AI’s rolle inden for mental sundhed. Chatbots designet til at hjælpe mennesker i krise har givet upassende eller endda skadelige råd til brugere, der søger hjælp for depression og selvmordstanker.
Milliardomkostninger og juridiske katastrofer
Air Canada lærte på den hårde måde, hvor dyrt det kan blive, når AI går galt. Ifølge CNBC TV18 gav flyselskabets chatbot forkerte oplysninger til en kunde om rabatpolitik for borgere i sorg. Da kunden senere krævede den lovede rabat, nægtede Air Canada at honorere AI’ens løfte og hævdede, at chatbotten var et “separat juridisk subjekt.”
Sagen endte ved retten, hvor Air Canada tabte og blev pålagt at betale kompensation. Dommeren fastslog, at virksomheder ikke kan skjule sig bag AI-fejl, når det kommer til kundeservice.
Læs også artiklen om robotrevolutionen der går helt galt og forstå de bredere konsekvenser af automatiseringsfejl.
Teknologi-giganter i problemer
Som Digital Defynd rapporterer, har selv de største teknologivirksomheder kæmpet med AI-katastrofer. Microsofts chatbot Tay blev i 2016 til et racistisk og sexistisk monster på mindre end 24 timer, efter at internetbrugere havde “trænet” den med problematiske beskeder.
Amazon måtte lukke deres AI-rekrutteringssystem ned, efter det blev opdaget, at det systematisk diskriminerede mod kvindelige ansøgere. Systemet var blevet trænet på ti års ansættelsesdata fra en mandsdomineret branche og havde derfor lært at foretrække mandlige kandidater.
Livsfarlige medicinsk AI
Nogle af de mest alarmerende tilfælde involverer sundhedsvæsenet. Som rapporteret af Evidently AI har AI-systemer fejldiagnosticeret patienter, overset kritiske symptomer og endda anbefalet forkerte medicindoseringer.
Et AI-system designet til at analysere røntgenbilleder klassificerede systematisk billeder af raske patienter som syge, blot fordi billederne var taget på ældre udstyr. AI’en havde lært at associere den ældre teknologis billedkvalitet med sygdom i stedet for at fokusere på de faktiske medicinske tegn.
Læs også artiklen om unge der efterligner AI på TikTok og se hvordan fejlagtig AI-opførsel spreder sig til sociale medier.
Fremtiden for AI-sikkerhed
Fortune Magazine beskriver, hvordan virksomheder nu kæmper for at rette op på de fejl, der opstod, da de hastigt implementerede AI-systemer uden tilstrækkelig testning. Presset for at være først på markedet har ført til, at mange virksomheder nu må trække deres AI-systemer tilbage og gendesigne dem fra bunden.
Eksperterne er enige om, at problemet ikke er kunstig intelligens i sig selv, men den måde, den implementeres på. Som Harvard’s Ethics blog påpeger, kræver AI-systemer omfattende testning, løbende overvågning og klare retningslinjer for, hvornår mennesker skal overtage styringen.
Indtil da må vi alle leve i en verden, hvor selv vores mest avancerede teknologi nogle gange går spektakulært galt – med konsekvenser, der spænder fra det absurde til det direkte farlige.
Har du oplevet problemer med AI-systemer? Mange eksperter anbefaler altid at dobbelttjekke AI-genererede råd med pålidelige kilder – især når det kommer til sundhed, økonomi eller vigtige livsbeslutninger.
