Forskere bad en kunstig intelligens om at afgøre, om mennesker drak øl eller spiste bønnemos ud fra røntgenbilleder af deres knæ.
Opgaven lyder åbenlyst meningsløs. Alligevel lykkedes det modellen at levere overraskende præcise svar.
Netop dette resultat er udgangspunktet for et nyt studie fra Dartmouth Health, som blev offentliggjort i Scientific Reports.
Hvad gik galt?
Studiet bygger på mere end 25.000 knærøntgenbilleder fra National Institutes of Health’s Osteoarthritis Initiative.
Læs også: Spiser du for hurtigt? Det kan hænge sammen med markant højere risiko for fedme og diabetes
Forskerne ønskede at undersøge, hvordan medicinske AI-modeller lærer ikke at afdække skjulte livsstilsmønstre.
Ifølge forskerne benytter modellerne sig af såkaldt algoritmisk genvejslæring.
Det betyder, at systemerne finder letgenkendelige mønstre, som ikke har noget med sundhed eller biologi at gøre.
I dette tilfælde handlede det blandt andet om forskelle i røntgenudstyr, optagelsesår og hvor billederne var taget, fremgår det af Scientific Reports.
Læs også: Den skandinaviske kost der kan sænke din risiko for tidlig død med 23 procent
Præcist men misvisende
Peter Schilling, der er ortopædkirurg og medforfatter til studiet, forklarer, at AI kan se mønstre, mennesker overser.
Problemet er, at disse mønstre ikke nødvendigvis er relevante.
Ifølge Popular Science advarer forskerne om, at høj præcision kan give en falsk fornemmelse af, at resultaterne er pålidelige.
Forsøg på at fjerne denne type fejl var kun delvist succesfulde. Når én genvej blev lukket, fandt modellen blot en anden.
Læs også: Kreatin er ikke kun for atleter: hvad tilskuddet faktisk giver kvinder over 40
Mere kontrol
Studiet viser, at kunstig intelligens kan fremstå overbevisende uden at forstå sammenhængen bag sine svar.
Ifølge medforfatter Brandon Hill kan det føre til, at læger og forskere stoler for meget på AI-resultater.
Derfor mener forskerne, at kravene til kontrol og dokumentation bør være langt strengere, før teknologien bruges bredt i sundhedsvæsenet.
Kilder: Popular Science og Scientific Reports.
Læs også: Eksperter kommer med klar melding: Så sunde er æg for ældre
Læs også: Sådan kan en håndfuld blåbær om dagen påvirke dit hjerte og din hjerne
Denne artikel er skrevet og udgivet af Ida-Marie Palm Varbæk, som kan have anvendt AI i udarbejdelsen.