Forskere bad en kunstig intelligens om at afgøre, om mennesker drak øl eller spiste bønnemos ud fra røntgenbilleder af deres knæ.
Opgaven lyder åbenlyst meningsløs. Alligevel lykkedes det modellen at levere overraskende præcise svar.
Netop dette resultat er udgangspunktet for et nyt studie fra Dartmouth Health, som blev offentliggjort i Scientific Reports.
Hvad gik galt?
Studiet bygger på mere end 25.000 knærøntgenbilleder fra National Institutes of Health’s Osteoarthritis Initiative.
Læs også: 16 ALS-tilfælde i lille landsby vækker mistanke til giftig svamp
Forskerne ønskede at undersøge, hvordan medicinske AI-modeller lærer ikke at afdække skjulte livsstilsmønstre.
Ifølge forskerne benytter modellerne sig af såkaldt algoritmisk genvejslæring.
Det betyder, at systemerne finder letgenkendelige mønstre, som ikke har noget med sundhed eller biologi at gøre.
I dette tilfælde handlede det blandt andet om forskelle i røntgenudstyr, optagelsesår og hvor billederne var taget, fremgår det af Scientific Reports.
Læs også: Han spiste bacon hver dag i en uge og her er hvad der skete
Præcist men misvisende
Peter Schilling, der er ortopædkirurg og medforfatter til studiet, forklarer, at AI kan se mønstre, mennesker overser.
Problemet er, at disse mønstre ikke nødvendigvis er relevante.
Ifølge Popular Science advarer forskerne om, at høj præcision kan give en falsk fornemmelse af, at resultaterne er pålidelige.
Forsøg på at fjerne denne type fejl var kun delvist succesfulde. Når én genvej blev lukket, fandt modellen blot en anden.
Læs også: Tungmetaller fundet i havregryn – især cadmium vækker bekymring
Mere kontrol
Studiet viser, at kunstig intelligens kan fremstå overbevisende uden at forstå sammenhængen bag sine svar.
Ifølge medforfatter Brandon Hill kan det føre til, at læger og forskere stoler for meget på AI-resultater.
Derfor mener forskerne, at kravene til kontrol og dokumentation bør være langt strengere, før teknologien bruges bredt i sundhedsvæsenet.
Kilder: Popular Science og Scientific Reports.
Læs også: Så meget vand bør du drikke hver dag
Læs også: Dette sker i din krop, hvis du spiser ketchup hver dag