Forskere bad en kunstig intelligens om at afgøre, om mennesker drak øl eller spiste bønnemos ud fra røntgenbilleder af deres knæ.
Opgaven lyder åbenlyst meningsløs. Alligevel lykkedes det modellen at levere overraskende præcise svar.
Netop dette resultat er udgangspunktet for et nyt studie fra Dartmouth Health, som blev offentliggjort i Scientific Reports.
Hvad gik galt?
Studiet bygger på mere end 25.000 knærøntgenbilleder fra National Institutes of Health’s Osteoarthritis Initiative.
Læs også: Sukkerfri produkter er ikke altid sundere, ifølge ekspert
Forskerne ønskede at undersøge, hvordan medicinske AI-modeller lærer ikke at afdække skjulte livsstilsmønstre.
Ifølge forskerne benytter modellerne sig af såkaldt algoritmisk genvejslæring.
Det betyder, at systemerne finder letgenkendelige mønstre, som ikke har noget med sundhed eller biologi at gøre.
I dette tilfælde handlede det blandt andet om forskelle i røntgenudstyr, optagelsesår og hvor billederne var taget, fremgår det af Scientific Reports.
Læs også: Forskere har fundet sammenhæng mellem indtag af havre og risikoen for at udvikle diabetes
Præcist men misvisende
Peter Schilling, der er ortopædkirurg og medforfatter til studiet, forklarer, at AI kan se mønstre, mennesker overser.
Problemet er, at disse mønstre ikke nødvendigvis er relevante.
Ifølge Popular Science advarer forskerne om, at høj præcision kan give en falsk fornemmelse af, at resultaterne er pålidelige.
Forsøg på at fjerne denne type fejl var kun delvist succesfulde. Når én genvej blev lukket, fandt modellen blot en anden.
Læs også: Ny forskning har fundet en metode til at fremstille sunde chips
Mere kontrol
Studiet viser, at kunstig intelligens kan fremstå overbevisende uden at forstå sammenhængen bag sine svar.
Ifølge medforfatter Brandon Hill kan det føre til, at læger og forskere stoler for meget på AI-resultater.
Derfor mener forskerne, at kravene til kontrol og dokumentation bør være langt strengere, før teknologien bruges bredt i sundhedsvæsenet.
Kilder: Popular Science og Scientific Reports.
Læs også: Nyt studie peger på, at kraftigt lys kan påvirke appetit og vægt
Læs også: Nyt studie kobler visse konserveringsmidler til øget kræftrisiko