Forskere bad en kunstig intelligens om at afgøre, om mennesker drak øl eller spiste bønnemos ud fra røntgenbilleder af deres knæ.
Opgaven lyder åbenlyst meningsløs. Alligevel lykkedes det modellen at levere overraskende præcise svar.
Netop dette resultat er udgangspunktet for et nyt studie fra Dartmouth Health, som blev offentliggjort i Scientific Reports.
Hvad gik galt?
Studiet bygger på mere end 25.000 knærøntgenbilleder fra National Institutes of Health’s Osteoarthritis Initiative.
Læs også: Ikke alle æbler er ens: Disse sorter indeholder flest sundhedsfordele
Forskerne ønskede at undersøge, hvordan medicinske AI-modeller lærer ikke at afdække skjulte livsstilsmønstre.
Ifølge forskerne benytter modellerne sig af såkaldt algoritmisk genvejslæring.
Det betyder, at systemerne finder letgenkendelige mønstre, som ikke har noget med sundhed eller biologi at gøre.
I dette tilfælde handlede det blandt andet om forskelle i røntgenudstyr, optagelsesår og hvor billederne var taget, fremgår det af Scientific Reports.
Læs også: Sådan påvirker en måned uden sukker din krop
Præcist men misvisende
Peter Schilling, der er ortopædkirurg og medforfatter til studiet, forklarer, at AI kan se mønstre, mennesker overser.
Problemet er, at disse mønstre ikke nødvendigvis er relevante.
Ifølge Popular Science advarer forskerne om, at høj præcision kan give en falsk fornemmelse af, at resultaterne er pålidelige.
Forsøg på at fjerne denne type fejl var kun delvist succesfulde. Når én genvej blev lukket, fandt modellen blot en anden.
Læs også: 180.000 dåser kokosvand tilbagekaldes efter fejl
Mere kontrol
Studiet viser, at kunstig intelligens kan fremstå overbevisende uden at forstå sammenhængen bag sine svar.
Ifølge medforfatter Brandon Hill kan det føre til, at læger og forskere stoler for meget på AI-resultater.
Derfor mener forskerne, at kravene til kontrol og dokumentation bør være langt strengere, før teknologien bruges bredt i sundhedsvæsenet.
Kilder: Popular Science og Scientific Reports.
Læs også: Han drak 13 glas vand om dagen i en uge - sådan påvirkede det kroppen
Læs også: Her går grænsen: Så meget sukker bør du højst få om dagen