Forskere bad en kunstig intelligens om at afgøre, om mennesker drak øl eller spiste bønnemos ud fra røntgenbilleder af deres knæ.
Opgaven lyder åbenlyst meningsløs. Alligevel lykkedes det modellen at levere overraskende præcise svar.
Netop dette resultat er udgangspunktet for et nyt studie fra Dartmouth Health, som blev offentliggjort i Scientific Reports.
Hvad gik galt?
Studiet bygger på mere end 25.000 knærøntgenbilleder fra National Institutes of Health’s Osteoarthritis Initiative.
Læs også: Sådan kan det påvirke dit blodtryk, når du drikker sodavand
Forskerne ønskede at undersøge, hvordan medicinske AI-modeller lærer ikke at afdække skjulte livsstilsmønstre.
Ifølge forskerne benytter modellerne sig af såkaldt algoritmisk genvejslæring.
Det betyder, at systemerne finder letgenkendelige mønstre, som ikke har noget med sundhed eller biologi at gøre.
I dette tilfælde handlede det blandt andet om forskelle i røntgenudstyr, optagelsesår og hvor billederne var taget, fremgår det af Scientific Reports.
Læs også: 8 tegn på B1-vitaminmangel der let forveksles med træthed og nervesmerter
Præcist men misvisende
Peter Schilling, der er ortopædkirurg og medforfatter til studiet, forklarer, at AI kan se mønstre, mennesker overser.
Problemet er, at disse mønstre ikke nødvendigvis er relevante.
Ifølge Popular Science advarer forskerne om, at høj præcision kan give en falsk fornemmelse af, at resultaterne er pålidelige.
Forsøg på at fjerne denne type fejl var kun delvist succesfulde. Når én genvej blev lukket, fandt modellen blot en anden.
Læs også: Det sker der med din tarm, når du spiser et æble hver dag
Mere kontrol
Studiet viser, at kunstig intelligens kan fremstå overbevisende uden at forstå sammenhængen bag sine svar.
Ifølge medforfatter Brandon Hill kan det føre til, at læger og forskere stoler for meget på AI-resultater.
Derfor mener forskerne, at kravene til kontrol og dokumentation bør være langt strengere, før teknologien bruges bredt i sundhedsvæsenet.
Kilder: Popular Science og Scientific Reports.
Læs også: De droppede ultraforarbejdet mad: Sådan påvirkede det deres depression
Læs også: Sådan får du mere protein og fibre i din kost
Denne artikel er skrevet og udgivet af Ida-Marie Palm Varbæk, som kan have anvendt AI i udarbejdelsen.