Forskere advarer mod at stole på AI ved helbredsspørgsmål

Dato:

Del denne artikel:

Del denne artikel:

Eksperter advarer om, at AI-genererede sundhedssvar ikke altid er så præcise, som de fremstår.

Det sker for de fleste. En vedvarende hovedpine. En uforklarlig smerte. En irritation, der ikke vil forsvinde.

Instinktivt rækker du ud efter telefonen og søger efter svar, før du overvejer at ringe til lægen. Men de hurtige svar øverst på skærmen er ikke nødvendigvis så pålidelige, som de ser ud.

Hurtige svar, skjulte forbehold

En undersøgelse fra The Guardian har sat fokus på Googles AI-genererede overblik, kaldet AI Overviews.

Funktionen, der er drevet af Googles Gemini-teknologi, leverer korte sammenfatninger af sundhedsrelaterede spørgsmål direkte i toppen af søgeresultatet.

Læs også: De fleste river den op i haven – men døvnælden er både spiselig og en lægeurt

Ifølge undersøgelsen fremgår det ikke altid tydeligt, at oplysningerne kun er vejledende.

I nogle tilfælde skal brugeren selv klikke videre for at se en advarsel om, at man bør søge professionel lægehjælp frem for at stole på AI-svaret alene.

Forskere advarer

Flere eksperter mener, at hastighed kan ske på bekostning af præcision. Forskere inden for kunstig intelligens, herunder eksperter med tilknytning til MIT, advarer om, at selv avancerede AI-modeller kan levere upræcise eller misvisende sundhedsoplysninger.

Systemerne bygger udelukkende på de informationer, brugeren indtaster, og mangler den menneskelige vurdering, der ofte er afgørende i medicinske sammenhænge.

Læs også: Mor opdager rød streg på søns arm – læger reagerer straks

Designet til tempo

En professor i kunstig intelligens fra Queen Mary University of London peger på, at teknologien grundlæggende er udviklet til at give hurtige svar, ikke nødvendigvis til maksimal nøjagtighed i komplekse sundhedsspørgsmål.

Tidligere rapportering har også vist eksempler på misvisende helbredsoplysninger i AI-overblik.

Google har efterfølgende begrænset funktionen ved visse medicinske søgninger, men den er fortsat aktiv i andre tilfælde.

Kilder: Digi24 and The Guardian

Læs også: Analyse af 88.475 personer: Disse plantefødevarer kan sænke blodtrykket

Læs også: Alger kan hjælpe over en milliard mennesker med vitaminmangel

Andre Artikler

De fleste river den op i haven – men døvnælden er både spiselig og en lægeurt

De fleste ser den som ukrudt, men døvnælden har længe været brugt både i mad og naturmedicin.

Mor opdager rød streg på søns arm – læger reagerer straks

En mor troede, hendes søn havde fået et helt almindeligt skramme – men en lille rød streg på armen viste sig at være et vigtigt advarselstegn.

Analyse af 88.475 personer: Disse plantefødevarer kan sænke blodtrykket

En ny analyse peger på, at bestemte plantebaserede fødevarer kan spille en central rolle i forebyggelsen af forhøjet blodtryk.

Alger kan hjælpe over en milliard mennesker med vitaminmangel

Forskere har fundet en mulig ny måde at producere vitamin B12 på uden brug af kød og mejeriprodukter.

De fleste river den op i haven – men døvnælden er både spiselig og en lægeurt

De fleste ser den som ukrudt, men døvnælden har længe været brugt både i mad og naturmedicin.

Mor opdager rød streg på søns arm – læger reagerer straks

En mor troede, hendes søn havde fået et helt almindeligt skramme – men en lille rød streg på armen viste sig at være et vigtigt advarselstegn.

Analyse af 88.475 personer: Disse plantefødevarer kan sænke blodtrykket

En ny analyse peger på, at bestemte plantebaserede fødevarer kan spille en central rolle i forebyggelsen af forhøjet blodtryk.