Forskere advarer mod at stole på AI ved helbredsspørgsmål

Dato:

Del denne artikel:

Del denne artikel:

Eksperter advarer om, at AI-genererede sundhedssvar ikke altid er så præcise, som de fremstår.

Det sker for de fleste. En vedvarende hovedpine. En uforklarlig smerte. En irritation, der ikke vil forsvinde.

Instinktivt rækker du ud efter telefonen og søger efter svar, før du overvejer at ringe til lægen. Men de hurtige svar øverst på skærmen er ikke nødvendigvis så pålidelige, som de ser ud.

Hurtige svar, skjulte forbehold

En undersøgelse fra The Guardian har sat fokus på Googles AI-genererede overblik, kaldet AI Overviews.

Funktionen, der er drevet af Googles Gemini-teknologi, leverer korte sammenfatninger af sundhedsrelaterede spørgsmål direkte i toppen af søgeresultatet.

Læs også: En ny behandling giver døve patienter mulighed for at høre

Ifølge undersøgelsen fremgår det ikke altid tydeligt, at oplysningerne kun er vejledende.

I nogle tilfælde skal brugeren selv klikke videre for at se en advarsel om, at man bør søge professionel lægehjælp frem for at stole på AI-svaret alene.

Forskere advarer

Flere eksperter mener, at hastighed kan ske på bekostning af præcision. Forskere inden for kunstig intelligens, herunder eksperter med tilknytning til MIT, advarer om, at selv avancerede AI-modeller kan levere upræcise eller misvisende sundhedsoplysninger.

Systemerne bygger udelukkende på de informationer, brugeren indtaster, og mangler den menneskelige vurdering, der ofte er afgørende i medicinske sammenhænge.

Læs også: Dette sker i kroppen, hvis du spiser flere proteiner end kulhydrater

Designet til tempo

En professor i kunstig intelligens fra Queen Mary University of London peger på, at teknologien grundlæggende er udviklet til at give hurtige svar, ikke nødvendigvis til maksimal nøjagtighed i komplekse sundhedsspørgsmål.

Tidligere rapportering har også vist eksempler på misvisende helbredsoplysninger i AI-overblik.

Google har efterfølgende begrænset funktionen ved visse medicinske søgninger, men den er fortsat aktiv i andre tilfælde.

Kilder: Digi24 and The Guardian

Læs også: Forskere finder metode til at rense 98% af PFAS fra drikkevand

Læs også: Ny undersøgelse: Mange undgår offentlige toiletter – men det kan skade din krop

Andre Artikler

En ny behandling giver døve patienter mulighed for at høre

En enkelt behandling kan nu give nogle døve patienter mulighed for at opleve lyd for første gang i deres liv.

Dette sker i kroppen, hvis du spiser flere proteiner end kulhydrater

En kost med højt proteinindhold og færre kulhydrater kan påvirke både energi, mæthed og sundhed.Effekten afhænger af, hvordan...

Forskere finder metode til at rense 98% af PFAS fra drikkevand

Et nyt gennembrud kan fjerne op til 98% af de farlige kemikalier, der gemmer sig i dit drikkevand.

Ny undersøgelse: Mange undgår offentlige toiletter – men det kan skade din krop

Mange frygter bakterier på offentlige toiletter, men risikoen er ikke som forventet. Det afgørende handler om noget helt andet end selve toiletsædet.

En ny behandling giver døve patienter mulighed for at høre

En enkelt behandling kan nu give nogle døve patienter mulighed for at opleve lyd for første gang i deres liv.

Dette sker i kroppen, hvis du spiser flere proteiner end kulhydrater

En kost med højt proteinindhold og færre kulhydrater kan påvirke både energi, mæthed og sundhed.Effekten afhænger af, hvordan...

Forskere finder metode til at rense 98% af PFAS fra drikkevand

Et nyt gennembrud kan fjerne op til 98% af de farlige kemikalier, der gemmer sig i dit drikkevand.