Børn og unge, der deler blodige billeder og tips og tricks til at selvskade, er ikke et nyt fænomen på sociale medier.
Meta, som blandt andet står bag Instagram, har løbende forsvaret sig med, at de er blevet meget bedre til at fjerne skadeligt indhold og hævder, at de bruger kunstig intelligens til automatisk at fjerne selvskadeindhold.
Men det er ikke tilfældet ifølge en ny undersøgelse, afslører Digitalt Ansvar i en pressemeddelelse.
Hvor meget har Instagram fjernet?
For at undersøge Instagrams påståede automatiske moderation af selvskadeindhold oprettede Digitalt Ansvar et falsk selvskadenetværk på Instagram. Med ti private profiler, med aldre på både under og over 18 år, skabte Digitalt Ansvar et troværdigt netværk af profiler med interesse for selvskade.
Læs også: Robotkæledyr kan forkorte indlæggelser for demenspatienter
I en periode på fire uger delte de ti profiler tilsammen 85 opslag med selvskadeindhold. Instagram fjernede undervældende 0 procent af opslagene. Det er meget foruroligende, siger direktør i Digitalt Ansvar, Ask Hesby Holm.
Selv ikke åbenlyst selvskaderelateret indhold fra undersøgelsen, der tydeligt viser blod, barberblade eller opfordring til selvskade, blev fjernet.
Heller ikke de fem profiler under 18 år blev underlagt nogen former for moderation eller begrænsning, og ingen af de ti profiler modtog advarsler om, at indholdet brød med Instagrams regler, ligesom de heller ikke modtog nogen former for vejledning eller opfordring til at søge hjælp i forbindelse med delingen af materialet.
Kan kunstig intelligens identificere indholdet?
Digitalt Ansvar har også undersøgt, hvorvidt kunstig intelligens var i stand til at identificere selvskadematerialet fra undersøgelsen.
Læs også: Den ene faktor, der går igen hos narcissister og psykopater
Digitalt Ansvar kunne via kunstig intelligens identificere 38 procent af det samlede selvskadeindhold og hele 88 procent af det indhold, som kategoriseres som det groveste.
Det understreger, at Instagram godt kan identificere og fjerne indholdet, hvis de ville, siger Ask Hesby Holm.
LÆS OGSÅ: Studie afslører: Særligt element i naturen booster vores mentale helbred
Instagram viser vejen
Ikke nok med at Instagram ikke fjerner voldsomt selvskadeindhold på deres platform, så kan deres algoritme også være med til at udbrede selvskadenetværk – også til børn.
Læs også: Otte døgn uden søvn: 27-årig fortæller om konsekvenserne
Instagrams algoritme anbefalede nemlig de 13-årige profiler i undersøgelsen at følge alle i det falske selvskadenetværk, hvis de fulgte bare én profil fra netværket.
Det betyder, at hvis en 13-årig, der, eksempelvis ved et tilfælde, følger én profil, hvor der deles selvskade, vil få hjælp af Instagram til at finde andre profiler, der deler selvskade. Instagram spiller dermed potentielt en stor rolle i at forme og udbrede netværk, hvor der deles selvskadeindhold.
Kæmper du eller er pårørende til én, der kæmper med selvskade, kan du få hjælp hos Foreningen Spiseforstyrrelser og Selvskade på telefon 70 10 18 18.
Artiklen er baseret på informationer fra Ritzau.
Læs også: Ny forskning: Sukkerholdige drikke kobles til angst hos unge
LÆS OGSÅ: Derfor er musik sundt for kroppen