Facebook tager nyt skridt i kampen mod selvmordsopslag

I denne uge tager Facebook, der ejer Instagram, ny teknologi i brug i Danmark.

Teknologien, som selskabet allerede bruger udenfor EU, skal finde frem til flere opslag som opildner til selvskade og selvmord på specielt det sociale medie Instagram.

– Den nye AI teknologi (kunstig intelligens red.) kan finde flere ting, end den teknologi vi har brugt indtil nu.

– Det har krævet nogle diskussioner med datatilsynene i Europa at få opbakning til at rulle teknologien ud, siger Martin Ruby, der er politisk chef for Facebook i Norden.

Den nye teknologi kigger ikke kun på et billede eller video, men også på tekst og kommentarer til et opslag.

På den måde kan en bro eller et højhus, der i sig selv ikke signalerer selvskade, få lamperne til at blinke, hvis teksten eller kommentarerne signalerer noget med selvmord.

– Vi tager ikke alt indhold med selvskade og selvmord ned. Det skal være muligt for mennesker, at snakke om svære emner på sociale medier.

– Det skal ligeledes være muligt at lave støttende fællesskaber, hvor man kan bakke op af hinanden, siger Martin Ruby.

Den kunstige intelligens vil, hvis den finder et opslag, der bryder med Facebooks regler om selvskade og selvmord, gøre opslaget mindre synligt.

Blandt andet ved at fjerne det fra Instagram Explore, hvor Instagram anbefaler indhold til brugerne.

I situationer, hvor teknologien er ”yderst sikker på”, at et opslag bryder reglerne, vil opslaget blive fjernet efter 24 timer.

De 24 timer giver familie og venner tid til at reagere på et selvmordsbrev eller lignende, før opslaget forsvinder.

Facebook har ikke hidtil måtte anvende teknologien i Europa, men får nu lov, efter diskussion med datatilsynet i Irland som Facebook juridisk hører under i Europa.

Facebook oplyser, at man ikke skanner beskeder for selvmord eller selvskadende indhold af hensyn til privatlivet
I februar viste dokumentaren ”Døde pigers dagbog” på DR, hvordan især unge sårbare kvinder i et lukket netværk på Instagram deler billeder af selvskade og selvmordsrelaterede opslag.

Dengang sagde Instagram, at det ville blive bedre til at fjerne opslag med selvskade.

I august kunne DR dog dokumentere, at der forsat var selvmordsindhold på Instagram, og at der stadig blev lagt nyt skadeligt indhold op.

/ritzau/