Több francia család is összefogott a kínai tulajdonú app, a TikTok ellen egy öngyilkosság miatt.
Egy 15 éves francia lány, Marie öngyilkossága nagyon nagy valószínűséggel összefüggésbe hozható azzal, hogy a TikTok nevű applikáció algoritmusa folyamatosan mutatta számára az öngyilkossággal kapcsolatos tartalmakat. Ez a lány halála után indított vizsgálatok alapján derült ki.
Útmutatókat adtak
Itt nem csupán arról volt szó, hogy az öngyilkosságot a tartalomkészítők, mint az élet végének elméleti lehetőségét tárgyalták. Öngyilkossági módszereket ajánlottak (sic!), azok véghezviteléhez mutattak tippeket, valamint arra biztatták a felhasználókat, hogy
ne maradjanak csupán a kísérleteknél, vigyék véghez az öngyilkosságot.
A TikTok kíméletlen algoritmusa miatt történhetett öngyilkosság
A TikTok algoritmusa olyan módon működik, hogyha valaki egy ilyen tartalomra rákeres és azt végignézi – vagy a felhasználó elé véletlenül kerül hasonló tartalom, amelyet hosszú ideig nézeget –, akkor az app ezeket a típusú tartalmakat fogja megjeleníteni újra és újra. Ez más témákban is elferdített valóságképhez vezethet, de az öngyilkosságot illetően rendkívül veszélyes is.
A lány anyja, Stephanie Mistre úgy írta a le a történteket, hogy
„ez agymosás. Normalizálták a depressziót és az önsértést, és
torz összetartozásérzéssé kovácsolták össze.”
A nő és hat másik család ezért beperli a TikTok franciaországi leányvállalatát, mondván, nem moderálták a káros tartalmakat, és életveszélyes anyagokhoz adtak hozzáférést a kiskorúaknak.
Az appot
„empatikus és érzékeny tinédzser kezébe adni, aki nem tudja megkülönböztetni a valóságot a fantáziától,
olyan, mint egy időzített bomba”
– tette hozzá Mistre.
A vállalat egyrészt azzal védekezik, hogy az irányelveik tiltják az öngyilkosság reklámozását és több száz franciául beszélő moderátort alkalmaznak az ilyen tartalmak kiszűrésére. Másrészt azzal mentegetőznek, hogy a hasonló tartalmakat nem ők gyártják, így ezért sem felelősek értük.
Bármi megtalálható a platformon, és nagyon könnyen beszippantja a felhasználókat
Úgy tűnik, hogy a moderátorok száma nem elegendő, ugyanis az appon bármilyen vizuális tartalmat meg lehet találni, csupán rá kell jönni, hogy milyen kulcsszavakat használnak az egyes témákhoz. Ezek sokszor nem kapcsolódnak szorosan az érintett tartalmakhoz, de az élelmes felhasználók pillanatok alatt kiderítik, hogy mire hogyan kell rákeresni.
(APnews.com/Nyugati Fény)
