Miksi TikTok ei voi poistaa häiritsevää itsemurhavideota?

Miksi TikTok ei voi poistaa häiritsevää itsemurhavideota?

TikTok yrittää poistaa häiritsevän videon miehen itsemurhasta kolme päivää sen lataamisen jälkeen sovellukseen.



Leikkeessä kerrotaan olevan 33-vuotias armeijan veteraani Ronnie McNutt, jonka mukaan New York Post , ampui itsensä päähän Facebook-suoratoistossa 31. elokuuta. On raportoitu, että Mississippissä asuva McNutt oli äskettäin menettänyt työpaikkansa Toyotan tehtaalla Blue Springsissä ja hajonnut tyttöystävänsä kanssa. Video on sittemmin levinnyt useille sosiaalisen median alustoille, mukaan lukien TikTok.

TikTokin ‘For You’ on loputon, algoritmeilla toimiva videovirta, joka kuratoi leikkeitä käyttäjiltä, ​​joita käyttäjät eivät välttämättä seuraa. Monet ovat kertoneet törmänneen leikkeeseen satunnaisesti ja ilmaisseet kuinka traumatisoivaa on kohdata kuvamateriaali. Ottaen huomioon TikTokin nuoren yleisön - 69 prosenttia ovat 13–24-vuotiaita - tämä on aiheuttanut entistä enemmän huolta henkisestä hyvinvoinnista.

Sunnuntai-iltana leikkeet itsemurhasta, joka oli alun perin suoratoistettu Facebookissa, levisi muilla alustoilla, mukaan lukien TikTok, TikTokin edustaja kertoo Dazedille. Järjestelmämme yhdessä valvontaryhmiemme kanssa ovat havainneet ja estäneet nämä leikkeet rikkomalla käytäntöjämme sisällölle, joka näyttää, ylistää, ylistää tai edistää itsemurhaa.



@helsinki

## vihreänäyttö

♬ alkuperäinen ääni - alluringskull

Kiellämme tilit, jotka yrittävät toistuvasti lähettää leikkeitä, ja arvostamme yhteisön jäseniä, jotka ovat ilmoittaneet sisällöstä ja varoittaneet muita katsomasta, osallistamasta tai jakamasta tällaisia ​​videoita millä tahansa alustalla kunnioituksesta henkilöä ja hänen perhettään kohtaan.

Tästä toimintalupauksesta huolimatta video pysyy sovelluksessa. Useat käyttäjät ovat kirjoittaneet sitoutumistaan ​​TikTok-moderaattoreihin, jotka ovat kertoneet heille videon ei riko yhteisön sääntöjä . Dazed on pyytänyt TikTokia lisäselvityksiä siitä, miksi näin tapahtuu.



Nyt sovelluksen käyttäjät ovat alkaneet ottaa asiat omiin käsiinsä, jakaa videoita, jotka varoittavat muita itsemurhaleikkeen esiintymisestä TikTokissa. Yritä olla jatkamatta TikTokia tänään tai huomenna, yksi video sanoi . Juuri tällä hetkellä on erittäin graafinen ja huono (sic) itsemurhavideo!

Toinen käyttäjä lähetti leike , joka käsitteli huhuja, että kuvamateriaali on väärennös. Todellisuudessa se ei ole väärennös, @alluringskull sanoi. Käyttäjä näyttää sitten videolta valokuvan, joka näkee McNuttin istuvan pöydän ääressä puhelimen korvalla. Jos näet tämän, keskeytä video, vieritä poispäin, @alluringskull lisäsi. Älä lopeta tämän käsittelyä kuin meemi, lopeta kohtelu kuin vitsi, tämä on oikea ihminen, joka ohitti ja hänen perheensä suree.

Luulin rehellisesti, että se oli väärennös, kunnes tutkin sitä. Minua kauhistutti nähdä, että TikTok antoi näiden tavaroiden pysyä sovelluksessaan niin kauan - James, TikTok-käyttäjä

Eräs James-niminen käyttäjä lähetti videon hänen ystävänsä ja avasi sen tietämättä mitä se oli. Luulin rehellisesti, että se oli väärennös, kunnes tutkin sitä, hän kertoo Dazedille suorassa viestissä. Minua kauhistutti nähdä, että TikTok antoi näiden tavaroiden pysyä sovelluksessaan niin kauan.

Tämä ei ole ensimmäinen kerta, kun TikTokia kritisoidaan heikosta maltillisuudesta. Helmikuussa videoiden jakamisalusta kesti kolme tuntia kertoa poliisille itsemurhasta, joka suoratoistettiin sovelluksessa. Video uhrin ruumiista pysyi suorana yli puolitoista tuntia ennen kuin se otettiin pois. TikTok ilmoitti ryhtyneen toimiin estääkseen viruksen viruksen, ennen kuin ilmoitti asiasta viranomaisille.

Heinäkuussa sovelluksen valvontasäännöt kyseenalaistettiin jälleen algoritmin jälkeen mainostanut antisemitististen meemien kokoelmaa , sanoitusten ääniraita, Lähdemme matkalle paikkaan nimeltä Auschwitz, on suihkun aika . Lähes 100 käyttäjää esitti kappaleen videoissaan, jotka pysyivät sovelluksessa kolme päivää (kahdeksan tuntia sen jälkeen, kun alusta ilmoitti heidän läsnäolostaan BBC ).

TikTokin uusin Avoimuusraportti - julkaistu heinäkuussa - kertoo, että sovellus poisti yli 49 miljoonaa videota maailmanlaajuisesti viime vuoden toisella puoliskolla, ja 98,2 prosenttia videoista poistettiin ennen niiden ilmoittamista. 89,4 prosenttia näistä poistettiin ennen kuin he saivat näkemyksiä. TikTok tunnetaan kuitenkin sensuroimasta käyttäjiä ja sisältöä, joka ei riko mitään ohjeita, mukaan lukien teini-ikäinen, joka kritisoi Kiinaa (missä yritys toimii), rumaiksi, köyhiksi tai vammaisiksi katsottuja ja mustia tekijöitä.

Sovellus myöntää, että se ei saa kiinni jokaisesta sopimattomasta sisällöstä, ja väittää jatkavansa investointeja tekniikkaan ja asiantuntijoihin, jotta TikTok olisi mahdollisimman turvallinen. Eilen (8. syyskuuta) sovellus liittyi Euroopan unionin käytännesäännöt laittoman vihapuheen torjumiseksi ja sitoutuvat torjumaan vihamielistä ja laitonta sisältöä.

Perimmäisenä tavoitteenamme on poistaa TikTokin viha, tiedottaja sanoi lausunnossaan. Tunnustamme, että tämä saattaa tuntua ylitsepääsemättömältä haasteelta, kun maailma polarisoituu yhä enemmän, mutta uskomme, että tämän ei pitäisi estää meitä yrittämästä.

Päivitys (24. syyskuuta): TikTok on sanonut, että itsemurhavideo ladattiin sovellukseen osana huonojen toimijoiden koordinoimaa työtä. Lausunnossa videonjakoalusta sanoi: Tutkimuksemme avulla saimme selville, että pimeässä verkossa toimivat ryhmät suunnittelivat ryöstää sosiaalisen median alustoja, mukaan lukien TikTok, videon levittämiseksi Internetissä. Näimme joukon käyttäjiä, jotka yrittivät toistuvasti ladata videota alustallemme.

TikTok on lähettänyt kirjeen myös muille sosiaalisen median alustoille, kuten Facebookille, YouTubelle ja Twitterille, ehdottaen, että ne ilmoittavat toisilleen, kun väkivaltaista ja graafista sisältöä kiertää heidän sivustoillaan.

Jos kamppailet mielenterveysongelmien kanssa, voit ottaa yhteyttä itsemurhien ehkäisyyn erikoistuneisiin samarialaisiin Isossa-Britanniassa tässä ja National Suicide Prevention Lifeline Yhdysvalloissa tässä .