Jesmo li mi stvorili ovo čudovište? Kako je Twitter postao toksičan

Godinama je revnost tvrtke za slobodnim govorom zaslijepila zabrinutost za sigurnost. Sada se pokušava nadoknaditi izgubljeno vrijeme.

Jesmo li mi stvorili ovo čudovište? Kako je Twitter postao toksičan

Yair Rosenberg htio je trolovati trolove.



Rosenberg, viši pisac za web stranicu vijesti i kulture usmjerenu na Židove Tablet Magazine , postao je vodeća meta antisemitskih korisnika Twittera tijekom izvještavanja o predsjedničkoj kampanji u SAD-u 2016. godine. Unatoč tome što je bio napadnut klevetama, nije bio pretjerano usredotočen na naciste koji su prihvatili službu. Uglavnom su mi se činili prilično smiješnima i lako ih se ignorira, kaže.

No jedna ga je vrsta Twitter trolla ipak izgrizla: oni koji su se predstavljali kao manjine-koristeći ukradene fotografije stvarnih ljudi-a zatim su se infiltrirali u razgovore visokog profila kako bi izbacili otrov. Čitatelji koji ne slute ništa vidjeli bi ovog tipa koji izgleda kao pravoslavni Židov ili muslimanka kako govori nešto u osnovi uvredljivo, objašnjava. Zato misle: Oh, muslimani su religiozni. Židovi su religiozni. A oni su užasno uvredljivi ljudi.



Rosenberg je odlučio uzvratiti. Radeći s Nealom Chandrom, developerom iz San Francisca kojeg nikada nije upoznao, stvorio je automatizirani Twitter bot pod nazivom Imposter Buster. Počevši od prosinca 2016., ubacio se u iste niti na Twitteru kao i računi za prijevaru i pristojno razotkrio maskenbal trolova (za informaciju, ovaj račun je rasist koji se predstavlja kao Židov kako bi klevetao Židove).



Imposter Buster ubrzo je i sam napadnut - od strane rasista koji su to prijavili Twitteru zbog uznemiravanja. Neočekivano, tvrtka je stala na stranu trolova: Sljedećeg travnja suspendirala je robota zbog neželjenog ponašanja. Uz pomoć Lige protiv klevete, Rosenberg i Chandra poništili su tu odluku tri dana kasnije. No, njihove su mete nastavile podnositi prijave o uznemiravanju, a prošlog prosinca Twitter je ponovno stavio Impostera Bustera na crnu listu, ovaj put zauvijek.

Rosenberg, koji smatra da je njegov trud dobro građanstvo, a ne budnost, još uvijek nije siguran zašto ga je Twitter smatrao neprihvatljivim; nikada nije dobio objašnjenje izravno iz tvrtke. No, presuda je rasistima donijela pobjedu tehničkim nokautom.


Uprkos svim načinima na koje je saga o Imposter Busteru jedinstvena, ona je također simptomatika većih problema koji su već odavno narušili Twitter: zloupotreba, naoružavanje anonimnosti, ratovi s botovima i usporeno donošenje odluka od strane ljudi koji vode platformu u stvarnom vremenu . Ti su se problemi samo pojačali otkako je Donald Trump postao predsjednik i odabrao Twitter za svog primarnog glasnika. Platforma je sada glavno mjesto u svijetu za politiku i bijes, kulturu i razgovore - dom za #MAGA i #MeToo.



Taj je status pomogao poboljšati bogatstvo tvrtke. Dnevna upotreba porasla je zdravih 12% u odnosu na prethodnu godinu, a Twitter je u veljači izvijestio o svojoj prvoj tromjesečnoj dobiti, ograničavajući razdoblje od 12 mjeseci tijekom kojeg su se njegove dionice udvostručile. Iako se čini da se tvrtka još uvijek neće uskladiti s razmjerom i profitabilnošću Facebooka, ne prijeti joj neuspjeh. Povremeni povici financijskih analitičara za direktorom Jackom Dorseyjem prodati Twitter ili od kritičara za njega da ugasi to izgledati sve više i više iz takta.

Unatoč ugodnijem položaju Twittera, Dorsey je sve glasnije govorio o problemima svoje usluge. Predani smo tome da Twitter učinimo sigurnijim, obećala je tvrtka u veljači pismo dioničara . Na popratnom pozivu ulagača, Dorsey je iznio inicijativu za kvalitetu informacija za poboljšanje sadržaja i računa o usluzi. Mjesečno aktivni korisnici zaustavili su se na 330 milijuna - činjenicu koju tvrtka djelomično pripisuje stalnom smanjivanju broja neželjenih korisnika. Napori čišćenja Twittera priznanje su, iako implicitno, priznanje da niz uzbunjivača koji još uvijek lutaju platformom-pokretači mržnje, dostavljači lažnih vijesti i armije sjenovitih robota dizajniranih da utječu na javno mnijenje-ometaju njegovu sposobnost rasta . (Twitter nije dao Dorseyju, niti bilo kojem drugom izvršnom direktoru, za intervju za ovu priču. Većina od više od 60 izvora s kojima smo razgovarali, uključujući 44 bivša zaposlenika Twittera, zatražila je anonimnost.)

Iako je tvrtka posljednjih godina poduzela značajne korake kako bi uklonila loše glumce, nije poljuljala dugotrajni dojam da se ne trudi dovoljno učiniti uslugu sigurnijim prostorom. Twitterov odgovor na negativne incidente često je nezadovoljavajući za njegove korisnike i više je nego tajanstven - njegova je kazna Rosenberg, umjesto njegovih mučitelja, najbolji primjer. Može li netko pametan napraviti novu web stranicu na kojoj ima samo 140 znakova, a nema nacista? jedan je korisnik tvitao nedugo nakon što je Twitter u studenom predstavio tweetove od 280 znakova.

pregled maski ministarstva opskrbe



Twitter nije jedini koji se bori s činjenicom da je njegov proizvod korumpiran zbog zlonamjernosti: Facebook i Google podvrgnuti su povećanoj kontroli od predsjedničkih izbora, jer na vidjelo izlazi više informacija koje otkrivaju kako njihove platforme manipuliraju građanima, od Cambridge Analytice do video zavjere . Odgovori tvrtki bili su plahi, reaktivni ili gori. Svi su oni krivi što su predugo čekali na rješavanje trenutnog problema, a pred svima im je dug put, kaže Jonathon Morgan, osnivač Data for Democracy, tima tehnologa i stručnjaka za podatke koji se bave projektima vladinog društvenog utjecaja .

Ulozi su osobito visoki za Twitter, s obzirom da je omogućavanje najnovijih vijesti i globalnog diskursa ključno i za njegovu privlačnost korisnika i za poslovni model. Njegovi su izazovi sve veći.

Kako je Twitter ušao u ovaj nered? Zašto se tek sada bavi problemom koji je godinama proganjao platformu? Sigurnost je pobjegla od Twittera, kaže bivši potpredsjednik kompanije. Bila je to Pandorina kutija. Nakon što se otvori, kako to sve vratiti?


U prvim danima Twittera, dok su osnivači platforme za mikroblogiranje otkrivali njezinu svrhu, korisnici su im zauvijek pokazali moć Twittera. Potaknuti globalnim društvenim pokretima, disidentima, aktivistima i zviždačima koji su prihvatili Twitter, slobodno izražavanje postalo je vodeće načelo startupa. Pustite tweetove da teku, rekao je Alex Macgillivray, prvi opći savjetnik Twittera, koji je kasnije bio zamjenik CTO -a u Obaminoj administraciji. Interno, Twitter je sebe smatrao krilom stranke slobodnog govora.

Ova se ideologija pokazala naivnom. Twitter je postao toliko uvjeren u vrlinu svoje predanosti slobodi govora da je vodstvo krajnje pogrešno shvatilo kako su ga oteli i naoružali, kaže bivši izvršni direktor.

Prvi znak problema bio je neželjena pošta. Dječja pornografija, phishing napadi i roboti preplavili su tweet stream. Činilo se da su u to vrijeme Twitter odvukli pozornost drugi izazovi. Kad je tvrtka u listopadu 2010. imenovala Dicka Costola za izvršnog direktora, pokušavao je popraviti temeljnu infrastrukturu Twittera-tvrtka je postala sinonim za stranicu s greškama poslužitelja s pogrešnim kitovima, što je primjer slabih inženjerskih temelja. Iako je Twitter tijekom 2011. narastao prema 100 milijuna korisnika, njegov tim za zaštitu od neželjene pošte uključivao je samo četiri predana inženjera. Neželjena pošta bila je nevjerojatno neugodna, a oni su izgradili ove glupo gole alate kako bi se [borili], kaže bivši stariji inženjer, koji se sjeća prokletih botova koji su izbili dok su se lažni računi međusobno borili za klikove.

Ne možete uzeti zasluge za Arapsko proljeće bez preuzimanja odgovornosti za Donalda Trumpa, kaže Leslie Miley , bivši voditelj inženjerske sigurnosti na Twitteru. [Ilustracija fotografije: Delcan & Company ]

Twitterovu skupinu za povjerenje i sigurnost, zaduženu za zaštitu korisnika, vodio je Del Harvey, zaposlenik Twittera 25. Imala je netipičan životopis za Silicijsku dolinu: Harvey je prethodno radila s Perverted Justice, kontroverznom volonterskom skupinom koja je koristila web sobe za razgovor izvukli očigledne seksualne predatore i udružili se s NBC -ima Uloviti predatora , predstavljajući se kao maloljetna osoba kako bi namamila pedofile za uhićenje na TV -u. Nedostatak tradicionalnog tehničkog i političkog iskustva učinilo ju je polarizirajućom figurom u organizaciji, iako su saveznici otkrili njezinu strast prema sigurnosnim pitanjima. U prvim danima osobno je odgovorila pojedinim [pogođenim] korisnicima - Del je neumorno radio, kaže Macgillivray. [Ona] je preuzela neka od najsloženijih pitanja s kojima se Twitter suočio. Nismo sve dobili kako treba, ali Delino vodstvo vrlo je često bilo faktor kada smo to činili.

Harveyjevo stajalište, koje su zagovarali Macgillivray i drugi rukovoditelji, bilo je da bi se loš govor u konačnici mogao pobijediti s više govora, uvjerenje koje je ponovilo presudnu odluku prvog amandmana sudije Vrhovnog suda Louisa Brandeisa iz 1927. godine da je ovaj lijek uvijek bolji od prisilne šutnje. Harvey je povremeno koristio kao primjer izraz Yo kučko, koji loši glumci namjeravaju označiti, ali drugi doživljavaju kao bezobrazan pozdrav. Ko je odlučio Twitter? Tržište ideja bi to shvatilo.

Do 2012. spam je mutirao u destruktivno trolovanje i govor mržnje. Nekoliko inženjera u Harveyjevoj skupini izgradilo je neke interne alate koji su njenom timu omogućili brže uklanjanje ilegalnih sadržaja, poput dječje pornografije, ali nisu bili spremni za širenje uznemiravanja na Twitteru. Svaki put kad izgradite zid, netko će izgraditi više ljestve, a uvijek je vani više ljudi koji vas pokušavaju sjebati nego onih koji ih pokušavaju spriječiti, kaže bivši inženjer platforme. Te je godine australska televizijska ličnost Charlotte Dawson bila izložena naletu opakih tvitova - npr., Objesite se - nakon što se izjasnila protiv zlostavljanja na internetu. Dawson je pokušao samoubojstvo i hospitaliziran je. Sljedećeg ljeta, u Velikoj Britaniji, nakon što je aktivistica Caroline Criado-Perez vodila kampanju da se ženska slika istakne na novčanici od 10 funti, njezin je Twitter sadržaj preplavljen trolovima koji su joj slali 50 prijetnji silovanjem na sat.


Tvrtka je odgovorila stvaranjem namjenskog gumba za prijavu zloupotrebe unutar tweetova, no ipak su trolovi na platformi samo ojačali. Interno, Costolo se požalio da je ekonomija zlouporabe zaostala. Bilo je potrebno samo nekoliko sekundi da se stvori račun kako bi se netko uznemiravao, ali prijava zloupotrebe zahtijeva ispunjavanje dugotrajnog obrasca. Harveyjev tim, ozbiljan u preispitivanju konteksta svakog prijavljenog tweeta, ali bez dovoljno velikog osoblja za podršku, krenuo je polako. Više izvora kaže da nije bilo neuobičajeno da njezinoj skupini trebaju mjeseci da odgovori na zaostale karte za zlostavljanje. Budući da im je nedostajala potrebna jezična podrška, članovi tima morali su se osloniti na Google prevoditelj za odgovore na mnoge pritužbe koje nisu na engleskom jeziku. Agenti za korisničku podršku, koji su ručno ocjenjivali označene tweetove, bili su toliko preplavljeni ulaznicama da bi, ako bi se zabranjeni korisnici žalili na suspenziju, ponekad jednostavno pustili počinitelje natrag na platformu. Utapali su se, kaže izvor koji je blisko surađivao s Harveyjem. Do danas mi je šokantno koliko je Twitter bio siguran.

Čelništvo Twittera u međuvremenu je bilo usredotočeno na pripreme za IPO tvrtke u studenom 2013., pa je kao rezultat toga najveći dio svojih inženjerskih resursa posvetio timu koji nadzire rast korisnika, što je bilo ključno za uspjeh Twittera na Wall Streetu. Harvey nije imao tehničku podršku koja joj je bila potrebna za izgradnju skalabilnih rješenja za probleme Twittera.

Toksičnost na platformi se tijekom tog vremena pojačala, osobito na međunarodnim tržištima. Trolovi su se organizirali za širenje mizoginističkih poruka u Indiji i antisemitskih u Europi. U Latinskoj Americi botovi su počeli inficirati izbore. Stotine korištenih tijekom predsjedničke utrke u Brazilu 2014. širile su propagandu, što je dovelo izvršne direktore tvrtke do susreta s vladinim dužnosnicima, tijekom kojih je, prema izvoru, gotovo svaki član brazilske kuće i senata upitao: 'Što radite s robotima? & Apos; (Otprilike u to vrijeme Rusija je navodno počela testirati vlastite botove kako bi utjecala na javno mnijenje dezinformacijama. Twitter je u velikoj mjeri tolerirao automatizirane račune na platformi; upućeni izvor prisjeća se kako je tvrtka jednom poslala pismo o prekidu i odustajanju farmerima botovima, što je bio zanemaren, simbol njegovog anemičnog odgovora na ovo pitanje.) Činilo se da je vodstvo Twittera gluho na vapaje iz inozemnih ureda. To je bila takva tvrtka iz područja Bay Area, kaže bivši međunarodni zaposlenik, ponavljajući zajedničku pritužbu što je Twitter postao žrtva kratkovidnosti u Silicijskoj dolini. Kad god se [incident] dogodio u SAD-u, to je bila tragedija za cijelu tvrtku. Mi bismo bili poput: ‘Ali ovo nam se događa svaki dan!

Tek sredinom 2014. godine, otprilike u vrijeme kada su trolovi prisilili kćer komičara Robina Williamsa, Zeldu, van usluge nakon očeva samoubojstva - kasnije se vratila - da je Costolu konačno bilo dosta. Costolo, koji je bio žrtva zlostavljanja u vlastitoj hrani, izgubio je vjeru u Harveyja, kažu različiti izvori. On je postavio drugi odjel zadužen za reagiranje na zlouporabene karte koje su dostavili korisnici, iako je Harveyja zadužio za postavljanje smjernica povjerenja i sigurnosti tvrtke.


Hashtag Wars

Diskurs na Twitteru često se pretvara u sukobe suprotstavljenih pogleda na svijet.


Ubrzo su se prijetnje ponovno pojavile: ISIS je počeo koristiti Twitter za radikalizaciju sljedbenika. Obuzeti vrijednostima slobode govora, rukovoditelji tvrtki su se trudili odgovoriti. Kad su počeli kružiti videozapisi s odrubljivanjem glave, došlo je do brutalnih svađa s Dickom, prisjeća se bivši izvršni direktor. Rekao bi: 'Ne možete pokazati ljude kako ubijaju na platformi! Trebali bismo ga samo izbrisati! 'I [drugi bi se raspravljali],' Ali što je sa doktorandom koji objavi sliku Kennedyjevog atentata? 'Odlučili su dopustiti snimke odrubljivanja glava, ali samo dok nož ne dotakne vrat, i, prema u dva izvora, tvrtka je dodijelila agente za podršku koji traže i prijavljuju sadržaj odrubljivanja glave - kako bi ga isti tim tada mogao ukloniti. To je bila najgluplja stvar na svijetu, kaže izvor koji je blisko surađivao s Harveyjem. [Rukovoditelji] su već donijeli odluku o politici uklanjanja sadržaja, ali nisu htjeli izgraditi alate za [proaktivno] provođenje pravila. (Twitter je od tada očistio stotine tisuća računa povezanih s ISIS-om, mišićav pristup koji je osvojio pohvale platforme.)

Costolo, frustriran oskudnim naporima tvrtke u rješavanju ovih problema, u veljači 2015. poslao je dopis za cijelu tvrtku u kojem se požalio kako ga je sram koliko se Twitter trudi nositi se sa zlostavljanjem. Kad bih mogao premotati sat, ranije bih postao agresivniji, kaže Costolo Brzo društvo , naglašavajući da krivnja ne pada na nikoga osim izvršnog direktora u to vrijeme: mene.


Često čujem ljude u Silicijskoj dolini kako govore o lažnim vijestima i dezinformacijama kao problemima iz kojih se možemo izvući, kaže Brendan Nyhan, kodirektor Svijetli sat , skupina koja prati prijetnje demokratskim procesima. To je pogrešno. Ljudi traže rješenje koje ne postoji.

Addams obitelj u boji

Dolina se možda približava tom shvaćanju. Prošle su godine Facebook i YouTube najavili inicijative za proširenje svojih timova za praćenje sadržaja na 20.000 odnosno 10.000 radnika. Twitter je u međuvremenu imao samo 3.317 zaposlenika u cijeloj tvrtki krajem 2017., od kojih je mali dio posvećen poboljšanju kvalitete informacija.

Prebacivanje velikih količina ljudskih bića, međutim, također nije lijek. Uvodi nova pitanja, od osobnih predrasuda do potrebe za kompliciranim pozivima na sadržaj u nekoliko sekundi. Ovi recenzenti koriste detaljna pravila osmišljena da ih usmjere na donošenje dosljednih odluka, kaže Susan Benesch, suradnica na fakultetu Harvardskog centra za internet i društvo Berkman Klein i direktorica Projekt opasnog govora . To je teško učiniti, osobito u opsegu.

Ljudi su često krivi za pretjerano široke čistke koje hvataju benigni sadržaj koji ne krši pravila, primjerice kada je YouTube pregledao ekstremističke videozapise i videozapise povezane s oružjem nakon snimanja u Parklandu, brišući određene isječke, pa čak i cijele kanale koji ne bi trebali podvrgnuti eliminaciji. Glasnogovornik YouTubea priznao do Bloomberg , Noviji članovi mogu pogrešno primijeniti neka naša pravila što može dovesti do pogrešnog uklanjanja.

Ogromnost ove zagonetke o kontroli kvalitete pomaže u objašnjenju zašto Twitter često ne uspijeva, barem u početku, ukloniti tweetove koje korisnici prijavljuju zbog uznemiravanja-neki uključujući aluzije na smrt ili silovanje-iako se čini da krše standarde zajednice. Tvrtka također hvata u koštac s poduzimanjem radnji protiv tweetova koji krše ova pravila, ali imaju izvanredan kontekst, kao kad privremeno suspendirana glumica Rose McGowan za uključivanje privatnog telefonskog broja u hrpu tvitova koji su uzbudili holivudske uglednike nakon skandala o seksualnom uznemiravanju Harveyja Weinsteina. Na kraju ćete niz mnogo toga skliznuti niz sklisku padinu, kaže bivši izvršni direktor Twittera na razini C. 'Oh, jednostavno rješenje je X!' Zato sada čujete: 'Zašto se jednostavno ne riješite botova ?!' Pa, mnogi [legitimni mediji] koriste automatizirane [račune] za objavljivanje naslova. Mnoga od ovih jednostavnih rješenja puno su složenija.


Pet mjeseci nakon Costolova žalovanja u veljači 2015., dao je ostavku na Twitteru. Suosnivač Jack Dorsey, koji je vodio tvrtku do otpuštanja 2008., zamijenio je Costola na mjestu izvršnog direktora (zadržavajući isti posao u svojoj tvrtki za plaćanja Square, čije je sjedište udaljeno jedan blok dalje u San Franciscu). Dorsey, engleski magistar u zemlji informatičara, duboko je razmišljao o budućnosti Twittera, ali ih nije mogao uvijek artikulirati na način koji je preveden inženjerima. Bio bih šokiran da nađete nekoga [kome] je Jack dao vrlo jasnu artikulaciju svoje teze za Twitter, kaže bivši izvršni direktor, napominjući da je Dorsey opisao uslugu koristeći takve metafore kao što su most Golden Gate i električna utičnica za toster. Jednom je okupio ured u San Franciscu na sastanak na kojem je zaposlenima rekao da želi definirati misiju Twittera - i nastavio svirati The Beatles Blackbird dok su prisutni slušali u zbunjenoj tišini.

Nije bilo sumnje da je vjerovao u Twitter koji definira etos. Twitter se zalaže za slobodu izražavanja. Zalažemo se da govorimo istinu na vlast, Dorsey tvitao svog prvog službenog dana na mjestu izvršnog direktora Twittera, u listopadu 2015.

Do trenutka kad je Dorsey počeo s radom, Twitter se bolje snašao u nekim verbalnim zagađenjima koja su mučila tu uslugu. Operacije tvrtke protiv zloupotrebe preuzela je Tina Bhatnagar, besmislena veteranka Salesforcea koja je imala malo strpljenja za ručno cijeđenje slobode govora. Bhatnagar je dramatično povećao broj vanjskih agenata za podršku koji rade za tvrtku i uspio je smanjiti prosječno vrijeme odgovora na karte za prijavu zloupotrebe na samo nekoliko sati, iako su neki smatrali da je proces postao prevelika igra brojeva. Više je bila poput: ‘Samo ih jebeno obustavi, & apos; kaže izvor koji je blisko surađivao s njom. Ako je veći dio tvrtke bio vođen riječima Justice Brandeisa, Bhatnagar je predstavljao poznati citat Justice Pottera Stewarta o opscenosti: Znam to kad ga vidim.

Ovaj ideološki rascjep odrazio se na organizacijsku hijerarhiju tvrtke koja je držala Harveyja i Bhatnagara u odvojenim dijelovima tvrtke - pravnim i inženjerskim - s odvojenim menadžerima. Često su radili na potpuno istim stvarima, ali s vrlo različitim pristupima-bile su to samo gluposti, kaže bivši visoki zaposlenik koji se osjećao rikošetiranim između dvije frakcije. Čak ni oni naizgled u istom timu nisu uvijek gledali oči u oči: prema tri izvora, Colin Crowell, potpredsjednik javne politike Twittera, u jednom je trenutku odbio prijaviti Harveyjevog šefa, općeg savjetnika Vijaya Gaddea (Macgillivrayeva nasljednika), zbog dijelom zbog neslaganja oko toga kako najbolje pristupiti pitanjima slobode govora.

Spornost je postajala uobičajena: Bhatnagarov tim htio bi suspendirati korisnike za koje smatra da su uvredljivi, ali su ih Gadde i Harvey odbacili. To je izludilo Tinu, kaže izvor upoznat s dinamikom. Otišla bi tražiti Jacka, ali Jack bi bio na Trgu, pa bi sljedeći dan slušao i bilježio poruke na svom telefonu i rekao: 'Daj da razmislim o tome.' Jack nije mogao donijeti odluku bez da je išta uznemirio ljudi sa slobodnim govorom ili ljudi na mrežnoj sigurnosti, pa stvari nikada nisu riješene.

Dorseyevi pristaše tvrde da nije nužno bio neodlučan - jednostavno nije bilo lakih odgovora. Sporovi koji su dolazili do Dorseyja često su bili bizarni rubni slučajevi, što je značilo da bi bilo koju odluku koju je donio bilo teško generalizirati na širok raspon slučajeva. Možete imati savršeno napisano pravilo, ali ako ga je nemoguće primijeniti na 330 milijuna korisnika, dobro je kao da nemate ništa, kaže izvor upoznat s izazovima tvrtke.

Dorsey je u to vrijeme imao druge poslovne zahtjeve. Kad se vratio na mjesto izvršnog direktora, rast korisnika je stagnirao, dionice su pale za gotovo 70% od svog visokog nivoa nakon IPO -a, tvrtka je bila na putu da izgubi više od 500 milijuna dolara samo u 2015. godini, a brojni visoko cijenjeni zaposlenici uskoro će napustiti. Iako je Twitter postigao određeni napredak u objavljivanju novih proizvoda, uključujući Moments i njegove značajke video zapisa uživo, borio se osvježiti svoje temeljno iskustvo. U siječnju 2016. Dorsey zadirkivani korisnici s natuknicama o proširenju dugogodišnjeg ograničenja Twittera od 140 znakova, ali trebalo je još 22 mjeseca za lansiranje tweetova od 280 znakova. Twitter je bio u velikoj zbrci, kaže Leslie Miley, koja je vodila inženjersku skupinu odgovornu za sigurnosne značajke sve dok nije otpušten krajem 2015. Kad svake godine promijenite potpredsjednike proizvoda, teško je zadržati strategiju.

Twitter nije u potpunosti cijenio novost napada 2016. godine na komičara Leslieja Jonesa, koji je virusno širio snimke zaslona lažnih, titova s ​​Photoshopom, koji su navodno prikazivali podijeljene stvari koje je podijelila. [Ilustracija fotografije: Delcan & Company ]

Zatim su stigli američki predsjednički izbori. Sve će se Twitterove bradavice uskoro povećati na svjetskoj sceni. Agenti za podršku Twittera, oni koji pregledavaju označeni sadržaj i probijaju se kroz najmračnije blato društvenih medija, svjedočili su najranijim znakovima upozorenja dok je Donald Trump počeo brisati primarne izbore. Vidjeli smo taj radikalni pomak, kaže jedan po jedan. Činilo se da je diskriminacija flagrantnija, propaganda i botovi agresivniji. Kaže drugo: Uklonili biste ga i on bi se vratio za nekoliko minuta, podržavajući naciste, mrzeći Židove, [meme s pećnicama], i oh, žaba ... zelena žaba! (To bi bilo Pepe , grubo nacrtan crtani film koji su kooptirali bijeli nadmoćnici.)

Napad trolova u srpnju 2016 SNL i istjerivaci duhova zvijezda Leslie Jones - potaknuo provokator alt-desnice Milo Yiannopoulos -pokazalo se ključnim trenutkom u naporima Twittera protiv uznemiravanja. Nakon što je Jones bombardiran rasističkim i seksističkim tvitovima, Dorsey se osobno sastao s njom kako bi se ispričao i interno proglasio hitno zlostavljanje. Tvrtka je zabranila Yiannopoulos. Također je poboljšao značajke prigušivanja i blokiranja i uveo alat za uključivanje koji korisnicima omogućuje filtriranje sadržaja za koji je Twitter utvrdio da je nekvalitetniji. Ideja je bila da Twitter neće potisnuti slobodu govora - samo neće ugurati neželjene tweetove u lica svojih korisnika.

No ti napori nisu bili dovoljni da zaštite korisnike od štetnosti izbornog ciklusa Clinton -Trump. Tijekom napada na Jonesa, platforme su se virusno proširile snimke zaslona lažnih, Photoshopped tweetova koji su navodno prikazali podijeljene stvari koje je Jones podijelio. Ova vrsta dezinformacijskih gambita postala bi obilježje izbora 2016. i kasnije, a Twitter nije cijenio snagu ovog novog fronta u informacijskim ratovima.

cnn gradska vijećnica prijenos uživo

Od dvije predsjedničke kampanje, Trump je bolje znao iskoristiti uslugu kako bi pojačao glas svog kandidata. Kad je Twitter postigao velike ponude oglasa od republikanskog kandidata, lijevo orijentirani zaposlenici požalili su se prodajnom timu da bi trebao prestati prihvaćati Trumpov srani novac.

Tekući, neriješeni sporovi oko toga što bi Twitter trebao dopustiti na svojoj platformi nastavili su se rasplamsati do jeseni. U listopadu je tvrtka odustala od ugovora vrijednog 5 milijuna dolara s Trumpovom kampanjom za prilagođeni emoji sličice #CrookedHillary. Došlo je do opake [interne] rasprave i usmjeravanja unatrag do Jacka, kaže uključeni izvor. Jack je bio u sukobu. U jedanaestom satu izvukao je utikač. Trumpovi saveznici kasnije su kritizirali Twitter zbog njegove uočene političke pristranosti.

8. studenog zaposlenici su bili šokirani kako su se slijedili izbori, a ujutro nakon Trumpove pobjede sjedište Twittera bilo je grad duhova. Zaposlenici su konačno počeli sagledavati ulogu koju je njihova platforma imala ne samo u Trumpovom usponu, već i u polarizaciji i radikalizaciji diskursa.

Svi smo imali ovaj trenutak 'svetog sranja', kaže tadašnji vođa tima za proizvode, dodajući da su svi postavljali isto pitanje: Jesmo li stvorili ovo čudovište?


U mjesecima nakon Trumpove pobjede, zaposlenici su nadano očekivali da će Dorsey govoriti o ulozi Twittera u direktnim izborima, ali desetak izvora ukazuje da je izvršni direktor interno šutio o tom pitanju. Ne možete preuzeti zasluge za Arapsko proljeće bez preuzimanja odgovornosti za Donalda Trumpa, kaže Leslie Miley, bivša voditeljica sigurnosti.

S vremenom je Dorseyevo razmišljanje evoluiralo i čini se da je manje ambivalentan u pogledu onoga što će dopustiti na platformi. Izvori navode utjecaje Trumpove kontroverzne zabrane useljavanja i nastavka manipulacije alt-desnicom. U isto vrijeme, Twitter je počeo privlačiti veću pažnju javnosti i Kongresa SAD -a zbog svoje uloge u širenju dezinformacija.

najjeftiniji način izgradnje kuće

Dorsey je ovlastio inženjerske vođe Ed Hoa i Davida Gascu da se u potpunosti pozabave problemima Twittera, a u veljači 2017., u sklopu onoga što su neki interno nazvali sprintom u zlostavljanju, tvrtka je uvela agresivnije mjere kako bi trajno zabranila lošim glumcima na platformi i bolje filtrirati potencijalno uvredljiv ili nekvalitetan sadržaj. Jack je postao pomalo opsjednut, kaže izvor. Inženjeri u svakom odjelu zamoljeni su da prestanu raditi na onome što rade i da se usredotoče na sigurnost.

Sigurnosne operacije Twittera, koje su prethodno bile planirane, postale su više integrirane sa potrošačkom proizvodnom stranom tvrtke. Rezultati su bili pozitivni. Na primjer, u svibnju 2017., nakon što je saznao koliko su korisnici bili izloženi zlostavljanju putem značajke izravnih poruka Twittera, tim koji je nadzirao proizvod došao je na ideju o uvođenju sekundarne pristigle pošte za hvatanje lošeg sadržaja, slično mapi sa neželjenom poštom. Počinju rješavati stvari, kaže bivši menadžer u tvrtki, rješavajući ove probleme kao kombinaciju proizvoda i politike.

Tijekom videa uživo Q&A Dorsey koji je gostovao u ožujku, upitali su ga zašto povjerenje i sigurnost ne rade s inženjeringom mnogo ranije. Izvršni direktor nasmijao se, a zatim priznao: Imali smo mnogo povijesnih podjela unutar tvrtke u kojima nismo bili toliko suradnički koliko smo mogli biti. Prepoznavali smo gdje nas je taj nedostatak suradnje povrijedio.

Čak su i prethodne žrtve zlostavljanja na Twitteru prepoznale da su nove sigurnosne mjere tvrtke pomogle. Mislim da Twitter radi bolje nego što ima javni kredit, kaže Brianna Wu, razvojna programerka koja je postala glavna meta Gamergate , labavi kolektiv trolova čiji su napadi 2014. na istaknute žene u industriji igara bili kanarinac u rudniku ugljena uznemiravajući Twitter. Većina prijetnji smrću koje dobivam ovih dana šalju mi ​​se ili putem Facebooka ili putem e -pošte, jer je Twitter bio toliko učinkovit u njihovom presretanju prije nego što sam ih uopće mogla vidjeti, dodaje, zvučeći iznenađujuće veselo. (Wuini susreti s tamnom stranom društvenih mreža pomogli su joj u nadahnuću trenutna kampanja za sjedište američkog doma u području Bostona, a internetska sigurnost jedno od njezinih glavnih pitanja.)

Stotine robota korišteno je na predsjedničkim izborima u Brazilu 2014. za širenje političke propagande na Twitteru, što je dovelo do toga da je izvršna tvrtka posjetila zemlju i sastala se s članovima njezina Nacionalnog kongresa. [Ilustracija fotografije: Delcan & Company + Jenue]

Twitter je također bio aktivniji od izbora u zabrani računa i uklanjanju provjera, osobito bijelih nacionalista i vođa alt-desnice poput Richarda Spencera. (Plava kvačica koja označava provjerenog korisnika izvorno je dizajnirana za potvrdu identiteta, ali se tumačila kao potvrda.) Prema tri izvora, neke od ovih odluka osobno je vodio Dorsey.

Twitter je u listopadu prošle godine počeo uvoditi niz promjena u politici i značajkama koje su dale prioritet uljudnosti i istinitosti u odnosu na apsolutizam slobode govora. Na primjer, iako je prijetnja ubojstvom uvijek bila neprihvatljiva, sada će čak i govoriti o njoj s odobravanjem u bilo kojem kontekstu korisnicima donijeti suspenziju. Tvrtka je također otežala skupne tvitove dezinformacija.

Takve suzbijanja još nisu uklonile gnojne probleme službe: nakon masovnog strijeljanja u Parklandu u veljači, neki su preživjeli studenti postali metom uznemiravanja, a botovi povezani s Rusijom navodno su širili osjećaje i dezinformacije o oružju. Nitko, međutim, ne može optužiti Twitter da se ne suočava s njegovim najgorim elementima. Pritisak na Dorsey da zadrži ovaj zamah dolazi i s Wall Streeta: Na nedavnom pozivu o zaradi, analitičar Goldman Sachsa pritisnuo je Dorseyja o napretku tvrtke u uklanjanju robota i provođenju sigurnosnih politika. Kvaliteta informacija, odgovorio je Dorsey, sada je temeljni posao Twittera.


Prošlog dana zaljubljenih, senator Mark Warner ušao je u svoj veličanstveni kutni apartman u uredu senata Hart u Washingtonu, DC, natočio sebi vitaminwater i požurio s objašnjenjem zašto Silicijsku dolinu treba smatrati odgovornom za svoju ulogu na izborima 2016. godine. . Kao potpredsjednik Demokratskog povjerenstva za obavještajne poslove Senata, Warner je zatrpan glasnim saslušanjima i povjerljivim brifingima, ali tema je također osobna za samoopisanog tehnološkog tipa koji je bogatstvo stekao osamdesetih godina ulažući u telekomunikacije.

Warner vodi istragu odbora o ruskom miješanju u izbore, koja se sve više fokusirala na rastuću, neograničenu moć tehnoloških divova, za koje smatra da trebaju prevladati njihovu aroganciju i popraviti svoje platforme. Jedna od stvari koja me jako uvrijedila bila je prva reakcija tehnoloških tvrtki da nas otpuše, počeo je, naginjući se naprijed u svom kožnom stolcu. 'O ne! Ovdje nema ničega! Ne gledaj! ’Tek s nemilosrdnim pritiskom počeli su čistiti.

Najoštrije riječi sačuvao je za Twitter, za koji je rekao da ga je vukao daleko više od Facebooka ili Googlea. Sve Twitter -ove radnje bile su posljedica Facebookovih, požalio se Warner svojim ljutitim glasom, lica pocrvenjelog. Oni pišu nacrte! Tvrtka je jedina propustila rok od 8. siječnja za davanje odgovora na upite Obavještajnog odbora, a što je još gore, Twitter je tjednima kasnije otkrio da su roboti povezani s Kremljom uspjeli generirati više od 450 milijuna pojavljivanja, znatno više od tvrtke ranije prijavljeno. Postojao je ovaj [izgovor]: ‘Oh, pa to je samo Twitter.’ To nije dugoročno održiv odgovor.

Na kraju ćete se spustiti niz sklisku stazu, kaže bivši izvršni direktor Twittera na razini C na pitanje zašto usluga ne može riješiti neke od problema sa zlostavljanjem. ‘Oh, jednostavno rješenje je X!’ Mnoga od ovih jednostavnih rješenja puno su složenija. [Ilustracija fotografije: Delcan & Company ]

Warner je izjavio da je imao izvanmrežne razgovore izravno s Markom Zuckerbergom, ali nikada Dorsey. Bacajući hlad, Warner se nasmiješio dok je sugerirao da tvrtka možda neće moći angažirati onoliko resursa koliko Facebook i Google mogu jer ima složeniji, manje unosan poslovni model.

Veliko je pitanje sada kako bi mogla izgledati intervencija vlade. Warner je predložio nekoliko općih pravila, uključujući antimonopolske propise i propise o privatnosti podataka, no onaj s najvećim potencijalnim učinkom na Twitter i njegove konkurente bio bi učiniti ih odgovornima za sadržaj na svojim platformama. Na pitanje može li Europska unija, koja je bila snažnija u regulaciji tehnološke industrije, poslužiti kao uzor, senator je odgovorio: [Drago mi je da EU djeluje. Mislim da su hrabriji od nas.

Ako američka vlada ipak počne preuzimati aktivniju ulogu u nadgledanju društvenih mreža, otkrit će neka ista problematična pitanja koja Europa već rješava. Na primjer, 1. siječnja Njemačka je počela provoditi zakon poznat kao (duboki dah) Zakon o provedbi mreže, ili NetzDG skraćeno. Umjesto da uspostavi nova ograničenja u govoru mržnje, on nalaže da velike društvene mreže uklone materijal koji krši postojeće zakone o govoru u zemlji - koji su daleko stroži od njihovih američkih ekvivalenata - u roku od 24 sata nakon što su obaviješteni o njegovom postojanju. Odluke koje bi potrajale mjesecima na redovnom sudu sada su [napravile] tvrtke društvenih medija u samo nekoliko minuta, kaže Mirko Hohmann, voditelj projekta iz Berlina Globalni institut za javnu politiku .

Kao dokaz kako ovaj pristup može stvoriti neželjene ishode, on ukazuje na slučaj u kojem je Twitter privremeno ugasio račun njemačkog časopisa za humor nakon što je satirično tvitao glasom Beatrix von Storch, vođe stranke krajnje desnice. Nijedan sud ne bi ocijenio ove tweetove nezakonitim, ali zaposlenik Twittera pod pritiskom je to učinio, kaže Hohmann. (Tvrtka je očito čak izbrisala stari tweet jednog od NetzDG -ovih arhitekata, Heika Maasa, u kojem je drugog političara nazvao idiotom.)

U SAD -u, umjesto da čekaju saveznu akciju ili međunarodne smjernice, državni zakonodavci u Marylandu, New Yorku i Washingtonu već rade na reguliranju političkih oglasa na društvenim mrežama. Kao što je Warner rekao, era samoupravljanja Silicijske doline je završila.


Bez obzira na to hoće li federalna vlada ući ili ne, jačanje velikih društvenih mreža protiv zloupotrebe uključivat će implementaciju rješenja koja još nisu ni izmišljena. Da postoji čarobni štapić kojim bi mogli mahnuti da riješe ovaj izazov, sa znatnim resursima i stručnošću koju posjeduju, onda bi to apsolutno učinili, kaže Graham Brookie, zamjenik ravnatelja Atlantskog vijeća Digitalni forenzički istraživački laboratorij .

kako izgraditi odnos

Ipak, postoji mnogo stvari koje Twitter može učiniti kako bi zaštitio svoju platformu. Korištenje tehnologije za identifikaciju zlih robota trnovita je stvar, ali Twitter bi mogao označiti sve automatizirane račune kao takve, što ne bi ugrozilo legitimne feedove, ali bi otežalo ruske botove da se predstavljaju kao pristalice Trumpa.

Ovdje se ne radi o tome da postoji automatizacija na Twitteru, kaže Renée DiResta, voditeljica politike za podatke za demokraciju i savjetnica za osnivanje Centar za humanu tehnologiju . Problem je u tome što postoje automatizirani računi koji pokušavaju biti tretirani kao stvarni ljudi, koji se ponašaju kao pravi ljudi, koji manipuliraju ljudima.

Twitter bi također mogao učiniti više kako bi obeshrabrio ljude u stvaranju nepoželjnih sadržaja, čineći svoja pravila vidljivijima i probavljivijima. Susan Benesch, čiji je Projekt opasnog govora član Twitter -ovog Vijeća za povjerenje i sigurnost, kaže da je molila rukovoditelje da podignu vidljivost pravila Twitter pravila koja ocrtavaju ono što ne možete reći o usluzi. Kažu: ‘Nitko ne čita pravila, & apos; prepričava ona. A ja kažem 'Tako je. I nitko ne čita Ustav, ali to ne znači da ne bismo trebali imati satove građanskog odgoja i pokušavati natjerati ljude da ga čitaju. & Apos;

Tvrtka bi također mogla izgraditi povjerenje prihvaćajući transparentnost kao više od riječi, dijeleći više s korisnicima i marketinškim stručnjacima o tome kako točno funkcionira Twitter te surađujući s vanjskim istraživačima. U usporedbi s drugim ogromnim društvenim medijima, njegov poslovni model daleko se manje oslanja na korištenje tajnih algoritama za unovčavanje podataka i ponašanja svojih korisnika, dajući mu priliku da bude otvoren na način na koji to rijetko čine ostali. Način na koji ljudi koriste Twitter postaje malo lakše vidjeti stvari i razumjeti ih, kaže Jason Kint, izvršni direktor izdavačke trgovačke grupe Digital Content Next. Iako je s YouTubeom nevjerojatno teško, a s Facebookom bih rekao da je prilično teško.

Prema tom više suradničkom kraju, inspiriran istraživanjem koje je provela neprofitna organizacija Cortico i MIT -a Laboratorij za društvene strojeve , Twitter je u ožujku najavio da će pokušati mjeriti svoje zdravlje u razgovoru. Pozvao je druge organizacije da sudjeluju u ovom procesu, a Twitter kaže da će svoje prve partnere otkriti u srpnju.

Napor je intrigantan, ali inicijativa mnoštva ljudi također jezivo sliči Twitter -ovom Vijeću za povjerenje i sigurnost, čija je misija od sazivanja u veljači 2016. zagovornicima, akademicima i lokalnim organizacijama da daju doprinos sigurnosnom pristupu tvrtke.

Mnogi ljudi koji su radili za Twitter ne žele metriku, već krivicu. Prema jednom izvoru koji je o tim pitanjima razgovarao s vodstvom tvrtke, njihov odgovor na sve u osnovi je bio: 'Gle, čujemo vas, ali ne možete kriviti Twitter za ono što se dogodilo. Da nismo mi, bio bi to drugi medij. ’Rukovoditelji nisu priznali da smo odgovorni, i to je bio jedan od razloga zašto sam dao otkaz.

Čak i senator Warner smatra da bi prije nego što njegove kolege razmotre zakone, izvršni direktori tehnoloških kompanija trebali svjedočiti pred Kongresom. Želim ih sve, ne samo Dorsey. Želim Marka i želim [suosnivača Googlea] Sergeya [Brina] i Larryja [Page], rekao je. Ne šaljite svoje odvjetnike, ne šaljite momke iz politike. Američkoj javnosti duguju objašnjenje.

Kad je Twitter predstavio svoju novu inicijativu o zdravstvenim metrikama, činilo se da je američka javnost konačno dobila takvu, nakon što je Dorsey tweetala o Twitteru, nismo u potpunosti predvidjeli niti razumjeli negativne posljedice u stvarnom svijetu. To sada priznajemo. On je nastavio: Nismo ponosni na to kako su ljudi iskoristili našu uslugu, niti na našu nesposobnost da se s njima dovoljno brzo pozabavimo. . . . Većinu svojih napora usredotočili smo na uklanjanje sadržaja koji nije u skladu s našim uvjetima, umjesto na izgradnju sistemskog okvira koji će potaknuti zdraviju raspravu, razgovore i kritičko razmišljanje. Ovo je pristup koji nam je sada potreban.

Tjedan dana kasnije, Dorsey je nastavio priznavati prošle greške tijekom 47-minutnog video prijenosa uživo na Twitteru. Pogriješit ćemo - sigurno ću pogriješiti, rekao je. To sam već činio u cijeloj ovoj temi o sigurnosti, zloupotrebi, dezinformacijama i [i] manipulaciji na platformi.

Smisao streama uživo bio je govoriti više o mjerenju diskursa, a Dorsey je pokušao odgovoriti na pitanja koja su postavili korisnici. No, stotine komentara u stvarnom vremenu koji su se kretali po ekranu ilustrirali su golemi izazov koji je pred nama. Kako se video nastavljao, njegov je feed bio ispunjen antisemitskim i homofobičnim uvredama, zajedljivim pritužbama korisnika koji se boje da Twitter utišava njihova uvjerenja, i žalosnim vapajima za tvrtku da prestane s rasizmom. Milovajući bradu, Dorsey je žmirio prema telefonu, gledajući kako teče loš govor dok je tražio dobro.