Misinformacija ir šališkumas infekuoja socialinę žiniasklaidą tiek tyčia, tiek atsitiktinai

Anonim

Socialinė žiniasklaida yra vienas iš pagrindinių naujienų šaltinių JAV ir visame pasaulyje. Vis dėlto vartotojai susiduria su abejotino tikslumo turiniu, įskaitant sąmokslo teorijas, spragtelėjimus, hiperpartišką turinį, pseudo mokslą ir netgi pagamintus "netikrų naujienų" pranešimus.

Nenuostabu, kad paskelbta tiek daug dezinformacijos: šiukšlių ir internetinių sukčiavimo atvejai pelninga nusikaltėliams, o vyriausybė ir politinė propaganda atneša tiek partizinę, tiek finansinę naudą. Tačiau tai, kad mažai patikimumo turinys skleidžia taip greitai ir lengvai, leidžia manyti, kad žmonės ir socialinės žiniasklaidos platformų algoritmai yra pažeidžiami manipuliavimo.

Mūsų tyrime nustatyta trijų rūšių šališkumas, dėl kurio socialinės žiniasklaidos ekosistemos pažeidžiama tiek tyčinė, tiek atsitiktinė dezinformacija. Štai kodėl mūsų Indianos universiteto socialinių žiniasklaidos observatorija kuria priemones, kurios padeda žmonėms sužinoti apie šias įtampas ir apsisaugoti nuo išorinės įtakos, skirtos jų išnaudojimui.

Sumišimas smegenyse

Kognityviniai šališkumai kyla iš to, kaip smegenys apdoroja informaciją, kurią kasdien susiduria kiekvienas žmogus. Smegenys gali susidoroti tik su galutiniu informacijos kiekiu, o per daug įeinančių stimulų gali sukelti informacijos perkrovą. Tai pats savaime turi rimtų padarinių informacijos apie socialinę žiniasklaidą kokybei. Nustatėme, kad kieta konkurencija vartotojų dėmesio atžvilgiu reiškia, kad kai kurios idėjos yra virusinės, nepaisant jų žemos kokybės, net jei žmonės nori pasidalyti aukštos kokybės turiniu.

Norėdami išvengti įstrigimo, smegenys naudoja keletą gudrybių. Šie metodai paprastai yra veiksmingi, tačiau jie gali tapti netiksliais, kai taikomi netinkamais kontekstais.

Vienas pažinimo spartusis klavišas atsitinka, kai žmogus nusprendžia, ar pasidalinti istorija, rodoma jų socialinės žiniasklaidos sklaidos kanale. Žmones labai paveikia emocinės antraštės konotacijos, nors tai nėra geras straipsnio tikslumo rodiklis. Daug svarbiau yra tas, kas parašė kūrinį.

Siekdami kovoti su šia šališkumu ir padėti žmonėms atkreipti daugiau dėmesio ieškinio šaltiniui prieš tai dalydami, mes sukūrėme "Fakey" - mobiliojo naujienų raštingumo žaidimą (nemokamą "Android" ir "iOS"), kuris imituoja įprastą socialinės žiniasklaidos naujienų kanalą, su naujienų deriniu straipsniai iš pagrindinių ir nepakankamai patikimų šaltinių. Žaidėjai gauna daugiau taškų, kad galėtų dalytis naujienomis iš patikimų šaltinių ir pažymėti įtartiną turinį faktams tikrinti. Procese jie mokosi atpažinti šaltinio patikimumo signalus, tokius kaip hiperspartiškos pretenzijos ir emociškai užpildytos antraštės.

Siaubas visuomenėje

Kitas šališkumo šaltinis yra visuomenė. Kai žmonės tiesiogiai bendrauja su savo bendraamžiais, socialinės prietarai, vedantys į draugų pasirinkimą, daro įtaką jų matomai informacijai.

Iš tiesų, atlikdami savo tyrimą, nustatėme, kad galima nustatyti "Twitter" naudotojo politines tendencijas, tiesiog pažvelgus į jų draugų draugystę. Mūsų analizuojant šių partizanų ryšių tinklų struktūrą, socialiniai tinklai ypač veiksmingi skleidžiant informaciją (tikslią ar ne), kai jie yra glaudžiai susiję ir atjungiami nuo kitų visuomenės dalių.

Tendencija vertinti informaciją palankiau, jei ji gaunama iš savo socialinių ratą, sukuria "aušinimo kameras", kurios yra sąmoningai ar netyčia subrendusios manipuliavimui. Tai padeda paaiškinti, kodėl tiek daug internetinių pokalbių sklinda į "mus prieš juos" prieštaravimus.

Norėdami sužinoti, kaip internetinių socialinių tinklų struktūra sukuria vartotojams pažeidžiamą dezinformaciją, mes sukūrėme "Hoaxy" sistemą, kuri stebi ir vizualizuoja turinio platinimą iš mažai patikimų šaltinių ir kaip jis konkuruoja su fakto tikrinimo turiniu. Mūsų "Hoaxy" per 2016 m. JAV prezidento rinkimus surinktų duomenų analizė rodo, kad "Twitter" paskyros, kuriomis naudojama klaidinga informacija, beveik visiškai buvo atskirtos nuo faktų tikrintojų atliktų pataisymų.

Kai mes grįžtame prie dezinformacinių paskirstymo paskyrų, radome labai tankią pagrindinę sąskaitų grupę, kuri vienos kitoms buvo beveik vienintelė - įskaitant kelis robotus. Vieninteliai faktai tikrinimo organizacijos kada nors paminėjo arba paminėjo klaidingai informuotos grupės vartotojai, kai klausė jų teisėtumo arba teigė priešingai nei jie parašė.

Pabandykite mašinoje

Trečia šališkumo grupė kyla iš algoritmų, naudojamų siekiant nustatyti, ką žmonės mato internete. Tiek socialinės žiniasklaidos platformos, tiek paieškos sistemos jas naudoja. Šios personalizavimo technologijos yra skirtos pasirinkti tik įdomiausius ir svarbiausius kiekvieno vartotojo turinį. Tačiau tai gali pabloginti naudotojų kognityvinę ir socialinę įtampą, tokiu būdu dar labiau pažeidžiant manipuliavimą.

Pavyzdžiui, išsamios reklamos priemonės, įtvirtintos daugelyje socialinės žiniasklaidos platformų, leidžia dezinformacijos dalyviams pasinaudoti patvirtinimo šališkumu, pritaikydami pranešimus žmonėms, kurie jau linkę jiems patikėti.

Be to, jei vartotojas dažnai spustelėja "Facebook" nuorodas iš konkretaus naujienų šaltinio, "Facebook" dažniausiai parodys šiam asmeniui daugiau tos svetainės turinio. Toks vadinamasis "filtro burbulo" efektas gali izoliuoti žmones iš skirtingų perspektyvų, sustiprinti patvirtinimo šališkumą.

Mūsų pačių tyrimai rodo, kad socialinės žiniasklaidos platformos kelia vartotojus mažiau įvairesniems šaltiniams nei ne socialinės žiniasklaidos svetainėse, pavyzdžiui, "Wikipedia". Kadangi tai yra visos platformos, o ne vieno vartotojo lygis, tai vadiname vienodumo šališkumu.

Kitas svarbus socialinės žiniasklaidos elementas - tai informacija, kuri tendencinga platformoje, atsižvelgiant į tai, kas gauna daugiausia paspaudimų. Mes vadiname šią populiarumo šališkumą, nes nustatėme, kad algoritmas, skirtas populiarių turinio populiarinimui, gali neigiamai paveikti bendrą informacijos kokybę platformoje. Tai taip pat įtakoja esamą pažinimo šališkumą, sustiprinant tai, kas yra populiari, nepriklausomai nuo jos kokybės.

Visi šie algoritminiai šališkumai gali būti manipuliuojami socialiniais robotomis, kompiuterinėmis programomis, kurios sąveikauja su žmonėmis per socialinės žiniasklaidos paskyras. Dauguma socialinių robotų, pavyzdžiui, "Twitter" Big Ben, yra nekenksmingi. Tačiau kai kurie paslėpti savo tikrąjį pobūdį ir yra naudojami kenkėjiškiems tikslams, pavyzdžiui, skatina dezinformaciją arba klaidingai sukuria judriojo judesio išvaizdą, dar vadinamą "astroturfing". Rugpjūčio 2010 m. JAV vidurio laikotarpio rinkimuose surinkome įrodymų apie tokio tipo manipuliavimą.

Norėdami ištirti šias manipuliavimo strategijas, sukūrėme įrankį, kuris aptinka socialinius robotus, kuriuos vadina Botometras. "Botometras" naudoja mašininį mokymą, norėdamas aptikti "bot" paskyras, peržiūrėdamas tūkstančius skirtingų "Twitter" paskyrų savybių, pavyzdžiui, savo pranešimų laikus, dažniausiai tweets ir paskyras, kurias jis seka ir retweets. Tai nėra tobula, tačiau parodė, kad 15 proc. "Twitter" paskyrų rodo, kad yra batų požymiai.

Naudodamiesi "Botometer" kartu su "Hoaxy", per 2016 m. JAV prezidento kampaniją išanalizavome dezinformacijos tinklo pagrindą. Nustatėme daugybę robotų, išnaudojančių aukų pažinimo, patvirtinimo ir populiarumo tendencijas bei "Twitter" algoritmus.

Šie robotai sugeba sukonfigūruoti filtro burbuliukus aplink pažeidžiamus vartotojus, padėdami jiems melagingus teiginius ir dezinformaciją. Pirma, jie gali pritraukti žmonių naudotojų, kurie palaiko tam tikrą kandidatą, dėmesį, taikydami tos kandidato raktinius žodžius arba nurodydami ir pakeitę asmenį. Tada robotai gali sustiprinti melagingus teiginius, kurie išpūsto priešininkus, retweetingdami straipsnius iš mažai patikimų šaltinių, kurie atitinka tam tikrus raktinius žodžius. Ši veikla taip pat leidžia algoritmą pabrėžti kitiems vartotojams klaidingas istorijas, kurios yra plačiai naudojamos.

Suprasti sudėtingus pažeidžiamumus

Net ir kaip mūsų tyrimai, ir kiti "rodo, kaip galima manipuliuoti asmenimis, institucijomis ir net visai visuomenei socialinės žiniasklaidos priemonėmis, todėl į klausimus atsakoma daugybė klausimų. Ypač svarbu sužinoti, kaip šios skirtingos šališkumo sąveikos tarpusavyje, galinčios sukurti sudėtingesnes pažeidžiamumas.

Tokie įrankiai, kaip mūsų, siūlo interneto vartotojams daugiau informacijos apie dezinformaciją ir todėl tam tikrą apsaugą nuo jo žalos. Tikėtina, kad sprendimai bus ne tik technologiniai, tačiau greičiausiai jiems bus keli techniniai aspektai. Tačiau jie turi atsižvelgti į kognityvinius ir socialinius problemos aspektus.

menu
menu