Android

Facebook ai går samman för att bekämpa terrorism; på instagram och whatsapp

The Third Industrial Revolution: A Radical New Sharing Economy

The Third Industrial Revolution: A Radical New Sharing Economy
Anonim

I kölvattnet av terrorister som använder sociala nätverk online för att sprida sin agenda, har ett av de största sociala medienätverken, Facebook, avslöjat hur det implementerar sin AI-enhet i sina steg för att begränsa terroristrelaterat innehåll från sin plattform.

Med utvidgningen av Internet till olika hörn av världen har det snabbt fått intresset av ökända grupper med skadlig avsikt.

Sociala nätverk har presenterat en ny väg för terroristgrupper för att inte bara rekrytera blivande kandidater med liknande extremist utan också för att planera och samordna attacker i den verkliga världen.

Medan Twitter och Google har gjort sitt för att göra internet till en säkrare plats har Facebook använt sin konstgjorda intelligens för att begränsa terroristrelaterat innehåll.

Läs också: 4 skäl till varför du bör djuka Facebook-appen för Android.

”Det finns ingen plats på Facebook för terrorism. Vi tar bort terrorister och inlägg som stöder terrorism när vi blir medvetna om dem. När vi får rapporter om potentiella terrorismposter granskar vi dessa rapporter snabbt och med granskning, ”uttalade Facebook.

Facebook hade nyligen distribuerat sitt system för artificiell intelligens för att ta upp kampen mot terroristinnehåll på Facebook.

Facebooks AI - Lumos - använder maskininlärning tillsammans med följande tekniker:

  • Bildmatchning: Med denna teknik identifierar AI bilder eller videor som liknar dem som tidigare har förbjudits och flaggar dem innan det når ut till publiken på Facebook.
  • Språkförståelse: En annan ny utveckling som företaget fortfarande testar. Denna teknik försöker identifiera texter som kan förespråka terrorism - som använder maskininlärning.
  • Inriktning på terroristkonton med ett liknande mönster: Inaktivera konton, grupper eller sidor som är relaterade till eller liknande terroristkonton som har förbjudits tidigare.
  • Recidivism: Upptäcka falska konton skapade av upprepade gärningsmän och ta bort dem snabbare än de skapas igen.
  • Övervakning över plattformar: Denna AI-övervakning kommer inte bara att impliceras på Facebook-skrivbordet och mobilappen, utan också på andra Facebook-ägda sociala medieplattformar som Instagram, Whatsapp och Messenger.

"Även om akademisk forskning upptäcker att radikaliseringen av medlemmar i grupper som ISIS och Al Qaida främst sker offline, vet vi att internet spelar en roll - och vi vill inte att Facebook ska användas för någon terroristaktivitet överhuvudtaget", säger företaget Lagt till.

Eftersom det som stöder och inte stöder terrorism är subjektivt eftersom en bild av en terrorist eller text som talar om terrorism också kan vara en del av en nyhetsrapport och för att söka igenom innehållet kommer Facebook också att lägga till mänskliga granskare i fället för att "förstå mer nyanserade fall".

De mänskliga motsvarigheterna till AI kommer att ansvara för att granska innehållet som har rapporterats av medlemmar i Facebook-communityn, för att identifiera trovärdigheten och storleken på ett terroristhot som finns av en AI och hjälpa AI på andra sätt också.

"Terrorister utvecklar kontinuerligt sina metoder och vi identifierar ständigt nya sätt som terroristaktörer försöker kringgå våra system - och vi uppdaterar vår taktik i enlighet därmed", tillade företaget.

Läs också: Hur man använder flera Facebook-konton från ett enda Chrome-fönster.

Terrorismen har varit ett växande hot under de senaste decennierna och när internet når ut till långa hörn av världen ger det ett sätt för människor att ansluta sig utanför gränserna men också ett sätt för förövarna att sprida sin filosofi, möta andra länkar- sinnade människor och rekrytera synliga sinnen också.

Facebook har konsekvent gjort ansträngningar för att göra sitt samhälle till en bättre plats för människor att interagera i - vare sig det är kampen mot hämndporr, ansträngningar att bromsa falska nyheter, utbilda sin AI för att övervaka aktiviteter på sin plattform och samarbeta med andra sociala medier bigwigs för att ta itu med hotet om terrorism på nätet - naturligtvis är allt detta mycket nödvändigt.

Facebook verkar hålla med åsikten att "sociala medier inte bör vara en plats där terrorister har en röst". Hotet är verkligt och ju tidigare vi svarar på det, desto bättre är det för ett säkrare internet i framtiden.