Με τον πόλεμο κατά της τρομοκρατία να κλιμακώνεται παγκοσμίως, τους τρομοκράτες να απαντούν με επιθέσεις σε πόλεις και κατοικημένες περιοχές στοχεύοντας αδιακρίτως ηλικίας, φύλου και πεποιθήσεων, η διοίκηση του Facebook φαίνεται ότι αποφάσισε να βγει από τις σκιές και να συνταχθεί με τη δυτική συμμαχία κατά των τρομοκρατών, κίνηση που αναμένεται να στοιχίσει στη φήμη του στη Μέση Ανατολή.
Αν και πολλές χώρες έχουν απαγορεύσει την πρόσβαση στο Facebook και άλλα μέσα κοινωνικής δικτύωσης η διοίκηση της εταιρίας είχε επιλέξει πολιτική χαμηλών τόνων και παρασκηνιακών διαβουλεύσεων, φτάνοντας ακόμα και σε συμφωνία με την Κίνα για την ανάπτυξη και παροχή εργαλείου λογοκρισίας ώστε να λάβει άδεια λειτουργίας στη χώρα.
Τούτων δοθέντων η ανάπτυξη σαφούς αντιτρομοκρατικής δραστηριότητας με δημόσιο τρόπο από το Facebook αποτελεί από μόνη της είδηση που θα έχει πολιτικό, κοινωνικό, οικονομικό και μετοχικό αντίκτυπο για την εταιρία.
Σε μια σειρά από blog posts κορυφαίων στελεχών του και με συνέντευξη στο BBC, το κοινωνικό δίκτυο τονίζει την επιθυμία του να είναι πιο ανοικτό και «διαφανές» σχετικά με τη δουλειά που κάνει σε αυτόν τον τομέα.
Όπως ανέφερε η εταιρεία στο BBC, χρησιμοποιεί τεχνητή νοημοσύνη για τον εντοπισμό εικόνων, βίντεο και κειμένων που σχετίζονται με τρομοκρατία, καθώς και δικτύων από ψεύτικους λογαριασμούς με στόχο τον έγκαιρο εντοπισμό του περιεχομένου αυτού, πριν το εντοπίσουν οι χρήστες.
[graphiq id=”1rsJxRWFMRn” title=”Facebook: Μηνιαία ενεργοί χρήστες” width=”700″ height=”464″ url=”https://sw.graphiq.com/w/1rsJxRWFMRn” frozen=”true”]
«Θέλουμε να είμαστε πολύ ανοιχτοί με την κοινότητά μας σχετικά με το τι προσπαθούμε να κάνουμε για να διασφαλίσουμε πως το Facebook είναι ένα πραγματικά εχθρικό περιβάλλον για τις τρομοκρατικές οργανώσεις» είπε η Μόνικα Μπίκερτ, διευθύντρια global policy management, στο BBC.
Οι τεχνολογίες που χρησιμοποιούνται για τον σκοπό αυτό περιλαμβάνουν δυνατότητες image matching: Εάν κάποιος προσπαθήσει να ανεβάσει μια φωτογραφία ή βίντεο τρομοκρατικού περιεχομένου, τα συστήματα προσπαθούν να διαπιστώσουν εάν αντιστοιχεί σε παλαιότερο υλικό, για να παρεμποδιστεί εξαρχής το upload του υλικού αυτού. Ένας άλλος τομέας στον οποίο το Facebook δραστηριοποιείται είναι ο πειραματισμός με τεχνητή νοημοσύνη για τον εντοπισμό κειμένου που ίσως προωθεί την τρομοκρατία, μέσω ανάλυσης κειμένων που έχουν ήδη απομακρυνθεί επειδή διαπιστώθηκε πως το έκαναν επιβεβαιωμένα. Η χρήση machine learning σημαίνει πως η διαδικασία αυτή θα βελτιώνεται με τον καιρό.
Ακόμη, η εταιρία αναφέρει πως χρησιμοποιεί αλγορίθμους για τον εντοπισμό δικτύων λογαριασμών η εικόνων που έχουν να κάνουν με τη στήριξη/ προώθηση της τρομοκρατίας. Σε αυτό το πλαίσιο, διερευνάται η αναζήτηση ενδείξεων όπως το αν ένας λογαριασμός έχει ως «φίλους» μεγάλο αριθμό λογαριασμών που έχουν απενεργοποιηθεί επειδή στήριζαν την τρομοκρατία κ.α. Το Facebook επίσης λέει πως δουλεύει πάνω σε τρόπους εντοπισμού και παρακολούθησης χρηστών που δημιουργούν κατά συρροή λογαριασμούς για τη δημοσίευση τρομοκρατικού περιεχομένου και αναζητούν μεθόδους παραπλάνησης/ παράκαμψης των υπαρχόντων συστημάτων ελέγχου.
Παρόλα αυτά, η εταιρεία αναγνωρίζει πως οι αλγόριθμοι δεν έχουν το ίδιο καλές επιδόσεις με τους ανθρώπους όσον αφορά στη διάκριση μεταξύ του περιεχομένου από τρομοκράτες και του περιεχομένου αντίστοιχου χαρακτήρα που ανεβαίνει για ενημερωτικούς σκοπούς (πχ αναρτήσεις ειδήσεων που περιέχουν στιγμιότυπα από βίντεο κλπ). Για αυτό, επισημαίνει το Facebook, έχει ενισχυθεί η ομάδα των ειδικών του που δουλεύουν πάνω στο αντικείμενο- με 150 άτομα που δουλεύουν ειδικά πάνω σε θέματα αντιτρομοκρατίας.
[graphiq id=”kkw8lecD00t” title=”Η ακτινογραφία του Facebook” width=”700″ height=”582″ url=”https://sw.graphiq.com/w/kkw8lecD00t” frozen=”true”]