Facebook erklärt Anti-Terror-Anstrengungen

Merkwürdige Zeiten. Unter der Überschrift „How We Counter Terrorism“ informiert das soziale Netzwerk Facebook jetzt über seine Anstrengungen im Kampf gegen den Terrorismus und erklärt mit welchen technischen Strategien man zukünftig dafür sorgen will, dass terroristische Gruppen Facebook nicht zu Kommunikations- und Propagandazwecken nutzen können.

Laut Facebook will man sich im Kampf gegen den Terror auch auf die eigene „Artificial Intelligence“-Infrastruktur verlassen, die entsprechende Inhalte schon filtern soll, ehe diese für andere Nutzer sichtbar werden.

Hier setzt Facebook zum einen auf Image matching-Algorithmen, die bekannte Propaganda-Inhalte entfernen soll, zum anderen wertet das Zuckerberg-Netzwerk die Texte seiner Nutzer aus und gleicht diese mit bekannten Terror-Texten ab. Selbstlernende Analyse-Algorithmen sollen so auch neu formulierte Texte zielsicher als Terrorbotschaften einstufen und entsprechend handeln können:

We have also recently started to experiment with using AI to understand text that might be advocating for terrorism. We’re currently experimenting with analyzing text that we’ve already removed for praising or supporting terrorist organizations such as ISIS and Al Qaeda so we can develop text-based signals that such content may be terrorist propaganda. That analysis goes into an algorithm that is in the early stages of learning how to detect similar posts. The machine learning algorithms work on a feedback loop and get better over time.

Unabhängig davon, wie effektiv die Anstrengungen Facebooks ausfallen werden ist der hier abgedruckte Text lesenswert. Vor allem die Passagen zu partnerschaftlichen Zusammenarbeit mit anderen Industrievertretern und Strafverfolgungsbehörden solltet ihr im Zuge der aktuellen Crypto-Diskussion zumindest überfliegen. So schreibt Facebook zum Thema verschlüsselte Kommunikation:

We know that terrorists sometimes use encrypted messaging to communicate. […] Because of the way end-to-end encryption works, we can’t read the contents of individual encrypted messages — but we do provide the information we can in response to valid law enforcement requests, consistent with applicable law and our policies.