Datenschutz vs. Kampf gegen Kinderporno
Apple in der Zwickmühle: Kinderschützer fordern Fotoscans
Vor zwei Jahren wollte Apple automatische Scans der Fotosammlungen seiner Kunden einführen, um die Verbreitung und Speicherung von Kinderpornografie zu verhindern. Während uns das Unternehmen damals noch erklärt hat, dass man die Maßnahmen so konzipieren wolle, dass sie verlässlich und sicher gegen Missbrauch integriert werden können, muss Apple nun in genau entgegengesetzter Richtung argumentieren. Das Scannen der privat gespeicherten iCloud-Daten würde neue Bedrohungsvektoren schaffen und könne nicht absehbare Konsequenzen mit sich führen.
Apple hatte ja vor zwei Jahren angekündigt, dass nicht nur die in der iCloud gespeicherten, sondern auch die lokal auf jedem iPhone vorhandenen Fotos automatisch auf das Vorhandensein von kinderpornografischen Inhalten überprüft werden sollen. Das Ganze solle automatisiert und unter strengster Einhaltung sämtlicher zum Schutz der Privatsphäre nötigen Bedingungen erfolgen.
Die im Zusammenhang mit einer solchen Ankündigung absehbaren heftigen Proteste ließen jedoch nicht lange auf sich warten. Eine gezielte Suche nach Inhalten egal welcher Art sei gleichzeitig die Blaupause für beliebige Zensurmaßnahmen auf der gleichen technischen Basis. Apple hat Wochen später dann schließlich auch klein bei gegeben und sich von dem Gedanken an diese Maßnahme verabschiedet.
Kinderschützer machen Druck auf Apple
Bilder: Screenshot der Heat-Initiative-Webseite | Titelbild: Apple Datenschutz
Nach dem Motto „Die Geister, die ich rief“ sieht sich der iPhone-Hersteller jetzt allerdings genau entgegengesetzt unter Druck. Die amerikanische Kinderschutzvereinigung Heat Initiative fordert von Apple, dass die ursprüngliche Ankündigung in die Tat umgesetzt wird und unterstellt im Rahmen einer groß angelegten Medienkampagne, dass Apples Untätigkeit für das Leid zahlreicher Kinder verantwortlich ist.
In der Folge muss der bei Apple für den Bereich Datenschutz verantwortliche Manager Erik Neuenschwander nun das Umdenken seines Unternehmens mit genau jeden Argumenten rechtfertigen, die Apple selbst im Anschluss an seine ursprüngliche Ankündigung von hochrangigen Datenschützern bis hin zu Edward Snowden zu hören bekam. Das Magazin Wired zitiert Neuenschwander mit den Worten, dass das Scannen nach einer bestimmten Art von Inhalten grundsätzlich die Türen für eine Massenüberwachung öffnen könne.
Neuenschwander hat in diesem Zusammenhang auch auf das zum Teil schon von staatlicher Seite ausgesprochene Verlangen nach einer Möglichkeit zur Durchsuchung von verschlüsselten Messaging-Systemen nach bestimmten Inhalten angespielt. Einen solchen Wunsch nach einer Hintertür hat hier zuletzt allem voran die britische Regierung zum Ausdruck gebracht. Die Anbieter von Chat-Systemen haben entsprechende Gesetzesentwürfe vor Augen bereits damit gedroht, sich komplett aus Großbritannien zurückzuziehen. Apple scheint in dieser Hinsicht inzwischen ebenfalls zu keinen Kompromissen mehr bereit.
Überwachung geht vor: Großbritannien will Kontrolle über Softwareupdates
Nicht Apple ist für das Leid unzähliger Kinder verantwortlich, sondern die Täter. Vielleicht sollte das auch die Heat Initiative lernen.
Insbesondere, da die vorgeschlagene Art des Scannings ja nur bereits allgemein bekanntes Bildmaterial erfasst, was von diesen kranken Leuten im Kreis getauscht wird. Dem ekelhaften Missbrauch von weiteren Kindern komme ich mit dieser Maßnahme ja überhaupt nicht bei.
Richtig. Zumal die Forderung erst greift, wenn die abscheulichen Taten bereits erfolgt sind. Man denkt wieder einmal nicht wirklich an die Opfer.
Die wissen das.
Meinen sie wirklich, dass es einer initiative, die aus dem nichts kommt es wirklich nur wegen der Kinder direkt in die Presse schafft?
Ich würde mal tippen, dass da jemand das Leid der Kinder für seine eigenen Zwecke instrumentalisiert.
Und der Preis für den Verschwörungstheoretiker des Monats September geht an: David!
Ich versuchte wirklich nach denen zu recherchieren, auch Freunde in den USA gefragt, ob sie die kennen und war durchaus überrascht, dass so jemand überhaupt die Medienaufmerksamkeit bekommt.
Wenn sie schonmal selbst was versucht haben für Kinder (die keine wirkliche Lobby haben) mit Medienpräsenz zu machen, werden sie das vielleicht auch hinterfragen, wie groß der Erfolg dieser Kampagne für eine durchaus fragwürdige Aufforderung ist.
Der Preis für den Michel des Monats geht an: Thom!
In der Schule ging früher das Wortspektrum bei manchen von H wie Uhrensohn & S wie Spasti. Heute? Wurde es erweitert Richtung V wie Verschwörungstheoretiker.
Und welchen Vorschlag hast Du an die Täter zu kommen? In unserem kleinen Städtchen gab es einen Prozess gegen die Täter und Verbreiter solcher Bilder und im Gegensatz zu den meisten anderen war der öffentlich. Also habe ich es mir mal angesehen, zumal ich den an diesem Tag Beklagten sogar kannte – er wohnte früher in direkter Nachbarschaft bei seinen Eltern.
Heraus kam beim Prozess: Ohne die Hinweise von Google und Microsoft hätte die Polizei die nie gefunden. Der Polizist erklärte dem Richter wie die Meldung von Microsoft kam, wie sie die Bilder gesichtet und dann anschließend sofort koordiniert die Wohnungen gleichzeitig durchsucht und die Beweise gesichert haben.
Er hat auch klar gestellt, dass die Polizei ohne Microsoft, Google und Facebook praktisch keine Chancen haben solche Täter zu finden. Übrigens: Alle Täter haben langjährige Haftstrafen – ohne Bewährung.
Wenn Du eine gute Idee hast, wie das trotzdem gehen soll, bitte, erzähle mal. Übrigens kannte ich auch den Polizisten persönlich, ich werde ihm gern deine wertvollen Tipps weiterleiten.
Es ist nicht unsere Aufgabe bessere Vorschläge zu machen. Das ist polemisch! Wir dürfen aber etwas dagegen haben, dass unsere Geräte fortwährend auf Inhalte durchsucht werden (Bei Kinderpornos wird da doch keine Grenze gezogen, dass geht bis zum durch KI erkannten Parkverstoß). Das ist als würde in jeder Wohnung eine Kamera aufgehängt, so persönlich wie unsere Geräte mittlerweile geworden sind. Es geht hier nicht darum, das irgendjemand hier weiter in Ruhe Kinderpornos konsumieren möchte, sondern darum, welche Tür dabei geöffnet wird. Wann versteht ihr das denn endlich?! Dieser Schaden ist unermesslich und bedroht unsere Freiheit im Ganzen!
@ Sam:
„Bei Kinderpornos wird da doch keine Grenze gezogen, dass geht bis zum durch KI erkannten Parkverstoß“
Genau dieses Argument ist völlig absurd.
Das war nämlich genau die „Prozessstrategie des Verteidigers, die Gerichtsverwertbarkeit der Beweismittel in Frage zu stellen. Er hat den Polizeibeamten mit Fragen nach genauer Herkunft, wann und wie der Hinweis kam, die AGBs von Microsoft usw. gelöchert.
Wenn Microsoft, oder wer auch immer etwas auf deinem Gerät „durchsuchen und melden“ würden, wozu sie gesetzlich und nach ihren AGBs nicht berechtigt waren, wäre die Anklage wohl gescheitert.
Das wäre dass gleiche, als wenn Du behaupten würdest das ein Blitzer permanent jeden fotografiert, um dich zu „beobachten“ – ich kann dir versichern, das passiert nicht.
Gerade hier in Deutschland kannst Du sogar gegen einen Blitzer argumentieren, wenn die Stadt dir nicht erklären kann, warum der genau da steht. Und Du bist ernsthaft der Meinung, die könnten „Parkverstöße“ anhand eine KI auf deinem Smartphone verfolgen?
Wird in Deutschland nicht verstanden. Zu sehr haben Medien mit der Regierung zusammen die letzten Jahre tolle Arbeit geleistet und Leuten eingetrichtert, „wer nichts zu verbergen hat….“.
Genau so wie damals Terrorismus, dann die Einführung von Video-Ident und diesen ganzen kranken Kram. Die 12 Terroristen haben sich vorher natürlich SIMs in Deutschland geholt und nichtne SIM aus dem EU-Ausland wo man bis heute nichts registrieren muss? Da gab es einen kurzen Aufschrei von Leuten, das wars. Da hat das Penny-Bierchen wohl gesiegt.
Jeder macht heute Video-Ident und keiner weiß, was mit den Daten alles im Hintergrund passiert oder glaubt auch nur einer, daß die privaten Firmen die Daten löschen oder nicht mit Behörden teilen? Videos wo sich jemand bewegt, so dass man den gesamten Kopf sehen kann, dann sogar den Ausweis in der Hand hält sind Milliarden wert….
Na wenn du mir das versicherst, ist ja alles gut. Dann kann ich mich jetzt wieder hinlegen.
Manchmal wünsche ich mir, ich wär ein bisschen dumm, dann würde ich die Phantasie für die nächsten Schritte gar nicht haben. Das wär schön.
Das ist ja eine tolle Lobbyarbeit, die du hier leistest!
Anlassloses scannen ist für mich inakzeptabel. Dabei steht jeder unter Generalverdacht und der Umgang mit False-Positives ist ein Drama für sich. Das ist ja so, als würde jeder seinen Hausschlüssel bei einer privaten Firma abgeben, die dann unangemeldet ab und an mal das Haus durchsucht und schaut, ob der Bewohner vielleicht ein Verbrechner ist.
Überwachung und Durchsuchung nur auf richterlichen Beschluss. Warum sollte das nicht auch in der virtuellen Welt gelten?
Danke! Mein erster Gedanke!
Ich bin ganz bei Sam.
Das hebt die End-zu-Endverschlüsselung aus den Angeln, wenn theoretisch jedes Bild aus der Mediathek an Apple gesendet werden kann.
Wer sagt, dass die KI z. B. aus medizinischen Gründen aufgenommene Bilder nicht als Kinderpornografie erkennt? Wenn man z. B. Wunden, Ekzeme, Leberflecken etc. fotografiert … insbesondere bei seinen eigenen Kindern.
Was ist, wenn ein Kind sich selbst fotografiert z. B. um den Erfolg beim Abnehmen zu dokumentieren etc.?
Was ist, wenn Teenies sexten?
Wie unterscheidet die KI zuverlässig zwischen 17- und 18-Jährigen? Gar nicht. Zwischen beiden liegt zum Teil genau ein Tag.
Es würden also immer auch Bilder an Apple gehen, die nicht dem ursprünglichen Zweck dienen und die Privatsphäre der Menschen erheblich verletzen.
Denn die KI übernimmt nur die Vorauswahl: Wenn ein vermeidlich kinderpornografisches Bild gefunden wurde, muss es im nächsten Schritt logischerweise von einem Menschen weiter verarbeitet werden.
Die untereinander sextenden Teenies werden plötzlich Angeklagte in einem Strafverfahren. Auch wenn Sie im Laufe des Verfahrens freigesprochen werden, ist alleine schon das Verfahren eine demütigende Bloßstellung vor ihren Eltern.
Hier wird die Privatsphäre der Jugend (und falsch erkannter älterer) verletzt.
Ich finde den Gedanken sowieso typisch USA-konservativ, „Minderjährigen“ die Entfaltung ihrer Sexualität absprechen zu wollen. Früher war es durchaus üblich, z. B. mit 16 ein Kind zu bekommen. Selbstverständlich fangen die Teenies vorher bereits an, sich mit der Anatomie Ihres Körpers auseinanderzusetzen.
Wenn ich mich zurückerinnere war ich vielleicht 10, als das Thema interessant wurde.
Und nicht zuletzt – wie bereits im Artikel angesprochen – kann man diese Technik beliebig missbrauchen:
In Russland geraten dann vielleicht erkannte Ukraine-Flaggen ins Visier, in Saudi-Arabien sind es dann Bilder von Frauen ohne Kopftuch und im Iran Bilder mit homosexuellen Inhalten usw. …
Wo kommen wir da hin, wenn wir überlegen müssen, was wir unseren privatesten Geräten anvertrauen können?!
Heut zutage wird nur noch „gefordert“ statt sich mal selber bisschen zu kümmern
Ähm, eine gemeinnützige Organisation sollte deiner Meinung nach Ermittlungsarbeit leisten?
Nein aber sie könnten ja wo anders ansetzen. Prävention, Aufklärung, Selbsthilfe ….
„… alles NUR zum Schutze der Kinder. Denkt doch dabei an die KINderR“ ich wünschte es wäre so.
Dann müssen sie auch den Mac scannen und ebenso auch Windows-Rechner und einfach alles. Wo soll das enden, ganz ehrlich.
Richtig, an Vernunft wird nicht appelliert, nur gefordert von einzelnen
Sehe ich auch so. Wie wäre es, wenn die in Fernseher integrierten Kameras verwendet werden, um häusliche Gewalt aufzudecken? Wer könnte etwas dagegen haben? Nur der, bei dem häusliche Gewalt stattfindet, oder?
Wie wäre es wenn Canon und Samsung Mitarbeiter an der Tür klingeln und Deine Speicherkarten nach illegalen Inhalten zu durchsuchen möchten? Wer könnte etwas dagegen haben? Freiheit geht vor Sicherheit!
Nie von denen gehört…
…ein Spin-Off der NSA?
Ich begründe beim BND jetzt auch ein Subunternehmen und nenne es „Agentur für Digitalen Kinderschutz“. Damit poste ich dann überall und verlange in den Nachrichten von allen Firmen entsprechende Änderungen
Mit dieser Begründung kann eine totale Überwachung auch „verkauft“ werden.
Und ja, jedes Kind das missbraucht wird ist eines zu viel.
Ja genau, und canon, nikon, sony, … ist genauso Mittäter da man ohne kamera ja keine solchen fotos machen könnte
Nicht zu vergessen Sandisk, Kingston & Co. Das sind die Schlimmsten, denn die stellen Speicherkarten her.
Ja, finde auch man sollte das Problem an der Wurzel packen und die Software für Kameras sollte nackte Kinder direkt blurren. Wenn schon denn schon
Bei all den vielen kindischen Kommentaren unter anderen Posts tut es gut, zu lesen dass hier scheinbar die meisten Menschen doch verstanden haben, dass es bei solchen Initiativen um Überwachung und nicht um Kinderschutz geht. Der dt. Kinderschutzbund hat sich ebenfalls gegen derartige Überwachungssysteme ausgesprochen.
Eben! Statt „Kinder, nackt“ könnte man selbstverständlich auch Kriterien wie „Demonstration, Pllizei, Unruhen“ als Filter laufen lassen… was dann nicht ganz so demokratische Regime wie Iran, China, Russland und Co. fordern würden.
Noch viel mehr! Gesichtserkennung, mehr braucht man doch nicht sagen, oder?
+1
Ich will gar nicht wissen, wer sich so alles hinter den sogenannten Kinderschützern versteckt! Womöglich auch noch staatliche Institutionen, welche ein Problem haben, keinen vollen Zugriff zu bekommen.
Der Kandidat hat 100 Punkte!
Und dann? Wenn man die Materialien zusammen hat, was passiert dann?
Bekommen die Täter dann hohe Positionen durch Gleichgesinnte?
Weil bestraft werden sie sowieso nicht richtig, ganz im Gegenteil, meist sind Kinderschänder dann im Nachhinein die Opfer und bekommen noch Schutzprogramme
Hast Du ein Beispiel dafür oder ur so ein „Gefühl“. In unserer Kleinstadt ist ein Kinderpornoring aufgeflogen, alle Täter sitzen im Knast. Wurde nur medial nicht so ausgeschlachtet.
Ich hoffe es folgen viele weitere
Und das hat funktioniert ganz ohne dass allerwelt ihre iCloud ausgelesen wurde?
Ich hoffe Apple bleibt hart! Ich bin absolut dagegen. Wenn sowas erstmal losgetreten wird kann solch ein Algorithmus auch mit anderen Kriterien gefüttert werden – etwa „Demonstration, Ausschreitungen, Polizei, Militär“ usw. um etwa Demonstranten in nicht ganz so demokratischen Staaten rauszufiltern und festzunageln.
Es ist nichtmal klar wer hinter der Initiative steckt und welche eigentliche Motivation die Person oder Gruppe verfolgt. Siehe USA, wo oft das Strohmann Prinzip verwendet wird, gerade von Seiten der Republikaner
Na wer weiß wer sich hinter dieser Organisation verbirgt und um was es wirklich geht.
Ich würde nichtmal meinen Steuerbescheid in der iCloud speichern. Es ist immernoch ein fremder Server auf den ich keinen Vollzugriff habe.
Ach, einfach alle unter generalverdacht stellen, und/oder 24/7 überwachen, dann sind doch alle Probleme gelöst, ganz easy.
pädophile haben bestimmt auch zuhause jede Menge belastendes Material rumliegen. Also sollte die Polizei regelmäßig alle Wohnungen durchsuchen, findet man bestimmt auch Päderasten
Genau. Einfach präventiv jeden Tag random 10 Wohnungen pro Stadt durchsuchen. Geht ja schließlich um die Kids.
was übrigens wirklich gegen missbrauch von kindern helfen würde, wären professionell und personell gut ausgestattete jugendämter. prävention ist das zauberwort.
So ist es. Missbrauch findet zum absolut überwiegenden Teil unter dem „Schutz“ des Familienlebens statt.
Man kann nicht die Privatsphäre von zig-Millionen unbescholtener Bürger verletzen, um eine Handvoll Perverser leichter zu fangen. Dafür gibt es im Rechtsstaat andere Mittel und Rechtsprechung des BverfG und des EuGH, welche hierfür sachgerechte Grenzen ziehen.
Da kann man ja nur alle Bilder aus der Cloud entfernen !
Und ich sehe Apple, Google und alle anderen noch mehr in der Verantwortung. Wenn man das Buch „Wir verlieren unsere Kinder“ von Silke Müller gelesen hat, dann sieht man das denke ich genauso. Es wird Zeit, dass im Zeitalter der KI die Unternehmen mehr tun, als sie nur versprechen, nicht nur was Kinderpornographie angeht. Für Smartphones sollte es bei der Einrichtung von Kinder/Jugendprofilen für die Eltern viel mehr Möglichkeiten geben, hier Filter zu definieren und alles zu blocken, was mit Pornographie oder Gewalt zu tun hat. Und du musst doch eine KI dann nicht mehr mit einem Server synchronisieren, sondern kannst es zunächst auf dem Device laufen lassen (die Prozessoren sollten inzwischen dafür mehr als ausreichen). Erst wenn z. B. eine wirkliche Straftat vorliegt, dann kann der Kontakt mit dem Server aufgenommen werden.
Es wird Zeit, dass wir einen Kodex beim Umgang mit den Smartphones und der vorhandenen Technik auferlegen und realisieren.
Am Thema und Ziel vorbei. Und wer verhindert, dass am Ende die KI nicht auf alles angesetzt wird, was als „unerwünscht“ gekennzeichnet wird? ZB politische Statements, Gesundheitsdaten, etc pp …
Wer Freiheit für Sicherheit aufgibt, hat beides nicht verdient. (Leicht paraphrasiert wiedergegeben)
Wie naiv muss man sein wenn man denkt das ein Täter dann sowas nicht mehr macht. Er nimmt halt andere Geräte. Leute
So, jetzt könnt ihr einen Shitstorm über mich gießen aber ich habe nichts dagegen wenn die Fotos geprüft werden..
Jeder der hier auf seine Freiheit pocht sollte auch einmal bedenken das die Fotos die Pädophile verbreiten teils Jahre alt sind und jedes Opfer noch im Erwachsenenalter immer wieder mit diesem Missbrauch erpressbar ist oder an diese dunkle Zeit erinnert wird.
Haben die Opfer nicht auch ein Recht auf Schutz? Oder müssen sie sich ein Leben lang mit dem Schmutz den andere verbrochen haben auseinandersetzen?
Wer seine eigene Freiheit über alles setzt schränkt eben auch schnell die Freiheit des anderen ein.
Und Kindesmissbrauch gehört für mich einfach zu dem Widerwärtigsten das es gibt.
So, jetzt könnt ihr loslegen und meine Meinung verreißen
Und du glaubst ernsthaft das diese Täter das von irgendwas abhält? Ne die benutzt dann andere Geräte.
Keiner verreißt deine Meinung . Keiner ist gegen Kinderschutz . Jeder verurteilt das und jeder Täter gehört verfolgt.
Aber: dafür alle unter generalverdacht zu stellen und alles zu überwachen kann ja nicht die Lösung sein. Wo soll das enden ?
Dazu wird der Datenschutz eklatant verletzt. Ich möchte nicht, dass Apple meine Fotos und damit meine Familie scannt und ich hoffe, dass dagegen alle rechtlichen Mittel ausgeschöpft werden. Das problem ist, dass der, der dagegen ist sofort in die pedophile Ecke gestellt wird und sich deshalb keiner traut gegen diese Praxis vorzugehen.
Aber auf der anderen Seite schützt Apple die iPhones und argumentiert mit Datenschutz, wenn Kapitalverbrechen, organisierte Kriminalität, Spionage usw. Durch die Entschlüsselung eines iPhones aufgeklärt werden könnten.
Wer Freiheit für Sicherheit aufgibt, wird am Ende beides verlieren.
Das entscheidende an der Sache dürfte doch sein, dass der Nutzen nur zeitlich begrenzt ist. Sobald die Runde gemacht hat, dass Apple auch online scannt, wird man keine großen Fische mehr fangen, sondern nur die dämlichen, die es noch nicht gecheckt haben.
So moralisch wertvoll das Ziel hier ist, so gefährlich ist so eine Implementierung. Da kann dann eine private Firma ohne Anlass und ohne richterlichen Beschluss im Privatleben seiner Kunden schnüffeln. Ist die Tür erstmal offen, bekommt man sie nicht mehr zu.