iMessage bekommt neue Meldefunktion für unangemessene Inhalte

Apple bereitet die Einführung einer neuen iMessage-Funktion ein, mit der Kinder Nacktbilder oder -videos, die ihnen zugeschickt wurden, direkt an das Unternehmen melden können. Diese Meldungen könnten dann an die Polizei weitergeleitet werden. Die Funktion wird mit der neuesten Beta-Version von Apples iOS-Betriebssystem in Australien getestet und könnte bei positiver Resonanz anschließend weltweit eingeführt werden.

Erweiterung der bisherigen Schutzmaßnahmen

Seit iOS 17 sind für Nutzer unter 13 Jahren Schutzfunktionen aktiviert, die Nacktinhalte erkennen, bevor sie gesendet oder empfangen werden. Diese Analyse erfolgt auf den Endgeräten selbst. Werden Nacktbilder erkannt, erhält das Kind zwei Warnhinweise und wird aufgefordert, sich entweder an eine Vertrauensperson zu wenden oder die Inhalte zu melden.

• iOS 15.2: Nacktfoto-Erkennung wird abgemildert bereitgestellt
• iOS 17: Warnungen vor Nacktbildern und -Videos aktivieren

Mit der neuen Funktion erhalten Kinder zusätzlich die Möglichkeit, solche Bilder direkt an Apple zu senden. Der Bericht enthält dann das betreffende Bild oder Video, die dazugehörigen Nachrichten und Kontaktdaten. Apple kann daraufhin den Absender blockieren oder den Fall an die Polizei weiterleiten.

Seit iOS 17: Warnung vor sensiblen Inhalten

Gesetzliche Hintergründe und Kritik

Der Test der Funktion in Australien, über den die Tageszeitung The Guardian informiert, fällt mit der Einführung neuer Gesetze in Australien zusammen. Ab Ende 2024 müssen Technologieunternehmen Maßnahmen gegen die Verbreitung von Missbrauchs- und Terrorinhalten ergreifen. Apple äußerte Bedenken, dass das Gesetz die Ende-zu-Ende-Verschlüsselung gefährden könnte. Letztlich wurde das Gesetz jedoch abgeschwächt, sodass Unternehmen alternative Maßnahmen vorschlagen können, wenn die Verschlüsselung gefährdet ist.

Apple sieht sich zudem seit Jahren Kritik ausgesetzt, weil es sich weigert, bei bestimmten Anfragen zur Strafverfolgung auf die Ende-zu-Ende-Verschlüsselung zu verzichten. Auch die geringe Anzahl an gemeldeten Fällen von Missbrauchsinhalten wurde kritisiert. 2023 meldete Apple weltweit nur 267 Verdachtsfälle, während Google über 1,47 Millionen und Meta mehr als 30 Millionen Fälle meldeten.