Apple bekommt Porno-Übersetzungen nicht in den Griff

Bereits Mitte der vergangenen Woche meldeten Anwender eine Merkwürdigkeit in der unter iOS 15 auf allen iPhone-Modellen vorinstallierten Übersetzungsfunktion Apples.

Trainingstexte aus Porno-Portalen?

Konfiguriert man diese für die Übersetzung vom Deutschen ins Englische, füttert das deutsche Eingabefeld anschließend aber mit ausgewählten englischen Sätzen, spuckt Apples Systemübersetzer Ergebnisse aus, die den Eindruck machen, als kämen sie direkt aus den Video-Beschreibungen einschlägiger Porno-Portale.

Das Computermagazin c’t demonstrierte die Macke damals in einem längeren YouTube-Video und spekulierte, dass die unerwarteten Nonsens-Sätze Apples KI schlicht überfordern würden bzw. Apple auch über Material von Porno-Webseiten in den eigenen Trainingsdaten verfügen könnte. Wie gesagt, alles Spekulationen.

KI-Nebenwirkungen nicht ungewöhnlich

Dass im maschinenlernenden Kontext eingesetzte Sprachmodelle jedoch mit unvorhergesehenen Nebenwirkungen überraschen können haben erste Untersuchung bereits im vergangenen Jahr gezeigt. Damals berichtete die Stanford Universität in einer Studie über anti-muslimische Vorurteile beim Sprachmodell GPT-3.

Zurück zu Apple: Die Berücksichtigung durch das bekannte deutsche Computermagazin hat inzwischen zwar dafür gesorgt, dass Apple offenbar aktiv wurde und die gezeigte Beispiele manuell entfernt hat, der Fehler selbst ist jedoch nach wie vor vorhanden. Auch eine knappe Woche nach den ersten Sichtungen lässt sich der Apple-Übersetzer noch immer dazu bringen eindeutige Porno-Phrasen auszuspucken.

Unklar ist, ob Apple überhaupt in der Lage ist, alle Falsch-Übersetzungen aus der Ferne zu deaktivieren oder auf die nächste Aktualisierung der Betriebssysteme von Mac, iPhone und iPad warten muss. Bis dahin könnt ihr euch gerne am Aufspüren eigener Fundstücke versuchen.

Mit Dank an Stefan!