Reporter ohne Grenzen: Apple muss KI-Mitteilungen deaktivieren

Apples neue KI-Funktionen, die der Konzern unter dem Dachbegriff „Apple Intelligence“ bewirbt, bieten derzeit nur wenige wirklich brauchbare Features an und sind zudem noch auf englischsprachige Geräte beschränkt, dennoch steht Apple Intelligence bereits im Zentrum einer Kontroverse.

Die Technologie, die unter anderem Push-Mitteilungen und damit auch Nachrichtenmeldungen zusammenfassen soll, hat mehrfach falsche Informationen generiert und damit die Glaubwürdigkeit betroffener Medien gefährdet. Sowohl die BBC als auch die New York Times haben sich über diese Vorfälle beschwert – ifun.de berichtete:

• Apple Intelligence spielt falsche Schlagzeilen aus

BBC meldet Falschdarstellung

Besonders scharf kritisierte die britische Rundfunkanstalt BBC, dass ihre Berichterstattung durch fehlerhafte Zusammenfassungen verzerrt wurde. Betroffen war unter anderem eine Meldung über den Mordverdächtigen Luigi Mangione. Dieser habe Suizid begangen, halluzinierte Apple Intelligence.

Auch die New York Times wurde durch einen ähnlichen Vorfall betroffen. Hier verbreitete die KI die unzutreffende Information, Israels Premierminister Benjamin Netanjahu sei verhaftet worden. Tatsächlich bezog sich die ursprüngliche Nachricht auf einen Haftbefehl des Internationalen Strafgerichtshofs.

Apple hat sich bisher nicht öffentlich zu den Vorwürfen geäußert. Experten weisen jedoch darauf hin, dass die von Apple verwendeten KI-Modelle auf probabilistischen Methoden basieren, was inhärent zu Fehlern führen könne.

Kritik von „Reporter ohne Grenzen“

Neben den betroffenen Medien äußerte sich inzwischen auch die Nichtregierungsorganisation „Reporter ohne Grenzen“ (RSF) kritisch. Sie bezeichnete die generative KI als „nicht reif für den Markt“ und forderte Apple auf, das Feature vorerst vollständig zurückzuziehen.

Laut RSF gefährden automatisiert erzeugte Falschmeldungen nicht nur die Glaubwürdigkeit der betroffenen Medien, sondern auch das Recht der Öffentlichkeit auf verlässliche Informationen.

RSF hebt zudem hervor, dass die europäische Gesetzgebung, obwohl sie mit dem „AI Act“ als fortschrittlich gilt, generative KI-Systeme nicht als Hochrisikotechnologie einstuft. Diese Lücke müsse geschlossen werden, um die Verbreitung falscher Informationen zu verhindern.

[…] Dieser Unfall zeigt, dass KI-Systeme nicht in der Lage sind, systematisch hochwertige Informationen zu veröffentlichen, selbst wenn sie auf journalistischen Quellen beruhen. Die probabilistische Arbeitsweise von KI-Systemen disqualifiziert sie automatisch als zuverlässige Technologie für Nachrichtenmedien, die in Lösungen für die breite Öffentlichkeit eingesetzt werden kann.

KI sind Wahrscheinlichkeitsmaschinen, und Fakten können nicht durch einen Würfelwurf entschieden werden. Die RSF fordert Apple auf, verantwortungsvoll zu handeln und diese Funktion zu entfernen. Die automatische Produktion von Falschinformationen, die einem Medienunternehmen zugeschrieben werden, ist ein Schlag für die Glaubwürdigkeit des Unternehmens und eine Gefahr für das Recht der Öffentlichkeit auf verlässliche Informationen zu aktuellen Themen. […]