Apple Intelligence fasst falsch zusammen
Reporter ohne Grenzen: Apple muss KI-Mitteilungen deaktivieren
Apples neue KI-Funktionen, die der Konzern unter dem Dachbegriff „Apple Intelligence“ bewirbt, bieten derzeit nur wenige wirklich brauchbare Features an und sind zudem noch auf englischsprachige Geräte beschränkt, dennoch steht Apple Intelligence bereits im Zentrum einer Kontroverse.
Die Technologie, die unter anderem Push-Mitteilungen und damit auch Nachrichtenmeldungen zusammenfassen soll, hat mehrfach falsche Informationen generiert und damit die Glaubwürdigkeit betroffener Medien gefährdet. Sowohl die BBC als auch die New York Times haben sich über diese Vorfälle beschwert – ifun.de berichtete:
BBC meldet Falschdarstellung
Besonders scharf kritisierte die britische Rundfunkanstalt BBC, dass ihre Berichterstattung durch fehlerhafte Zusammenfassungen verzerrt wurde. Betroffen war unter anderem eine Meldung über den Mordverdächtigen Luigi Mangione. Dieser habe Suizid begangen, halluzinierte Apple Intelligence.
Auch die New York Times wurde durch einen ähnlichen Vorfall betroffen. Hier verbreitete die KI die unzutreffende Information, Israels Premierminister Benjamin Netanjahu sei verhaftet worden. Tatsächlich bezog sich die ursprüngliche Nachricht auf einen Haftbefehl des Internationalen Strafgerichtshofs.
Apple hat sich bisher nicht öffentlich zu den Vorwürfen geäußert. Experten weisen jedoch darauf hin, dass die von Apple verwendeten KI-Modelle auf probabilistischen Methoden basieren, was inhärent zu Fehlern führen könne.
Kritik von „Reporter ohne Grenzen“
Neben den betroffenen Medien äußerte sich inzwischen auch die Nichtregierungsorganisation „Reporter ohne Grenzen“ (RSF) kritisch. Sie bezeichnete die generative KI als „nicht reif für den Markt“ und forderte Apple auf, das Feature vorerst vollständig zurückzuziehen.
Laut RSF gefährden automatisiert erzeugte Falschmeldungen nicht nur die Glaubwürdigkeit der betroffenen Medien, sondern auch das Recht der Öffentlichkeit auf verlässliche Informationen.
RSF hebt zudem hervor, dass die europäische Gesetzgebung, obwohl sie mit dem „AI Act“ als fortschrittlich gilt, generative KI-Systeme nicht als Hochrisikotechnologie einstuft. Diese Lücke müsse geschlossen werden, um die Verbreitung falscher Informationen zu verhindern.
[…] Dieser Unfall zeigt, dass KI-Systeme nicht in der Lage sind, systematisch hochwertige Informationen zu veröffentlichen, selbst wenn sie auf journalistischen Quellen beruhen. Die probabilistische Arbeitsweise von KI-Systemen disqualifiziert sie automatisch als zuverlässige Technologie für Nachrichtenmedien, die in Lösungen für die breite Öffentlichkeit eingesetzt werden kann.
KI sind Wahrscheinlichkeitsmaschinen, und Fakten können nicht durch einen Würfelwurf entschieden werden. Die RSF fordert Apple auf, verantwortungsvoll zu handeln und diese Funktion zu entfernen. Die automatische Produktion von Falschinformationen, die einem Medienunternehmen zugeschrieben werden, ist ein Schlag für die Glaubwürdigkeit des Unternehmens und eine Gefahr für das Recht der Öffentlichkeit auf verlässliche Informationen zu aktuellen Themen. […]
peinlich peinlich
Die Forderung?
nein apple und deren „ki“
Was ist daran peinlich? Erklärung?
Was daran peinlich ist, ist doch wirklich offensichtlich.
Die logische Konsequenz, wenn an der Konzernspitze nur noch die kurzfristige Gewinnmaximierung zählt.
Wie bereits bei der 737 Max geht das nicht dauerhaft
Kann doch jeder selbst entscheiden ob man es aktivieren möchte. Das da durchaus Blödsinn rauskommen kann weiß man doch bei der Aktivierung. Da steht Beta drauf. Da wird auch wohl Beta drinn sein.
Bisschen kurz gedacht, denn soweit denken bei weiteren nicht alle. Kommt doch von der BBC oder NY Times, dann wird es stimmen. Das werden viele denken. Zudem geht es hier nur um diese bekannten Fälle, es gibt noch unzählige andere Szenarien, wo das einen starken impact haben könnte. Wahlkampf bspw. Sowas als Beta laufen zu lassen hat hier ein zu großes Potenzial von ernsten Nebenwirkungen.
Und wie schalte ich die echten Fakenews ab die absichtlich geteilt werden?
Medienkompetenz muss ein Schulfach werden
Ehrlich, wer sein Hirn nicht benutzt, der darf gerne ein betreutes Leben führen bzw. sich führen lassen – diejenigen, die das nicht wollen, sollten aber ihre Freiheit behalten dürfen und nicht wie Kleinkinder behandelt werden.
Ausserdem sollte die BBC sowie die NYT ganz schnell ihre Klappe halten da sie selbst Meister im Verbreiten von Desinformation sind: wo ist denn die Richtigstellung zu den von CNN gefakten Syrien-Report? Ach, nirgends?
Ist zwar nicht mehr Beta, aber es stimmt, jeder einigermassen vernünftige Mensch sollt nach dem erste Kontakt mit einer KI doch merken was für ein unglaubliche aufgeblasenes fehlerhaftes unnützes Ding das ist. Nur die Medien hypen das, nur die Medien.
Das wissen leider nicht alle und es genügt ja schon, dass absichtlich Falschmeldungen verbreitet werden. Da braucht‘s nicht noch ne dumme KI zusätzlich.
Wer glaubt dass Apple das nun besser hinbekommt als Andere, dem ist nicht mehr zu helfen.
Ist halt die Frage, ob Apple schon so stark im Hintertreffen ist, dass man Apple den Anschluss nicht mehr zutraut
Ich finde Apple hätte gar nicht erst auf den KI-Hype aufspringen sollen. Oder zumindest subtil in den Bereichen in denen es sinnvoll ist. Falsche Zusammenfassungen und KI-Bilder/Emojis sind finde ich nicht das was die Welt gebraucht hat. Lieber eigene Möglichkeiten entdecken wie KI sinnvoll genutzt werden kann.
Die entwickeln doch seit Jahren eigene KI Möglichkeiten. Die Zusammenfassung ist doch sinnvoll und meistens auch sinnhaftig. Wie aber bei jeder KI gibt es nunmal Probleme. Beta ist Beta und die Aktivierung geschieht freiwillig.
Und wegen der bösen EU bekommen wir all diese tollen Sachen noch nicht. Wie schade…
Schade, dass es nicht stimmte.
Yeah, geil, KI!! Können wir bitte mehr davon haben? Was ist denn jetzt eigentlich mit der KI, die uns seit mindestens 2 Jahren alle ersetzen soll? Also ich habe meinen 0-8-15 Bürojob immer noch und warte. Bisher sind die KIs aber so lächerlich DUMM, dass selbst irgendwelche Techhype-CEOs nicht auf die Idee kommen, Mitarbeiter ernsthaft zu ersetzen, wenn sie auch nur einen Hauch Verantwortung tragen.
Als erstes profitieren die Dummen. Die kommen auf ein ertragbares Lebel. Wenn du gut bist wirst du nicht so schnell ersetzt. Siehe Apple Werbespots.
Deine Antwort zeugt weder von Vision noch von Weitblick. Das ist alles nur eine Frage der Zeit. Eher Monate als Jahre.
Warte ab. Alles nur eine Frage der Zeit.
Alle Ki Angebote lügen und teilweise an. Verbieten muss man kI
Lügen… ah ja. Also du sagst, dass KI die Nutzer absichtlich täuscht – den das ist lügen.