Offener Brief mit einem Satz
Eindringliche KI-Warnung: Massive Risiken für die Menschheit
Das Center for AI Safety, eine Non-Profit-Organisation, die sich das Ziel gesetzt hat, die von „künstlicher Intelligenz ausgehenden Risiken für die Gesellschaft zu verringern“ hat einen offenen Brief veröffentlicht, der von zahlreichen wichtigen Persönlichkeiten aus dem KI-Community gezeichnet wurde.
Offener Brief mit einem Satz
Unter den Signierenden befindet sich Sam Altman, CEO des für ChatGPT verantwortlichen KI-Unternehmens OpenAI, aber auch Googles Demis Hassabis, seines Zeichens Leiter des KI-Labors Google DeepMind. Zudem haben sich zahlreiche Branchengrößen (etwa Microsoft, Inflection AI, Stability AI, Skype und Notion), Akademiker, Professoren und Forscher der Forderung des offenen Briefes angeschlossen, die sich auf nur einen eindringlichen Satz beschränkt.
Im Wortlaut heißt es in dem Schreiben des Zentrums für KI-Sicherheit: „Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.“
Auf deutsch übersetzt also etwa: „Die Minderung des Risikos durch KI auszusterben sollte neben anderen Risiken von gesellschaftlichem Ausmaß, wie etwa Pandemien und Atomkriegen, eine globale Priorität sein.“
Sorge vor zukünftigen Entwicklungen
Die Sorge: Auch wenn sich aktuelle KI-Experimente auf verblüffend menschenähnlich agierende Textgeneratoren wie ChatGPT, Bildgeneratoren wie Stable Diffusion oder komplett harmlose Sprachverständnis-Modelle wie Whisper beschränken, könnten zukünftige KI-Entwicklungen mit massiven Risiken für die Menschheit einhergehen.
Bereits im März hatten über 1000 Forschende und IT-Schwergewichte, darunter Tesla-Chef Elon Musk und Apple-Mitbegründer Steve Wozniak, einen offenen Brief gezeichnet, der Regierungen dazu aufforderte sich mit den Risiken von KI-Systemen mit menschenähnlicher Intelligenz zu beschäftigen.
Spannende und gute KI-Applikationen
- Boring Report: App ent-sensationalisiert Schlagzeilen
- SwiftKey 3: Microsofts Zusatztastatur formuliert jetzt für euch (um)
- Offizielle ChatGPT-App jetzt auch in Deutschland erhältlich
- Perplexity: Eine Wissenssuche mit nachprüfbaren Quellen
Zu spät.
bumm
Sehe ich auch so. Mein Sohn beschäftigt sich damit und hat mir schon ein paar Sachen gezeigt, die er mit seinem Kumpel, in dem Bereich, umgesetzt hat. Funfact: mit der KI und YT haben beide sich das programmieren beigebracht und das KI-Modell, mit denen die beiden tüfteln, ist wohl Open Source.
mir ist das zu hoch aber im Gegensatz zu ChatGPT brauchen meine Frau und ich, wir sind Versuchskaninchen, nicht damit tippen. Die beiden haben einfach eine alte Alexa mit einer JBL Box gekreuzt und im Keller steht jetzt ein MacMini, wo wo alles irgendwie drauf verarbeitet wird. Ich übertreibe nicht, wenn ich schreibe, dass sich das Teil super menschlich anhört und bei uns sogar den AB spielt. Also so richtig ans Festnetz geht, sich meldet, sich unterhält und uns dann, auf Befehl, eine Zusammenfassung über die besagte Box in der Küche ausgibt. Wenn zwei 20-jährige das hinbekommen, ist echt alles möglich.
Das stell ich mir irgendwie echt cool vor!
Deshalb gibt es ja die Warnung.
Never change a running system!
Schaut euch den Film „Anymatrix“ an, so werden wir alle enden ;)
Oder Terminator!
Anymatrix ist eine Reihe von Kurzfilmen zur Matrix Reihe.
Welchen Kurzfilm davon meinst Du?
Und es wird Animatrix geschrieben ;)
WALL-E
Oder einfach direkt Matrix.
Frei nach Terminator:
Die Maschinen fingen an, mit geometrische Geschwindigkeit zu lernen.
Meine Hypotenuse schmerzt
+1
SKYNET ist real :D
Ich habe Skynet immer für eine Fiktion gehalten…jetzt wird diese aber Realität. Willkommen in der Zukunft.
Skynet wird kommen
Direkt nach deiner mudda
Skynet läuft bei mir Zuhause.
Westworld.
Der Geist ist längst aus der Flasche ..
Unterschätzt das Potential nicht. So gut sie dabei sind den Nutzer zu helfe, so effizient sind sie auch dabei anderen Nutzern zu schaden. Jeder zehnjährige kann dabei Viren maßgeschneidert coden
Glaube ich nicht. KI verhilft dir immer nur zu maximal 80-90% des Resultats. Und was ist wenn du wenig bis keine Ahnung hast? Dann bleibst du vor den 10-20% sitzen und weißt auch nicht weiter. Weil der Aufwand die restlichen 10-20% zu bauen derselbe Lernaufwand ist wie 100% zu bauen.
Ich drück die Daumen das es so ist wie du es beschreibst – und auch so bleibt.
Die Dummen sterben nicht aus Geld machen ist alles
Das wären dann die Gierigen.
Dumm ist nicht gleich gierig, auch wenn man sich manchmal dieses Gefühls nicht erwehren kann.
Dumm UND gierig ist ne richtig blöde Kombi. Und leider auch nicht selten.
Und aussterben werden diese beiden menschlichen Züge leider auch nicht.
O Tempora, o mores (oder so ähnlich).
Gier ist gut.
Gier und Neid vernichten die Welt.
„So hast auch du jetzt als Vater der Buchstaben aus Liebe das Gegenteil dessen gesagt, was sie bewirken. Denn diese Erfindung wird der Lernenden Seelen vielmehr Vergessenheit einflößen aus Vernachlässigung des Gedächtnisses, weil sie im Vertrauen auf die Schrift sich nur von außen vermittelst fremder Zeichen, nicht aber innerlich sich selbst und unmittelbar erinnern werden.“
– Platon
Philosophie ist was tolles. Nur finde ich, hat Platon hier Unrecht. Es kommt wie immer auf die Sichtweise an. Allerdings kenne ich den kompletten Kontext des Zitats nicht.
Mein Senf: gerade die klassische Philosophie lehrt vereinfacht gesagt: hinterfrage das warum, das woher, und den Sinn des Gesagten. Und somit widerspricht Platon sich ja irgendwie selbst. Denn mit Buchstaben kann man Prima lernen und lehren :)
Erst die Büchse der Pandora öffnen und dann mit Schrecken feststellen, was für ein Risiko davon ausgehen kann.
„Terminator“ und Skynet sind keine reine fiction mehr.
Ich bin dafür gegen KI einzusetzen. Frei nach dem Motto, Brandschneise schlagen, Gegenfeuer legen!:D
Meintest du vielleicht „Gegen-KI“?
Die Boomer von Morgen…
Du wirst der erste sein, der rum heult wenn der Job weg ist, da die KI Ihn besser kann.
ICANN sollte mal alle Internet Nutzer in die Ferien schicken, während dessen die KI wieder kontrolliert abgeschaltet wird.
Ki kann hilfreich sein, aber wenn es bei der großen Masse ankommt wird es problematisch.
Das sieht man doch seit Jahren am Internet.
Es sind viele Menschen einfach nicht Medienkompetent: Hatespeech, Fakenews, verzerrte Wahrnehmung etc. werden noch problematischer werden.
„Das Internet macht die Dummen noch dümmer und die Schlauen noch schlauer“
Moin Meista
Und was ist mit Politikern?
Verzerrte Wahrnehmungen….
Wir sind weit weg von selbstständig denkenden Systemen. Immer mit der Ruhe
Das zeigt, wie wenig sich einige damit auskennen. Die Sorge ist nicht, dass ein fehlgeleitetes Skynet die Menschheit ausrottet, sondern dass die KI/ML verwendet wird um immer perfidere Möglichkeiten der Unterdrückung von anders Denkenden zu finden. Man kann Datenströme so gezielt analysieren und Menschen gezielt manipulieren, dass es a.) keine freie Entscheidungen mehr gibt oder b.) Entscheidungen durch Zwang herbeigeführt werden.
Leider ist unsere Gesellschaft noch nicht so weit, dass man die Vorteile de KI nutzt um das Leben der Menschen, insbesondere in den unterentwickelten Ländern, substanziell zu verbessern. Wir müssen zu dem Punkt kommen, wo man Philanthropen mehr respektiert und bewundert als den Kontoauszug der von Turbo-Kapitalisten. Aber solange RTL2 das Gehirn seiner Zuschauer aufweicht und die anschließend geschaltete Werbung einem eintrichtert, dass man nur Erfüllung mit dem neusten iPhone findet, seh ich da eher schwarz.
Noch haben wir es in der Hand – die Frage ist nur, wie lange noch.
Schön gesagt Karl!
Das ist auch immer mein Reden. Alles hat zwei Seiten. Die KI perse ist nicht böse oder schlecht, er der User, sprich Mensch, macht es zu „Skynet“.
Ist doch nix neues und wird auch ohne Ki schon immer gemacht. Ist halt effizienter aber sicher nichts Neues.
Zwischen Inhalte scannen und ausgeben zu selbstständigem denken und handeln ist es noch ein weiter weiter weg
Vor allen bei dem derzeitigen IQ der Bundesregierung besonders gefährlich ;-)
Never run a changing system!
Leute mein Gott! Das klingt nur cool, das Wort KI. Aber es ist nichts autonomes. Die Antworten sind im Pool hinterlegt. Mehr ist da nicht. Ein Hype um nichts.
http://de.wikipedia.org/wiki/T.....%28Film%29
Question to ChatGPT : Why could AI be dangerous?
1. Lack of Ethical Considerations: AI systems are programmed to optimize certain objectives or goals. If ethical considerations are not thoroughly integrated into their design and development, AI systems may unintentionally produce biased outcomes, infringe on privacy rights, or lead to unintended consequences.
2. Unintended Consequences: AI systems learn from data and make decisions based on patterns and correlations. However, they may not fully understand the context or underlying causes of those patterns. This can lead to unintended consequences or decisions that humans may consider inappropriate or harmful.
3. Autonomous Weapons: The development of AI-powered autonomous weapons systems has raised concerns. There are worries that these weapons could be used in warfare or conflict situations without sufficient human control, potentially leading to unpredictable and dangerous outcomes.
4. Job Displacement: AI and automation have the potential to replace certain jobs and tasks traditionally performed by humans. While this can lead to increased efficiency and productivity, it can also result in job loss and economic disruption, particularly if appropriate measures are not taken to support affected individuals and communities.
5. Security and Privacy Risks: AI systems may be vulnerable to malicious attacks or exploitation, leading to privacy breaches or misuse of personal data. Additionally, if AI systems are used in critical infrastructure or decision-making processes, they could be targeted by hackers or face other cybersecurity risks.
KI muss kein Bewusstsein haben, KI muss nicht wirklich denken. Es reicht völlig aus, wenn beides glaubwürdig simuliert wird…
Komische Sache. Warum wird der ranz von den Leuten unterzeichnet, die ai in die Welt bringen?
Habe mich auch gefragt ob das nur die Werbetrommel rühren soll. Soweit mir bekannt hat Microsoft und der gute Elon ja einiges in OpenAi investiert (habe es nicht recherchiert aber meine es gelesen zu haben). Warum dann also dagegen unterzeichnen.
Elon ist aus Open AI schon längst raus gewesen. Aufgrund von Teslas bedenken. Der hatte ewig damit nix zu tun.
Nur weil diese Leute es in die Welt bringen, heißt es nicht dass diese Leute es zum Bösen ausnutzen. Die Leute die das Internet erfunden haben, haben es auch nicht mit den Gedanken gemacht dass es dann sowas wie ein Darknet gibt wo man alles und jeden kaufen kann oder das es mal sowas wie YouTube, Twitch, Instagram, TikTok etc. etc. geben wird wo die Menschheit dann Ihre Zeit verplempert. Es wurde für den schnellen Austausch von Informationen entwickelt und nicht um die Welt in einen Abgrund zustürzen.
Guter Punkt
Bis KI wirklich gefährlich wird werden die meisten Menschen bereits durch den Klimawandel und den daraus entstehenden Konsequenzen dahingerafft worden sein. Naturkatastrophen, aussterben von Tieren und Pflanzen, Smog, Hunger, Krieg, usw.