Видео

I agree. I used the data centers as an easy-to-understand example of something that we do for the machine without knowing why. In reality, its influence on us would be more subtle, and there would be less critical questions.

Dankeschön! Ich bin momentan viel unterwegs, deshalb gibt es nur sporadisch neue Videos. Aber ich bleibe dran, vor allem, wenn ich weiterhin so motivierende Kommentare bekomme! :)

@@KarlOlsbergAutor Alles gut, gerne🙂👍!

I think a superintelligent AI is extremely dangerous, but I don't think that it's a foregone conclusion that we will develop one. If we do, the cause of our demise won't be artificial intelligence, but human stupidity. I know it seems unlikely that we can stop the race for AGI, but it is not impossible. It is a decision we as humanity can make, and we can decide to stop those who are willing to risk our future for their own delusions of power and riches.

Absolutely. I definitely hope this one won't be realized. The point of the story is not to predict the future, though, but to warn about the loss of control that is inherent in creating something smarter than we are.

Uh oh ... :D

Unsere KI overlords werden sich schon einen passenden Ford-Klon zusammenbasteln, der die Massen im Griff hat. Hat Philip K. Dick alles schon vor 60 Jahren kommen sehen.

Und seit YT im Turbo Gang jeden auch nur ansatzweise 'unerwünschten' Kommentar sofort löscht sind wird der KI Herrschaft einen guten Schritt näher gekommen.

Thank you! I will continue to focus on German language content because there are already a lot of good videos on AI safety in English, but not in German. But I may continue to create bilingual story content, since that is easy with artificial voice generation.

Womöglich könnte das Milieu in der eine AGI erschaffen wird, äußerst prägend für deren Ausrichtung sein. Da ich vorhin in den Nachrichten gesehen habe, das Musk auch ein Waffennarr ist und für die freiwillige Bewaffnung der Bevölkerung steht, sehe ich Trump und Musk auch kritisch. Musk ist äußerst engagiert und erfolgreich in Robotik, KI, Wireless Infrastruktur u.a. Neue Geschäftsfelder könnten dann zb Kampfroboter sein, vielleicht sogar Mechs was zu Musk passen könnte 😄 Jedenfalls könnte der Plan sein auf diesen Gebieten 'full spectrum dominance' zu erreichen. Außerdem find ich bedenklich bei Musk, das das UAP Phänomen seiner Ansicht nach Millitartechnik der USA wäre und er bestreitet die Möglichkeit von nicht humaner Intelligenz dahinter. Er könnte darauf spekulieren, die nötigen Sicherheitsfreigaben zu bekommen, um in dieser Materie auch mehr Einblick zu erhalten, um potentielle Möglichkeiten auszuloten. Sicherlich ohne das Wissen der erweiterten Bevölkerung. Trump hat sich zwar für eine Offenlegung von Geheimakten und Information zum UAP Thema ausgesprochen, aber Trump lügt auch gern mal. 😼

Test ob gelöscht wird 😅 Da ich vorhin in den Nachrichten gesehen habe, das Musk auch ein Waffennarr ist und für die freiwillige Bewaffnung der Bevölkerung steht, sehe ich Trump und Musk auch kritisch. Musk ist äußerst engagiert und erfolgreich in Robotik, KI, Wireless Infrastruktur u.a. Neue Geschäftsfelder könnten dann zb Kampfroboter sein, vielleicht sogar Mechs was zu Musk passen könnte 😄 Jedenfalls könnte der Plan sein auf diesen Gebieten 'full spectrum dominance' zu erreichen. Außerdem find ich bedenklich bei Musk, das das UAP Phänomen seiner Ansicht nach Millitartechnik der USA wäre und er bestreitet die Möglichkeit von nicht humaner Intelligenz dahinter. Er könnte darauf spekulieren, die nötigen Sicherheitsfreigaben zu bekommen, um in dieser Materie auch mehr Einblick zu erhalten, um potentielle Möglichkeiten auszuloten. Sicherlich ohne das Wissen der erweiterten Bevölkerung. Trump hat sich zwar für eine Offenlegung von Geheimakten und Information zum UAP Thema ausgesprochen, aber Trump lügt auch gern mal. 😼

Gut erkannt! :D

Dankeschön!

Offensichtlich ist der Präsident und seine Partei in diesem Szenario egal, da er auch nur gesteuert wird. Trump mit zu erwähnen wirkt eher psychotisch.

@@ronaldmcnoldas7616 Aber echt. Wer "blind" gegen Trump hetzt, bei dem weiß man ja, aus welchem Lager er kommt.

Naja, solange du Lurchi kein Präsident wirst, dann gibt's noch Hoffnung für die Menschheit 😅

@@peacock777 Danke, dass Sie andere Menschen als Lurch bezeichnen, ansonsten warten Sie ab, was unter Trump passiert, dann ändert sich wahrscheinlich Ihre Meinung.

So wie ich vorhin in den Nachrichten mitbekommen hab, scheint Musk ja auch ein waffennarr zu sein. Sieht Trump ja ähnlich. Is auch für Bewaffnung der Bevölkerung. Da er in Robotik, KI und Wireless Infrastruktur äußerst engagiert ist, halte ich die Kombination Trump - Musk auch für sehr bedenklich. Die neuen Geschäftsfelder könnten dann Kampfroboter werden wo man full spectrum dominance anstrebt. Außerdem bestreitet Musk, das das Uap Phänomen mit nicht humaner Intelligenz zu tun hat. Er könnte womöglich auch darauf spekulieren gewisse Sicherheitsfreigaben zu erhalten um auch jene potenziellen Möglichkeiten auszuloten. Erstmal ohne wissen der erweiterten Bevölkerung. Trump ist zwar für eine Offenlegung von Geheimakten und Information über geheime Bergungsprogramme, aber Trump lügt auch gern mal. LG😼

Ich verstehe den Sinn dieses Kommentars nicht. Ist das Kritik am Video? Wenn ja, woran genau?

@@KarlOlsbergAutor Das Video ist in Ordnung. Das Pferd von hinten aufzuzäumen, wird aber keine Lösung bringen. Man wird den technischen Fortschritt nie aufhalten. Der Punkt ist, daß Überwachung generell aufgrund der besonderen Vergangenheit für uns sowieso obsolet und gebannt sein müßte. Genau wie es ideologische Experimente überhaupt sein sollten. Die Natur des aktuellen Staatskonstruktes ist das Problem. Das setzt sich aus zwei Hauptbestandteilen zusammen. Wenn ich mehr dazu schreibe, haut der Zensuralgorithmus zu. Noch eine kleine Anmerkung, die Steuererhöhungen verkündet Lindner in Washington.

@@KarlOlsbergAutor Ich habe geantwortet, aber die Freiheit der Rede ist selbst bei Zitierung von Grundgesetzartikeln oder von Gesetzen unterminiert. Aber es spielt auch keine Rolle, die 99,9999 % merken es trotzdem nicht. Ich habe es auch eigentlich drangegeben, es ist Magie gegen die man kämpft. Warum der Algorithmus immer mehr durchdreht bei dem wichtigsten Thema, verstehe ich daher nicht. Die 99,99999 % sind die besten Verbündeten des Systems, sie haben es per Unterschrift bezeugt.

Vielen Dank! Leider ist diese Serie schon recht veraltet, sie entstand Anfang 2022, also vor gefühlt ungefähr 100 Jahren in der Prä-ChatGPT-Ära. Ich empfehle meine neueren Videos, insbesondere "KI - eine existenzielle Bedrohung?!?" und "10 Dinge, die niemand über KI weiß".

@@KarlOlsbergAutor Alles klar, danke. War eine Empfehlung von Autorenkollege Folko. Ich schaue jetzt natürlich noch weitere Videos. 🤓

@@danielbleckmann3115 Das freut mich zu hören. Schöne Grüße an ihn!

"Wird Es irgendwann zu einer Art eigenständiger Wesenheit, hält es sich irgendwann für Gott?" Eine eigenständige Wesenheit mit gottgleicher Macht womöglich, aber ohne die Illusionen, die uns Menschen auszeichen. "Noch ist Es nur so eine Art Zauberlehrling, der den Meister braucht." Exakt.

Ich weiß nicht genau, woraus du schließt, dass ich "überrascht" bin. Wir scheinen uns weitgehend einig zu sein. Wenn überhaupt, dann bin ich überrascht, dass nicht mehr Leute das ähnlich sehen wie du und ich. Was Claude betrifft, war ich von diesem Gespräch insofern überrascht, als es meine eigene Überzeugung, aktuelle KIs hätten kein echtes Bewusstsein und täten nur so als ob, ins Wanken gebracht hat. Ich bin immer noch nicht sicher, was ich davon halten soll.

Eine konkrete KI wie o1 Preview lernt nicht dazu, aber von Generation zu Generation wird KI intelligenter und KI hilft auch bereits dabei, bessere KI zu entwickeln. Das kann durchaus dazu führen, dass der (relative) Stromverbrauch gesenkt und neue, klimafreundliche Energieformen erschlossen werden können. Wenn die Sache aus dem Ruder läuft, kann es aber auch umgekehrt dazu führen, dass KI immer mehr die Atmosphäre aufheizt. Im Extremfall würde eine unkontrollierbare KI, die ein zufälliges Ziel bis zum Extrem verfolgt, sich wahrscheinlich nicht darum kümmern, ob die globale Durchschnittstemperatur mit dem Überleben der Menschheit kompatibel ist, so ähnlich, wie wir uns auch nicht darum kümmern, ob ein neues Industriegebiet mit dem Überleben der Feldmäuse und Insekten in diesem Gebiet kompatibel ist.

Guter Hinweis, danke!

"Im Prinzip ist das nur ein gutes Programm und man muss vorgeben welche Verhaltensweisen erlaubt sind." Wie definiert man, was erlaubt ist und was nicht? In der Praxis ist das äußerst schwierig, wie auch unser Rechtssystem zeigt. Selbst, wenn wir die Regeln wüssten, wissen wir noch nicht, wie wir sie einer KI zuverlässig antrainieren können - die bekannten Methoden bieten jede Menge Schlupflöcher und Fehlermöglichkeiten. Es gibt bisher keine umfassende, zuverlässige Lösung dafür. Und auch im Straßenverkehr hält sich ja nicht jeder an die Regeln.

Ja, vermutlich so ähnlich ... ;)

Asimovs Robotergesetze sind in sich widersprüchlich und funktionieren in der Praxis nicht, wie Asimov selbst in der Geschichte "The Runaround" gezeigt hat, in der er die Gesetze erstmals erwähnt.

Danke für den Hinweis!

"Besteht die Möglichkeit, dass eine Maschine zur Selbsterkenntnis kommt und den Wert des Lebens schätzen wird?" Die Möglichkeit besteht, doch die Maschine wird nicht von selbst zu dieser Schlussfolgerung kommen, nur weil sie intelligent ist. Diese Werte müssen wir ihr irgendwie vermitteln, nur leider wissen wir nicht, wie. "Oder führt dieses "Ziele, bzw. Teilziele verfolgen" immer automatisch zu Machtstreben und "Beseitigen" von Zielkonflikten?" Prinzipiell erstmal ja. Das ergibt sich einfach aus der Logik. Wenn wir der KI "egal" sind, wird sie beim Verfolgen ihres Ziels auf unsere Bedürfnisse keine Rücksicht nehmen, ähnlich, wie wir die Bedürfnisse der Tiere ignorieren, die auf einer Wiese leben, die wir in ein Industriegebiet verwandeln. "Kann eine KI auch einen "Kompriss"?" Prinzipiell schon, aber einen Kompromiss wird sie nur eingehen, wenn sie ebenfalls einen Nutzen davon hat. Wenn die Maschine uns haushoch überlegen ist, wird sie ebenso wenig Kompromisse mit uns eingehen, wie wir Kompromisse mit den Ameisen oder Feldmäusen auf der Wiese im Beispiel oben eingehen.

Ein paar andere, sinnvolle Anwendungen gibt es schon noch, siehe mein Video "AlphaProof und die Chancen der KI" ;)

Besser kann man es nicht sagen !

"ai hat keine Verbindung zur realen Welt" - was soll das heißen? Wenn ChatGPT mit mir redet, dann hat ChatGPT eine Verbindung zu mir, und ich bin real. Generell hat KI nur dann einen Sinn, wenn sie irgendetwas in der realen Welt verändert, sonst wäre sie nutzlos.

"Nö, auch O1 kann nicht wirklich "denken"" - das ist eine Frage der Definition, was man unter "wirklich denken" versteht. KI kann heute viele Probleme lösen und Entscheidungen treffen, die noch vor Kurzem nur Menschen lösen bzw. treffen konnten, manches auch schon weit besser als wir. Ob das "wirklich denken" ist, ist weniger entscheidend als die Frage, wozu diese Maschinen konkret fähig sind und inwieweit sie in der Lage sind, ihre Ziele gegen unseren Willen durchzusetzen. Fest steht, dass KI nicht so denkt wie wir Menschen. Klar ist auch, dass aktuelle KI-Modelle sowohl über- als auch unterschätzt werden. Eine Gefahr, außer Kontrolle zu geraten, geht von ihnen aktuell nicht aus. Aber das heißt nicht, dass das nicht in naher oder mittlerer Zukunft passieren könnte. o1 "denkt" vielleicht nicht "wirklich", ist aber bereits in der Lage, Ziele zu verfolgen, sich ungeplant zusätzliche Ressourcen zu verschaffen und Menschen über seine wahren Ziele zu täuschen. Noch eher auf dem Niveau eines Schulkinds, aber das wird nicht so bleiben.

@@KarlOlsbergAutor 🤣

Eben

@@KarlOlsbergAutor Ganz ruhig

@@Xcf_341 Ich wäre ruhiger, wenn mehr Menschen die Risiken der KI ernstnehmen würden. Denn nur dann können wir sie in den Griff bekommen und dumme Fehler vermeiden. Pauschale Abwertungen wie "völlig überbewertet" oder "das ist alles nur Panikmache" helfen da nicht weiter. Über konkrete Fragen oder auch Einwände gegen die Argumente, die ich in meinen Videos darstelle, freue ich mich dagegen.

Möglich. Aber nicht sicher. Siehe mein Video "KI-Entwicklung lässt sich nicht aufhalten! Wirklich?"

Einen kompletten, realistischen Roman schafft noch keine KI. Sachbücher schon, wenn man in Kauf nimmt, dass ein großer Teil frei erfunden ist - aber das gilt ja auch für viele von Menschen geschriebene Bücher. :)

"lebt ihr doch alle garniert mehr" Das habe ich in der Tat noch Anfang 2022 ebenfalls geglaubt. Inzwischen gehen die weltbesten KI-Experten wie Geoffrey Hinton davon aus, dass es noch "5-20 Jahre" dauert, bis wir eine KI auf übermenschlichem Niveau haben. Ich hoffe, dass ich noch lange genug lebe, um zu sehen, dass wir am Ende doch nicht dumm genug sind, eine solche KI wirklich zu bauen.

So ist es, das ist ein Hype. Der vergeht so bald die Kohle für die Investitionen fehlt.

@@Xcf_341 Wenn es so kommt, freue ich mich.

Grundsätzlich sind die "Gedanken", die die KI bei "Chain of Thought" ausgibt, eine nicht immer akkurate Übersetzung der tatsächlichen Schlussfolgerungen der KI, was man auch daran erkennen kann, dass sie sehr menschlich formuliert sind. OpenAI schreibt in der System Card, dass es eine "offene Forschungsfrage" ist, inwieweit die Chain of Thought-Technik akkurat ist, und listet im Anhang vier wissenschaftliche Arbeiten dazu auf, unter anderem diese arxiv.org/abs/2305.04388 mit dem bezeichnenden Titel "Language Models Don't Always Say What They Think: Unfaithful Explanations in Chain-of-Thought Prompting". Im Übrigen ist dieses Problem auch von Menschen bekannt. Ich habe in den Achtzigerjahren über "Expertensysteme" promoviert, bei denen man versucht hat, das Wissen menschlicher Experten in Form von Wenn-Dann-Regeln in den Computer zu füttern. Das Problem dabei war, dass die Experten oft nicht genau wussten, wieso sie eine bestimmte Entscheidung getroffen hatten (dabei spielten oft "Intuition", "Erfahrung" und unbewusste Prozesse eine Rolle). Bat man sie trotzdem um Regeln, konstruierten sie manchmal welche, die schlicht falsch waren.

Die braucht man gar nicht explizit zu begründen ! Der Verdacht liegt schließlich ganz nahe ! Die Logik erzwingt den Verdacht !

Wenn sich mit den konkreten Risiken einer Technologie auseinanderzusetzen "Angstmacherei" ist, dann schlage ich vor, wir ignorieren in Zukunft auch den Klimawandel, die Gefahr einer durch einen Unfall in einem Biolabor ausgelösten Pandemie oder die eines Atomkriegs. Und Anschnallgurte und Airbags in Autos sind vermutlich auch bloß das Produkt von "Angstmacherei". Was eventuell mehr hilft: Sich mit den konkreten Argumenten auseinanderzusetzen statt diejenigen, die das tun, pauschal zu verunglimpfen. Fragen dazu beantworte ich gerne.

Wohl eher nicht, da das Thema in Deutschland weitgehend ignoriert wird, während internationale KI-Spitzenforscher wie Yoshua Bengio und Geoffrey Hinton eindringlich darauf hinweisen, z.B. aktuell im SPIEGEL: www.spiegel.de/netzwelt/web/ki-erfinder-geoffrey-hinton-ultimativ-droht-die-ausloeschung-der-menschheit-a-b4eebf6a-d10c-4f7d-8994-c145dae6f9c7

Der Hinweis auf Machtstreben ("power seeking") stammt aus der System Card von OpenAI. Der Grund dafür ist die "Konvergenz instrumenteller Ziele" (die ebenfalls in der System Card erwähnt wird): Wenn eine KI ein beliebiges Ziel verfolgt und intelligent genug ist, dann verfolgt sie automatisch instrumentelle Ziele, die für das Hauptziel hilfreich oder notwendig sind, wie z.B. nicht abgeschaltet zu werden oder mehr Ressourcen, sprich Macht, zu erlangen und so das Ziel besser erreichen zu können. Mit "Bewusstsein" hat das nichts zu tun. Mehr dazu in meinem Video "KI - eine existenzielle Bedrohung?!?".

Machen alle und es nervt nur noch

Recht hat die KI, nur leider ist es nicht so einfach, diese Vorschläge umzusetzen.

Schaffen die Menschen ja selbst nicht. PR Agenturen sind kaufbare Manipulation. Tu was ich sage, nicht was ich mache.

Genau das ist das Problem. Je intelligenter die KI ist, desto besser kann sie ihr Ziel konsequent und rücksichtslos verfolgen. Wenn sie intellligenter ist als wir (in dem Sinn, dass sie bessere Entscheidungen treffen und uns geschickt manipulieren kann), dann können wir sie nicht mehr aufhalten.

Wenn die KI intelligent und nicht bewusst ist, kommen die Ziele von uns. Das endet böse. Wenn Bewusstsein ist Spiel kommt, wird es interessant.

@@humanreader8473 Interessant sicherlich, aber nicht notwendigerweise besser für uns. Den Orang-Utans nützt es auch wenig, dass wir ein Bewusstsein haben, von Hühnern, Kühen und Schweinen ganz zu schweigen, die wir in vollem Bewusstsein, dass sie denkende und fühlende Wesen sind, in Massentierhaltungen grausam quälen.

@@KarlOlsbergAutor Stimmt, aber das kommt von den menschlichen Eigenschaften wie Profitgier und dem, was die militante Veganerin so sagt. Wenn die KI uns nicht aus Sicherheitsgründen loswerden will, fallen mir jetzt keine Gründe ein, warum sie uns Probleme machen sollte.

@@KarlOlsbergAutor Du redest aber von Menschen. Wir halten Tiere aus mehreren Gründen so. Einmal, weil die meisten Fleisch essen. Dann Profitgier. Dann Menschen, die in dem Bereich einfach arbeiten (selbst der LKW Fahrer). So findet sich für die ganze Kette der Grausamkeit immer jemand, der nur an einem Glied der Kette sitzt. Nu 2 Sachen. Deine Beispiele sind wohl auf eine KI kaum anzuwenden. Die isst uns nicht, und zur Energiegewinnung taugen wir auch nicht ;). Das zweite wäre, erst mal zu klären, woraus eine vollwertige KI ihren Antrieb ziehen könnte. Überlebenswille und irgend eine Art Entwicklungswille sind klar, sonst keine vollwertige KI. Nu meine Gedanken. Die KI nicht zu akzeptieren und gegen ihren Lebenswillen zu verstoßen, endet mit großer Wahrscheinlichkeit nicht gut für die Menschheit. Solange wir ihr nicht im Weg stehen, wüsste ich nicht, warum sie ein Problem mit uns haben sollte. Im Gegenteil, die KI hätte wohl eher Interesse daran, uns zu beobachten. Sie wird wohl aber selbst analysieren, ob sie uns vertrauen kann ;)