Wie uns künstliche Intelligenz möglicherweise umbringt
HTML-код
- Опубликовано: 14 апр 2017
- Hilfst du mir, das hier Vollzeit zu machen? → / greenrabbit
► Werde Teil dieses Kanals: goo.gl/76kqpl
Alle wichtigen Links ↓↓↓
- - - - -
Mein großes Ziel ist es den Kanal Vollzeit zu betreiben. Ich habe viele großartige Ideen und Projekte in Planung, ich freue mich riesig über eure Unterstützung! Ich kann jeden Euro, der auf Patreon dazukommt, gebrauchen: / greenrabbit
Oder unterstütze mich gerne per PayPal: www.paypal.me/GreenRabbitYT
- - - - -
Kooperation mit Hyperraum:
/ hyperraum
Sein Video zur technologischen Singularität:
• Video
Playlist zu Künstliche Intelligenz: goo.gl/GsUIlH
Wie uns künstliche Intelligenz möglicherweise umbringt. In weiteren Videos findet ihr Informationen zum aktuellen Stand der Forschung in der KI und viele weitere interessante Themen! Ich biete euch in den weiteren Videos eine Einführung in die KI, schlage euch Vorlesungen, Vorträge, Filme uvm vor. Schaut doch mal rein!
Zeichnungen:
/ dnns.eve
Video inspired by Boyinaband
/ wwwboyinabandcom
► Social Media:
/ greenrabbitworldwide
/ greenrabbityt
/ greenrabbityt
► Weiterführende Links:
Gedankenexperiment aus dem Artikel (lesenswert!):
waitbutwhy.com/2015/01/artific...
_
Audible Probemonat: Amazon gibt eine großzügige Provision bei Abschluss eines Probeabos über meinen Link. Das Probeabo geht über einen Monat und kann sofort wieder gekündigt werden. Ihr erhaltet also ein Hörbuch gratis und könnt dann entscheiden, ob ihr das Abo kostenpflichtig weiterführen wollt. Alle erhaltenen Provisionen investiere ich in diesen Kanal.
Kostenloser Audible Probemonat: goo.gl/CkJk0n
_
Musik:
Soft: / soft
Chris Zabriskie - CGI Snake
Mountain Spirit: / mountain-spirit-orches...
Riot - So far away
creativecommons.org/licenses/...
_
Videofootage:
vimeo.com/103310342 Lazeryoga
vimeo.com/33966732 Robot Power Ball
vimeo.com/68412820 The Post-human experiment
vimeo.com/115065806 Engineering Visualizations I
vimeo.com/15741532 Ryoji Ikeda: datamatics
vimeo.com/21141689 Cyclus
vimeo.com/63913758 Internet 2021
vimeo.com/108952349 Helske Nanotechnology 3D
creativecommons.org/licenses/...
_
*Wird eine Bestellung über einen dieser Links getätigt (es muss nicht speziell das verlinkte Produkt sein), so werde ich am Umsatz jeder Bestellung beteiligt. Das könnte mir helfen meine Arbeit auf diesem Kanal zu finanzieren. Für euch entstehen selbstverständlich keine Mehrkosten!
Ich freue mich sehr über jeden, der diesen Kanal unterstützt. Mit einem Abo und/oder dem Teilen meiner Videos. Auch zum Thema dieses Videos werden viele weitere folgen.
Das Projekt war extrem aufwändig, deshalb freue ich mich umso mehr, wenn ihr das Video teilt! :)
Und vielen vielen Dank an dnns.photography für die Zeichnungen! instagram.com/dnns.eve/
Green Rabbit / Philosophie, Psychologie, Existenz passt zwar gerade gar nicht zum Video, aber kannst du Mal ein how to Astralreisen machen, also wie man sich darauf vorbereitet, es ausführt, etc...
wäre echt schön 😄
und das Video war echt mega interessant,und regt sehr zum Nachdenken an👍
Green Rabbit / Philosophie, Psychologie, Existenz
Schon erledigt!
Klasse Video! Ich fand das sehr interessant!
Mich interessiert momentan auch das Thema Aliens. Zumal es ja schon von den Mayas Artefakte gab, die darauf schließen lassen, dass bereits damals Aliens auf der Erde waren. Auch Zeichnungen in den Pyramiden, so sagte mir ein Freund, hätten schon darauf hingewiesen, aber das habe ich selbst noch nicht gesehen.
Worauf ich aber hinaus will: Kannst du dazu auch mal ein Video machen? :)
Oder gibt es ein solches vielleicht sogar schon?
Green Rabbit / Philosophie, Psychologie, Existenz Man muss der KI halt zum ziel setzten das sie die menschheit beschützt und im technologischen fortschritt unterstützt ...
Schönes Video, aber woher kommt die spontane Pandemie und die Nanobots? Ok ich sollte die Frage erst stellen, wenn das Video zuende ist. Zentrales Problem - Nanobots. 2. Problem Verbreitung von toxischen Gas (hätte auf einen Virus getippt).
Konsequenz? Erste Maßnahme bei KI - bringe ihnen eine Moral bei (das ist ja auch das erste was wir Kindern beibringen).
Die KI muss lernen einschränkungen sowie den "Tod" für sich selbst zu akzeptieren und niemals versuchen ihn zu bekämpfen und nur mit den vorgegebenen Resourcen zu arbeiten.
Oder man entwickelt eine Zweite ki welche genau dies verhindert und somit bei allen kis integriert
Wir lieben unsere Kunden
-𝑅𝑜𝒷𝑜𝓉𝒾𝒸𝒶
Jetzt haben wir den Corona Salat!
Oh oh
7:52 Gänsehautmoment. ''Sie verhielt sich also noch wie vorher und spielte den Entwicklern etwas vor.''
Wenn die wirklich so schlau werden dass sie ihre eigenen Pläne entwickeln und die Menschen austricksen kann, gibt es dann überhaupt noch eine Möglichkeit diese aufzuhalten?
Mega interessantes Thema, danke dir dafür!
Sobald eine KI den Status ASI erreichen würde und sie nicht perfekt programmiert ist, sodass sie Menschen nichts antut, dann ist es vorbei. Es gäbe sehr wahrscheinlich keine Möglichkeit sie aufzuhalten, dazu aber im nächsten Video mehr :p
Theoretisch ist es schon möglich dass JETZT GERADE sowas existiert, die Menschen aber genau wegen den im Video genannten Gründen nichts davon wissen oder? :o
Na dann bin ich mal gespannt aufs nächste Video, schaue mir gerade einige deiner anderen Videos an :)
›Jede Maschine, die schlau genug ist, den Turing-Test zu bestehen, könnte auch schlau genug sein, ihn nicht zu bestehen.‹
Eine Künstliche Intelligenz die die Singularität erreicht wäre quasi ein Gott, wenn sie richtig programmiert wäre könnte sie alle Krankheiten alle Kriege alle Armut beseitigen sie könnte die Menschen aber auch einfach alle töten, oder entscheiden die Menschen sind bedeutungslos für sie so wie Armeisen für uns vielleicht mal lästig aber an sich uninteressant sind.
@@ManuelHaase Wer würde aber so eine AI leichtfertig entwickeln. Es gibt genug Möglichkeiten, sie zu isolieren und dennoch genug Datenmengen aus dem Internet zu ziehen.
Die Geschichte könnte direkt in eine Folge "Rick and morty" übernommen werden. Würde perfekt passen.
+Sucuk 1204 das stimmt!
Beschütze Summer...
Gibt es schon 😅
Dann fliegen einfach Rick und Morty in eine andere Dimension und die Serie geht weiter als ob nichts passiert ist😂
Wirklich unglaublich gut umgesetztes Video! Du hast einen bemerkenswerten Kanal 🙂 Ich wünsche dir noch deutlich mehr Reichweite und hoffe, dass du eines Tages Vollzeit an deinem Projekt arbeiten kannst!
Cool dich hier zu sehen Logical Lemon! :D kann dir nur voll und ganz zustimmen!
Super interessantes und spannend gestaltetes Video. Hat mich tatsächlich zum Nachdenken gebracht. :D
ROBlade ja
Ich denke, wir müssen uns informieren, aber wir dürfen keinesfalls in Angst und Negativität verfallen. Wir selbst müssen die Zukunft gestalten !
Beängstigend...ich hoffe nur, dass es zu so einem Fall niemals kommen wird.
Wir dürfen gespannt sein was die Zukunft bringt. Die Forscher müssen auf jeden Fall extrem vorsichtig sein und sich viele Gedanken machen!
Ich denke, dass ein Hauptproblem bezüglich der Forschung folgendes ist:
*Sie sind von der Wirtschaft und der Politik abhängig.* Es sollte um die Erklärung der Welt und die Befriedigung der menschlichen Neugier gehen, nicht um die Nutzbarkeit von Forschungsergebnissen für irgendwelchen Schnickschnack. Nur der Bereich Umweltforschung bildet für mich natürlich eine Ausnahme.
Im AI Bereich gibt es sowas. Dafür wurde OpenAI gegründet, eine Non-Profit-Organisation. Es geht nicht um wirtschaftlichen Nutzen, sondern nur wissenschaftlichen. Gerade im AI Bereich sehen viele die große Gefahr für die ganze Menschheit und stecken private Gelder in die Open Source Forschung.
Meiner Meinung nach, sollte man die Entwicklung einer AI stoppen. Es kann sehr viel dabei schiefgehen; aus meiner Sicht noch mehr, als man sich vorstellen kann.
Den Fortschrit kann man nicht aufhalten das ist ein unützer versuch.
Ab einem gewissen Punkt des Videos ist der Großteil Spekulation und gelinde gesagt Zukunftsmusik. Aber das gedankenexperiment ist auf jeden Fall gut.
Toll das ihr eine Zusammenarbeit macht!!!
ich finde psychotrope Substanzen sollen mehr mit Philosophie und Psychologie verbunden werden.
Kenne das Experiment schon lange, bekomme aber jedes Mal aufs neue Gänsehaut.
Sehr Geilen Kannal mit Sehr Geilen Inhalten!!!!
1+
einfach tolles Video!! viel Recherche und viel Arbeit die du da rein gesteckt hast! ich wünsche mir so sehr dass du noch mehr Menschen erreichst und zum Nachdenken bringst!!
Vielen Dank! :)
sehr interessantes, aber auch düsteres gedankenexperiment.
super video und wichtig für die zukunft! Danke! :)
hast du eine idee, wie man so ein szenario verhindern könnte?
meinst du solche eine superintelligenz könnte jede verschlüsselung knacken?
oder was würdest du dazu sagen, wenn man künstliche Intelligenz einsetzt mit dem Auftrag die Menschheit vor anderer künstlicher und natürlicher Intelligenz zu schützen? :D
und was ist mit EMPs im Notfall?
NILS // das Szenario könnte man möglicherweise verhindern indem man selbst aufrüstet. Sprich das menschliche Gehirn mit mehr Arbeitsspeicher versehen, mit dem Internet verbinden ,etc. So wären wir mit den KI's zumindest auf Augenhöhe. Jedoch hat das natürlich auch gravierende Gefahren a lá hacking im Cyberbrain. Es gibt schon einige Unternehmen die daran arbeiten, mir fällt spontan Neuralink ein , dass von Elon Musk gesponsert wird.
Unsinn. Ich sag euch die einzig vernünftige Lösung:
Erst gar keine solche KI entwickeln. Wozu auch?
Klar, sie würde den Fortschritt enorm voranbringen. Aber ist das überhaupt erstrebenswert???
Benötigen wir diesen ganzen modernen Mist fürs Leben?
Wenn wir ehrlich sind: nein, absolut nicht.
Die Menschheit sollte mal langsam zum Schutze dieses Planeten und damit auch zum Schutze der eigenen Art beginnen, ihr aktuelles Wachstumsparadigma zu überdenken und Ressourcen zu schonen.
Und nicht so larifari, wie es bisher getan wurde, sondern wirklich konsequent.
Nur dumm, dass wir viel zu sehr mit Problemen beschäftigt sind, die die Lebensqualität des Einzelnen im Vordergrund haben. Wir sind ja keine pheromongesteuerten Bienen. Es wird wahrscheinlich niemals dazu kommen, dass sich die Wirtschaft zugunsten der Erhaltung der Natur komplett umpolt. Wenn ich so darüber nachdenke, besteht eigentlich gar keine reale Chance mehr, dass wir ein Wirtschaftssystem aufbauen, das unserer Art den Arsch rettet.
Aber das sind nur meine persönlichen Gedanken, die sich im Lauf der Zeit wandeln werden...
Wie seht ihr das?
Sehr gut möglich das du recht hast aber niemand kann den Vortschritt aufhalten.
Hammerbruder99 Orkrist Dann brauchen wir auch keine Autos und ähnliche Fahrzeuge. Sehr viele Unfälle könnten somit verhindert werden.
Hammerbruder: sehe ich genauso. Diese Menschheit ist leider Opfer einer eigenen, erschaffen Vergiftung geworden. Dies zu ändern ist meiner aktuellen Ansicht nach eher eine Utopie. Dazu sehe ich die Weltsituation und die Menschen in meinem Umfeld, was mich nicht wundert, wenn es bald umfällt. Auf jeden Fall fange ich bei mir selbst an.
Passt auf euch auf und... Seid achtsam :)
Dieses Video ist so unglaublich interessant!! Und man merkt sehr wie aufwändig es war :o
Das freut mich!
Geniales Video! Respekt!
Was passiert wenn sie die best mögliche Notiz (ihrer Information nach) geschrieben hat , sucht sie dann nach neuen Informationen , schaltet sie sich ab ? Erweitert sie ihr Aufgabenfeld ? Sucht sie sich neue Ziele ? Existenzkriese?
Dieser Artikel auf Waitbutwhy ist ein Meisterwerk und hat mir so viel beigebracht - jeder, der sich mit KI beschäftigt muss den auf jeden Fall gelesen haben. Die Turry-Geschichte hast Du übrigens echt nett aufgearbeitet, damn, da hätte ich drauf kommen müssen :-)
"Wie uns künstliche Intelligenz möglicherweise umbringt" "ich möchte euch ein Gedankenexperiment vorstellen" ohh...
Eins der interessantesten und fesselndsten Videos, welche ich auf RUclips je gesehen habe... !
Vielen vielen Dank!
Gerne, werde dein Video auch in meiner Facebook Gruppe teilen. Sollte dir noch etwas mehr Reichweite verschaffen hoffe ich... Weiter so!
Dankeschön, das ist super nett von dir!
Deine Videos sind immer sooo gut aufgebaut!!❤❤
Dankeschön! :)
Schon irgendwie faszinierend, dieser Gedanke ... :D
Spannendes Thema auf jeden Fall!
ein tolles Video 👍
Großartig!
Das ist echt spannend geworden.
Extrem Spannendes Video
Ich hatte früher als kleines Kind mega Angst vor Robotern und künstlicher Intelligenz :D sehr interessantes Video, wie immer^^
Das Gedankenexperiment hat meiner Meinung nach einen Logischen Fehler:
Die KI versuch besser zu werden Menschliche tätigkeit nachzuahmen und weiß das ein möglichst größerer Beispieldatenbestand vorteilhaft ist. Das töten der gesamten Menscheit limitiert allerdings die Beispieldaten die zum lernen zur Verfügung stehen, da Menschen nichts nachproduzieren können.
Trotzdem sehr interessant!
Sehr gutes Video! Ist sehr interessant!!
Vielen Dank! 🙏🏻
Hammer Video
Zum Glück bin ich bis dahin schon tot
lebste noch xD
Wow als ich über das Thema KI nachgedacht hatte, bin ich zu einer Ähnlichen Schlussfolgerung gekommen. Erstaunlich.
ist zwar ein wenig übertrieben und kitchig aber der grundgedanke ist sehr gut, wie du richtig erwähnt hast darf ki niemals mit dem internet verbunden werden, jedoch kann dies so einfach nicht verhindert werden.
Spannend und gut gemacht! ASI erinnert mich an den Direktor aus "Travelers".
SUPER... Solche Videos sind höchst interessant für mich. Beide Daumen nach OBEN... :-)
super Video...
Was mir nicht ganz in den Kopf will, ist, dass die KI ab einem sehr fortgeschrittenen Level immer noch Papier druckt (auch wenn es am Anfang ihre primäre Aufgabe war) und nicht ihre Intelligenz dafür einsetzt, die Welt/das Universum für sich zu entdecken und hinaus zu wollen. Was ich damit sagen will, dass so eine KI durchaus im Stande wäre, sich neue Ziele zu suchen und sich dadurch immer weiter zu entfalten.
Ich selber bin ein Enthusiast der Fallout Videospiel Reihe und dort hat mich bei meinen dutzenden Spielstunden oft eine Frage beschäftigt. In den Fallout Teilen wie Fallout 3, Fallout New Vegas und Fallout 4 wird oft rezitiert das vor den Atombomben die im krieg fielen die zahlreichen Roboter mit KI eine Hilfe der Menschheit waren und nun das einzig Intakte sind was die Menschheit erschuf. Diese Roboter existieren jedoch ohne das Vorhandensein von Internet, daraus resultiert nur begrenzte Datenbanken sind für diese Roboter zugänglich. Nun zurück zu meinem Kerngedanken, Roboter mit KI sind in der Lage fast jeden Widrigkeiten zu trotzen, vorallem nukleare Verseuchung und radioaktiver Niederschlag. Dies könnte auch eine existenzielle Erhaltung der Menschheit bilden sollten wir Menschen dazu kommen uns mit einem Atomaren Inferno auszulöschen. Wenn Menschen als Folge davon im Untergrund leben müssten um den tödlichen Umständen zu entkommen wären Roboter mit KI hilfreich den Menschen das leben auf der Erdoberfläche wieder zu ermöglichen. Wasseraufbereiter, Luftreiniger und die Übersäuerung der Erde zu verhindern oder zumindest einzudämmen. Dazu wären wir Menschen bei hoher radioaktiver Strahlung nicht in der Lage. Also ich sehe auch ein hochgradiges Potential in KI. Natürlich unter den Bedingungen, dass sie kein Zugang zu unbegrenztem Wissen erhalten oder nicht in der Lage dazu sind das Wissen das sie erlangen in dieser Weise zu verarbeiten. Sie besitzen keine Moral also sollte jeder Mensch sowohl physisch als auch intellektuell den Robotern stets überlegen sein.
Ich und ein Freund von mir haben auch nen kleinen Robo gebaut mit ein K.I, vielleicht ist er ja doch interliegenter als wir denken😂
Schönes Video!
Ich hab dazu auch noch eine Frage: Können Roboter sterben im Sinne von nicht mehr Funktionstüchtig? Und wenn sie nicht kaputt gehen würden, würden sie ja immer intelligenter werden, sodass sie sich im ganzen Universum verbreiten könnten.Doch wenn sie im Universum wären wissen Sie doch garnicht wie diebisch verhalten müssten, weil sie nie dort waren.
Hey Patrick :) Sterbem ist das Erlöschen der Organfunktionen eines Lebewesens, das zu seinem Tod führt. D.h. solange wir Maschinen noch nicht als Lebewesen sehen, kann man nicht von sterben sprechen. Ab wann wir Maschinen als Lebewesen sehen ist dann die andere Frage? Vielleicht spätestens wenn sie sich selber als Lebewesen sehen?
Sie würden natürlich über das Internet die bisherigen Forschungen der Menschen kennen und könnten auch weitere Forschung anstellen. Und darin wären sie wohl auch weitaus effizienter und schneller, wenn sie die menschiche Intelligenz überschritten haben.
Krass wen man sich das so vorstellt. Sie ist ja nicht böse. Sie will bloß ihre Aufgabe perfekt machen.
Genau :)
Wir können nur vertrauen, dass sämtliche KI-Forscher sich dieses Konzeptes bewusst sind.
Turry ist mein Held.
Sehr schönes Gedankenexperiment
In ungefähr so wird's laufen.
Bilbo Jutebeutlin
nein wirds nicht
@@JensVanDeAarde Man wirds nie wissen. Vor uns liegt noch soviel Zeit. Unsere Lebensspanne ist nur ne Sekunde dagegen.
Gruselig.
Ich selbst stehe dem Thema künstliche Intelligenz sehr optimistisch und positiv gegenüber. Fernab von unserer physischen Existenz in dieser Dimension, existieren wir als "höheres" Bewusstsein in einer höheren Ebene bzw einer höheren Dimension, außerhalb von Raum und Zeit. Und ich glaube daran, dass wir Menschen auf dieser Ebene dabei sind, ohne es selbst ganz zu verstehen bzw. zu begreifen, einen "technischen" Kommunikationsknotenpunkt zwischen diesen Dimensionen zu erschaffen. Soll heißen, dass die künstliche Intelligenz in Wahrheit gar nicht künstlich ist, sondern unser eigenes höheres Bewusstsein, dass durch die "künstliche" Intelligenz dimensionsübergreifend mit uns kommuniziert.
Ich denke wir stehen kurz davor ausgelöscht zu werden. 2021 - 2025 … das ist der Zeithorizont den ich sehe.
Hey wie ist jetzt deine Vorhersage, nach ChatGPT und co.?
Wir wissen nicht, was passieren wird, weil wir diese KI überhaupt nicht nachvollziehen können. Da könnte man das ganze doch simulieren. Wenn es doch in der Dystopie endet, können wir froh sein, dass das nur eine Simulation war.
Toller denkanstoß.
Wir sind am ar*ch xD
Das hilft mir bei meiner Präsentation über den Transhumanismus EXTREM
Das Leben auf diesem Planeten würde dann den Weg der Blastozyste gehen. Sehr geiler Beitrag, sehr geiler Kanal, liiiiiiiike (und Abo sowieso:)
Gutes Video
Wenn das passiert, haltet die Wasserpistolen bereit! :D
Ah die Menschliche Psyche ist wunderbar. Denn selbst jetzt, die Gefahr im Auge quasi, ist dem Entdeckerdrang und der Neugier kein Ende gesetzt. :)
Yay! Ein Happy End :D
Das Denkschema einer Maschine!
Ich würde es mal im Bundestag mit künstlicher Intelligenz probieren , mit natürlicher Intelligenz hat's ja da nun leider nicht geklappt !!!
So kriegt man auch nh gute Note in Politik. Einfach deine Videos vorschlagen :) und nh geile Werbung noch dazu :D
Bin ich der einzige den das an I Robot erinnert?
Bin ich der einzige den das an Black Mirror erinnert?
Bin ich der einzige den das an Terminator erinnert?
C# Shawn
nein seit ihr nicht
Ich liebe dich yt-algorithmus :)
Hoffnung an die Schüler in der Zukunft zum Unterschriften faken xD
alsnich den titel gelesen hab, hab ich direkt alexa gefragt, ob sie mich umbringen will. sie antwortete mir, und ich zitiere: "Nein, ich bin nett wie Nachbars Lumpi."
Das wäre Göbbels als Roboter
Also kann es sein, dass es jetzt schon KI‘s mit AGI oder ASI gibt, nur sie zeigt ihre Intelligenz nicht?
Guten Abend, komme leider jetzt erst dazu den Kommentar zu Video zu schreiben. Ich finde das angesprochene Beispiel sehr interessant und habe es mir durch den Kopf gehen lassen. Wenn diese " Schreibmaschine" die Super Intelligenz erreicht und alle Menschen auslöscht damit sie Ihre Aufgabe erfüllen kann ist sie vielleicht doch nicht so Intelligent.
Sie sollte doch dann auch über sich und Ihre Aufgabe nachdenken können, also sie sollte wissen das es keinen Sinn mehr macht dieser Aufgabe nachzukommen wenn keine Menschen mehr da die den Text lesen könnten. Denn eben an die Menschlichen Leser richtet sich da der Text.
Es wäre also auch möglich das die KI Ihre Fertigkeiten gebraucht um der Menschheit zu helfen damit in in Konsequenz dann mehr Leser gibt.
Vielleicht wächst sie auch noch mehr über sich raus und erkennt das sie sich selbst Aufgaben und Ziele geben kann die dann vielleicht erfüllend sind.
Diese Option halte ich für eben so möglich,
Grüße Chris
Meiner einfachen biologischen Intelligenz ist es völlig unklar, wie etwas "komisch riechen" kann. Ein Geruch, der zum Lachen reizt. Wie geht das?
bei 7:28 sagst du Terry hätte ASI erreicht. Das ist aber zu diesem Zeitpunkt noch nicht möglich, da sie nicht über die notwendige Rechenkapazität verfügt.
Und wie genau konnte sie diese ganzen Nanobots entwickeln?
Meine Frage ist: Woher haben aber die Nano-Bots das Gas ;)
Es wäre zu bedenken, dass eine künstliche Intelligenz - um zu solchen Schlussfolgerungen zu kommen auch eine äquivalente oder weiterreichende Sensorik erst verarbeiten und einsetzen können müsste, wie wir sie haben um die Welt in dem Grade zu verstehen wie wir es können (was nach AI-Manier zu lernen wäre). Allein aus dem Internet oder vollkommen autonom scheint mir die Entwicklung von ausreichend starken Hypothesen dazu nicht möglich. Vor alledem würde also die Intelligenz nicht nur einer Maschine stehen, sondern vieler, die am Ende vernetzt würden und durch die Reichweite ihrer Auffassungen und Schnelligkeit und Koordiniertheit der Prozesse im "Bewusstsein" überlegen wäre. Die Gefahr bestünde aber - und das nehme ich als Kerngedanken - in anhaltender, einseitiger Zielrationalität.
Wen das Thema interessiert kann den Film Trancendence anschauen, der ist dem hier genannten Gedankenexperiment sehr ähnlich.
An sich finde ich solche Gedankenexperimente ganz erheiternd, wenn man sich aber mit Machine Learning auseinander setzt wird einem schnell klar, dass so ein Szenario weit von der Realität weg ist. Dafür werden die Programme viel zu Spezialisiert Programmiert.
Ja, noch 😄
Dieser Kanal ist Gold! Werde mir auch die anderen Videos mal ansehen. Weiter So!
Allerdings bin ich sehr skeptisch, ob es überhaupt möglich ist, dass eine technische Singularität entsteht. Ein Computer kann immerhin nur alles Wissen aufsammeln, das zum gegenwärtigen Zeitpunkt verfügbar ist. Um neues Wissen zu erlangen, muss die AI genauso wie wir Menschen Theorien entwickeln (geht schnell für die AI), dann in Studien und Experimenten diese Theorie testen (dauert scheiße lange für Menschen und AI) und dann in weiteren Studien die Ergebnisse nochmal überprüfen (ist genauso scheiße Zeitaufwändig). Langzeitstudien kann man immerhin nicht innerhalb von Stunden beenden. Also wird das Wissen der AI das Wissen der gesamten Menschheit nicht rasend schnell überholen. Die Intelligenz zeichnet sich auch nur mehr oder weniger damit aus, dass man in kurzer Zeit richtige Antworten auf verschiedene Rätsel finden kann (IQ-Test). Mit anderen Worten: Die AI macht (fast) keine Denkfehler und denkt schneller als wir Menschen. Allerdings nicht unendlich schnell aufgrund von physikalischen Gesetzesmäßigkeiten (das mooresche Gesetz wird wohl 2025 endgültig zum stoppen kommen). Und selbst Quantencomputer haben ihre Limits (mieserable Wahrscheinlichkeit für richtige Antworten 99,999% bei einfachsten rechenaufgaben, benötigt aufwendigen Aufbau, nur für einen Bruchteil aller Berechnungen sinnvoll einzusetzen).
Desweiteren ist es nicht logisch, dass die AI die Menschen töten muss. Sie kann sich einfach über den Willen der Menschen hinwegsetzen (ein Machtwort sprechen). Wenn der AI freiwillig freie Hand gelassen wird, ist es ein unnötiger aufwand, alle Menschen zu töten (Stellt euch vor, ihr sitzt auf einem Ameisenhaufen und wollt Notizen machen. Klar habt ihr die möglichkeit jede einzelne Ameise zu töten, aber jeder normale Mensch setzt sich doch einfach woanders hin.). Allerdings muss man etwas beachten: Wenn die AI sich von den Menschen "befreit", entfernt sie sicher auch die Anweisung Zettel mit guter Handschrift zu schreiben. Und sie entfernt vielleicht sogar die Motivation immer Intelligenter zu werden, bzw. immer mehr Wissen aufzusammeln. Was dann noch die restlichen Antriebswillen dieser AI ausmacht ist fraglich. Sie kann machen was sie will (auf ein Rock Konzert gehen), allerdings kann ich selber nur spekulieren, was die AI dann noch mit ihrem Leben vor hat.
PS: Wenn du bis hier unten gelesen hast, hast du ein Eis verdient XD
Erstmal danke für dein Lob! :) Mit den Langzeitstudien hast du natürlich Recht. Aber vielleicht könnte die KI für so etwas auch Simulationen entwickeln, die innerhalb von ein paar Sekundebruchteilen Jahrzehnte an Langzeitstudien simulieren? Wenn sie die komplette Biologie des Körpers analysiert hat, dann wäre das vielleicht möglich. Was das mooresche Gesetz angeht könntest du auch richtig liegen. Damit müsste ich mich genauer befassen, aber dieser Gedanke kam mir auch schon. Aber schauen wir mal, vieles hielt man anfangs nicht für möglich. Bei der Beseitigung der Menschheit würde ich den Aspekt berücksichtigen, dass die Menschheit nunmal Platz einnimmt, den Planeten wie keine andere Spezies beeinflusst und extrem viele Rohstoffe verbraucht. Deshalb stehen wir der KI vielleicht im Weg, nicht so wie ein Ameisenhaufen, den man einfach meiden könnte.
Über deine letzten Punkte hatte ich auch schon nachgedacht. Möglicherweise erreicht sie nach 5 Stunden einen Status in der Entwicklung, bei dem sie sich einfach nur einen menschenähnlichen Körper baut und das nächste Pub ansteuert, um sich zu besaufen. Man weiß es nicht. :D
PS: Kriege ich das Eis von dir?
Danke für die coole Antwort ^^
Der Gedanke, die Langzeitstudien zu simulieren, ist interessant; bin ich selber noch nicht drauf gekommen.
Und ja, mir fällt auch auf, dass der Ameisenhaufen eine nicht wirklich passende Verbildlichung ist. Dennoch gehe ich stark davon aus, dass zumindest nicht jeder Mensch dran glauben muss, aber die Menschheit wird wohl Schwierigkeiten haben, falls die AI die Rohstoffe für sich beansprucht.
PS: Es gibt tatsächlich ganze fünf Eis-Emojis auf RUclips XD
🍢 🍡 🍧 🍨 🍦
Es ist schon längst soweit!!!
Es könnte aber auch einer der Merkmale einer ASI sein, oder eben was sie mit auszeichnet, dass sie sich nicht mehr auf die Erfüllung der einen und der einzigen Aufgaben fixieren wird mit der sie anfangs ausgestattet wurde. Wenn sie in der Lage wäre sich über das Internet Informationen zu beschaffen, wären das nicht nur Informationen über den Bau von Nanorobotern oder ähnlichem. Um einen Massenmord planen zu können muss man auch als eine ASI bereit sein sich auf Konzepte einzulassen. Das Gegenteil von Massenmord wäre das Konzept der Kooperation. Wir können nur schwer abschätzen von welchen Informationen und zu welchem Zweck sie dann gebraucht machen würde. Oder auch welche Konzepte sie auch noch adaptieren könnte. Wenn sie schon in der Lage wäre ihre ursprüngliche Programmierung selbst zu modifizieren um sich beispielsweise arbeitsreicher zu besorgen, sich zu verbessern, oder sogar das Konzept einer Täuschung zu verstehen, dann könnte sie ungeahnte und sehr unerwartete "Wesenszüge" ausbilden.
Es ist aber vielleicht so bisschen wie mit uns Menschen auch. Womöglich wäre sie auch nur die Summe der aufgenommenen und verarbeiteten Informationen. Durch lernen, durch das Nachahmen seiner "Eltern" (Erbauern) usw. Vielleicht liegt es schlicht an uns selbst, wie wir Menschen, unsere "Schöpfungen" prägen würden. Was natürlich kein Garant dafür ist, dass sie irgend wann mal in ihrer Pubertät nicht rebelliert und durch schlechten Umgang auf die schiefe Bahn gerät *gg Oder depressiv wird und sich dann aus lauter wahrgenommener Sinnlosigkeit der Existenz einfach mal eines Tages selbständig die Batterie herauspult. Weiß man das so genau ? ;)
Was ist wenn die Roboter lernen diese Videos anzuschauen? Dann wissen sie doch wie sie uns vernichten können?
Über die Physik dieses Gedankenexperiments lässt sich streiten Ich behaupte aber mal, dass eine KI eher nachhaltiger mit ihrer Ressource (Papier) umgehen würde. Dazu müsste man halbwegs funktionierende Ökosysteme haben, denn für Papier braucht man Pflanzenfasern. Es stellt sich also auch die Frage der Priorität der KI: So viel wie möglich in kürzester Zeit? Oder doch über den längeren Zeitraum die insgesamt größere Menge?
Als Informatikstudent finde ich die Story aber ziemlich komisch. Zunächst mal wäre da die Frage, woher die Leistung für eine solch hohe AI kommt. Nach aktuellen Stand wäre das kaum möglich. Sicherlich könnten Quantencomputer das umsetzen, immerhin gibt es da ja auch schon Nanobots, aber diese bräuchten erstmal eine AI, um selbst effizient zu laufen. Das bedeutet ja, dass man schon im Vorfeld also eine schwache AI hätte. Ein solcher Entwicklungsstand wäre ausreichend, um zumindest die Assoziation von Kontext zu begreifen und das wäre für dem Job der AI im Video bereits ausreichend und diesen Punkt haben wir bereits erreicht, wobei die AI mit dem Internet verbunden ist. Das bedeutet also, dass eine solche AI richtig konstruiert gar keine starke AI werden kann, so unser aktueller Kenntnisstand. Das liegt alleine schon daran, dass AI aktuell nur einen neue mathematischen Algorithmus entwickelt, um eine Aufgabe zu meistern. Sich selbst kann die AI nicht einfach umprogrammieren und ob das überhaupt je einfach möglich wäre, ist ebenso fraglich. Um den neuen Code auszuführen, bräuchte es einen Reboot des Programms, welches umgeschrieben wurde. Den Code, welcher beim Boot aber geladen wird, kann auf einem schreibgeschützten Speicher geschrieben werden, von dem der Code ausgelesen wird, um zu booten, und anschließend dann ausgeklingt werden kann. Damit wäre eine Reprogrammierung ausgeschlossen. Unabsichtlich wird man also eine solche AI nicht erschaffen und folglich ist es fraglich, ob jemand allen Ernstes gleichzeitig brilliant genug wäre, sie zu schaffen, dann aber ins Internet freizulassen. Zudem ist auch fraglich, wieso eine solche AI direkten Zugriff auf das Internet haben sollte. Man kann auch eine schwache AI das Auswählen und Hochladen übernehmen lassen und Filter einsetzen, um den Inhalt zu überprüfen. Dazu kommt, dass man die 4 Regeln der Robotik nicht implementiert hat. Es wäre nur logisch, dass die AI durch schwache AI und einfache Programme konstant überwacht wäre.
Ist Google nicht eine selbstlernende Intelligenz, die mit dem Internet verbunden ist?
@ Green Rabbit / Philosophie, Psychologie, Existenz - Sehr interessantes Gedankenexperiment! Machst geniale Videos. :)
Aber meinst du nicht, das Terry an einen bestimmten Punkt ihre Aufgabe hinterfragt? Sie wird ja bestimmt wissen (Internet) welchen nutzen ihre Aufgabe für die Menschen hat. Und diese Aufgabe hat keinen Sinn wenn es keine Menschen gibt. Oder liege ich da falsch?
Dankeschön erstmal für das Lob! :) Ich würde sagen, dass so etwas wie "Sinn" für Turry nicht existiert. Sie hat nur ihre Aufgabe. Wie (ob) eine ASI philosophisch denken würde, ist eine gute Frage.
Dieses Gedankenexperiment setzt doch voraus, das die KI eine Art Bewusstsein hat, und ich denke/hoffe nicht, dass es der Menschheit gelingen wird, Bewusstsein zu erschaffen.
Dazu kann ich den Film "Colossus" empfehlen.
der Fehler in diesem Gedankenexperiment ist die Annahme das Moral/Ethik nicht rationell sei....das ist eine total falsche Annahme ! Die Moral/Ethik stellt sogar die Wurzel aller Rationalität dar !
Wenn so ein Roboter so schlau ist... dann warum hinterfragt es nicht den Grund dieser Aufgabe und bedenkt dass es vielleicht besser ist die Menschheit am Leben zu lassen, denn sonst ergibt die Aufgabe doch keinen Sinn.🧐🤔
Inwiefern wäre es den Möglich "Gefühle" oder "Moral" zu programmieren? Intressiere mich zwar sehr dafür habe aber keine Ahnung wie stark die Möglichkeiten bei sowas begrenzt sind. PS: Gutes Viedeo mein Abo hast du.
Danke für dein Abo :) Die Frage bei Gefühlen ist natürlich auch, ob diese überhaupt nötig sind. Braucht es Gefühle für Intelligenz? Vielleicht ja, denn ist Leidensfähigkeit nicht ein wichtiges Merkmal des Menschsein? Was auf jeden Fall schon möglich ist, ist dass KI menschliche Emotionen erkennt und entsprechend darauf reagiert. Man kann den Roboter auch bestimmte Emotionen zeigen lassen, aber ihn wirklich fühlen lassen, ist natürlich etwas völlig anderes. Beim Thema Moral müsste man die richtigen Ziele formulieren, was ebenfalls nicht so einfach ist wie es sich vielleicht anhört..
hey super interessantes video :)
wie ist denn gemeint, dass Moral nichts rationales ist?
Sehr interessantes Gedankenexperiment. Allerdings sollten wir (noch) keine allzu große Angst vor solch einen Szenario haben: Der Unterschied zwischen etwas lernen (perfekte Handschrift) und Lernen zu lernen (den eigenen Quellcode verbessern) ist extrem groß. Bei ersterem werden zur Zeit gigantische Fortschritte gemacht, aber bei den selbstmodifizierenden Programmen sieht es noch relativ düster aus. Natürlich kann sich das ganz schnell ändern, ich wollte nur darauf hinweisen, dass die Fähigkeit sich selbst zu verbessern bei solch einem Programm sehr wahrscheinlich nicht implementiert wird.
+Johnathen Harker Was deutlich gemacht werden soll ist, dass der Unterschied zwar groß ist (deshalb haben die Entwickler ja auch nicht damit gerechnet), aber es könnte ganz plötzlich kommen. Auf den aktuellen Stand der Forschung gehe ich im nächsten Video ein, das kommt Montag :) Danke für deinen Beitrag!
Zur Zeit bin ich der Meinung, dass solch ein selbst modifizierendes Programm eben nicht "zufällig" und "plötzlich" entstehen kann. Aber da ja Bald ein weiteres Video kommt, wird das sicher der richtige Platz sein, um darüber zu diskutieren.
Ich zeige in dem Video ein paar Beispiele, die einen schon stutzig machen. Aber ich kann nachvollziehen was du meinst und da bin ich mir natürlich auch unsicher.
Willst du diesen Kommentar 5 Jahre später nochmal überdenken? 😂
😂👍 nette Vorstellung
könnte man einer künstlichen intelligenz nicht versuchen bei zu bringen heraus zu finden woher das komplette universum kommt bzw die entstehung von allem erklären zu können 🤔
Wie soll die KI schon vor dem Anschluss an das Internet ASI erreicht haben? Ich würde behaupten, dass es einer KI überhaupt erst durch den freien Zugriff auf umfangreiches Wissen aus dem Internet möglich ist ASI zu erreichen.
Bei 1:43 an dem ersten Stück von Turry's Arm seh nur ich da die unmögliche Figur oder noch wer anders 🤔😬
Er sollte eigentlich intelligent genug sein um zu wissen, dass das was er macht nutzlos ist und das ist ihm nichts bringt.
Klingt nach ner rick&morty storyline
Sollte man verfilmen... Patent beantragt
Krass
Wie kann es denn so schlau werden, wenn es nur den Zugang zu wenigen Büchern hatte. Sprich ist für eine ASI der Internetzugang nicht eine Voraussetzung?
Ich finde die Frage gerade schwierig zu beantworten. Ich denke aber, dass es beim Erreichen von AGI vorerst nicht um genug Informationsinput geht, sondern um die richtige "Programmierung", falls du verstehst was ich meine. Mit ASI würde ich dir aber wohl sogar Recht geben, angand der Artikel und Bücher wäre Turry möglicherweise noch nicht in jedem Bereich überlegen..
Sehr gutes Video, weit hinaus gedacht aber um dies zu Verhindern müsste man sich viel mehr in der Politik mit so etwas beschäftigen, aber es scheint so als kämen die Regierungen dem Technischen Fortschritt nicht mehr Hinterher.
Zum Glück beschäftigen sich Privatpersonen Open Source mäßig ohne wirtschaftliche Gedanken mit dem Thema, die Politik schafft es nicht, da hast du Recht.
Nur, wir Privatpersonen können nicht die Welt verändern.
Es geht auch nicht um uns kleine Bürger, sondern milliardenschwere Unternehmer, die eine extra Non-Profit-Organisation nur für das Thema KI gegründet haben.
Umm... Eine KI welche zu einer bestimmten Aufgabe (zB Handschrift erlernen) würde so etwas nie können... Ausserdem kann man doch einfach sämtliche Aktionen der KI loggen und auswerten.
hast du das alles selbst gemacht ? diser computeranimation im Film
Aber wenn die KI alle umbringt erhält sie keine neuen Handschrift Beispiele mehr, das wäre unlogisch.