Auch wenn es ein "schwieriges" Thema ist, gehört es doch zur Entwicklung dazu. Was sagst du zu dieser Thematik? Lass es mich gern in den Kommentaren wissen.
Danke mal wieder ich schaue fast alle Deine Videos auch wenn ich nicht immer oder nur sehr selten Kommentiere, sehr sehr geil machst Du das dankeschön für Deine tolle Arbeit weiter so.....Finde Deine Video immer/meist sehr intressant und sehr oool gemacht.
@@erfolgunterpalmen du weißt schon wer nett ist?!?! 😂 Und meinen Namen hätte ich schon mal ganz gerne Minute lang gesehen. 😂😂😂😂😂 Nee Schmarrn. Ich brauche bitte noch mal den Link zu Nord VPN. ☺️
Vielen Dank dafür das du die KI vorstellst! Mir persönlich reicht es zu wissen das ich könnte wenn ich wollte. Eine KI die mich so reglementiert, das ich der Meinung bin in der Kirche zu sitzen um mich mit Ethik und Moral vollquatschen zu lassen, hilft mir nicht weiter!
Sehe ich genau wie du! Ich bin 3x7 und NICHT kriminell. Diese ganze Zensur unterstellt quasi jedem, der weniger Restriktionen möchte unlautere Absichten.
@@mikemaier6330 Ja das ist leider in der heutigen Gesellschaft so. Sehr schade aber ich versuche es halt auf diesem Weg den Leuten Sachen näher zu bringen. 😎😎
Meine fragen wäre, geht das auf Deutsch? & wie weit ist der Stand vom der KI auch bis 2021 oder aktueller? Denkst du man könnte mit der KI auch sowas wie html machen?
Deutsch ist irgendwie nicht so geil um ehrlich zu sein. Probier’s aber selber aus 😉 auch Codes kann man mit der KI schreiben. Zum Wissensstand finde ich gerade nichts. Aber es weiß das Biden 2020 gewählt wurde also neuer 😂
Hey danke fürs video super! Frage! Welches ki hat live zugang in den web browser und kann aktuelle daten usw gut analyseren? Danke für dein antwort🎉 im voraus
Danke für das tolle Video. Soweit mir bekannt ist, hat Chatgpt Einschränkungen bei Gewalt und Sex, wenn man sich eine Geschichte schreiben lässt. Ich finde Konflikte in eine Geschichte gehören dazu und treibt die Geschichte voran. Im diesen Falle finde ich es interessant. Muss aber noch dazu sagen das ich mit Chatgpt noch kein Buch geschrieben habe und es nur durch ein Video erfahren habe, das Chatgpt diesbezüglich Einschränkungen hat.
ChatGPT hat in letzter Zeit einige Änderungen vorgenommen, die alle nicht so nice sind, um ehrlich zu sein 😅 Du kannst es ja einfach mal testen mit Llama2 vielleicht sagt es Dir ja zu 😉
Wurde schon einmal angefragt, ich hab es mal notiert. Mal schauen, wann ich das unterbringen kann. Das ist nämlich etwas mehr Aufwand. Aber es ist in meiner Liste 😉
Huhu, habe das jetzt getestet und es läuft gut. Weißt du zufällig ob die KI Lokal auch weiter lernt ? Also zb das ich nur Fragen und Antworten auf deutsch haben will? Noch ne Frage, wie starte ich die KI wieder ? Über start_windows?
Du kannst unter dem Reiter "Training" deine eigene KI trainieren mit dem bereits bestehenden Modell. Genau und gestarte wird die KI immer wieder über die Start_windows Batch 👍
@@erfolgunterpalmen vielleicht könntest du mal genau für diesen Aufbau ein Video machen wie genau die trainiert wird und ob man dann das alles auch auf andere Systeme übertragen kann, zb wenn man das gleiche dann auf einem anderen Rechner will.
Naja die KI läuft ja Lokal auf deinem PC und von daher braucht man eine starke Grafikkarte um das zum laufen zu bringen. Je besser die Grafikkarte desto schneller die KI
@@erfolgunterpalmen Hallo jogginghose vielen Dank für deine Antwort. Ich habe jetzt ein Modell gefunden was richtig flott läuft. Monographic Karte ist eine RTX 30/60 und 1 16 Kern AMD das sollte reichen und tut es auch.
Abermals Danke! Es läuft jetzt auf einem zweitem System ohne Probleme. Jetzt braucht es nur noch ein feines Video von Dir, in dem Du erklärst wie man ein Llama 2 Model personalisiert, so dass es sich Chat Historien merkt. Nennt man das fine-tuning? LG!!!
Da werde ich nächsten Monat mal ein Video zu machen. Ist notiert. Aber ich habe momentan nicht die Zeit durch meinen Umzug ins Ausland. Aber sobald ich angekommen bin und die Zeit dafür finde mache ich das noch auf jeden Fall
Aloha, die Frage passt vllt nicht gerade zum Video, aber gibt es eine KI mit der man sich selbst als Animierten Charakter wiedergeben kann, beispielsweise um sie als Overlay zu nutzen für OBS? Ich hoffe Du kannst mir da weiter helfen
Du meinst quasi dein Kopf als animierter Charakter? Na ja du kannst mit KIs dein Gesicht zu einem animierten Charakter bearbeiten und dann könntest du versuchen dein eigenes Model daraus, als VTuber zu nutzen. Such mal nach VTuber Charakter bei RUclips, da wirst du einiges finden. Eine KI, die das direkt in OBS macht, wüsste ich gerade nicht, da könnte ich aber recherchieren, wenn Interesse besteht 😉
Ja ich habe eine Frage: Ich lade mir seit gestern Abend eigentlich nur dies hier runter und meine I-Verbindung ist ziemlich mau: TheBloke/llama-2-13B-German-Assistant-v2-GGML das sollten nach deren Angaben so 8 GB sein. Mittlerweile habe ich ca 25 GB runtergeladen, er fängt immer wieder mit ner neuen Datei an. Läuft da was falsch?
Mit dem German Assistant kann ich das leider nicht sagen. Es kann sein, dass noch zusatzdeateien benötigt werden bei der Branch. Aber du kannst mal auf deren Discord schauen die sind super und helfen immer sofort weiter bei Fragen: discord.gg/zzwErbu5
Wie kann ich die gptq-8bit-128g-actorder_False wieder löschen und welche Version würdest du mir Raten? Ich habe eine Nvidea GTX1660 und einen Amd Ryzen 5 3600 6 core mit 16 gig ram. ja ich weiß etwas älter aber was soll ich machen ;) Danke für alles!
Du kannst einfach testen. Ich hab ja die Seite gezeigt und verlinkt, wo du die Modelle findest. Du kannst jederzeit neue hinzufügen wie im Video und testen welche laufen 😁 Es muss auch nicht unbedingt ein Llama 2 Modell sein. Es gibt von TheBloke noch etliche andere die du nutzen kannst 😉
Naja es ist ein Sprachmodell. Ob es nun local läuft oder online macht ja kein Unterschied. Es ist ja das gleiche Sprachmodell. Und zugriff auf das Internet hat es ja auch nicht. Ja du kannst mit Llama 2 tatsächlich brauchbare Codes schreibe. Ich bin kein Programmierer aber die Beispiele die ich gesehen habe wurden von erfahrenen Leute getestet und für gut befunden 😁
@@erfolgunterpalmen Ich denke schon das es ein Unterschied macht. Denn Sprachmodelle wie ChatGPT haben riesen Datenmengen mit entsprechenden Speicherbedarf. Kann mir nicht vorstellen das man genug Platz auf dem eigenen Rechner hat.Das dürften denn wohl ziemlich abgespeckte Dateien sein.
@@CasualRacingBoy Also Llama z.B. stellt den Code zur Verfügung und andere Leute aus der Community trainieren dann ein abgeändertes Modell. Diese werden quantisiert und sind damit extrem klein. Also doch es macht keinen Unterschied. Das Einzige, was halt Ressourcen in Massen braucht, ist das Trainieren des allerersten Modells und danach brauchst du halt Rechenleistung um es zu betreiben. Daher auch die Kosten, wenn es Online läuft, da Millionen Menschen es nutzen. Wenn du allein auf deinem PC eine gute Leistung hast, reicht es vollkommen aus für dich. Denn es wird nur einmal trainiert und dann läuft es ja quasi wie ein Programm ab. Das wäre ja irre, wenn man jedes Mal die Trillionen Parameter immer wieder abrufen müsste, um eine Anfrage zu beantworten 😅
Vielen, vielen, lieben Dank dafür! Ich hätte aber tatsächlich noch zwei Fragen. Zum Einen: Wenn das Ding lokal läuft, wo ist dann seine Datenbank? Ich mein', ist die so klein, dass man sie auf einem Standard-Rechner speichern kann oder bringt diese KI nur das Können aus einer Datenbank mit, aber nicht die Datenbank an sich? Und zum Anderen: Erfindet die hier auch einfach Daten, ohne zu sagen, dass sie nicht echt sind? Ich bin derletzt besonders auf Zitatsuche und habe von Claude und ChatGPT teils sehr überzeugende Zitate geliefert bekommen, die sich erst im Detail als frei erfunden herausgestellt haben.
Ich kopier das eben aus einem anderen Kommentar von hier: Also Llama z.B. stellt den Code zur Verfügung und andere Leute aus der Community trainieren dann ein abgeändertes Modell. Diese werden quantisiert und sind damit extrem klein. Also doch es macht keinen Unterschied. Das Einzige, was halt Ressourcen in Massen braucht, ist das Trainieren des allerersten Modells und danach brauchst du halt Rechenleistung um es zu betreiben. Daher auch die Kosten, wenn es Online läuft, da Millionen Menschen es nutzen. Wenn du allein auf deinem PC eine gute Leistung hast, reicht es vollkommen aus für dich. Denn es wird nur einmal trainiert und dann läuft es ja quasi wie ein Programm ab. Zu deinem zweiten Punkt. Ja es sind halt KIs die noch in der Entwicklung stecken. Keine KI der Welt ist bisher perfekt. Das wird noch eine Weile dauern 😊 Dazu muss aber erst einiges getan werden. Gerade was die Regelungen betrifft. Denn um solch ein Wissen immer akurat abliefern zu können braucht man den Zugang zu sicheren Quellen und das ist das Internet ja auch nicht wirklich. Ich denke da muss noch eine Menge Arbeit reingesteckt werden 😁
Hallo, vielen Dank für das Video zu dem ich (bin nicht gerade der Profiprogrammierer) Deine Hilfe bräuchte . Ich habe die Datei entpackt heruntergeladen und immer wenn ich auf meinem Windows 10 ist die"start windows" Datei ausführen will, erscheint das Fenster und es heisst "Zum Ausführen drücken Sie eine beliebige Taste". Aber immer, wenn das tue geht das Fenster zu und es passiert nichts. Sprich ich kann gar keine Taste drücken, um den Vorgang zu starten. Vielleicht kannst Du helfen.
Das klingt echt seltsam. Leider habe ich dafür gerade spontant keine Lösung. Was mir einfallen würde ist das du GIT for Windows nicht hast? Bin halt auch kein Programmierer 😅 Aber lad dir das mal runter: gitforwindows.org/
Hallo und vielen Dank für die Info. Bin dem Link gefolgt und habe das Programm installiert. Hat leider auch nicht geklappt, aber ich bin ein Fan, davon auch mal Dinge am Computer nachmachen zu können. Nicht immer klappt alles. Freue ich schon auf Deine nächsten Videos.
Danke für das tolle Video :-) Leider wurde meine AMD-Karte nicht erkannt und beim Laden des Models kommt die Fehlermeldung "name ‘autogptq_cuda_256’ is not defined". In einem Forum habe ich den Tipp gefunden, den WEB-UI im "CPU-only" Modus zu öffnen. Hast Du eine Idee, wie ich das hinbekomme? :-)
Du bist ja mittlerweile KI Profi. Danke für das Video. Ich versuche ein Programm zu finden ala chatGPT welches eine ruckelfreie Laufschrift (z.b. in Assembler) auf dem PC erzeugt, aber wo ich eben nicht den Code in irgendein extra Programm wieder einfügen muss um ihn auszuführen. Gibt es sowas?
@@erfolgunterpalmen Ja, ich meine, ich möchte, dass mit die KI einen Code erzeugt (Laufschrift ist hier nur ein Beispiel) und dann den Code gleich ausführt. Z.b. Recraft gibt die Bilder gleich aus, Splash Pro erzeugt die Musik gleich fertig. Aber bei ChatGPT muss ich den fertigen Code in ein anderes Programm laden. Dort bekomme ich dann laufend Fehlermeldungen, dass der Code nicht korrekt sei etc. Weißt du was ich meine? Ich möchte quasi ein KI Engine die mir den Code gleich ausführt. Ohne irgendwelche Schnittstellen oder externe Programme mit denen es dann nicht funktioniert.
@@oderspreezander9124 Achsooooo jetzt hab ich es verstanden. Sorry mein Fehler 😅 Ich kann mich da gern mal schlau machen und wenn ich was finde gebe ich das gern an dich weiter 😁
Hi. Ich schaue deine Videos sehr gerne und habe dazu 1) eine Bitte und 2) eine Frage.: Die Bitte ist einfach: Insofern du mal wieder Sprach/Chatbots testest, kannst du dann immer kurz ein, zwei Sätze dazu sagen, wie gut der entsprechende Bot auf deutsch ist? Und nun die Frage: (die ist sicher dumm 🙂 - kann ich solche Sprach/Chatbots/Model wie beispielsweise diesen aus dem Video auch irgendwie in GPT4all integrieren? Geht das?
Also zu deiner BItte: Klar kann ich gerne machen in Zukunft. Zu deiner Frag: Ich hab keine Ahnung 🤣🤣🤣 Das müsste ich mir mal in Ruhe anschauen, was das genau ist und wie das gehen könnte.
Gutes Schlusswort! Leider funktioniert Deine Installationsroutine bei mir nicht. !! Unable to find cl.exe; compilation will probably fail kommt ganz zum schluss. Schaaade. Edit: Visual Studio muss installiert sein. Sollte vielleicht erwähnt werden. Läuft jetzt, aber das Web-Ui sieht anders aus. Pull Down zur Auswah der Modi in den Settings fehlt. Dein Spanien-Umzug ist hiermit nicht genehmigt 😉Edit2: Alles runtergeschmissen. Trotz RTX 3070 läuft kein Model - Out of Memory Error!
OKay das ist echt komisch. Das Problem ist aber auch, dass sehr oft Sachen geändert werden und manche meiner Anleitungen schnell nicht mehr up to date sind 😮 Danke für die genehmigung 😂😂😂
@@erfolgunterpalmen Das beruhigt mich 😅 Aber komisch ist es schon, die Bilder KI auf Aitomatic 1111 Basis ist ja ähnlich und funktioniert ja auch tadellos . 🤔
Sehr schwieriges Thema. Die Verfügbarkeit von nicht reglementierten KIs wird bestimmt noch zunehmen. Dies zu ignorieren oder einfach zu verbieten wird meiner Ansicht nach nicht helfen. Da halte ich Aufklärung für sehr wichtig. Mich würde auch mal Brenner interessieren wie mit dem Thema in der Schule umgegangen wird? Strikt verboten oder wird das aktiv in Informatik unterrichtet. Ich hatte damals Microsoft Office durchgegangen. Da ich KIs für eins der Alltagstools in naher Zukunft halte wäre es ja ganz praktisch, wenn auch Prompts schreiben und co. unterrichtet werden würde.
Krass mein Lehrer damals wusste nicht mal das es MS Office gab 🤣🤣🤣 Ich würde gern an Schulen Vorträge halten, wenn ich die Möglichkeit bekommen würde. Dann einfach mal zeigen was man mit KI erreichen kann auf dem legalen weg 😁😉 Da würde ich echt Spaß dran haben 🤩
@@erfolgunterpalmen wäre ich Informatiklehrer ich würd dich sofort einladen! By the way, grad war bei BigFM Werbung im Radio. Die wollen mit dem ersten KI generierten Webradio online gehen und suchen zur Zeit Beta-Tester. Wäre das nichts für dich? Oder zumindest für ein weiteres Video?
An unserer Schule wird das Thema totgeschwiegen. Hab das Gefühl es wird gehofft, dass das nur ein Trend ist. Falls ein Lehrer mal etwas dazu sagt ist es definitiv nichts Positives. Die Informatik Lehrer sagen auch nicht viel zu, wenn man sie fragt, kommt halt nur ist Gefährlich etc. aber Lernen darüber tuen wir halt Garnichts. Chatgpt schreibt trotzdem der halben Schule weiterhin die Hausaufgaben. Ist halt bescheuert wenn man nicht beibringt damit zu Arbeiten und zu lernen, da ist sie ja sowieso.
@@relaxmore2474 meine Schulzeit ist zwar schon lange her, aber ich hab genau das befürchtet. Ich finde, dass das eine sehr dumme und inkompetente Einstellung ist. Wirklich schade
ChatGPD hat teilweise echt Probleme mit gewissen Inhalten. Ich wollte mal wissen wie man das Wort Rauchstop umschreiben kann. Wurde mir verweigert. Deshalb wird Llama 2 eine gute Möglichkeit sein. Und wie immer, vielen Dank für deine Mühe. LG Tom
@@erfolgunterpalmen Du täuscht dich nicht! Ich kenne einige Personen die mit der bezahlten Version von ChatGPD arbeiten und die sind nicht mehr so zufrieden wie früher. Und das in verschiedenen Ländern der Welt.
Interessant! Nur im Gegensatz zur Bilder-KI ist mir immer noch nicht ganz klar, wozu ich eine Tex-KI brauche! Ich habe doch (noch) ein Hürn, um es zu verwenden... Nun ja, jedem, wie er mag! 😁
Naja eine Text KI kann man für sehr viele Sachen nutzen, PDF zusammenfassen lassen, Skripte schreiben, Ideen sammeln, usw 😁 Viele Sachen gehen einfach viel viel schneller mit KI
@@erfolgunterpalmen Nun, vielleicht sollte ich einfach einmal für mich entdecken, was man mit dem Tool alles anfangen kann! Danke für dein Video und deine Antwort!
@@masterofankh_art Ja einfach mal ein bissche der Fantasie freien lauf lassen und ein bisschen mit der KI rumspielen :D Dann kommen von allein die Ideen 😎😎
@@erfolgunterpalmen Um Ideen und Schabernack aller Art (völlig harmlos) bin ich bestimmt nicht verlegen! Jetzt hätte ich allerdings noch eine Frage. ENGISCH? Brrrrrrrrrrrrrrr... Mein absolutes "Lieblingsfach" in der Schule, lang, lang ist's her! Geht die Ausgabe auch auf Deutsch? Oder muss ich da Google bemühen... 🤣🤣🤣 Nur mal so Frag... 😁
Okay dann liegt das wahrscheinlich am Modell. Dann kannst du aber auf der Seite die ich verlinkt habe in der Beschreibung andere suche anstatt Llama. Da sollte einiges möglich sein 👍
ähm. was habe ich von dem kram, wenn er nur englisch kann? Ich bin kein Engländer. Meine Muttersprache ist deutsch. chatgpt kann hervorragend deutsch und ist auf regionale gegebenheiten trainiert.
Danke für die Vorstellung. Aber nach einem kurzem Test muss ich sagen, dass das Teil doch ziemlich dämlich ist. Vor einem Jahr wäre das noch cool gewesen, aber wenn ChatGPT Bundesliga ist, dann ist dieses Llama2-Model Kreisklasse im Blindenfußball...
😂😂😂 dann hast du irgendwas falsch gemacht denn alles was ich getestet habe an fragen Aufgaben usw wurden richtig beantwortet teilweise von ChatGPT sogar falsch
Da bin ich leider überfragt bei dieser Fehlermeldung. ABER du kannst bei TheBloke auf dem Discord deinen Fehler einfach mal posten: discord.gg/zzwErbu5 Dort wird dir schnell weiter geholfen 😁
Das geht. Sobald du eine KI lokal laufen hast ist sie nicht mehr zensiert. Kommt auf das Model an aber in den meisten Fällen bekommst du sehr häufig nicht jugendfreie Bilder -😂
Auch wenn es ein "schwieriges" Thema ist, gehört es doch zur Entwicklung dazu. Was sagst du zu dieser Thematik? Lass es mich gern in den Kommentaren wissen.
Der Link fehlt
Habs schnell geändert. Danke für den Hinweis
@@erfolgunterpalmen Kein ding
Danke mal wieder ich schaue fast alle Deine Videos auch wenn ich nicht immer oder nur sehr selten Kommentiere, sehr sehr geil machst Du das dankeschön für Deine tolle Arbeit weiter so.....Finde Deine Video immer/meist sehr intressant und sehr oool gemacht.
Danke für das Feedback und nice, dass du doch kommentiert hast 😁🤩
Danke für dieses neue Tool und danke für deine ehrlichen Worte zwecks der illegalen Geschäfte. 😊
Danke für dein nettes Feedback 😁 immer wieder gerne
@@erfolgunterpalmen du weißt schon wer nett ist?!?! 😂 Und meinen Namen hätte ich schon mal ganz gerne Minute lang gesehen. 😂😂😂😂😂 Nee Schmarrn. Ich brauche bitte noch mal den Link zu Nord VPN. ☺️
😂😂😂😂 guck mal unter das Video ich kann den grad nicht kopieren bin unterwegs. Nein du bist nicht die kleiner Schwester von scheisse 🤣🤣
@@erfolgunterpalmen 😂😂😂😂😂
🤣
Vielen Dank dafür das du die KI vorstellst! Mir persönlich reicht es zu wissen das ich könnte wenn ich wollte. Eine KI die mich so reglementiert, das ich der Meinung bin in der Kirche zu sitzen um mich mit Ethik und Moral vollquatschen zu lassen, hilft mir nicht weiter!
Ja wenn es zuuuuu weit geht ist es halt auch unnötig dann braucht man auch keine KI 😂
@@erfolgunterpalmen Richtig! 👍
Sehe ich genau wie du! Ich bin 3x7 und NICHT kriminell. Diese ganze Zensur unterstellt quasi jedem, der weniger Restriktionen möchte unlautere Absichten.
@@mikemaier6330 Ja das ist leider in der heutigen Gesellschaft so. Sehr schade aber ich versuche es halt auf diesem Weg den Leuten Sachen näher zu bringen. 😎😎
Cool, Du hast es wahr gemacht. 😁
Ich sehe mir das später mal in Ruhe an und gebe dann eine Rückmeldung. 👍🏼
Ja mach das gerne bin gespannt 😉
Wie immer genial. Danke!
Danke dir ❤
Meine fragen wäre, geht das auf Deutsch? & wie weit ist der Stand vom der KI auch bis 2021 oder aktueller? Denkst du man könnte mit der KI auch sowas wie html machen?
Deutsch ist irgendwie nicht so geil um ehrlich zu sein. Probier’s aber selber aus 😉 auch Codes kann man mit der KI schreiben. Zum Wissensstand finde ich gerade nichts. Aber es weiß das Biden 2020 gewählt wurde also neuer 😂
@@erfolgunterpalmen Okay danke :)
Hey danke fürs video super!
Frage! Welches ki hat live zugang in den web browser und kann aktuelle daten usw gut analyseren?
Danke für dein antwort🎉 im voraus
Also du kannst mit Google Bard und dem Bing Chat auf das Internet zugreifen 😁😁
@@erfolgunterpalmen die machen nicht so eine gute analyse wie bsp chat gbt browser
Ja aber leider sind das die einzigen Möglichkeiten die es gibt. Was sehr ärgerlich ist.
Ich kann bei „Model“ die „gpu-memory in MiB for device“ nicht finden
Moin, Danke für den tollen Beitrag. Kurze Frage aber: Wenn man alles wieder deinstallieren möchte, reich es dass ich den Ordner lösche?
Ja genau kannst einfach löschen. Bei der Installation werden alle Daten in diesen Ordner installiert
Danke für das tolle Video. Soweit mir bekannt ist, hat Chatgpt Einschränkungen bei Gewalt und Sex, wenn man sich eine Geschichte schreiben lässt. Ich finde Konflikte in eine Geschichte gehören dazu und treibt die Geschichte voran. Im diesen Falle finde ich es interessant. Muss aber noch dazu sagen das ich mit Chatgpt noch kein Buch geschrieben habe und es nur durch ein Video erfahren habe, das Chatgpt diesbezüglich Einschränkungen hat.
ChatGPT hat in letzter Zeit einige Änderungen vorgenommen, die alle nicht so nice sind, um ehrlich zu sein 😅 Du kannst es ja einfach mal testen mit Llama2 vielleicht sagt es Dir ja zu 😉
Danke, bro. Kannst du uns bitte zeigen, wie man ein Modell damit trainiert?
Wurde schon einmal angefragt, ich hab es mal notiert. Mal schauen, wann ich das unterbringen kann. Das ist nämlich etwas mehr Aufwand. Aber es ist in meiner Liste 😉
@@erfolgunterpalmen Vielen Dank.
@@ytuser7967 Ich geb mein bestes euch so viel KI wie möglich beizubringen 😁
Huhu, habe das jetzt getestet und es läuft gut. Weißt du zufällig ob die KI Lokal auch weiter lernt ? Also zb das ich nur Fragen und Antworten auf deutsch haben will? Noch ne Frage, wie starte ich die KI wieder ? Über start_windows?
Du kannst unter dem Reiter "Training" deine eigene KI trainieren mit dem bereits bestehenden Modell. Genau und gestarte wird die KI immer wieder über die Start_windows Batch 👍
@@erfolgunterpalmen vielleicht könntest du mal genau für diesen Aufbau ein Video machen wie genau die trainiert wird und ob man dann das alles auch auf andere Systeme übertragen kann, zb wenn man das gleiche dann auf einem anderen Rechner will.
Das ist ein interessantes Thema ich schau mir das definitiv mal an 😁👍
Werd ich am WE installieren. Bin gespannt 😊. Danke für die Schritt für Schritt Anleitung.
Sehr gerne doch 😁😁
schön wie du mit dem Thema illegale dinge umgehst.
Dankeschön ich gebe mein bestes 😁
ich hab das Ding zum laufen gebracht,aber die Antworten sind extrem langsam.Kann man das einstellen?
Naja die KI läuft ja Lokal auf deinem PC und von daher braucht man eine starke Grafikkarte um das zum laufen zu bringen. Je besser die Grafikkarte desto schneller die KI
@@erfolgunterpalmen
Hallo jogginghose vielen Dank für deine Antwort. Ich habe jetzt ein Modell gefunden was richtig flott läuft. Monographic Karte ist eine RTX 30/60 und 1 16 Kern AMD das sollte reichen und tut es auch.
Ja nice 👍👍@@michawobat6683
Abermals Danke! Es läuft jetzt auf einem zweitem System ohne Probleme. Jetzt braucht es nur noch ein feines Video von Dir, in dem Du erklärst wie man ein Llama 2 Model personalisiert, so dass es sich Chat Historien merkt. Nennt man das fine-tuning? LG!!!
Da werde ich nächsten Monat mal ein Video zu machen. Ist notiert. Aber ich habe momentan nicht die Zeit durch meinen Umzug ins Ausland. Aber sobald ich angekommen bin und die Zeit dafür finde mache ich das noch auf jeden Fall
@@erfolgunterpalmen Au jaaaa😍
Aloha, die Frage passt vllt nicht gerade zum Video, aber gibt es eine KI mit der man sich selbst als Animierten Charakter wiedergeben kann, beispielsweise um sie als Overlay zu nutzen für OBS? Ich hoffe Du kannst mir da weiter helfen
Du meinst quasi dein Kopf als animierter Charakter? Na ja du kannst mit KIs dein Gesicht zu einem animierten Charakter bearbeiten und dann könntest du versuchen dein eigenes Model daraus, als VTuber zu nutzen. Such mal nach VTuber Charakter bei RUclips, da wirst du einiges finden. Eine KI, die das direkt in OBS macht, wüsste ich gerade nicht, da könnte ich aber recherchieren, wenn Interesse besteht 😉
@@erfolgunterpalmen Genau, Kopf plus Oberkörper wären nice. Alles klar, danke für die schnelle Antwort :)
Ja ich habe eine Frage: Ich lade mir seit gestern Abend eigentlich nur dies hier runter und meine I-Verbindung ist ziemlich mau: TheBloke/llama-2-13B-German-Assistant-v2-GGML das sollten nach deren Angaben so 8 GB sein. Mittlerweile habe ich ca 25 GB runtergeladen, er fängt immer wieder mit ner neuen Datei an. Läuft da was falsch?
Mit dem German Assistant kann ich das leider nicht sagen. Es kann sein, dass noch zusatzdeateien benötigt werden bei der Branch. Aber du kannst mal auf deren Discord schauen die sind super und helfen immer sofort weiter bei Fragen: discord.gg/zzwErbu5
Wie kann ich die gptq-8bit-128g-actorder_False wieder löschen und welche Version würdest du mir Raten? Ich habe eine Nvidea GTX1660 und einen Amd Ryzen 5 3600 6 core mit 16 gig ram. ja ich weiß etwas älter aber was soll ich machen ;) Danke für alles!
Du startest immer wieder über die Datei die KI neu
@@erfolgunterpalmen danke. Ich hatte meine Frage umformuliert. Könntest du mir damit nochmal helfen?
kann die auch deutsch ?
Ja kann sie aber es ist nicht perfekt.
Wieviel RAM brauche ich denn in meiner GraKa für sowas? Hab nur einen Laptop mit ner RTX3060 mit 6 GB
Du kannst einfach testen. Ich hab ja die Seite gezeigt und verlinkt, wo du die Modelle findest. Du kannst jederzeit neue hinzufügen wie im Video und testen welche laufen 😁 Es muss auch nicht unbedingt ein Llama 2 Modell sein. Es gibt von TheBloke noch etliche andere die du nutzen kannst 😉
sehr gut erklärt 🙂
Freut mich, danke!
Die sind doch aber local mit den Antworten sehr begrenzt, oder?
Gibt es Sprachmodelle die super gut Coden können? Das wäre mal interessant.
Naja es ist ein Sprachmodell. Ob es nun local läuft oder online macht ja kein Unterschied. Es ist ja das gleiche Sprachmodell. Und zugriff auf das Internet hat es ja auch nicht. Ja du kannst mit Llama 2 tatsächlich brauchbare Codes schreibe. Ich bin kein Programmierer aber die Beispiele die ich gesehen habe wurden von erfahrenen Leute getestet und für gut befunden 😁
@@erfolgunterpalmen Ich denke schon das es ein Unterschied macht. Denn Sprachmodelle wie ChatGPT haben riesen Datenmengen mit entsprechenden Speicherbedarf. Kann mir nicht vorstellen das man genug Platz auf dem eigenen Rechner hat.Das dürften denn wohl ziemlich abgespeckte Dateien sein.
@@CasualRacingBoy Also Llama z.B. stellt den Code zur Verfügung und andere Leute aus der Community trainieren dann ein abgeändertes Modell. Diese werden quantisiert und sind damit extrem klein. Also doch es macht keinen Unterschied. Das Einzige, was halt Ressourcen in Massen braucht, ist das Trainieren des allerersten Modells und danach brauchst du halt Rechenleistung um es zu betreiben. Daher auch die Kosten, wenn es Online läuft, da Millionen Menschen es nutzen. Wenn du allein auf deinem PC eine gute Leistung hast, reicht es vollkommen aus für dich. Denn es wird nur einmal trainiert und dann läuft es ja quasi wie ein Programm ab. Das wäre ja irre, wenn man jedes Mal die Trillionen Parameter immer wieder abrufen müsste, um eine Anfrage zu beantworten 😅
@@erfolgunterpalmen ah ok. Dann werde ich das mal testen. Danke
@@CasualRacingBoy Ja probier das einfach mal aus 😊 Und gib auch gern ein Feedback zu deinem Test
Vielen, vielen, lieben Dank dafür! Ich hätte aber tatsächlich noch zwei Fragen. Zum Einen: Wenn das Ding lokal läuft, wo ist dann seine Datenbank? Ich mein', ist die so klein, dass man sie auf einem Standard-Rechner speichern kann oder bringt diese KI nur das Können aus einer Datenbank mit, aber nicht die Datenbank an sich? Und zum Anderen: Erfindet die hier auch einfach Daten, ohne zu sagen, dass sie nicht echt sind? Ich bin derletzt besonders auf Zitatsuche und habe von Claude und ChatGPT teils sehr überzeugende Zitate geliefert bekommen, die sich erst im Detail als frei erfunden herausgestellt haben.
Ich kopier das eben aus einem anderen Kommentar von hier: Also Llama z.B. stellt den Code zur Verfügung und andere Leute aus der Community trainieren dann ein abgeändertes Modell. Diese werden quantisiert und sind damit extrem klein. Also doch es macht keinen Unterschied. Das Einzige, was halt Ressourcen in Massen braucht, ist das Trainieren des allerersten Modells und danach brauchst du halt Rechenleistung um es zu betreiben. Daher auch die Kosten, wenn es Online läuft, da Millionen Menschen es nutzen. Wenn du allein auf deinem PC eine gute Leistung hast, reicht es vollkommen aus für dich. Denn es wird nur einmal trainiert und dann läuft es ja quasi wie ein Programm ab. Zu deinem zweiten Punkt. Ja es sind halt KIs die noch in der Entwicklung stecken. Keine KI der Welt ist bisher perfekt. Das wird noch eine Weile dauern 😊 Dazu muss aber erst einiges getan werden. Gerade was die Regelungen betrifft. Denn um solch ein Wissen immer akurat abliefern zu können braucht man den Zugang zu sicheren Quellen und das ist das Internet ja auch nicht wirklich. Ich denke da muss noch eine Menge Arbeit reingesteckt werden 😁
Läuft das ganze also tatsächlich auch lokal offline?
@@meins3317 Ja genau 👍👍
Hallo, vielen Dank für das Video zu dem ich (bin nicht gerade der Profiprogrammierer) Deine Hilfe bräuchte . Ich habe die Datei entpackt heruntergeladen und immer wenn ich auf meinem Windows 10 ist die"start windows" Datei ausführen will, erscheint das Fenster und es heisst "Zum Ausführen drücken Sie eine beliebige Taste". Aber immer, wenn das tue geht das Fenster zu und es passiert nichts. Sprich ich kann gar keine Taste drücken, um den Vorgang zu starten. Vielleicht kannst Du helfen.
Das klingt echt seltsam. Leider habe ich dafür gerade spontant keine Lösung. Was mir einfallen würde ist das du GIT for Windows nicht hast? Bin halt auch kein Programmierer 😅 Aber lad dir das mal runter: gitforwindows.org/
@@erfolgunterpalmenSuper und vielen Dank. Das versuche ich und melde mich.
Perfekt 😁
Hallo und vielen Dank für die Info. Bin dem Link gefolgt und habe das Programm installiert. Hat leider auch nicht geklappt, aber ich bin ein Fan, davon auch mal Dinge am Computer nachmachen zu können. Nicht immer klappt alles. Freue ich schon auf Deine nächsten Videos.
@@steenkampsanna5585 Okay dann schau mal bei denen auf dem Discord. Da wird dir sicherlich jemand helfen können. Bin da kein Profi was das betrifft 😁😁
Ich glaube du hast die Links für die Beschreibung vergessen :)
Sind in der Videobeschreibung 😁 Aktualisier einfach die Seite hab sie nachgetragen 😅😅
@@erfolgunterpalmen danke
@@samu_8000 Gerne gerne 😁😁
Danke für das tolle Video :-) Leider wurde meine AMD-Karte nicht erkannt und beim Laden des Models kommt die Fehlermeldung "name ‘autogptq_cuda_256’ is not defined". In einem Forum habe ich den Tipp gefunden, den WEB-UI im "CPU-only" Modus zu öffnen. Hast Du eine Idee, wie ich das hinbekomme? :-)
Da bin ich leider überfragt da ich selber nur mit einer Nvidia arbeite. Sorry
Du bist ja mittlerweile KI Profi. Danke für das Video. Ich versuche ein Programm zu finden ala chatGPT welches eine ruckelfreie Laufschrift (z.b. in Assembler) auf dem PC erzeugt, aber wo ich eben nicht den Code in irgendein extra Programm wieder einfügen muss um ihn auszuführen. Gibt es sowas?
Was meinst du mit Ruckelfrei?
@@erfolgunterpalmen Also ein Laufschrift wie nicht aussieht als ob sie in Basic auf einem C64 programiert wurde.
@@oderspreezander9124 Du meinst die Ausgabe, was die KI schreibt?
@@erfolgunterpalmen Ja, ich meine, ich möchte, dass mit die KI einen Code erzeugt (Laufschrift ist hier nur ein Beispiel) und dann den Code gleich ausführt. Z.b. Recraft gibt die Bilder gleich aus, Splash Pro erzeugt die Musik gleich fertig. Aber bei ChatGPT muss ich den fertigen Code in ein anderes Programm laden. Dort bekomme ich dann laufend Fehlermeldungen, dass der Code nicht korrekt sei etc. Weißt du was ich meine? Ich möchte quasi ein KI Engine die mir den Code gleich ausführt. Ohne irgendwelche Schnittstellen oder externe Programme mit denen es dann nicht funktioniert.
@@oderspreezander9124 Achsooooo jetzt hab ich es verstanden. Sorry mein Fehler 😅 Ich kann mich da gern mal schlau machen und wenn ich was finde gebe ich das gern an dich weiter 😁
Hi. Ich schaue deine Videos sehr gerne und habe dazu 1) eine Bitte und 2) eine Frage.:
Die Bitte ist einfach: Insofern du mal wieder Sprach/Chatbots testest, kannst du dann immer kurz ein, zwei Sätze dazu sagen, wie gut der entsprechende Bot auf deutsch ist? Und nun die Frage: (die ist sicher dumm 🙂 - kann ich solche Sprach/Chatbots/Model wie beispielsweise diesen aus dem Video auch irgendwie in GPT4all integrieren? Geht das?
Also zu deiner BItte: Klar kann ich gerne machen in Zukunft. Zu deiner Frag: Ich hab keine Ahnung 🤣🤣🤣 Das müsste ich mir mal in Ruhe anschauen, was das genau ist und wie das gehen könnte.
Gutes Schlusswort! Leider funktioniert Deine Installationsroutine bei mir nicht. !! Unable to find cl.exe; compilation will probably fail kommt ganz zum schluss. Schaaade. Edit: Visual Studio muss installiert sein. Sollte vielleicht erwähnt werden. Läuft jetzt, aber das Web-Ui sieht anders aus. Pull Down zur Auswah der Modi in den Settings fehlt. Dein Spanien-Umzug ist hiermit nicht genehmigt 😉Edit2: Alles runtergeschmissen. Trotz RTX 3070 läuft kein Model - Out of Memory Error!
OKay das ist echt komisch. Das Problem ist aber auch, dass sehr oft Sachen geändert werden und manche meiner Anleitungen schnell nicht mehr up to date sind 😮 Danke für die genehmigung 😂😂😂
Ist es auch möglich auf deutsch mit der KI zu kommunizieren ?
Ja aber meine Erfahrung ist, dass es eher schlecht läuft. Aber es geht so halbwegs ^^
@@erfolgunterpalmen danke für die schnelle Antwort. 👍
Danke dir❤
Immer wieder gerne 😁😁
Interessante Geschichte. Nur schade das man jedesmal alle Einstellungen erneut vornehmen muss oder bin ich einfach nur äh... unintelligent 😅
Du bist nicht unintelligent 🤣🤣 Ich habs auch noch nicht verstanden wie man das speichern kann. 😅
@@erfolgunterpalmen Das beruhigt mich 😅 Aber komisch ist es schon, die Bilder KI auf Aitomatic 1111 Basis ist ja ähnlich und funktioniert ja auch tadellos . 🤔
Leider wird die AMD GPU nicht unterstützt 😞
Du kannst doch AMD auswählen
@@erfolgunterpalmen auswählen kann man aber amd wird quasi sofort abgebrochen da es nicht supportet wird
Ein sehr interessantes Video mal wieder weiter so😊😊😊😊👍🏻👍🏻
@@raingogeta2063 Okay dann liegt es wahrscheinlich an Llama. Vielleicht einfach ein anderes Modell testen aus dem Link in der Videobeschreibung
@@rapunzel1086 Dankeschön 🤩🤩🤩🤩🤩🤩
Sehr schwieriges Thema. Die Verfügbarkeit von nicht reglementierten KIs wird bestimmt noch zunehmen. Dies zu ignorieren oder einfach zu verbieten wird meiner Ansicht nach nicht helfen. Da halte ich Aufklärung für sehr wichtig.
Mich würde auch mal Brenner interessieren wie mit dem Thema in der Schule umgegangen wird? Strikt verboten oder wird das aktiv in Informatik unterrichtet. Ich hatte damals Microsoft Office durchgegangen. Da ich KIs für eins der Alltagstools in naher Zukunft halte wäre es ja ganz praktisch, wenn auch Prompts schreiben und co. unterrichtet werden würde.
Krass mein Lehrer damals wusste nicht mal das es MS Office gab 🤣🤣🤣 Ich würde gern an Schulen Vorträge halten, wenn ich die Möglichkeit bekommen würde. Dann einfach mal zeigen was man mit KI erreichen kann auf dem legalen weg 😁😉 Da würde ich echt Spaß dran haben 🤩
@@erfolgunterpalmen wäre ich Informatiklehrer ich würd dich sofort einladen!
By the way, grad war bei BigFM Werbung im Radio. Die wollen mit dem ersten KI generierten Webradio online gehen und suchen zur Zeit Beta-Tester. Wäre das nichts für dich? Oder zumindest für ein weiteres Video?
@@Micca_ hahaha danke schön 🤩 Das klingt echt interessant muss ich mir mal anschauen 😁 Danke für den Tipp
An unserer Schule wird das Thema totgeschwiegen. Hab das Gefühl es wird gehofft, dass das nur ein Trend ist. Falls ein Lehrer mal etwas dazu sagt ist es definitiv nichts Positives. Die Informatik Lehrer sagen auch nicht viel zu, wenn man sie fragt, kommt halt nur ist Gefährlich etc. aber Lernen darüber tuen wir halt Garnichts. Chatgpt schreibt trotzdem der halben Schule weiterhin die Hausaufgaben. Ist halt bescheuert wenn man nicht beibringt damit zu Arbeiten und zu lernen, da ist sie ja sowieso.
@@relaxmore2474 meine Schulzeit ist zwar schon lange her, aber ich hab genau das befürchtet. Ich finde, dass das eine sehr dumme und inkompetente Einstellung ist. Wirklich schade
ChatGPD hat teilweise echt Probleme mit gewissen Inhalten. Ich wollte mal wissen wie man das Wort Rauchstop umschreiben kann. Wurde mir verweigert. Deshalb wird Llama 2 eine gute Möglichkeit sein. Und wie immer, vielen Dank für deine Mühe. LG Tom
Ja ich hab manchmal echt das Gefühl, dass es immer schlechter wird. Kann mich aber auch täuschen 😅 Danke für dein Feedback
@@erfolgunterpalmen Du täuscht dich nicht! Ich kenne einige Personen die mit der bezahlten Version von ChatGPD arbeiten und die sind nicht mehr so zufrieden wie früher. Und das in verschiedenen Ländern der Welt.
Gut zu wissen 👍
Interessant! Nur im Gegensatz zur Bilder-KI ist mir immer noch nicht ganz klar, wozu ich eine Tex-KI brauche! Ich habe doch (noch) ein Hürn, um es zu verwenden... Nun ja, jedem, wie er mag! 😁
Naja eine Text KI kann man für sehr viele Sachen nutzen, PDF zusammenfassen lassen, Skripte schreiben, Ideen sammeln, usw 😁 Viele Sachen gehen einfach viel viel schneller mit KI
@@erfolgunterpalmen Nun, vielleicht sollte ich einfach einmal für mich entdecken, was man mit dem Tool alles anfangen kann! Danke für dein Video und deine Antwort!
@@masterofankh_art Ja einfach mal ein bissche der Fantasie freien lauf lassen und ein bisschen mit der KI rumspielen :D
Dann kommen von allein die Ideen 😎😎
@@erfolgunterpalmen Um Ideen und Schabernack aller Art (völlig harmlos) bin ich bestimmt nicht verlegen! Jetzt hätte ich allerdings noch eine Frage. ENGISCH? Brrrrrrrrrrrrrrr... Mein absolutes "Lieblingsfach" in der Schule, lang, lang ist's her! Geht die Ausgabe auch auf Deutsch? Oder muss ich da Google bemühen... 🤣🤣🤣 Nur mal so Frag... 😁
@@masterofankh_art Deutsch geht aber sehr schlecht meiner Meinung nach. Nimm einfach den kostenlosen übersetzer hier: www.deepl.com
Also AMD wird hierbei nicht supportet und quasi sofort abgebrochen
Okay dann liegt das wahrscheinlich am Modell. Dann kannst du aber auf der Seite die ich verlinkt habe in der Beschreibung andere suche anstatt Llama. Da sollte einiges möglich sein 👍
ähm. was habe ich von dem kram, wenn er nur englisch kann? Ich bin kein Engländer. Meine Muttersprache ist deutsch. chatgpt kann hervorragend deutsch und ist auf regionale gegebenheiten trainiert.
Danke für die Vorstellung. Aber nach einem kurzem Test muss ich sagen, dass das Teil doch ziemlich dämlich ist. Vor einem Jahr wäre das noch cool gewesen, aber wenn ChatGPT Bundesliga ist, dann ist dieses Llama2-Model Kreisklasse im Blindenfußball...
😂😂😂 dann hast du irgendwas falsch gemacht denn alles was ich getestet habe an fragen Aufgaben usw wurden richtig beantwortet teilweise von ChatGPT sogar falsch
das ja voll fürn a... wollte es ausprobieren aber bei mir ist ja alles anders xD naja hofe bekomme es wieder gelöscht
Was ist denn bei dir anders 😅
Bekomme leider in der Eingabeaufforderung immer die Meldung: NameError: name 'autogptq_cuda_256' is not defined
Da bin ich leider überfragt bei dieser Fehlermeldung. ABER du kannst bei TheBloke auf dem Discord deinen Fehler einfach mal posten: discord.gg/zzwErbu5 Dort wird dir schnell weiter geholfen 😁
@@erfolgunterpalmen Dankeschön ;)
@@ytuser7967 Gerne :D
Hallo kann man damit auch erotische Bilder Erzeugen? Oder wir so etwas auch zensiert
Das geht. Sobald du eine KI lokal laufen hast ist sie nicht mehr zensiert. Kommt auf das Model an aber in den meisten Fällen bekommst du sehr häufig nicht jugendfreie Bilder -😂