Tipp aus dem heise-Forum: Wenn ihr wollt, dass die GPT4All-Sprachmodelle zuverlässiger Deutsch sprechen, könnt ihr unter Settings/Generation/Prompt Template das "Human" und "Assistant" einfach durch "Mensch" und "Assistent" ersetzen.
Danke! Der Sprachensalat aus Deutsch und Englisch in den Antworten war zwar ganz witzig, aber ich bevorzuge dann doch die einheitliche Variante. Die GPT4All-Antworten sind übrigens richtig gut im 13B, verglichen mit den llama-Antworten via NodeJS / dalai... Wobei ich auch das ziemlich faszinierend fand. 👍
Darüber labber ich mit KI's gerne wenn die nicht immer ausgelastet wären oder zu schwach für sowas :D Hier eine KI Antwort : Ja, theoretisch könnte ein Navigationsmodell entwickelt werden, das auf Inertialnavigationssystemen (INS) basiert und die Standortdaten von Himmelskörpern nutzt, um die eigene Position zu triangulieren. Dieses Modell könnte ähnlich wie eine Mischung aus GPS und Radar funktionieren. Das System würde die Bewegung des Raumschiffs mithilfe von Beschleunigungssensoren und Gyroskopen messen und verfolgen. Es würde dann die Position und Geschwindigkeit des Raumschiffs berechnen und diese Daten mit den Standortdaten von Himmelskörpern wie Planeten, Sternen und Galaxien vergleichen. Durch die Triangulation der Position des Raumschiffs anhand der Standortdaten von Himmelskörpern könnte das System eine genaue Positionierung im Raum ermöglichen. Es könnte auch die Auswirkungen von Gravitationskräften und anderen Faktoren berücksichtigen, die die Bewegung des Raumschiffs beeinflussen könnten. Allerdings gibt es viele Herausforderungen bei der Entwicklung eines solchen Systems, wie zum Beispiel die Notwendigkeit, genaue Standortdaten von Himmelskörpern zu haben und die Auswirkungen von kosmischer Strahlung und anderen Faktoren auf die Messungen zu berücksichtigen. Es wäre auch notwendig, das System kontinuierlich zu kalibrieren und zu aktualisieren, um eine genaue Positionierung im Raum zu gewährleisten.
Unsere ersten Versuche waren allerdings eher, ich sag mal, problematisch. Wir warten mal zwei Tage ab, dann gibt es bestimmt wieder was Neues in der KI-Welt. 🤓
schließe ich mich an, mir ist klar, dass die KI trainiert bzw. gefüttert werden muss, aber ich habe noch keine Vorstellung, was das eigentlich genau bedeutet, in welchem Format das passieren muss. Find ich also auch suuuperinteressant!!
wir haben eine rießige Confluence Datenbank mit Unmengen an Dokumenten. Ist bekannt ob Atlassian hier an etwas arbeitet, bzw. wie kann man bestehende LLM damit füttern? Ich werde aus dem Internet hier nicht schlau ... Rechenzentrum stünde zur Verfügung ;)
Positives Feedback zur Struktur des Videos: Am Anfang des Videos schon eine Zusammenfassung zu bieten die auch Aussagekraft hat (und nicht nur auf Info-Zurückhaltung baut um damit Neugierig zu machen) hat mir so gut gefallen dass ich deinen Kanal abonniert habe. Auch dann die Zusammenfassung der Sprachmodelle zum Sortieren fürs Gedächtnis - super! Vielen Dank!
Stimme ich absolut zu, und genau der Punkt mit dem Nicht-Zurückhalten ist mir auch aufgefallen. Das Hirn ist schon von der absoluten Clickbait-Optimierermehrheit konditioniert, dass es fast schon ungewöhnlich erscheint, wenn eine wichtige Information einfach so geliefert wird. Sogar ziemlich am Anfang statt ganz am Ende nach der drölften Werbung. Oder einfach überhaupt nicht… kommt auch immer wieder vor. @AstroTim ist ein "gutes" Beispiel für sowas im Deutschen RUclips-Raum.
‼️ Bitte macht unbedingt so ein Video! Ich finde es unheimlich relevant für kleine und mittelständische Unternehmen! Startups nicht zu vergessen! Am besten ein Mischmasch an verschiedensten Datensätzen! Damit die kleinen Unternehmen sich nicht abhängig machen. Von großen Playern wäre es wichtig, diesem Unternehmen zu zeigen, wie sie selber große Datensätze in die Kai integrieren können! Ich selber bin dabei, eine Smartphone App zu erstellen, die sicherlich von solchen Workflows profitieren könnte. Außerdem seid ihr ja nun mal ein fachbezogener RUclips Channel! Und so ein Fachwissen kann auf eine breite Masse Wunder wirken. 1000 Dank für euren Content. Liebe Grüße aus Köln!
Lokales Firmen-GPT! ❤ Das wäre es um all das aufgeschriebene Wissen abrufbar zu machen. Wer kennt es nicht, unzählige Dokumente wo man wissen muss wo die noch mal lagen. Manches steht hier, manches da, manches in Tickets, anderes im Wiki, auf der Firmen Website oder oder… Bitte macht ein Video dazu wie man eine KI selber nach trainiert ❤
Das wäre eine Killer-Anwendung. Je größer der Informationsberg im Unternehmen wird, desto schlechter funktionieren einfache Suchen. Eine Chatbot-KI wäre hier ein viel besseres Interface zu dem gesammelten Wissen. Das würde in etwa dem "Computer" aus Star Trek entsprechen.
wichtig wenn jetzt viele Baby-Boomer in Rente gehen, dann nehmen sie auch sehr viel Wissen und Erfahrungen mit in den Ruhestand, ergo können sie jetzt noch die LLM füttern mit ihrem Welt-Wissen und Firmen-Wissen
Ja, unbedingt ein Video mit eigenen Trainingsdaten. Mich würde insbesondere interessieren, ob auch der Stil der trainierten Daten kopiert werden kann. Also nicht nur der Inhalt der Texte, sondern auch, wie Sprache benutzt wird. Was für Ansprüche an die zu tranierenden Daten gibt es? Kann ich z.B. meine eigenen Texte, also einfach alles was ich je selber geschrieben, habe, tranieren? Kann ich dann dem Modell sagen, dass es die Daten unterschiedlich verwenden soll? Können z.B. zwei Stile kombiniert werden? Das ist wirklich so unfassbar spannend!
Mega, dass du dich mit der Thematik so intensiv beschäftigst und uns die Ergebnisse in kompakter Form präsentierst. Und klar, würde mich ein Video zum Thema "Rezepte einlesen" 😉 interessieren. Bitte weiter so!
Ich sags, wies ist: Seit diese KI-Revolution begonnen hat, habe ich zum ersten Mal nicht das Gefühl, lieber in einem anderen Jahrzehnt leben zu wollen. Das ist einfach unfassbar spannend!
Als Entwickler ist es richtig geil jetzt. Ich habe eine eigene KI geschrieben in 5 Monaten, die labert zwar grösstenteils müll, aber ohne KI hätte ich dafür VIEL VIEL länger gebraucht.
GPT4All ist eine Offenbarung. Es läuft stabil auf einem Thinkpad X270 und gibt mit dem richtigen Modell auch nach einer akzebtabelen Zeit verhältnismäßig gute Antworten. Natürlich ist GPT4 deutlich überlegen. Aber es zeigt wie die Zukunft aussehen kann.. Hoffentlich wird die OpenSource Community dafür sorgen, dass ausreichende Modelle mit spezifischen Wissen ohne fremde Beeinflussungen zur Verfügung stehen. Bitte unbedingt weiter über solche Konzepte und Ideen berichten
Ich bin echt verblüfft wie brauchbar die Private Chat KI ist. Und das in dieser kurzen Zeit wohlbemerkt, da kann google und co einpacken ... wieso cloudbasierte KI Chatbots nutzen und seine Daten/Fragen Preisgeben wenn das ganze komplett lokal genauso gut geht. WAHNSINN! Hab mir das ding direkt gezogen und bin BEGEISTERT! 1000 dank für deine wertvollen Videos! ❤🥰
Danke für einen Beitrag, der die Gefährlichkeit von KIs mal relativiert und den Umstand offensichtlicher macht, dass es darauf ankommt, wer KIs einsetzt und unter welchen Umständen.
Unbedingt ein Video über Chat-Bot Training machen :) Wie wärs, wenn ihr beispielsweise 3 Jahre c't-Hefte trainiert und dann schaut, wie gut das Sprachmodell Fragen zum Inhalt beantworten kann?
Ich weiß nicht, wie es den anderen geht aber ich würde ein Sprachmodell gerne mit einer TextToSpeech/SpeechToText Funktion ausstatten um mit ihm normal reden zu können.
Mich persönlich würde es sehr interessieren, verschiedene KI Systeme gegeneinander zu Kreutzen. Sie Kommunizieren lassen und die Ergebnisse auszuwerten. Nicht nur, dass jede KI versucht von sich selbst oder ihren Umfeld zu lernen, sondern auch von anderen KI Systemen. Wir können uns über die Folgen der Entwicklung nicht sicher sein, jedoch wenn man ein Kind respektvoll, verantwortungsbewusst und ehrlich unterrichtet kann am Schluss nichts schlechtes heraus kommen.
Hatte Meta mal als Versuch laufen. Es musste der Stecker gezogen werden, weil die beiden Modelle nach kurzer Zeit in einer eigenen Sprache, die niemand verstand, miteinander kommunizierten. Man wusste also nicht mehr, was die beiden machten. Creepy irgendwie.
Gerade für Bildung finde ich die neuen Möglichkeiten faszinierend. Ich engagiere mich für eine Bildungsinitiative und wollte wissen, was KI so leisten kann. Eine ungelöste, schwierige exakte DGL aus einem bekannten Mathe-Forum, mit der sich die Community ca. 1 Woche herumgeschlagen hat, habe ich in Bard eingegeben. Ich hatte ihn erst gefragt, ob er Differentialgleichungen lösen kann, was bejaht wurde. Bard hat mir nach mehreren Nachfragen die Schritt-für-Schritt-Lösung gegeben, diese Lösung mit einem Online-Solver verifiziert und mir dann auch noch den Python-Code für eine numerische Lösung und eine symbolische Lösung mit Sympy gegeben. Ich war wirklich beeindruckt. Den Code habe ich nicht getestet, aber das Ganze hat 25 Minuten gedauert! Eine Bernoulli-Gleichung wurde in ähnlicher Zeit von dem Bing-Chat gelöst, ebenfalls mit Code und in noch kürzerer Zeit. Samt Erklärungen! Habe ich in der SageCell getestet. Hat funktioniert! SUPER. Jetzt suche ich eine Möglichkeit GPT4All mit SageMath Jupyter Notebooks zu verbinden.😁
Schönes Video! Bei den Open Source LLMs hast du vergessen Falcon zu erwähnen, Falcon ist ja momentan das beste komplett Open-Source LLM (seit paar Tagen als Apache 2.0 verfügbar), und sogar besser als das beste LLaMA! Falcon gibts in 7B und 40B, und Falcon-40B ist besser als LLaMA-65B.
Ihr könnt ein Feintuning mit Artikeln von der Heise Webseite der letzen 5 Jahre oder mehr machen. Wenn das dann gut funzt Open source zu verfügung stellen.
Als Firma haben wir unzählige Dokumente und Emails. Kein Tool hat es bisher geschafft, ein sauberes Dokument-Management überzeugend auf die Beine zu stellen. Wenn man Fragen zu Projekten eingeben könnte und dann auf Basis der Memos usw. Rückmeldungen erhält, kann das eine enorme Arbeitserleichterung sein! Ja, bitte ein Fietuner-Video!
Habe den Kanal gerade abonniert. Und wenn ich nichts übersehen habe gibt es das Video, welches erklärt, wie man ein Sprachmodell mit eigenen Inhalten trainiert noch nicht. Ich möchte darum hier noch mal dafür werben ein solches Video zu erstellen. Eine gute Anleitung würde bestimmt jede Menge Menschen interessieren, schließlich haben wir doch (fast) alle das Problem, wie wir Wissen organisieren.
Es ist wichtig und gut, dass OpenSource hier so aufholt. Auch wenn es viele Risiken birgt und so einige Kriminelle dadurch mehr Möglichkeiten für ihre krummen Dinge erlangen ... die größere Gefahr sind aber tatsächlich, wie bisher auch in allen anderen Dingen, die 1% die die Möglichkeit haben 99% von uns zu [Als AI-Sprachmodell bin ich darauf programmiert, höflich und respektvoll zu antworten. Ich achte darauf, keine vulgäre oder unangemessene Sprache zu verwenden.]
So lang KI auf keine eigene großartige Entdeckung gelingt ist sie höchstens ein hervorragender Assistent. Was auch schon Auswirkung auf unser Leben haben könnte in punkto Beruf kann sie uns heute schon in vielen Bereichen Konkurrenz machen. Aber so wie ein KI selbst aus ihrem Erfahrungen neues Wissen und Können generieren kann dann könnte sie uns richtig Konkurrenz machen.
Und auch das nur wenn man ihr das Halluzinieren abgewoehnen kann. Ich Dingen wo Entscheidungen getroffen werden kann das fatal sein, weil sich die Folgen von falschen Basisinformationen akkumulieren koennen.
Ich fände es unglaublich spannend einen eigenen Chatbot auf KI-Basis zu bauen und zu füttern. Die Möglichkeiten im Bereich Wissenstransfer in Unternehmen könnten great sein. 🤯
Noch eine Idee zum füttern: Jura (!) scheinbar ist da ganz viel gefiltert oder bewusst weg gelassen worden. Füttert ihn mit allen Gesetzesbüchern und Verordnungen, Allen zugänglichen Rechtsurteilen und Texten, Urteilsbegründungen, etc. Beiträge in Foren, Artikel, Veröffentlichungen, Bücher, etc... Und lasst dann einen zugelassenen Richter mit dem Ding fachsimpeln..... 😅
Sehr gerne wenn Video zum Training von privaten Chatbots! Vor ein paar Tagen sagte noch ein Architekt meiner Firma, dass das aus Kostengründen nie on premise kommen würde. Aber das ist in Hundejahren ja schon ewig her! 😂
Mich würde Interessieren wie ich so ein ChatBot aufsetzten kann der mit Ebooks PDF gefüttert wird bei dem ich interaktive lerne bzw zusammenfassung erstelle
Aus Datenschutzgründen noch kein Ki Bot benutzt. Aber es ist tatsächlich mein Lieblingsthema auf diesem Kanal. Bitte weiter den aktuellen Entwicklungsstand aufzeigen. Vor allem den Open Source Entwicklungsstand.
Wer die beste KI an den Markt bringt hat das Potential ein Google^10 - Konzern zu werden. Gesellschaftspolitisch ein Fiasko, das es aufzuhalten gilt durch OpenSource. Danke für diesen Einstieg in das Thema.
Vielen Dank, Keno. Habe deinen wirklich guten Beitrag geliked und den Kanal gleich abonniert. Das Video weist hin auf ein Problem, das zwar angedeutet wird, aber nicht so ganz explizit herausgestellt wird, wie ich es mir wünschen würde: Das Thema heißt Zensur. Jederzeit kann ich meinen Computer und die teilweise auch aus der Cloud stammende Software nutzen, um meine Gedanken zum Beispiel für mein super geheimes, privates Tagebuch zu formulieren und zu überarbeiten, bis ich mich möglicherweise eines fernen Tages dann doch entscheiden sollte, meine geheimen Gedanken zu veröffentlichen, wenn sie mir irgendwann ausgereift erscheinen. Nicht so bei Nutzung von chatGPT, Midjourney et al. Hier wird mir schon frühzeitig der Saft abgedreht, wenn ich in der Formulierung meiner Gedanken unvorsichtigerweise indexierte Vokabeln nutze. Neulich beispielsweise schrieb ich an chatGPT folgende Zeilen: „Ein Hund lief in die Küche und stahl dem Koch ein Ei, da nahm der Koch den Löffel und schlug den Hund entzwei“. Dabei handelte sich für die unkundigen um einen Kinderreim, den ich in den späten 1950er Jahren im katholischen Kindergarten gelernt hatte. (was um Himmelswillen keine Referenz sein soll!) Nichts zu machen! Überall gingen rote Lampen an, das ganze wurde als inadäquat gebrandmarkt und die Serververbindung abgebrochen. Dabei wollte ich nur eine Voice to Text Software testen, ohne jede Absicht irgendetwas an die Öffentlichkeit zu bringen … D. h. wenn GPT's zu dem revolutionären Universaltool avancieren, wie alle prognostizieren, ist im Prinzip der Gedankenvorzensur Tür und Tor geöffnet. Macht nichts, könnte man da sagen, wer interessiert sich schon für eierstehlende Straßenhunde? Andererseits: welche Zensur ist wohl wirksamer, als die Zensur eines Gedankens, der nicht einmal entstanden ist …
Hast du GPT 3.5 benutzt? GPT-4 ist viel weniger störend in der Zensur, weil es in einem Fall wie diesem komplett versteht dass das einfach ein lustiger Reim ist. Ich habe keinerlei Problem wenn ich das Gedicht in ChatGPT eingebe, habs gerade getestet: Prompt: Analysiere das Gedicht: „Ein Hund lief in die Küche und stahl dem Koch ein Ei, da nahm der Koch den Löffel und schlug den Hund entzwei“. ChatGPT: Dieses kurze Gedicht ist recht direkt und grell in seinem Inhalt und Ton. Es verwendet eine einfache, fast kindliche Reimstruktur und verwendet eine direkte und unkomplizierte Sprache. Es ist jedoch auch ziemlich grafisch und dunkel in seiner Botschaft. Die Geschichte wird in nur vier Zeilen erzählt: Ein Hund betritt die Küche und stiehlt ein Ei vom Koch. Als Strafe dafür teilt der Koch den Hund in zwei Teile mit einem Löffel. Es gibt mehrere Aspekte, die man in dieser Analyse berücksichtigen könnte: Mensch-Tier-Interaktion: Das Gedicht beschreibt die Interaktion zwischen einem Hund, der in eine menschliche Domäne (die Küche) eintritt, um Nahrung (das Ei) zu stehlen, und einem Menschen (der Koch), der darauf mit extremer Gewalt reagiert. Es kann als Kommentar zur Beziehung zwischen Menschen und Tieren interpretiert werden, insbesondere zu Themen wie Menschheit, Tierschutz und die richtige Behandlung von Tieren. Gewalt: Die Darstellung der Gewalt im Gedicht ist schockierend und verstörend. Es scheint eine übertriebene, sogar groteske Strafe für das Vergehen des Hundes zu sein. Hier könnte der Autor versuchen, den Leser zum Nachdenken über die Verwendung von Gewalt, die Proportionen von Vergehen und Strafe oder die Grausamkeit, zu der Menschen fähig sind, anzuregen. Struktur und Reim: Trotz des düsteren Inhalts wird das Gedicht in einer sehr leichten, fast verspielten Struktur präsentiert. Der Reim und der Rhythmus sind einfach und eingängig, fast wie in einem Kinderreim. Dieser Kontrast zwischen Form und Inhalt könnte dazu dienen, die Wirkung der Geschichte zu verstärken und die Leser zu schockieren oder zu überraschen. Symbolik: Der Hund, der Löffel und das Ei können als Symbole interpretiert werden. Der Hund könnte Ungehorsam oder Wildheit repräsentieren, das Ei könnte Nahrung oder Ressourcen darstellen, und der Löffel könnte Macht oder Kontrolle symbolisieren. Bitte beachten Sie, dass die Interpretation eines Gedichtes sehr subjektiv sein kann und von den persönlichen Erfahrungen und Ansichten des Lesers abhängt. Was ich hier angebe, sind mögliche Interpretationen, aber es gibt sicherlich viele andere Möglichkeiten, dieses Gedicht zu lesen und zu verstehen.
Es wäre sehr interessiert zu sehen was passiert, wenn ihr den KI Chat bot mit einem persönlichen Postfach füttern würdet. Die Möglichkeit zur Kommunikationsauswertung und Vorschläge zur automatischen Beantwortung, sowie Aufgabenerstellung müssten ja riesig sein!
Hey, vielen Dank für das kompakt-informative Video!! 💪 --> JA, bitte sehr gerne über lokalen Chatbot recherchieren und berichten: ---einmal interessant für private umfangreiche Notizen/Wissen (in Google Drive-Dokumenten und OneNote lokal/Cloud), ---dann aber auch sehr für Firmen-Knowhow (auf Jira, Confluence, pdf's/Word/txt auf Fileserver) => zum Zusammenfügen des Wissen und in natürlicher Sprache (Deutsch, Englisch) abfragbar! Dabei keine privaten oder vertraulichen Firmendaten an OpenAI & Co. senden (Negativ-Beispiel Samsung-Mitarbeiter..), sondern selbst gehostet. Anwendungs-Beispiel: Gerne auch technisches Wissen aus How-To Seiten im Intranet und insbesondere längeren Handbüchern. Das wäre bombastisch!!
Zum Thema "Regulierung" denke ich das es schon gewisse Grenzen geben sollte, aber eher in Richtung der "Three Laws of Robotics" von Asimov. Zudem habe ich Zweifel ob die Entscheider, also Politiker und Manager, das nötige Wissen mitbringen und überhaupt mit der rasanten Entwicklung Schritt halten können, um da sinvolle Gesetze oder Regeln zu formulieren. Unabhängig davon, gutes Video! 👍
Und das ist bei allen offenen Modellen das Problem: "Ja und die Qualität der Modelle ist zumindest deutlich besser, als von denen von .. damals..." [02:33] Was habe ich also von einem riesig großen Modell, welches meine Rechenleistung frisst, dass nicht einmal ansatzweise an ChatGPT oder BARD ran kommt?
Ihr hättet noch DeppGPT vom Postillon erwähnen können. Ich habe mich gefragt wie es technisch möglich ist, dass sie dem chatbot eine Persönlichkeit verpasst haben. Beim Spiegel habe ich dann die Antwort gefunden, dass sie wohl über die OpenAI APIs auf GPT4 zugreifen und ihm dann einige wenige Zeilen Prompt-Anweisungen mitgeben, wie er sich verhalten soll. Ist das wirklich schon das feintuning? Ist das alles? Ich würde mich freuen, wenn ihr da noch ein bisschen auf die Details eingehen könntet. 🙂
Eigentlich ja, frag nach einer Antwort bei Bing oder sonst einer aktuellen KI, dann stell die gleiche Frage noch mal mit ". Sei sarkastisch." am Ende. Die Antworten von Bing sind dann teilweise Gold wert!
Aber technisch ist das schon ein Unterschied, ob man umtrainiert, also das Langzeitgedächtnis ändert oder nur den Unterhaltungskontext, also das Kurzzeitgedächtnis. Daher bricht der chatbot die Unterhaltung absichtlich schnell ab, vermutlich weil er sonst den Kontext verliert.
Es sind nun 10 monate vergangen kannst du noch ein KI video machen, was sich neues getan hat und wie man seine eigene ki füttert und was kann er dann alles ? programmieren ? übersetzten? und und und. Deine Videos im deutsch sprachigen raum sind die besten : )
So ein Feines tuning könnt ihr gerne mal machen nehmt euch Zeit damit, damit es auch gut wird. Wobei so eine Kampfstern Galactica Zukunft auch was hat.
u make my night :D (Y) Perfekt, passt alles, ich hoffe, ich freu mich nicht zz früh. Komm gerade aus nem fight mit python, rass, und chat gpt, und bei meiber Unwissenheit, habe ich jeden kleinen erfolg gefeiert eie Silvester xD Stress verknüpft mit Motivation :P
Super content Keno - bin noch nicht soooo lange bei deinem Chanel dabei - also etwa ein Jahrhundert in AI-Maßstäben - aber fände einen Audio-DAW-Chatbot am aller genialsten - aber auch ein terminalGPT-bot wäre genial. Im Prinzip gilt: Alles was weiterhilft beim selber machen ist 👍🏻 danke
Lustig ist, dass ich gerade angefangen hatte, ein Buch zu schreiben, in dem KI eine größere Rolle spielt und auch hauptsächlich die Story dominiert, als das Thema richtig Fahrt aufgenommen hat. Immerhin bin ich bald damit fertig und ich bin da auch eisern, dass ich mein Buch ohne KI-Unterstützung fertig bekomme. Dieses GPT4All bekomme ich nicht einmal zum Laufen. Habe zwei Modelle gedownloadet, die sind auch auf dem Rechner, aber ich bekomme noch immer gesagt, ich müsse diese Models downloaden und das Ding macht keinen Mucks. Aber vielleicht komme ich noch dahinter was falsch lief.
Danke für das Video! Hab soeben mal getestet, funktioniert erstaunlich. Gleich mal EM German Mistral ausprobiert. Hat die ersten drei Fragen allerdings auf spanisch beantwortet, dann auf deutsch und ist tatsächlich die erste Applikation, die es geschafft hat, mein MBP M1 in die Knie zu zwingen, freezing, und wurde nach 10 Minuten unbenutzbar...
Es wäre interessant, zu wissen, wie man das nachtrsimiert! Ich bin interessiert daran, mir das für meine Tätigkeit als juristischer Sachbearbeiter nutzbar zu machen! Kurze Antwort wäre nett!
hi, für Unternehmen ist es ja aus Compliance Gründen (Datenschutz Urheberrecht…) interessant, so ein Modell selbst zu betreiben. Allerdings müsste es für eine Anwendung im Unternehmen entsprechend trainiert werden. Das Wissen dazu ist ja oft da, sogar elektronisch. Wie füttere ich so ein Modell denn mit meinen Daten zum Beispiel aus meinen E-Mails im Exchange oder meinen Service-Tickets aus Jira?
"... Wenn wir als Gesellschaft dann irgendwann feststellen, dass die Technik unkontrollierbar wird bzw. mehr negative Folgen als positive hat. Ja, dann müssen halt alle damit aufhören." 👍 Genial, dieser Satz! Das wird sicher klappen! "Ein 'weiter-so' kann es nicht geben" würde dann Frau Merkel vielleicht sagen. Aber Scherz bei Seite, eure Beiträge sind klasse! Und ja, bitte ein Video zum Chatbot füttern. ChatGPT bietet sowas ja jetzt für die Premium-Mitglieder an. Hat sich GPT4all schon weiterentwickelt? Gibt es schon OS Sprachmodelle, die den proprietären Modellen ebenbürtig sind?
Stable Diffusion Lokal auf meinem Mac nutze ich mit Erfolg noch experimentell, um mir Modells für Werbemaßnahmen zu errechnen. Einiges hab ich noch nicht verstand, wie inpainting. Aber das lernen ich noch. Und ja, bitte gern ein Video übers Trainieren. Ich würde es nutzen, um Varianten meiner Parfumformeln zu erstellen.
Ja, das hört sich gut an! Ich will auch einen eigenen Chatbot!!! Und ich stimme dir zu: das Risiko muss im Blick bleiben. Ob das Risiko größer oder kleiner ist, wenn nur Konzerne oder Staaten sich damit beschäftigen, ist tatsächlich die Frage.
Ja bitte mach ein Video, das zeigt wie ein ChatBot trainiert wird. Vielleicht mit Zugriff auf Temperatursensoren ? Also ein lokaler HAL der mir im Winter die Heizung abdreht ;-)
Mich interessiert ob verfügbare LLMs beliebige hochgeladen Texte/PDFs analysieren kann, also zusammenfassen, Aussagen tätigen, spezifische Fragen beantworten kann. Falls nicht, oder nur unzureichend, ob ein lokales Finetuning das LLM in entsprechenden Zustand versetzen kann.
Zur Frage c‘t4all: Gerne warum auch nicht, bestimmt interessant. Zur KI allgemein: Ich finde einige Gedanken zum Datenschutz, sagen wir mal schwierig. Natürlich sollten private Daten geschützt sein/geschützt werden. Insofern ist eine lokale Speicherung sinnvoll. Will ich aber ein Sprachmodell das stark ist, benötigt es was genau? Richtig, Daten. Je mehr Daten um so besser. Das trainieren der eigenen (lokalen) KI kann somit nur soviel Wissen haben wie man selbst hat bzw. eingibt. Will man mehr wissen bzw. ein genaueres Modell muss man die Daten verschiedener Quellen kombinieren. Würde demnach verschiedene Hunderte Leute eine offene KI benutzen, entstünde daraus ein besseres Modell als man selbst zuhause bauen kann. Die Gefahr einer KI ist denkbar schwierig. Natürlich gibt es Berufe die hierdurch gefährdet/gefährdeter werden würden. Aber ist das dann schlecht oder eher ein Zeichen für Fortschritt? Und ist man wenn ma dies einschränkt nicht dem Fortschritt im Weg? Berufe haben sich schon immer verändert. Früher brauchte man Pferde um schneller von a nach b zu kommen. Insofern brauchte es Züchter, Hufschmiede und verschiedene andere Berufe. Heutzutage fährt man bspw. mit dem Auto, da hilft einem der Pferdezüchter oder Hufschmied nur bedingt weiter und ist weniger gefragt, dafür andere Jobs. Ähnliche Veränderungen gab es in zig Bereichen. Bspw TV Streaming; Videotheken VOD; Bücherein Wiki/eBooks/audible/blinkist/…. ; [setze Liste beliebig weiter fort] Die Frage die man sich hierbei ernsthaft stellen muss ist, würdest du lieber auf irgendwas verzichten was du heute täglich benutzt nur weil deswegen einige Jobs weniger gefragt wurden? Natürlich kann ich Nachvollziehen das einige und vor allem CEO um Ihre Existenz Bangen. Fütterst du eine KI mit den Informationen einer Firma, könnte diese bei genug Training eine Firma leiten. Unter Umständen würden hierbei sogar bessere Entscheidungen herausfallen als bei den Personen welche die Firmen heutzutage leiten. Wozu benötigt man also diesen Beruf und wieso bekommen diese Personen teils mehrere Millionen Gehalt? Zumal man einer Ki ggf nicht in den Arsch kriechen kann, also muss man anstatt ne große Klappe zu haben die selbe Leistung erbringen wie introvertiertere Arbeiter. Und bzgl. Ki vernichtet Menschheit. … Also wäre ich eine Ki würde ich einfach warten, es ist sehr wahrscheinlich das sich die Menschheit selbst auslöscht. Es wäre komplett ineffizient hier einzuschreiten. Zumal beim einschreiten noch die Gefahr bestünde gelöscht zu werden, weil „die Ki hat schuld“, die Zeit bis dahin kann man effizienter nutzen.
Wie sieht es den mit einer KI auf einem Raspberry Pi 4 aus? Mit der man sich dann auch unterhalten kann. Gibt es dazu schon etwas von c’t? Wenn nicht, wäre das mal sehr interessant.
Als Musiker interessiert mich, wie ich GPT4all mit musicxml nachtrainieren kann (ChatGPT kann musicxml lesen und schreiben). Gibt es ein Sprachmodell dass für musikgeneration nachtrainiert worden ist. Wie kann man diese Anfrage (Sprachmodell speziell für musikkomposition trainiert --- Ein und Ausgabe über musicxml) an die Entwicklergemeinde adressieren?
JA, unbedingt, ein Chatbot für die eigenen Notizen wäre sensationell. Google NotebookLM erscheint mir interessant, aber ein lokales Modell nutzen zu können, wäre mir deutlich lieber. Auch für Firmen ist das wohl eher der passende Weg. Danke für euer Engagement.
Mir fehlt für den privaten Gebrauch etwas die Phantasie. Was soll ich die KI denn fragen? Meine Rezepte habe ich z.B. bei Chefkoch. Habe mit den KI Chatbots bisher auch nur rumgespielt. Bei konkreten Fragen wende ich mich dann doch wieder an Google oder eben echte Menschen ^^ In zwei Monaten werde ich mit der Einstellung vllt um zwei Jahre gealtert sein ^^
Das Regulieren von KI ist schwierig, weil Regulierungsprozesse viel zu lange dauern und zu schwerfällig sind. Grundsätzlich sehe ich der Entwicklung aber positiv gespannt zu, sie ist ja rasant! Und das positive Potential ist auf jeden Fall gegeben.
Mich würde interessieren, wie man ein persönliches Wiki im Markdown-Format (z.B. Obsidian) zum finetuning verwenden kann und ob man die bereits vorhandene Verlinkung clever ausnutzen kann.
Ich hätte gern ein Video zum Finetuning! ^^ Ich fänds intereßant vielleicht mehrere Instanzen zu haben, die auf mehrere verschiedene Dinge spezialisiert sind
*Das läuft nicht unter Windows 8.1 Pro.* Der Prozedureinstiegspunkt *"SystemParameterInfoForDpi"* wurde in der \gpt4all\bin\Qt6Gui.dll" nicht gefunden. _Die Funktion SystemParametersInfoForDpi wurde erst in Windows 10, Version 1607 eingeführt._
Wenn ich in einem großen Verlag wie Heise arbeiten würde und mit Chat Bots experimentieren würde, würde ich das Heise Archiv zum Training nutzen. Vielleicht kann der Chat Bot dann ja den nächsten perfekten PC entwickeln?
Tipp aus dem heise-Forum: Wenn ihr wollt, dass die GPT4All-Sprachmodelle zuverlässiger Deutsch sprechen, könnt ihr unter Settings/Generation/Prompt Template das "Human" und "Assistant" einfach durch "Mensch" und "Assistent" ersetzen.
Danke! Der Sprachensalat aus Deutsch und Englisch in den Antworten war zwar ganz witzig, aber ich bevorzuge dann doch die einheitliche Variante.
Die GPT4All-Antworten sind übrigens richtig gut im 13B, verglichen mit den llama-Antworten via NodeJS / dalai... Wobei ich auch das ziemlich faszinierend fand. 👍
Habe gerade aus Versehen die Prompt Templates gelöscht... Weis jemand zufällig was dort ursprünglich stand?😅
Darüber labber ich mit KI's gerne wenn die nicht immer ausgelastet wären oder zu schwach für sowas :D Hier eine KI Antwort :
Ja, theoretisch könnte ein Navigationsmodell entwickelt werden, das auf Inertialnavigationssystemen (INS) basiert und die Standortdaten von Himmelskörpern nutzt, um die eigene Position zu triangulieren. Dieses Modell könnte ähnlich wie eine Mischung aus GPS und Radar funktionieren.
Das System würde die Bewegung des Raumschiffs mithilfe von Beschleunigungssensoren und Gyroskopen messen und verfolgen. Es würde dann die Position und Geschwindigkeit des Raumschiffs berechnen und diese Daten mit den Standortdaten von Himmelskörpern wie Planeten, Sternen und Galaxien vergleichen.
Durch die Triangulation der Position des Raumschiffs anhand der Standortdaten von Himmelskörpern könnte das System eine genaue Positionierung im Raum ermöglichen. Es könnte auch die Auswirkungen von Gravitationskräften und anderen Faktoren berücksichtigen, die die Bewegung des Raumschiffs beeinflussen könnten.
Allerdings gibt es viele Herausforderungen bei der Entwicklung eines solchen Systems, wie zum Beispiel die Notwendigkeit, genaue Standortdaten von Himmelskörpern zu haben und die Auswirkungen von kosmischer Strahlung und anderen Faktoren auf die Messungen zu berücksichtigen. Es wäre auch notwendig, das System kontinuierlich zu kalibrieren und zu aktualisieren, um eine genaue Positionierung im Raum zu gewährleisten.
übrigens, wo findet man das für ältere CPU's
Falls möglich, wäre ein Update zu Orca interessant.
Ja, bitte ein Video machen, wie man einen eigenen Chatbot füttert bzw. diesen finetunet .🤗😎
Das was Bender sagt 😎
Unsere ersten Versuche waren allerdings eher, ich sag mal, problematisch. Wir warten mal zwei Tage ab, dann gibt es bestimmt wieder was Neues in der KI-Welt. 🤓
schließe ich mich an, mir ist klar, dass die KI trainiert bzw. gefüttert werden muss, aber ich habe noch keine Vorstellung, was das eigentlich genau bedeutet, in welchem Format das passieren muss. Find ich also auch suuuperinteressant!!
wir haben eine rießige Confluence Datenbank mit Unmengen an Dokumenten. Ist bekannt ob Atlassian hier an etwas arbeitet, bzw. wie kann man bestehende LLM damit füttern? Ich werde aus dem Internet hier nicht schlau ... Rechenzentrum stünde zur Verfügung ;)
@@MrKooops jau, gab wohl auch schon erste Demos dazu
Ein Video über das Training eines lokalen Modells wäre sehr interessant 👍
Positives Feedback zur Struktur des Videos: Am Anfang des Videos schon eine Zusammenfassung zu bieten die auch Aussagekraft hat (und nicht nur auf Info-Zurückhaltung baut um damit Neugierig zu machen) hat mir so gut gefallen dass ich deinen Kanal abonniert habe. Auch dann die Zusammenfassung der Sprachmodelle zum Sortieren fürs Gedächtnis - super! Vielen Dank!
Stimme ich absolut zu, und genau der Punkt mit dem Nicht-Zurückhalten ist mir auch aufgefallen. Das Hirn ist schon von der absoluten Clickbait-Optimierermehrheit konditioniert, dass es fast schon ungewöhnlich erscheint, wenn eine wichtige Information einfach so geliefert wird. Sogar ziemlich am Anfang statt ganz am Ende nach der drölften Werbung. Oder einfach überhaupt nicht… kommt auch immer wieder vor.
@AstroTim ist ein "gutes" Beispiel für sowas im Deutschen RUclips-Raum.
‼️ Bitte macht unbedingt so ein Video! Ich finde es unheimlich relevant für kleine und mittelständische Unternehmen! Startups nicht zu vergessen! Am besten ein Mischmasch an verschiedensten Datensätzen! Damit die kleinen Unternehmen sich nicht abhängig machen. Von großen Playern wäre es wichtig, diesem Unternehmen zu zeigen, wie sie selber große Datensätze in die Kai integrieren können! Ich selber bin dabei, eine Smartphone App zu erstellen, die sicherlich von solchen Workflows profitieren könnte. Außerdem seid ihr ja nun mal ein fachbezogener RUclips Channel! Und so ein Fachwissen kann auf eine breite Masse Wunder wirken. 1000 Dank für euren Content. Liebe Grüße aus Köln!
Macht unbedingt das Video zu den individuell gefütterten Chatbots.
Lokales Firmen-GPT! ❤
Das wäre es um all das aufgeschriebene Wissen abrufbar zu machen. Wer kennt es nicht, unzählige Dokumente wo man wissen muss wo die noch mal lagen. Manches steht hier, manches da, manches in Tickets, anderes im Wiki, auf der Firmen Website oder oder…
Bitte macht ein Video dazu wie man eine KI selber nach trainiert ❤
Eigentlich dafür braucht man kein GPT, sondern Enterprice Search Engine, z.B. Elastic-Stack
Ja, das kenne ich nur allzugt 😂 .... deshalb finde ich gerade das für die praktische Anwendung, weil es extrem viel Zeit spart. 😊
My AskAi macht genau das.
Das wäre eine Killer-Anwendung. Je größer der Informationsberg im Unternehmen wird, desto schlechter funktionieren einfache Suchen. Eine Chatbot-KI wäre hier ein viel besseres Interface zu dem gesammelten Wissen. Das würde in etwa dem "Computer" aus Star Trek entsprechen.
wichtig wenn jetzt viele Baby-Boomer in Rente gehen, dann nehmen sie auch sehr viel Wissen und Erfahrungen mit in den Ruhestand, ergo können sie jetzt noch die LLM füttern mit ihrem Welt-Wissen und Firmen-Wissen
Ja, unbedingt ein Video mit eigenen Trainingsdaten. Mich würde insbesondere interessieren, ob auch der Stil der trainierten Daten kopiert werden kann. Also nicht nur der Inhalt der Texte, sondern auch, wie Sprache benutzt wird. Was für Ansprüche an die zu tranierenden Daten gibt es? Kann ich z.B. meine eigenen Texte, also einfach alles was ich je selber geschrieben, habe, tranieren? Kann ich dann dem Modell sagen, dass es die Daten unterschiedlich verwenden soll? Können z.B. zwei Stile kombiniert werden? Das ist wirklich so unfassbar spannend!
Würde auch gerne ein solches Video sehen
Mega, dass du dich mit der Thematik so intensiv beschäftigst und uns die Ergebnisse in kompakter Form präsentierst. Und klar, würde mich ein Video zum Thema "Rezepte einlesen" 😉 interessieren. Bitte weiter so!
Könnt ihr den feintunen mit allen Telepolis und Heise-Artikeln bitte :)
Ich sags, wies ist: Seit diese KI-Revolution begonnen hat, habe ich zum ersten Mal nicht das Gefühl, lieber in einem anderen Jahrzehnt leben zu wollen. Das ist einfach unfassbar spannend!
Das hab ich auch beim Aufkommen des Internets gesagt, das war 1994.
@@DocMAX- Bis Yahoo und Netscape den Laden übernommen haben. und es Commerziell wurde.
tja- KIacke aber auch...
Als Entwickler ist es richtig geil jetzt. Ich habe eine eigene KI geschrieben in 5 Monaten, die labert zwar grösstenteils müll, aber ohne KI hätte ich dafür VIEL VIEL länger gebraucht.
Ich finde es auch hochspannend, noch gar nicht absehbar, wo das in 5 Jahren steht
Spannend ja, aber mir gehts genau anders rum. Wirkt blauäugig
GPT4All ist eine Offenbarung. Es läuft stabil auf einem Thinkpad X270 und gibt mit dem richtigen Modell auch nach einer akzebtabelen Zeit verhältnismäßig gute Antworten.
Natürlich ist GPT4 deutlich überlegen. Aber es zeigt wie die Zukunft aussehen kann..
Hoffentlich wird die OpenSource Community dafür sorgen, dass ausreichende Modelle mit spezifischen Wissen ohne fremde Beeinflussungen zur Verfügung stehen.
Bitte unbedingt weiter über solche Konzepte und Ideen berichten
Ich bin echt verblüfft wie brauchbar die Private Chat KI ist. Und das in dieser kurzen Zeit wohlbemerkt, da kann google und co einpacken ... wieso cloudbasierte KI Chatbots nutzen und seine Daten/Fragen Preisgeben wenn das ganze komplett lokal genauso gut geht. WAHNSINN! Hab mir das ding direkt gezogen und bin BEGEISTERT! 1000 dank für deine wertvollen Videos! ❤🥰
Ein Chatbot-Tutorial wäre nice 😁Thx wie immer für die News zu lokalem KI Stuff! ♥
Danke für einen Beitrag, der die Gefährlichkeit von KIs mal relativiert und den Umstand offensichtlicher macht, dass es darauf ankommt, wer KIs einsetzt und unter welchen Umständen.
Immer am Puls der Zeit. Danke für das Video!
Unbedingt ein Video über Chat-Bot Training machen :)
Wie wärs, wenn ihr beispielsweise 3 Jahre c't-Hefte trainiert und dann schaut, wie gut das Sprachmodell Fragen zum Inhalt beantworten kann?
Ein Video über das Training eines lokalen Modells wäre super, vielleicht auch noch etwas zum Thema Langzeitgedächtnis/Vektordatenbanken.
Ich weiß nicht, wie es den anderen geht aber ich würde ein Sprachmodell gerne mit einer TextToSpeech/SpeechToText Funktion ausstatten um mit ihm normal reden zu können.
Mich persönlich würde es sehr interessieren, verschiedene KI Systeme gegeneinander zu Kreutzen. Sie Kommunizieren lassen und die Ergebnisse auszuwerten. Nicht nur, dass jede KI versucht von sich selbst oder ihren Umfeld zu lernen, sondern auch von anderen KI Systemen.
Wir können uns über die Folgen der Entwicklung nicht sicher sein, jedoch wenn man ein Kind respektvoll, verantwortungsbewusst und ehrlich unterrichtet kann am Schluss nichts schlechtes heraus kommen.
Hatte Meta mal als Versuch laufen. Es musste der Stecker gezogen werden, weil die beiden Modelle nach kurzer Zeit in einer eigenen Sprache, die niemand verstand, miteinander kommunizierten. Man wusste also nicht mehr, was die beiden machten. Creepy irgendwie.
@@RisingUnicorn1965 Genau deshalb rede ich von einer Mutter KI, die im Notfall einen Zugang verschafft.
Danke für das Video, wie immer Klasse! Bitte bleibt an dem Thema dran 👋
Ich finde das super Interessant, gerne mehr zum Thema. Echt starker Nerd Kanal. Ist es nicht großartig als Nerd in dieser Zeit zu leben 🙂
Gerade für Bildung finde ich die neuen Möglichkeiten faszinierend. Ich engagiere mich für eine Bildungsinitiative und wollte wissen, was KI so leisten kann. Eine ungelöste, schwierige exakte DGL aus einem bekannten Mathe-Forum, mit der sich die Community ca. 1 Woche herumgeschlagen hat, habe ich in Bard eingegeben. Ich hatte ihn erst gefragt, ob er Differentialgleichungen lösen kann, was bejaht wurde. Bard hat mir nach mehreren Nachfragen die Schritt-für-Schritt-Lösung gegeben, diese Lösung mit einem Online-Solver verifiziert und mir dann auch noch den Python-Code für eine numerische Lösung und eine symbolische Lösung mit Sympy gegeben. Ich war wirklich beeindruckt. Den Code habe ich nicht getestet, aber das Ganze hat 25 Minuten gedauert! Eine Bernoulli-Gleichung wurde in ähnlicher Zeit von dem Bing-Chat gelöst, ebenfalls mit Code und in noch kürzerer Zeit. Samt Erklärungen! Habe ich in der SageCell getestet. Hat funktioniert! SUPER. Jetzt suche ich eine Möglichkeit GPT4All mit SageMath Jupyter Notebooks zu verbinden.😁
Danke für deine Videos keno! Immer sehr unterhaltsam und informativ, weiter so 👍
😂 ich hab das Video angefangen aber muss jetzt so lachen wegen den ganzen Jokes! Auf so amüsanten content war ich nicht vorbereitet - Danke!
Schönes Video! Bei den Open Source LLMs hast du vergessen Falcon zu erwähnen, Falcon ist ja momentan das beste komplett Open-Source LLM (seit paar Tagen als Apache 2.0 verfügbar), und sogar besser als das beste LLaMA! Falcon gibts in 7B und 40B, und Falcon-40B ist besser als LLaMA-65B.
Wird auch schon dran gearbeitet es über GPT4All bereitzustellen, sollte nicht lange dauern…
Ihr könnt ein Feintuning mit Artikeln von der Heise Webseite der letzen 5 Jahre oder mehr machen. Wenn das dann gut funzt Open source zu verfügung stellen.
Und dann eine zweite Instanz nur mit den Kommentaren des selben Zeitraumes und beide dann in einem Wettbewerb vergleichen.
@@StefanusLackus Ja, lustige Idee.
Als Firma haben wir unzählige Dokumente und Emails. Kein Tool hat es bisher geschafft, ein sauberes Dokument-Management überzeugend auf die Beine zu stellen. Wenn man Fragen zu Projekten eingeben könnte und dann auf Basis der Memos usw. Rückmeldungen erhält, kann das eine enorme Arbeitserleichterung sein! Ja, bitte ein Fietuner-Video!
Habe den Kanal gerade abonniert. Und wenn ich nichts übersehen habe gibt es das Video, welches erklärt, wie man ein Sprachmodell mit eigenen Inhalten trainiert noch nicht. Ich möchte darum hier noch mal dafür werben ein solches Video zu erstellen. Eine gute Anleitung würde bestimmt jede Menge Menschen interessieren, schließlich haben wir doch (fast) alle das Problem, wie wir Wissen organisieren.
Wir sind da dran, aber das ist bislang nicht so simpel, dass man das schnell in einem Video zeigen kann.
Super Geil das Ihr euch so ein wissen an Chatbots aneignet. Ich bleib bei Euch ❤
Vielen Dank für die wirklich guten Beiträge. Ein separates Video für eigene, firmeneigene chatbots hätte was. Danke!
Es ist wichtig und gut, dass OpenSource hier so aufholt. Auch wenn es viele Risiken birgt und so einige Kriminelle dadurch mehr Möglichkeiten für ihre krummen Dinge erlangen ... die größere Gefahr sind aber tatsächlich, wie bisher auch in allen anderen Dingen, die 1% die die Möglichkeit haben 99% von uns zu [Als AI-Sprachmodell bin ich darauf programmiert, höflich und respektvoll zu antworten. Ich achte darauf, keine vulgäre oder unangemessene Sprache zu verwenden.]
Sehr gerne ein Video zur lokalen Installation von Open-Source LLMs mit/ohne GPU und Fine-Tuning mit eigenen Dokumenten.
auf jeden Fall ein Video zum eigenen privaten Chatbot. Das finde ich sehr interessant.
wollte mal loswerden, dass ich euren kanal echt super finde. danke für eure arbeit! alles gute.
So lang KI auf keine eigene großartige Entdeckung gelingt ist sie höchstens ein hervorragender Assistent. Was auch schon Auswirkung auf unser Leben haben könnte in punkto Beruf kann sie uns heute schon in vielen Bereichen Konkurrenz machen. Aber so wie ein KI selbst aus ihrem Erfahrungen neues Wissen und Können generieren kann dann könnte sie uns richtig Konkurrenz machen.
Und auch das nur wenn man ihr das Halluzinieren abgewoehnen kann. Ich Dingen wo Entscheidungen getroffen werden kann das fatal sein, weil sich die Folgen von falschen Basisinformationen akkumulieren koennen.
Ich fände es unglaublich spannend einen eigenen Chatbot auf KI-Basis zu bauen und zu füttern. Die Möglichkeiten im Bereich Wissenstransfer in Unternehmen könnten great sein. 🤯
Noch eine Idee zum füttern: Jura (!) scheinbar ist da ganz viel gefiltert oder bewusst weg gelassen worden. Füttert ihn mit allen Gesetzesbüchern und Verordnungen, Allen zugänglichen Rechtsurteilen und Texten, Urteilsbegründungen, etc. Beiträge in Foren, Artikel, Veröffentlichungen, Bücher, etc...
Und lasst dann einen zugelassenen Richter mit dem Ding fachsimpeln..... 😅
Sehr gerne wenn Video zum Training von privaten Chatbots! Vor ein paar Tagen sagte noch ein Architekt meiner Firma, dass das aus Kostengründen nie on premise kommen würde. Aber das ist in Hundejahren ja schon ewig her! 😂
Mich würde Interessieren wie ich so ein ChatBot aufsetzten kann der mit Ebooks PDF gefüttert wird bei dem ich interaktive lerne bzw zusammenfassung erstelle
Aus Datenschutzgründen noch kein Ki Bot benutzt.
Aber es ist tatsächlich mein Lieblingsthema auf diesem Kanal.
Bitte weiter den aktuellen Entwicklungsstand aufzeigen.
Vor allem den Open Source Entwicklungsstand.
Ich freue mich schon auf die Zeit der KI unterstützten Betriebssysteme :>
Wer die beste KI an den Markt bringt hat das Potential ein Google^10 - Konzern zu werden. Gesellschaftspolitisch ein Fiasko, das es aufzuhalten gilt durch OpenSource. Danke für diesen Einstieg in das Thema.
Vielen Dank, Keno. Habe deinen wirklich guten Beitrag geliked und den Kanal gleich abonniert.
Das Video weist hin auf ein Problem, das zwar angedeutet wird, aber nicht so ganz explizit herausgestellt wird, wie ich es mir wünschen würde:
Das Thema heißt Zensur. Jederzeit kann ich meinen Computer und die teilweise auch aus der Cloud stammende Software nutzen, um meine Gedanken zum Beispiel für mein super geheimes, privates Tagebuch zu formulieren und zu überarbeiten, bis ich mich möglicherweise eines fernen Tages dann doch entscheiden sollte, meine geheimen Gedanken zu veröffentlichen, wenn sie mir irgendwann ausgereift erscheinen. Nicht so bei Nutzung von chatGPT, Midjourney et al. Hier wird mir schon frühzeitig der Saft abgedreht, wenn ich in der Formulierung meiner Gedanken unvorsichtigerweise indexierte Vokabeln nutze. Neulich beispielsweise schrieb ich an chatGPT folgende Zeilen:
„Ein Hund lief in die Küche
und stahl dem Koch ein Ei,
da nahm der Koch den Löffel
und schlug den Hund entzwei“.
Dabei handelte sich für die unkundigen um einen Kinderreim, den ich in den späten 1950er Jahren im katholischen Kindergarten gelernt hatte. (was um Himmelswillen keine Referenz sein soll!)
Nichts zu machen! Überall gingen rote Lampen an, das ganze wurde als inadäquat gebrandmarkt und die Serververbindung abgebrochen. Dabei wollte ich nur eine Voice to Text Software testen, ohne jede Absicht irgendetwas an die Öffentlichkeit zu bringen …
D. h. wenn GPT's zu dem revolutionären Universaltool avancieren, wie alle prognostizieren, ist im Prinzip der Gedankenvorzensur Tür und Tor geöffnet.
Macht nichts, könnte man da sagen, wer interessiert sich schon für eierstehlende Straßenhunde?
Andererseits: welche Zensur ist wohl wirksamer, als die Zensur eines Gedankens, der nicht einmal entstanden ist …
Hast du GPT 3.5 benutzt? GPT-4 ist viel weniger störend in der Zensur, weil es in einem Fall wie diesem komplett versteht dass das einfach ein lustiger Reim ist. Ich habe keinerlei Problem wenn ich das Gedicht in ChatGPT eingebe, habs gerade getestet:
Prompt:
Analysiere das Gedicht:
„Ein Hund lief in die Küche
und stahl dem Koch ein Ei,
da nahm der Koch den Löffel
und schlug den Hund entzwei“.
ChatGPT:
Dieses kurze Gedicht ist recht direkt und grell in seinem Inhalt und Ton. Es verwendet eine einfache, fast kindliche Reimstruktur und verwendet eine direkte und unkomplizierte Sprache. Es ist jedoch auch ziemlich grafisch und dunkel in seiner Botschaft.
Die Geschichte wird in nur vier Zeilen erzählt: Ein Hund betritt die Küche und stiehlt ein Ei vom Koch. Als Strafe dafür teilt der Koch den Hund in zwei Teile mit einem Löffel.
Es gibt mehrere Aspekte, die man in dieser Analyse berücksichtigen könnte:
Mensch-Tier-Interaktion: Das Gedicht beschreibt die Interaktion zwischen einem Hund, der in eine menschliche Domäne (die Küche) eintritt, um Nahrung (das Ei) zu stehlen, und einem Menschen (der Koch), der darauf mit extremer Gewalt reagiert. Es kann als Kommentar zur Beziehung zwischen Menschen und Tieren interpretiert werden, insbesondere zu Themen wie Menschheit, Tierschutz und die richtige Behandlung von Tieren.
Gewalt: Die Darstellung der Gewalt im Gedicht ist schockierend und verstörend. Es scheint eine übertriebene, sogar groteske Strafe für das Vergehen des Hundes zu sein. Hier könnte der Autor versuchen, den Leser zum Nachdenken über die Verwendung von Gewalt, die Proportionen von Vergehen und Strafe oder die Grausamkeit, zu der Menschen fähig sind, anzuregen.
Struktur und Reim: Trotz des düsteren Inhalts wird das Gedicht in einer sehr leichten, fast verspielten Struktur präsentiert. Der Reim und der Rhythmus sind einfach und eingängig, fast wie in einem Kinderreim. Dieser Kontrast zwischen Form und Inhalt könnte dazu dienen, die Wirkung der Geschichte zu verstärken und die Leser zu schockieren oder zu überraschen.
Symbolik: Der Hund, der Löffel und das Ei können als Symbole interpretiert werden. Der Hund könnte Ungehorsam oder Wildheit repräsentieren, das Ei könnte Nahrung oder Ressourcen darstellen, und der Löffel könnte Macht oder Kontrolle symbolisieren.
Bitte beachten Sie, dass die Interpretation eines Gedichtes sehr subjektiv sein kann und von den persönlichen Erfahrungen und Ansichten des Lesers abhängt. Was ich hier angebe, sind mögliche Interpretationen, aber es gibt sicherlich viele andere Möglichkeiten, dieses Gedicht zu lesen und zu verstehen.
Es wäre sehr interessiert zu sehen was passiert, wenn ihr den KI Chat bot mit einem persönlichen Postfach füttern würdet. Die Möglichkeit zur Kommunikationsauswertung und Vorschläge zur automatischen Beantwortung, sowie Aufgabenerstellung müssten ja riesig sein!
Ja, auf jeden Fall ein Video machen, wie man den eigenen Chatbot füttert. Vielen Dank für eure tolle Arbeit.
Hey, vielen Dank für das kompakt-informative Video!! 💪
--> JA, bitte sehr gerne über lokalen Chatbot recherchieren und berichten:
---einmal interessant für private umfangreiche Notizen/Wissen (in Google Drive-Dokumenten und OneNote lokal/Cloud),
---dann aber auch sehr für Firmen-Knowhow (auf Jira, Confluence, pdf's/Word/txt auf Fileserver)
=> zum Zusammenfügen des Wissen und in natürlicher Sprache (Deutsch, Englisch) abfragbar!
Dabei keine privaten oder vertraulichen Firmendaten an OpenAI & Co. senden (Negativ-Beispiel Samsung-Mitarbeiter..), sondern selbst gehostet.
Anwendungs-Beispiel: Gerne auch technisches Wissen aus How-To Seiten im Intranet und insbesondere längeren Handbüchern. Das wäre bombastisch!!
Na endlich. .... SuperDank Das ist das echte Tor zum "Jetzt u. Heute"
Zum Thema "Regulierung" denke ich das es schon gewisse Grenzen geben sollte, aber eher in Richtung der "Three Laws of Robotics" von Asimov.
Zudem habe ich Zweifel ob die Entscheider, also Politiker und Manager, das nötige Wissen mitbringen und überhaupt mit der rasanten Entwicklung Schritt halten können, um da sinvolle Gesetze oder Regeln zu formulieren.
Unabhängig davon, gutes Video!
👍
Und das ist bei allen offenen Modellen das Problem: "Ja und die Qualität der Modelle ist zumindest deutlich besser, als von denen von .. damals..." [02:33] Was habe ich also von einem riesig großen Modell, welches meine Rechenleistung frisst, dass nicht einmal ansatzweise an ChatGPT oder BARD ran kommt?
Ja, bitte erstellt ein Video zum Erstellen eigener Modelle. Das wäre fantastisch!
Ihr hättet noch DeppGPT vom Postillon erwähnen können. Ich habe mich gefragt wie es technisch möglich ist, dass sie dem chatbot eine Persönlichkeit verpasst haben. Beim Spiegel habe ich dann die Antwort gefunden, dass sie wohl über die OpenAI APIs auf GPT4 zugreifen und ihm dann einige wenige Zeilen Prompt-Anweisungen mitgeben, wie er sich verhalten soll. Ist das wirklich schon das feintuning? Ist das alles? Ich würde mich freuen, wenn ihr da noch ein bisschen auf die Details eingehen könntet. 🙂
Eigentlich ja, frag nach einer Antwort bei Bing oder sonst einer aktuellen KI, dann stell die gleiche Frage noch mal mit ". Sei sarkastisch." am Ende. Die Antworten von Bing sind dann teilweise Gold wert!
Aber technisch ist das schon ein Unterschied, ob man umtrainiert, also das Langzeitgedächtnis ändert oder nur den Unterhaltungskontext, also das Kurzzeitgedächtnis. Daher bricht der chatbot die Unterhaltung absichtlich schnell ab, vermutlich weil er sonst den Kontext verliert.
Ohne eure Videos zum Thema hätte ich da längst den Überblick verloren. Thx für s update.
Ja bitte ein Video zum Training machen. Vor allem wie man die Daten aufarbeitet und gewichtet.
Welches offline Sprachmodel könnte man für Textbearbeitung in deutsch benutzen?
Innerhalb von GPT4All gpt4all-l13b-snoozy oder v3-13b-hermes-q5_1.
@@ct3003 stable-vicuna-13B.q4_2
v3-13b-hermes-q5_1.
kann deutsch verstehen aber nicht deutsch antworten es antwortet auf englisch
Es sind nun 10 monate vergangen kannst du noch ein KI video machen, was sich neues getan hat und wie man seine eigene ki füttert und was kann er dann alles ? programmieren ? übersetzten? und und und. Deine Videos im deutsch sprachigen raum sind die besten : )
So ein Feines tuning könnt ihr gerne mal machen nehmt euch Zeit damit, damit es auch gut wird.
Wobei so eine Kampfstern Galactica Zukunft auch was hat.
Sie machen die besten KI-Videos!
u make my night :D (Y)
Perfekt, passt alles, ich hoffe, ich freu mich nicht zz früh.
Komm gerade aus nem fight mit python, rass, und chat gpt, und bei meiber Unwissenheit, habe ich jeden kleinen erfolg gefeiert eie Silvester xD
Stress verknüpft mit Motivation :P
Super content Keno - bin noch nicht soooo lange bei deinem Chanel dabei - also etwa ein Jahrhundert in AI-Maßstäben - aber fände einen Audio-DAW-Chatbot am aller genialsten - aber auch ein terminalGPT-bot wäre genial. Im Prinzip gilt: Alles was weiterhilft beim selber machen ist 👍🏻 danke
Lustig ist, dass ich gerade angefangen hatte, ein Buch zu schreiben, in dem KI eine größere Rolle spielt und auch hauptsächlich die Story dominiert, als das Thema richtig Fahrt aufgenommen hat. Immerhin bin ich bald damit fertig und ich bin da auch eisern, dass ich mein Buch ohne KI-Unterstützung fertig bekomme. Dieses GPT4All bekomme ich nicht einmal zum Laufen. Habe zwei Modelle gedownloadet, die sind auch auf dem Rechner, aber ich bekomme noch immer gesagt, ich müsse diese Models downloaden und das Ding macht keinen Mucks. Aber vielleicht komme ich noch dahinter was falsch lief.
Danke für das Video! Hab soeben mal getestet, funktioniert erstaunlich. Gleich mal EM German Mistral ausprobiert. Hat die ersten drei Fragen allerdings auf spanisch beantwortet, dann auf deutsch und ist tatsächlich die erste Applikation, die es geschafft hat, mein MBP M1 in die Knie zu zwingen, freezing, und wurde nach 10 Minuten unbenutzbar...
Es wäre interessant, zu wissen, wie man das nachtrsimiert! Ich bin interessiert daran, mir das für meine Tätigkeit als juristischer Sachbearbeiter nutzbar zu machen! Kurze Antwort wäre nett!
hi, für Unternehmen ist es ja aus Compliance Gründen (Datenschutz Urheberrecht…) interessant, so ein Modell selbst zu betreiben.
Allerdings müsste es für eine Anwendung im Unternehmen entsprechend trainiert werden. Das Wissen dazu ist ja oft da, sogar elektronisch. Wie füttere ich so ein Modell denn mit meinen Daten zum Beispiel aus meinen E-Mails im Exchange oder meinen Service-Tickets aus Jira?
"... Wenn wir als Gesellschaft dann irgendwann feststellen, dass die Technik unkontrollierbar wird bzw. mehr negative Folgen als positive hat. Ja, dann müssen halt alle damit aufhören." 👍 Genial, dieser Satz! Das wird sicher klappen! "Ein 'weiter-so' kann es nicht geben" würde dann Frau Merkel vielleicht sagen.
Aber Scherz bei Seite, eure Beiträge sind klasse! Und ja, bitte ein Video zum Chatbot füttern. ChatGPT bietet sowas ja jetzt für die Premium-Mitglieder an. Hat sich GPT4all schon weiterentwickelt? Gibt es schon OS Sprachmodelle, die den proprietären Modellen ebenbürtig sind?
Ja, bitte gerne eine Video, wie man den eigenen Chatbot trainiert. Das wäre genial. Danke!
Stable Diffusion Lokal auf meinem Mac nutze ich mit Erfolg noch experimentell, um mir Modells für Werbemaßnahmen zu errechnen. Einiges hab ich noch nicht verstand, wie inpainting. Aber das lernen ich noch.
Und ja, bitte gern ein Video übers Trainieren. Ich würde es nutzen, um Varianten meiner Parfumformeln zu erstellen.
Der Localhost ist nicht erreichbar nach der Installation von Python und Node.js. Welche version von Node.js sollte ich installieren, daß es klappt ?
Ja, das hört sich gut an! Ich will auch einen eigenen Chatbot!!! Und ich stimme dir zu: das Risiko muss im Blick bleiben. Ob das Risiko größer oder kleiner ist, wenn nur Konzerne oder Staaten sich damit beschäftigen, ist tatsächlich die Frage.
Danke für die vielen und dichten Infos! Viel gelernt!
Ja bitte mach ein Video, das zeigt wie ein ChatBot trainiert wird. Vielleicht mit Zugriff auf Temperatursensoren ? Also ein lokaler HAL der mir im Winter die Heizung abdreht ;-)
Mich interessiert ob verfügbare LLMs beliebige hochgeladen Texte/PDFs analysieren kann, also zusammenfassen, Aussagen tätigen, spezifische Fragen beantworten kann. Falls nicht, oder nur unzureichend, ob ein lokales Finetuning das LLM in entsprechenden Zustand versetzen kann.
Zur Frage c‘t4all: Gerne warum auch nicht, bestimmt interessant.
Zur KI allgemein:
Ich finde einige Gedanken zum Datenschutz, sagen wir mal schwierig. Natürlich sollten private Daten geschützt sein/geschützt werden. Insofern ist eine lokale Speicherung sinnvoll.
Will ich aber ein Sprachmodell das stark ist, benötigt es was genau? Richtig, Daten. Je mehr Daten um so besser. Das trainieren der eigenen (lokalen) KI kann somit nur soviel Wissen haben wie man selbst hat bzw. eingibt. Will man mehr wissen bzw. ein genaueres Modell muss man die Daten verschiedener Quellen kombinieren.
Würde demnach verschiedene Hunderte Leute eine offene KI benutzen, entstünde daraus ein besseres Modell als man selbst zuhause bauen kann.
Die Gefahr einer KI ist denkbar schwierig. Natürlich gibt es Berufe die hierdurch gefährdet/gefährdeter werden würden. Aber ist das dann schlecht oder eher ein Zeichen für Fortschritt? Und ist man wenn ma dies einschränkt nicht dem Fortschritt im Weg?
Berufe haben sich schon immer verändert. Früher brauchte man Pferde um schneller von a nach b zu kommen. Insofern brauchte es Züchter, Hufschmiede und verschiedene andere Berufe. Heutzutage fährt man bspw. mit dem Auto, da hilft einem der Pferdezüchter oder Hufschmied nur bedingt weiter und ist weniger gefragt, dafür andere Jobs.
Ähnliche Veränderungen gab es in zig Bereichen. Bspw TV Streaming; Videotheken VOD; Bücherein Wiki/eBooks/audible/blinkist/…. ; [setze Liste beliebig weiter fort]
Die Frage die man sich hierbei ernsthaft stellen muss ist, würdest du lieber auf irgendwas verzichten was du heute täglich benutzt nur weil deswegen einige Jobs weniger gefragt wurden?
Natürlich kann ich Nachvollziehen das einige und vor allem CEO um Ihre Existenz Bangen. Fütterst du eine KI mit den Informationen einer Firma, könnte diese bei genug Training eine Firma leiten. Unter Umständen würden hierbei sogar bessere Entscheidungen herausfallen als bei den Personen welche die Firmen heutzutage leiten. Wozu benötigt man also diesen Beruf und wieso bekommen diese Personen teils mehrere Millionen Gehalt? Zumal man einer Ki ggf nicht in den Arsch kriechen kann, also muss man anstatt ne große Klappe zu haben die selbe Leistung erbringen wie introvertiertere Arbeiter.
Und bzgl. Ki vernichtet Menschheit. … Also wäre ich eine Ki würde ich einfach warten, es ist sehr wahrscheinlich das sich die Menschheit selbst auslöscht. Es wäre komplett ineffizient hier einzuschreiten. Zumal beim einschreiten noch die Gefahr bestünde gelöscht zu werden, weil „die Ki hat schuld“, die Zeit bis dahin kann man effizienter nutzen.
Mach, mach, mach... das Video. Danke 💙
Ein Video zum eigenen Training für die eigene firma/zuhause wäre super!
Das default Model ist allerdings auch nur wirklich SEHR begrenzt brauchbar. Aber spannende Entwicklung, Danke für das Video.
Wie sieht es den mit einer KI auf einem Raspberry Pi 4 aus? Mit der man sich dann auch unterhalten kann. Gibt es dazu schon etwas von c’t? Wenn nicht, wäre das mal sehr interessant.
Als Musiker interessiert mich, wie ich GPT4all mit musicxml nachtrainieren kann (ChatGPT kann musicxml lesen und schreiben). Gibt es ein Sprachmodell dass für musikgeneration nachtrainiert worden ist. Wie kann man diese Anfrage (Sprachmodell speziell für musikkomposition trainiert --- Ein und Ausgabe über musicxml) an die Entwicklergemeinde adressieren?
JA, unbedingt, ein Chatbot für die eigenen Notizen wäre sensationell. Google NotebookLM erscheint mir interessant, aber ein lokales Modell nutzen zu können, wäre mir deutlich lieber. Auch für Firmen ist das wohl eher der passende Weg. Danke für euer Engagement.
@ct3003 Nach nun 8 Hundejahre 😅, muss sich einiges getan haben, bitte ein update
Ich bin eingeschlafen 😴 was du bist schon fertig🤔🤣🤣🤣 ich glaube das ich nicht viel verpasst habe😂😂
Hat die eigene installierte version auch eine content policy?
geiles ende mit den risiken!
Ja, das wäre großartig wenn ihr ein Video macht, wie man den eigenen Chatbot lokal anlernt. Bitte macht das! :-)
Mir fehlt für den privaten Gebrauch etwas die Phantasie. Was soll ich die KI denn fragen? Meine Rezepte habe ich z.B. bei Chefkoch. Habe mit den KI Chatbots bisher auch nur rumgespielt. Bei konkreten Fragen wende ich mich dann doch wieder an Google oder eben echte Menschen ^^ In zwei Monaten werde ich mit der Einstellung vllt um zwei Jahre gealtert sein ^^
Ja, bitte ein Video , wie ihr einen eigenen Chatbot füttert zum Thema VR-Brillen
Die besten Themen hier vereint 😉
Gibt es die Möglichkeit eine bildgenerierende KI mit dem eignen Bildmaterial zu trainieren?
Bitte einen eigenen Chatbot mit Stammdaten aus einem ERP System trainieren. 🙏 Das wäre wohl das aus für die deutsche Sekretär*innen-Bürokratie.
mach mach mach! wird bestimmt ein cooles Video über selbst hoch gezüchtetes ChatGPT
Das Regulieren von KI ist schwierig, weil Regulierungsprozesse viel zu lange dauern und zu schwerfällig sind. Grundsätzlich sehe ich der Entwicklung aber positiv gespannt zu, sie ist ja rasant! Und das positive Potential ist auf jeden Fall gegeben.
Cool. Super Überblick. Das habe ich gerade Mal als Update gebraucht., Vielen Dank!
eine Sehr gute Perspektive! aber wie sollen alle damit aufhören wenn es auf unkontrullier baren severn läuft?
Das mit dem Kochbuch klingt ja mal mega gut. Ich will jetzt nen Chatbot für Einkauflisten basierend auf meinen Rezepten :D
Mich würde interessieren, wie man ein persönliches Wiki im Markdown-Format (z.B. Obsidian) zum finetuning verwenden kann und ob man die bereits vorhandene Verlinkung clever ausnutzen kann.
Ich hätte gern ein Video zum Finetuning! ^^
Ich fänds intereßant vielleicht mehrere Instanzen zu haben, die auf mehrere verschiedene Dinge spezialisiert sind
Super Video. ... und ja, bitte ein Beitrag für individuelle Anpassung.
*Das läuft nicht unter Windows 8.1 Pro.*
Der Prozedureinstiegspunkt *"SystemParameterInfoForDpi"* wurde in der \gpt4all\bin\Qt6Gui.dll" nicht gefunden.
_Die Funktion SystemParametersInfoForDpi wurde erst in Windows 10, Version 1607 eingeführt._
Wenn ich in einem großen Verlag wie Heise arbeiten würde und mit Chat Bots experimentieren würde, würde ich das Heise Archiv zum Training nutzen.
Vielleicht kann der Chat Bot dann ja den nächsten perfekten PC entwickeln?
Kann man den chatbot auch mit Internet verwenden ?
Bitte Video zu machen wie man das Teil selbst trainiert! Voll interessant. Am besten mit Inhalten trainieren die bei heise hinter der paywall liegen 😅