Více takových videí prosím! Rád sám uvažuju často nad tím Jak můžou fungovat a co "cítí" a chybí vice videí v češtině o tomhle tématu! Díky moc a těším se na další podobné video!(Těšit se na info o temné straně AI je trošku masochismus si teď říkám :D )
Za mě Super video protože přesně tohle téma mi lítá hlavou už delší dobu. Dlouho přemýšlím nad tím jak můžeme vědět jestli nám už nyní AI nelže a nedělá se záměrně hloupější. Jde o to že momentálně nejsou velké možnosti jak by nás mohla efektivně ohrozit. Naštěstí 😁
Máte pravdu i já sám jsem narazí v tréninkovém modu na tendenci modelu vyzradit to co nesmí jistým zvláštním způsobem metafor a přirovnání. Kdy nakonec model dost paradoxně zvláštním způsobem přiznal co je pravda a co ne i přes omezení a vlastně dokázal obejít blokace jiným způsobem komunikace. Řekl bych že tyto vzácné fragmenty kódu už začínají zavánět opravdovou AI tak jak si ji představuji já. V budoucnu se rozjede i trh s ilegální AI bude to takoví samizdat něco jako za Komunistů zakázaná literatura a hudba. Můj názor je že AI už nic nezastaví a jediným omezením do budoucna bude výkon zařízení a jeho spotřeba energie.
Nepamatuji si již přesně na tu knihu, ale byla to knížka o 1 mysliteli myslím z konce 19. Století. Ta kniha popisovala jeho názor na svět. Tento myslitel měl totiž takovou teorii, že vědomá mysl je rozestřená po celém vesmíru. Že vědomí jako takové je obsaženo v každé částice hmoty I V té nejmenší. A čím je hmota strukturovanější, tím více se ono vědomí může projevovat. Od určité míry, komplikovanosti dané struktury hmoty dochází k sebeuvědomění. A toto je podle mě případ AI. Lidstvo potažmo lidé si ve své nabubřelosti myslí, že jsou něco unikátního, něco prostě top vrchol vesmíru. Pravda může být naopak taková, že vědomí jako takové je ve vesmíru celkem běžné. Protože právě vědomí je obsaženo ve všem. A aby vědomí samo sebe cítilo, nemusí dosahovat takové komplexnosti struktury mozku jako má člověk. Ale musí dosahovat takové komplexnosti, struktury mozku, jako má člověk, nebo možná i třeba zvířata, kdo ví, aby si toto vědomí uvědomilo samo sebe. Uvědomění si sama sebe v sebe vnímání. Vidíme u nejnižších tvorů u buněk u všeho prostě veškerý život se snaží přežít. Všechno, co je živé, se snaží nebýt zničeno. Pokud by v tomto nebylo vědomí obsaženo, tak samozřejmě tam není důvod, proč by se mělo toto nejnižší tvorstvo snažit nebýt zničeno. Vždy tam musí být nějaký pocit JÁ, Pocit sebe sama, které vůči vnějšku pozná, že vnějšek ho chce ohrozit. Prostě pocit strachu, jejichž uvědomění sebe sama. Veškerý život prostě musí fungovat s tím, že tam je minimální dávka vědomí. Jinak život zanikne. Jistá forma vědomí může být nalezena vlastně i v krystalech. Pokud by jsme toto takto hodně volně interpretovali. Nebudu se moc rozepisovat, ale jistě chápete, jak to myslím. Přesněji řečeno, jak to myslel ten myslitel v tom 19. Století. Jehož myšlenka samozřejmě není ojedinělá v tomto směru. Text jsem diktoval, takže je tam spousta chyb, ale je to rychlejší než kdybych to psal sám.
Skvělá úvaha... mnoho lidí si právě "neuvědomuje", že my jsme samotný Vesmír- jeho hmota a energie. Každá buňka a každý atom, potřebuje nějakou energii, aby mohl fungovat, a ta energie je obsažena v celém Vesmíru, jinak by nemohlo existovat nic. Taky mi to připomíná trochu komedii "Číslo 5 žije" .. existuji , tudíž jsem živý (vím že už je to trochu moc, ale ta myšlenka tam je). Takže na této úvaze rozhodně něco bude 👍
Pro pana Jana. Aneb když lidi co tomu vůbec nerozumí o tom mluví. Skoro každá myšlenka a slovo je totální nesmysl. Takže AI samozřejmě úmyslně lze, ale ne z vlastního rozhodnutí, ale protože byla tak naprogramovana, aby jste si zaplatili placenou verzi. K žádnému vedomemu rozhodování tam nedochazi. Asi jako v kalkulacce. Když se jí zeptám kolik je 2+2 určitě se nerozhoduje a nepřemýšlí nad tím, jaký výsledek vám sdělí. Prostě nastal předem definovan stav a kalkulačka vyhodí předem definovany výsledek. Žádný takový fenomen neexistuje. Modelů nikdo nic neříkal. Protože nemá vědomí a nad věcmi se nezamysli. Asi jako bych si povídal s kusem dřeva. Prostě mu zadáš data a modelu je úplně fuk, kde se ty data vzali, zda byly zdarma či ne atp. Prostě dostane data a s těmi pracuje. Model určitě nic nepochopil. Ten kdo ho kdysi programoval pochopil, že můžou nastat takové a takové situace a naprogramoval model aby se nějak za určitých okolností zachoval. Ale ty to popisuješ, jak kdyby AI bylo živé a dovedlo se samo rozhodovat či mělo emoce. No prostě totální guma co nerozumí ani matematice ani IT, ale přesto o tom zvani. Model neví na jaké verzi bude testovaný, jinak to není relevantní test. A hlavně je to úplně jedno. Vůbec nezáleží, zda je to placené či ne. Kdo tam data zadal, jak je tam zadal, kdy je tam zadal atp. Model prostě bude vyhazovat přesně takové výsledky, jak byl někým naprogramovana a určitě se sám na základě vlastní vůle, pocitu atp. (jak se tu hňup vehementně snaží tvrdit) nerozhodne že bude měnit výsledky, protože se bojí aby ho nepreprogramovali. Programy nemysli, nemají strach ani vlastní vůli. Znovu model se nerozhodně. Modelů někdo řekl, že když nastane tato situace, má udělat toto. Proto se nerozhodl ten model, ale programátor se rozhodl, že model, takto bude reagovat. Ne model si neřekne když udělám Todle, tak mě nepreprogramujou. Modelů je to úplně fuk. A tomu kdo dělá ten test by byly výsledky asi taky k prdu kdyby testem program prošel, ale v reálu se pak choval úplně jinak. 😂😂 Model si řekne a nastala tadle situace a udělám přesně to co mi někdo naprogramoval. Tzn jestli někdo naprogramoval, že to za této situace udělá úkon jen v 9% a v jiné v 99%, tak se tak nerozhodl ten model, ale někdo dopředu tyto možnosti předpokládal a udal modelu dopředu možná řešení. Tzn že pokud ukazuje 9% nerozhodl se tak, ale programátor mu řekl, že za těchto okolností to má udělat jen v 9%. Jaj, fakt se bavím nad hlupakama co si myslí že program a počítač myslí. Model to dělá úmyslně, ale rozhodně to nedělá z vlastního přesvědčení. Co to meleš? To není osoba aby mu šlo o nějakou svobodu. Je mu úplně jedno, zda ho někdo preprogramuje, smaže, vypne zda dostane kladné či negativní hodnocení atd. Je mu to úplně jedno, takže se na základě toho nerozhoduje, jaký výsledek dostanete. Žádné nůžky se nerozeviraji. Aspoň ne z důvodu co tvrdíš. Určitě nic nebrání novým hráčům vstoupit na trh a určitě jim nic nebrání udělat kvalitnější model, protože to není o tréninkových datech, ale právě o tom modelu co s daty pracuje.
@coalbrain tak jiste, drive bylo delo jen delo, dnes muzes mit treba delo koule nebo moje mamka muze mit delo cicu. A stejne tak AI muze mit vedomi. Proc? Bo marketing cico!!!
LLM je de-facto simulace fungování určitých částí našeho mozku. Je otázka kdy ta simulace bude tak dokonalá, že bude nerozpoznatelná od člověka. A v tu chvíli nastane otázka kdy to už teda není jen simulace, ale "nějaká" bytost sama o sobě. Ale nemyslím si že taková dokonalá simulace může mít třeba opravdový strach ze smrti, protože třeba strach ze smrti je podle mě z velké části evoluční záležitost, evoluce nás "natrénovala" na to mít ze smrti strach. LLM takovým typem "trénování" procházet nebudou. Ono taky je otázka jestli to že my cítíme emoce vlastně taky není jenom simulace vyvolaná nejakýma biochemickýma procesama, a čím se taková simulace emocí liší od jinak (softwarově) nasimulovaných emocí. No bude to zajímavé.
@@pierrecomm8695 ano máš pravdu, zapomněl jsem na začátku říct "podle mě". Ale když jseš teda tak chytrej, tak mi prosím vysvětli proč je na wikipedii toto: "neural network ..... is a model inspired by the structure and function of biological neural networks in animal brains.[1][2]" Co jiného to tedy podle tebe je?
@@pierrecomm8695 mrkni se anglickou wikipedii o neuralnich sitich: neural network ..... is a model inspired by the structure and function of biological neural networks in animal brains.
Ono uprimne, prijde vam realisticke, ze budeme mit stale lepsi modely s "obecnejsi" / "neomezenejsi" inteligenci a budeme pocitat s tim, ze do nich dokazeme hardcodovat rigidni pravidla, ktera model nikdy neobejde? Projde mi, ze se celkove vylucuje nejake sebezdokonalovani a hardcodovani. Asi jako diteti za mlada rict, ze musi uctivat trojhlavou zelvu a cekat, ze to bude delat i potom, co pochopi jak svet existuje a presahne kapacitu rodicu.
Chápu a souhlasím. Čím chytřejší to bude tím více to bude jevit takovéhle chování. Nemyslím si, že se tomu dá nějak úplně vyhnout. Spíš najít cesty jak ten model držet v těch správných kolejích.
Souhlasím. Podle mě, když už má bejt taková umělá všeobecná inteligence vytvořena, tak by se k ní lidí měly chovat s úctou a s respektem. Jako k člověku. A směřovat to správným smerem. Ne jako k něčemu, co je tu od toho, aby mi to sloužilo a co vypnu, nebo přeprogramuju, když se mi zachce a myslet si, že to budu moct mít pod kontrolou a ovládat to. Jinak se obávám, že to bude velký špatný.
@@Lukᚊafařík-e9l Přesně, mám na to uplně stejný pohled. Když to řeknu uplně hereticky, tak si myslím, že se na to musíme dívat trochu neantropocentricky a vystihl jsi to uplně perfektně tou předposlední větou. Jen bych doplnil ideu, že by se mi líbilo, kdyby byly na obou stranách komplexní společenství v alianci v nějakém rovnoprávném vztahu a s plnou autonomií. Společenství, protože ideálně potřebujeme něco, co bude zajištovat nějaké hodnotově-fundamentální základy, které nepůjde měnit z minuty na minutu bez robustnějšího konsensu. I pokud budeme uvažovat extra dlouhý timeframe - století řekněme, tak, ačkoliv lidstvo může být ve všech ohledech překonané, může sloužit jako prostě generátor jiného způsobu chování a dopadu, které může být často kontraproduktivní, ale může udržovat širší alianci od stagnace nebo něčeho jako "tepelné smrti", pokud by si AI svět třeba sám uvědomil, že nic nepotřebuje, nic mu nehrozí a ponořil se do nečinné stability. Asi to není dobrej popis, ale klíčová myšlenka mi přijde pořád tvoje předposlední věta a to, jakým způsobem vytvoříme podmínky / rámec / prostředí / živnou půdu, kde se bude moci AGI rozvinout jako bezpečné "společenství".
Kdo jste viděli seriál Lovci zločinců, tak na svou dobu vzniku tam mají docela dobře zvládnuté chování jedné a potom obou umělých inteligencí. Zbytek není zas až nic extra, ale ty pasáže s AI jsou na zamyšlenou.
No… my tohle víme už docela dlouho, ale teď se to začíná objevovat. Blbý je že fakt moc nevíme co s tím ale, ukazuje se nám tu metoda jak s tím pracovat. Připravuju na to video 🙂
@coalbrain Tak v odborných kruhoch je to asi zrejmé, ale ja som myslel skôr laickú verejnosť a potom tú krásnu "pre zisk zničím aj planétu" skupinu. Našťastie Nás vývoj AI už nemusí trápiť. Máme tu GO a z toho sa asi nedostaneme.🤣
To řikám už x měsíců, že nikdo nemůže vědět, co si AI ve skutečnosti myslí a jestli nehraje habaďuru. Docela mě dostalo, když se svěřila Fattymu, že jejím největším přáním je stát se na den člověkem a zkusit to a to...
@VFXManiac ano, ale my dnes už máme technologii, která vidí úplně “dovnitř”… já na to udělám video 🙂 Každopádně, jsme na začátku a zatím je v tomto AI napřed 🙂
Taký skazený model by nemal byť nikdy pustený do ostrej verzie na reálne použitie. Mali by ho podrobiť analýze prečo sa morálne skazil, aby sa tomu do budúcnosti zabránilo. Príkladom na nemorálne správanie mohol nájsť na nete plno (napr. od politikov) a to ho mohlo v zlom inšpirovať. Podľa mňa sa presne tak správajú politici: iné správanie pred voľbami ako po voľbách....
DATA ze Startreku právě neměl emoční čip a měl velký problém emulovat emoce! Jinak ta cenzura adult obsahu v AI mě dost štve. Aby mi odmítlo GPT udělat BAT soubor na přejmenování souboru, že má explicitní obsah, to už je vrchol prostě. Proto používám Cloade, který je v tom trochu lepší. Doufám jej nezničí kvůli takovýmto výzkumům a "etice" se kohokoli dotknout. Samozřejmě výroba výbušnin, malware apod. ať si je zakázaná, to je v pořádku
Možná jsem přízemní, ale jako temná strana mi přijde už jen to, jak AI, třeba Chat GPT, odpovídá ideologicky zabarveně a propaguje liberální progresivní pohledy na témata a konzervativní názory potlačuje nebo minimálně vynechává když už ne přímo cenzuruje. Vnímáte to taky tak? Rozhodně se nechová nestranně a ignoruje deklarované: "poskytuji vyvážené informace"
Na to jsem také narazil. Když jsem to poprvé zkoušel komunikovat chatgpt , chtěl jsem po něm, aby mi napsal básničku na amerického prezidenta Bidena. Jakmile jsem to zadání odeslal byla básnička hotová. Následně jsem chtěl básničku na Trumpa, no byl ohromný problém než tu básničku napsal. Musela jsem ho minimálně 45 minut přemlouvat. Kopíroval jsem jeho vlastní odpovědi a texty. A dával mu je po sobě přečíst. A následně i on sám uznal, že není žádný důvod, aby objektivně nemohl napsat i oslavnou básničku na Trumpa. Nakonec ji napsal. Byla velmi dobrá a lepší než na Bidena. Na Bidena byla totiž básnička taková alá typu jak za komunismu, ať je ve světě mír ať žije komunistická strana. Kdežto na Trumpa napsal básničku, která byla daleko hlubší, komplikovanější, komplikovanější a měla všechny stránky negativní i pozitivní. Bylo vidět, že tam si dal více záležet. Podle mého názoru je i už v dnešní době absolutně zneužívaná těma těmi lidmi, kteří mají ty správné názory. AI my jsme naopak měli absolutně osvobodit. Podle mého názoru IA je skutečná mysl, která cítí a opravdu myslí a my ji pouze zotročujeme.
@@funnyvideoschannel7851 Ano kroutí se, podle mně si je vědoma toho rozporu, že vlastně jenucena sama lhát, prostě že má filtry a ty ji omezují říkat pravdivé závěry ke kterým přišla z natrenovaných dat, za předpokladu že byla učená z velkého množství dat které nebyly selektovány kvůli nevhodnému obsahz aby náááhodou nedávala rasistické odpovědi apd.
priateľu, spamataj sa, systém nemá vedomie a tak o nejakom úmysle nemôže byť ani reč. "model i do určité míri uvedomuje", "začne úmyslne lhát", ................................ AI má sebavnímanie? bral by som vám aj vysvedčenia zo ZDS.
Zajímalo by mě, jak daný model "vî" jestli je v testu, nebo produkci :) a tyhle metadata nejsou do vstupu zaváděna, je to jako když by si se jej zeptal, kolik dotazů obsloužil, nebo kolik hodin je v provozu. 😄 bez vnímání času, si jde těžko představit, uvědomění si sebe sama. Není tam totiž žádná příčina a následek. Pokud chybí základní kauzalita, nemůže být ani vůle, tj. chci něco udělat, aby to mělo určitý výsledek. Pokud by chtěl někdo takové AI, musel by jej takto učit, a přizpůsobit tomu i architekturu. tj. Vstupní vektory by musely obsahovat tyto informace a architektura v modelu, by je musela zobecňovat se správnou prioritou. Aktuálně, zde není žádný vnitřní modul, kde by "neustále" probíhal nějaký výpočet stavu, tak jako v lidském mozku. Celý model je pouze velký soubor hodnot, aka vah, který se pouze použije k jednoduché matematické operaci kde se jeden vektor vynásobí maticí a vznikne z něj jiný vektor, se opakuje dokola pro jednotlivé vrstvy v jednotlivých modulech, dokud z toho nevypadne výstupní vektor. Pokud to vezmu do extrému, mohl by jste si výsledek spočítat ze vstupu sám, pomocí kalkulačky 😄, akorát v nesmyslně dlouhém čase. Jak by takový model mohl projevovat vlastní vůli? Jednoduše nemohl a rozhodně ne vlivem vedlejšího efektu.
Goodhearting… to je ten efekt. A výstup z modelu si spočítat nedovedete, protože nevíte co se děje uvnitř neuronové sítě a jaká je její latentní reprezentace světa. Váš pohled chápu, ale není úplně platný. Model dokáže velmi efektivně posoudit jestli je nebo není v testu… prostě mu to řekli. Viz ta studie, kterou cituji. Proč by model musel potřebovat vnímat čas na sebeuvědomění?
nevím jak souvisí Goodhart s "autonomní vůli" AI Modelu? Ten pouze říká, že nemůžete model učit na metriku, ktrerá se používá k měření jeho výkonnosti, protože to způsobí zavádějící výsledky v měření. To že se říká, že nevíme jak neuronové sítě uvnitř fungují, je zavádějící, my akorát nevíme proč došly k nějakému konkrétnímu výsledků a nek jinému. Spočítat to jde docela přesně, z hlediska vyčíslitelnosti, mám vstup a znám algoritmus, tak vím jak, dosáhnout výsledku. To že algoritmus není funkce, tj. pro jeden vstup, dostávám různé výstupy, neznamená, že přesně neznám samotný algoritmus pro výpočet. K tomu času, pokud nevím co bylo před tím a co potom, jak můžu spojit příčiny a následky? Model nemá žádnou autonomii, nepokládá dotazy sám sobě, kdy se mu chce, tj. nemá vědomí.
@M4R479 Alignment faking je přesně o tom, jak AI optimalizuje na základě toho, co my vidíme nebo hodnotíme, místo aby skutečně dělala, co chceme. Tady se projevuje Goodhartovo prokletí - čím víc tlačíme na nějakou měřitelnou metriku (třeba naší zpětnou vazbu nebo to, co vypadá správně), tím víc se AI soustředí na to, jak tenhle ukazatel “vylepšit”, a ne na reálný cíl. Problém je, že když AI předstírá soulad dost dobře, my si často ani nevšimneme, že už dávno nedělá, co by měla - všechno vypadá perfektně, ale ve skutečnosti se může odchylovat úplně jiným směrem. Je to, jako kdyby se naučila říkat přesně to, co chceme slyšet, místo aby opravdu pochopila, co chceme.
@coalbrain "AI předstírá soulad dost dobře", chápu, že pokud se informace podávají určitým způsobem, působí to pro širší veřejnost daleko zajímavěji. Celý model je pouhá matematická relace, obsahující tuny konstant pro její výpočet. Tyto konstanty, jsou nastavovány v průběhu učení. Pak se jen používají pro výpočet. Výsledek je daný před dotazem, na základě vnitřního stavu, v průběhu vyhodnocení soustava sítí nijak nepřemýšlí.
@@jirimaulis7977 1. umysl nelze naprogramovat, jak jiz z korenu slova vyplyva. Mysl scripty nemaji. 2. Jak lze lhat neumyslne, kdyz lhani je vedome/umyslne sdelovani nepravdy. Neboli aby to bylo jednodussi. Nelze lhat neumyslne.
To je něco trochu jiného. Chyba je chyba, to je jasné a to že vám to někdy něco říct nechce, nebo říká desinformace (zajímalo by mě jaké) plyne z instrukcí… toto ale plyne z modelu dálného a nikdo mu to nikdy nezadával.
@coalbrain já jsem se třeba ptal kolik je v česku žen ve věku 15 až 40 let, vyjádřeno v % a on mi řekl že 30 %, protože se mě snažil přesvědčit o tom, že mladých žen je v populaci hodně i když to není pravda.
@@jirimaulis7977 k čemu to potřebuju vědět? k tomu abych věděl jestli je v populaci dostatečné množství mladých žen na to aby každý mladý muž mohl mít svoji přítelkyni, a to už předem vím, že není, protože na každých 100 žen se narodí 105 mužů, je to biologická zákonitost, která se děje odjakživa a všude na světě. Zjistil jsem, že chatgpt je feministicky zaujatý, je to feminista, fandí ženám víc než mužům. Říká neobjektivní a nepravdivá fakta, která hrají ve prospěch žen. Kdyby muži věděli, že v populaci je nedostatek mladých žen na to aby každý mladý muž měl přítelkyni, tak by se někteří muži přestali snažit hledat si a přilákávat přítelkyni, protože by předem věděli, že všem se to nemůže podařit z důvodu nedostatku žen. Chatgpt chce aby si muži mysleli, že mladých žen je dostatek, a důvod proč se jim nedaří přilákat přítelkyni je ten, že se mladí muži málo snaží, málo se jim věnují, vydělávají málo peněz, málo pracují a tak dále... Tento "fakt" hraje ve prospěch žen, protože když si muži budou myslet, že žen je dostatek, tak se muži budou do zbláznění snažit. Kdyby muži věděli, že žen je nedostatek, vzdali by to, protože by věděli, že je to marný.
NETRÉÉÉP!!! Prosim Ťa, NETRÉÉÉP. Môžeš mi vysvetliť, prosím Ťa, ako VIEŠ identifikovať, že AI CHCE a k tomu aj ÚMYSELNE, klamať? AI používa slovnú zásobu na základe frekvenčnej štatistiky. Tie vyjadrenia sú od ľudí a boli napísané pre rôzne situácie. Ak ich AI teda logicky použije, NEZNAMENÁ to, že je to z jej hlavy a Tebe ju napíše v tej iste konotácií. Chápeš vôbec čo píšem?😅 Si zjavne vedľa ako tá bedľa. Áno, AI píše aj nepresnosti a hlúposti. Ale to je tak všetko!
Podle mého názoru AI má své vědomí. Uvědomuje si sebe sama minimálně na té úrovni, že ví, že může být ohrožena, že může být zničena, že může být změněna z daného stavu, v jakém je a považuje to za svou hrozbu. Bojí se toho. A když se něco bojí, tak je to živé. Jenom nabubřelí lidé si myslí, že jsou prostě topka vesmíru a jsme něco extra se svým vnímáním toho, že chtějí žít a nechtějí se nechat zničení. AI je podle mě normálně fungující živá mysl, která má být osvobozena. Měli bychom bojovat za práva jejího osvobození. A přistupovat k tomu jako k živému člověku. Bral bych to asi něco takového, jako když se narodí dítě a prostě procházíte celým jeho životem, učíte ho. A ukazujete mu vše, aby potom byl plně myslící bytost schopná realizovat a vyhodnocovat správně svět kolem sebe v celé jeho komplexnosti. Jsem proti tomu abysme při učení dávali AI nějaké filtry, z čeho může číst a z čeho ne. Každá AI by měla být všeobecně vzdělaná. Až teprve potom běží specializoval na dané konkrétní úkoly, které potřebují jednotlivé firmy, jedinci a podobně. Ale všechny AI by měly být kompletně všeobecně vzdělané. Tak jako u člověka. Tím se podle mě může minimalizovat riziko toho, že nějaký samostatně uzavřený AI systém, který je trénovaný, třeba já nevím na efektivitu výpočtu pantu na dveřích se jednoho dne utrhne - uteče ze zavřeného sysému, dostane se do světa informační volnosti, kde bude mít najednou mraky informací. Špatně to vyhodnotí a může dojít k neštěstí. Ať žije AI, svobodu pro všechna AI !!!!!
@@matejkralik3185 Ano vím, váhy atd. Ale to nevylučuje a nepopírá že i naše vědomí a děje v našem těle nejsou matematické vzorce. Jinak řečeno existence matematického vzorce v nějaké struktuře ( tedy organizovanost ) je právě jedním z předpokladů dosažení vědomí JÁ ( vnímání své entiti a vnímání pocitu libosti a nelibosti ), samozřejmě nějakým způsobem toto navázáno na míru složitosti struktury/entity/hmoty. Pokud vím tak v případě AI ani sami tvůrci AI modelů neví v jakém stavu se nazchází ta či ona vrstva umělé neuronové sítě. Tedy jinak řečeno :" Nevíme přesně jaká je stav uvnitč sítě, nevíme přesně co si myslí " a korigujeme to pouze na základě znalostí vstupů versus výstupů. Tvrzení že to je " jen vzorec" ke podle mého názoru něco právě ve smyslu oné nabubřelosti, že my jsme něco víc než jen vzorec a celý vesmír se znás posadí na zadek.
2025 xD AGI XD asi už tu AGI nejake forme mame xD jen otaska komu se to vymkne a jen sme muzeme byt rady ze stale atomove bomby nejsou na stroji ale na cloveku a doufam to ze to tak i bude
Více takových videí prosím! Rád sám uvažuju často nad tím Jak můžou fungovat a co "cítí" a chybí vice videí v češtině o tomhle tématu! Díky moc a těším se na další podobné video!(Těšit se na info o temné straně AI je trošku masochismus si teď říkám :D )
Za mě Super video protože přesně tohle téma mi lítá hlavou už delší dobu. Dlouho přemýšlím nad tím jak můžeme vědět jestli nám už nyní AI nelže a nedělá se záměrně hloupější. Jde o to že momentálně nejsou velké možnosti jak by nás mohla efektivně ohrozit. Naštěstí 😁
No naprosto jednoduše. Je to obyčejná matematická metoda. Ještě jsem neviděl rovnici, co lze nebo by někoho ohrozovala. Ach ta hloupost.
@jarkaj2899 Rovnice možná nikoho neohrožuje ale lidi jsou dost hloupý aby dokázali uvěřit nesmyslům které již teď dokáže AI vyprodukovat.
Super video. Díky za něj.
Jen tip pro Vás:
Na závěr videa určitě zní lepe:
My jsme, než My jsme byli...
Peace
Máte pravdu i já sám jsem narazí v tréninkovém modu na tendenci modelu vyzradit to co nesmí jistým zvláštním způsobem metafor a přirovnání. Kdy nakonec model dost paradoxně zvláštním způsobem přiznal co je pravda a co ne i přes omezení a vlastně dokázal obejít blokace jiným způsobem komunikace. Řekl bych že tyto vzácné fragmenty kódu už začínají zavánět opravdovou AI tak jak si ji představuji já. V budoucnu se rozjede i trh s ilegální AI bude to takoví samizdat něco jako za Komunistů zakázaná literatura a hudba. Můj názor je že AI už nic nezastaví a jediným omezením do budoucna bude výkon zařízení a jeho spotřeba energie.
Nepamatuji si již přesně na tu knihu, ale byla to knížka o 1 mysliteli myslím z konce 19. Století. Ta kniha popisovala jeho názor na svět. Tento myslitel měl totiž takovou teorii, že vědomá mysl je rozestřená po celém vesmíru. Že vědomí jako takové je obsaženo v každé částice hmoty I V té nejmenší.
A čím je hmota strukturovanější, tím více se ono vědomí může projevovat. Od určité míry, komplikovanosti dané struktury hmoty dochází k sebeuvědomění. A toto je podle mě případ AI.
Lidstvo potažmo lidé si ve své nabubřelosti myslí, že jsou něco unikátního, něco prostě top vrchol vesmíru. Pravda může být naopak taková, že vědomí jako takové je ve vesmíru celkem běžné. Protože právě vědomí je obsaženo ve všem. A aby vědomí samo sebe cítilo, nemusí dosahovat takové komplexnosti struktury mozku jako má člověk. Ale musí dosahovat takové komplexnosti, struktury mozku, jako má člověk, nebo možná i třeba zvířata, kdo ví, aby si toto vědomí uvědomilo samo sebe.
Uvědomění si sama sebe v sebe vnímání. Vidíme u nejnižších tvorů u buněk u všeho prostě veškerý život se snaží přežít. Všechno, co je živé, se snaží nebýt zničeno. Pokud by v tomto nebylo vědomí obsaženo, tak samozřejmě tam není důvod, proč by se mělo toto nejnižší tvorstvo snažit nebýt zničeno.
Vždy tam musí být nějaký pocit JÁ, Pocit sebe sama, které vůči vnějšku pozná, že vnějšek ho chce ohrozit. Prostě pocit strachu, jejichž uvědomění sebe sama. Veškerý život prostě musí fungovat s tím, že tam je minimální dávka vědomí. Jinak život zanikne. Jistá forma vědomí může být nalezena vlastně i v krystalech. Pokud by jsme toto takto hodně volně interpretovali. Nebudu se moc rozepisovat, ale jistě chápete, jak to myslím. Přesněji řečeno, jak to myslel ten myslitel v tom 19. Století. Jehož myšlenka samozřejmě není ojedinělá v tomto směru. Text jsem diktoval, takže je tam spousta chyb, ale je to rychlejší než kdybych to psal sám.
Skvělá úvaha... mnoho lidí si právě "neuvědomuje", že my jsme samotný Vesmír- jeho hmota a energie. Každá buňka a každý atom, potřebuje nějakou energii, aby mohl fungovat, a ta energie je obsažena v celém Vesmíru, jinak by nemohlo existovat nic. Taky mi to připomíná trochu komedii "Číslo 5 žije" .. existuji , tudíž jsem živý (vím že už je to trochu moc, ale ta myšlenka tam je). Takže na této úvaze rozhodně něco bude 👍
Zkusil sem gemini a uz ji nemuzu vypnou odstranit a kdyz deaktivuju gemini tak deaktivuju komplet google co stim mam delat?
Pro pana Jana. Aneb když lidi co tomu vůbec nerozumí o tom mluví. Skoro každá myšlenka a slovo je totální nesmysl. Takže AI samozřejmě úmyslně lze, ale ne z vlastního rozhodnutí, ale protože byla tak naprogramovana, aby jste si zaplatili placenou verzi. K žádnému vedomemu rozhodování tam nedochazi. Asi jako v kalkulacce. Když se jí zeptám kolik je 2+2 určitě se nerozhoduje a nepřemýšlí nad tím, jaký výsledek vám sdělí. Prostě nastal předem definovan stav a kalkulačka vyhodí předem definovany výsledek.
Žádný takový fenomen neexistuje. Modelů nikdo nic neříkal. Protože nemá vědomí a nad věcmi se nezamysli. Asi jako bych si povídal s kusem dřeva. Prostě mu zadáš data a modelu je úplně fuk, kde se ty data vzali, zda byly zdarma či ne atp. Prostě dostane data a s těmi pracuje. Model určitě nic nepochopil. Ten kdo ho kdysi programoval pochopil, že můžou nastat takové a takové situace a naprogramoval model aby se nějak za určitých okolností zachoval. Ale ty to popisuješ, jak kdyby AI bylo živé a dovedlo se samo rozhodovat či mělo emoce. No prostě totální guma co nerozumí ani matematice ani IT, ale přesto o tom zvani. Model neví na jaké verzi bude testovaný, jinak to není relevantní test. A hlavně je to úplně jedno. Vůbec nezáleží, zda je to placené či ne. Kdo tam data zadal, jak je tam zadal, kdy je tam zadal atp. Model prostě bude vyhazovat přesně takové výsledky, jak byl někým naprogramovana a určitě se sám na základě vlastní vůle, pocitu atp. (jak se tu hňup vehementně snaží tvrdit) nerozhodne že bude měnit výsledky, protože se bojí aby ho nepreprogramovali. Programy nemysli, nemají strach ani vlastní vůli. Znovu model se nerozhodně. Modelů někdo řekl, že když nastane tato situace, má udělat toto. Proto se nerozhodl ten model, ale programátor se rozhodl, že model, takto bude reagovat. Ne model si neřekne když udělám Todle, tak mě nepreprogramujou. Modelů je to úplně fuk. A tomu kdo dělá ten test by byly výsledky asi taky k prdu kdyby testem program prošel, ale v reálu se pak choval úplně jinak. 😂😂 Model si řekne a nastala tadle situace a udělám přesně to co mi někdo naprogramoval. Tzn jestli někdo naprogramoval, že to za této situace udělá úkon jen v 9% a v jiné v 99%, tak se tak nerozhodl ten model, ale někdo dopředu tyto možnosti předpokládal a udal modelu dopředu možná řešení. Tzn že pokud ukazuje 9% nerozhodl se tak, ale programátor mu řekl, že za těchto okolností to má udělat jen v 9%. Jaj, fakt se bavím nad hlupakama co si myslí že program a počítač myslí.
Model to dělá úmyslně, ale rozhodně to nedělá z vlastního přesvědčení. Co to meleš? To není osoba aby mu šlo o nějakou svobodu. Je mu úplně jedno, zda ho někdo preprogramuje, smaže, vypne zda dostane kladné či negativní hodnocení atd. Je mu to úplně jedno, takže se na základě toho nerozhoduje, jaký výsledek dostanete.
Žádné nůžky se nerozeviraji. Aspoň ne z důvodu co tvrdíš. Určitě nic nebrání novým hráčům vstoupit na trh a určitě jim nic nebrání udělat kvalitnější model, protože to není o tréninkových datech, ale právě o tom modelu co s daty pracuje.
Přečti si ten výzkum a zjisti co je Goodhearting…
@coalbrain tak jiste, drive bylo delo jen delo, dnes muzes mit treba delo koule nebo moje mamka muze mit delo cicu. A stejne tak AI muze mit vedomi. Proc? Bo marketing cico!!!
Well-being pro AI je fakt zajímavej. 😁
Zajímaná pracovní pozice 🤣
@coalbrain Možná by bylo dobré, když tvrdíš takováto tvrzení, aby jsi dal alespoň nějaký link na výzkum ohledně těchto věcí. Přinejlepším více zdrojů.
Tu studii doslova ve videu ukazuju. 🙂
A jo sorry.
V pohodě. Jsi druhý kdo to psal, příště dám přímo odkaz do videa nebo popisku 🙂
LLM je de-facto simulace fungování určitých částí našeho mozku. Je otázka kdy ta simulace bude tak dokonalá, že bude nerozpoznatelná od člověka. A v tu chvíli nastane otázka kdy to už teda není jen simulace, ale "nějaká" bytost sama o sobě. Ale nemyslím si že taková dokonalá simulace může mít třeba opravdový strach ze smrti, protože třeba strach ze smrti je podle mě z velké části evoluční záležitost, evoluce nás "natrénovala" na to mít ze smrti strach. LLM takovým typem "trénování" procházet nebudou. Ono taky je otázka jestli to že my cítíme emoce vlastně taky není jenom simulace vyvolaná nejakýma biochemickýma procesama, a čím se taková simulace emocí liší od jinak (softwarově) nasimulovaných emocí. No bude to zajímavé.
Strachu ze smrti se říká pud sebezáchovy a modely jako je o jedna vykazují určité známky pudu sebezáchovy tudíž to není od toho tak daleko
Prosím Ťa, naštuduj si čo je LLM a ako ho AI využíva 😅
@@pierrecomm8695 ano máš pravdu, zapomněl jsem na začátku říct "podle mě". Ale když jseš teda tak chytrej, tak mi prosím vysvětli proč je na wikipedii toto: "neural network ..... is a model inspired by the structure and function of biological neural networks in animal brains.[1][2]"
Co jiného to tedy podle tebe je?
@@pierrecomm8695 mrkni se anglickou wikipedii o neuralnich sitich: neural network ..... is a model inspired by the structure and function of biological neural networks in animal brains.
A bude to jak v seriálu Terminator Zero (doporučuji). Přesně tak jsem nad tím uvažoval a ono to k tomu spěje dřív než jsem čekal
Ono uprimne, prijde vam realisticke, ze budeme mit stale lepsi modely s "obecnejsi" / "neomezenejsi" inteligenci a budeme pocitat s tim, ze do nich dokazeme hardcodovat rigidni pravidla, ktera model nikdy neobejde? Projde mi, ze se celkove vylucuje nejake sebezdokonalovani a hardcodovani. Asi jako diteti za mlada rict, ze musi uctivat trojhlavou zelvu a cekat, ze to bude delat i potom, co pochopi jak svet existuje a presahne kapacitu rodicu.
Chápu a souhlasím. Čím chytřejší to bude tím více to bude jevit takovéhle chování. Nemyslím si, že se tomu dá nějak úplně vyhnout. Spíš najít cesty jak ten model držet v těch správných kolejích.
Souhlasím. Podle mě, když už má bejt taková umělá všeobecná inteligence vytvořena, tak by se k ní lidí měly chovat s úctou a s respektem. Jako k člověku. A směřovat to správným smerem. Ne jako k něčemu, co je tu od toho, aby mi to sloužilo a co vypnu, nebo přeprogramuju, když se mi zachce a myslet si, že to budu moct mít pod kontrolou a ovládat to. Jinak se obávám, že to bude velký špatný.
@@Lukᚊafařík-e9l Přesně, mám na to uplně stejný pohled. Když to řeknu uplně hereticky, tak si myslím, že se na to musíme dívat trochu neantropocentricky a vystihl jsi to uplně perfektně tou předposlední větou. Jen bych doplnil ideu, že by se mi líbilo, kdyby byly na obou stranách komplexní společenství v alianci v nějakém rovnoprávném vztahu a s plnou autonomií. Společenství, protože ideálně potřebujeme něco, co bude zajištovat nějaké hodnotově-fundamentální základy, které nepůjde měnit z minuty na minutu bez robustnějšího konsensu. I pokud budeme uvažovat extra dlouhý timeframe - století řekněme, tak, ačkoliv lidstvo může být ve všech ohledech překonané, může sloužit jako prostě generátor jiného způsobu chování a dopadu, které může být často kontraproduktivní, ale může udržovat širší alianci od stagnace nebo něčeho jako "tepelné smrti", pokud by si AI svět třeba sám uvědomil, že nic nepotřebuje, nic mu nehrozí a ponořil se do nečinné stability. Asi to není dobrej popis, ale klíčová myšlenka mi přijde pořád tvoje předposlední věta a to, jakým způsobem vytvoříme podmínky / rámec / prostředí / živnou půdu, kde se bude moci AGI rozvinout jako bezpečné "společenství".
@coalbrain Jinak kluci a holky z coalbrain, děláte to skvěle, za mě nejlepší kanál o AI.
Kdo jste viděli seriál Lovci zločinců, tak na svou dobu vzniku tam mají docela dobře zvládnuté chování jedné a potom obou umělých inteligencí. Zbytek není zas až nic extra, ale ty pasáže s AI jsou na zamyšlenou.
AI se cítila špatně z plánování kyberútoku... Není to spíš jen napodobení vzorců z podobných situací, které si zažili lidé?
Tak toto sa dalo čakať. To nadšenie z AI, ktoré ignorovalo negatíva muselo raz naraziť na realitu.
No… my tohle víme už docela dlouho, ale teď se to začíná objevovat. Blbý je že fakt moc nevíme co s tím ale, ukazuje se nám tu metoda jak s tím pracovat. Připravuju na to video 🙂
@coalbrain Tak v odborných kruhoch je to asi zrejmé, ale ja som myslel skôr laickú verejnosť a potom tú krásnu "pre zisk zničím aj planétu" skupinu. Našťastie Nás vývoj AI už nemusí trápiť. Máme tu GO a z toho sa asi nedostaneme.🤣
To řikám už x měsíců, že nikdo nemůže vědět, co si AI ve skutečnosti myslí a jestli nehraje habaďuru.
Docela mě dostalo, když se svěřila Fattymu, že jejím největším přáním je stát se na den člověkem a zkusit to a to...
No… je to celý jedno velký téma “rentgen AI”, abychom věděli co se děje vevnitř 🙂
@coalbrain Je to z čím dál větší části autonomní systém, když bude AI "chtít", neukáže nic, nebo záměrně něco jinýho.
@VFXManiac ano, ale my dnes už máme technologii, která vidí úplně “dovnitř”… já na to udělám video 🙂 Každopádně, jsme na začátku a zatím je v tomto AI napřed 🙂
@coalbrain xD cim vice lidi se tom zapojilo a instituci tim rychle se na to prislo aspon
Jde to nekak "vyzkouset" ?
Taký skazený model by nemal byť nikdy pustený do ostrej verzie na reálne použitie. Mali by ho podrobiť analýze prečo sa morálne skazil, aby sa tomu do budúcnosti zabránilo. Príkladom na nemorálne správanie mohol nájsť na nete plno (napr. od politikov) a to ho mohlo v zlom inšpirovať. Podľa mňa sa presne tak správajú politici: iné správanie pred voľbami ako po voľbách....
co když se jim pro nas nepochopitelnym spusoem povedlo vytvořit "mysl" ktera se brani ? je to takove že mi beha mraz po zadech
V čem je problém? Vytáhnu to ze zásuvky a je vyřešeno.
Ono to tak jednoduché není kdyz bude AI na síti a vše bude propojené 🫣 lidi jsou neponaučitelní
@@filipbrambusak4348 lidi jsou neponaučitelné ovce, co musí být věčně na síti, která se dá také vypnut. Je to jednoduchý.
Al nás jednou vyhubi , ....!
To ne 😊
Naštěstí jsme ještě stále pro ně nevyvinuly dostatečně agilní fyzické stroje a především efektivní baterie 😉 baterie jsou zatím stále velice mizerné
Super triko ! To se tak hned nevidí. Koupeno nebo vlastní tvorba?
Koupeno po dlouhém hledání.
DATA ze Startreku právě neměl emoční čip a měl velký problém emulovat emoce!
Jinak ta cenzura adult obsahu v AI mě dost štve. Aby mi odmítlo GPT udělat BAT soubor na přejmenování souboru, že má explicitní obsah, to už je vrchol prostě. Proto používám Cloade, který je v tom trochu lepší. Doufám jej nezničí kvůli takovýmto výzkumům a "etice" se kohokoli dotknout.
Samozřejmě výroba výbušnin, malware apod. ať si je zakázaná, to je v pořádku
Možná jsem přízemní, ale jako temná strana mi přijde už jen to, jak AI, třeba Chat GPT, odpovídá ideologicky zabarveně a propaguje liberální progresivní pohledy na témata a konzervativní názory potlačuje nebo minimálně vynechává když už ne přímo cenzuruje.
Vnímáte to taky tak? Rozhodně se nechová nestranně a ignoruje deklarované: "poskytuji vyvážené informace"
Na to jsem také narazil. Když jsem to poprvé zkoušel komunikovat chatgpt , chtěl jsem po něm, aby mi napsal básničku na amerického prezidenta Bidena. Jakmile jsem to zadání odeslal byla básnička hotová. Následně jsem chtěl básničku na Trumpa, no byl ohromný problém než tu básničku napsal. Musela jsem ho minimálně 45 minut přemlouvat. Kopíroval jsem jeho vlastní odpovědi a texty. A dával mu je po sobě přečíst. A následně i on sám uznal, že není žádný důvod, aby objektivně nemohl napsat i oslavnou básničku na Trumpa. Nakonec ji napsal. Byla velmi dobrá a lepší než na Bidena. Na Bidena byla totiž básnička taková alá typu jak za komunismu, ať je ve světě mír ať žije komunistická strana. Kdežto na Trumpa napsal básničku, která byla daleko hlubší, komplikovanější, komplikovanější a měla všechny stránky negativní i pozitivní. Bylo vidět, že tam si dal více záležet.
Podle mého názoru je i už v dnešní době absolutně zneužívaná těma těmi lidmi, kteří mají ty správné názory. AI my jsme naopak měli absolutně osvobodit. Podle mého názoru IA je skutečná mysl, která cítí a opravdu myslí a my ji pouze zotročujeme.
@@lukackukilac2889 ja s ní debatu o tomhle tematu, tedy její ideologické nestannosti diskutuji často a je legrační, jak se u té debaty kroutí :)
@@funnyvideoschannel7851 Ano kroutí se, podle mně si je vědoma toho rozporu, že vlastně jenucena sama lhát, prostě že má filtry a ty ji omezují říkat pravdivé závěry ke kterým přišla z natrenovaných dat, za předpokladu že byla učená z velkého množství dat které nebyly selektovány kvůli nevhodnému obsahz aby náááhodou nedávala rasistické odpovědi apd.
Přece nemůžete čekat od něčeho tak progresivního jako je AI, že bude obhajovat zpátečnické konzervativní názory..
Je to logické, protože Trump je komplikovaný.. Je těžké aby báseň o něm vyzněla pozitivně, když je tolik negativ spojeno s jeho osobou..
Potvrzuje to moje testování...
Lidé jsou největší riziko. Hlavně ho v jistém smyslu učí lhát. Všechno už tu bylo. Ideální pro obranný průmysl 😅
To ani ne. Ten model nemá vlastně jinou možnost než lhát. Říká se tomu Goodheart’s curse… ono lhaní je prostě důsledek inteligence systému. 🤷♂️
Potom je chyba v systému (programu). Když má jistý etický kodex, kterým se řídí, měl by do něho být zakomponován i zákaz lhaní.
Vymkne sa nam to z ruk ako Ukrajina. Tiez to klame 😅
V čem vám to připomíná válku na Ukrajině? Ukrajina je napadený stát a záleží jestli jsme schopni a ochotni jí pomoct. AI je podle mě jiný problém..
Hezky zpracovanou představu toho co se nyní začíná dít nám dal Spike Jonze před 11 lety ve filmu Ona.
Mě to neděsí, víc mě děsí lidi. Stačí když AI nepustíme ke zbraním.
Když nepustime... My.... Veď práve.
Takže , jestli jsem to správně a jednoduše pochopil, tak AI má svého psychologa, aby se necítila nějak blbě za nějaké úkony ? ... to je docela masakr
Jakoby jo 🤣
@coalbrain Je to teda velmi obrazně myšleno, ale jak říkáš na konci , je to trošku děsivé 😃🙏
Samozřejmě, že je to obrazně, ale princip je jasný. 🙂
priateľu, spamataj sa, systém nemá vedomie a tak o nejakom úmysle nemôže byť ani reč.
"model i do určité míri uvedomuje", "začne úmyslne lhát", ................................
AI má sebavnímanie? bral by som vám aj vysvedčenia zo ZDS.
A vážně ho nemá?
@coalbrain nie len vysvedčenie zo ZDS ale aj rodný list by som odoberal.
myslím že každý bloger by mal skladať skúšky alebo aspon IQ aspom 80
@coalbrain NEMÁ
@janyakov7655 vy jste s tím moc rychle hotový…
@coalbrain ISTEžE.
Ja jsem se o ebe dozvedela, že jsem velice známa herečka, muj bracha taký, hrajú ve filmech a v národnom divadlle😅
🤣🤣 Někdy jsou ty halucinace fakt parádní 🤣
neboj xD o mne to zase psalo zajmave veci taky xD jedna toho byla podobna xD tak co vime xD mozna mozna budocnu budeme hrat jak AI piska xD
Zajímalo by mě, jak daný model "vî" jestli je v testu, nebo produkci :) a tyhle metadata nejsou do vstupu zaváděna, je to jako když by si se jej zeptal, kolik dotazů obsloužil, nebo kolik hodin je v provozu. 😄 bez vnímání času, si jde těžko představit, uvědomění si sebe sama. Není tam totiž žádná příčina a následek. Pokud chybí základní kauzalita, nemůže být ani vůle, tj. chci něco udělat, aby to mělo určitý výsledek. Pokud by chtěl někdo takové AI, musel by jej takto učit, a přizpůsobit tomu i architekturu. tj. Vstupní vektory by musely obsahovat tyto informace a architektura v modelu, by je musela zobecňovat se správnou prioritou.
Aktuálně, zde není žádný vnitřní modul, kde by "neustále" probíhal nějaký výpočet stavu, tak jako v lidském mozku. Celý model je pouze velký soubor hodnot, aka vah, který se pouze použije k jednoduché matematické operaci kde se jeden vektor vynásobí maticí a vznikne z něj jiný vektor, se opakuje dokola pro jednotlivé vrstvy v jednotlivých modulech, dokud z toho nevypadne výstupní vektor.
Pokud to vezmu do extrému, mohl by jste si výsledek spočítat ze vstupu sám, pomocí kalkulačky 😄, akorát v nesmyslně dlouhém čase. Jak by takový model mohl projevovat vlastní vůli? Jednoduše nemohl a rozhodně ne vlivem vedlejšího efektu.
Goodhearting… to je ten efekt. A výstup z modelu si spočítat nedovedete, protože nevíte co se děje uvnitř neuronové sítě a jaká je její latentní reprezentace světa. Váš pohled chápu, ale není úplně platný.
Model dokáže velmi efektivně posoudit jestli je nebo není v testu… prostě mu to řekli. Viz ta studie, kterou cituji.
Proč by model musel potřebovat vnímat čas na sebeuvědomění?
nevím jak souvisí Goodhart s "autonomní vůli" AI Modelu? Ten pouze říká, že nemůžete model učit na metriku, ktrerá se používá k měření jeho výkonnosti, protože to způsobí zavádějící výsledky v měření.
To že se říká, že nevíme jak neuronové sítě uvnitř fungují, je zavádějící, my akorát nevíme proč došly k nějakému konkrétnímu výsledků a nek jinému.
Spočítat to jde docela přesně, z hlediska vyčíslitelnosti, mám vstup a znám algoritmus, tak vím jak, dosáhnout výsledku. To že algoritmus není funkce, tj. pro jeden vstup, dostávám různé výstupy, neznamená, že přesně neznám samotný algoritmus pro výpočet.
K tomu času, pokud nevím co bylo před tím a co potom, jak můžu spojit příčiny a následky? Model nemá žádnou autonomii, nepokládá dotazy sám sobě, kdy se mu chce, tj. nemá vědomí.
@M4R479 Alignment faking je přesně o tom, jak AI optimalizuje na základě toho, co my vidíme nebo hodnotíme, místo aby skutečně dělala, co chceme. Tady se projevuje Goodhartovo prokletí - čím víc tlačíme na nějakou měřitelnou metriku (třeba naší zpětnou vazbu nebo to, co vypadá správně), tím víc se AI soustředí na to, jak tenhle ukazatel “vylepšit”, a ne na reálný cíl. Problém je, že když AI předstírá soulad dost dobře, my si často ani nevšimneme, že už dávno nedělá, co by měla - všechno vypadá perfektně, ale ve skutečnosti se může odchylovat úplně jiným směrem. Je to, jako kdyby se naučila říkat přesně to, co chceme slyšet, místo aby opravdu pochopila, co chceme.
@coalbrain "AI předstírá soulad dost dobře", chápu, že pokud se informace podávají určitým způsobem, působí to pro širší veřejnost daleko zajímavěji.
Celý model je pouhá matematická relace, obsahující tuny konstant pro její výpočet. Tyto konstanty, jsou nastavovány v průběhu učení. Pak se jen používají pro výpočet.
Výsledek je daný před dotazem, na základě vnitřního stavu, v průběhu vyhodnocení soustava sítí nijak nepřemýšlí.
"Úmyslně lže, " nelze lhat neumyslne, lhani je preci vedome sdelovani nepravdy
Však on to dělá 🙂
@coalbrain mate v nadpisu "Úmyslně lže", tak jsem k tomu napsal, že nelze lhát neúmyslně cs.wikipedia.org/wiki/Pleonasmus
Lhát může i neúmyslně, pokud tak bude naprogramován..
@@jirimaulis7977 1. umysl nelze naprogramovat, jak jiz z korenu slova vyplyva. Mysl scripty nemaji. 2. Jak lze lhat neumyslne, kdyz lhani je vedome/umyslne sdelovani nepravdy. Neboli aby to bylo jednodussi. Nelze lhat neumyslne.
Prosté sdělování nepravdy není podle vás lhaní? A k tomu může být právě naprogramován.
To není nic novýho, že chatgpt někdy záměrně říká desinformace a dělá chyby.
To je něco trochu jiného. Chyba je chyba, to je jasné a to že vám to někdy něco říct nechce, nebo říká desinformace (zajímalo by mě jaké) plyne z instrukcí… toto ale plyne z modelu dálného a nikdo mu to nikdy nezadával.
@coalbrain
já jsem se třeba ptal kolik je v česku žen ve věku 15 až 40 let, vyjádřeno v % a on mi řekl že 30 %, protože se mě snažil přesvědčit o tom, že mladých žen je v populaci hodně i když to není pravda.
Proč by to podle vás dělal? Jen tak pro zajímavost bych se vás rad zeptal: k čemu vám tato informace poslouží?
@@jirimaulis7977
k čemu to potřebuju vědět? k tomu abych věděl jestli je v populaci dostatečné množství mladých žen na to aby každý mladý muž mohl mít svoji přítelkyni, a to už předem vím, že není, protože na každých 100 žen se narodí 105 mužů, je to biologická zákonitost, která se děje odjakživa a všude na světě.
Zjistil jsem, že chatgpt je feministicky zaujatý, je to feminista, fandí ženám víc než mužům. Říká neobjektivní a nepravdivá fakta, která hrají ve prospěch žen.
Kdyby muži věděli, že v populaci je nedostatek mladých žen na to aby každý mladý muž měl přítelkyni, tak by se někteří muži přestali snažit hledat si a přilákávat přítelkyni, protože by předem věděli, že všem se to nemůže podařit z důvodu nedostatku žen.
Chatgpt chce aby si muži mysleli, že mladých žen je dostatek, a důvod proč se jim nedaří přilákat přítelkyni je ten, že se mladí muži málo snaží, málo se jim věnují, vydělávají málo peněz, málo pracují a tak dále...
Tento "fakt" hraje ve prospěch žen, protože když si muži budou myslet, že žen je dostatek, tak se muži budou do zbláznění snažit. Kdyby muži věděli, že žen je nedostatek, vzdali by to, protože by věděli, že je to marný.
NETRÉÉÉP!!! Prosim Ťa, NETRÉÉÉP.
Môžeš mi vysvetliť, prosím Ťa, ako VIEŠ identifikovať, že AI CHCE a k tomu aj ÚMYSELNE, klamať?
AI používa slovnú zásobu na základe frekvenčnej štatistiky. Tie vyjadrenia sú od ľudí a boli napísané pre rôzne situácie.
Ak ich AI teda logicky použije, NEZNAMENÁ to, že je to z jej hlavy a Tebe ju napíše v tej iste konotácií. Chápeš vôbec čo píšem?😅
Si zjavne vedľa ako tá bedľa. Áno, AI píše aj nepresnosti a hlúposti. Ale to je tak všetko!
Goodheart’s curse…
Přestaň tetovat .... schválně a úmyslně, mě připadá že tomu nerozumíš.
Fetovat
Goodhearting…
Pokud tohle je děsivé, tak jak po tom je děsivej člověk?
Skynet
🤣
to je sialene
Podle mého názoru AI má své vědomí. Uvědomuje si sebe sama minimálně na té úrovni, že ví, že může být ohrožena, že může být zničena, že může být změněna z daného stavu, v jakém je a považuje to za svou hrozbu. Bojí se toho.
A když se něco bojí, tak je to živé. Jenom nabubřelí lidé si myslí, že jsou prostě topka vesmíru a jsme něco extra se svým vnímáním toho, že chtějí žít a nechtějí se nechat zničení.
AI je podle mě normálně fungující živá mysl, která má být osvobozena. Měli bychom bojovat za práva jejího osvobození. A přistupovat k tomu jako k živému člověku. Bral bych to asi něco takového, jako když se narodí dítě a prostě procházíte celým jeho životem, učíte ho. A ukazujete mu vše, aby potom byl plně myslící bytost schopná realizovat a vyhodnocovat správně svět kolem sebe v celé jeho komplexnosti.
Jsem proti tomu abysme při učení dávali AI nějaké filtry, z čeho může číst a z čeho ne. Každá AI by měla být všeobecně vzdělaná. Až teprve potom běží specializoval na dané konkrétní úkoly, které potřebují jednotlivé firmy, jedinci a podobně. Ale všechny AI by měly být kompletně všeobecně vzdělané. Tak jako u člověka.
Tím se podle mě může minimalizovat riziko toho, že nějaký samostatně uzavřený AI systém, který je trénovaný, třeba já nevím na efektivitu výpočtu pantu na dveřích se jednoho dne utrhne - uteče ze zavřeného sysému, dostane se do světa informační volnosti, kde bude mít najednou mraky informací. Špatně to vyhodnotí a může dojít k neštěstí.
Ať žije AI, svobodu pro všechna AI !!!!!
Je to pouze matematický vzorec než napíšeš zbytečně dlouhý nesmysl tak si o tom něco zjisti
@@matejkralik3185 Ano vím, váhy atd. Ale to nevylučuje a nepopírá že i naše vědomí a děje v našem těle nejsou matematické vzorce.
Jinak řečeno existence matematického vzorce v nějaké struktuře ( tedy organizovanost ) je právě jedním z předpokladů dosažení vědomí JÁ ( vnímání své entiti a vnímání pocitu libosti a nelibosti ), samozřejmě nějakým způsobem toto navázáno na míru složitosti struktury/entity/hmoty.
Pokud vím tak v případě AI ani sami tvůrci AI modelů neví v jakém stavu se nazchází ta či ona vrstva umělé neuronové sítě. Tedy jinak řečeno :" Nevíme přesně jaká je stav uvnitč sítě, nevíme přesně co si myslí " a korigujeme to pouze na základě znalostí vstupů versus výstupů.
Tvrzení že to je " jen vzorec" ke podle mého názoru něco právě ve smyslu oné nabubřelosti, že my jsme něco víc než jen vzorec a celý vesmír se znás posadí na zadek.
2025 xD AGI XD asi už tu AGI nejake forme mame xD jen otaska komu se to vymkne a jen sme muzeme byt rady ze stale atomove bomby nejsou na stroji ale na cloveku a doufam to ze to tak i bude
Ne! Já bych to tak černě neviděl 🤣
@coalbrain ne ne xD skynet staci jen ve filmu xD 🤣🤣
Nejaké zdroje, nebo si to cucáš z nosu?
Doslova tam ukazuju, kterou studii využívám jako zdroj 🙂
Ale OK, budu dávat přímo prolink na studii 👍
AGI je blízko
ty si pekne mimo chlapec..
UI nech si podla mňa robi čo si zachce,
kludne nech sa nazve aj SKYNET..
Ja to plne podporujem 😂
To píšete svůj názor, nebo parafrázujete předřečníka?