Видео

Поздрав Никола. Покушаћу да одговорим на пар дилема које имате. Ако корисници (људи са факултета, института и стартап компанија) не плаћају нама то што користе суперкомпјутер то не значи да не треба да знамо каква истраживања, анализе, пројекте раде на њему, јер имамо велики број корисника па морамо да знамо коме колико времена и рачунарских ресурса треба за рад како би поштено распоредили све ресурсе свим институцијама/компанијама. Нисам сигуран да разумем део за комунистички систем. Када се бирају стартап компаније које аплицирају на јавном позиву (или интерном неког НТП-а) оцењују се њихови пројекти (идеја, циљ...) и усклађеност са наменом ВИ платформе, као и много других параметара (да ли су добили већ нека средства, колико година постоје...). Представници Научно-технолошких паркова, заједно са нама, врше оцењивање апликација. Субјекти академске заједнице раде истраживања, научне радове, пројекте за који су финансирање добили из ЕУ фоднова, тако да не излазе са својим пројектима/"производима" на тржиште, осим ако немају пројекат који је везан за индустрију - пример је ВИ институт који има потписан уговор са пар великих компанија.

Hvala puno Arsenije! Nadamo se da ćemo se videti uskoro u još jednoj epizodi!

Bas naprotiv. Momci su vrlo obavešteni i temu su na vrhunski način obradili. Pogledaj recimo podkast Nenada sa Aleksom Gordićem. U jednom trenutku ljudi biju glavu kako da kažu nešto na Srpskom (da prevedu sa Engleskog - mislim bias) što je meni lično bilo baš simpatično. Dalje prosto šta god pričali, Anglosaksonci su najteži kada su u pitanju i industrije finansija i industrija techa. Po mom mišljenju, ovo je šokantno mali odaziv ljudi koji su ovo pogledali. A imaju itekako razlog da razmisle da pogledaju ako žele nešto svoje možda jednog dana da naprave.

Hvala puno Andrija na podršci! Trudimo se što više domaće termine da koristimo, ali je baš teško kada se svuda koriste strani termini i nema vremena da se prilagodi na domaći termin.

voditelj je jako pametan, ali treba da bude malo ozbiljniji u razgovoru sa gostom.

Hvala puno @visnjavucurevic, puno nam znači😃 Ukoliko imaš zabeležene termine koji su ti nejasni, možemo da orazložimo, a i da dodamo u opis videa, objašnjenja.

Hmm imas primer? :) nisam jos video takvo ponasanje

Bias se koristi na vise nacina, sve zavisi od konteksta. Bias je takodje i parametar u recimo linearnom ili konvolucionom sloju neuronskih mreza.

Moze ali jako tesko ces biti ozbiljno kompetitivan, slicno kao i u profesionalnom sportu. Moci ces da nadjes posao naravno kada god da krenes da ucis bilo to i sa 40/50 ako je to krajnji cilj. Ali da napravis nesto bas ozbiljno - manje su sanse.

@@TheAIEpiphany ja sam ve u programiranju vec oko 5,6g sto se tice ozbiljnog ucenja, saljem ja na oglase ali isto imam osijecaj da kao da cim vide godine da se uopce ne pkazuju interes za taj CV, ne mogu reci da mi je znanje jednog senior, ali da sam (mozda) nesto iznda juniora (nisam siguran koja je razina mediora) pa me to svr ukupno jako buni, buni ta IT inudstrija sa svojim kriterijima! Imam ja tu GitHub nekim lijepim projektima imam par portofolija ali izgleda da to sve nije dovoljno! bilo je par razgovora za posao na koja sam prosao u drugi ili treci krug, ali onda tu sva prica stane! Odnosno ne jave mi se vise... Da li see vise isplati davati vrijeme na to ili da se okrenem i odustanem od svega sto se tice IT industrije...

Ne interesuje nas nista vezano za web. Sportski pozdrav, Gledaoci. Chapeau!

Ako kontekst length postane 10 miliona + uskoro jednostavno sve mozes da keširaš. Nije daleko od realnosti vec sada, to je recimo jedan pravac. Pogledaj "Neural Turing Machine" takodje. Ili DeepMind-ov Retro rad (gde se uci retrieval tokom treninga). Mislim da ce RAG u svojoj sadasnjoj formi biti prevazidjen za par godina. Mreze moraju/trebaju da budu trenirane direktno za ovaj task sa obzirom koliko je cest use-case. Embedovanje query vektora da bi trazio aproksimativne slicne snippet-e je jako neelegantan nacin da se uradi to sto zelimo.

Hvala puno @draganaleksic6071, sjajna ideja koju možemo da pređemo u nekoj narednoj epizodi!

Mislio sam da sam odgovorio ali se očigledno nije poslalo. 😅 Jedan razlog je sto modeli već imaju preko milion tokena dužinu konteksta (recimo Gemini). Za par godina to će biti 10+ miliona. Možeš jednostavno da keširaš ceo dataset od interesa direkt kroz model i potom radis Q&A. RAG u svom trenutnom obliku je jako neelegantno rešenje problema. Embedovanje query-ja i potom koriscenje te vektorske reprezentacije da se aproksimativno nadju slični parčići teksta i potom to nagura u kontekst je baš neoptimalno. Pogotovo za multilingual setup (jer je izuzetno teško napraviti dobre multilingual embedding modele, Cohere se time bavi). Pogledaj "RETRO" rad od DeepMind-a kako se LLM-ovi treniraju da nauče kako da iskoriste eksterni kontekst. Neural Turing Machine je takodje jako zanimljiva ideja. RAG ce kada tada biti deo samog modela ili će autonomni agenti koristiti internet pretraživač da pametnije selektuju relevantne delove.

@@TheAIEpiphany Hvala na odgovoru. Nisam kompetentan da ulazim u dublju diskusiju ali mislim da veći context window nije zamena za RAG. Nisam ranije čuo za keširanje dataseta kroz model, ali ako ubacis ceo dataset u kontekst, recimo svih milion tokena, inference će da traje dosta dugo, od 30s do minut, dok je vektorska baza dizajnirana da pretražuje efikasno, za sekundu ili manje? Pošto se naplaćuje po broju input/output tokena, previše je skupo? Možda bi mogli da obradite ovu temu u nekoj narednoj epizodi

@@draganaleksic6071 Samo jednom izračunaš KV keš (keys/values) za svoj dataset, tako da posle ide instant. Jedino što moraju da se attend-uju prethodni KVs što jeste skuplje nego da krećeš od praznog konteksta ali postoje long context tehnike koje to adresiraju.

Ima dosta razloga zasto biznisi zele manje modele poput YugoGPT-ja, neki su tehnicke prirode (mozes da fine-tune-ujes model na svojim internim kompanijskim podacima, model brze generise tekst, mozes da radis takozvani constrained sampling, itd), neki su vezani za trosak (recimo ako kvantizujes model ispasce ti mnogo jeftinije nego da koristis OpenAI) i mnogo jos razloga (ukljucujuci bezbednost podataka jer ne moras da saljes vredne i osetljive podatke na američki api).

@@TheAIEpiphany Ok, ima smisla to sto kazes !

Slazem se, mislim da sam se cak izvinio za previse anglicizama. 😅 Ali znas sta je fora, kada prevedes bias recimo, dobijes situaciju da neko ko se ovim bavi ne zna o cemu pricas a neko ko se ne bavi svakako ne razume. 😅

Bias je pritom jos i lako prevesti cim malo zadjes u terminologiju bude mnogo teze. Kako bi preveo "multihead attention"? Višeglava pažnja? 😂

Bavim se istim poslom kao on i isto sam uhvatio sebe kako pričam sve više engleske reči dok govorim srpski. Pokušavao sam to da ispravim ali je samo dovelo do toga da se moj tok misli i razgovora gubi i da ne mogu efektivno da komuniciram. Ubijam sam sebi ideju. Jedini način koji sam video kao rešenje je da više komuniciram na srpskom i čitam knjige, ali to nije moja oblast interesovanja, tako da sam nastavio da čitam o AI na engleskom jeziku i komuniciram na srpskom uz neke engleske reči. Kada hiljadu puta pročitaš i čuješ “overfit” zaista je teško da da taj jedan put ti padne napamet “preprilagođavanje”.

Мука је са енглеским ријечима.. Ја правим серијал о машинском учењу на српском језику на свом каналу и јбг користим енглеске ријечи. То је једноставно глобално успостављена терминологија. Ако тражимо наш термин треба да га препишемо од Хрвата. :) Што се тиче Overfitting-а мени је на уму да користим ријеч "претренираност". Као, модел је претрениран. Баш ми се појављује у следећем видеу. Сјећам се изјаве боксера Слободана Качара кад је изгубио меч рекао је да је због тога што је био претрениран. :) Претходно је побиједио Мухамеда Алија.

​@@TheAIEpiphanyДа, тешко је наћи доброг преводиоца који има и осећај за језик и да разуме саму суштину појма који и инжињерима задају муке. Self-attention би могло да се преведе као самоусмерена пажња (самопажња је дух англицизма у српском језику који не паше никако) а multihead selfattention једноставно као вишеструка самоусмерена пажња... Разумем скроз, када учиш на енглеском ти појмови остају у глави нарочито када не постоје устаљене српске речи, али у неком тренутку морамо доћи до њих, а њих дефинише стручна заједница 😊

Hvala puno što si nam se pridružio! Još mnogo toga smo mogli da se raspičamo, nadamo se da ćemo uskoro napraviti još jednu epizodu ChatGPT 2.0 :)

@@DataMindsPodcast Ja sam za! Ne moze 1 sat i 30 minuta je samo da se zagrebe povrsina, ja bas volim long format! :) Sledeci put idemo 2 sata.

Bez četiri sata ne počinjite i samo udrite po tehničkim stvarima 👏

Drago nam je da to čujemo, hvala 🙌

Hvala puno Ognjene na lepim rečima, drago nam je što ti se svidela epizoda. Znači nam da čujemo feedback od naših pratioca, pokušaćemo da dovedemo još gostiju na temu AI hype.