4:52 Cara, era isso q eu qeria pra fazer um projeto maluco! Eu até saberia fazer toda a configuração na unha, mas esse LM Studio com simulação de API q vc trouxe simplifica a minha vida! Vou até me inscrever e olhar os videos antigos. Tbm brinco com IA. Tenho playlist de RVC.
Tem algum conteúdo para fazer Fine tunning nessas IAs locais? estava buscando isso ou um treinamento Langchain para treinar ela enviando PDFs arquivos de texto etc, quero fazer isso e criar um api local mesmo para fazer alguns testes
jah tentei baixar uns 3 modelos e nada no LM Studio, qual modelo basico e bom para eu testar ? fica dando este erro, fiz download de uns 2GB e não faz load do model sera porque ? ( No LM Runtime found for model format 'gguf'! ) pode dar uma ajuda ?
Eu já usei uma IA no meu PC offline mas não foi dentro dessa programa, e rodou inacreditavelmente lenta, minha máquina não é ruim....tenho um com nvidia GEFORCE 8GB, 16gb memória RAM, 1GB HD SSD e processador Rizen AMD 7. Isso foi há um seis meses, talvez hoje estejam mais otimizados, vou testar.
Bom, usando o Llama 3 7BQ4 e usa 85% da CPU e 8Gb de Ram, roda bem e não trava. A conversa do Lama é bem melhor que do GPT e as elaborações de texto achei bem melhor. O GPT faz meio 'exaltando' tudo, repetindo uns termos, os textos parecem todos iguais. Eu gostaria que o Llama 3 pudesse acessar a internet para gerar respostas mais atuais, ele diz que os seus dados são de até 6 meses atrás e não seria muito util para meu trabalho. Mas é bom ter um no PC. Obrigado.
Gosto muito de usar o Copilot (da Microsoft) pq parece mais humano os textos. Além dele, o Gemini (do Google) pode acessar a internet tbm e ambos mandam links e fotos durante a conversa (quando for relevante, claro).
estou tendo erro de backend, como posso resolver (isso foi na hora de instalar, baixar foi de boa na hora de instalar da erro de backend), como posso resolver? No linux ele nem abre
rpz eu percebo que o texto não sai corretamente. Examplo: ˜ tem múltiplas objetivos" quando devia ser "tem múltiplos objetivos", coisa desse tipo. Tem como corrigir isso ?
Só não entendi pq a geração de texto foi lenta se seu PC tava usando apenas 23% de processamento , pq a I.A não usou mais recursos pra acelerar a geração de texto? se ela tivesse usado mais ram e mais processamento teria sido mais rapido.
Vou dar um chute, eu acho que é capado propositalmente. Lá no Stable diffusion, ele usa 100% do Pc, e geralmente congela a maioria das máquinas por alguns segundos. Não tenho certeza, mas acredito que seja isso.
@@preguicaartificial poderia permitir que fosse configurado quantos % de recursos da máquina queremos usar, ai jogando pra uns 80% daria pra gerar textos mais rápido e não travaria, 😄😄
E ainda por cima deu a resposta errada xD. Perguntei quando Supreme Commander foi lançado (jogo pra PC) pra testar e ele disse em fevereiro de 2005, sendo que foi lançado em 2007.
@@andre_tech Ainda não achei essa ferramenta uma boa opção, vou continuar usando o Gemini do Google que é gratuito, as respostas são bem Mais precisas, e atualizadas
Poder nada mais é do q o controle da mão de obra. Pessoas são controladas através da escassez do dinheiro. Políticos não gostam dessa nova moeda pq eles perdem poder de manipulação. Então eles vão pagar a a mídia pra falar mal e pregar q essa nova tecnologia é ruim. Mas não se engane. O fato de existir uma moeda q nenhum político consegue inflacionar ou controlar dá mais liberdade e poder para o povo! E se vc souber guardar do jeito certo, vc fica com o valor nas mãos e ngm no mundo tem acesso aos seus valores, apenas vc. Isso evita roubos e confiscos. Enfim... Não vai nessas ideia d q gasta muita energia. Quanto vale a sua liberdade? Saiu hj matéria: "Dev brasileiro relata controvérsia com plataforma de pagamentos Stripe, que se recusou a pagar mais de 100 mil dólares pelas vendas do aplicativo NotchNook." Se ele tivesse recebido a partir da maior moeda digital, ele não teria tido problemas, pois vc não precisa confiar em terceiros pra ter acesso ao q é seu por direito. É uma tecnologia incrível.
Como a capa do video tem o Meta AI, quero fazer uma pergunta... Como eu coloco minha conta do Facebook nele para criar editar e filmar imagens, porque quando coloco mesmo com VPN ele vai pra outro site e não consigo voltar no Meta AI
Mestre, existe alguma IA que faça o reconhecimento de uma imagem, e, a partir dela, consiga descrever o que esta ali ou interpreta-la? Um exemplo disso seria o GPT4o quando enviamos uma imagem a ele e ele descreve exatamente o que está ali ou até mesmo a claude 3.5. Ou seja... Existe alguma deste tipo que podemos instalar em nosso PC de forma offline? Obrigado.
achei interessante, mas qual seria a utilidade de usar localmente essas ia ? alem de demorarem a responder, sao geralmente piores que as que ja estao no mercado
Eu tenho uma GPU AMD de 8Gb de VRAM e o LM Studio não usa GPU, ele usa a CPU e mesmo eu tendo uma CPU potente com 12 Núcleos e 24 Treads, o LM demora muito para rodar os pedidos. Pesquisei a respeito e dizem se usar o Linux o LM Studio vai usar a GPU da AMD. Então, para Windows só baixem se tiverem uma GPU da Nvídia.
eu tenho uma 3060ti e as respostas vem instantaneamente, a gpu vai a 100% nas respostas, tem que selevionar a gpu e processador para liberar o maxino mas configurações do lm
meu computador é um i7 10700 KF com 32gb de ram 4600mhz e uma rtx 3070TI de 8gb de vram, da pra rodar tranquilo os modelos mais fortes ou é recomendavel usar os padrões que não exijam tanto?
O que sao esses tokens? Nao ficou claro no video. Acabou os tokens tem que pagar? Se for ter que pagar, qual sentido de rodar localmente? Pensei que por ser codigo aberto, eu pudesse usar o llama 3 de boa gratuitamente local, so precisaria de uma maquina parruda.
Existe alguma pra celular? Olha ai sugestão de vídeo! Imagina um assistente que voce pre configura tudo e ele consegue alterar qualquer coisa que pedir atraves de um chat, ou de voz@@preguicaartificial
👉Meu curso completo sobre Inteligências Artificiais com foco em renda extra e viver de internet:
pay.kiwify.com.br/OUx0Hgb
parabens pelo video...
como eu faço para conversar em audio e nao em texto?? obg
@@ACES-BRAZIL Ai vc precisa de uma IA que aceite áudio no prompt, a minoria faz isso...
@@preguicaartificial amigo tenho 16 de Ram com um Rayzer 5600G será que Roda?
Lucas acabei de comprar seu curso, ele não tem comunidade ?
@@H10593 não.
4:52 Cara, era isso q eu qeria pra fazer um projeto maluco!
Eu até saberia fazer toda a configuração na unha, mas esse LM Studio com simulação de API q vc trouxe simplifica a minha vida!
Vou até me inscrever e olhar os videos antigos.
Tbm brinco com IA. Tenho playlist de RVC.
Meu Pc tem 4gb de RAM ent n rodakkkkkkk mas mto bom o vídeo
Vc sabe me dizer se ainda existe uma versão do stable difusion no google colab?
Tem algum conteúdo para fazer Fine tunning nessas IAs locais?
estava buscando isso ou um treinamento Langchain para treinar ela enviando PDFs arquivos de texto etc,
quero fazer isso e criar um api local mesmo para fazer alguns testes
Parabems pelo trabalho Deus te abençoe
jah tentei baixar uns 3 modelos e nada no LM Studio, qual modelo basico e bom para eu testar ? fica dando este erro, fiz download de uns 2GB e não faz load do model sera porque ? ( No LM Runtime found for model format 'gguf'! ) pode dar uma ajuda ?
Ajudou muito. Valeu!
Qual IA você recomenda para escrever livros longos... mantendo a consistência da linguagem, a linha de raciocínio e etc?
Eu já usei uma IA no meu PC offline mas não foi dentro dessa programa, e rodou inacreditavelmente lenta, minha máquina não é ruim....tenho um com nvidia GEFORCE 8GB, 16gb memória RAM, 1GB HD SSD e processador Rizen AMD 7. Isso foi há um seis meses, talvez hoje estejam mais otimizados, vou testar.
Hã.. se sua máquina com essas configs não rodou legal, eu nem vou tentar na minha aqui kkkk
@@macown3363 vixi kk, tbm nem vou tentar...
Daria para instalar essa llm no computador e usar uma chave api para usar o make ou n8n. gostaria de escrever artigos para meu blog AUTOMATICAMENTE?
Bom, usando o Llama 3 7BQ4 e usa 85% da CPU e 8Gb de Ram, roda bem e não trava. A conversa do Lama é bem melhor que do GPT e as elaborações de texto achei bem melhor. O GPT faz meio 'exaltando' tudo, repetindo uns termos, os textos parecem todos iguais. Eu gostaria que o Llama 3 pudesse acessar a internet para gerar respostas mais atuais, ele diz que os seus dados são de até 6 meses atrás e não seria muito util para meu trabalho. Mas é bom ter um no PC. Obrigado.
Gosto muito de usar o Copilot (da Microsoft) pq parece mais humano os textos. Além dele, o Gemini (do Google) pode acessar a internet tbm e ambos mandam links e fotos durante a conversa (quando for relevante, claro).
Qual a configuração do seu PC?
sempre da o mesmo erro: failed to start lm studio error: backend info is null after logic attempting to get [non mac]
Muito bom o vídeo! Uma dúvida: qual a configuração necessária para rodar o Llama3:70b ?
estou tendo erro de backend, como posso resolver (isso foi na hora de instalar, baixar foi de boa na hora de instalar da erro de backend), como posso resolver? No linux ele nem abre
é possível conectar alguma IA dessa com um hardware arduino para programação?
rpz eu percebo que o texto não sai corretamente. Examplo: ˜ tem múltiplas objetivos" quando devia ser "tem múltiplos objetivos", coisa desse tipo. Tem como corrigir isso ?
Mano muito top mais meu pc só tem 8gb tenho que botar mais memória acho que nem vai passar
nao termia aula opçao para usa no google notebook
Como posso alimentar essa IA?
Só não entendi pq a geração de texto foi lenta se seu PC tava usando apenas 23% de processamento , pq a I.A não usou mais recursos pra acelerar a geração de texto? se ela tivesse usado mais ram e mais processamento teria sido mais rapido.
Vou dar um chute, eu acho que é capado propositalmente. Lá no Stable diffusion, ele usa 100% do Pc, e geralmente congela a maioria das máquinas por alguns segundos.
Não tenho certeza, mas acredito que seja isso.
@@preguicaartificial poderia permitir que fosse configurado quantos % de recursos da máquina queremos usar, ai jogando pra uns 80% daria pra gerar textos mais rápido e não travaria, 😄😄
Também estranhei isso. Testei aqui no meu e deu a mesma coisa.
E ainda por cima deu a resposta errada xD. Perguntei quando Supreme Commander foi lançado (jogo pra PC) pra testar e ele disse em fevereiro de 2005, sendo que foi lançado em 2007.
@@andre_tech Ainda não achei essa ferramenta uma boa opção, vou continuar usando o Gemini do Google que é gratuito, as respostas são bem Mais precisas, e atualizadas
rapaz precisa de placa de video pq n tenho placa nvidea? excelente video
e tipo minerar criptmoedas, console muita energia
mas para rodar na proprima maquia, modelos de codigo aberto
vale a pena
Poder nada mais é do q o controle da mão de obra.
Pessoas são controladas através da escassez do dinheiro.
Políticos não gostam dessa nova moeda pq eles perdem poder de manipulação.
Então eles vão pagar a a mídia pra falar mal e pregar q essa nova tecnologia é ruim.
Mas não se engane.
O fato de existir uma moeda q nenhum político consegue inflacionar ou controlar dá mais liberdade e poder para o povo!
E se vc souber guardar do jeito certo, vc fica com o valor nas mãos e ngm no mundo tem acesso aos seus valores, apenas vc.
Isso evita roubos e confiscos.
Enfim... Não vai nessas ideia d q gasta muita energia. Quanto vale a sua liberdade?
Saiu hj matéria: "Dev brasileiro relata controvérsia com plataforma de pagamentos Stripe, que se recusou a pagar mais de 100 mil dólares pelas vendas do aplicativo NotchNook."
Se ele tivesse recebido a partir da maior moeda digital, ele não teria tido problemas, pois vc não precisa confiar em terceiros pra ter acesso ao q é seu por direito.
É uma tecnologia incrível.
Como a capa do video tem o Meta AI, quero fazer uma pergunta... Como eu coloco minha conta do Facebook nele para criar editar e filmar imagens, porque quando coloco mesmo com VPN ele vai pra outro site e não consigo voltar no Meta AI
São coisas independentes.
Mestre, existe alguma IA que faça o reconhecimento de uma imagem, e, a partir dela, consiga descrever o que esta ali ou interpreta-la? Um exemplo disso seria o GPT4o quando enviamos uma imagem a ele e ele descreve exatamente o que está ali ou até mesmo a claude 3.5. Ou seja... Existe alguma deste tipo que podemos instalar em nosso PC de forma offline? Obrigado.
Consegue alguma que faça isso on e o que escrever pra ela dar detalhadamente caso eu quisesse criar uma outra parecida
Mano voce é O viajante?
achei interessante, mas qual seria a utilidade de usar localmente essas ia ? alem de demorarem a responder, sao geralmente piores que as que ja estao no mercado
Offline !
Offline as empresas não coletam seus dados.
processador sem avx2 não roda
Alguma dessas IAs tem chat que aceite conteúdo com termos adultos se eu quiser criar um roteiro com termos 0fens1vos e palavrões??
Eu tenho uma GPU AMD de 8Gb de VRAM e o LM Studio não usa GPU, ele usa a CPU e mesmo eu tendo uma CPU potente com 12 Núcleos e 24 Treads, o LM demora muito para rodar os pedidos. Pesquisei a respeito e dizem se usar o Linux o LM Studio vai usar a GPU da AMD. Então, para Windows só baixem se tiverem uma GPU da Nvídia.
eu tenho uma 3060ti e as respostas vem instantaneamente, a gpu vai a 100% nas respostas, tem que selevionar a gpu e processador para liberar o maxino mas configurações do lm
Usa sim, usa a memoria de video disponivel na gpu.
meu computador é um i7 10700 KF com 32gb de ram 4600mhz e uma rtx 3070TI de 8gb de vram, da pra rodar tranquilo os modelos mais fortes ou é recomendavel usar os padrões que não exijam tanto?
O seu tanka
O que sao esses tokens? Nao ficou claro no video. Acabou os tokens tem que pagar?
Se for ter que pagar, qual sentido de rodar localmente?
Pensei que por ser codigo aberto, eu pudesse usar o llama 3 de boa gratuitamente local, so precisaria de uma maquina parruda.
Esse token é referente a quantidade inserida na LLM
Parei de assistir ao ver os requisitos mínimos. 16GB de RAM? Meu laptop tem 8GB. Hahaha
top tks
E possível instalar essa IA no celular
não
Existe alguma pra celular? Olha ai sugestão de vídeo! Imagina um assistente que voce pre configura tudo e ele consegue alterar qualquer coisa que pedir atraves de um chat, ou de voz@@preguicaartificial
@@albertoteixeiraa mesmo o celular mais potente hoje perde pra computadores medianos, celular não aguenta
Sem pagar nada pagando 😂
Primeiro