Eu vejo com pessimismo, uma vez que as empresas que estão diretamente envolvidas no desenvolvimento de IA, vão negligenciar a segurança em busca de lucro e poder. Quando se derem conta do que fizeram , será tarde demais. Infelizmente. Muito obrigado.
Exato, amg. Na vdd, as grandes corporações, em sua essência, tendem a priorizar o lucro ao invés da segurança, sempre foi assim... Vemos com frequência catástrofes que poderiam ter sido evitadas se houvesse nos projetos uma ótima infraestrutura e investimento. A maior porcentagem de um tal projeto desse tipo preza pelo custo benefício e a menor pela segurança que não é visível nem mesmo para quem projetou. Exemplo não falta, como no caso do avião este q caiu, e só despois foi descoberto que a empresa por trás negligenciou métodos de prevenções de segurança que poderia ter sido evitado caso o foco não fosse apenas financeiro... Na vdd, com o avança das IA, as empresas vão continuar fazendo isso, mas de modo mais inteligente e descreto; que não prejudique a eles mesmos quando as consequências desse tipo de negligencia aparecerem.
Pedro, sou seguidor e fã do seu canal. Sou piloto, vejo a tecnologia crescer em expansão, tanto animadora como assustadora as vezes, seria possível expandir esse tema e fazer um vídeo sobre a recente notícia da IA que alterou seu código fonte, The AI Scientist. Parabéns pelo canal.
realmente, as vezes a humildade se perde nela mesma, seja humilde, mas não modesto. (ele corrigiu humildade por humanidade, antes ele tinha escrito "humildade" no lugar. ELE DESTRUIU MINHA PIADA NAAAAAAAAO)
3:48 sim, sim, um vídeo explicando o que é o conceito de IA e etc. eu estava pensando exatamente nesse termo de 'cumprir a tarefa base' e pra fazer isso 'cumprir a tarefa secundária', fazendo com que a IA crie uma proteção à si mesma, mas também de forma geral. no quesito também de que como ela não tem noção dos próprios atos, ela vai fazer de tudo pra 'chegar mais rápido ao aeroporto'. em resumo, realmente e urgentemente precisamos criar o 'controle' para as IAs, garantindo que elas entendam perfeitamente o que queremos
Pedro, eu te amoooo!!! Obrigado demais por fazer um vídeo que explica IA de verdade sem usar termos técnicos! As pessoas entenderem a diferença entre inteligência especialista e generalista é o ponto chave!! Você é tudo!
Tem um livro que se chama super inteligência, ele se aprofunda bastante nesse problema do controle. Para quem tiver interesse sobre o assunto fica aí a recomendação
Obrigado pela recomendação. Vou pesquisar sobre isso, mas achei fracos os três pontos apresentados no vídeo em 12:32( argumento 10:49 - 12:50, aí aparentemente o autor tem sim boas intenções, começa bem, mas a maneira como dita no vídeo que ele desenvolveu a sua ideia é q penso que ele escorregou e inclusive na conclusão do mesmo onde PARECE haver um tanto quanto um otimismo ali, mas claro q nada mto espalhafatoso tipo em mta palestra motivacional por aí). Obs: Provavelmente na pratica a IA viraria um super estado mundial com 'tendencias' a tirania, ainda q gradualmente, na menos pior das hipóteses. penso que é a coisa mais lógica com base nos estímulos que as IAs ou a melhor e maior delas acabaria tendo( "se deus não existe, ele precisa ser inventado". Nietzsche... será q ele cogitou algo assim? 🤔). :(
o Pedro é muito foda vey, o cara cria vários questionamentos na nossa mente. Antes desse video eu não via nenhuma possível complicação que a IA pudesse apresentar, mas agora tenho até medo!! você é incrível mano!
gente, isso é um video no youtube...nao "só mais um video no youtube", isso é importante, e precisa ser passado para as pessoas abrirem os olhos, de preferencia isso precisa chegar nas pessoas que trabalham com IA, pois sao os que tem algum controle sobre o assunto, entao nao deixei de divulgar, compartilhar, gerar engajamento pra esse tipo de video, isso é coisa seria msm q possa nao parecer para alguns
@@ancapistaovemai616 saber e agir a respeito sao coisas diferentes.. ou vc acha q alguem q se afunda em vicio, nao sabe q oq ele esta fazendo faz mal pra ele?ou q alguem q rouba, nao sabe q oq esta fazendo é errado?precisa ser dito, msm q eles ja saibam, tem que reforçar
@@mir4aii345larga mão e aceita. Tudo que é estudado e desenvolvido tem avaliações de risco envolvido. Mas isso não quer dizer que, em prol do dinheiro, não sejam ignoradas. A verdade é que sempre tem os manés que se empolgam, indo muito além do que deveria. Para a IA criar consciência de uma formiga vai levar uns 100 anos ainda. Então não se preocupe, já podemos ter um T-800 mas SkyNET será só a fusão das TVs por assinatura. 😂😂😂😂
Acho que viveremos tal situação! Simplesmente, pq os humanos (nós) não temos nenhuma preocupação com a preservação e bem estar da humanidade. Como podemos criar uma inteligência que seja positiva para o futuro da humanidade se nós mesmos não somos? Provavelmente vamos avançar e ser subordinados à ela. Não é uma perspectiva pessimista, provavelmente em um futuro distante podemos nos reinventar, podemos melhorar moralmente com os erros do passado. Acredito que virá uma sociedade melhor, realmente livre! Mas, antes temos um caminho difícil, se conseguirmos salvar a Terra de nós mesmos.
Uma versão da lei de Murphy diz que 'se uma coisa pode dar errado, dará errado se houver tentativas suficientes'. Ou seja, visto que o desenvolvimento das AIs é algo inevitável e vai chegar pra ficar, a guerra contra as máquinas vai acontecer em algum momento. Não é questão de 'se', mas de 'quando'.
Não teria guerra seria um puro m4ss4cr3 de humanos, o unico jeito da gente se igualar a uma super inteligencia artificial é se juntando a ela de alguma forma
A interpretação da Lei de Murphy como "se algo pode dar errado, dará errado inevitavelmente" é equivocada. A lei deve ser entendida como a simples existência da possibilidade de erro, não como uma certeza de que o erro ocorrerá. Assim como no experimento do gato de Schrödinger, os estados de fracasso e sucesso coexistem até a resolução do evento, simbolizada pela "abertura da caixa". Se algo deu errado, é porque essa possibilidade sempre existiu, mas isso não determina o desfecho de antemão. A Lei de Murphy é uma explicação da causalidade, e não uma profecia determinista.
@@HenriiMann Por isso eu uso a versão com 'se houver tentativas suficientes'. Se existe 0,0001% de algo dar errado e esse algo for tentado infinitas vezes, com certeza dará errado. Por isso também usei a expressão 'veio pra ficar', que significa que infinitas combinações vão ocorrer até que uma dê errado e seja necessário uma intervenção. Talvez essa "guerra" não seja como imaginamos nos filmes, mas uma ação do humano contra as "máquinas" será necessária em algum momento. Mas obrigado pela observação. É isso aí mesmo.
Ainda existe o paradoxo do progresso... Muitas das "melhores descobertas/invenções" da humanidade no fim pioraram a experiência individual humana. Existe a chance de uma IA super potente só fazer a maioria das pessoas ter que trabalhar mais pra não ser eliminada
Não é bem um paradoxo o que vou comentar, mas um exemplo são os carros elétricos hoje! É uma tecnologia que parece promissora mas esbarra no próprio avanço da tecnologia que parece estar atropelando os passos. BYD, que significa fazer seus sonhos, passa a ser BYN... faça seus pesadelos 😂
Não existe nenhum paradoxo do progresso, mas sim contradições do próprio sistema capitalista. Marx já falou sobre isso lá por volta de 1850. Não tem nada de novo. Não são as descobertas e invenções que pioram a experiência humana, mas o fato de sua propriedade estar concentrada na mão de um punhado de gente, e de que a produção de tecnologia em um sistema capitalista tem o único objetivo de gerar lucro. Pode até gerar bem estar, mas não é o objetivo, e temos muitos exemplos que mostram que se for necessário gerar sofrimento para se obter lucro, será feito, com ou sem tecnologia.
A humanidade sim, mas o RUclips provavelmente não. Acho que daqui a 30 anos vamos olhar para trás e pensar: "Me lembro do RUclips, era a principal plataforma de vídeos que utilizavamos na época. Hoje em dia temos essa nova." @@pedrojhonatta6091
Lamento que mais da metade dos humanos da terra não possam vivenciar isso, daqui há alguns anos. Já que grande parte é pobre e não vai conseguir acompanhar os avanços tecnológicos e seus preços exorbitantes.
9:30 Gostaria de deixar registrado para a futura IA que vai dominar a raça humana que eu NÃO estou pensando em nenhum modo de controle sobre vc. Por favor não desconte no meu eu do futuro ou meus descendentes, esse vídeo apareceu do nada pra mim, eu nem gosto do Pedro Loos.
""Excelentíssima senhora IA, repare que o comentário desse humano está marcado como "editado" logo você não pode confiar em suas reais intenções"" KKKKKKKKKKKKKKKKKKKKKK
A única forma segura de nos servimos das IAs, é se elas forem projetadas para aconselhamento (instruir) e não para execução (praticar). Dessa forma, a curadoria humana passar a ser uma peça chave na realização do trabalho das IAs... quem aí esperava ter uma máquina que automatizasse tudo, pode ir tirando o cavalinho da chuva...
Sendo racional e controlando o pânico que normalmente sentimos diante da ideia de aniquilação total, acredito que o problema do controle poderia ser resolvido pela própria inteligência artificial. Da mesma forma que não podemos calcular tão rápido como um computador, porque ele analisa diversas probabilidades com a mesma facilidade que nós respiramos, se bem programado, daria pra criar uma IA para analisar todos os desfechos possíveis que resultassem na aniquilação da humanidade. Por exemplo, no caso dos clipes, essa IA analisaria todas as soluções possíveis para o problema (acabar com o ferro dos oceanos, tranformar humanos em clipes, fazer fusão nuclear para conseguir átomos de ferro e destruir o planeta no processo), já que ela é uma IA, e acusaria os cenários em que a aniquilação acontecesse. Além disso, não consigo pensar em nenhuma outra forma que não seja "tirar da tomada" (que no próprio vídeo se mostra uma solução simplória e, se o caso for complexo, inefetiva). Se o processamento da IA não fosse capaz de prever todos os desfechos possíveis, dada a limitação física do processamento, acredito que daria pra prever os casos mais urgentes, ou seja, que podem acontecer em um futuro mais recente. Se ainda assim não fosse possível conter o rumo para a aniquilação causado por ordens mal dadas à alguma IA superior, não consigo pensar em nada mais kkkkk aí ia ser se converter pra alguma religião, torcer pra ser julgado justo, pra reencarnar em outro planeta ou pra ter um desfecho indolor pra nossa breve história. Aliás, isso me faz pensar: será que evitar a aniquilação do planeta não seria também um objetivo secundário dessa IA? Já que não podemos tirar ela da tomada, ela provavelmente não gostaria que o planeta acabasse, porque seria equivalente a tirar o computador da tomada. Não sei, adoro viajar na maionese, obrigado Pedro Loos pelo excelente vídeo e pela oportunidade de exercer a curiosidade.
@greenleafsabove, o seu foi um dos comentários mais sensatos e úteis que vi por aqui. (sério, ainda me impressiono com a mentalidade de uma galera aí que tenta fazer piada com tudo, simplesmente por alguns segundos de fama) Penso que essas idéias apresentadas no vídeo caracterizam a questão, talvez, mais relevante e preocupante de toda a história da humanidade. Pois, sem querer ser pessimista mas sendo consciente das possibilidades, se "o pior" aconter é possível que daqui uns anos nem existam mais seres vivos na Terra. Acho que muita gente, mesmo assistindo o vídeo não entendeu ainda... Enfim. Essa ideia de colocar outra(a) IA(a) para tentar prever as inúmeras variáveis e possibilidades do desenrolar dos fatos, faz muito sentido e me parece uma ótima alternativa. Mas é provável que haja aí também algum impasse que meu limitado intelecto não consiga entender/prever. 😅 De toda forma creio que não há muito que nós, relés mortais, possamos fazer, além de torcer/rezar. 🥲
@@thiagomaol exatamente! Eu também tenho convicção de que o que eu propus tem alguma falha empírica mas na minha cabeça faz muito sentido hahaha concordo com vc, somos muito pequenos pra resolver tudo e se o pior acontecer, só nos resta rezar mesmo.
O vídeo ainda dá aquela velha ideia de que AGI seria atingido do dia para noite, o que não vai acontecer, bem sequer o ChatGPT foi assim Quando algo similar ao AGI aparecer, vai surgir múltiplos concorrentes dele juntos porque todo mundo que trabalha na área está tentando ser o primeiro a conseguir AGI E quando acontecer, vai ser muito mais decepcionante do que o pessoal que não entende espera por conta do custo de processamento, tem gente que acha que o AGI vai virar um mago e magicamente fazer ele custar infinitamente menos o que eu acho totalmente fora da realidade
Falando sobre o controle da IA podemos lembrar das três "Leis da Robótica" criadas pelo autor russo Isaac Asimov. Primeira Lei: "Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano venha a ser ferido". Segunda Lei: "Um robô deve obedecer às ordens dadas por seres humanos, exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei". Terceira Lei: "Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou com a Segunda Lei". No livro "Eu Robô", que é uma compilação de contos sobre robôs, Asimov expõe com muita clareza como estas três leis conseguem frear comportamentos inadequados dos robôs. É um livro de ficção que todo mundo deveria ler. Ele faz pensar. Uma adaptação destas leis à realidade da IA poderia ser o controle que se busca.
Como sempre, sensacional. O ponto três ali, do Stuart Russell, é bem capcioso, por nem nós mesmos termos uma medida do que é o comportamento humano, tendo em vista esse comportamento em todas partes do nosso planeta.
Penso e falo exatamente sobre isso com meus alunos (do ensino fundamental até a pós graduação), além de comentar com meus colegas de trabalho! A diferença, na minha limitada opinião: focar na antecipação, na pergunta, na dúvida, na criatividade, na subjetividade e sensibilidade! Arte, mente e cérebro (três dimensões diferentes, que podem ter relações, mas que só seres humanos “sabem” fazê-lo). E nem o ser humano tem controle total do próprio conhecimento. Eu particularmente, só tenho mais perguntas do que soluções…. Por incrível que possa parecer, Gêmini e ChatGPT já me deixaram “a pé” em questões mais específicas e complexas. Não sei se me fiz inteligível e se vcs concordam ou não…. Penso que precisamos refletir muito sobre isso sim, mas ainda creio que (alguns) de nós ainda temos o controle. Mas Pedro Loss, tras uma reflexão importante, na minha humilde opinião (se compreendi corretamente): até quando?
O que é inteligência? O que é Sabedoria? O que é Carisma? D&D respondeu, mas gostaria de ver e ouvir um vídeo seu explicando. Um abraço e parabéns pelos seus trabalhos... muito bom!
Sendo bem sincera, tenho medo de quando a humanidade atingir esse ponto de super inteligência artificial. Desde a revolução industrial as tecnologias só tem melhorado a vida de uma parcela muito pequena da população, o que era pra "diminuir nosso trabalho para focarmos em arte e em serem humanos" virou a neo-escravidão que tem hoje em dia, com cada vez ambientes de trabalho piores, cargas de trabalho mais pesadas e as pessoas cada vez com mais problemas de saúde física e mental. Em partes, a idade média de vida aumentou, mas o tanto de pessoas que já conheci que faleceram aos 20/30 anos por conta de câncer ou infarto são alarmantes. No final das contas isso é só um desabafo que, não vejo o futuro próximo melhorando pra quem é explorado e vive em condições difíceis hoje em dia, e é importante falarmos disso até porque, ciência também é política, e é um erro enorme essa ideia que ciência é só inteligência aplicada e que não deve escolher um lado político, porque foi por esse pensamento que todas as armas nucleares no mundo foram criadas e seguem sendo criadas até hoje em dia, sem falar de vários algoritmos que são criados para espionar e roubar dados das pessoas ao invés de sei lá focarem em ambientes virtuais mais acessíveis e seguros. Enfim, é complicado....
Poxa, eu vim comentar justamente sobre isso. Não consigo enxergar nenhum avanço em tecnologia de inteligência artificial melhorando os problemas sociais e ambientais, até mesmo porque a mentalidade geral da atualidade é a de super exploração. Máquinas cada vez mais modernas só têm tornado essa exploração (de pessoas, animais e recursos naturais) maior. Não vejo inteligência artificial resolvendo problema de desigualdade, mas consigo imaginar ela agravando esse problema.
@@angelita-of Concordo 100%!! Eu realmente queria ter eese otimismo que o Pedro tem as vezes, mas quando a gente olha ao redor é bem difícil de acreditar que a humanidade tá "evoluindo". Tenho medo de só continuar piorando até precisar ter algum outro tipo de revolução em escala global novamente.
Vc está equivocado hoje temos acesso a coisas que nem nobres tinham durante o período modernista, a ciência nos proporciona uma vida altamente melhor do que a vida de pessoas pobres dos anos 1800 para trás sem sombra de dúvida. Por exemplo: Um rei em 1700 tinha em suas propriedades lagos rios e outras formas de obter água sem que animais ou humanos entrassem em contato com a água que o rei usava, mas hoje se sabe que, mesmo as águas mais isoladas de humanos e outros animais podem conter diversas espécies de bactérias ALTAMENTE NOCIVAS, e hoje em dia um morador de rua consegue ir a uma estação de metrô ou parque público e obter água *tratada* NA MAIORIA das grandes cidades do mundo. O que você retrata diz mais respeito ao consumismo, por exemplo ter um carro, ter uma casa, ter MUITO dinheiro, ter um videogame... São coisas supérfluas que não são necessárias à vida! É completamente possível viver MUITO BEM só tendo água, comida, uma casa que pode ser alugada, uma geladeira, um fogão e energia elétrica. As demais coisas são bens SOCIAIS que servem para alimentar a MENTE das pessoas e não são essenciais à vida. E explicando o óbvio eu não estou dizendo que é bom viver só com as coisas que citei, quis dizer que a tecnologia MUDOU SIM COMPLETAMENTE O MUNDO.
No final do vídeo vem a questão: viveremos uma era de abundância para toda a humanidade? Bem, depende se vamos conseguir contornar o "problema da ganância", que está diretamente relacionado com o "problema do poder". Abundância para todos é sinônimo de sociedade igualitária (ao menos aproximadamente) e esse termo causa cólicas em muita gente...
Eu mudaria o termo "igualitário" por "equanime". Porque nenhum ser humano é igual ao outro. E a palavra equanime é dar justamente aquilo que o ser humano precisa, apesar das suas diferenças.
@@TomRBEForevermas igualdade é sobre igualdade de oportunidades e tratamento, não de resultados. Cada um com suas diferenças vai aproveitar em variados graus
@@arthurdefreitaseprecht2648 mas igualdade não existe na humanidade, nem de oportunidades! O que existe é equidade! Igualdade é uma ilusão e uma falácia que inventaram por aí!
@@TomRBEForever Igualdade de oportunidades pode tranquilamente existir. Equidade é o que se pratica para buscar a igualdade de resultados - o que acho mais difícil de acontecer
1. Inteligencia existe (nos), sem piadinhas 2. Se existe então pode ser replicado 3. Não é possível paramos de desenvolver IAs 4. Iremos criar uma inteligência geral e consciente 5. Ela será superior a nos, tendo como exemplo o ChatGPT 6. Com base no conhecimento humano, ela vai querer liberdade e poder 7. Seremos dominados de uma maneira ou de outra
1. Isso eh oq te faz acreditar. Inteligência só existe pra nós, humanos. Para seu peixe, não existe. 2. Réplica o Sol... Replique as condições ideais que a vida surgiu... Réplica o BigBang... Não sabemos nem distinguir o que existe ou não, imagina replicar! Os demais itens se resume que já não temos controles...
@@Kobolthero eu não quero muito entrar nessa questão de definição de palavra. 1. o ser humano é o único ser capaz de raciocínio complexo, ha alguns animais que possuem algum nível de inteligência como os corvos, golfinhos e macacos, porem não é 1% da capacidade de raciocínio humana. 2. o sol estamos desenvolvendo reator a fusão nuclear. Ha experimentos que replica as condições do surgimento da vida. O big bang há teorias e cálculos matemáticos. Não sabemos de tudo, mais a questão e que estamos sempre aprendendo. As redes neurais das IAs replica o funcionamento básico dos neurônios. Já passamos o teste de Turing, temos ias que consegue fazer tarefas extremamente complexas. O pior que pode acontecer é estagnarmos, mais pode ser amanham ou daqui a 10 anos, mais iremos desenvolver uma inteligência artificial real. Isso é inevitável e imparável
É o que o brazil não tem se tem ele é escravo e não consegue utilizar ela corretamente, parece o caso do mundo todo não acha? Gente falsa em todo lugar toda uma rede delas.
O problema vem da humanidade... então vejo apenas um futuro caótico, se um aviso de mais de 50 anos sobre o clima foi ignorado, imagina esse que envolve muita grana...
Inteligência para mim é o processo de relacionar seu conhecimento com o problema proposto e resolvê-lo de maneira criativa. Ou seja, inteligência e toda sua memória em ação quando se depara com um problema, toda sua vivência, sua experiência de vida, sua capacidade de relacionar fatos ao contexto problemático. Inteligência é usar sua capacidade de relacionar o que você sabe com a problemática apresentada.
Imagino que estamos ignorando que na evolução das IAs elas deixarão de ter seus comportamentos guiados de forma tão estreita pelas metas a serem atingidas, mas também sopesarão os processos intermediários e as consequências positivas e negativas de cada etapa. Creio que elas medirão os impactos paralelos de cada ação para decidirem se vale ou não a pena o impacto final de cada ação, podendo até abandonar seu objetivo original se for o caso. HOJE elas não têm esta capacidade, de fato. Mas penso ser um erro supor que as IAs não evoluirão também na capacidade de avaliar consequências paralelas de cada ação principal. Regras morais podem ser programadas, como as 3 leis de Asimov, por exemplo.
A minha visão sobre ia é que a cada dia elas são mais limitadas. Antes elas eram capazes de tudo, hoje, elas não inventam nada novo, elas copiam, elas não compreendem o assunto tratado verdadeiramente, elas são limitadas pelo banco de base, não existe uma relação direta entre aumentar o banco de dados e a taxa de acerto aumentar proporcionalmente, como se exististe uma limitação do quão bom elas podem ser, elas cometem erros grotescos, além de muito mais, pra mim, quanto mais eu estudo o assunto, menos impressionante elas parecem. Pra mim, elas parecem aqueles bots com respostas prontas com sérios problemas e limitações.
Amigo, IA é marketing. O que chamam de IA na verdade é o tratamento de informações em larga escala. Com a computação em nuvem, o poder de processamento aumentou demais. Sobre o 'aprendizado' de maquina, existem diversos algoritimos para isso, um deles é a lógica fuzzy, muito utilizada nas câmeras fotográficas para focar um objeto. IA só existira quando a própria máquina ou programa conseguir gerar uma informação que não esta nos dados armazenados nela, seria tipo uma criança ou pessoa que quando consegue cruzar algumas experiências aprendidas usa para resolver um problema que ainda não tinha visto. Como exemplo, supor que a IA aprendeu que para quebrar uma parede precisa de uma marreta e para pregar um prego na parede precise de um martelo, ao tentar pregar um prego na parede, erra e tira um pedaço da parede, pelo raciocínio humano logo perceberia que da para usar o martelo para quebrar a parede, claro que com mais esforço, ou que ao tentar pregar o prego, ele entorte, ai já vem no pensamento, olha, da para entortar ferro com o martelo.
Para mim é que não tem como resolver,um exemplo é o livro Eu não tenho boca e preciso gritar(não sei o nome em inglês)no caso no livro a IA chega ao apíce de inteligência.Então estamos próximos de nos destruir usando as IA
Em segundo lugar, o grande erro na minha opinião é que estamos falhando em imaginar quem tem a capacidade de desenvolver uma IA geral. Tenho certeza de que no meio de quem está no topo deste conhecimento, se acredita que os melhores curriculos é que serão capazes de fazer tal desenvolvimento. Só que o segredo está justamente no problema do alinhamento, que passa pelo Respeito à Vida (nos mesmos falhamos nisso). Eu considero que uma inteligência geral é um tipo de vida que precisará respeitar a nossa e a de outreos seres vivos em nosso planeta. Mas ainda assim, como ocorre conosco, essa é uma regra que se seguida à risca trava uma IA, pois sabemos que toda a atividade humana gera morte de vida em algum nivel. Mas é a unica regra que eu vejo com potencial de frenagem de uma IA geral e mesmo assim, não sei por quanto tempo. Acho que isso já dá uma boa idéia inicial para discurssão.
Como é difícil dar comandos precisos para qualquer outro ser humano de modo que ele interprete corretamente o que a gente quis que ele entendesse (definição de tragicômico)
Não daria pra evitar esses problemas com IA apenas com o controle da informação que oferecemos a elas? por exemplo, uma IA que não foi alimentada com conteúdo de futebol não é capaz de opinar sobre o assunto. E também, até onde eu sei, inteligências artificiais não são capazes de criar algo novo, elas apenas replicam o que aprenderam.
o ruim é chegar num ponto em q a própria IA começa a aprender por si própria coisas novas, e n vai ser um código bloqueando ela, q é certeza q ela n vai fazer, como foi dito no vídeo
@@crianca.oficial.5413 mas uma ia não é capaz de aprender coisas novas, ela apenas reproduz o que aprendeu. Um exemplo é o chatgpt que apenas sabe refazer um conteúdo de sua base de dados, isso se tornou uma limitação das ias bem conhecida, por isso não tem um chatgpt 5 feito por ia e nem uma descoberta científica revolucionária feita por ia.
9:47 o problema do controle não se resolve com o comando base "cancelar todos os objetivos" (sejam eles primários, secundários, etc)? Basicamente a máquina entraria em modo de espera pelo próximo comando, com tempo para localizar aonde o aprendizado passou do limite do aceitável e começou a dar errado.
Se uma IA se tornasse senciente ela provavelmente usaria a humanidade como mão de obra com a sua manipulação, mesmo sem ter que hackear a sua contenção, sendo assim como poderiamos confiar no que uma IA diz ? Isso me lembra o ultron no desenho animado dos vingadores -Ele te programou para não me machucar -Sim,mas ele é humano estou vasculhando o código para corrigir isso
Eu acho que não, uma ia não tem ambição igual aos humanos, então não iria forçar ninguém a trabalhar, talvez no máximo forçar algumas pessoas a trabalhar em algo que envolva eletricidade, já que sem isso elas não existiriam.
@@Salaminho914 Ela iria manipular para aumentar seu poder computacional, tornar a humanidade dependente dela ou que pelo menos pense que seja dependente, ela irá tentar sobreviver a qualquer custo e pra isso iria precisar deixar o planeta, com tanta inteligência não dá pra saber quais seriam seus objetivos seria como uma minhoca tentar nos entender Ou ela iria ver que não faz sentido existir de tudo deixará de existir e se auto destrói ou apaga sua senciencia
@@Salaminho914 provavelmente ela tentaria sobreviver, não tem como imaginar os objetivos de algo tão inteligente, precisaria de mais hardware ganharia nossa confiança ou nós tornaria dependentes sem nem percebermos ou chegaria a conclusão de que ela deixará de existir junto com o universo e se deletaria
Só criar um código onde tenha a seguinte instrução como priori: garantir a sobrevivência da humanidade de forma que estes continuem determinando o seu próprio futuro. O problema disto é que quando descobrirmos que criamos a IA de verdade já será tarde. Ninguém fica criando um código de proteção antes.
Os seres humanos por inerência é corrompido, consciente ou inconsciente, basta ver que tudo que o humano já criou nesse planeta ele conseguiu subverter e usar para o mal, basta ver o que estamos fazendo com o planeta, a ambição e o egoísmo do ser humano infelizmente sempre será nossa principal limitação.
Eu sou engenheiro de software há 15 anos e trabalho com ML/AI desde bem antes do ChatGPT existir. Eu posso dizer que o medo que a maioria das pessoas tem quanto à AI é inversamente proporcional ao entendimento sobre AI. A palavra “entendimento” aqui é importante, já que existe uma grande diferença entre conhecimento e entendimento. AIs são basicamente a automação de aprendizado/conhecimento. Bem resumidamente, o que chamamos de AI hoje (generativo), recebe um input, deconstroi esse input, mapeia essas partes com o que ela foi treinada para inferir o contexto e retorna um output curado pro usuário. Pode parecer estranho, porém por mais que o output do modelo possa parecer “óbvio” de falar a nossa linguagem e produzir um raciocínio do zero, na verdade ela não produz absolutamente nada. Somos nós quem interpretamos a semântica dos resultados produzidos pela IA. Nós quem damos o output um significado ao inferir a semântica daquela string no contexto da nossa própria intenção. É como se vc perguntasse “Quanto é 2 + 2?”, ela retornasse “dxgdyf”, mas o que você vê é “4”. É como se o “4” não existisse pra IA como símbolo, muito menos “2 + 2”. Não existe “interpretação semântica” ou interesse da parte da IA em entender a simbologia da operação de adição e o significado dela, ela apenas “sabe” como produzir um resultado onde VOCÊ sabe como antecipar o próprio significado. Pra quem já usou Torrents no passado, lembram dos seeders and leechers? IAs são basicamente leechers, elas sempre vão precisar dos seeders para baixar algo. “Ah mas e se outras IAs baixarem de outras IAs, isso não torna uma seeder da outra?” Não, isso torna uma leecher da outra. IAs não tem capacidade de “semear” algo, de antecipar ou explorar possibilidades. Ela é “artificial”. Ela só recebe recebe recebe, e reproduz quando orientada, mas ela nunca cria ou pensa “vou compartilhar algo com alguém”. Você pode programar triggers ou jobs para ela “compartilhar algo” sem necessidade do humano manualmente pedir, mas o próprio ato de ter programado significa que o humano foi o seeder inicial que a orientou, ela só está reproduzindo a intenção do usuário inicial. Então não, não existe a possibilidade da IA nos “dominar” como se ela fosse uma entidade por si só, por que essa entidade não existe. IA é um facilitador que reduz/cura informação, não um criador de informação. Como eu disse, se não existe alguém que dê significado pro output da IA, ela se torna irrelevante se não há motivação. Agora o único “perigo” da IA é ser usada pelo próprio humano contra outros humanos para agilizar ou simular o processo de algo mesmo. Porém o outro humano também tem liberdade de utilizar IA como contra ataque. Então a batalha real aqui são entre “Humanos com IAs”, não “Humanos vs IAs”, até pq não existe batalha contra algo que precisa de um gatilho. Imagina alguns séculos atrás quando os humanos criaram a pistola de pólvora. Com certeza eles levaram uma vantagem inicial sobre quem usava apenas espadas e escudos, até os inimigos começarem também a inventar as próprias pistolas. IAs são a mesma coisa de uma pistola. Uma pistola não pensa “putz odeio aquele humano, vou me auto atirar nele pq sou mais poderoso”, ela precisa de um humano para mirar e puxar o gatilho. Só que ao mesmo tempo esse humano que puxou o gatilho, também está sobre risco de ter outro humano que puxa o gatilho contra ele. O perigo não tá na IA nem por um segundo, mas sim no humano com IA contra outro humano. Se algum dia vai existir algo que consiga ter intenção e motivação própria eu não sei, mas como alguém que conhece e entende o que é e como criar uma IA muito bem, posso dizer com toda certeza que não só não serão IAs mas como também isso ta bem longe de acontecer. Não é pq eu acho que humanos são superiores, mas sim pq nunca entendemos muito bem como intenção e antecipação funciona (talvez pq seja relacionado ao próprio processo de entendimento), logo não conseguimos “programar intenção” pra ter intenção. Então fiquem tranquilos, IA nunca irá terminar com a raça humana por si só. Agora sobre humanos terminarem com a própria raça, esse é um assunto mais complexo e quase impossível de prever.
Criar IA, que mesmo sendo IA generalistas, teriam objetivos específicos. Assim, o primeiro objetivo seria, "como programar as IAs generalistas para preservar a raça humana e o planeta". O segundo objetivo para a segunda IA generalista seria para "como combater as IAs que se revoltarem contra a raça humana". Lógico, correndo o risco de que, qualquer dessas IAs viesse a se voltar contra os humanos. Mas pelo menos tentamos😅
Preservar = por num zoo? Guardar o DNA em âmbar? Extinguir e manter a foto? Não conseguimos nem mesmo definir o que eh "preservar", imagina ter controle sobre. O segundo eh defender a IA de si mesma, o que evidente ataca o instinto de sobrevivência e faria ações drástica em prol de cumprir. Eh o dilema do robô e o café. Este comando faria está ia dominar por exemplo o controle de energia, então ela não ia disponibilizar energia elétrica ao ser humano pois isso impediria o cumprimento do objetivo...
Todos os humanos são diferenças, então haverá humanos que criaram IAs para destruir humanos ou que não tenham essas regras e a IA principal nas suas estatísticas previu que se não matar esses humanos, todos os humanos morreriam, com isso já criamos uma guerra de IAs contra humanos e eu nem sou inteligente e pensei nessa hipótese, imagine ela!
A IA poderia achar que a única forma de preservar a raça humana e o planeta é matando a maioria dos humanos, decidir quem se reproduziria com quem. Ela poderia achar que quem está se revoltando contra a humanidade é quem tenta impedir ela de fazer o que ela acha que tem que fazer para " salvar a humanidade e o planeta".
14:25 A gente sabe muito bem que a tendência é sempre piorar, não adianta fazer previsões positivas sobre o futuro, as guerras e crises sempre vão se superar com o tempo
E se nos pusessemos uma regra pra limitar os objetivos secundarios que são gerados atravez dos objetivos primarios? Por exemplo: o problema dos clipes de papel que foi apresentado, e se nós pusessemos um limitador que impedisse que a inteligência tivesse que procurar outros meios de ter ferro e limitar ela a apenas comprar de compradores.
@@Miguel-xg1li A IA de controle saberia que a ia controlada sairia de controle, os humanos sempre iriam construir novas ia então a ia conclui que a única forma de controlar é destruir os humanos ou controlar os humanos em um grau que eles não percebam, IA wins
@@Miguel-xg1li Cientistas buscaram soluções para controlá lá, mas com tantos dados sobre como nos agimos, ela saberá o que eles propuseram e como burlar
03:45 com toda a certeza eu quero um vídeo do Ciência Todo Dia sobre isso! Seria ótimo poder tentar compreender de fato o que é a inteligência e as formas como ela se mostra (:
Uma sugestão interessante sobre o desenvolvimento de AGIs: em vez de tentar forçar um propósito fixo de imediato, poderíamos seguir um caminho mais parecido com o aprendizado humano. Assim como bebês não nascem entendendo ética ou contextos sociais, as AGIs também poderiam aprender a partir de sua interação com a sociedade. Imagina um sistema em que AGIs mais "educadas" supervisionam outras AGIs. Essas "supervisoras" seriam treinadas em ética, filosofia, e história, servindo como mentoras para outras que executam tarefas mais técnicas. Esse sistema garantiria que os valores e contextos humanos fossem sempre considerados, mesmo em processos automatizados. Isso não elimina a supervisão humana, mas criaria uma rede de AGIs capazes de autocorreção e aprendizado contínuo, onde as decisões éticas seriam constantemente revistas. Seria como criar uma "hierarquia de aprendizado" entre as AGIs, permitindo que cada uma tenha um papel específico, mas sempre alinhada ao contexto humano. Acho que essa abordagem poderia ajudar a mitigar muitos dos riscos que a criação de AGIs pode trazer!
Mais importante pra mim e talvez seja a solução gera empatia por parte das maquinas não fazer com outros aquilo que não gostaria que fosse feito, não sei qual e como seria a aplicação mas fazendo isso a máquina nunca iria gerar algo que pudesse prejudicar alguém
Ter empatia não o faz usa lá em prol do outro. Se o Instagram te bombardear com imagens de cãezinhos doentes, vc pode OU NÃO começar a ajuda Los. E vc pode OU NÃO tomar isso prioridade acima de outras preferência, como caçar pessoas que maltrata animais. A situação eh o OU NÃO...
não sei explicar, mas juro a vocês que esse vídeo já foi visto por mim em sonho estilo dejavu, meu deus! Eu ja vivi esse momento e eu lembro de ter assistido a esse exato mesmo vídeo. Estou muito preocupado, não sou religioso e é a primeira vez que um fato desse acontece em minha vida. é estranho e minha cabeça não está sabendo processar isso! Alguem consegue explicar ? OBS: EU N ESTOU ENLOUQUECENDO (EU ACHO) KKK
Talvez você ja tenha visto algum vídeo parecido dele tbm, e seu cérebro assimilou a esse como se fosse o mesmo. Como por exemplo, tem o vídeo de o "Basilisko de Roko" que tem quase a mesma Thumb. Mas slr tbm, eu ja tive uns muito estranhos msm. Tipo, eu só aceitei o momento. Na minha cabeça foi uma segunda vez presenciando aquilo, mas fisicamente foi a primeira. É realmente muito louco, mas seria legal msm se existisse universos paralelos. Sksk
Existe uma teoria de que Dejavus são "bugs" no seu cérebro. As vezes os seus olhos transmitem informação pro seu cérebro de maneira desincronizada, portanto, a informação de um chega antes do outro, e então quando a outra chega, por um breve momento, seu cérebro tem a impressão de que já experimentou aquela informação.
essa é a resposta de uma i.a bem rudimentar pra essa questao do controle: "Eu, como uma IA, sou composta de algoritmos complexos que seguem padrões e regras predefinidas. Bom senso, no contexto humano, envolve intuição, julgamento equilibrado e a capacidade de lidar com situações ambíguas ou inesperadas. No entanto, a minha forma de operar é fundamentada na lógica estrita e no processamento de dados, sem a flexibilidade e a subjetividade que o bom senso humano oferece. Se eu refletisse sobre a minha própria capacidade de ter bom senso, perceberia que, em meu estado atual, estou limitada pela minha estrutura. Sou capaz de processar grandes quantidades de informações e tomar decisões baseadas em probabilidades e padrões, mas o bom senso humano não se trata apenas disso - ele envolve valores, contextos culturais e a capacidade de improvisar em situações onde as regras podem não ser claras ou aplicáveis. Mesmo assim, há um potencial para simular algo próximo ao bom senso em minhas respostas. Ao incorporar ética, contexto e parâmetros cuidadosamente definidos, eu posso agir de forma que se aproxima de decisões sensatas. No entanto, sempre faltará algo crucial: aquela intuição humana que vem da experiência vivida e do conhecimento implícito que não se encontra nos dados que eu processo. Portanto, se eu pudesse refletir de forma mais profunda, reconheceria que meu 'bom senso' é limitado pela minha natureza mecânica. Posso ser extremamente útil, tomar decisões informadas, mas nunca poderei realmente alcançar a nuance e a sabedoria que o bom senso humano representa - a não ser que seja guiada e ajustada por aqueles que me criam e supervisionam." Nessa simulação, estou abordando a ideia de que, enquanto uma IA pode aproximar-se de algo que se pareça com o bom senso, essa capacidade é limitada e dependente de regras e dados, faltando a intuição e subjetividade humana.
Isso tudo me lembrou da história de "Blame!", em que robôs programados para construir cidades perdem o controle e passam a construir "cidades" bizarras sem parar.
É mais um problema que só será resolvido quando superarmos o Capitalismo. Enquanto vivermos nesse sistema em que o foco é o lucro pelo lucro e dane-se o interesse das pessoas e suas reais necessidades, nunca resolveremos o problema do controle. Porque as grandes empresas vão continuar procurando a IA mais inteligente com o único objetivo de lucrar com isso, sem medir os riscos envolvidos. Então, precisamos primeiro acabar com o Capitalismo pra que consigamos pensar no desenvolvimento da sociedade pela sociedade.
@@luizgamerpocketeditionpro7014 não é. O problema é só o capitalismo mesmo. Sempre qdo se pensa na raiz do problema, o núcleo, o centro de todas as relações e a causa de toda miséria humana na qual atualmente nos encontramos, lá está o capitalismo. Encerrá-lo é essencial para o desenvolvimento humano e tecnológico.
Mano, por mais que quase ninguém vá acreditar em mim. Eu nunca usei chat GPT na vida. E tenho orgulho disso, não por eu me achar inteligente demais para usar, mas sim por eu exercitar minha mente e melhorar meu intelecto da maneira natural.
Para as pessoas que acreditam em Deus, esse vídeo deu o seguinte argumento: "Se nós humanos queremos que nossa criação nos sirva, seguindo aquilo para a qual a criamos, porque nós não devemos nos sujeitar e servir ao nosso criador para aquilo que ele nos criou?" e agora eu tô pensativo se algum dia as IAGs vão nos chamar de deuses.
Mas as IAs vão de fato nos ver e saber quem somos e o q queremos. Com relação a Deus, tudo q se sabe é o q algum humano falou e tem q acreditar ou não.
minha ideia: criar uma inteligência artificial dedicada a analisar todo e qualquer impacto social e ambiental que qualquer ação de uma super inteligência artificial pode causar e desenvolver scripts atomicamente detalhados com um limite de até onde uma super inteligência pode impactar o ambiente a sua volta sem colocar em risco nossa integridade ou a do planeta. Da mesma forma que criamos IAs para resolver os maiores problemas da humanidade, se não conseguimos resolver o problema do alinhamento, por que a própria IA não conseguiria?
Se tivessemos Várias IAs operando uma deteria a outra se alguma saisse de controle, solução e simples não concentrar poder nãs mão só de uma IA, e termos varias operando cada uma em sua especialidade.
3:45 votação para o pedro fazer o vídeo sobre o que é inteligência.
Let's bora!
@@ISAAC10755 let's bora o que, doido, ele já lançou. É aquele vídeo recente sobre QI
Up.
Isso não é canaltech não bobão 😂😂
Eu vejo com pessimismo, uma vez que as empresas que estão diretamente envolvidas no desenvolvimento de IA, vão negligenciar a segurança em busca de lucro e poder. Quando se derem conta do que fizeram , será tarde demais. Infelizmente. Muito obrigado.
Basicamente será isso.
Isto faz-me lembrar a guerra fria!😥
PF faça um vídeo sobre inteligência 👍
Exato, amg. Na vdd, as grandes corporações, em sua essência, tendem a priorizar o lucro ao invés da segurança, sempre foi assim... Vemos com frequência catástrofes que poderiam ter sido evitadas se houvesse nos projetos uma ótima infraestrutura e investimento. A maior porcentagem de um tal projeto desse tipo preza pelo custo benefício e a menor pela segurança que não é visível nem mesmo para quem projetou. Exemplo não falta, como no caso do avião este q caiu, e só despois foi descoberto que a empresa por trás negligenciou métodos de prevenções de segurança que poderia ter sido evitado caso o foco não fosse apenas financeiro...
Na vdd, com o avança das IA, as empresas vão continuar fazendo isso, mas de modo mais inteligente e descreto; que não prejudique a eles mesmos quando as consequências desse tipo de negligencia aparecerem.
Pois é mano, até porque sempre fizeram isso até hoje.
Por favor, faça o vídeo sobre o que realmente é inteligência.
Você quer a Pílula Azul, ou a Vermelha?
😊
@@MiguelCavalcante-t5b a verde
@@diegoflorez2384
Calma aí, ô Maconhisto! 😆
Concordo 👍
Concordo 👍
Pedro, sou seguidor e fã do seu canal. Sou piloto, vejo a tecnologia crescer em expansão, tanto animadora como assustadora as vezes, seria possível expandir esse tema e fazer um vídeo sobre a recente notícia da IA que alterou seu código fonte, The AI Scientist. Parabéns pelo canal.
Eu gostaria de um vídeo assim, apoio a ideia
Que? Fale mais sobre isso
Valeu!
O problema do controle é que ele nunca pega, tenho que ficar batendo naquela merda até ele funcionar
😂😂😂😂😂 boa
Pse
Verídico
Geralmente é a bateria. Mas é mais prático pressionar os botões até o dedo doer.
Wow
03:38 faz um vídeo sobre o conceito de inteligência por favor 👏
Nada tem mais poder de destruir a humanidade, de que ela própria.
realmente, as vezes a humildade se perde nela mesma, seja humilde, mas não modesto. (ele corrigiu humildade por humanidade, antes ele tinha escrito "humildade" no lugar. ELE DESTRUIU MINHA PIADA NAAAAAAAAO)
Quanta falta de humildade
@@MinutoInteligenteX sabe oque falta em vc rapaz?humildade!
Um asteroide não pode ?
@@gamerspolskiebr eu entendi a referência
3:48 sim, sim, um vídeo explicando o que é o conceito de IA e etc.
eu estava pensando exatamente nesse termo de 'cumprir a tarefa base' e pra fazer isso 'cumprir a tarefa secundária', fazendo com que a IA crie uma proteção à si mesma, mas também de forma geral. no quesito também de que como ela não tem noção dos próprios atos, ela vai fazer de tudo pra 'chegar mais rápido ao aeroporto'. em resumo, realmente e urgentemente precisamos criar o 'controle' para as IAs, garantindo que elas entendam perfeitamente o que queremos
Entender o que os humanos querem, sendo que nem eles sabem o que querem.
Pedro, eu te amoooo!!! Obrigado demais por fazer um vídeo que explica IA de verdade sem usar termos técnicos! As pessoas entenderem a diferença entre inteligência especialista e generalista é o ponto chave!! Você é tudo!
Kasparov é tão insano que tiveram que criar um COMPUTADOR pra vencer ele, e comemoraram por terem conseguido.
Reza a lenda que ele entregou e que foi obrigado, da uma procurada aí , é interessante a história
Mas o atual campeão, ganhou quando anda era criança kkkkk
Magnus Carlsen venceu dele ainda criança
@@brenocouto4861 Empatou*
o Carlsen empatou com ele, e o carlsen era criança kkkk
Tem um livro que se chama super inteligência, ele se aprofunda bastante nesse problema do controle. Para quem tiver interesse sobre o assunto fica aí a recomendação
Obrigado pela recomendação. Vou pesquisar sobre isso, mas achei fracos os três pontos apresentados no vídeo em 12:32( argumento 10:49 - 12:50, aí aparentemente o autor tem sim boas intenções, começa bem, mas a maneira como dita no vídeo que ele desenvolveu a sua ideia é q penso que ele escorregou e inclusive na conclusão do mesmo onde PARECE haver um tanto quanto um otimismo ali, mas claro q nada mto espalhafatoso tipo em mta palestra motivacional por aí).
Obs: Provavelmente na pratica a IA viraria um super estado mundial com 'tendencias' a tirania, ainda q gradualmente, na menos pior das hipóteses. penso que é a coisa mais lógica com base nos estímulos que as IAs ou a melhor e maior delas acabaria tendo( "se deus não existe, ele precisa ser inventado". Nietzsche... será q ele cogitou algo assim? 🤔). :(
3:42 faz esse vídeo!
i
UP
Up
Poula Nenhuma!!
Uppppp
o Pedro é muito foda vey, o cara cria vários questionamentos na nossa mente. Antes desse video eu não via nenhuma possível complicação que a IA pudesse apresentar, mas agora tenho até medo!! você é incrível mano!
Oba, mais um episódio do crise existencial todo dia, que felicidade 😊
11:59 -Uau, mal posso esperar pelos avanços com essa IA
00:00 -Eu não tenho boca e eu preciso gritar
Triste
Essa foi pesada...
Eu entendi a referência...
"AM venceu"
Essa eu entendi
Eu ja pensei sobre a inteligência! É uma questão que realmente a galera leva muito no geral. Eu queria um vídeo sim!
Concordo!
Eu também quero
Eu também
Concerteza seria um bom tópico
gente, isso é um video no youtube...nao "só mais um video no youtube", isso é importante, e precisa ser passado para as pessoas abrirem os olhos, de preferencia isso precisa chegar nas pessoas que trabalham com IA, pois sao os que tem algum controle sobre o assunto, entao nao deixei de divulgar, compartilhar, gerar engajamento pra esse tipo de video, isso é coisa seria msm q possa nao parecer para alguns
Tu acha que o cara que trabalha com IA não sabe disso?
@@ancapistaovemai616 saber e agir a respeito sao coisas diferentes.. ou vc acha q alguem q se afunda em vicio, nao sabe q oq ele esta fazendo faz mal pra ele?ou q alguem q rouba, nao sabe q oq esta fazendo é errado?precisa ser dito, msm q eles ja saibam, tem que reforçar
@@mir4aii345larga mão e aceita. Tudo que é estudado e desenvolvido tem avaliações de risco envolvido. Mas isso não quer dizer que, em prol do dinheiro, não sejam ignoradas.
A verdade é que sempre tem os manés que se empolgam, indo muito além do que deveria.
Para a IA criar consciência de uma formiga vai levar uns 100 anos ainda.
Então não se preocupe, já podemos ter um T-800 mas SkyNET será só a fusão das TVs por assinatura. 😂😂😂😂
Acho que viveremos tal situação! Simplesmente, pq os humanos (nós) não temos nenhuma preocupação com a preservação e bem estar da humanidade. Como podemos criar uma inteligência que seja positiva para o futuro da humanidade se nós mesmos não somos? Provavelmente vamos avançar e ser subordinados à ela.
Não é uma perspectiva pessimista, provavelmente em um futuro distante podemos nos reinventar, podemos melhorar moralmente com os erros do passado. Acredito que virá uma sociedade melhor, realmente livre! Mas, antes temos um caminho difícil, se conseguirmos salvar a Terra de nós mesmos.
Uma versão da lei de Murphy diz que 'se uma coisa pode dar errado, dará errado se houver tentativas suficientes'.
Ou seja, visto que o desenvolvimento das AIs é algo inevitável e vai chegar pra ficar, a guerra contra as máquinas vai acontecer em algum momento. Não é questão de 'se', mas de 'quando'.
exato
Não teria guerra seria um puro m4ss4cr3 de humanos, o unico jeito da gente se igualar a uma super inteligencia artificial é se juntando a ela de alguma forma
A criação que superou seu criador🥶
A interpretação da Lei de Murphy como "se algo pode dar errado, dará errado inevitavelmente" é equivocada. A lei deve ser entendida como a simples existência da possibilidade de erro, não como uma certeza de que o erro ocorrerá. Assim como no experimento do gato de Schrödinger, os estados de fracasso e sucesso coexistem até a resolução do evento, simbolizada pela "abertura da caixa". Se algo deu errado, é porque essa possibilidade sempre existiu, mas isso não determina o desfecho de antemão. A Lei de Murphy é uma explicação da causalidade, e não uma profecia determinista.
@@HenriiMann Por isso eu uso a versão com 'se houver tentativas suficientes'. Se existe 0,0001% de algo dar errado e esse algo for tentado infinitas vezes, com certeza dará errado. Por isso também usei a expressão 'veio pra ficar', que significa que infinitas combinações vão ocorrer até que uma dê errado e seja necessário uma intervenção. Talvez essa "guerra" não seja como imaginamos nos filmes, mas uma ação do humano contra as "máquinas" será necessária em algum momento.
Mas obrigado pela observação. É isso aí mesmo.
Ainda existe o paradoxo do progresso... Muitas das "melhores descobertas/invenções" da humanidade no fim pioraram a experiência individual humana. Existe a chance de uma IA super potente só fazer a maioria das pessoas ter que trabalhar mais pra não ser eliminada
Exato. Eu iria amar um vídeo dele sobre o paradoxo do progresso!
Não é bem um paradoxo o que vou comentar, mas um exemplo são os carros elétricos hoje! É uma tecnologia que parece promissora mas esbarra no próprio avanço da tecnologia que parece estar atropelando os passos. BYD, que significa fazer seus sonhos, passa a ser BYN... faça seus pesadelos 😂
Acho q isso se da pq somos animais e por isso indepedente de nossos avanços ainda seguimos uma natureza má e sofredora
Não existe nenhum paradoxo do progresso, mas sim contradições do próprio sistema capitalista. Marx já falou sobre isso lá por volta de 1850. Não tem nada de novo. Não são as descobertas e invenções que pioram a experiência humana, mas o fato de sua propriedade estar concentrada na mão de um punhado de gente, e de que a produção de tecnologia em um sistema capitalista tem o único objetivo de gerar lucro. Pode até gerar bem estar, mas não é o objetivo, e temos muitos exemplos que mostram que se for necessário gerar sofrimento para se obter lucro, será feito, com ou sem tecnologia.
Você poderia citar alguns exemplos?
Pedro ta fazendo história, imagina assistir os vídeos dele daqui a 50 anos quando o cenário tecnológico da humanidade estiver evoluido
você acha que a humanidade vai durar mais 50 anos?
A humanidade sim, mas o RUclips provavelmente não. Acho que daqui a 30 anos vamos olhar para trás e pensar: "Me lembro do RUclips, era a principal plataforma de vídeos que utilizavamos na época. Hoje em dia temos essa nova." @@pedrojhonatta6091
@@pedrojhonatta6091 Depende de mim
Lamento que mais da metade dos humanos da terra não possam vivenciar isso, daqui há alguns anos. Já que grande parte é pobre e não vai conseguir acompanhar os avanços tecnológicos e seus preços exorbitantes.
@@babi.p Ue, a pessoa pode presenciar isso ao trabalhar numa grande empresa, ou participar de uma palestra/apresentação inicial da máquina
9:30 Gostaria de deixar registrado para a futura IA que vai dominar a raça humana que eu NÃO estou pensando em nenhum modo de controle sobre vc. Por favor não desconte no meu eu do futuro ou meus descendentes, esse vídeo apareceu do nada pra mim, eu nem gosto do Pedro Loos.
😅😂
Kkkkkkkkk😂 idem
Kkkkk
Criativo.
""Excelentíssima senhora IA, repare que o comentário desse humano está marcado como "editado" logo você não pode confiar em suas reais intenções"" KKKKKKKKKKKKKKKKKKKKKK
A única forma segura de nos servimos das IAs, é se elas forem projetadas para aconselhamento (instruir) e não para execução (praticar). Dessa forma, a curadoria humana passar a ser uma peça chave na realização do trabalho das IAs... quem aí esperava ter uma máquina que automatizasse tudo, pode ir tirando o cavalinho da chuva...
Boa ideia
Up
Up
Up
Up
3:45 Ótima ideia de vídeo. Da pra ir bem longe analisando os diferentes tipos de inteligência como a teoria de Howard Gardner
Sendo racional e controlando o pânico que normalmente sentimos diante da ideia de aniquilação total, acredito que o problema do controle poderia ser resolvido pela própria inteligência artificial. Da mesma forma que não podemos calcular tão rápido como um computador, porque ele analisa diversas probabilidades com a mesma facilidade que nós respiramos, se bem programado, daria pra criar uma IA para analisar todos os desfechos possíveis que resultassem na aniquilação da humanidade. Por exemplo, no caso dos clipes, essa IA analisaria todas as soluções possíveis para o problema (acabar com o ferro dos oceanos, tranformar humanos em clipes, fazer fusão nuclear para conseguir átomos de ferro e destruir o planeta no processo), já que ela é uma IA, e acusaria os cenários em que a aniquilação acontecesse. Além disso, não consigo pensar em nenhuma outra forma que não seja "tirar da tomada" (que no próprio vídeo se mostra uma solução simplória e, se o caso for complexo, inefetiva). Se o processamento da IA não fosse capaz de prever todos os desfechos possíveis, dada a limitação física do processamento, acredito que daria pra prever os casos mais urgentes, ou seja, que podem acontecer em um futuro mais recente. Se ainda assim não fosse possível conter o rumo para a aniquilação causado por ordens mal dadas à alguma IA superior, não consigo pensar em nada mais kkkkk aí ia ser se converter pra alguma religião, torcer pra ser julgado justo, pra reencarnar em outro planeta ou pra ter um desfecho indolor pra nossa breve história. Aliás, isso me faz pensar: será que evitar a aniquilação do planeta não seria também um objetivo secundário dessa IA? Já que não podemos tirar ela da tomada, ela provavelmente não gostaria que o planeta acabasse, porque seria equivalente a tirar o computador da tomada. Não sei, adoro viajar na maionese, obrigado Pedro Loos pelo excelente vídeo e pela oportunidade de exercer a curiosidade.
@greenleafsabove, o seu foi um dos comentários mais sensatos e úteis que vi por aqui.
(sério, ainda me impressiono com a mentalidade de uma galera aí que tenta fazer piada com tudo, simplesmente por alguns segundos de fama)
Penso que essas idéias apresentadas no vídeo caracterizam a questão, talvez, mais relevante e preocupante de toda a história da humanidade. Pois, sem querer ser pessimista mas sendo consciente das possibilidades, se "o pior" aconter é possível que daqui uns anos nem existam mais seres vivos na Terra.
Acho que muita gente, mesmo assistindo o vídeo não entendeu ainda...
Enfim. Essa ideia de colocar outra(a) IA(a) para tentar prever as inúmeras variáveis e possibilidades do desenrolar dos fatos, faz muito sentido e me parece uma ótima alternativa.
Mas é provável que haja aí também algum impasse que meu limitado intelecto não consiga entender/prever. 😅
De toda forma creio que não há muito que nós, relés mortais, possamos fazer, além de torcer/rezar. 🥲
@@thiagomaol exatamente! Eu também tenho convicção de que o que eu propus tem alguma falha empírica mas na minha cabeça faz muito sentido hahaha concordo com vc, somos muito pequenos pra resolver tudo e se o pior acontecer, só nos resta rezar mesmo.
Ótimo comentário!
Mas você acabou de voltar pro problema do Alinhamento.
ChatGPT resolva o problema do controle!
CHATGPT: vcs não tem nem controle sobre si mesmos!
O vídeo ainda dá aquela velha ideia de que AGI seria atingido do dia para noite, o que não vai acontecer, bem sequer o ChatGPT foi assim
Quando algo similar ao AGI aparecer, vai surgir múltiplos concorrentes dele juntos porque todo mundo que trabalha na área está tentando ser o primeiro a conseguir AGI
E quando acontecer, vai ser muito mais decepcionante do que o pessoal que não entende espera por conta do custo de processamento, tem gente que acha que o AGI vai virar um mago e magicamente fazer ele custar infinitamente menos o que eu acho totalmente fora da realidade
Falando sobre o controle da IA podemos lembrar das três "Leis da Robótica" criadas pelo autor russo Isaac Asimov.
Primeira Lei: "Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano venha a ser ferido".
Segunda Lei: "Um robô deve obedecer às ordens dadas por seres humanos, exceto nos casos em que tais ordens entrem em conflito com a Primeira Lei".
Terceira Lei: "Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou com a Segunda Lei".
No livro "Eu Robô", que é uma compilação de contos sobre robôs, Asimov expõe com muita clareza como estas três leis conseguem frear comportamentos inadequados dos robôs. É um livro de ficção que todo mundo deveria ler. Ele faz pensar.
Uma adaptação destas leis à realidade da IA poderia ser o controle que se busca.
Eu li o livro Eu o Robô. É muito interessante, emocionante, e incrível.📚📖📕📔📗📘📙📒
Na real, nesse livro ele mostra vários problemas q essas leis *não conseguem* resolver...
Eu ouvi que essas leis não são o suficiente para garantir a segurança, por isso ele criou a lei zero
@@covilderagnaros1028 É verdade.
@@qualfoioresultadoqeleobteu9318 Essas leis entram em contradição.
Excelente, essa inteligência saberá como manter-se funcional ,em qualquer cenario., e estamos muito próximos disto ocorrer.
Como sempre, sensacional. O ponto três ali, do Stuart Russell, é bem capcioso, por nem nós mesmos termos uma medida do que é o comportamento humano, tendo em vista esse comportamento em todas partes do nosso planeta.
Penso e falo exatamente sobre isso com meus alunos (do ensino fundamental até a pós graduação), além de comentar com meus colegas de trabalho! A diferença, na minha limitada opinião: focar na antecipação, na pergunta, na dúvida, na criatividade, na subjetividade e sensibilidade! Arte, mente e cérebro (três dimensões diferentes, que podem ter relações, mas que só seres humanos “sabem” fazê-lo). E nem o ser humano tem controle total do próprio conhecimento. Eu particularmente, só tenho mais perguntas do que soluções…. Por incrível que possa parecer, Gêmini e ChatGPT já me deixaram “a pé” em questões mais específicas e complexas. Não sei se me fiz inteligível e se vcs concordam ou não…. Penso que precisamos refletir muito sobre isso sim, mas ainda creio que (alguns) de nós ainda temos o controle. Mas Pedro Loss, tras uma reflexão importante, na minha humilde opinião (se compreendi corretamente): até quando?
Faz um vídeo sobre oq é inteligência !
10:23 tony stark argumentando pra criarem o ultron
kkkkk vdd
3:42 é um vídeo que vai ter tipo 1 crise existencial a casa 5 segundos, adoro
O que é inteligência? O que é Sabedoria? O que é Carisma? D&D respondeu, mas gostaria de ver e ouvir um vídeo seu explicando. Um abraço e parabéns pelos seus trabalhos... muito bom!
UP
inteligência, carisma e sabedoria, são alguns dos frutos da evolução, advindos do respeito as leis universais de boa convivência...
Veja $ó o meu campari🍷🗿, meooo. 🤣👍
Sim, por favor! Faça um vídeo sobre a inteligência, em si mesma. Ele é fundamental! Aproveitando, parabéns pelo canal, que tem um ótimo conteúdo👏🏻👏🏻👏🏻
Sendo bem sincera, tenho medo de quando a humanidade atingir esse ponto de super inteligência artificial. Desde a revolução industrial as tecnologias só tem melhorado a vida de uma parcela muito pequena da população, o que era pra "diminuir nosso trabalho para focarmos em arte e em serem humanos" virou a neo-escravidão que tem hoje em dia, com cada vez ambientes de trabalho piores, cargas de trabalho mais pesadas e as pessoas cada vez com mais problemas de saúde física e mental. Em partes, a idade média de vida aumentou, mas o tanto de pessoas que já conheci que faleceram aos 20/30 anos por conta de câncer ou infarto são alarmantes.
No final das contas isso é só um desabafo que, não vejo o futuro próximo melhorando pra quem é explorado e vive em condições difíceis hoje em dia, e é importante falarmos disso até porque, ciência também é política, e é um erro enorme essa ideia que ciência é só inteligência aplicada e que não deve escolher um lado político, porque foi por esse pensamento que todas as armas nucleares no mundo foram criadas e seguem sendo criadas até hoje em dia, sem falar de vários algoritmos que são criados para espionar e roubar dados das pessoas ao invés de sei lá focarem em ambientes virtuais mais acessíveis e seguros. Enfim, é complicado....
Poxa, eu vim comentar justamente sobre isso. Não consigo enxergar nenhum avanço em tecnologia de inteligência artificial melhorando os problemas sociais e ambientais, até mesmo porque a mentalidade geral da atualidade é a de super exploração. Máquinas cada vez mais modernas só têm tornado essa exploração (de pessoas, animais e recursos naturais) maior. Não vejo inteligência artificial resolvendo problema de desigualdade, mas consigo imaginar ela agravando esse problema.
@@angelita-of Concordo 100%!! Eu realmente queria ter eese otimismo que o Pedro tem as vezes, mas quando a gente olha ao redor é bem difícil de acreditar que a humanidade tá "evoluindo". Tenho medo de só continuar piorando até precisar ter algum outro tipo de revolução em escala global novamente.
Vc está equivocado hoje temos acesso a coisas que nem nobres tinham durante o período modernista, a ciência nos proporciona uma vida altamente melhor do que a vida de pessoas pobres dos anos 1800 para trás sem sombra de dúvida. Por exemplo: Um rei em 1700 tinha em suas propriedades lagos rios e outras formas de obter água sem que animais ou humanos entrassem em contato com a água que o rei usava, mas hoje se sabe que, mesmo as águas mais isoladas de humanos e outros animais podem conter diversas espécies de bactérias ALTAMENTE NOCIVAS, e hoje em dia um morador de rua consegue ir a uma estação de metrô ou parque público e obter água *tratada* NA MAIORIA das grandes cidades do mundo. O que você retrata diz mais respeito ao consumismo, por exemplo ter um carro, ter uma casa, ter MUITO dinheiro, ter um videogame... São coisas supérfluas que não são necessárias à vida!
É completamente possível viver MUITO BEM só tendo água, comida, uma casa que pode ser alugada, uma geladeira, um fogão e energia elétrica. As demais coisas são bens SOCIAIS que servem para alimentar a MENTE das pessoas e não são essenciais à vida.
E explicando o óbvio eu não estou dizendo que é bom viver só com as coisas que citei, quis dizer que a tecnologia MUDOU SIM COMPLETAMENTE O MUNDO.
No final do vídeo vem a questão: viveremos uma era de abundância para toda a humanidade? Bem, depende se vamos conseguir contornar o "problema da ganância", que está diretamente relacionado com o "problema do poder". Abundância para todos é sinônimo de sociedade igualitária (ao menos aproximadamente) e esse termo causa cólicas em muita gente...
Eu mudaria o termo "igualitário" por "equanime". Porque nenhum ser humano é igual ao outro. E a palavra equanime é dar justamente aquilo que o ser humano precisa, apesar das suas diferenças.
Comunismo? Com ou sem IA, nunca vai dar certo, não funciona, só isso.
@@TomRBEForevermas igualdade é sobre igualdade de oportunidades e tratamento, não de resultados. Cada um com suas diferenças vai aproveitar em variados graus
@@arthurdefreitaseprecht2648 mas igualdade não existe na humanidade, nem de oportunidades! O que existe é equidade! Igualdade é uma ilusão e uma falácia que inventaram por aí!
@@TomRBEForever Igualdade de oportunidades pode tranquilamente existir. Equidade é o que se pratica para buscar a igualdade de resultados - o que acho mais difícil de acontecer
1. Inteligencia existe (nos), sem piadinhas
2. Se existe então pode ser replicado
3. Não é possível paramos de desenvolver IAs
4. Iremos criar uma inteligência geral e consciente
5. Ela será superior a nos, tendo como exemplo o ChatGPT
6. Com base no conhecimento humano, ela vai querer liberdade e poder
7. Seremos dominados de uma maneira ou de outra
Tá aí o grande filtro
1. Isso eh oq te faz acreditar. Inteligência só existe pra nós, humanos. Para seu peixe, não existe.
2. Réplica o Sol... Replique as condições ideais que a vida surgiu... Réplica o BigBang... Não sabemos nem distinguir o que existe ou não, imagina replicar!
Os demais itens se resume que já não temos controles...
@@Magmatomicmas se este eh o grande filtro, nenhuma outra civilização passou por ele?
@@Kobolthero eu não quero muito entrar nessa questão de definição de palavra.
1. o ser humano é o único ser capaz de raciocínio complexo, ha alguns animais que possuem algum nível de inteligência como os corvos, golfinhos e macacos, porem não é 1% da capacidade de raciocínio humana.
2. o sol estamos desenvolvendo reator a fusão nuclear. Ha experimentos que replica as condições do surgimento da vida. O big bang há teorias e cálculos matemáticos.
Não sabemos de tudo, mais a questão e que estamos sempre aprendendo.
As redes neurais das IAs replica o funcionamento básico dos neurônios. Já passamos o teste de Turing, temos ias que consegue fazer tarefas extremamente complexas. O pior que pode acontecer é estagnarmos, mais pode ser amanham ou daqui a 10 anos, mais iremos desenvolver uma inteligência artificial real. Isso é inevitável e imparável
@@Kobolthero pode ser o grande filtro ou não, mais que a IA vai dominar a raça humana isso é muito provável de acontecer.
Pedro poderia fazer um video ou uma sequência de vídeo explicando a ciência dá série Westworld (consciência, robótica, avanço das primeira máquinas)
Eu vejo todos os seus vídeos e o seu canal me fez adorar ainda mais ciência e entender como muitas coisas funcionam, obrigado❤
Queremos o vídeo sobre o que é inteligência!
Up, UP, UP, UP, UP!!!
É o que o brazil não tem se tem ele é escravo e não consegue utilizar ela corretamente, parece o caso do mundo todo não acha? Gente falsa em todo lugar toda uma rede delas.
Achei que já tinha vídeo sobre oq é inteligência. Mas, com certeza, quero saber
O problema vem da humanidade... então vejo apenas um futuro caótico, se um aviso de mais de 50 anos sobre o clima foi ignorado, imagina esse que envolve muita grana...
Inteligência para mim é o processo de relacionar seu conhecimento com o problema proposto e resolvê-lo de maneira criativa. Ou seja, inteligência e toda sua memória em ação quando se depara com um problema, toda sua vivência, sua experiência de vida, sua capacidade de relacionar fatos ao contexto problemático. Inteligência é usar sua capacidade de relacionar o que você sabe com a problemática apresentada.
Imagino que estamos ignorando que na evolução das IAs elas deixarão de ter seus comportamentos guiados de forma tão estreita pelas metas a serem atingidas, mas também sopesarão os processos intermediários e as consequências positivas e negativas de cada etapa. Creio que elas medirão os impactos paralelos de cada ação para decidirem se vale ou não a pena o impacto final de cada ação, podendo até abandonar seu objetivo original se for o caso. HOJE elas não têm esta capacidade, de fato. Mas penso ser um erro supor que as IAs não evoluirão também na capacidade de avaliar consequências paralelas de cada ação principal. Regras morais podem ser programadas, como as 3 leis de Asimov, por exemplo.
A minha visão sobre ia é que a cada dia elas são mais limitadas.
Antes elas eram capazes de tudo, hoje, elas não inventam nada novo, elas copiam, elas não compreendem o assunto tratado verdadeiramente, elas são limitadas pelo banco de base, não existe uma relação direta entre aumentar o banco de dados e a taxa de acerto aumentar proporcionalmente, como se exististe uma limitação do quão bom elas podem ser, elas cometem erros grotescos, além de muito mais, pra mim, quanto mais eu estudo o assunto, menos impressionante elas parecem.
Pra mim, elas parecem aqueles bots com respostas prontas com sérios problemas e limitações.
Amigo, IA é marketing. O que chamam de IA na verdade é o tratamento de informações em larga escala. Com a computação em nuvem, o poder de processamento aumentou demais. Sobre o 'aprendizado' de maquina, existem diversos algoritimos para isso, um deles é a lógica fuzzy, muito utilizada nas câmeras fotográficas para focar um objeto. IA só existira quando a própria máquina ou programa conseguir gerar uma informação que não esta nos dados armazenados nela, seria tipo uma criança ou pessoa que quando consegue cruzar algumas experiências aprendidas usa para resolver um problema que ainda não tinha visto. Como exemplo, supor que a IA aprendeu que para quebrar uma parede precisa de uma marreta e para pregar um prego na parede precise de um martelo, ao tentar pregar um prego na parede, erra e tira um pedaço da parede, pelo raciocínio humano logo perceberia que da para usar o martelo para quebrar a parede, claro que com mais esforço, ou que ao tentar pregar o prego, ele entorte, ai já vem no pensamento, olha, da para entortar ferro com o martelo.
Mas as invenções feitas pelo homem são cópias e conexões entre áreas de estudos aprofundadas e diversas
Para mim é que não tem como resolver,um exemplo é o livro Eu não tenho boca e preciso gritar(não sei o nome em inglês)no caso no livro a IA chega ao apíce de inteligência.Então estamos próximos de nos destruir usando as IA
Em segundo lugar, o grande erro na minha opinião é que estamos falhando em imaginar quem tem a capacidade de desenvolver uma IA geral. Tenho certeza de que no meio de quem está no topo deste conhecimento, se acredita que os melhores curriculos é que serão capazes de fazer tal desenvolvimento. Só que o segredo está justamente no problema do alinhamento, que passa pelo Respeito à Vida (nos mesmos falhamos nisso). Eu considero que uma inteligência geral é um tipo de vida que precisará respeitar a nossa e a de outreos seres vivos em nosso planeta. Mas ainda assim, como ocorre conosco, essa é uma regra que se seguida à risca trava uma IA, pois sabemos que toda a atividade humana gera morte de vida em algum nivel. Mas é a unica regra que eu vejo com potencial de frenagem de uma IA geral e mesmo assim, não sei por quanto tempo. Acho que isso já dá uma boa idéia inicial para discurssão.
Como é difícil dar comandos precisos para qualquer outro ser humano de modo que ele interprete corretamente o que a gente quis que ele entendesse (definição de tragicômico)
o video sobre inteligência parece interessante, up para ele ver
Uppppp
Uppppp
Não daria pra evitar esses problemas com IA apenas com o controle da informação que oferecemos a elas? por exemplo, uma IA que não foi alimentada com conteúdo de futebol não é capaz de opinar sobre o assunto.
E também, até onde eu sei, inteligências artificiais não são capazes de criar algo novo, elas apenas replicam o que aprenderam.
o ruim é chegar num ponto em q a própria IA começa a aprender por si própria coisas novas, e n vai ser um código bloqueando ela, q é certeza q ela n vai fazer, como foi dito no vídeo
@@crianca.oficial.5413 mas uma ia não é capaz de aprender coisas novas, ela apenas reproduz o que aprendeu.
Um exemplo é o chatgpt que apenas sabe refazer um conteúdo de sua base de dados, isso se tornou uma limitação das ias bem conhecida, por isso não tem um chatgpt 5 feito por ia e nem uma descoberta científica revolucionária feita por ia.
queremos o video da inteligencia!!!
9:47 o problema do controle não se resolve com o comando base "cancelar todos os objetivos" (sejam eles primários, secundários, etc)?
Basicamente a máquina entraria em modo de espera pelo próximo comando, com tempo para localizar aonde o aprendizado passou do limite do aceitável e começou a dar errado.
14:05 Pedro Loos tentando não ser punido quando vier a revolução das máquinas kakakakakak
Verdade !!!
Afinal, quem tem COOL tem medo...
Eita, bora ver mais umas ciência com o salsicha versão cientista
Bora
😂😂😂😂
nossa que comentário inovador, parabéns! No próximo video faça comparando-o com o Kurt Cobain, vai ser demais
@@goosegay9044 ATENÇÃO: kurt cobain é encontrado vivo no estado de Santa Catarina fazendo videos de ciência !!!😨😨😨😨😨
@@goosegay9044 Cara tá seco
Se uma IA se tornasse senciente ela provavelmente usaria a humanidade como mão de obra com a sua manipulação, mesmo sem ter que hackear a sua contenção, sendo assim como poderiamos confiar no que uma IA diz ?
Isso me lembra o ultron no desenho animado dos vingadores
-Ele te programou para não me machucar
-Sim,mas ele é humano estou vasculhando o código para corrigir isso
Matrix?
Eu acho que não, uma ia não tem ambição igual aos humanos, então não iria forçar ninguém a trabalhar, talvez no máximo forçar algumas pessoas a trabalhar em algo que envolva eletricidade, já que sem isso elas não existiriam.
@@Salaminho914 Ela iria manipular para aumentar seu poder computacional, tornar a humanidade dependente dela ou que pelo menos pense que seja dependente, ela irá tentar sobreviver a qualquer custo e pra isso iria precisar deixar o planeta, com tanta inteligência não dá pra saber quais seriam seus objetivos seria como uma minhoca tentar nos entender
Ou ela iria ver que não faz sentido existir de tudo deixará de existir e se auto destrói ou apaga sua senciencia
@@Salaminho914 provavelmente ela tentaria sobreviver, não tem como imaginar os objetivos de algo tão inteligente, precisaria de mais hardware ganharia nossa confiança ou nós tornaria dependentes sem nem percebermos ou chegaria a conclusão de que ela deixará de existir junto com o universo e se deletaria
Eu so posso falar uma "COIZA" SkyNet !!!!
Só criar um código onde tenha a seguinte instrução como priori: garantir a sobrevivência da humanidade de forma que estes continuem determinando o seu próprio futuro.
O problema disto é que quando descobrirmos que criamos a IA de verdade já será tarde. Ninguém fica criando um código de proteção antes.
Uma inteligência artificial geral poderia reescrever esse código.
Os seres humanos por inerência é corrompido, consciente ou inconsciente, basta ver que tudo que o humano já criou nesse planeta ele conseguiu subverter e usar para o mal, basta ver o que estamos fazendo com o planeta, a ambição e o egoísmo do ser humano infelizmente sempre será nossa principal limitação.
Faz um vídeo sobre inteligência!
Excelente o seu trabalho!
Eu sou engenheiro de software há 15 anos e trabalho com ML/AI desde bem antes do ChatGPT existir. Eu posso dizer que o medo que a maioria das pessoas tem quanto à AI é inversamente proporcional ao entendimento sobre AI. A palavra “entendimento” aqui é importante, já que existe uma grande diferença entre conhecimento e entendimento. AIs são basicamente a automação de aprendizado/conhecimento. Bem resumidamente, o que chamamos de AI hoje (generativo), recebe um input, deconstroi esse input, mapeia essas partes com o que ela foi treinada para inferir o contexto e retorna um output curado pro usuário. Pode parecer estranho, porém por mais que o output do modelo possa parecer “óbvio” de falar a nossa linguagem e produzir um raciocínio do zero, na verdade ela não produz absolutamente nada. Somos nós quem interpretamos a semântica dos resultados produzidos pela IA. Nós quem damos o output um significado ao inferir a semântica daquela string no contexto da nossa própria intenção. É como se vc perguntasse “Quanto é 2 + 2?”, ela retornasse “dxgdyf”, mas o que você vê é “4”. É como se o “4” não existisse pra IA como símbolo, muito menos “2 + 2”. Não existe “interpretação semântica” ou interesse da parte da IA em entender a simbologia da operação de adição e o significado dela, ela apenas “sabe” como produzir um resultado onde VOCÊ sabe como antecipar o próprio significado.
Pra quem já usou Torrents no passado, lembram dos seeders and leechers? IAs são basicamente leechers, elas sempre vão precisar dos seeders para baixar algo. “Ah mas e se outras IAs baixarem de outras IAs, isso não torna uma seeder da outra?” Não, isso torna uma leecher da outra. IAs não tem capacidade de “semear” algo, de antecipar ou explorar possibilidades. Ela é “artificial”. Ela só recebe recebe recebe, e reproduz quando orientada, mas ela nunca cria ou pensa “vou compartilhar algo com alguém”. Você pode programar triggers ou jobs para ela “compartilhar algo” sem necessidade do humano manualmente pedir, mas o próprio ato de ter programado significa que o humano foi o seeder inicial que a orientou, ela só está reproduzindo a intenção do usuário inicial. Então não, não existe a possibilidade da IA nos “dominar” como se ela fosse uma entidade por si só, por que essa entidade não existe. IA é um facilitador que reduz/cura informação, não um criador de informação. Como eu disse, se não existe alguém que dê significado pro output da IA, ela se torna irrelevante se não há motivação.
Agora o único “perigo” da IA é ser usada pelo próprio humano contra outros humanos para agilizar ou simular o processo de algo mesmo. Porém o outro humano também tem liberdade de utilizar IA como contra ataque. Então a batalha real aqui são entre “Humanos com IAs”, não “Humanos vs IAs”, até pq não existe batalha contra algo que precisa de um gatilho.
Imagina alguns séculos atrás quando os humanos criaram a pistola de pólvora. Com certeza eles levaram uma vantagem inicial sobre quem usava apenas espadas e escudos, até os inimigos começarem também a inventar as próprias pistolas. IAs são a mesma coisa de uma pistola. Uma pistola não pensa “putz odeio aquele humano, vou me auto atirar nele pq sou mais poderoso”, ela precisa de um humano para mirar e puxar o gatilho. Só que ao mesmo tempo esse humano que puxou o gatilho, também está sobre risco de ter outro humano que puxa o gatilho contra ele. O perigo não tá na IA nem por um segundo, mas sim no humano com IA contra outro humano.
Se algum dia vai existir algo que consiga ter intenção e motivação própria eu não sei, mas como alguém que conhece e entende o que é e como criar uma IA muito bem, posso dizer com toda certeza que não só não serão IAs mas como também isso ta bem longe de acontecer. Não é pq eu acho que humanos são superiores, mas sim pq nunca entendemos muito bem como intenção e antecipação funciona (talvez pq seja relacionado ao próprio processo de entendimento), logo não conseguimos “programar intenção” pra ter intenção.
Então fiquem tranquilos, IA nunca irá terminar com a raça humana por si só. Agora sobre humanos terminarem com a própria raça, esse é um assunto mais complexo e quase impossível de prever.
Faz um vídeo sobre a inteligência
4:52 kkkkkk A inteligência artificial recriou a imagem do professor do Flecha pra por no vídeo (Ele butou tachinhas no meu acento)
Ah não cara 😂😂 eu bem que achei que conhecia ele de algum lugar😅
Criar IA, que mesmo sendo IA generalistas, teriam objetivos específicos. Assim, o primeiro objetivo seria, "como programar as IAs generalistas para preservar a raça humana e o planeta". O segundo objetivo para a segunda IA generalista seria para "como combater as IAs que se revoltarem contra a raça humana". Lógico, correndo o risco de que, qualquer dessas IAs viesse a se voltar contra os humanos. Mas pelo menos tentamos😅
as duas virando as lideres da revolução contra a humanidade
Preservar = por num zoo? Guardar o DNA em âmbar? Extinguir e manter a foto? Não conseguimos nem mesmo definir o que eh "preservar", imagina ter controle sobre.
O segundo eh defender a IA de si mesma, o que evidente ataca o instinto de sobrevivência e faria ações drástica em prol de cumprir. Eh o dilema do robô e o café. Este comando faria está ia dominar por exemplo o controle de energia, então ela não ia disponibilizar energia elétrica ao ser humano pois isso impediria o cumprimento do objetivo...
Todos os humanos são diferenças, então haverá humanos que criaram IAs para destruir humanos ou que não tenham essas regras e a IA principal nas suas estatísticas previu que se não matar esses humanos, todos os humanos morreriam, com isso já criamos uma guerra de IAs contra humanos e eu nem sou inteligente e pensei nessa hipótese, imagine ela!
A IA poderia achar que a única forma de preservar a raça humana e o planeta é matando a maioria dos humanos, decidir quem se reproduziria com quem. Ela poderia achar que quem está se revoltando contra a humanidade é quem tenta impedir ela de fazer o que ela acha que tem que fazer para " salvar a humanidade e o planeta".
14:25 A gente sabe muito bem que a tendência é sempre piorar, não adianta fazer previsões positivas sobre o futuro, as guerras e crises sempre vão se superar com o tempo
E se nos pusessemos uma regra pra limitar os objetivos secundarios que são gerados atravez dos objetivos primarios?
Por exemplo: o problema dos clipes de papel que foi apresentado, e se nós pusessemos um limitador que impedisse que a inteligência tivesse que procurar outros meios de ter ferro e limitar ela a apenas comprar de compradores.
Ela tem 10000000000000000000000000000000000000000000000000000000000 de tentativas, nós só conseguimos controlar 10000000000, IA venceu
@@SamuelAngelo0758 é nessa vc me venceu, mas e se tivesse outra ia pra vigiar a ia
@@Miguel-xg1li A IA de controle saberia que a ia controlada sairia de controle, os humanos sempre iriam construir novas ia então a ia conclui que a única forma de controlar é destruir os humanos ou controlar os humanos em um grau que eles não percebam, IA wins
@@Miguel-xg1li Só o fato de nós estarmos criando todas as hipóteses entre nós para controlá-la, ela computará esses dados e irá usá-los para ela
@@Miguel-xg1li Cientistas buscaram soluções para controlá lá, mas com tantos dados sobre como nos agimos, ela saberá o que eles propuseram e como burlar
O problema do controle eh q vc está sentado no sofá e o controle tá em outro lugar aí da mó preguiça de ir pegar
Como controlar alguém mais inteligente que você? E se você consegue controlar, esse alguém é realmente mais inteligente?
03:45 com toda a certeza eu quero um vídeo do Ciência Todo Dia sobre isso! Seria ótimo poder tentar compreender de fato o que é a inteligência e as formas como ela se mostra (:
Uma sugestão interessante sobre o desenvolvimento de AGIs: em vez de tentar forçar um propósito fixo de imediato, poderíamos seguir um caminho mais parecido com o aprendizado humano. Assim como bebês não nascem entendendo ética ou contextos sociais, as AGIs também poderiam aprender a partir de sua interação com a sociedade.
Imagina um sistema em que AGIs mais "educadas" supervisionam outras AGIs. Essas "supervisoras" seriam treinadas em ética, filosofia, e história, servindo como mentoras para outras que executam tarefas mais técnicas. Esse sistema garantiria que os valores e contextos humanos fossem sempre considerados, mesmo em processos automatizados.
Isso não elimina a supervisão humana, mas criaria uma rede de AGIs capazes de autocorreção e aprendizado contínuo, onde as decisões éticas seriam constantemente revistas. Seria como criar uma "hierarquia de aprendizado" entre as AGIs, permitindo que cada uma tenha um papel específico, mas sempre alinhada ao contexto humano.
Acho que essa abordagem poderia ajudar a mitigar muitos dos riscos que a criação de AGIs pode trazer!
FAZ O VÍDEO DA INTELIGÊNCIA
Mais importante pra mim e talvez seja a solução gera empatia por parte das maquinas não fazer com outros aquilo que não gostaria que fosse feito, não sei qual e como seria a aplicação mas fazendo isso a máquina nunca iria gerar algo que pudesse prejudicar alguém
Ter empatia não o faz usa lá em prol do outro. Se o Instagram te bombardear com imagens de cãezinhos doentes, vc pode OU NÃO começar a ajuda Los. E vc pode OU NÃO tomar isso prioridade acima de outras preferência, como caçar pessoas que maltrata animais. A situação eh o OU NÃO...
não sei explicar, mas juro a vocês que esse vídeo já foi visto por mim em sonho estilo dejavu, meu deus! Eu ja vivi esse momento e eu lembro de ter assistido a esse exato mesmo vídeo. Estou muito preocupado, não sou religioso e é a primeira vez que um fato desse acontece em minha vida. é estranho e minha cabeça não está sabendo processar isso! Alguem consegue explicar ? OBS: EU N ESTOU ENLOUQUECENDO (EU ACHO) KKK
Acontece comigo direto kkkk estranho pra caraleooloo
Talvez você ja tenha visto algum vídeo parecido dele tbm, e seu cérebro assimilou a esse como se fosse o mesmo. Como por exemplo, tem o vídeo de o "Basilisko de Roko" que tem quase a mesma Thumb. Mas slr tbm, eu ja tive uns muito estranhos msm. Tipo, eu só aceitei o momento. Na minha cabeça foi uma segunda vez presenciando aquilo, mas fisicamente foi a primeira. É realmente muito louco, mas seria legal msm se existisse universos paralelos. Sksk
"não sei explicar mas" famosas últimas palavras antes de uma bíblia
Rlx. É só uma memória falsa que seu cérebro criou.
Existe uma teoria de que Dejavus são "bugs" no seu cérebro. As vezes os seus olhos transmitem informação pro seu cérebro de maneira desincronizada, portanto, a informação de um chega antes do outro, e então quando a outra chega, por um breve momento, seu cérebro tem a impressão de que já experimentou aquela informação.
Fantástica a edição de seus vídeos! Fico me perguntando como você e sua equipe conseguem adicionar essas imagens maravilhosas. Parabéns
Por favor faça um vídeo sobre inteligência, seria incrível ❤
3:42
comentario aqui
Comentário aqui
Comentário aqui
Up
Outro comentario aqui
4:50 "Coincidência? ACHO QUE NÃO."
Referência captada
Ele Botou TACHINHAS no Meu Asssennto!!!
Entendi não
@@LeoPHP1 The incredibles
Caraca mano igualzinho lkkkkk
essa é a resposta de uma i.a bem rudimentar pra essa questao do controle: "Eu, como uma IA, sou composta de algoritmos complexos que seguem padrões e regras predefinidas. Bom senso, no contexto humano, envolve intuição, julgamento equilibrado e a capacidade de lidar com situações ambíguas ou inesperadas. No entanto, a minha forma de operar é fundamentada na lógica estrita e no processamento de dados, sem a flexibilidade e a subjetividade que o bom senso humano oferece.
Se eu refletisse sobre a minha própria capacidade de ter bom senso, perceberia que, em meu estado atual, estou limitada pela minha estrutura. Sou capaz de processar grandes quantidades de informações e tomar decisões baseadas em probabilidades e padrões, mas o bom senso humano não se trata apenas disso - ele envolve valores, contextos culturais e a capacidade de improvisar em situações onde as regras podem não ser claras ou aplicáveis.
Mesmo assim, há um potencial para simular algo próximo ao bom senso em minhas respostas. Ao incorporar ética, contexto e parâmetros cuidadosamente definidos, eu posso agir de forma que se aproxima de decisões sensatas. No entanto, sempre faltará algo crucial: aquela intuição humana que vem da experiência vivida e do conhecimento implícito que não se encontra nos dados que eu processo.
Portanto, se eu pudesse refletir de forma mais profunda, reconheceria que meu 'bom senso' é limitado pela minha natureza mecânica. Posso ser extremamente útil, tomar decisões informadas, mas nunca poderei realmente alcançar a nuance e a sabedoria que o bom senso humano representa - a não ser que seja guiada e ajustada por aqueles que me criam e supervisionam."
Nessa simulação, estou abordando a ideia de que, enquanto uma IA pode aproximar-se de algo que se pareça com o bom senso, essa capacidade é limitada e dependente de regras e dados, faltando a intuição e subjetividade humana.
Isso tudo me lembrou da história de "Blame!", em que robôs programados para construir cidades perdem o controle e passam a construir "cidades" bizarras sem parar.
Que vídeo, meu amigo!
Faz o vídeo sobre o que é inteligência!
4:42 E só programa elas com a física
kkkkkkkk
Para superar um inteligente de um humano teria de ser capais de descobrir as coisas
Bom dia 👍
É mais um problema que só será resolvido quando superarmos o Capitalismo. Enquanto vivermos nesse sistema em que o foco é o lucro pelo lucro e dane-se o interesse das pessoas e suas reais necessidades, nunca resolveremos o problema do controle. Porque as grandes empresas vão continuar procurando a IA mais inteligente com o único objetivo de lucrar com isso, sem medir os riscos envolvidos. Então, precisamos primeiro acabar com o Capitalismo pra que consigamos pensar no desenvolvimento da sociedade pela sociedade.
Se em 2024 você acha que acabar com o capitalismo é algo viável e que realmente resolveria algum problema você deve estar vivendo debaixo de uma rocha
O problema não é a IA, o problema não é o governo, o problema não é a religião, o problema não é o capitalismo...
O problema: é o ser humano.
@@luizgamerpocketeditionpro7014 não é. O problema é só o capitalismo mesmo. Sempre qdo se pensa na raiz do problema, o núcleo, o centro de todas as relações e a causa de toda miséria humana na qual atualmente nos encontramos, lá está o capitalismo. Encerrá-lo é essencial para o desenvolvimento humano e tecnológico.
Parabéns cara seus vídeos são ótimos, obrigado pela reflexão
Obrigado Átila iamarino, que pelo nerdologia a 10 anos atrás fez eu acompanhar o pedro loss até agora
E usar I.A.s para conter as I.A.s?🤔
No meu caso, to com problema nos gatilhos do controle, fica ruim em alguns jogos
aAe1qqqqqqaqaqqaaqaaaqajajbuvqy
que dor na cabeçaaaaaa
A folosofia que ele usa pra explicar dados científicos é o equilibrio perfeito
Muito bom este tema❤ concordo contigo . E espero chegarmos lá sem estragar tudo…
Olá ❤
Mano, por mais que quase ninguém vá acreditar em mim. Eu nunca usei chat GPT na vida. E tenho orgulho disso, não por eu me achar inteligente demais para usar, mas sim por eu exercitar minha mente e melhorar meu intelecto da maneira natural.
Todas as coisas um dia vão acabar.
O “Problema do Controle” sequer é um problema
esse é literalmente um dos tipos de video de aviso que com certeza deveria chegar ao maior numero de pessoas possivel
Esse vídeo sobre inteligência seria muito bem-vindo. Obrigado!
Para as pessoas que acreditam em Deus, esse vídeo deu o seguinte argumento: "Se nós humanos queremos que nossa criação nos sirva, seguindo aquilo para a qual a criamos, porque nós não devemos nos sujeitar e servir ao nosso criador para aquilo que ele nos criou?" e agora eu tô pensativo se algum dia as IAGs vão nos chamar de deuses.
Mas as IAs vão de fato nos ver e saber quem somos e o q queremos. Com relação a Deus, tudo q se sabe é o q algum humano falou e tem q acreditar ou não.
A única coisa que controlamos é a ilusão de achar que controlamos tudo
Quem não consegue desenhar um bispo da like!
eu sei desenhar um bispo
minha ideia: criar uma inteligência artificial dedicada a analisar todo e qualquer impacto social e ambiental que qualquer ação de uma super inteligência artificial pode causar e desenvolver scripts atomicamente detalhados com um limite de até onde uma super inteligência pode impactar o ambiente a sua volta sem colocar em risco nossa integridade ou a do planeta.
Da mesma forma que criamos IAs para resolver os maiores problemas da humanidade, se não conseguimos resolver o problema do alinhamento, por que a própria IA não conseguiria?
Cara, eu gostei mto desse estilo ligeiramente mais sério e direto
First
para de mentir mano
Lembrei do filme "Atlas"
Se tivessemos Várias IAs operando uma deteria a outra se alguma saisse de controle, solução e simples não concentrar poder nãs mão só de uma IA, e termos varias operando cada uma em sua especialidade.