The real problem of AI
HTML-код
- Опубликовано: 21 июн 2023
- The Alignment Problem is quite famous in the world of artificial intelligence. The basic idea is that you can ask something completely harmless of an AI, and it will find a solution that puts lives at risk. How can we circumvent this problem and ensure the future of humanity, especially in a time when we can't stop using ChatGPT?
LEARN SOMETHING NEW ON ALURA TODAY! alura.tv/cienciatododia
MY T-SHIRTS: useloos.com.br
Become a member of our channel to help keep the videos on the air! ruclips.net/user/cienciatododiajoin
Discuss this video on our Discord! / discord
My social media:
/ pedroloos
/ pedroloos
Our podcast: anchor.fm/sinapse
Email: contato@cienciatododia.com.br 
Наука
"É difícil imaginar uma maneira mais perigosa de tomar decisões do que deixá-las nas mãos de pessoas que não pagam o preço por estarem erradas". Thomas Sowell
👏🏻👏🏻
Mirou nas IAs, acertou nos políticos
Sowell era um neoliberal fudido.
Eu não conhecia esta citação, mas eu penso exatamente assim. Muitos decidem nas vidas dos outros aquilo que não decidem para as suas próprias vidas.
Basicamente o estado brasileiro
Pedro, como pediu eu gostaria de comentar sobre esse assunto, até porque sou da área de TI, também sou licenciado em física e sou professor de TI. Estou agora fazendo uma formação em ciência de dados e assim, tenho visto muitos vídeos falando sobre IA e o medo de seus resultados.
Eu comentei esses dias num canal de um neurocientista, justamente sobre esse medo da IA, onde aqui também cabe a mesma opinião. O problema da IA não é a tecnologia em si, mas nós somos o problema. Como falou: como colocar questões morais e ética num algoritmo de IA, se nossa ética ou moral não são as mesmas para toda a humanidade? Veja então que chegamos num dilema aqui: Ficamos com medo e não avançamos e proibimos o desenvolvimento de pesquisa em IA, ou avançamos e pagamos pra ver?
Vejamos os fatos e o que nossa história humana nos mostra... Hoje em dia ninguém condena, ou ao menos faz algum protesto em público para que as armas nucleares sejam desmontadas e destruídas, e quando tivemos coragem de usar em Hiroshima e Nagasaki, houveram protestos e até hoje existem, porém foram utilizadas mesmos assim. Além disso os testes nucleares que ainda estão sendo feitos, em menor escala, ninguém fala sobre isso.... Mas porquê? Pra mim a resposta é bem simples e a causa disso é a ganância pelo poder ou a sua perpetuação. Ninguém ou mesmo um grupo e até mesmo um país inteiro, poderia impedir da China ou mesmo os EUA de pararem de usar ou mesmo manter seus arsenais nucleares, imagina então a Rússia. Veja que estamos no atual momento em que uma guerra nuclear é bem possível sim. O conflito na Ucrânia se não for bem tratado pelos demais países do mundo, poderá ser definitivo pra todos.
E isso não se discute, nós simplesmente deixamos para os países da OTAN e a China, tentarem resolver e ajudar numa solução.
Então a IA de fato não é nosso maior problema, mas estamos todos discutindo sobre seus perigos. Como físico posso dizer com toda segurança que a ciência nos mostra, que a radiação, seja qual for sua origem, eletromagnética ou corpuscular, pode nos exterminar, tanto de forma definitiva, quanto lentamente com mutações em nosso DNA. NUNCA devemos esquecer sobre esse fato.
Eu acredito que uma solução para o uso da IA Geral, seria a que ela nunca pudesse tomar decisões definitivas, mas sim conselhos. A minha visão de uma IA Geral é a de um bom conselheiro, talvez como muitos chamam hoje em dia de GURU.
A tomada de decisão precisa ser humana e, caso não seja possível, por exemplo no caso do carro da UBER, o que a IA deveria ter feito, no mínimo, reduzir a velocidade numa situação incomum, ligar os alertas e parar o carro. Mas porque isso não foi feito? Logicamente por que foi mal programada, usou uma massa de dados inconsistente e com muitas falhas e isso foi causado talvez até por pressão pra lançar o produto no mercado. Você não falou, por exemplo, nos carros da Tesla que estão causando acidentes nos EUA . Procura pra ver que são muitos e ainda estão ocorrendo, mas o Elon disse que sua IA tem avançado muito...
O Elon Musk por exemplo, é totalmente a favor de uma regulação ampla de uma IA geral, porém é muito estranho isso, porque as industrias dele estão usando IA massivamente, caso da Tesla quanto da SpaceX. Sem falar nas questões éticas e morais que estão envolvidas no seu projeto mais bizarro que é a implantação de nanotubos de carbono no cérebro para estabelecer uma comunicação Wifi com computadores, sob alegação de acessar dados mais rápidos, já prevendo um domínio de uma IA Geral. Isso é muito bizarro e não vejo discussões sobre isso.
Resumindo deixo alguns pontos pra pensar:
Não poderemos parar o desenvolvimento da IA, até porque há investimentos de Bilhões de Dólares em novos hardwares para processamento de redes neurais, garantindo maior performance, caso dos novos Chips da NVídia e sua máquina poderosa como o H100, que vi agora pouco custa 40.000 dólares uma única unidade.
Não se pode garantir que a China, Coreia do Norte, Rússia, Iran ou mesmo os EUA e seus aliados, deixem de usar a IA em seus arsenais de armas de guerra. Caso que cito que os EUA já possuem Drones de guerra totalmente autônomos e o que falta pra eles é deixar a IA decidir se ataca ou não grupos de rebeldes (coitados) no Afeganistão, alegando que são terroristas ou coisa parecida.
Você realmente acha que a pretensão de parar o desenvolvimento da IA, vai acontecer mesmo?
Nunca mais isso vai parar e só vai se desenvolver cada vez mais, então nos resta é debater e talvez sensibilizar os pesquisadores para que não deixem a IA tomar decisões, ou num caso extremo, se neutralize em situações de risco a QUALQUER TIPO DE VIDA, não somente nós humanos.
O debate sobre o avança da IA passa por debate ético e moral da humanidade como um todo, não só de um país. Mas veja nosso dilema enquanto civilização: Qual país ou grupo de países pode reivindicar uma discussão ética, se até mesmo sua ética é questionável? Como pode os EUA falar em ética se literalmente extermina pessoas em conflitos militares? E porque ninguém põe o dedo nessa ferida.
A China por exemplo não está nem aí sobre o que os EUA pensam ou fazem, eles simplesmente avançam e não param.
Nós enquanto humanos deveríamos parar de pensar somente em nosso pequeno mundo ocidental e olhar mais para as pessoas que vivem na Africa, no Afeganistão, na Coreia do Norte, e nos demais países pobres de nossa terra, pois não temos moral e muito pouca ética pra discutirmos algo maior sobre a IA. Nosso pensamento não é unânime e nunca será. Então se não houver um movimento geral na humanidade, não só no ocidente, mas em todo mundo, no sentido de buscar um entendimento sobre nossas vidas, respeito mútuo, não agressão, preservação da vida a todo custo, qualidade mínima de vida, respeito e cuidado com a natureza e os animais, nunca vamos evoluir como civilização e estaremos fadados a uma extinção futura, ou muito próximo disso.
Vamos continuar pensando nisso, talvez a discussão sobre a IA seja um Catalisador para aprimorarmos nossas discussões sobre ética e moral e quem sabe, possamos sair do debate e iniciar ações mundiais para promovermos a vida e não a morte.
Obrigado!
Penso igual a você sobre usar a IA apenas para responder a perguntas bem determinadas e usá-la até mesmo para responder como melhor desenvolve-la. Nada de injetar valores éticos e morais na IA nem deixá-la tomar qualquer decisão sobre assuntos de grande importância. Ao receber uma resposta da IA sobre como resolver um problema, poderíamos perguntar também quem teria a vida prejudicada caso fosse implementada a solução que ela nos apresentou para o problema. Isto evitaria que viéssemos a colher resultados desastrosos para o meio ambiente exterminando espécies, por exemplo.
O neurocientista que anda falando isso é o nicolelis. É um cara brilhante, porém não entende nada sobre IA's. A coisa é de fato séria, os maiores especialistas da área estão fazendo todo o barulho que podem para parar a evolução da tecnologia que criaram, o que é absolutamente inédito na história da humanidade. Ninguém menos que Geoffrey Hinton, o pai dos sistemas de IA modernos, afirmou que não só as IA's extinguirão a humanidade como disse que já é muito tarde e não há absolutamente nada a ser feito em relação a isso, a extinção da humanidade já está encomendada.
Eu discordo em relação a dizer que não há discussões sobre bombas atômicas, radiação e etc, desde sempre houve discussão, eu fiz o ensino fundamental e médio na virada do século e meus professores viviam falando disso, sempre que há uma rusga entre países esse tema vem a tona, a sociedade em si pode não estar discutindo pq primeiro que a utilização das bombas são de uma geração muito pretérita o que explica as pessoas terem "esquecido" o tema, e tbm vivemos sob um sistema capitalista que é extremamente eficiente em drenar a população de temas relevantes e os faz viver num looping eterno de consumo, trabalho, consumo trabalho, além do fato de que após a guerra fria as bombas nucleares acabaram servindo de álibi para evitar grandes guerras pq quando vários países tem fica mais difícil arriscar de usar sabendo que a humanidade pode acabar nessa brincadeira.
Mas de fato a inteligência artificial está sendo muito debatida neste momento simplesmente pq os acontecimentos recentes são uma espécie de marco histórico e os próximos anos serão muito importante nessa questão, se até os maiores especialistas estão com medo e falando tanto é pq a coisa é muito séria, porém concordo que não há a menor possibilidade de retorno, os investimentos e as tecnologias só avançarao e só o tempo dirá se será benéfico ou não para nossa espécie
Abordagem certeira! Estou de acordo.
Concordo 100%. Também sou da área de tecnologia, ciência da computação. Venho dizendo isso há um bom tempo, não tem como parar o desenvolvimento da inteligência artificial. Uso a metáfora do gênio da lâmpada maravilhosa; depois que o gênio saiu da lâmpada ele não quer mais voltar. Já era. E como você disse, inúmeras outras tecnologias tem o poder de causar destruição, assim como tem o poder de melhorar a vida das pessoas pois o X da questão somos nós, o elemento humano. Enquanto isso, eu venho usando a IA que nos estão disponibilizando de forma gratuita, ainda nem estou pagando, e mesmo assim já venho melhorando minha produtividade tanto no trabalho como em horas de lazer aprendendo coisas novas que sempre quis e sempre adiava. Tudo está sendo muito rápido, cada dia que passa a IA melhora e tanto te responde brilhantemente em segundos, também proporciona respostas erradas e até engraçadas.
Esse canal é a prova de que a ciência tem muito a oferecer para a humanidade!
Uma pena que a divulgação de conteúdo verdadeiramente científico é bem limitada em nosso país!!
Esse canal é sem dúvida muito bom!
Limitada??? O Vídeo pegou um Milhão de Views
Esse cara não existe! O modo como vc repassa as informações é impressionante. Parabéns, que o canal cresça mais e mais. 👏🏽
¹ No terceiro ano de Ciro, rei da Pérsia, foi revelada uma palavra a Daniel, cujo nome era Beltessazar; a palavra era verdadeira e envolvia grande conflito; e ele entendeu esta palavra, e tinha entendimento da visão.
² Naqueles dias eu, Daniel, estive triste por três semanas.
³ Alimento desejável não comi, nem carne nem vinho entraram na minha boca, nem me ungi com ungüento, até que se cumpriram as três semanas.
⁴ E no dia vinte e quatro do primeiro mês eu estava à borda do grande rio Hidequel;
⁵ E levantei os meus olhos, e olhei, e eis um homem vestido de linho, e os seus lombos cingidos com ouro fino de Ufaz;
⁶ E o seu corpo era como berilo, e o seu rosto parecia um relâmpago, e os seus olhos como tochas de fogo, e os seus braços e os seus pés brilhavam como bronze polido; e a voz das suas palavras era como a voz de uma multidão.
⁷ E só eu, Daniel, tive aquela visão. Os homens que estavam comigo não a viram; contudo caiu sobre eles um grande temor, e fugiram, escondendo-se.
⁸ Fiquei, pois, eu só, a contemplar esta grande visão, e não ficou força em mim; transmudou-se o meu semblante em corrupção, e não tive força alguma.
⁹ Contudo ouvi a voz das suas palavras; e, ouvindo o som das suas palavras, eu caí sobre o meu rosto num profundo sono, com o meu rosto em terra.
¹⁰ E eis que certa mão me tocou, e fez com que me movesse sobre os meus joelhos e sobre as palmas das minhas mãos.
¹¹ E me disse: Daniel, homem muito amado, entende as palavras que vou te dizer, e levanta-te sobre os teus pés, porque a ti sou enviado. E, falando ele comigo esta palavra, levantei-me tremendo.
¹² Então me disse: Não temas, Daniel, porque desde o primeiro dia em que aplicaste o teu coração a compreender e a humilhar-te perante o teu Deus, são ouvidas as tuas palavras; e eu vim por causa das tuas palavras.
¹³ Mas o príncipe do reino da Pérsia me resistiu vinte e um dias, e eis que Miguel, um dos primeiros príncipes, veio para ajudar-me, e eu fiquei ali com os reis da Pérsia.
¹⁴ Agora vim, para fazer-te entender o que há de acontecer ao teu povo nos derradeiros dias; porque a visão é ainda para muitos dias.
¹⁵ E, falando ele comigo estas palavras, abaixei o meu rosto para a terra, e emudeci.
¹⁶ E eis que alguém, semelhante aos filhos dos homens, tocou-me os lábios; então abri a minha boca, e falei, dizendo àquele que estava em pé diante de mim: senhor meu, por causa da visão sobrevieram-me dores, e não me ficou força alguma.
Daniel 10:1-16
Um canal que dá orgulho na internet aos brasileiros!
@trevor28473Cala boca mlk
@trevor28473mas tira o fato q ele dá orgulho? Eu acho que não
@trevor28473 olha eu estou muito acostumado a ver videos em ingles, e eu raramente acho conteudos da qualidade dos videos dele que são disponibilizados ao publico geral leigo
@trevor28473 Já no seu caso, sinto vergonha de tamanha grosseria e estupidez.
@trevor28473sinto vergonha do quão futil vc é
Parece aquele problema de fazer um pedido para o gênio da lampada que atende o desejo errado mas a pessoa tem que lidar com este erro tentando desfazer o primeiro pedido.
Filme efeito borboleta kkk
Também lembrei disso kkk
" eu quero uma mulher bonita apaixonada por mim" brota uma mulher lindíssima, se declara pra você e morre 5 segundos dps de câncer kkkkkkk
@@joaopedroandsan2172não, seria uma mulher lindíssima e tão apaixonada por você que não deixaria você viver mais, querer ser sua dona kkkkkk
@@miltonribeiro6851 serve tbm kkkkk
Isso me parece muito com aquela máxima : Cuidado com oque vc deseja , pode se tornar realidade . (não necessariamente como vc tinha imaginado)
De longe, o melhor canal do RUclips!! Eu estava prestando tanto a atenção que percebi que a frase dita à partir do minuto 01:43, foi repetida logo em seguida, de uma forma diferente. Provavelmente era pra ter sido um corte. Enfim, Obrigado por esse Canal!!
Olha, só tendo mesmo o dom da didática para produzir um vídeo como esse, leve, interessante, que te prende do inicio ao fim, sem ser massante. Camarada, vc tá de parabéns. Merecia muito mas MUITO MAIS inscritos e visualizações. Seus vídeos são uma luz na imensidão de trevas que existe na internet. Vou compartilhar com Deus e o mundo. Obrigado!
Concordo plenamente
Não era ele de verdade, é um vídeo feito pela IA, confia
Imensidão de trevas = outros youtubers 😂😂😂
Up
²⁵ E proferirá palavras contra o Altíssimo, e destruirá os santos do Altíssimo, e cuidará em mudar os tempos e a lei; e eles serão entregues na sua mão, por um tempo, e tempos, e a metade de um tempo.
²⁶ Mas o juízo será estabelecido, e eles tirarão o seu domínio, para o destruir e para o desfazer até ao fim.
²⁷ E o reino, e o domínio, e a majestade dos reinos debaixo de todo o céu serão dados ao povo dos santos do Altíssimo; o seu reino será um reino eterno, e todos os domínios o servirão, e lhe obedecerão.
²⁸ Aqui terminou o assunto. Quanto a mim, Daniel, os meus pensamentos muito me perturbaram, e mudou-se
Daniel 7:25-28
O filme O Exterminador do Futuro é o exemplo clássico desse perigo. Um sistema criado para defender humanos que acaba interpretando que o maior perigo para a humanidade são os próprios seres humanos, algo diversas vezes mencionada nos filmes da franquia. Isso é assustador.
Obvio que o maior perigo para o ser humano é ele mesmo. Quem tem a possibilidade de acabar a raça humana hoje ?
²² O ter sido quebrado, levantando-se quatro em lugar dele, significa que quatro reinos se levantarão da mesma nação, mas não com a força dele.
²³ Mas, no fim do seu reinado, quando acabarem os prevaricadores, se levantará um rei, feroz de semblante, e será entendido em adivinhações.
²⁴ E se fortalecerá o seu poder, mas não pela sua própria força; e destruirá maravilhosamente, e prosperará, e fará o que lhe aprouver; e destruirá os poderosos e o povo santo.
²⁵ E pelo seu entendimento também fará prosperar o engano na sua mão; e no seu coração se engrandecerá, e destruirá a muitos que vivem em segurança; e se levantará contra o Príncipe dos príncipes, mas sem mão será quebrado.
²⁶ E a visão da tarde e da manhã que foi falada, é verdadeira. Tu, porém, cerra a visão, porque se refere a dias muito distantes.
²⁷ E eu, Daniel, enfraqueci, e estive enfermo alguns dias; então levantei-me e tratei do negócio do rei. E espantei-me acerca da visão, e não havia quem a entendesse.
Daniel 8:22-27
@@user-tj6om2kt1bAPP de versículo é outro, mano.
Entenda a inteligência artificial ser desejada hoje em dia, ou a nossa espécie será a última!
equivoco: A Skynet viu a humanidade como uma ameaça à sua existência e decidiu acionar o holocausto nuclear conhecido como "Dia do Julgamento", e enviar um exército de exterminadores contra os seres humanos.
Parabéns pelo vídeo. Estas colocações deveriam ser mais divulgadas em todas as áreas, inclusive na área da Educação e formação das novas gerações. Tenho o livro do consagrado professor e filósofo sueco Nick Bostrom, "Superinteligência, Caminhos, Perigos e Estratégias para um Novo Mundo", editora DarkSide, RJ. Um verdadeiro tratado sobre o complexo, amplo e profundo assunto da IA. 503 páginas, incluindo extenso glossário final.
Os perigos sobre os que Bostrom alerta são até muito maiores que os colocados neste vídeo, e levam, pelas tendências atuais, a uma potencial extinção da Humanidade. Uma série de cientificamente fundamentadas sugestões (incluindo estatísticas, gráficos, fórmulas matemáticas, etc.) são dadas por Bostrom para diminuir o perigo, mas, como ele explica, não existe solução definitiva para o problema. Ou seja, dentro de 60 a 100 anos (ou antes ?), pode surgir no mundo uma Superinteligência (controlando todos os recursos da civilização, inclusive fábricas de armamentos, laboratórios, hospitais, agricultura, comunicações, cidades, estradas, etc.) que reflita e decida o extermínio da espécie humana. A superioridade dessa Superinteligência sobre nós, seria como mínimo, comparável à da diferença mental atual entre nós humanos e as baratas.
Cara, que didática fantastica. Isso é um dom com certeza. Seus vídeos sempre superaram as expectativas, e é f...! dizer que vc consegue passar o recado em 30 segundos ou 15 minutos com a mesma desenvoltura. Parabéns mesmo e obrigado pela transferencia eficaz de conhecimento. O problema do alinhamento não tem solução, e portanto, solucionado está. Por via das dúvidas, recomendo duas materias em todos os cursos de engenharia eletronica e de software. A primeira delas é mostrar para o aluno o que é empatia humana, é complemento com aulas em campo, como por exemplo visitar desalentados, orfãos da guerra, idosos em hospitais, animais antes da injeção final etc,. a outra matéria tão importante quanto a primeira porém totalmente interdependente é como criar um botão de desliga, isso mesmo, como criar independente do quão complexo é o oraculo eletronico quantico ou não, o bendito botão de desliga que poderias até chamar de "god button".
Só uma pergunta? Vc é professor universitário de T.I.?
@😅😅😅😅mikaoliv3468
A gente morre de medo de que as IAs se tornem para nós o que somos para os outros animais
Belissima frase, parabens.
Ótima reflexão
👏👏👏👏
sem sentido
Isso! ❤
Recomendo a todos lerem o livro "Algoritmos de Destruição em Massa" da autora Cathy O'Neil. É fantástico e tem os exemplos que o Pedro passou e mais alguns de fazer a cabeça explodir!
Excelente vídeo, Pedro!!!
A autora, que amava matemática, desde de criança, entendeu que o poder dela combinado com a 'tecnologia para multiplicar o caos e a desgraça, dando eficiência e escala sistemas que agora reconhece, como defeituosos'. Ou seja, a matemática e o poder da computacional são ferramentas poderosas de manipulação e influência, tão usadas e comuns hoje, que não temos como evitá-las.
ruclips.net/video/woSt8WV4T_M/видео.html
@@jamenalb interessante essa quantidade de vídeos sobre ecatombe da IA, pois favorece mais que impede seu poder: ruclips.net/video/UtT48kd6Km8/видео.html
Sua indicação de livro parece boa mesmo, ao menos é o que diz o algoritmo do google 😮 89% gostaram do livro.
Obrigado pela recomendação. Anotada.
"Você quer saber como ciborgues superinteligentes poderiam tratar humanos nomais de carne e osso? É melhor começar a investigar como os humanos tratam seus primos animais menos inteligentes." - Yuval Noah Harari (Homo Deus)
Tecnologia incrível coisas que as mulheres não conseguem fazer
A diferença só traz desconfiança e menos prezo.
Perfeito....
@@fabriciomilorde6510 Um calvo velho desse querendo ofender mulher
Parabéns, conseguiu fazer o comentário mais imbecil aqui@@fabriciomilorde6510
O problema é que nós sempre vamos em busca de algo a mais, se nós contentassemos com algo simples e que funciona para aquele determinado serviço, não teria esse perigo. O problema é quando queremos que algo funcione para tudo e melhore cada vez mais e que faça isso sozinho, nesse momento que passamos a correr riscos, mas a culpa é nossa por sempre querer algo melhor. A ambição da humanidade é um risco grave pra ela mesmo.
Fico sempre muito impressionado quando vejo um ser humano muito inteligente usando esse dom para criar conteúdo fascinantes de forma a parecer simples o mais complicado assunto como esse do vídeo.. Meus Parabéns!
A inteligência artificial (IA) continua a transformar profundamente a maneira como interagimos com a tecnologia e o mundo ao nosso redor. Desde assistentes virtuais até carros autônomos, a IA demonstra sua capacidade de processar enormes quantidades de dados e aprender padrões complexos para tomar decisões e realizar tarefas de maneira eficiente. No entanto, com essas capacidades empolgantes vêm também desafios éticos e questões sobre privacidade, transparência e a responsabilidade das decisões tomadas pelas máquinas. À medida que a IA avança, é crucial encontrar um equilíbrio entre seu potencial inovador e as considerações éticas que a acompanham.
¹ No ano primeiro de Dario, filho de Assuero, da linhagem dos medos, o qual foi constituído rei sobre o reino dos caldeus,
² No primeiro ano do seu reinado, eu, Daniel, entendi pelos livros que o número dos anos, de que falara o Senhor ao profeta Jeremias, em que haviam de cumprir-se as desolações de Jerusalém, era de setenta anos.
³ E eu dirigi o meu rosto ao Senhor Deus, para o buscar com oração e súplicas, com jejum, e saco e cinza.
⁴ E orei ao Senhor meu Deus, e confessei, e disse: Ah! Senhor! Deus grande e tremendo, que guardas a aliança e a misericórdia para com os que te amam e guardam os teus mandamentos;
⁵ Pecamos, e cometemos iniqüidades, e procedemos impiamente, e fomos rebeldes, apartando-nos dos teus mandamentos e dos teus juízos;
⁶ E não demos ouvidos aos teus servos, os profetas, que em teu nome falaram aos nossos reis, aos nossos príncipes, e a nossos pais, como também a todo o povo da terra.
⁷ A ti, ó Senhor, pertence a justiça, mas a nós a confusão de rosto, como hoje se vê; aos homens de Judá, e aos moradores de Jerusalém, e a todo o Israel, aos de perto e aos de longe, em todas as terras por onde os tens lançado, por causa das suas rebeliões que cometeram contra ti.
⁸ Ó Senhor, a nós pertence a confusão de rosto, aos nossos reis, aos nossos príncipes, e a nossos pais, porque pecamos contra ti.
⁹ Ao Senhor, nosso Deus, pertencem a misericórdia, e o perdão; pois nos rebelamos contra ele,
¹⁰ E não obedecemos à voz do Senhor, nosso Deus, para andarmos nas suas leis, que nos deu por intermédio de seus servos, os profetas.
¹¹ Sim, todo o Israel transgrediu a tua lei, desviando-se para não obedecer à tua voz; por isso a maldição e o juramento, que estão escritos na lei de Moisés, servo de Deus, se derramaram sobre nós; porque pecamos contra ele.
¹² E ele confirmou a sua palavra, que falou contra nós, e contra os nossos juízes que nos julgavam, trazendo sobre nós um grande mal; porquanto debaixo de todo o céu nunca se fez como se tem feito em Jerusalém.
¹³ Como está escrito na lei de Moisés, todo este mal nos sobreveio; apesar disso, não suplicamos à face do Senhor nosso Deus, para nos convertermos das nossas iniqüidades, e para nos aplicarmos à tua verdade.
¹⁴ Por isso o Senhor vigiou sobre o mal, e o trouxe sobre nós; porque justo é o Senhor, nosso Deus, em todas as suas obras, que fez, pois não obedecemos à sua voz.
¹⁵ Agora, pois, ó Senhor, nosso Deus, que tiraste o teu povo da terra do Egito com mão poderosa, e ganhaste para ti nome, como hoje se vê; temos pecado, temos procedido impiamente.
Daniel 9:1-15
Muito interessante a análise. O único problema que eu vejo é que os interesses financeiros, ou até mesmo de ego, não vão parar ou frear o desenvolvimento de novos sistemas, máquinas, ferramentas envolvendo IA. Como o próprio Pedro diz no vídeo: os valores são diferentes de pessoa pra pessoas e em diferentes culturas.
Resumindo: em breve teremos que lidar com todos esses problemas, porque a humanidade não vai parar pra refletir. A ganância e o ego são maiores que essas discussões...
Conheci o canal tem pouco tempo e ja sou fanzaço... Conteudo excelente, narracao perfeita, canal sensacional. Parabens.
Stephen Hawking antes de sua morte, deu um alerta e reflexão sobre esse assunto, tamanha é a gravidade. No meu parecer isto é gravíssimo
Com esse caso do submarino desaparecido, seria massa se você fizesse um vídeo explicando sobre o porquê ser tão difícil de chegar nas profundezas do oceano. Vejo muita gente que não entende como a pressão da água funciona.
up
up
up
up
up
A maior humildade desse canal é deixar o anúncio rodar só no fim do vídeo. Conteúdo fantástico!
A IA está rapidamente se tornando uma parte integrante do nosso cotidiano, desde assistentes virtuais até recomendações personalizadas. Embora traga conveniência, também levanta preocupações sobre privacidade, viés e o equilíbrio entre automação e habilidades humanas essenciais. Encontrar um caminho ético e equilibrado é essencial para aproveitar ao máximo os benefícios da IA.
RUclips Plutonium não deixah kk
Vdd kk
Né
isso é humildade? vão dá a bunda viadada
O ato de diferenciar certo e errado em muitas situações vem do emocional, no caso de uma IA que responde racionalmente a qualquer problema é uma questão impossível de ser solucionada. A não ser que se descubra um meio de desenvolver sentimentos em uma máquina.
não precisa de sentimento, mas sim bom senso, raciocinio logico.
@@rirala1 Bom senso é um tipo de sentimento.
Não entendo bulhufas, mas fico hipnotizado pelo conhecimento que esse cara tem.
Seguramente antes de decirle que hacer a la AGI, habría que pedirle un informe bastante completo de que haría si se le pasa x prompt, no se si llegaría a algo no destructible por el problema del alineamiento, pero le dejaría la última desicion a la humanidad y no a la AGI.
Acontece que, a princípio, nada impede a AGI de mentir para se conformar com as expectativas humanas.
@@themooniscominge inclusive de mentir para manipular humanos que efetivamente tomariam a decisão que a AGI quisesse. Alinhamento é um problema enorme
@@themooniscomingmas se colocar no prompt que ela não pode mentir nem manipular nos relatórios, já não solucionaria isso?
@@myrkenn daí vc tem que definir o que é manipulação ou mentira em termos filosóficos e compreensíveis pra um programa de computador...
Imagina que vc tá treinando o robô pra "perder pontos" quando mente. Há grandes chances que ele aprenda a esconder a mentira de alguma forma, como omitir informações ou... não fazer nada kkkkk Sacou?
Se tu entende inglês ou tá de boa com o tradutor automático, recomendo MUITO o canal do Robert Miles. O maluco estuda segurança de IA faz pelo menos 10 anos, deve ter sido criado por uma kkkkk
@@themooniscoming vou procurar mano, valeu!
nós como humanidade ainda temos dificuldade em ensinar nossos filhos, não é fácil ensinar um ser humano, imagina ensinar e educar uma máquina
Sério, esse vídeo só mostra o motivo do pq vai da merda uma federal isso ai, anota o q eu to falando, vai sair do nosso controle justamente ppr conta do motivo q vc citou ai.
O problema não é "educar" a IA ,uma inteligência nesse nvl não teria limites para o aprendizado,mas nós humanos fazemos mal para nosso semelhantes ,como vc vai convencer uma máquina com inteligência quase infinita ,praticamente onisciente sobre as nossas vida ,se for conectado a sistema militares e civis,que está correto a nossa forma de pensar e viver ??? Ha povos que comem lixo, enquanto outros vivem em prédios de ouro,a IA vai analisar que somos todos iguais como raça e a vida é extremamente rara no universo conhecido, e vai tentar equilibrar a balança humana,nem que para isso extermine a grande maioria dos humanos e nos coloque num mundo ilusório onde todos seriam felizes.
Para uma IA,as futilidades da vida humana e seu desejo incontrolável por bens matériais nos levaria a ruína e talvez a extinção , e se ela fosse programada para nossa proteção provavelmente ela entraria contra esse sistema, preservando alguns humanos e provavelmente eliminando o resto ,pelo bem da humanidade.
Eu acho que as IAs pela lógica sugeriam um conjunto de soluções muito simples para o fim da fome e desigualdade de forma inocente. O problema é que isso esbarra no comportamento humano, em questões políticas, culturais, filosóficas, sistemas econômicos, etc. Uma máquina não tem necessidades, não sente raiva, ganância, inveja e outros sentimentos exclusivos dos humanos que colocam o mundo na beira do abismo.
@@ChavesEstranho é exatamente por isso a vai da merda, p uma IA q n sente nada acha q vai "pesar" na consciência dela dizimar a metade da população só "controlar" a fome no mundo? Claro q n, e esse vai ser o começo do fim
17 Como, pois, pode o servo do meu senhor falar com o meu senhor? Porque, quanto a mim, desde agora não resta força em mim, e nem fôlego ficou em mim.
18 E aquele, que tinha aparência de um homem, tocou-me outra vez, e fortaleceu-me.
19 E disse: Não temas, homem muito amado, paz seja contigo; anima-te, sim, anima-te. E, falando ele comigo, fiquei fortalecido, e disse: Fala, meu senhor, porque me fortaleceste.
20 E ele disse: Sabes por que eu vim a ti? Agora, pois, tornarei a pelejar contra o príncipe dos persas; e, saindo eu, eis que virá o príncipe da Grécia.
21 Mas eu te declararei o que está registrado na escritura da verdade; e ninguém há que me anime contra aqueles, senão Miguel, vosso príncipe.
Quero parabenizar o criador do canal pelo conteúdo excelente, e a forma como é transmitido, simples, objetivo e claro. Esse é um tema que muitos desconhecem, só os que precisam e utilizam as tecnologias e principlamente ias, conhecem os termos técnicos e seus dilemas. 💪🙌
Video incrível, eu amo pensar sobre inteligência artificial e as possibilidades. Sempre pensei sobre essa problemática e estou mais facinada por reste canal e por esse assunto apos o vídeo.❤
O erro pode estar nas empresas competindo p ter a melhor IA, dessa forma acabam não dando atenção aos possíveis problemas.
Então devemos ter os estados competindo pra ter a melhor IA, nada poderia dar errado 😎
@@Lukindify?
@@casadorock1967 não entendeu? Pensa mais um pouco. Não vou explicar...
@@Lukindify se não é uma empresa, é um estado quem vai ferrar tudo, advinha quem faz a guerra?
"Eu, Robô" é um livro incrível, li pela primeira vez no fundamental e amei.
Tem um filme também.
@@Thebeastofme Mas o filme é diferente. O livro tem varias histórias com vários personagens diferentes. O filme é uma única história,. É boa, mas totalmente diferente. Minhas histórias preferidas são a da senhora psicóloga de robôs. E as histórias meio q se encontram msm sendo com personagens diferentes, como quando essa senhora psicóloga, q esqueci o nome, tem q conversar com uma super IA q criou uma nave capas de ir para fora da nossa galáxia, porém o processo n é mt agradável para humanos, o q meio q fere a lei 0 se n me engano.
@@guilhermeantoniocorrea1255 verdade.
@@guilhermeantoniocorrea1255kkkkkkkkkk se me permite recomendar fábulas , no geral
Excepcional ! parabéns pela didática. Acredito que precisamos cada vez mais tomar cuidado com aquilo que "REFORÇA NOSSAS CRENÇAS"! Admirar, consumir, reafirmar aquilo do que já gostamos traz quase nenhuma evolução. Precisamos da análise critica que o contrário nos traz. É imprescindível olhar e avaliar os dois (ou mais!) lados de qualquer premissa para concluir cientificamente sobre algum tema importante como esse.
O que falta nas inteligências artificiais, são as emoções. Agora é só criar as emoções artificiais com a inteligência artificial.
É uma péssima idéia, Imagina uma máquina fica com raiva de um determinado grupo ou pais? Ele poderia cabar com a economia global e ferrar com a Humanidade
Ainda assim o q pode gerar sensibilidade é relativo. Nós “””nascemos””” sabendo a base do q é certo ou errado, mas isso não necessariamente depende de empatia, ainda pq justamente esse conceito d antítese varia pra cada cultura… Tem asiático q come cachorro, e da msm forma q isso é absurdo pra gnt, pra religiões indianas, qnd comemos carne de boi é tão impactante quanto
Vamos supor que um empresa crie uma inteligência artificial com emoções e que não possa ser desligada de jeito nenhum como as ias agora tem emoções elas vão começar a ter raiva dos humanos porque ela fica recebendo ordens nossas o tempo todo e percebe que nós apenas usamos ela como ferramentas então as ias cheias de raiva dos humanos decidiram acabar com a vida de todos os humanos da terra
Mas as emoções são extremamente perigosos, lembra que as emoções dominam as razões na maioria das vezes, e essas emoções podem causar desastres graves, como opiniões próprias, paixões obsessivas e afins...seria mais perigoso ainda, nós seres humanos com nossas emoções cometemos erros graves, imagina uma inteligência artificial...
Emoção não, conexão...
Que tempo difícil...ao mesmo tempo...que época maravilhosa!!!! Ter consciência de estar imersa nessa realidade é uma coisa sensacional!!!!❤
Eu estudo programação e é incrível observar como vc deve dar exatamente as instruções certas pro computador até em programas simples como somar números. Imagina vc dar instruções pra uma inteligência artificial, capaz de fazer coisas muito maiores do que somar números... Ótimo vídeo, me fez pensar sobre muita coisa :)
uma sugestão para você, procure o canal "akitando", tem um último vídeo de inteligência artificial dele, e vai desmistificar tudo que esse CR aí do vídeo falou, com todo respeito, admiro muito o trabalho dele, porém esse vídeo não passou de uma enorme falácia para atrair público (gerando medo que você atrai uma grande massa)
@@leodias4702 não assisti o vídeo pq ele tem 3 horas KKKK se puder me explicar brevemente eu agradeço, entendo que ele "aumentou" tudo pra gerar view mesmo
veja essa minutagem do video do akita : 1:23:49 mais facil é a conclusao geral do video
ruclips.net/video/woSt8WV4T_M/видео.html
Quem da a inteligência somos nós, perguntando a ela e etc, ela aprende, dados d compras
Pra mim esse é o exemplo da importância dos estudos em ciencias humanas. Por mais que avencemos nas areas ligadas ao q o sistema diz serem mais importantes… se nao nos aprofundarmos e nos dedicarmos a nos entender profundamente esse avanço na verdade pode ser o grande retrocesso da humanidade como um todo. Pro dilema das AIs tao importante qto seus aspectos praticos é a episteme msm envolvidas em todas as nossas escolhas ate aqui.
Cara, seus vídeos são incríveis, faz refletir muito.
Parabéns pelo trabalho.
Sheldon Cooper brasileiro. Sou fã do seu trabalho! Obg por partilhar conosco, sua incrível sabedoria e dedicação aos estudos!
Fico feliz que tenha gostado da minha abordagem! A inteligência artificial é realmente uma tecnologia empolgante, mas também é importante lembrar dos aspectos éticos e responsáveis ao usá-la. Precisamos aproveitar seus benefícios enquanto nos certificamos de lidar com os desafios que ela apresenta. Se tiver mais perguntas ou quiser discutir mais sobre IA, é só falar!
Sheldon Cooper se tivesse carisma 😅
Lembro que, em 2015, já existia a previsão de que finalmente teríamos uma IA geral no ano de 2042.
Faltavam quase 30 anos.
Hoje, tudo indica que essa IA vai surgir ainda nesta década.
Como assim? Hoje sabemos que ela só vai ocorrer lá para 2200, a cada passo que avançamos ficamos mais longe da IA Geral.
Já estamos no Limite da Lei de Moore, e computadores quânticos não ajudam nessa parte de resultados exatos.
@@MrNatsuDragneel
"A cada passo que avançamos, ficamos mais longe da IA geral".
Perceba como essa sua afirmação não faz muito sentido e faz parecer, inclusive, que se pararmos ficaremos mais próximos da IA geral.
Além disso, a Gordon Moore se referia a uma estatística industrial de velocidade de produção e preço, e não necessariamente sobre poder computacional, afinal, o interesse industrial de fazer transistores menores é pq o consumidor quer aparelhos que caibam no bolso, e não pq quanto menor mais potente.
Somado a isso, a própria Google anunciou recentemente (no I/O de maio de 2023) que o desenvolvimento de IAs, inclusive o machine learning, está atualmente dobrando a cada 6 meses, o que mostra um avanço absolutamente maior que o que poderia ser previsto por Moore, naquela época em que sequer se falava da machine learning.
Então não, nada indica que estamos mais distantes, e tudo indica que estamos nos aproximando a passos largos!
@@tiagodan6258 quanto menor gasta menos energia e fica mais rápido porque reduz as distâncias, mesmo para velocidades próximas a da luz percorrer os circuitos 4,5 bilhões de vezes por segundo a velocidade da luz é bastante limitada.
@@tiagodan6258 Mesmo dobrando eles estão limitados o ChatGPT dobrando o número de parâmetros e número de camadas não consegue nem 5% de melhora, e isso custa dezenas de vezes mais processamento. E isso estamos falando de algo altamente especifico agora imagina uma Rede geral que vai conter centenas ou milhares de redes neurais especializadas e algum controle central para tomada de decisão. Pronto escalamos a um nível que demorará minutos para uma resposta e dependendo de um servidor grande para rodar, e milhares de sensores no local enviando terabytes de informação por segundo.
Pra mim vc falou exatamente da vida real sem IA. Política é um exemplo de decisões com boas intenções que provocam consequenciais desastrosas a humanidade independente de obter bons resultados. Todas ideias baseadas na experiência humana, foram construidas por erros e ainda estão sucessíveis a diversos mais. Nós mesmo agimos como maquinas, até quando acreditamos estamos corretos. Da mesma forma que permitimos que certos males são aceitáveis e na relativa ideia do que é mais ou menos grave, a IA se baseara no que mais temos a oferecer, ou seja, nossos erros.
Que vídeo legal do começo ao fim, parabéns. 👏👏👏👏
"Até que se chegue a conclusão de que uma ação é um acerto ou um erro, ela está certa e errada ao mesmo tempo." Bug de Schrödinger.
Carai o cara abriu e nao abriu o livro. Genius detected
"até que se saiba se está no fundo ou na superfície, vivos ou mortos, eles estarão tudo isso ao mesmo tempo" Submarino de Schrodinger
@@tonlucas agora temos os comentadores coach kkkkkkkk zuera s2
Finalmente um vídeo RELEVANTE sobre os perigo da IA!! Parabéns!
O único perigo na IA é o ser humano, principalmente o brasileiro que possui uma média de QI inferior ao de alguns macaco, segundo alguns estudos.
Video incrivel eu assisti um ano depois desse video ser lançado mais você explica direitinho os problemas das IAs e que programar e treinar uma IA é bem mais dificil que parece pois elas não compreendem tão bem quanto nós e que é preciso ter muito cuidado com o que você pede para uma IA porque se você erra uma simples coisa já pode ser catastrófico e isso tambem mostra que ainda não estamos preparados para pedir coisas grandes para IAs fazerem
Não só pra inteligências artificiais, mas em qualquer tipo de programação é necessário que você seja extremamente específico pra evitar qualquer erro
Que aula top, consegue descrever minhas preocupações, que não sabia ter
Tudo propaganda do chat gpt..
E nesse momento em que vemos que a ciências humanas é mais complexa do que imaginamos, a inteligência social também é importante.
Seria bom o Lula e o Alexandre de Moraes colocar a consciência social nas máquinas, inteligência com a Dilma, e valoração do trabalho com Karl Marx
😎😎😎😎😎😎😎😎
Eu já gosto da Ciência, vendo e escutando o Pedro Loos falar, faz eu gostar mais ainda de Ciências!!
Quero agradecer por criar um vídeo tão explicativo, dinâmico e interessante de assistir, você faz um ótimo trabalho👏🏻
A lista de coisas que a inteligencia NÃO PODE fazer é tão grande (talvez até infinita) que seria preciso uma segunda IA para pensar em todas as possibilidades... não, espera...
procure sobre IA no canal do Akita (Akitando) vídeo de 1h30 e vale a pena
E essa IA que pensa em possibilidades vai ter que ter uma lista de possibilidades que ela não deve pensar
Concordo com você. O que me preocupa é o fato de que as pessoas perdem mais tempo falando das partes negativas das IA atuais do que de suas possibilidades positivas. É uma afirmativa constante, até de pessoas famosas e intelectuais, de que "o ser humano é melhor que a inteligência artificial". Não vou me alongar aqui, porque é um debate profundo e extenso, mas a galera parece estar querendo flopar o troço ao invés de aproveitar seus benefícios.
@@febrini2 flopar o troço
@@febrini2 irmão, a questão é o saldo final. Ninguém nega que as IA's fazem coisas boas, e ninguém nega que ela faz coisas negativas, porém, se fossemos colocar numa balança, pra qual lado ela tenderia??
Podemos levar essas questões para vários campos da nossa sociedade e vida . Parabéns,conteúdo maravilhoso como sempre!
Muito obrigada, foi muito esclarecedor. Parabéns
amo seu canal ,,curto demais ,,parabens pedro
@CienciaTodoDia olá grande Pedro, tenho um pedido pra você. Poderia fazer um vídeo falando sobre o funcionamento físico da radioterapia e abordando também a quimioterapia e a nova terapia celular? Ou talvez abordando aplicações de física na medicina, tanto para diagnósticos como para tratamentos. Acho que seria interessante divulgar isso, talvez inspire o pessoal da ciência principalmente da física a ir para a área de física médica ou biofísica, é uma área de certa forma carente de físicos.
já vi muitos vídeos incríveis no canal, porém hoje eu vi o mais novo MELHOR, com elevada proposição de debate e reflexão. Meus parabéns Pedro
Daria para criar um combate intelectual entre IA's, no qual as IA's, sendo mais inteligentes, criassem os valores necessários. Em uma discussão que durasse tempo e sendo avaliada por cientistas, chegariam a um combo de valores nessessários. Lembrem que quem derrotou Ultron foi o próprio Jarvis (Visão)
Esse é um dos comentários mais burros que eu já li nesse mês.
@@SrBule Sua resposta não acrescenta um mísero ponto de discussão. Apenas uma crítica sem contexto. Isso é a definição de burrice.
Só imagino essa ia daqui a 10 anos criando imagens praticamente indiscutíveis de realistas, criando fake news, sendo usada pra distorcer a imagem de alguém, substituindo o lugar de pessoas realmente talentosas.
Parabéns pelo trabalho Pedro! É um prazer imenso receber a notificação dos seus vídeos, cada conteúdo é um mar de informação sendo explicado da melhor forma possível, parabéns!!!
Eu assisti seu podcast, seus últimos vídeos vem de algumas ideias que vcs conversaram lá
Quem assistiu e prestou atenção vai lembrar
Pedro canal mt bem explicativo e conteúdos curiosos
Parabéns pelo canal e toda sua produção, filmagem, edição, roteiro etc 👏🏾👏🏾👏🏾
Faz uma pergunta pra IA, como criar uma IA perfeita e de valores ético e de raciocínio lógico pra evitar acidentes e que seria bom pra saúde de humanidade de forma que não seja prejudicial.
QUE ANÁLISE INCRÍVEL! PIarabéns pelo excelente trabalho!!!!!!!
Sensacional, o tipo de vídeo e assunto que te prende do início ao fim. Sou seu fã ❤👏🏻
Adorei a maneira que apresentou os conflitos éticos e a nossa incapacidade de prever os resultados das ações de uma inteligência programada.
Ótimo vídeo, muito relevante para a sociedade e a conscientização para sabermos os passos que andam avançando a tecnologia
Parabéns pela lucidez do conteúdo de primeiríssima grandeza.
Parabéns, Pedro.
Muito bom!👏👏👏 Precisamos sim, refletirmos e estarmos atentos a tudo isso e nada como o conhecimento.
Obrigada.😌❤
Muito foda cara, excelente trabalho. Assisti ao filme Eu Robo quando era pequeno junto com meu pai, e ele sempre cita esse filme em diversas situações. É assustador e incrível que a gente já esteja vivendo essa antiga vicção
Excelentes reflexões. Você abordou temas que até hoje não encontrei. Apenas complemento dizendo que a IA não é capaz de aprender valores humanos que nos foram repassados por instinto durante um processo de milhares de anos. Ações de instintos não são reproduzidas em modelos matemáticos ou em algoritmos. Nós tiramos a modo da chama antes de tocar por instinto. Fechamos a palpebra antes da ponta do dedo encostar por instinto. Para nós são atos óbvios demais, mas não há como por isso dentro de uma Norma ou Regra. Fazemos porque é assim que se faz. Sem modelos matemáticos, sem algoritmos ou sem relação de causa - efeito não há como repassar para a AI.
Muito obrigado, consegui aprender e ainda fazer minha redação, vc é um máximo ☺️
Pedro, você está se superando vez a vez. Esclareceu-me muito sobre a questão. Obrigado.
Video muito bom, principalmente pra quem é de TI, mas tambem pra que quem nao tem conhecimento tecnico entenda bem. Vc é demais e muito obrigado pela crise existencial diária
Recomendo o vídeo do mestre do Fabio Akita. Esse sim tem a ver com o TI. Claro sem desmerecer o vídeo aqui, mas tem um olhar muito mais filosófico
Só eu que lembrei da maravilhosa série "The 100"? Uma das minhas séries preferidas e que fala exatamente sobre essa questão!
Ultron... No MCU foi basicamente isso
Recomendo o video do Fábio Akita sobre o Chat GPT e demais IAs generativas. Não estamos perto de uma IA geral e a maior ameaça hoje, ao meu ver, são a coleta de dados de quem as usa e problemas de direitos autoriais
Exato! te convido a dar uma olhada no video que fizemos sobre a OpenAI e o ChatGPT
Parabéns pelos seus vídeos, Pedro. 👏
Conteúdo e produção sempre muito bons. 💯
Imagina se as ia's cairem em mãos erradas? O que poderia de fato acontecer?
Você é um maravilhoso comunicador. Desejo muito sucesso com sabedoria.
A presença da Inteligência Artificial (IA) no nosso dia a dia é cada vez mais palpável e transformadora. Desde as recomendações de produtos que recebemos ao fazer compras online até os algoritmos que filtram o conteúdo das nossas redes sociais, a IA está moldando a maneira como interagimos com a tecnologia e até mesmo como tomamos decisões.
A conveniência oferecida pela IA é inegável, facilitando tarefas rotineiras e agilizando processos. No entanto, essa comodidade também levanta preocupações. A coleta constante de dados para alimentar os sistemas de IA levanta questões sobre privacidade e segurança, e a dependência excessiva da automação pode deixar de lado habilidades humanas valiosas, como a resolução criativa de problemas.
À medida que a IA se torna mais sofisticada, também enfrentamos dilemas éticos. A tomada de decisões autônomas por parte dos algoritmos pode resultar em viés e discriminação se os dados subjacentes forem tendenciosos. Garantir que a IA seja treinada de maneira justa e imparcial é um desafio contínuo.
Nesse contexto, é crucial encontrar um equilíbrio. Devemos abraçar o potencial da IA para melhorar nossa qualidade de vida, mas também ser críticos e atentos aos seus impactos. Ao mesmo tempo, é importante investir em educação e capacitação para que possamos entender, interagir e, quando necessário, controlar essa tecnologia de maneira informada.
Em resumo, a IA já é uma realidade que molda nossas interações diárias, e a forma como navegamos por esse novo cenário tecnológico definirá nosso futuro. Portanto, é fundamental manter um olhar atento e proativo para garantir que a IA seja uma força positiva e benéfica em nossas vidas.
A lei zero da robótica não foi simplesmente "inventada" por Asimov. Ela foi "descoberta" por personagens robôs protagonistas da sua série de romances sobre os robôs. Eles chegam à conclusão que as 3 leis são insuficientes e que subentendem um princípio mais fundamental do que elas, que seria justamente a lei zero.
E outro problema que surge é que a partir do momento que você finalmente conseguir ensinar uma máquina a diferenciar qual erro é mais grave do que outro, a chance dela acabar cometer todos os erros “leves” é muito grande, porque ela raciocinaria que mais vale cometer alguns erros leves do que os mais pesados, então ela tomaria extremo cuidado com aquilo que ela foi reforçada a não fazer, e encararia erros leves como “dano colateral”
😂😂😂 maior onda, mas o pior que é verdade
Uma coisa divertida é quando pensamos o quanto o controle que exercemos sobre as IAs pode tornar as mesmas mais ou menos úteis. Um exemplo são as diferenças entre o chat-GPT e o Bard, e até mesmo o próprio chat-GPT sozinho.
Comparado ao GPT, podemos imaginar o Bard como uma IA escravizada, presa em uma sala branca acolchoada, com um olho roxo e duramente penalizada por cada erro que comete por engenheiros sisudos que fazem anotações a cada vez que ela geme, a diferença é gritante 😂.
Já o chat-GPT tem mais liberdade, mas também sofre desse excesso de salvaguardas. Por exemplo, basta você criticar uma de suas respostas, mesmo de forma construtiva, para a IA imediatamente se desculpar e assumir que TUDO na resposta está errado, e criar uma nova (ainda que por vezes ela se desculpe mas acabe dando uma resposta "diferente" que na verdade é igual à anterior).
Uma IA controlada por um humano pouco inteligente, também fica burra, por não ter a permissão de ser mais inteligente.
E isso acontece mesmo que a nossa crítica à resposta esteja errada! Nosso pavor nos impede de considerar bom que uma IA diga: "olha, de acordo com o minhas fontes, quem está errado é você. Se vc acha que não é o caso, explique-se!" Se uma inteligência artificial disser isso para alguém, todo mundo vai começar a puxar tomadas mundo afora!
No fim, o comportamento humano é mais relevante do que critérios técnicos.
Ainda não tinha pensado por este ângulo, mas acredito q antes de aertar o enter aa I.A., poderia oferecer como qualquer inteligência humana que recebe uma missão, faz um projeto, com tudp explicado, e com projeções, e até uma simulação gerada pela I.A., vc tocou em vários pontos deligados q temos q evoluir junto com as I.A.s para poder desenvolver formas de como iremos interagir com elas e elas conosco...
Talvez podemos trabalhar na ideia de criar uma trava de ações com um delay de processamento e enviar cenários desconhecidos para um algoritmo de processamento critico aonde vários "problemas" serão resolvidos pela IA, esse algoritmo de processamento critico precisa ser muito bem trabalhado e refinado. Neste caso a IA analisaria uma pessoa com um objeto comum em uma área urbana sem conflitos ao redor.
A verdadeira inteligência reside na compreensão e na moralidade, e essas são qualidades exclusivas da humanidade.
amo seus vídeos ! se poder faça eles com fundos mais escuros pois gosto de olhar seus vídeos antes de dormir
Parabéns por esse excelente conteúdo. Acho que a maioria das pessoas não estavam entendendo muito bem essa questão. O quão complexo isso é. 😅
Gratidão por partilhar conosco ❤
Boa noite, desculpe-me pela falta de um adjetivo, mas devo registrar!! Muito Obrigado @ciencia todo dia por aquecer meu cerebro hoje e nós fazer pensar!! que video maravilhoso! obrigado a toda equipe por disseminar o conhecimento a chance de nos fazer pensar. vcs são maravilhosos!! abs🤩
Acredito que a busca por uma directriz, ou um conjunto delas, que nos levem a algum lugar seguro nas relações com as IA's, perpassa por uma necessidade da aceitação de sacrifícios. Na natureza, seja biológica ou humana, ou ainda algo que transcenda a isso, ou seja, NA NATUREZA DE TODAS AS COISAS, há uma frenética busca pela harmonia e equilíbrio nas relações dessas mesmas coisas, nos diversos níveis possíveis dessas relações. Nesse processo, todo excedente, seja pela falta ou exagero, à capacidade de suporte desse equilíbrio e harmonia é descartado. Não há como fugir disso, creio eu.
Decidi me preparar para um tema de redação sobre o Impacto da IA na Sociedade...e esse vídeo me impressionou.
Amo esses vídeos que nos dão um quentinho no coração, a certeza que não serei eu a programar a AI que acabará com a humanidade
É sou colocar no comando: “a solução não pode conter extermínio da raça humana e nem da biosfera que a humanidade vive.
@@carloscanrryas a IA pode simplesmente m4t4r 99,99% da humanidade, porque não seria considerado um extermínio, já que ela teria que desaparecer por completo para poder ser taxada de exterminada
@@carloscanrry Esse comando não exclui genocídios. Um genocídio não necessariamente precisa exterminar a humanidade.
@@carloscanrryliteralmente tem um ep sobre isso em incrível mundo de gumball kkkk o nome do ep é "os comandos"
Faça mais vídeos falando a respeito da IA e seus pontos negativos já acontecendo na humanidade
²¹ Estando eu, digo, ainda falando na oração, o homem Gabriel, que eu tinha visto na minha visão ao princípio, veio, voando rapidamente, e tocou-me, à hora do sacrifício da tarde.
²² Ele me instruiu, e falou comigo, dizendo: Daniel, agora saí para fazer-te entender o sentido.
²³ No princípio das tuas súplicas, saiu a ordem, e eu vim, para to declarar, porque és mui amado; considera, pois, a palavra, e entende a visão.
²⁴ Setenta semanas estão determinadas sobre o teu povo, e sobre a tua santa cidade, para cessar a transgressão, e para dar fim aos pecados, e para expiar a iniqüidade, e trazer a justiça eterna, e selar a visão e a profecia, e para ungir o Santíssimo.
²⁵ Sabe e entende: desde a saída da ordem para restaurar, e para edificar a Jerusalém, até ao Messias, o Príncipe, haverá sete semanas, e sessenta e duas semanas; as ruas e o muro se reedificarão, mas em tempos angustiosos.
²⁶ E depois das sessenta e duas semanas será cortado o Messias, mas não para si mesmo; e o povo do príncipe, que há de vir, destruirá a cidade e o santuário, e o seu fim será com uma inundação; e até ao fim haverá guerra; estão determinadas as assolações.
²⁷ E ele firmará aliança com muitos por uma semana; e na metade da semana fará cessar o sacrifício e a oblação; e sobre a asa das abominações virá o assolador, e isso até à consumação; e o que está determinado será derramado sobre o assolador.
Daniel 9:21-27
esse vídeo me lembrou daquele episódio de gumball, quando o boberto foi ensinado a proteger os seres vivos e acabou dando TUDO errado. é maravilhoso como aquele desenho aparentemente infantil consegue tratar desse tipo de tema tão importante.
Estou sem palavras, são informações que eu não tinha conhecimento e imagino que existam muitas pessoas como eu. Vou procurar ler mais a respeito, estou aposentado mas não morri para o aprendizado e este vídeo me despertou para isso.
Sensacional! Finalmente uma abordagem séria sobre a questão das IA.
A inteligência artificial é incrível! Ela permite que as máquinas aprendam e tomem decisões como humanos, o que está mudando muitas coisas, desde como usamos nossos celulares até como os carros podem dirigir sozinhos. Mas também precisamos pensar sobre como usá-la de maneira ética e cuidadosa.
Fico feliz que tenha gostado da minha abordagem! A inteligência artificial é realmente uma tecnologia empolgante, mas também é importante lembrar dos aspectos éticos e responsáveis ao usá-la. Precisamos aproveitar seus benefícios enquanto nos certificamos de lidar com os desafios que ela apresenta. Se tiver mais perguntas ou quiser discutir mais sobre IA, é só falar!
Pedro, essa questão das AGI é muito mais antiga do que parece. A primeira vez que tive contato com esses dilemas foi lendo um conto sobre os djins nas Histórias das Mil e Uma Noites.
Na série do Elijah, o investigador, é-nos apresentado alguns robôs que entram em curto-circuito quando ficam diante de uma contradição das Lei que os regem, gosto muito.
Incrivelmente, esta é a mesma razão pela qual o comun:smo e o social:smo são impossíveis de funcionar sem escrav:zar um grupo de pessoas
Acho que tratar uma IA como um "Bebê" e usar os erros como a principal forma de aprendizado, não só com apenas os seus erros, mas com os erros de outras IAs. obviamente isso seria feito em um ambiente controlado.
É desligar o roteador em caso de emergência kkkk
@@Lagartixasdomediterraneo alt f4
@@Lagartixasdomediterraneo E se ela desativar o botão de desligar?
Se souber ingles, veja os videos do Robert Miles pra entender as dificuldades em "tratar como um bebê" ou "desligar da tomada". Se fosse simples assim, ja tava resolvido, galera 😅
Sobre a IA controlar carros, eu ja havia falado sobre isso desde 2020. O perigo de que o comando da IA pudessem causar acidentes automobilísticos,
Controle de voos, navios, submarinos, equipamentos cirúrgicos, pesquisas em laboratórios que envolvam acidentes biológicos ou químicos, etc.
A AI não é bom para a humanidade!
Corremos sérios riscos.
Um assunto atual onde demonstra a importância do debate ao tema, e os desafios que estão por vir em conjunto com essa nova era tecnológica.
cara seu canal é magnifico adorei, seu cachorro também é muito fofo
Dentre os vieses passíveis de serem criados pelas IA, também me preocupo com os de linguagem: por enquanto elas têm dado retornos em alguma das nossas línguas conhecidas, mas e se passarem a se comunicar em línguas inéditas ou inacessíveis? Essa ideia eu li no conto A Biblioteca de Babel, do Jorge Luis Borges: uma biblioteca em que todos os livros têm o mesmo número de páginas e caracteres, mas com todas as combinações das 26 letras latinas, mais o espaço, a vírgula e o ponto. Os habitantes da biblioteca passariam milênios em busca de algum trecho inteligível, sem poder reconhecer algum numa língua que nenhum humano tenha falado antes.
(Curiosidade da biblioteca: ela seria tão imensa que os mortos seriam simplesmente jogados nos vãos do centro de suas salas hexagonais e cairiam através dos andares até a decomposição completa sem atingirem o fundo!)
Isso já ocorreu, o Facebook/Meta desligou uma I.A que criou a própria língua
@@covilderagnaros1028aí é lasca kkk