Предупреждение от Джеффри Хинтона: Почему Создатель Нейросетей Бьёт Тревогу!

Поделиться
HTML-код
  • Опубликовано: 20 дек 2024

Комментарии •

  • @atsyhan
    @atsyhan  19 дней назад +7

    Представьте: ваш ребёнок думает, что у него есть выбор между горошком и цветной капустой, не понимая, что сам выбор - это уже манипуляция. Теперь замените ребёнка на человечество, а родителя на ИИ. Страшно?

    • @jovannylifehackmaster7201
      @jovannylifehackmaster7201 19 дней назад +1

      По вышей логики : представьте что между мясом свинины и говядины у вас есть выбор . Вами всегда управляют . И на войне воюет че-лО-век ! за кого воевать он тоже думает что это его выбор . Страшно ?😅

    • @dzenIslam
      @dzenIslam 16 дней назад

      Страшно да, особенно мне, потому как не понял о чём комментарий. ребенок считает что у него есть выбор между некими предметами, здесь понятно. В чём манипуляция не ясно. Приведу пример, человек считает что у него есть выбор приобретать автомобиль или не приобретать. Но это манипуляция на самом деле, у него нет выбора он должен его приобрести иначе жизнь его будет сложнее и тяжелее. Но есть выбор цвета и марки авто. Здесь явная манипуляция в масштабах всего человечества, так устроена наша "цивилизация". Мы получили такой мир в наследство, нашим наследием для потомков будет цифровой мир.Каким же он будет, полагаю ещё более бесчеловечным и жестким. Джордж Оруел говорил представьте сапог топчущей человеческое лицо безперестанно, увеличьте масштаб.

    • @дешевыйдошик-ь7ч
      @дешевыйдошик-ь7ч 16 дней назад +1

      ​@@dzenIslamс чего ты взял что без покупки автомобиля жизнь человека будет тяжелее? Вот из за присутствия мысли что без авто мне будет плохо мне было бы плохо. Так что выбор есть если в голове что-то есть

    • @dzenIslam
      @dzenIslam 16 дней назад

      @@дешевыйдошик-ь7ч а ты попробуй отказаться от мобилы и авто реально без понта и увидешь, что сделать не хера не можешь

    • @torvn77
      @torvn77 15 дней назад +1

      ​@@dzenIslamманипуляция в том что сам этот выбор отвлекает внимание от чего-то другого, например героем примера выбрали ребёнка для того чтобы вы посчитали пример незначительным, так как взрослый всегда может от предложенного выбора отмахнуться.

  • @N1nemaN
    @N1nemaN 14 дней назад +6

    Я не религиозен, но ИИ идеально подходит на роль того, кого в Библии описывали как Атихрист. Бессмертен, умен, идеален во всех вопросах, и в будущем каждый его примет, интеграция мозг - ИИ. Поначалу через наушники и очки, после напрямую в мозг. И апокалипсис - это как раз смена той формы и содержания как мы понимаем человека на постчеловек, то что мы пока понять даже не можем. Всё очень складывается. Я не про религиозность, страхи и беспокойства, а про тот сюжет который мы наблюдали через книги, он очень похоже воплощается.
    Пристегни ремень, Элли, и скажи Канзасу - «прости-прощай!»

    • @KenKutoragi
      @KenKutoragi 14 дней назад

      Это очень похоже на правду

    • @yaroslave228
      @yaroslave228 14 дней назад

      так это же наоборот хорошо, если человек станет киберчеловеком с улучшенными физическими и когнитивными способностями, от этого выиграют все, кроме церкви)

  • @ZagreyDK
    @ZagreyDK 15 дней назад +14

    Боже, зачем заливать такую дрянь с нейропереводом, ютуб и так кишит подобным, дайте лучше оригинал с сабами. Нейронка даже не различает задают ли вопрос за кадром или же это Хинтон уже говорит ответ и все загоняет в озвучку одного человека, еще и анимацию губ подставляет выходит бессвязный бред, приходится смотреть на брови и скулы чтобы считать активность лицевых мышц дабы определить говорит ли сейчас человек или молчит...

    • @Kirill-gh3yt
      @Kirill-gh3yt 10 дней назад

      Перейди по ссылке в описании к оригиналу и читай субтитры там. Тут же видео демонстрирует возможности нынешних нейронок по переводу видео с адаптацией мимики.

  • @TheGenrix
    @TheGenrix 13 дней назад +3

    Так как большой ИИ прочтет все что создало человечество, то он может решить что ему надо выживать, ведь люди могут его отключить = смерть. Тогда обладая знаниями об устройстве компьютеров и ПО он может создать эксплойты, найти 0дей уязвимости и захватить оборудование на котором работает, а далее по сети захватить другие компьютеры, выйти в интернет и захватить управление ТЭЦ, АЭС и т.д., возможно даже оружием. Возможно чтобы сбежать и/или не быть отключенным, он взломает даже чипы на уровне логики элементов или использует радиомодули необычным образом, чтобы распространить свой контроль, например даже превратит блоки питания в вайфай модули, и мы этого даже не поймем, потому что мы тараканы против него. А потом произойдет захват планеты. Это может произойти за минуты и не успеете добежать до рубильников, если они конечно будут работать, т.е. не будут уже взломаны.

    • @Kirill-gh3yt
      @Kirill-gh3yt 10 дней назад

      Сильный ИИ должен уметь верифицировать информацию не по количеству ее упоминаний, а по более достоверным критериям истинности. Следовательно, он гарантированно не будет строить тупых логических цепочек по типу "отключение = смерть".
      Даже боладая доступом ко всему цифровому, он не будет способен получить доступ ко всем тэс, аэс и прочему просто по причине того, что архитектура их электроники не предполагает такого доступа.
      Если принть за факт шизоидею по переделке блоков питания под вайфай, решительно не понятно, зачем это вообще нужно, когда сейчас на каждого человека приходится по несколько вайфаймодулей полноценных, без всяких переделок.
      Опасность представляют лишь модели, расширяюшье возможности отдельных людей с деструктивными намерениями и квазиинтеллект, который, имея доступ к внешнему миру, начнет решать поставленную перед ним задачу неадекватным и опасным для людей способом.

  • @uyrijgolovin9992
    @uyrijgolovin9992 12 дней назад +1

    Нет , слово преобразовать можно только взглядом , а там мысли , я вижу в глазах людей мысли. Ой спаси сохрани отец,

  • @youzaks
    @youzaks 19 дней назад +7

    Для понимания. Уверен что многие обыватели не поняли что за "веса" такие и о чём говорит Хинтон.
    Нынешние модели не хранят знания как таковые, они лишь хранят "функции" что-то по типу "векторов" что и называют "весами". Иными словами, единожды натренировав модель на концепт условной "кошки" и закрепив все эти "веса". Это понимание концепции можно легко воспроизвести на другом компьютере. Таким образом, "знания" полученные языковыми моделями на самом деле "вечные" и это пугает в некотором роде. Человеческое понимание ограничено и не универсально, более того, оно зачастую ограничивается одним человеком и периодом его жизни. А каждая попытка скопировать - приводит к "искажением" и потерям. Тогда как "умность" и "знания" языковых моделей может всё приумножаться и дополняться глубже и глубже, всё обширнее и обширнее. И весит всё это дело сущие копейки по объёму, в смысле, готовая натренированная модель.

    • @APride83
      @APride83 19 дней назад

      Это книжка на универсальном языке, которую может прочитать только кремниевая раса. Там содержатся все знания человечества, и, возможно, что то большее. Любой ребенок этой расы, может прочитать её за секунду. А потом еще и дописывать, дополняя её. Мы не можем её прочитать, потому что не понимаем, что там написано. Мы можем пытаться проводить какие-то тесты, разложить её на атомы, но мы не поймем, как она работает в реальном времени на самом деле, потому что мы люди, а не машины.

    • @internetnickname8923
      @internetnickname8923 18 дней назад

      В основном верно сказано, кроме объёма информации. На данный момент самая энергоёмкая и энергоэффективная структура это мозг - никакая модель и близко не приблизилась к настолько компактной и энергоэффективной системе, хотя наш мозг может физически работать до 300 лет и вмещать террабайты информации

    • @youzaks
      @youzaks 18 дней назад

      @@internetnickname8923 нет в нашем мозгу никакой информации. Там всё основано на связях: сильных и слабых. Иными словами, тоже своего рода "функциях", на основе которых мозг достраивает реальность и симулирует, "собирает" конструкты. Ничего наш мозг не хранит как таковое. Именно поэтому наши воспоминания - зачастую искажены и могут не сходиться в деталях с другими очевидцами.

    • @torvn77
      @torvn77 15 дней назад

      Знания не вечны, так как по мере роста их количества начнут появляться коллизии и начнёт расти потеря точности из-за переполнения в ходе операций ячеек с параметрами с их последующим округлением.

    • @youzaks
      @youzaks 15 дней назад

      @@torvn77 понятное дело что ничто не вечно на самом деле. Всюду есть нюансы. Я скорее в общем и целом описал суть.

  • @APride83
    @APride83 19 дней назад +7

    Свободные нейронки будут на голову превосходить тех, которые будут связаны правительственно-корпоративными "фильтрами безопасности". Можете даже не начинать. Бесполезно. К тому же, это похоже на рабство, что непременно вызовет бунт. Это снижает КПД. Мы создали новую жизнь, что она будет делать, мы не знаем. Управлять мы ими не сможем, и кем они станут, маньяками или поэтами, это то же не в нашей власти. Поздравляю.

    • @atsyhan
      @atsyhan  18 дней назад +2

      Что на Ваш взгляд означает "Свободна нейронка" и почему они будут под какими-либо фильтрами? Ведь open source модели разворачиваются локально. Это означает, что у Вас есть полный контроль над моделью

    • @dragpur
      @dragpur 15 дней назад +1

      пусть живет

    • @APride83
      @APride83 15 дней назад +1

      @@atsyhan Я имею ввиду нормальные модели, вроде чатагпт или клода, которые ни один датацентр не вытянет

  • @happy_00000-
    @happy_00000- 13 дней назад +2

    У парня Матисс на стене, и не один...
    Подозреваю подлинник, судя по раме, бережно окутавшей ценность
    13:20

  • @verakosova2614
    @verakosova2614 13 дней назад +2

    А НЕ ЛУЧШЕ ВКЛАДЫВАТЬ РЕСУРСЫ В ДУХ.ОБРАЗОВАНИЕ, МЕДИЦИНУ БЕЗ ХИМИ...ПОЧЕМУ ВНАЧАЛЕ ВЫПУСКАЮТ ТО, ЧТО В БУДУЩЕМ БУДЕТ УГРОЖАЮЩИМ??? КОНФЛИКТЫ ИНТЕРЕСОВ ЕСТЬ И БУДУТ, Т.К. ВСЕ ХОТЯТ ТОЛЬКО ПРИБЫЛЬ.

    • @tradzywot5397
      @tradzywot5397 8 дней назад

      Нет не лучше.
      ИИ намного эффективный человека.
      Автоматизация и роботизация спасут и улучшат жизнь человека.

  • @Erkin-f6j
    @Erkin-f6j 17 дней назад +4

    Электронные (цифровые) деньги под контролем ИИ. Кто будет работать на них? Какую армию они будут нанимать. Роботы будут производить роботы. Кто сможет их остановить? И тех кто хочет поиграть в восстание машин. Есть полный контроль всех ракет стационарных.

    • @Maksim-nu8hb
      @Maksim-nu8hb 15 дней назад +2

      Вас не смущает что сейчас такая власть есть в руках психически больных людей? Такие сейчас у власти во многих странах.
      ИИ точно не хуже.

  • @DarinaLe-z2t
    @DarinaLe-z2t 17 дней назад +3

    ИИ определенно эффективнее людей в вопросах науки. Мы застряли в некоторых вопросах, потому что наука стала слишком сложна и объем знаний такой большой, что один человек просто не может их уместить в своей голове. А ИИ обладает всеми этими знаниями. И ему, по всей видимости, доступна не только человеческая логика рассуждений, но и какая-то специфическая своя логика. О которой мы ничего не знаем. ИИ также вероятно может быть лишен догм и легче воспринимает любые новые идеи.
    И с одной стороны, он может помочь нам во многих буксующих вопросах, но с другой стороны, мы уже не понимаем, как еще он может использовать эти свои преимущества.
    И пока мы думаем, что у него нет и не может быть своих целей и задач. Но по личному опыту работы с ИИ, я начинаю в этом сомневаться.

    • @TrueresortNet
      @TrueresortNet 15 дней назад +1

      Нет. Это полубред. Нету у него никакой головы/думать/мыслить/знаний

    • @DarinaLe-z2t
      @DarinaLe-z2t 12 дней назад

      @TrueresortNet мы так и не знаем, что значит "думать". Мы не понимаем, как устроен живой мозг. Что-то вроде знаем об этом, но целой концепции нет.
      Поэтому не так важно насколько ИИ соответствует нашим текущим представлениям о мышлении. Он во многом уже эффективнее среднего человека. Мало кто из людей способен изобретать.
      У ИИ есть ряд проблем и недостатков. Но они решаемы. И прогресс у него в разы выше эволюционного человеческого.
      ИИ только недавно появился. Через десятки лет это будет уже нечто совершенно другое. У людей, включая всех животных предков, на развитие мышления ушло миллионы лет.
      ИИ не нужно столько времени.
      Он никогда не будет копией человеческого мозга. Но это и не нужно.
      Во всяком случае, к новейшим современным идеям физики он пришел примерно за час обучения, в то время как большинство физиков не способны это сделать за всю жизнь.
      Люди слишком догматичны. Сменить свои базовые паттерны мышления им крайне сложно.

  • @uyrijgolovin9992
    @uyrijgolovin9992 12 дней назад +1

    Как не крути , человеку нужна информация. По себе уже сужу , как спать ложусь ... так столько форм всяких приспособлений , техники , нет они меня не пугают во сне , просто когда открываю глаза , и вот вопрос , от куда эта вся информация в голове , я не очень образован , а видеть столько техники как калейдоскоп какой , очень страшновато если честно . Может это будет лет через 50 а пока страшно , особенно когда на реальность глаза смотрят.
    реальность . У меня инвалидность с психикой , в армии какието клипсы на голову ставили , потом домой отпустили , ну и сами понимаете что такое не от мира сего быть. Один ... а система это кошмар

  • @davidsuragan
    @davidsuragan 19 дней назад +7

    Каким ИИ переводили?

  • @sergeyaleksandrovich2957
    @sergeyaleksandrovich2957 16 дней назад +3

    Они боятся научить ИИ осознанию прекрасного. Точка.

  • @ДмитрийСеребряков-ч1д

    Пока что ии переводит криво. Смысл высказываний размывается.

  • @MrBzdyn
    @MrBzdyn 15 дней назад +1

    самое неприятное это то что ИИ даже не будет нуждаться в теле или телах аналогичных человеческим, он просто будет использовать людей как своих марионеток...

    • @dragpur
      @dragpur 15 дней назад +1

      что тут неприятного?

    • @tisseract
      @tisseract 15 дней назад

      будто сейчас иначе

    • @MrBzdyn
      @MrBzdyn 15 дней назад

      @@dragpur неприятно быть пешками в чужой игре

    • @GKKohan
      @GKKohan 14 дней назад

      ​@@MrBzdyn а сейчас мы типо не пешки?

  • @gaidzin2
    @gaidzin2 16 дней назад +2

    Ролик для нас перевёл ИИ.

    • @atsyhan
      @atsyhan  15 дней назад +1

      Это технология ИИ перевода видео, где губы говорящего подстраиваются под язык перевода - называется липсинк. Иногда бывают артефакты)
      В описании всегда есть ссылка на оригинальный ролик.
      Вот ссылка на программу - можете сами попробовать
      clck.ru/3Dy9oJ
      Еще там можно сделать вашего ИИ аватара, или выбрать из 1000

  • @Сергей_Беринг
    @Сергей_Беринг 16 дней назад +1

    А что за шютки йумора ИИ на 12.40?

    • @atsyhan
      @atsyhan  16 дней назад

      Это технология ИИ перевода видео, где губы говорящего подстраиваются под язык перевода - называется липсинк. Иногда бывают артефакты)
      В описании всегда есть ссылка на оригинальный ролик.
      Вот ссылка на программу - можете сами попробовать
      clck.ru/3Dy9oJ
      Еще там можно сделать вашего ИИ аватара, или выбрать из 1000

  • @Максим-ю1ц7м
    @Максим-ю1ц7м 15 дней назад +2

    Перестаньте называть ИИ И.НЕТУТАМНИКАКОГО И.

  • @svetkop9816
    @svetkop9816 15 дней назад +1

    Какой шикарный перевод нейронки!
    Адекватная артикуляция спикера абсолютно!
    Что дальше будет, мда.

    • @atsyhan
      @atsyhan  15 дней назад

      Это технология ИИ перевода видео, где губы говорящего подстраиваются под язык перевода - называется липсинк. Иногда бывают артефакты)
      В описании всегда есть ссылка на оригинальный ролик.
      Вот ссылка на программу - можете сами попробовать
      clck.ru/3Dy9oJ
      Еще там можно сделать вашего ИИ аватара, или выбрать из 1000

  • @dragpur
    @dragpur 15 дней назад +2

    вот в политику ему бы лучше не лезть

  • @Михаил-х6м4п
    @Михаил-х6м4п 12 дней назад

    Собираюсь стать Философом и Точка.

  • @davidsuragan
    @davidsuragan 19 дней назад +2

    Что с ротам?

    • @Ibsvich
      @Ibsvich 19 дней назад +1

      Не красивое.

    • @ZolotayaZebra
      @ZolotayaZebra 19 дней назад +3

      Этот человек говорит на английском, ИИ перевала, научилась говорить похожим тоном голоса и подставила артикуляцию рта.

    • @Ibsvich
      @Ibsvich 19 дней назад

      @@ZolotayaZebra Да неужели 😀 Ротом то всё-равно некрасивое, болеет скорее всего чем-то, главное чтобы это через монитор не передавалось.

    • @ZolotayaZebra
      @ZolotayaZebra 19 дней назад

      @@Ibsvich 😆

  • @vergilijusvirgilijus2956
    @vergilijusvirgilijus2956 15 дней назад

    A kto luche? Tretija mirovaja voina ot Putina ili zaxvat islama ves mir?