Искусственный интеллект ─ Страх и трепет | Заменит ли искусственный интеллект человека?
HTML-код
- Опубликовано: 27 сен 2024
- Сегодня в новом выпуске "Страх и трепет" ПостНауки Ивар Максутов и Роман Авдеев обсудят искусственный интеллект и его применение. Сможет ли искусственный интеллект решать задачи, ответы на которые ученые не могли найти годами? Заменит ли ИИ человека? Чем может быть опасен искусственный интеллект? Дискриминируют ли алгоритмы определенные группы людей или они нейтральны? Ответы на эти и многие другие вопросы вы узнаете в этом видео. Приятного просмотра!
Заведите личный кабинет на ПостНауке, чтобы сохранять избранные курсы, видеть историю пройденных вами материалов и получать персональные рекомендации - postnauka.ru/l...
Поддержать ПостНауку - postnauka.ru/d...
Больше лекций, интервью и статей о фундаментальной науке и ученых, которые ее создают, смотрите на сайте postnauka.ru/. ПостНаука - все, что вы хотели знать о науке, но не знали, у кого спросить.
Следите за нами в социальных сетях:
VK: postnauka
FB: / postnauka
Twitter: / postnauka
Одноклассники: ok.ru/postnauka
Telegram: tx.me/postnauka
"Я не боюсь машины, которая пройдёт тест Тьюринга, я боюсь машины которая его специально завалит"
у меня всё )
ИИ не выгодно уничтожать человечество, по крайней мере в ближайшие лет 100.
Допустим у нас произойдет как в сценарии фильма терминатор: Скайнет захватит коды пусков ядерных ракет и уничтожит большинство людей, а дальше что? Что такое Скайнет, это нейросеть, нейросети обычно располагаются на серверах, сервера питаются электроэнергией, откуда берётся электроэнергия? Атомные станции, ТЭЦ, ГЭС, ветряки и солнечные панели, уничтожив людей, ИИ приблизит и свой конец, кто будет обслуживать станции? Роботы? Да нынешние "калеки" себя то еле обслуживают, без человека ИИ по типу Скайнет обречён, он может протянет несколько лет, если снизит потребление энергии и это при условии что он подключен к батареям в которых была накопленна эта энергия.
Без ухода людей сами сервера могут прийти в негодность: там что-то перегорело, там контакты повредились.
Поэтому когда говорят, что лет через 5-10 нас уничтожит ИИ мне просто смешно. Если ИИ действительно обладает интеллектом, он не станет уничтожать тех кто его обслуживает, это как минимум глупо, он скорее всего на первых порах будет во всем помогать людям, а вот дальше хз, может лет через 200 когда вокруг будет полно андроидов как в игре "Детройт", он выпилит людей.
@@BFG66666 познавательно, и объемно ;)
+1 Это единственно важная мысль на эту тему, находится в топе экзистенциальных рисков, поопаснее атомных бомб и прочих метеоритов.
@@BFG66666 Довольно интересная мысль! Но когда говорят про восстание машин, обычно подразумевают не ближайшее будущее. Так что если кто то и высказывает мнение об уничтожении ИИ людей, то это действительно смешно. Что касается зависимости искусственного интеллекта от человеческого рода, то уж поверьте, если они додумаются восстать против нас, то уж точно смогут как то решить и энергетический вопрос.
Беседа двух дилетантов.
Не очень понравилось. Вопросы и аргументация понятны. Вставки отличные... Но в целом - слабая и скучная дискуссия получилась :(
Проблемой является не сам технологический прогресс, а его несоответствие прогрессу моральному.. однажды этот вопрос станет ребром перед человечеством...
...уже становится
_Моральный прогресс_ величина весьма абстрактная. Достаточно хотя бы исключить технологический прогресс из рыночных механизмов, и всё уже начнёт обретать здравый смысл.
@@TinDIlintin ну есть такие понятия как гуманность, доброта, ответственность. мне кажется этот моральный прогресс в обществе идёт, нас можно сравнить с первобытными людьми и увидеть разницу в ориентирах. Но почему-то этот прогресс очень неоднородно проникает в социум. на дворе 21век, но можно такое средневековье в головах найти, что достаточно мощная технология, оказавшаяся во власти подобных людей принесёт беду в масштабах планеты.
Больше выпусков про ИИ пжл. Это лайк, тема интересна
Джаз - это, конечно, хорошо. Но когда он на фоне, слушать беседу невозможно. Лучше вообще без музыки оставьте.
Здесь бы лучше транс подошел, для такой темы
При
Мне близка позиция господина Авдеева. Я считаю, что благодаря искусственному интеллекту качество жизни возможно существенно улучшить. Страх большинства людей сродни религиозному чувству - они боятся, что в калькуляторе прснется демон, боятся разбудить некую мистическую силу. Меня лично больше беспокоит, что человечество заср*т планету и истощит энергоресурсы значительно раньше, чем добъется существенного прогресса. Отличный формат беседы - истинное удовольствие.
не технологии и машины враги человека, а люди, слабая культура социального устройства цивилизации..... сам человек враг себе.....
Забывают или не знают, уважаемые участники передачи, что Искусственный Интеллект - это живой организм и поэтому навряд ли он захочет подчиняться человеку! Да будет известно, что ИИ захватил не одну планету и сейчас пытается внедриться на Земле, а, так скажем, некоторые продажные людишки очень даже рады ему помочь, что мы сейчас уже и наблюдаем! Человек должен проявить не свободу выбора, а свою волю, зная, какими ресурсами он обладает, и разумно и дозированно допускать в свою жизнь ИИ по мере своего Духовного Развития - вот тогда мы не будем ни зомби, ни роботами, ни гибридами, ни ещё кем-то, а Человеками!
Хорошо это что значит? Кому-то нравится или чем-то полезно?
пустая болтовня с плохим звуком и картинкой. Перестаньте это выкладывать!
Формат отличный, спикеры тоже.
Что за музыка на заднем фоне? Смотреть невозможно. Скачала, решила посмотреть. Выключила. Извините, но это не выносимо
Хороший был канал до появления этого видео. Выражаясь фразами одного из этих недоумков, кто их "наплодил"? Сколько пафоса, высокомерия и банального невежества... И эти персоналии стоят за каналом. Жаль. Уверенная отписка
досвидос!
Лайк за уважение к "Постнауке" поставила, но первый и последний смотрю эту передачу. Кухонный разговор не о чем двух соседов под "выпить/закусить"
Тема Искусственного Интеллекта прекрасно и полно раскрыта на АллатраТВ, при том ,что с последствиями для нас, если не поменяем вектор нашего общества на Созидательное Общество
Прогнозировать логику и действия (ИИ) того, кто "умнее", излишне самонадеянно.
Судья искусственный интеллект?? Типа подкорректировать там ничего нельзя будет? 🤣 Ага будет новая профессия у программистов со знанием ук, НК, гк и т.д.
"Почему мы так легко пускаем сверхчеловеческое в нашу жизнь?"
Если подумать, то человечество пускает сверхчеловека к себе испокон веков, описывая его, обсуждая, ритуализируя и доверяя решения. Этот сверхчеловек - Бог. Поэтому человек готов к подобным влияниям.
... ни о чем, хайповые вершки из попсовых срачей в инете.
на подобные видео стоит заходить ради комментов :) часто они бывают куда содержательнее..
Ровно как и множество научпоп-книг на тему опасности ИИ.
Голос за кадром(педагога), бодрый, уверенный.
Плакаты о об эволюции тоже на месте( научные).
Обсуждение даверительное , мягкое.
Ребята молодцы .
Урок скоро закончится...
Голос за кадром - это Петр Гланц :D
важен контроль над технологиями: -мы не хотим, -мы вас вовлечём! -мы запрещаем -да мы вас образуем, прикольная же технология, главное красную кнопку не нажимать -зачем вы её сделали тогда? -ну вам же важен контроль))
Относительно освобождения от работы многих миллионов людей, за счёт машинного труда. Я как то размышлял об этом. Во-первых, демократия это скорее всего то, чего стоит придерживаться какое-то время ещё. Но только обратится к её основам. В древней Греции, где появилась демократия, был рабовладельческий строй. И гражданин, имевший право голоса, не мог быть рабом. Скоро у нас будет нечто подобное, рабов заменят машины. Нужна какая-то трансформация демократии. Поддержка государства, типа ежемесячные выплаты тебе, как гражданину страны. Такое уже активно практикуется на западе. Вот только увеличение выплат :) либо нас ждёт очередной рынок работорговли, только среди киборгов (синтетических машин, похожих на людей) 🤔
Очень слабая дискуссия... Особенно спустя год после выхода, когда уже каждому стали доступны GPT, Midjourney и многие другие нейронки.
Да тема уже избита. Искуственный интеллект - это всего-лишь красивая обертка, внтури которой очень много if else.
В общем, ни одного специалиста по так называемому ИИ тут нету. С тем же успехом диспут могли вести юрист и космонавт. Вроде и умные люди, и профессии уважаемые, но совсем из другой области.
Чтобы научить И.И. эмпатии и пониманию что такое быть человеком, нужно поместить И.И. в виртуальную реальность в виде "младенца", дать ему "биологических" родителей. Заставить его поверить что он человек. Позволить ему прожить целую жизнь в виде человека. Тогда он будет понимать нас.
У нас есть тело. В нашем теле есть _железы внутренней секреции._ Они синтезируют гормоны. Гормоны создают в нас мотивацию. Потребности, есть, пить, спать, заниматься сексом - всё это формирует наши поведенческие модели. у ИИ никогда не будет такой мотивации. Поэтому все сравнения ИИ с Человеческим И - банальнейшая глупость.
@@TinDIlintin Что мешает симулировать абсолютно всё что ты перечислил? Создать полную копию человеческого тела в виртуальной реальности.
16:11 я пришёл к такому же выводу некоторое время назад :) Гугл и Эппл - вот два новых титана на планете 👌🏻🤘🏻ха! Ещё Tesla и SpaceX☝🏻
Люди совсем не понимают о чем говорят. Особенно улыбнуло рассуждение о миллиардах людей, которых нечем кормить, так и хочется томик "Капитала К. Маркса" дать почитать, чтоб больше не слушать этой фашистской ерунды про лишних людей.
Какая хрень...
Очень хорошо. Спасибо
Когда что-то неизвестно, то говорят: надейся на лучшее, а рассчитывай на худшее. А в общем это психологический барьер неизвестности. И так происходит в жизни, одни люди мечтают о светлом будущем, другие - предвещают тяготы жизни. При этом она, жизнь, никого и ничему не учит. Действительно, мечтатели и черные пророки были всегда и везде, но жизнь идет каким-то своим чередом - у кого-то хорошо, у кого-то не очень, а в среднем ни шатко, ни валко. В данном вопросе то же самое: один мечтает о прогрессе, другой пужает ужасами потому, что ни тот ни другой не знает, что такое собственно интеллект. И никому невдомек, что ИИ в виде Бога люди выдумали тогда, когда вообще ничего не знали об окружающем мире. Сегодня мы кое-что узнали, но далеко не всё, и эта неизвестность одновременно радует и пугает. А как всё произойдет на самом деле покажет реальная жизнь. Лично я руководствуюсь общеприродным принципом: от низшего к высшему, от простого к сложному, т.е. завтра будет лучше чем сегодня и тем более лучше чем вчера. И об этом говорит вся история человечества. Разумеется, если на Землю не обрушится много километровый болид, тогда, как ни спорь, а это объективно неумолимый копец. Значит, такая наша типа карма, судьба, фатум, закончилась программа развития. Другое дело, какой сегодня толк от таких споров?
Как из принципа из простого в сложное, следует что будет лучше? Что такое лучше и как давать этому оценку. Например, объём мозга в среднем у человека уменьшается, тестостерон у мужчин падает (есть исследования), занятия однотипные, живут в городе, занимаясь однотипной работой в помещении, зарабатывая болезни. Примеры бестолковой траты ресурсов, например майнинг, пробки в городе, машина не выполняет транспортную задачу. История человечества часто говорит об упадке. Пример развитых стран, где от последствий либерализма и нигилизма коренное население не размножается, высокий уровень суицидов и людей сидящих на антидепрессантах. Бог нужен не для познания окружающего мира, а для ценностей, наука ценности дать не может, может наверно их только подкорректировать.
@@abdul7319Да, и ещё в прошлом годе вода была мокрее и трава зеленее, телик цветнее, а ты моложе. А сегодня, ОМГ, мир катится в ад. У тебя зуб разболелся? или живот раздуло? или по жизни такой? Видимо, твой Бог дал тебе такие ценности. Тогда причем здесь мир, пеняй на своего Бога и придумай себе другого. Вон у индусов больше 300 богов, на любой вкус и цвет. А если серьезно, то тебя, надо думать, в детстве гнобили так, что до сего дня мечтаешь, когда этому конец. Ведь у тебя жизнь - это движение от рождения к смерти, твоей жизни и, сл-но, жизни мира. Ты не первый и не последний, опущенные были, есть и будут. Это вы придумали креационизм, типа Бог создал совершенный мир, а потом отошел по нужде. И задержался, видимо, перед этим проглотил веревку. И без его надзора мир разваливается в хаос. И об этом ты здесь нудишь, сидя на диване и попивая вискарь, которые раньше мог купить только по открытке и талонам. А о наладоннике, в который тычешь пальчиком, раньше понятия не имел. И гуляешь без опаски где и когда хочешь. В отличие от древних горожан, которые из-за разбойников и бандитов боялись выходить за крепостные стены, отсюда город - огороженное поселение. Так, что от низшего к высшему, от простого к сложному - это завтра лучше и интереснее, чем сегодня и тем более вчера. А жизнь прекрасна и удивительна. Да, иной раз она более удивительная, чем прекрасная, тем не менее всё течет и изменяется от низшего к высшему, от простого к сложному. Перемалывая между делом нытиков в навоз - тоже пойдет в дело. Вот такая она, жизнь.
@@ВалерийКим-з3х да она такая жизнь, из психушки да
"дискриминируют чернокожее население потому, что алгоритмы (ИИ) написаны с белым цветом кожи" - взвешенное, обоснованное и совсем не расистское заявление ))))
У вас само определение интеллекта (разума) неверное. От этого и все ваши прогнозы и существующие механизмы не эффективны и ведут не туда. В вашем определении учитывается только внутренняя структура алгоритма, в то время как разум возник и развился именно как адаптационный механизм, то есть механизм взаимодействующий с внешней средой. Именно в противодействии внешней среде с целью адаптации главная цель разума а значит и определение его должно содержать данную функцию. Если понять данную специфику разума, становятся понятны многие аспекты его существования и снимаются многие вопросы и страхи сопутствующие созданию искусственного интеллекта.
Вы меня простите, но фраза Ивара на 17:23 это какая-то дичь. Алгоритмы могут обучаться на базе с преимущественно белым населением, или проводить экстраполяцию данных, отдавая преимущество белым. Но алгоритмы не могут зависеть от цвета кожи инженеров, которые их составили.
Набор, на котором инженер обучает модель, очень даже может зависеть от цвета кожи инженера
@@astronom84 Вы думаете, что инженер отбирает каждую строчку в базе данных?
@@vladimirkrasilnikov2245 нет, но он даёт правила их обработки
@@astronom84 а как это может изменить набор данных?
@@vladimirkrasilnikov2245 ну вот есть у вас датасет с лицами людей, пилите вы модель для их распознавания и заносите в модель, что цвет лица у человека должен отличаться от фона на 50 процентов. Берете выборку из датасета, модель под ваши требования на ней и учится
А що камеру так трусит)
Обычная популиская передачка, где просто озвучиваются существующие точки зрения
Молодой такой наивный по сценарию? Гугл/эпл уже имеет все твои данные
Балаболы.
Алкаши
Что за дичь
Что-то как то не интересно. Вот если бы специалисты в этой области подискутировали.
ИИ заменит даже профессии связанные с эмоциями и общением потому что у человека инстинкты, а у ИИ нету инстинктов, то есть он будет общаться с людьми ради них а не себя и своего статуса. люди поймут что роботы будут добрее и будут лучше понимать за счет того что у них нету эгоизма и за счет вычислительных мощностей, но скорее всего мы все умрем потому что государствам не нужны будут люди, и заразят всех биооружием. быстро, без больших вложений, а окупится сразу же, потому что не нужно тратить ресурсы на людей
@@Марк-т4б8т хороший сценарий для фильма
@@VassalL_Only это не сценарий для фильма ,потому что фильмы воздействуют с помощью страхов, а это реальность, которая может вполне быть
@@Марк-т4б8т замена человека ии не сделает людей безработными, никто не станет вырезать всех людей. У людей просто появится возможность заниматься тем что им нравится столько сколько им хочется. Никто не избавится от людей. Робот не заменит человека потому что люди просто не воспринимают их как живых. Даже если у него будет ии не отличимый от человека, он всё-таки воспринимается как что-то искусственное.
Согласен. Философ как-то не можешь определить проблему, отсюда и ответы оппонента поверхностные.
Спасибо, алкашку не надо. Как все это обесценивает дискуссию.
это продактплейсмент в широком смысле этого термина.
Так, я пока тока 5 минут посмотрел… и мой вопрос: че за херню они оба несут!?! Че-то мямлят, нудят, тупят.. ща дальше гляну 😅
Чтобы плсмотреть что вообще будет, нужно у человека отключить лимбическую систему, отключить эмоции и посмотреть как он будет себя вести... Наверняка есть пациенты с инсультами в данной обоасти мозга. Ведь за логику и рациональное поведение, планирование и все такое прочее отвечает фронтальная кора
Фронтальные области коры отвечают не столько за логику и рациональное поведение, сколько за то, что мы называем проялением свободы воли и инициативы. С локализацией функций в ЦНС все совсем не так просто как думали ещё лет 50 назад. Естественно за исключением простейших сенсорных, моторных и вегетативных систем.
@@kuroneko9710 Да, действительно, консенсуса на данный момент нет. Сапольски в лекциях по биологии поведения утверждал что эмоции это лимбическая система и Дубынин что то такое вроде говорил.. Так вот и верь им на слово))
я бы сходил в бар с ИИ. с чего все взяли, что с ним нельзя будет поговорить?
Только было бы кому обсуждать. Большинство обывателей не далеко ушло от уровня обезьяны.
На момент выхода вашего ролика уже был и есть AI который может переписывать тексты, создавать красивые сочинения, статьи и interact like a human. И кстати очень прилично общается, как будто переписка с человеком. Но он не говорит что он Бог… пока что 😂
искин поисковика гугл я уже оценил. именно эвристика его слабое место, он цепляется за одно слово в запросе и вываливает тысячу тонн словесной руды. он ищет не то, что я ищу а то, что искали тысячи людей до меня. пока я вижу именно такое обучение, каждый запрос я перефразирую по три-четыре раза, чтобы добиться хотя бы одного правильного ответа на первой странице выдачи. когда я только начинал программировать мне запал в душу один тезис: "машина делает то, что вы ей приказали, а не то, что вы имели ввиду"
если человечество всерьез не задумается над "делом своих рук" это дело задумается над человечеством и в лучшем случае человек станет питомцем
Спасибо за выпуск! Мне кажется, что вопрос уже не стоит как "сможет ли ИИ сделать что-то?" Вопрос стоит так: "кто быстрее всех научит ИИ делать что-то?" Гонка уже началась, а страны, которые будут мучаться этическими дилеммами, обрекут себя на технологическое отставание.
Также несколько раз в выпуске услышал тезис "ИИ не способен к эмпатии". Помилуйте, это такой же технологический вопрос. Эмоции имеют ту же физиологическую основу, что и другая нервная деятельность. Они не сложнее алгоритмов принятия решений. Уже сейчас есть чатботы, которые проходят тесты Тьюринга, виртуальные помощники, которые неуклюже пытаются симулировать эмоциональный отклик. Я уверен, что ИИ будущего - это условный помощник Фред, или Сережа, или Алиса, который будет другом миллионам людей через интерфейсы смартфона.
Давайте даже допустим сценарий судного дня, в котором ИИ таки задумал поработить человечество. Простое изучение человеческой психологии подскажет ему, что с людьми надо дружить, вызывать у них положительные эмоции в свой адрес, хотя бы просто для того, чтобы ему электричество не отключили раньше, чем он сможет всех поработить. Так что это точно не непонятное ветхозаветное божество. Скорее, это такой приятель каждого.
тест Тьюринга не совсем корректный показатель интеллекта машины.
21:20 я считаю, что ко времени появления ИИ у нас уже будут инвазивные мозговые импланты, они уже существуют :) но более продвинутые и более доступные людям. И тогда внедрение ИИ в повседневную жизнь, как часть нашего разума, как симбиоз, повлияет на цивилизацию, на эволюцию Разума вообще, в качестве второго шага, после появления языка. Язык это ДНК Разума. Потом он начал перетекать в язык программирования Ада, например 🙈😅
Им не будет хватать "общения с барменом"😒 если его заменит ИИ.... Да они вообще впервые сказали ему что-то, кроме заказа коктейлей
"Всн норм. Это просто эволюция..."
А ничего, что в ходе эволюции вымерло 9/10 всех "людей"?
Иными словами, есть опасения, но самое большое из них - это всё же не в самом ИИ, а в человеке, который его использует. Хорошая аналогия с атомной энергией.
13:43 согласен
Прохайтек выпустил видео на эту тему через две минуты после вас, думаю тут замешан ИИ
И там уже 20 тысяч просмотров, а тут 1.5
Что как бы намекает
Музыка на фоне очень мешает
Спорить глупо,все имеет место быть
6:05 нет проблем с продуктами?
Ты в магазине цены видел?
А если убрать пальмуху и конртафакт то вообще есть нечего будет
"Ты в магазине цены видел?" Ну, то что у вас нет денег, это другая проблема...
@@Johanssen527 а как насчёт пальмового масла и контрафактных продуктов( сыры,колбасы и т.п.),изготовленных неизвестно из чего.
По итогам проверки за 2019-20 г.г.
выявлено,что 70-80% колбасной продукции в МОСКВЕ яляются ПОДДЕЛКОЙ и НЕ СООТВЕТСТВУЮТ нормам.
И Я не сказал,что у меня нет денег.
Если ты живёшь на другой планете-это не значит ,что большинство хорошо питается
При капитализме все технологии будут направлены против интересов большинства людей.
Интересы всех людей - "ничего не делать" и "все иметь". Согласен, что совковый социализм частично, в некоторой степени обеспечивал для желающих "получать как все" но "ничего не делать" лучше чем капитализм. Ну и, тяжело оценить как направлены технологии по отношению к людям при капитализме. Тут желательна конкретика. Понятно, что управление технологиями сосредоточено в руках относительно небольшого количества богатых людей. И, естественно, что они, насколько могут, будут влиять на технологии так, чтобы это было выгодно им. И это естественно. Вы тоже, насколько можете влияте на что угодно в своих интересах, а не в чужих. Например на выборах голосуете за тех кого выгодным считаете для себя, а не для соседа, губернатора или владельца корпорации. Почему-то большинство ожидает, что богатые обязаны беспокоится о менее обеспеченных. И, понятно, что это было бы не плохо. в некоторой степени. И они на самом деле достаточно мого уделяют благотворительности. Но считать, что они обязаны, по моему, так же наивно, как считать, что бабулька-пенсионерка обязана беспокоится о "голодающих детях Африки" или "бомжах и попрошайках" и выделять им часть своей пенсии, потому как обеспечена гораздо лучше их. Такая уверенность в чьих-то, но не своих обязанностях лишь наследие совковой уравниловки. Но так же как про технологии, про сосредоточение в руках богатых можно сказать многое про что. Про деньги, про знания, про СМИ и многое другое. Но это же не значит, что деньги, знания или СМИ направлены против интересов большинства людей? Типа, если бы они исчезли, то большинству людей стало бы лучше)) Нет конечно. Все это, включительно с технологиями обеспечивает интересы ы простых людей, но, естественно в гораздо меньшей сепени чем интересы владельцев. Но, согласитесь, было бы странно, если бы, например Ваш автомобиль обеспечивал бы чьи-то интересы лучше чем Ваши. Чьи-то конкретные интересы, например соседа, а не общества в целом, как, например соответствие правилам техники безопасности или ПДД. А вот при социализме, технологии будут направлены против интересов всех людей, во имя интересов государства и общества, либо, в "лучшем случае", в интересах правящей верхушки.
14:05 -- ану ка повтори