Почему мы не доверяем НЕЙРОСЕТЯМ? Расизм, дезинформация и другие уроки ЧЕЛОВЕКА / Редакция.Наука
HTML-код
- Опубликовано: 13 май 2024
- Фронтенд-разработчик от Хекслет - lnnk.in/akk9 переходите и осваивайте новую профессию!
По промокоду "НАУКА" полагается бесплатная карьерная консультация до 31.12.2022
Selectel - ведущий провайдер IT-инфраструктуры и облаков: slc.tl/tui7i
Поддержать «Редакцию.Наука»:
💰 из России - через сервис Boosty: boosty.to/rnauka
💰 из-за рубежа - через функцию «Спонсорство» в RUclips: / @r_nauka
Нейросети не только отличают собак от кошек: они пишут картины, распознают голосовые сообщения, реставрируют старые видеозаписи, предсказывают исход матчей - и, разумеется, обрабатывают огромные массивы данных. Мы доверяем алгоритмам все более сложные задачи - и в то же время опасаемся, что они не справятся без нас. Или наоборот, боимся потерять над ними контроль? А может быть, нас пугает то, что машины уже слишком похожи на нас самих? Ведь они усваивают наши предубеждения и ошибки.
Что умеют нейросети сегодня? Кто виноват в том, что они порой ошибаются? И как подготовить данные, чтобы алгоритм работал правильно? В этом разбираются преподаватель высшей математики и инженер Александр Калюжнюк и бренд-директор Яндекса по машинному обучению Петр Ермаков.
Таймкоды (для вашего удобства):
00:00 Саша издевается над DALL-E mini
00:42 Главные вопросы выпуска
01:46 Что такое машинное обучение
02:41 Big data - это много или мало?
04:53 Как машинное обучение борется со спамом
06:28 “Задача машинного обучения - повторить человеческую чуйку”
06:38 ПРОДАМ ГАРАЖ
08:41 Приложение-расист
09:29 “В машину не заложена ненависть. Все зависит от того, какие данные мы будем ей предоставлять”
12:13 Как отучить нейросеть ругаться матом?
14:55 Кто несет ответственность за машину
15:32 Почему мы не доверяем алгоритмам
16:17 “Алгоритмы сами по себе непредвзяты. Они могут только повторить дичь, которую вытворял человек”
18:57 Когда нейросеть заработала, но оказалась не нужна
19:41 Почему машина ошибается
20:25 Как сделать машинное обучение более эффективным
22:28 Как оценить точность работы алгоритмов
23:55 Нейросеть предсказывает исход матча
24:28 Почему нейросети не помогли победить ковид
25:50 Зачем структурировать данные
27:32 “Особое мнение” в реальности: нейросеть прогнозирует преступления
28:07 Можно ли доверять машинам человеческую жизнь?
29:33 Можно ли научить алгоритм-”черный ящик” играть по правилам?
30:06 Лишних данных не бывает
31:30 Нейросети помогут бороться с голодом
32:28 “Не обучайте прогноз валюты на курсе 2013 года”
34:48 “Нельзя обмазаться машинным обучением. Часть задач еще не дозрела”
36:35 Бонус: Саша показывает фотки из отпуска
#редакция #наука #нейросеть
Это канал «Редакция.Наука». Здесь мы будем раскладывать научные концепции простым языком, научим вас задавать вопросы себе и миру и всегда оставаться любопытным.
Мы всегда учили вас делать выводы самостоятельно, а сегодня как никогда важно сохранять критическое мышление. Наука учит нас сомневаться и не принимать на веру гипотезы без достаточного количества доказательств.
Спасибо нашему гостю за участие в съемках:
Петр Ермаков - ML Brand Director, Yandex 
Наука
Поддержать «Редакцию.Наука»:
💰 из России - через сервис Boosty: boosty.to/rnauka
💰 из-за рубежа - через функцию «Спонсорство» в RUclips: ruclips.net/channel/UCDK8SFd2iuF_h4kklUoueJwjoin
К сожалению, практически все видео на тему нейросетей и машинного обучения говорят про алгоритмы. Однако все алгоритмы работают на данных, но проблему входных данных никак не раскрывают. Подразумевается, что они как то сами появятся. Тот же фрагмент про победу над голодом и фермером, которому нейросеть подскажет куда лететь дрону на обработку. Вот только данных по почве ни у кого нет в достаточном количестве. И в итоге нейросеть остается только прикладной задачей в тех областях, где данные генерируются постоянно. И новые области охватываются с трудом.
Массовое внедрение 5G и технологии умных вещей решит проблему сбора данных
По-моему про данные как раз очень много говорят и как раз о том, что мусор на входе даёт мусор на выходе. Но это задача человека, а не алгоритма.
Очень нравятся выпуски науки, легко слушать, интересные вопросы, крутой ведущий 👍🏼 благодарю!
Потому что они все бессодержательны по сути, только поверхностная инфа. Поэтому вам и очень нравятся они.
Это интересно, но и настораживает, как бы не пошли всё эти идеи против человечества. Будут внедрять роботолюдей, они, будут делать всё, что в них запрограммируют, без возмущений, без эмоций... Зачем тогда нужны будут люди? Уже сейчас идёт уничтожение человека, человеком. Правители рады, щенячьему восторгу этих молодых учёных, если их можно так назвать. Лично я не хотела бы, чтобы люди стали лишними на земле.
@@user-lh2ng8fx2c Только религия может идти против человечества, средние века в Европе и исламизм в Азии вам пример.
Спасибо за интересную беседу. Спокойно, грамотно и все по полочкам. С удовольствием послушала и покачала мозги👍 успехов проекту😀
Существует барьер, инертность мышления, которая, человеку знакомому со стандартными алгоритмами, мешает переключиться до сути искусственного интеллекта. Передача помогла мне приблизиться к пониманию. А кроме того, Пётр вызывает уважение. Многие функции Яндекса, более продвинутые чем Google, например перевод видеороликов, онлайн. Спасибо.
Весьма интересно и познавательно. Спасибо. Вы лучшие, Редакция
Отличный выпуск, только мне кажется, что стоило акценты расставить, что компьютер это всего лишь инструмент, сам по себе он ничего не умеет, а вся соль в математике и алгоритмах
Петр Ермаков ❤ Мне очень нравится как он объясняет
Я некого не хочу обидеть но выпуски с Ильёй мне нравятся большое ☺️.
Сразу видно, что ведущий и гость друг другу очень симпотичны и близки по духу. Такие расслабленные.
Ты текст слушай и впитывай, не на то смотришь
Судя по выпускам, группа голубей делает меньше ошибок, чем нейросеть))
Дякую за відео, вийшло дуже цікаво👍
Всё очень круто! Спасибо!
Блин. Ещё один выпуск про абстрактное IT, придется бросать. Даёшь голубей!)
Интересный выпуск!
Спасибо!
Спасибо!!!
Круто спасибо понравилось
Даешь подкаст Редакции на Яндекс.Музыке!
Каким бы компьютер ни был мощным, он ничто без человека. Именно человек вкладывает в него программу, что ему делать и как. И способность выбора в него тоже вкладывает человек на основе своих личных качеств и способностей.
А без эл-ва?)))
Благодарю! Мне не хватило разговора о принципиальных ограничениях ИИ. Какие задачи в принципе не могут и не смогут решаться с помощью ИИ? Не просто примеры таких задач, а именно принципы, ограничивающие возможности ИИ. Именно такие задачи останутся для людей.
Таких принципов принципиально нет) Есть ограничения для конкретных ныне существующих подходов (которые завтра могут уже быть вовсе неактуальны), но не для ИИ как такового. Просто потому, что темин "искусственный интеллект" означает всего лишь "интеллект, сконструированный людьми", без каких-либо ограничений на структуру. А возможности зависят именно от структуры, а не от того, как именно эта структура возникла. Человеческий мозг подчиняется физическим законам и уравнениям движения, а значит, может быть создано другое физическое устройство с идентичным поведением. Например, принципиально ничто не мешает нам просто по молекуле воспроизвести существующий мозг. Формально это будет ИИ, а возможности будут по определению те же самые. Доказать, что искусственный интеллект, независимо от структуры, никогда не сможет чего-то, что могут люди - значит, доказать, что человеческий разум не сводится к физическим законам, т.е. существование души. А это за тысячи лет пока никому не удалось.
Спасибо
Нравится канал, прикольная задумка, крутые темы. Но каждый раз вижу что для разбирающихся получается слишком поверхностно, а для массовой аудитории скучновато. Было бы интереснее брать особые примеры, а не общий обзор.
Спасибо! Отличный выпуск. Очень интересно узнать когда машинное обучение придет в судебную практику.
И будет ли принимать звонки вышестоящих серверов
Господа авторы, вопрос.
Дублирование одного человека в два окна это просто дизайн или же тут есть более глцбокий смысл?
Это ошибка алгоритма автоматического монтажа роликов
❤️❤️❤️
Комментарий для продвижения данного видеоролика)))
Ликбез. Поверхностно, но быстро и не нудно. Звук отвлекает-микрофоны не для видео на RUclips
какие люди такие и машины.если люди любят рассизм, то и машина этому научится.
☝️👍
Как же я теперь ненавижу все что происходит , мне пришлось очень сильно поругаться с моими лучшими друзьями!
10:25 То есть если машина Выучит что женщины Рожают А мужчины нет Это неправильно потому что здесь есть гендерное неравенство? Надо уравнять заставить мужчин тоже рожать?
яндекс товарища майора скупил редакцию?
Опять проблема с таймкодами. Нужно поручить это дело профессионалам ,а не нейросетям!
привет
😀
Мне интересно, как искусственный интеллект может решить проблему голода в мире, помогая фермерам добиваться больших урожаев и надоев? Работу фермеров это действительно обесценит. Чем больше продукции - тем ниже на неё цена. В развитых странах фермерам платят компенсации для того, чтобы они не занимались перепроизводством. Еды и сейчас достаточно, чтобы накормить весь мир.
А сотни миллионов человек голодают совсем по другим причинам. Диктатуры, неразвитость стран, высокая рождаемость и т.д. Вчера смотрел передачу о Туарегах. Численность этого народа достигает миллиона человек. Живут они в пустынях, где практически нет воды и растительности. Тем не менее, они занимаются скотоводством, сбором и продажей соли. Живут так же, как их предки сотни лет назад. И никто у них от голода у них не умирает.
Зато в соседних африканских странах перманентно идут гражданские войны, вспыхивают эпидемии, процветает неравенство и нищета. И что нужно делать европейским и американским фермерам? Взять эти страны на баланс? Бесплатно раздавать им еду? Может сразу переселить половину Африки в цивилизованные страны и решить таким образом вопрос голода этого континента.
Чем меньше живых существ, тем меньше у них страданий.
Нравятся выпуски Редакции. Нравятся сюжеты про науку. Но вот выпуски Редакции про науку что-то не заходят.
Не все смотрел, сняты качественно, но то ли банального много, то ли не о том, что цепляет
Что-то со звуком. Подумал даже, что это у меня проблемы с телевизором, включил другое видео - всё нормально.
У Питера Уотса в трилогии "Рифтеры" описана такая штука как 'умный гель'.
Кусок нервной ткани интегрированный в машину. Опустим вопрос этичности, так как ситуация гипотетическая.
Вопрос.
Не будет ли проще обучать кусок мозга связаный с машиной, чем строить нейросеть на одном железе?
Не проще. Были такие опыты на колонии нейронов из крысиного мозга. Но пока компьютерные сети производительней.
Тут правды никто не скажет. Может, киборги уже реальны. Вопрос этичности не актуален, потому что идёт война.
Поддерживаю...
Это и делают
Пишите на обложке или в описании, что это подкаст. Мало кто заинтересован смотреть радио, нужно бы знать заранее
Яндекс маркетинг прям решил зайти на Ютуб)) Просто о сложном, Редакция наука
"надо убрать пол"
Чуть позже
"Не надо убирать данные чтобы подкрутить коробочку"
П - последовательность
Убрать пол как вредный критерий
Интересный выпуск. Но к сожалению ничего не сказано как это самая биг дата собирается. Может это отдельная тема, не раскрыто. Оба всячески избегают вопроса об участии человека во всём этом, кто программирует эти 'создания'. Спасибо за выпуск!
Конечно избегают) это контент для тех, кто блины с лопаты уплетает и улыбается при этом. Открой глаза
Ребята, всё здорово, но вы не могли бы сделать хаотя бы небольшое пояснение для чайников? А то создаётся ощущение, что весь выпуск заточен под начинающих it-шников.
Вопрос про то как разучить Ватсона говорить матом: Что если дописать правила которые будут фильтровать мат и добавить еще один слой постобработки сетью, который бы фактически бы после правил делал что то вроде: "Если твой ответ попал под одно из правил, то понизь коэфицент релевантности у выбранной языковой конструкции". Так за Х итераций обратной связи весь мат бы выпал в осадок без необходимости переобучаться с 0. Разве так нельзя?
- если твой ответ попал под окно
В таком случае их можно сразу выкинуть, нет смысла просто понижать
Нейросеть со схожим функционалом Midjourey создаёт пикчи намного качественнее, чем Dall-e mini.
Вроде бы в Яндексе умные люди работают, про равенство и искусственный интеллект понимают, а простую демократию и сменяемость власти не усвоили ...
опять политика... никак вы блять не научитесь, никто не собирается это делать и не будет вообще, ибо это невыгодно, власть может просто напросто порешать и приватизировать, плюс, маленькие человечки ничего не смогут сопоставить огромной машине власти, чтобы сменить власть, нужна другая власть, более сильная чем предыдущая,
@@user-tq6rr2yq4x разговор заканчивается на твоём никнейме
Ну не знаю, будет ли толк в примере про найм работников, если отобрать лучших работников и убрать пол из их резюме. Худшие резюме с полом, наверное, тоже надо будет показать нейросети.
Звук плохой, постоянно шипящие вперед лезут - "с", "ш", "ф". Слушать тяжело.
20:10 Вот она суть айтишника))) - ... если бы мы могли покрыть весь Мир правилами ... Какими правилами? кто это -вы? как это почистить данные? а кто определяет - что нужно вычищать, а что нет - кто определяет -что хорошо, а что плохо в данных?
Правила здесь - как формализация верного решения, уточнение. Ну или предпочтительного решения. Ничего дикого здесь не вижу.
@@andyj9735 правила не могут быть формальными, если они касаются живых людей!!! в этом и есть вся дичь - человек который работает над правилами - он не несет прямой ответственности перед людьми, на которых эти правила будут распространятся!!! Но еще большая дичь - это то, что каждый айтишник - работает над частью кода - и искренно верит, что он "типа" толкает прогресс вперед - порой даже не имея представления о конечном продукте!!!
@@dmitriivinogradov290 Послушайте, любая система класса CRM или ERP - это формализация труда людей и взаимоотношений. В ERP прописывают не просто правила, а бизнес-правила, субординацию и регламент. Ну а зарплату насчитывают, используя разного рода бух. софт типа 1С, - везде есть правила, и не делайте вид, что вы не понимаете, о какой формализации идет речь)))
@@andyj9735 Такую формализацию, спокойно может воспринимать только человек - который ощущает себя человеком - формально!!!
@@dmitriivinogradov290 Просто офигеть, Дмитрий. Не нужно больше этой полемики. Лучше это обсуждать с людьми, имеющими хоть какое-то отношение к этой специфике софтостроения и смежных/родственных областей.
Вам - всего хорошего.
Не пойму, как в некоторых кадрах рыжий становится чёрным и наоборот! Похоже, это тоже приколы нервных сетей))) Ничего не скажешь, хорош выпуск.
Всё круто, но вот планшет вверх ногами, как бельмо на глазу был весь выпуск=)
К сожалению, Наука стала "приплетать". Беда :(
Уже давно начала,
Спасибо что поменяли ведущего!
Ковёр - супер
ИИ просто не знает, что такое культурный марксизм, вот оно и выдает БАЗУ!
Зачем делать эти приколы с постоянным разделением экрана вместо нормальной сцены с 2 людьми в кадре? Ну раздражает же эта дергатня бесконечная
Заснете смотреть
Просто у них алгоритм плохой . Скорее всего О от n в квадрате.
@@Doshikday Ну да, расскажите это Дудю или скажем проекту Основа. Содержание > визуала в этом жанре. Мне норм вообще без картинки.
ваще не мешает, ибо я слушаю
Да, достает. Просто слушаю.
Хотите помочь врачам? Пусть ассистент пишет всё за него. Ибо врач пишет ЧРЕЗМЕРНО много! Век компьютеров, лол!
Сколько раз Пётр сказал "завтра приду" перед тем как записать интервью?
Форматы как про пчёл зашли больше. Более динамичные, больше объясняют базу. Тут подкаст без акцента на том, что такое БДиМО, но с рассмотрением более конкретных примеров. Как будто для другой аудитории.
И звук... Слушать можно. Смотреть с таким звуком неприятно.
ведущий 1кк раз не прав, когда надеется что айфон сфоткает лучше, чем человек который умеет работать с зеркалкой
Время на интервью нашел, а на Open ML не нашел))
Ребят,
Третий выпуск про около компьютерные вещи. Становится немножко скучно и нудно. С другой стороны, отдельное спасибо за стиль кадров, СДВГэшники поймут.
@@azimrh
Да, я забыл про игры 😜
Собственно потому big data есть рак и любой сбор информации, кроме самого минимума для работы сервиса, должен быть полностью запрещён.
Слишком большая громкость в ролике. Микрофон аж пшикает перенапрягаясь. ИМХО
Всем привет шучу Салам алейкум)
Не знаю почему начинается диалог интерес пропадает. Подача или что не цепляет как то.
А давайте бороться не за гендерное равенство, а за профессиональное. В данном случае, действующие непредвзято машины, гораздо лучше нас. Не стоит им мешать.
Машина непредвзята в том смысле, что не имеет собственных предрассудков, но все предрассудки, присутствующие в обучающей выборке, она прилежно выучит и будет воспроизводить. Никаких собственных способов оценки профессионализма у неё нет.
Могли бы изложить чуть доступней и популярней для "чайников" ;)
(Я обязан это сделать) ВАУ, САША КАЛЮЖНЮК, КЛАССНО ВЫГЛЯДИШЬ! СПОРИМ, ЧТО ВЧЕНЕИИ НЕДЕЛИ ТЫ ЗАРАБОТАЕШЬ ОТ 500 ДО 1000 ДОЛЛАРОВ?
😏😏😏
хорошая реклама для Dali-E , но она просто фуфло в сравнении с MidJoyrney
В бесполезной России с глобальной фальсификацией всех данных, эта тема почти не применима.
Интересный выпуск! У машины не может быть чуйки - это тупая сравнивалка!!)) Машина может дать только - иллюзию!!! ИИ и квантовый комп - это офигенная бездна - для осваивания\распила больших бюджетов! Хотя я встречал людей, которые работают в этой сфере, и они абсолютно искренно верят в то, что они что то куда то двигают - науку, пргрес ....)))
Я первый раз вижу на этом канале 39 комментариев)))
Душнил не зовите пожалуйста
а им вообще комфортно так сидеть друг напротив друга?
Прекрасный и правильный вопрос.
Кто о чём, а вшивый о бане- мне было сложно сконцентрироваться на содержании ролика, очень отвлекает классный интерьер в стиле мидлсентери.
Куча - это больше 40 (сорокА)
зачем фиолетовая лампа?
Дарт вейдера наказывать
‘Неоновые’ лампы зачем??)
Я первый?
Второй. Тоже не плохо)))
Ролик не плох для "бабушек", даже в общем хорош, но слушать пиарщика так себе... И ииииеебать какое количество рекламы напихано, просто ездец! Если дать данный ролик на вход нейросетей, то с большой вероятностью подумает, что тут реклама ML посреди сборника рекламы
⚓️🥀
Горе от ума...
"""... и чтобы вам не повредиться умом от простоты во Христе...""""
👠🏥
3
Ты 2
Зачем ведущий, каждый раз как говорит про человека, который умеет программировать, показывает на себя?)
😴😴😴
ну такоэ...
ruclips.net/video/o4tvowTtv24/видео.html лампа... стоит... на проводе... зачем такое насилие?
Искусственный интеллект - это, конечно интересно, а как на счёт искусственного сознания? Оно уже создано! Информация на сайте Аллатра ТВ, в Ютюбе. А вам слабо? Всё воду в ступе толчете.
а мне не понравилось, тема интересная но как то нудно излагают (затянуто одно и то же гоняют по 10 раз)
Какие журналисты- такие и ролики. Пивоваров опытный журналист, этих всех на науке вижу первый раз, дам помоложе лет на 25 они
Айтишники и тут все захватили
А зачем отучать материться нейросеть? В смысле, ради чего, какая цель?
Что не так с матом? Дети будут материться? Так они и так матерятся...
Не этично? А что дает этика? Зачем нужно "приличие"? Кому это надо?
Мир развивается. И его развитие тормозят такие симулякры как этика, нравственность, мораль. Если бы не "общечеловеческие ценности" (которые, по-сути являются христианскими заповедями), люди если бы не достигли бессмертия, то были бы вечно молодыми и красивыми.
А инвалиды жили бы полноценной жизнью, вместо сбора унизительной милостыни лицемерными фондами.
Бог умер, да? 😁
@@PaulDioxide Даже не знаю, жил ли он.
Бог всегда ЖИВОЙ ! Бог единственный источник ЖИЗНИ ! Бог даёт жизненную силу даже проклятым. Может, для того, чтобы мы стали терпимее... Не знаю.
@@petrodmyterchuk1698 Откуда у Вас информация? От коммерсантов в рясах?
Может, откровение пришло? Вы - пророк?
Откуда Вы знаете?
Из каких-то старых книжек, написанных неизвестно кем и отредактированных неизвестно сколько раз?
Если да, то объясните мне, почему я должен им верить.
Ведь мотивация обманывать у них налицо!
@@user-rn5hc4xj4p , коммерсантам как и старым книгам можно верить, но не всем. Откровений, или какой-то мистики в жизни у меня не было, пока. Но, блин, оглянитесь вокруг, мы, люди, всё живое и есть чудо. Всё идёт по плану, подчинено законам. Хотя люди и разрушают и творят что хотят, но даже этим они проявляют явное доказательство существования бога ЖИЗНИ.
Да что там люди. Взять хотя бы вакуум. Казалось бы - пустота. А нет, даже с межзвездного пространства Вояджер присылает сигнал. Как радиоволна возникает в пустоте, где нету никаких магнитных полей?
Мы слишком мало знаем, чтобы отказаться от бога. Даже сатане не удалось постичь всей величины Всевышнего, хотя Люцифер ближе всех к богу, но в то же время так далёк.
Чет зачастили с обсуждениями компов, алгоритмов с айтишниками и их приближёнными. Неинтересно.
какая нафиг dall-e? MIDJOURNEY!
теперича интереснее всего у иноагентов...😁😁😁только реклама вынесла все мозги
Хочу смотреть контент, но не цепляет совсем ! Возьмите пример с "Топлес" , читает познавательный текс сопровождая его разной анимацией , а когда два человека нудно и монотонно просто разговаривают смотреть не интересно!
Выпуск ради рекламы))))
А побольше микрофонов у вас нет??🤦♂️
Епа! дак это ж сын Явлинского!
Ерундень последние выпуски. ((((