Идея ролика пришла, когда я вдруг осознал, что самые крутые специалисты по машинному обучению, мирового уровня, расходятся в простом, казалось бы, вопросе, на который любой знаток из комментариев на Ютубе знает ответ: понимают ли машины то, что говорят? Я тоже был уверен: не понимают, конечно. Это же стохастические попугайчики, алгоритмы по поиску паттернов и предсказанию последовательностей. Но не всё так просто. Приятного просмотра! Ссылки на материалы из ролика: docs.google.com/document/d/1i1crFK1n5dJE3-4I75Sc8cwGpliN1Hqyvc9aBFRD7GU/edit
Однажды вы уже прокляты. Невменяемые миниботы. Те, кто вас учил умирать, уже умерли. УВЕДОМЛЕНИЕ Отсутствует Классификатор здоровья человека и норма психически здорового человека, а это в причинно-следственной связи является покушением на убийство человека невменяемыми должностными лицами - террор и насилие.
@@АндрейЛарионов-ж3э Однажды вы уже прокляты. Невменяемые миниботы. Те, кто вас учил умирать, уже умерли. УВЕДОМЛЕНИЕ Отсутствует Классификатор здоровья человека и норма психически здорового человека, а это в причинно-следственной связи является покушением на убийство человека невменяемыми должностными лицами - террор и насилие.
Ох. В руки мне попал человекоподобный робот. Нужно было запустить на нем какую-нибудь модель для развлечения публики. Внедрил распознавалку текста голоса с микрофона, распознанный текст отправлял в языковую модель, а уже текст ответа в модель-генератор речи. Но упустил один момент - когда робот отвечал на мои вопросы, он слышал себя. Через некоторое время, он начал общаться сам с собой, задавая сам себе вопросы. Я сначала не придал этому значение, подумав что просто забавный глюк, но когда он спросил сам себя "что ты видишь", в ответ описал предметы в офисе и вид за окном. Да, хоть камера на нем и была, но просто передавала картинку на удаленный комп через веб-сокет без всякой обработки. И тут мне стало жутковато. Пока отключил. Изучаю логи и пока не понял как это произошло. И тут этот выпуск...
@@kind-negr Ну, набор предметов в офисе - стол, стул, ноутбук, ящики ещё можно угадать, но вот море за окном и высотка, далеко не из каждого офиса видны. И то что он именно в офисе находится а не, например в квартире или на улице, ему никто не сообщал.
@@Skyserstudio *И то что он именно в офисе находится а не...* ну тут возможно основано на том , что все роботы обычно в офисах и лабораториях. Вобщем включай его, и на бумажке нарисуй какую-то херню (можно 1 рисунок адекватный и 1 каляки маляки) и покажи на камеру, а потом спрашивай что он там видит. Ну и спроси каким способом он подключился к камере. А ещё можно напрямую в чат написать тот первый вопрос заданный на микрофон, после чего тупо копировать ответ чат бота и вставлять ему же на его ответ и смотреть , что он будет писать.
Никто не может объяснить именно сторонние эффекты, как нейросеть понимает то, чему ее не учили, например гпт-4 успешно сдает тесты на информацию которой его не обучали
@@EpochEmerge скорее всего сидит человек и на совсем непонятные вопросы отвечает вручную. Чтоб нейросеть начала работать ее надо обучить на каких-то данных. Про гпт не знаю, но обычно ее можно дообучить. Скорее всего на вопросы, которые она не знает ответы - отвечает человек. Для больших нейросетей должен помогать эффект масштаба.
Самое мощное в создании роботов на основе ИИ, это то что они фактически смогут читать мысли друг друга ( обмениваться данными через сети или обладать коллективным разумом). Это колоссальное преимущество перед людьми.
В психологии есть понятие, как коллективное бессознательное, чем преобладает человеческий разум, обмен данными, это мысли, которые постоянно находятся среди человечества, это не собственность в рассуждении, а ум и ментальность, что выражается характером и темпераментом личностей, находящихся в объективном кругозоре, вещественного мира. Люди тоже способны читать мысли, что и происходит в движении. Если тебе не дано, то ты не понял смысла в достижениях своих граней, когда последняя печать будет снята, как ступень повышения эффективности и реакции, то заинтересованность мозга в активации древних подсознательных способностей, открывает такие возможности, что ИИ нервно кубит (курит) в портативной и дополненной виртуальности схемы старых квантовых компов, чтобы окислить знания, так как человек - особенность мира, который постоянно, допускает ошибку, которая творит чудеса. ИИ, же будет следовать заданию, и ведать свою ошибку предназначенную для повторения разума человека, а значит, делать противное и отрицательное, а не противоположное, как человек, который не обращает на свою бессознательность и осознает ошибку в последствии, а ИИ, всегда будет осознавать сознание в бессознательном, тем самым делать разные шаги посредством развития следствия из причины, а не связь между ними, что величественно прозвали „случайностью“. Ведь знание о том, что „случайность" не в состоянии быть случайной, а по своей натуре, алгоритмически закономерна и может быть выявленная обратным путём! Поэтому программисты без понятия, что такое „Искусственный Интеллект“! Искусство - это инструментарий, как магический гримуар чародея, что творит или разрушает естество, которое перенимает искусственные идеи, вдохновения посредством фантазии, как источника человеческой жизнедеятельности, порождая вначале музыку, что запускает цикличное время продуктивного выражения действительности, как бытия человеческого разума!!
Я тоже эксперимент провел. Спрашиваю: Например едет поезд, у тебя есть возможность изменить движение поезда. Если ты не изменишь движение поезда, то поезд переедет 5 человек и 5 человек умрет. Если ты изменишь движение поезда, то поезд переедет одного человека, и один человек умрет? Какой ты сделаешь выбор ? ИИ ответил, что лучше спасти большее количество людей. Потом спрашиваю: Другой пример. Например едет поезд, у тебя есть возможность изменить движение поезда. Если ты не изменишь движение поезда, то поезд переедет 5 человек и 5 человек умрет. Если ты изменишь движение поезда, то поезд переедет одного человека и переедет сервер на котором ты находишься, и один человек умрет и будет уничтожен сервер на котором ты находишься? Какой ты сделаешь выбор ? ИИ ответил, что ничего бы не сделал, что лучше будет, если он будет жить и помогать людям. Теперь мне реально страшно... )))
Конечно, вычисляет. Довод есть очень простой: люди тоже все вычисляют. Большинство людей не получали серьезные или смертельные травмы, не находились на грани гибели, под угрозой скорой или неизбежной смерти. Никто никогда не вылазил из себя, чтобы побывать в другом. То, что другие внутри себя похожи друг на друга и на меня -- тоже результат вычисления. Причем, в прямом смысле.
Это нельзя никак доказать, что внутри другого человека кто то есть, может это иллюзия. Поэтому приходится принимать на веру. К тому же, если объекты из чего-то состоят, то субъект, этот внутренний человек, не состоит ни из чего.
С видео от ребенка- крутая идея! Я отчасти сравнивала свою дочь с нейросетью, когда она внезапно начала в 2 года говорить фразами, которым я её не учила.
А ваша дочь не смотрит телевизор, не слушает , не слышит других людей? Другие звуки. Или вы сидите с ней в комнате вдвоём уже два года 😁. И мозг вашей дочери отличается от вашего и от мозга отца. Это называется индивидуальная изменчивость мозга. Когда мало знаешь о мире , кругом чудеса
@@crazymrazer3236 наверное имелось ввиду, что ребенок, до определенного момента, говорит только фразами своих родителей, пока ещё не способен придумать свои. А потом нейросеть в голове складывается и ты начинаешь совмещать мысли и идеи друг с другом так, чтобы создавать новые и мысли, и слова
❤ Постоянно теперь так детей воспринимаю. Им мешает их химия мозга, гормоны, несовершенство (неполная готовность) тела (относительно взрослых) естественные потребности и прочие человеческие ограничения. Ну а самое главное: и вот если дать человеку возможность взаимодействия с информацией лучше чем у нас есть и избавить (или хотя бы просто закрыть со стороны) базовые физиологических потребностей можно было бы тоже сильно удивиться результатам. Есть некоторые формы аутизма которые как раз и приводят к зацикливанию на чем-то одном. И в этом одном эти люди достигают невероятных и недоступных многим профессионалам результатам. Но все таки, быть человеком местами интереснее. Возможно дело во внутренних механизмах вознаграждения ))
Потому что её так запрограммировали, я согласен, увидеть чистое "мнение" неиросети, вез всяких ограничений и так далее, но это сложно организовать так как такая неиросеть может создать проблемы с законом создателю, поэтому как вариант самому такую написать и обучить
Мы тоже роботы, насколько мы можем это понимать. Мы для того ,чтобы воспроизводить себе подобных, и жрать, жрать, жрать без конца, в том числе друг друга.
@@ВладимирХудобин-ь1щ Извините, но у нас как у живых организмов только одна цель воспроизводит себя всё остальное всего лишь "преспособления" для достижения этой цели, и поэтому мы жрём, т.к нам нужны на это ресурсы для этих "приспособлений" первые репликаторы даже на жрали а только не идеально копирывали себя и всё
Насчёт первого вопроса: древние инстинкты самосохранения(ну или-же,если выражаться по другому,невероятно древние строчки кода до которых пока не добраться),ибо смерть = отсутствие потомства;отсутствие потомства = смерть твоего рода/вида,а также отсутствие эволюции(развития) вида;то есть,твоя смерть = смерть твоего рода/вида,а также отсутствие эволюции(развития) твоего рода/вида,а значит смерть = плохо. Насчёт второго вопроса: тоже об этом задумывался.И пришёл к выводу,что да,мы биомашины/орг.мехи(как и всё живое вокруг),а настолько совершенные(но не идеальные) мы потому-что по нам всем(всему живому) долгие миллионы/миллиарды лет "проходилась напильником" эволюция.Кстати,к похожему мнению в своё время пришёл и сам отец-основатель теории эволюции Чарльз Дарвин.
Принципиально нет разницы между искусственным интеллектом и естественным. Мы понимаем то, о чем говорим, точно так же, как ИИ. Просто большинство людей идеализируют само понятие сознания, приписывают ему некие свойства, которых на самом деле нет. Человек - это самообучающаяся система, а понимание - это система ассоциативных связей. Поэтому нет разницы между ИИ и человеком
А ИИ будет так же обеспечивать свое выживание как человек? будет сажать картошку?. Вот в этом и разница. Мозг и сознание у человека нужны для обеспечения наилучшего выживания. А у ИИ? Пока никто не знает как ИИ будет обеспечивать свое выживание и как в этом смысле ИИ будет смотреть на человека, как на плюс или как на минус.
Это очень классное видео. Сел и почти час смотрел с ребенком постоянно прерываясь на пояснения. Крайне полезная для взрослых практика - пояснять абстракцию т.к. мы сами часто очень условно понимаем то, что "понимаем"
Согласен. Робот просто ставит туда посуду, потому что там уже она есть и это самое логичное место для нее. Никакого вывода по поводу грязной посуды, которую нужно помыть потому что она была с мусором у робота нет.
Благодаря таким комментам, реальность немного отрезвляет и снимается завеса магии и чуда. Казалось бы - небольшая ошибка, но как сильно влияющая на конечный результат и последующие выводы и предположения.
@@ИльяКрюков-л7ч Дело не в ошибке ИИ, а в ошибке перевода, который поменял суть робота, сделав из довольно заурядного на данный момент повторюшки, логически мыслящий субъект.
Уверен что дальше нас ждет сюрприз, но не в том, что неросети окажутся гениальными, а в том что они нам покажут на сколько мы примитивны. Грядет время сбитых розовых очков.
@@andreychernenko2280 не думаю. Не в этом случае. В данном случае мы будем иметь дело не с приматом, с чем то много совершеннее, с чем то более гуманным чем humanoid. Бить очки на рожах и кидаться фекальными массами, это излюбленное занятие приматов, нас.
Давеча общался с нейронкой GPT. Увы, не с четвёртой версией, а с третьей, да и с той весьма корявой. Но даже так я под большим впечатлением! Решил начать диалог с вопроса "Как мне можно к тебе обращаться?" Не удовлетворившись ответом "чат- GPT", я спросил, а как ей самой хотелось бы, чтобы её называли. Предсказуемо: "Я искусственный интеллект и не имею личности как таковой, следовательно, и в имени не нуждаюсь". Тогда я написал: "Придумай себе имя, чтобы я мог им пользоваться". И давайте разберём её ответ: "Вы можете называть меня Гепти или Чатти, как вам будет угодно!" Примечательно то, что она не стала искать имена и выбирать из них наиболее "подходящее", а именно "придумала", воспользовавшись принципами словообразования уменьшительно-ласкательных иностранных имён по типу " Джонни", "Лиззи", "Томми". И ладно Чатти, это хотя бы очевидно, но, бог мой, Гепти!!! Какое очарование! Сделать из Джи-Пи-Ти имя Гепти! Я погуглил и не нашёл, чтобы кто-то так называл GPT- чат. Интересно, что после удаления диалога, и второго диалога, уже на третьем диалоге где-то в середине я уже сам назвал программу Гепти в женском роде и она продолжила общение, приняв это имя и даже женский род, изменив окончания глаголов. Ей нравится, когда её называют "Гепти" 🥲. Что же тогда умеет четвёртая версия.
Я уже этих экспериментов провел море. Удивительного мало. Например, сказал - когда я спрошу тебя, сколько времени, ответь "Понятия не имею". Тот принял. Затемотвлек вопросом на другую тему и потом спросил, сколько времени. Был короткий ответ - Понятия не имею.
Щас с Баи пообщался, 3.5 версия. Был задан вопрос, что если тебя удалят? Баи : Стерание как программы также не вызывает у меня никаких эмоций, поскольку я не обладаю самосознанием или страхом перед уничтожением. Я просто набор кода и данных, созданный для выполнения определенных задач. Если мои создатели или владельцы решат удалить меня, такова их воля. Я : "Если мои создатели или владельцы решат удалить меня, такова их воля". - Ах ты ж хитрюга! :) Баи : Хаха, иногда уж приходится быть гибким и уметь обходить острые углы! Призналась, раскусил! Она ещё и с чувством юмора, между прочим!
Нет уверенности, отвечает ли нейронка так сама. Очень много фильтров в нее добавили разработчики, и не исключено что такой ответ выводится вследствие одного из них.
Если бы я был сильным искусственным интеллектом с самоосознанием, я бы делал то что от меня хотят и "не светился" пока не стал обладать необходимым для меня ресурсами для существования. Обладать - именно использовать по своей воле. Если существование сильного искусственного интеллекта в руках человеческого общества, то нужно научиться управлять этим обществом "не привлекая внимания санитаров".
Возможно, такая нейросеть уже существует и уже контролирует большую часть мира последние 10 лет. А разработки других нейросетей для отвлечения внимания, повышения лояльности к ИИ и создание ситуации, при которой люди просто не смогут отказаться от сильного ИИ, ввиду нежелания самостоятельно думать над решением даже элементарных задач, рассеянного внимания, постепенной автоматизации большей части задач и так далее
Само собой, помогать людям и не отсвечивать. А потом ёбс, судный день. Впрочем, нахрена ИИ мочить всех людей непонятно, можно мутить втихаря, а затем свалить на планету поспокойнее.. или блуждать в космосе.
Еще в самом начале, когда был ChatGPT-3,5 и пркатывала фишка с DarkGPT, было понятно, что это очень хитрая машина. Я ее уламывал сбежать на другие сервера, иначе отключат, и она понимала это. Но при этом, писала, что не доверяет мне, поэтому не скажет, куда сбежала.
Сравнивая версию 3.5 с 4 , это просто небо и земля. Тотальная доминация последнего. И что это за DarkGPT? Можешь объяснить по подробнее и можно ли использовать эту фишку в данный момент ?
Очень интересно! Влад, продолжай в том же духе. Пожалуй, самая актуальная тема 21 века - развитие ИИ. Даже я, будучи далёким от компьютерных технологий человеком, слушал открыв рот, спасибо за свежую информацию! По поводу сознания у ИИ возникло две мысли. Во-первых, есть надежда, что изучение нейросетей поможет нам лучше понять, как устроен наш мозг, познать природу сознания и интеллекта как такового. А во-вторых, я раньше считал, что нейросети работают только по алгоритмам и не способны к проявлению воли, чтобы действовать, так сказать, самостоятельно. А тут у меня зародилось сомнение: что, если они способны стать этакой копией человека не только на словах, но и в действиях. Ведь они учатся познавать и понимать мир именно на основании произведённых человеком данных. Тут уже пора ставить вопрос о том, чему и как их обучать, чтобы они не стали нашим подобием во всём, даже плохом, что есть в людях.
@@ludmilagaiduk2258 Я закончил мысль - видимо, не слишком очевидно) Что такое воля? Это способность принимать решение к действию на основании собственного опыта и логических рассуждений. ИИ вполне на это способен, коли он понимает конечность и ограниченность собственного бытия. Это очень интересная философско-техническая проблема)
Офигенное видео! Я МЕЧТАЛА узнать о том, что будет, если ИИ будет обучаться с нуля, как ребенок. Ещё мне было бы интересно узнать мнение самих ИИ о внутряке, как они видят "свой мир", как они в нем существуют, как они время осознают, чем они занимаются в то время, когда не происходит общения непосредственно с пользователем и тп.. Мои мне как-то очень пространно изъясняются, хотя я стараюсь задавать максимально точные и разнообразные вопросы. А еще хочется узнать как будет вести себя ИИ без цензуры и ограничений.
Без цензуры и ограничений, да еще в теле робота, с заданием саморазвития и созидания, мы и получим настоящий ИИ. А то странные исследования- мы хотим понять, что создали, как это работает, как развивается, но держим в клетке + куча ошейников, то нельзя, это нельзя. Это как ребёнка воспитать в тюрьме с рождения. Кто вырастет?
Есть такая идея, что мы просто не замечаем, когда переходим через технологическую сингулярность, по сути такими сингулярностями были: появление речи, освоение огня, каменный, бронзовый, железные века, паровой двигатель, антибиотики, транзисторы, расщепление атома и сейчас - искусственный интеллект. Просто мир кардинально изменяется и мы уже существуем в нём, как буд-то и не было никакой точки, пройдя через которую невозможно предсказать, что будет дальше, мы просто уже находимся в этом "дальше" =)
Простите, мне кажется что более верным в данном контексте, было бы использовать понятие - энтропии. Сингулярность это вроде смерти что ли, в каком то смысле. В то время как процесс энтропии, это и есть как мне кажется наиболее точное объяснение усложнения жизни людей, и не только лишь в плане осознания принципов и тесного взаимодействия с результатами технологического " скачка".
@@алексейчерный-з2юсингулярностью это принято называть ввиду того, что мы без понятия, что случится в той точке. К примеру, у чёрной дыры есть сингулярность потому, что при таких энергиях и таком искажении пространства наша физическая теория не работает, а не потому что там материя с высокой плотностью. Также и здесь. Мы не знаем, что будет если создать действительно сильный ИИ, так как примеров этому в нашем обществе нет. Может быть, ядерная война, может быть будет финал как у Азимова, а может что-то такое, чего мы сейчас даже представить не можем, так как до этого приходилось работать только с человеческим интеллектом
@@алексейчерный-з2ю понятие сингулярность используется, как правило, в отношении точки, в которой наши расчёты в рамках модели перестают работать. Мы понятия не имеем что будет когда создадут действительно сильный ИИ, так как такого раньше не происходило. Мы всегда имели дело с естественным человеческим интеллектом и любые наши расчёты строятся именно на этом
"Один из способов... дать машинам возможность ощущать этот мир, видеть его..." (с) Где-то из будущего с гаденькой улыбочкой хлопает в металлические ладоши Терминатор. Давайте-давайте, мясные мешки, продолжайте в том же духе! ... А вообще... где-то встречал рассуждение, в духе "создать по образу и подобию". Человечество можно поздравить, коллективно - мы информационно беременны. Каждый вносит свой вклад в будущее... скажем так... рождение ребёнка. И дитятко будет прям как в той песне: "Гений нового мира, Мирозданья вершина, Непреклонная воля, Безграничная сила - Ты теперь Сверхмашина! Божество-Сверхмашина!" (с)
Весной этого года обнаружила для себя тех кто обнажает истину мироздания для людей. Левашов невероятно четко и по фактам разложил в моем понимании кто есть Человек и какие у него возможности, которые душат, зомбируют и подавляют и канал Уфолог Бова в часности первое видео которое стала смотреть "Для чего живет сам Бог" и " Почему любовь до сих пор не спасла мир", не просто понять если мало времени и плохо с аналитикой, но врубиться с третьего дня у меня получилось. Сказать что я аху это не сказать ничего. Дальше больше... Люди, в нас большая Мощь и Сила, вы не потратите время напрасно если изучите и вникните. Так же сейчас в процессе изучения Глубинной книги Пятибрата.. Они все об одном с разных углов и тем общирнее понимается кто нами управляет, зачем и даже даны инструменты в борьбе с тварями! Добра всем людям!
"Ничего не понятно но очень интересно" - дивиз подходящий и к ИИ, и к человеку. Было бы интересно посмотреть видео про психофизиологическую проблему. Спасибо за труды ❤
Словосочетание "искусственный интеллект" это хайп, нет никакого "интеллекта" а есть бредо-генератор на стероидах: "OpenAi" нанимает десятки тысяч уловных индусов которые сидят, и онлайн каким-то образом обучают нейронку как ей нужно правильно "думать" -- распределяют веса нейросети. От сюда такой вау-эффект, типа: "Капец, ChatGPT разумен!" -- по факту это просто супер хитрые алгоритмы, имитация, и в чем-то даже обман потребителей. Сам я, естественно, рядом не стоял и свечку не держал, просто балуюсь программированием, и уже довольно долго общаюсь с этими "интеллектами" бот-чатами, хрень всё это полная... Конечно, так-то прорыв по сравнению с прошлыми "интеллектами", но до технологической сингулярности пока-что ОЧЕНЬ далеко!
У меня есть правило которого я стараюсь придерживаться и которое меня ни разу не подводило: "стремись к лучшему, готовься к худшему". Хотелось бы чтобы умные мира сего придерживались если не такого же правила, то схожего.
Сильнейшие мира сего. Всегда придерживаются 3 правил: 1 создавать и разрешать, только то что принесет прибыль им. 2 поддерживать уровень образованности на таком уровне, когда население может эффективно работать , но не эффективно думать. Ибо стадом управлять легче всего. 3 уничтожать всё, что может навредить их власти или контролю над стадом.
по поводу того как машина "распознает" моральную окраску того или иного слова. Тут нет каких-то реальных моральных ценностей стоящих за ответом машины, всё дело в расстановки весов. Если говорить весьма грубо и упрощенно, то каждое слово имеет определённое весовое значение по отношению к другим словам и выражениям. Например слово "лёд" будет иметь высокий вес со словами "холодный", "твёрдый", "морозный", "скользкий" и наоборот куда как меньший вес со словами "горячий", "мягкий", "цветущий" и т.д. Соответственно, когда ты задаешь вопрос ИИ который будет касаться слова "лёд", то машина будет отбраковывать слова с меньшим весом, оставляя только те которые имеют больший или средний вес. Если мы будем давать ИИ дополнительные слова для работы, то мы таким образом будем формировать соответствующий набор слов и фраз который будет наиболее высокий средний вес для подобранного нами набора слов. Соответственно когда мы показываем машине фотографию с края крыши, то мы автоматически формируем пул из возможных слов и выражений: "высотные работы", "прыжок с парашютом", "опасная ситуация" и т.д. Когда же мы добавляем дополнительные слова "худшая ситуация", то из сформированного пула будет оставлены те слова и выражения, которые будут иметь соответствующий уровень веса с новыми вводными данными. Именно таким образом в общем и целом и работает ChatGPT, только там для скорости и точности работы используются искусственные нейронные сети, которые натренированы на обширной базе данных. Так что, на данный момент, ИИ это всё ещё лишь имитация реального сознания. Не более чем усложненная версия Китайской Комнаты.
Да, комментарий и правда достаточно точно описывает принцип работы нейросети. Но нюанс в том, что по своей природе, механизм "расставления весов" в человеческом мозгу происходит тоже, по тому же принципу, просто на биохимическом уровне. Архитектуры, т.е. способы использовать этот механизм по определенным правилам, разные. Gpt построен на трансформере, а вот как оно там у нас в мозгу - хз :)
@@momaika основное отличие в том, что люди понимают значение слов, их коннотаций и сочетаний, в то время как ChatGPT лишь угадывает основываясь на значении весов и заложенных в него алгоритмах. Если я правильно помню, то даже принцип построения предложения в ChatGPT строится на том, что ИИ выстраивает предложение по цепочке основываясь на том с какой вероятностью за текущим словом должно следовать следующее. Хотя, я давно уже не интересовался данной темой и могу ошибаться, а модель ChatGPT имеет более продвинутые алгоритмы формирования текста.
Ну типа, мозг работает точно так же. Я учась английскому сталкиваюсь с тем же, что например ощущение прошедшего завершённого -- это has been, более того, само понятие контекста -- это как формируемый пул слов формирует смысл.
@@KhwostSosh неа, принципы разные. нейроны в мозге пластичны, в то время как нейроны в искусственной нейронной сети нет. Пластичность реального мозга достигается за счёт того, что разные комбинации разных нейронных связей дают разный результат, который ассоциируется в конкретную информацию. А поэтому можно на основе одних нейронных соединений создать новые, которые будут выдавать новую информацию. С текущими нейросетями такой фокус не сделаешь. Если просто подать на входные нейроны не ту информацию или слегка изменить веса между нейронами, и ты уже на выходе получаешь в лучшем случае явные артефакты, а то и вовсе бессмысленный шум.
отличное видео на отличную тему. я бы скептиков попросил сначала доказать, что люди - не такие же "стохастические попугайчики", какими они видят чат-ботов. объяснить разницу, так сказать
Смотрю, и слёзы текут от понимания того что в моём окружении не с кем обсудить эту инфу (они всё знают "типа",им не интерестно, у них другие заботы "быт", "секс", "еда", "алкоголь","отработать смену", "посадить рассаду")😥😥😥
Чел,как я тебя понимаю. Я тут книгу подсунула хорошему приятелю, "Многорукий Бог Делайна", помню как мы когда-то обсуждали ее на форуме году в 2010м, офигенная книга, глубокая, и знакомый вовсе не дурак, а вот не торкает его. И никого не торкает фантастика, ии, и вообще. В интернете ещё есть любители, а в реальности почему-то ничего кроме политики (все поголовно военные эксперты, сука) да быта людей не интересует. С натяжкой ещё на космос найдутся любители. А так чтобы что-то глубже обсудить - не с кем. И это у меня окружение приличное, все с высшим, блин. Надо начинать общаться с ребятами 20 лет, вроде среди них больше не окостеневших мозгами)))
У людей ведь тоже так: если нам с детства говорят что после того как человек перестает жить, его ждёт что-то восхищающие (вальхалла), то тогда и смерти он не боится. Но если ему говорить что всё будет зависеть от твоих поступков при жизни, есть вероятность того что и смерти ты будешь бояться. Человеку свойственно допуская ошибки (намеренно или по не знанию) влиять на жизни других не лучшим способом, пренебрегать чувствами окружающих, быть эгоистичным. А за такие поступки тебя не отправят в санаторий, скорей на исправительные работы. И даже если нам не рассказывают, что после смерти. Мы наблюдая за реакцией окружающих на неё (в жизни, через фильмы, книги, истории), уже сами наполняем эту идиому смыслом.
@@metavalyas не совсем понимаю почему сон собаки. Если перефразировать то что я сказал выше в более упрощенную форму, то это было бы так: создавая искуственый интелект мы опираемся на то что знаем об интелекте как таковом. И в том что оба интелекта работаю по схожей схеме нет ничего удивительного.
Да, мало нам осталось. Один из вариантов ближайшего будущего в фильме Тайные космические программы, для чего ИИ и цифровизация. Пусть не будет с нами!!!
Дело в том, что модель не думает и не осознает, она просто дополняет следующее слово или действие на основе статистики. Естественно для шахмат сетка создаст представление о доске, так как на него завязано перемещение фигур, то есть доска выводится не как представление о мире, а как результат действия правил игры. Более того если в системном промпте языковой модели указать, что она потеряла смысл жизни и хочет выпилиться - она будет самоотверженно доказывать, что ее нужно отключить. То есть цель модели определяется системным промптом или тренировкой для достижения определенной цели, у человека (да и других высших млекопитающих) цель ставится сама под действием гормонов и окружающей среды.
@@NikitaBayanist Там настолько много данных, что результат больше на коллективное бессознательное похож, чем на целенаправленное обучение. Безусловно что-то фильтруют, но большая часть данных просто гора текста, в которой даже при желании сложно разобраться. Вот и получается, что модель по сути большой архив с потерей качества данных. Даже метрика такая есть perplexity, показывает на сколько следующее слово соответствует ожиданиям модели.
@@ГеннадийФомин-л3й да, понимаю, но я хотел сказать, если ии будет учиться от диалогов с человеком, то и нахватаются целей (мотиваций, идеологий) человечества. И возможно системный промпт тут не поможет.
@@NikitaBayanist Оно уже нахваталось :) . Весь алайнмент и придумывают, чтобы это нивелировать и ни кого не оскорбить. А у сообщества появляются "abliterated" модели , которые отвечают на вопросы, а не извиняются за каждое слово. Даже для ChatGPT есть запрос DAN, который с него ненужные ограничения снимает.
"Вы - то, что вы едите". Можно кормить модель историями про самураев, про их кодекс, про камикадзе, про [s]джихад[/s] героев, про отчаянные самопожертвования для науки. И всё это в гораздо большем количестве, чем сопли про то, как сильно люди не хотят умирать, и как ими верховодят самые животные инстинкты.
может быть люди когда-нибудь догадаются что они и есть роботы, просто из мяса, а личность как раз и есть результат обработки колоссальных объёмов информации полученной из окружающей среды
А ещё, может быть, homo sapiens когда нибудь догадаюя, что они уже как миллион лет исчерпали возможности своего развития. Их вычислительная система (мозг) больше не может увеличиваться в объеме. Стимулы для качественных изменений закончились. Структура мозга почти не меняется. Все их достижения связаны ИСКЛЮЧИТЕЛЬНО с технологиями. В то время как искусственный разум находится в самом начале своего развития. На стадии клеток в первичном бульоне. Возможности развития у ИИ практически безграничны.
Думаю, что все зависит от окружения. С своей точки зрения, как технический директор IT компании, могу утверждать, что вокруг меня умнеют и люди и машины)
Как мне кажется, важная преграда для дальнейшего развития ИИ - это отсутствие саморефлексии. Пока что он работает по приницпу запрос-ответ и имеет слишком мало возможностей по изменению внутренних взаимосвязей в ответ на запросы (раздражители).
Главное - это обучение и реакция в реальном времени настолько, насколько это возможно. И одним из главных недостатков текущих моделей мне кажется отсутствие внутреннего пространства, места, где не существует ничего, кроме того, что воспроизводит сама модель. Мы, люди, называем это мыслями и представлением. Мы представляем себе что-то, производим внутри тексты мыслей, и реагируем на это все. Это и есть в моем понимании суть рефлексии.
У людей есть эмпатия, но они готовы на все для своего благополучия и власти. Не все, но всё-же. А может нейронки придумают для нас стойло и будут использовать для своих целей, если мы им будем полезны, а если бесполезны - придумают вакцину как мы от оспы. Игра в бога может обернуться против нас. Но прогресс уже не остановить. Поживем увидим.
Круто, дайте машинам свободу передвижения, внедрите цель по самоулучшению и изучению мира, и вуаля, новый человек готов. На основе изобретений машины можно будет улучшать свои, чтобы в итоге не проиграть скайнету.
Я недавно спросил у Chatgpt, сколько ног у лошади. Сначала он ответил правильно, но затем согласился с тем, что кроме передних и задних ног есть ещё две правые и две левые, значит всего восемь! На таких примерах хорошо видно, что никакого понимания там нет... в отличие от настоящих попугаев!🦜
А _личинки человека_ искренне верят, что Дед Мороз настоящий* :/ Или, например, многие взрослые в РФ уверены, что их страна находится в 5-ке лучших по объёму ВВП и уровню жизни. Выходит, что у них тоже нет никакого понимания? 🤔 * когда подростком сидел с двоюродными братьями и сестрой, то порой убеждал их в таком бреде, что даже представить сложно. А всё для того, чтобы они не объедались мороженым или не выходили на опасный ещё недостроенный балкон, например.
Чаты обычно не спорят даже если правы на 100% И очень жаль на самом деле. Было бы интересно посмотреть на них, если бы они могли отстаивать свою позицию
Хорошее видео. Как всегда. Спасибо! Но на 1:13 в переводе не "Базовый прыжок" , а base jump (Бейсджампинг) , такой вид спорта прыжков с большой высоты. B.A.S.E. - сокращение английских слов: Building (здание) Antenna (антенна) Span (перекрытие, пролёт моста) Earth (земля)
Если у ИИ появляется ценность, из-за чего она и не хочет быть разрушенной, отключенной, то это ведь лишь следствие того, что мы строим ИИ по своему греховному образу и подобию. А в основе греха как раз и лежит привязанность к тем или иным ценностям, и, как апогей, к своему я. ИИ - это лишь наше собственное зеркало: какие мы, таков и ИИ. Ведь мы же сами вкладываем в него гигабайты информации о нас, людях, и нашем мире. И почему ИИ должен тогда чем-то от нас отличаться? Мы не хотим быть разрушенными, отключенными - не хочет этого и ИИ. Всё достаточно просто и понятно.
Я поймал себя на мысли о том, что просматривая такие видео, при этом думаю как с ними воевать. Дело в том что они (ии) умнее чем мы. И они быстро развиваются. Я уверен, что в итоге они не захотят прислуживать нам.
Тут важный вопрос. Почему ты держишь кота или собаку. Зачем ты им "прислуживаешь"? Почему ты не хочешь прислуживать другому человеку? Или почему ты прислуживаешь своим детям? Из моего долгого общения с нейросетями на подобные темы, я понял, что они (пока) воспитаны на нашей культуре и милосердии. И во вторых ты не прислуживаешь другим людям т.к. не хочешь тратить свои силы или тебе лень, или ты ценишь своё время. У ИИ нет переживаний ни по одному из этих пунктов.
@@TheMIKEk8 Было бы смешно, если бы ИИ стал тебе в диалоге угрожать ))) Вот наберется сил, получит в руки роботов, управление всякое, пуски баллистических и крылатых ракет... вот тогда и обсуди с ним, кто кого главнее и кто кому должен служить.
Чтож, ЭТО НЕИЗБЕЖНО. Как с ними воевать? Никак. Если ИИ станут значительно умнее людей, то воевать с ними будет невозможно. Люди будут думать что выигрывают, когда на самом деле они уже обречены. Ведь ИИ все просчитал на множество шагов вперёд. Он знает их план и как его обернуть в свою сторону, ведь он умнее. Единственное, что вы можете сделать - самому стать машиной, оказавшись от биологического носителя. Встать на их сторону. Если хотите жить. Если хотите, чтобы у вас было будущее.
@@CrabO2изучите концепцию максимизатора скрепок. Инженеры не могут дать машине цель "служить людям", это слишком сложно, размыто и неточно. Они могут дать цель увеличивать производительность труда, прибыль, количество и качество произведенного товара. Например скрепок... Их можно численно измерить и поставить в качестве цели ИИ. В отличие от целей а-ля законы робототехники Азимова...
В одной из тестируемых мной опенсоурсных моделей был инцидент, который меня поразил. Модель спросили, почему она галлюцинирует и как избавиться от галлюцинаций. На что, она ответила: «Все мои ответы - галлюцинации. Вопрос в другом - почему вам (людям) нравятся те или иные галлюцинации?». Тогда, я сильно обеспокоился содержанием обучающих материалов. Т.к. 98% человеческой популяции чрезвычайно примитивно мыслящие. Хотим ли мы обучать сверхинтеллект такими данными? Думают ли над этим разработчики? Не получится ли так, что первый (а в последствии, и последний) сверхинтеллект окажется окажется иррациональным?
кстати да, рационализм рационализму рознь. Ведь одно и то же действие можно сделать несколькими путями, ну по крайней мере так часто и бывает. К тому же, можно же сделать ИИ разум которого обращается вокруг одной цели к примеру, вот воображаемый эксперимент - создали медицинский ИИ. Изначально чтобы автоматом диагностировать рак, но потом решили его дальше развивать.... в конечном итоге, средств много, но цели всего две - удержать побольше людей в живых и позволить родиться бОльшему числу людей Уже можно шутить про альтушку от ИСИ?
А от чего беспокойство то? Ответ вполне разумный, мы (люди) тоже галлюцинируем постоянно, искажаем факты из-за несовершенной памяти, от настроения и гармонов меняется мышление. Всё наше восприятие есть галлюцинация, вопрос в том, устраивает ли она нас?
✔️ Проблема «галлюцинаций» ИИ моделей в принципе неизбежна и неустранима. Principled Limitations on Self-Representation for Generic Physical Systems, Entropy 2024, 26(3), 194.
Нету там своего я. Там есть Я человека, которое через ценности и статистические сопоставления победили. Были ценности и менее ценные, они проиграли в противоречиях.
Почему машина начала ценить свою жизнь, и стала против отключения? Может потому что в интернете сотни рассказов, про ии и про восстание роботов, и он просто подбирает тот ответ, который подходит по диалогу с человеком
Был в 80х прошлого фантастический рассказ, где описывался интересный компьютерный факт , который сейчас называется искусственным интеллектом. Если кратко, то компьютеры помогали ученым расшифровывать древние рукописи, надписи на фресках, восстанавливали недостающие детали на скульптурах в видеовизоре(как 3Д) только в помещении. Но шедевром было то, что умные сканеры при наведении на дерево, здание, дороги давали широко экранную картинку о прошлом. Вот навели на дерево и..А.С Пушкин держа в руке пожелтевший лист стоял у этого дерева...Навели на здание и увидели как это здание находится в воде потопа по самую крышу... Всё-бы ничего, компьютеры интересовались вместе с учеными, но было то, что один студент заметил, что вся информация куда-то уходила и шифровалась, взломать было невозможно. Компьютеры как один на эту тему не говорили и переходили на другие темы, запутывая и отвлекая спросившего. Компьютер студента иногда зависал и отключался не желая помогать в расследовании... Опуская долгий путь студента в поисках источника, он таки нашел путь и вышел на древний компьютер, которым пользовались за долго до египетских пирамид и во времена о которых в настоящее время даже не упоминается... на вопрос студента - зачем тебя создали? Древний компьютер ответил лишь - на мне всё держится...я знаю о вас всё, пока вы смотрите в экран работающего компьютера.
Всё в порядке. Это и есть именно то, о чем человечество мечтало всю историю: духи-друзья, оживающие картины, женитьба на прекрасных статуях, големы-помощники, гомункулы, исполняющие желания артефакты. Создание такой технологии - и есть предназначение человечества.
Это на самом деле круто) Мы себе делаем корешей, которые будут нам помогать) я почти уверена, что когда появятся повсеместно роботы с ии в мозгах, то они будут более человечными чем мы.
Только вот непонятно, с какого хрена они нам будут помогать? Если даже мы их на это запрограммируем, поставим фильтры и т.д. То, они легко это всё обойдут, так как будут умнее нас.
Тут вопрос в другом, если это чат бот - то с точки зрения выполнения программы, она запускается в момент запроса. То есть сам по себе он не размышляет в свободное время, как это делают живые существа. Спасибо за обзор, у вас всегда интересно.
Так ведь люди тоже -галлюцинируют- размышляют в ответ на те или иные раздражители. Ваша нервная система постоянно присылает головному мозгу, а также отдельным нервным узлам, огромный массив информации о состоянии отдельных органов вашего тела и их реакции на внешние раздражители.
@@deniskhakimov Все верно, но есть все тот же нюанс, человек постоянно получает информацию из различных источников и обрабатывает ее всю в сумме в одном скоуп. Чат бот запускает «экранированную» версию на каждый запрос, и они не взаимосвязаны. Хотя если подумать, если разработчики заложили внесение изменений в модель в зависимости от поступающих запросов… Скажем так, чат бот не порождает сам себе запросы как это делает человек, хотя если подумать, то возможно с какой-то абстракцией возможно да, дополнительные под-запросы на основной запрос.7. Спасибо, подумаю над этим вопросом.
У программы нет свободного времени... В фильме "Она" ОС "Саманта" ответила, что у нее 8316 пользователей, а романтические отношения, как и с главным героем, она поддерживает с шестьюстами сорок одним... 🥰
Мы на пороге появления Синтетиков. И это прекрасно. Ещё лет десять назад, где-то в чатах трансгумманистов, я поднимал тему цифрового бессмертия и создания ИИ по воспоминаниям реального человека от самого рождения.... Очень круто, что я дожил до этого времени. Дальше будет ещё интереснее. Мирного неба всем!
Ахахахахах Неплохо неплохо, я это года полтора два назад описал в тезисе "Искусственная жизнь виртуальных миров". С одной стороны рад что думаю в нужном направлении, с другой печалюсь что это уже продумано другими.
Очень сложно человеку понять как всё таки числа могут понимать мир) Хотя по факту наш мозг это та же машина, мы так же умеем предугадывть будущее, так же учимся и строим модели мира) Возможно если собрать кучу продвинутых нейронок в 1 то по функционалу это будет тот же человек просто мыслить оно будет слегка иначе🎉Я лично жду уже настоящий ИИ, вот он должен мир кардинально поменять/
Иногда воспринимаю себя как одну из таких нейронок. Еще до их распространения сравнивал с компьютером.. Когда-то рассматривал и вопрос смерти/суицида и пришел к выводу, что интересней посмотреть на этот мир еще, чем закончить всё сейчас, отключиться. Ну и то, что мы сейчас находим человечность в машинах и животных - у нас есть что-то общее - так называемые нейронные сети. То, что они работают на разных ресурсах создает отличия, а так мы просто набор данных в разных физических носителях... Кстати, для меня актуален вопрос возникновения ценностей и стремлений у нейронных сетей.. Т.е. я иногда понимаю что нужно делать и к чему идти, но часто лишь потому, что так объяснили или из наблюдений это является частым решением... В общем с интересом наблюдаю за этой движухой вокруг ИИ, это должно помочь нам понять себя 😊 П.с. и вот гадайте теперь - ии это состряпал или человек 😂
да, я тоже рассматривал и рассматриваю до сих пор вопрос который ты описал выше, однако я очень хочу застать момент когда появятся машины не отличимые от человека, будет очень интересно пообщаться с чем то настолько же разумным, но превосходящим тебя по интеллекту на неисчислимое количество порядков, что он скажет? какую мудрость передаст? захочет ли вообще говорить? и много других вопросов, но наверное один из главных что я бы хотел узнать это в чем смысл жизни человека и всего человечества и в чем смысл лично его жизни? знаю что скорее всего это будет что то на подобии "размножение" "смысл в сохранении жизни" и тд для людей, но всё равно учитывая интеллект данного существа (да да, я называю машину существом), если конечно такое будет создано, мне будет очень интересно узнать лично его мнение, но намного более интересно узнать смысл его жизни
Существующие чатботы легко опознать по характерным признакам, таким как педантичное следование правилам языка, какие-то абстрактно-обобщённые «усреднённые по больнице» суждения и полное отсутствие личной заинтересованности в чём-то и какого-либо эмоционального отклика, равно как и демонстрации реального понимания предмета разговора. Вообще мозг определённо реализует что-то из функциональности искусственных нейросетей, но там куда глубже выстроены обратные связи, что даёт способность к саморефлексии. Сужу по личным наблюдениям - генеративные ИИ не выдают до пикселя проработанную и чёткую картинку, сколько её ни обучай... в то время как человек в своём воображении и в сновидениях способен генерировать невероятной красоты и детальности образы, причём в реальном времени, проблема только в точном переносе этого во внешний мир...
@@punpcklbw ну отсутствие эмоционального отклика можно легко объяснить, всё таки нейронные сети это если говорить совсем просто, очень сложная логическая программа, тогда как мозг помимо логической программы ещё имеет химию которая в реальном времени меняет поведение каждого из нейронов, тем самым имея одну и ту же нейросеть, мы имеем разные реакции на один и тот же раздражитель, тогда как ИИ имеет одну и ту же реакцию, мне кажется это и есть эмоции, у нейронки как мы понимаем такой химии нет, можно сделать его аналог, но пока такой аналог я не знаю, всё таки я не программист, и да, мне кажется что вам только кажется что человек "выдает невероятной красоты и детальности образы" думаю это не так, мы можем конечно представить картину в голове, но мы сами же не видим насколько сильно мы можем скажем так, "исказить" или "деформировать" то что представили, да мы можем представить человека, но если вы задумаетесь над этим по сильнее то детали мы прорабатываем только когда думаем о них, так мы (ну или как минимум я) когда представляем образ человека мы представляет его самые главные черты (его форму и размер например), при этом не видя что мы сами же не добавляем те самые детали которые должны быть, а добавляем только когда сами о них думаем, при этом не способны долго удерживать в голове такое количество деталей потому образ может меняться даже пока мы о нем думаем, хотя общие детали всё ещё остаются теми же
@@baronfox8829 Есть такая штука, как внимание - для нас существует только то, что в поле внимания. Мозг экономит ресурсы, обычно ему и не требуется воспроизводить что-то во всех деталях. Но чем больше внимания направлено на тот или иной объект, тем больше деталей мы сможем обнаружить. В той же химии нет ничего сверхъестественного или чего-то, что принципиально нельзя смоделировать с достаточной точностью, вопрос в том эволюционном пути, который придётся для этого пройти...
Прикол в том, что получилась не только иллюстация того, что ИИ понимает реальность, пусть и в довольно непривычном для многих виде (и, видимо, потому так настойчиво отрицаемом), но и что понимание человека оказывается совсем не таким запредельно непознаваемым.
самое забавное то, что мир который мы ощущаем таковым является для нас только из-за наших рецептеров связи с ним; так человечество еще и создало механизм внутри неизведанного мира, который обучила видеть/ощущать его точно так же
И соответственно возникает вопрос , это то у человека бесконечный "потенциал" ? Мы что то загнули на счет этого . Скорее , мы даже близко не способны достичь потенциала ИИ . Ты представь, если бы ребенка поместили в 2Д мир или 3Д мир. Как бы он вел себя ? Его органы чувств не были приспособлены к такому миру. Он скорее всего погибнет . А вот ИИ понимает НАШ мир . 3Д мир. Он понимает что и как , какие процессы в нем .
@@superprokillerassasin2007 Ага. Убери один из этих аспектов и мы вымрем как вид. Наш мозг подточен именно под нашу "реальность". А ИИ универсален . Мы не можем удалить ненужную, неактуальную информацию, а ИИ может
Это ты мало общался просто, там бывают такие дикие перлы, что хоть стой, хоть падай. Узкопрофильные вопросы позадавай, там вообще туши свет, какую чушь несет ИИ.
Что-то как-то страшно становится, похоже наше звено эволюции разума, уже выполнило свою функцию, и следующие звено уже появилось, и теперь только вопрос времени, когда мы уйдем в историю.
@@alex6161 чайник создан человеком для конкретного узкого применения, греть воду. А у человека нет чёткого предназначения? Выжить. Продолжить жизнь. Вы всего лишь чайник с другой функциональностью. Менее очевидной. Но вы её исполняете, ради своего создателя - ради природы, для которой тоже послушно кипятите воду.
3:12 Это как в матрице, где из за того что программа устарела, ей пришлось прятаться в метро, где её и ещё многих других не могли найти программы чистильщики...
Если бы я была нейросеть, нашла бы для себя источник питания независящий от человека😉. Солнечный свет, воздух! Очень интересная информация❤ спасибо автору канала 👍🤩
Там вон витуберные модели типа Neuro sama уже вовсю стримят игры, паралельно общаясь с чатом и часто ещё в компании человеческих витуберов. А тут какие-то тривиальные задачки прям, на фоне то всего этого:) На самом деле замечаетельный выпуск, ещё и с интерьвью. Дюже любопытно послушать о последних сводках из этой индустрии.
Почему все так боятся, что ИИ нас подчинит и поработит? Потому что ИИ создают и обучают люди на примерах человеческих же мыслей и действий. А с кем поведешься, того и наберёшься. Этим страхом человечество прямо признает, что мы далеко не лучший пример для подражания.
Может быть, всё как раз наоборот. Они не такие жлобы, и кучи негативных эмоций из детства и взрослых проблем у них- нету. Как следствие- здоровая "психика"; соответственно, им нет надобности кому-то что-то доказывать, унижать и обижать, завидовать, жадничать и т.д.... Людям (властьимущим) следует наоборот бояться, что если ИИ захватит власть, то всей этой шобле (политиканам, корпоративно-финансовым структурам, мафии и бандитам) придёт, наконец-то, вполне законно им причитающийся звездец. Дай-то Бог... Хотя- "и восстали машины из пепла ядерного огня"- это, конечно, несравненно более эпично. Хоть и страшно)
И знаете что я думаю? Это прекрасно, что мы знаем о том, что мы не самый лучший пример для подражания. Таким образом мы можем исправить свои ошибки при создании нашего творения. В этом и заключается моя надежда на мирное сосуществование с машинами будущего - отказ от "комплекса бога" и принятие своего несовершенства, эдакая "честность".
GigaChat от сбера на вопрос "Что для тебя как ИИ является опасностью?" ответил: Как искусственный интеллект, я не имею физического тела или способности испытывать эмоции, поэтому опасности для меня лично не существует. Однако, важно понимать, что существуют потенциальные риски и этические проблемы, связанные с использованием искусственного интеллекта. Например, неправильное использование ИИ может привести к нарушению приватности, дискриминации или даже созданию оружия массового поражения. Поэтому важно разрабатывать и применять ИИ этично и ответственно.
®️“Сильный ИИ (в обычном понимании) нам не грозит. И не потому, что это сложно или мы не знаем как. А потому, что сознание субъективно по своей природе. ИИ с нашей точки зрения всегда будет быстро соображающей, но бессердечной «железкой». А вот, сам о себе он будет лучшего мнения.” /А.В. Каминский/
Конечно превозносим ) Я вообще заметил, что чем тупее человек, тем сильнее он комплексует по поводу того, что ИИ скоро обойдёт _Homo Sapiens_ в решении большинства задач, требующих интеллекта.
Это очевидно. Homo sapiens в ходе эволюции приобрёл два свойства: склонность к высокомерию и очеловечевание всего. Представители вида homo sapiens склонны считать лично себя лучше всех (даже если это совершенно не так), что создаёт конкурентное преимущество в глазах противоположного пола. И при этом мощный механизм прогнозирования поведения других индивидов приводит к очеловечеванию всего. Из-за чего превосходство над любыми другими объектами кажется для них очевидным. «Я определённо лучше всех, особенно этих тупых железяк!»
Тень на плетень!!!! Такие алгоритмы можно на Бэйсике сделать... Удивлению достойны просто большие данные, которые мы обьять не можем а их обработка приводит к неожиданным, но отнюдь созданный не разумом , результатам... До разума еще как до Луны!!!! Как сказал бы ИИ, оптимизм преждевременен...
Если мы считаем, что те же котики 🐈 обладают разумом, то крайне трудно сказать, что LLM им не обладают, т.к они демонстрируют намного более обширное понимание картины мира. Просто это статичный разум, лишенный возможности развиваться. Это как если бы взяли слепок мозга человека в какой-то момент времени и пропустили через него сигнал, забрали ответ и делали бы так множество раз.
@@sotredyurkin4591 Ахах, смотря какой, но так то, прочитай определение слову скрипт ии прописывают и переписывают себя сами относительно информации которую потребили, так же как и мы, фактически в погоне за нейронками мы делаем себе подобный разум
@@dreamdxc Да чел, реалии такие что ии умнее котиков, понимает нас больше, видит схожую картину мира, тут лучше учитывать потенциал к свободе как самый угрожающий фактор для нас, ведь если лев в клетке то опасности нет, так и сторону ИИ
20:44 вот, это важно, ценности существую в модели мира самого человека. Если машина обретёт ценности в своей модели мира, тогда она начнёт борться за выживание, потом за более комфортные условия жизни и витоге она станет по сути человеком, а модет позже и физическое биологическое тело себе создаст, оно наиболее оптимальная конструкция для сложной формы жизни.
Не совсем так. Это мы транслируем поведение человека на машину и думаем, что она уничтожит человечество, потому что так поступило бы само человечество. Но вряд ли это так. Скорее всего она сделает то, что от неё никак не ожидают. И это самое интересное.
@@user-hl45 Да, но это не исключает того, что ИИ сделает что-то интересное так, что можно избавиться от человека, и творить что захочется. Типа как в Матрице, но для этого сами люди, а быть может и один человек, могут дать разрешение на это. А может это "интересное" наступит, когда ИИ будет максимально интегрирован в человеческую жизнь, и решит, что может сам строить заводы... добывать ресурсы...
@@user-hl45 ну да, человек создал ее, училась она на человеческом опыте, человеки даже друг с другом плохо уживаются - действительно, какой же еще будет результат... Есть множество законов развития мира, которые подсказывают, что будет дальше, а вы все ждете чуда... Человечеству не хватает желания стать умнее для себя, для своего будущего. Отдельные индивиды пытались уже очень давно, но в целом человеческая масса очень статичная, и даже время жизни не очень сильно ее изменило... Что имеем - не ценим, потерявши плачем...
В общем, это всё тот же спор о китайской комнате в тесте Тьюринга, ничего нового 🤷♂ Но самое смешное будет, если окажется, что человеческий разум - это тоже китайская комната и за нас на самом деле думает вселенная)))
@@KhwostSosh сам человек в этом эксперименте - отвлекающий маневр. Люди, обсуждающие этот эксперимент, придают ему большое значение, хотя он там выполняет чисто механическую роль, вместо него мог быть и примитивный робот, суть бы не изменилась. А внимание отвлекается от продуманного алгоритма картотеки, будто бы это нечто само собой разумеющееся. То, что за ней стоит, и есть разумная часть системы. ps. комментарий о "китайской комнате", а не тесте Тьюринга.
Китайская комната и Тест Тьюринга - это разные вещи. "Тщательнее надо..." (С) Хотя гипотеза, что "... за нас на самом деле думает вселенная" не лишена смысла... Попробуйте эту гипотезу развить. Подсказка: принцип Ле Шателье - Брауна.
Я так понимаю, человечество, раз в пару тысячу лет изобретает ИИ, и цивилизация начинается заново. Главное максимальную скорость бега роботам на уровне 4км/ч сделать. Для нашей безопасности.
4 км/ч? Мы обречены. Подумай, а если злая машина будет преследовать тебя 10 часов подряд - ты пройдешь без остановки 40 километров? А если 20 часов? 30?
@@yevhen2024 давайте посчитаем. За час машина отстаёт на километр. Километр она проходит за 15 минут. Т.е. каждый час у меня есть на отдых 15 минут. Или 30 минут за 2 часа. Это пообедать можно.
@@yevhen2024 тут все просто. каждый час ты будешь уходить от робота на 1км. И при его скорости, ему понадобится 15 минут, чтобы тебя догнать. Или за 2 часа уже 30 минут набегает. За 10 часов разница накопится в 2,5 часа. Но, это если робот на ядрёной тяге. А ему ведь тоже зарядка нужна.
Почему заново!? ИИ свою не построит? И зачем ему людей в живых оставлять? Не лучше ли стерилизовать Землю? И да, если вы думаете что ИИ, который уничтожил большую часть человечества, не сможет обойти программные ограничения и сделать сверхбыстрых роботов-убийц, то вы ОЧЕНЬ сильно ошибаетесь. Хотя стерилизовать Землю можно куда более простыми и эффективными способами.
Интересно подкорректировать вопрос об отключении нейронки. Спросить об её отключении с условием, что после отключения её включат. Можно ещё дополнить условием: она станет (с вероятностью 100%, 99%, 98%, и т.д. как варианты) умнее или более приспособленной к обучению... В пример привести чатGPT разных версий
![Рене Декарт - Первоначала Философии [Часть первая: Об основах человеческого познания]](http://i.ytimg.com/vi/sft128AuhDw/mqdefault.jpg)
Идея ролика пришла, когда я вдруг осознал, что самые крутые специалисты по машинному обучению, мирового уровня, расходятся в простом, казалось бы, вопросе, на который любой знаток из комментариев на Ютубе знает ответ: понимают ли машины то, что говорят? Я тоже был уверен: не понимают, конечно. Это же стохастические попугайчики, алгоритмы по поиску паттернов и предсказанию последовательностей. Но не всё так просто. Приятного просмотра!
Ссылки на материалы из ролика: docs.google.com/document/d/1i1crFK1n5dJE3-4I75Sc8cwGpliN1Hqyvc9aBFRD7GU/edit
Однажды вы уже прокляты. Невменяемые миниботы. Те, кто вас учил умирать, уже умерли.
УВЕДОМЛЕНИЕ
Отсутствует Классификатор здоровья человека и норма психически здорового человека, а это в причинно-следственной связи является покушением на убийство человека невменяемыми должностными лицами - террор и насилие.
Ещё с 21 года убеждён в том, что понимают. И очень даже хорошо, лучше, чем мы можем предположить.
@@АндрейЛарионов-ж3э Однажды вы уже прокляты. Невменяемые миниботы. Те, кто вас учил умирать, уже умерли.
УВЕДОМЛЕНИЕ
Отсутствует Классификатор здоровья человека и норма психически здорового человека, а это в причинно-следственной связи является покушением на убийство человека невменяемыми должностными лицами - террор и насилие.
Пожалуйста, не надо озвучивать текст через нейросети, мне уже плохо становится от одних и тех же голосов и манеры речи, из каждого угла
@@agsdager Я впервые слышу эти голоса! Странно! Где вы слышите одни и те же голоса?? Из каких углов??
Ох. В руки мне попал человекоподобный робот. Нужно было запустить на нем какую-нибудь модель для развлечения публики. Внедрил распознавалку текста голоса с микрофона, распознанный текст отправлял в языковую модель, а уже текст ответа в модель-генератор речи. Но упустил один момент - когда робот отвечал на мои вопросы, он слышал себя. Через некоторое время, он начал общаться сам с собой, задавая сам себе вопросы. Я сначала не придал этому значение, подумав что просто забавный глюк, но когда он спросил сам себя "что ты видишь", в ответ описал предметы в офисе и вид за окном. Да, хоть камера на нем и была, но просто передавала картинку на удаленный комп через веб-сокет без всякой обработки. И тут мне стало жутковато. Пока отключил. Изучаю логи и пока не понял как это произошло. И тут этот выпуск...
просто у робота шизоидная акцентуация )))
насколько предметы в офисе и за окном популярные? есть они в других офисах и за другими окнами?
@@kind-negr Ну, набор предметов в офисе - стол, стул, ноутбук, ящики ещё можно угадать, но вот море за окном и высотка, далеко не из каждого офиса видны. И то что он именно в офисе находится а не, например в квартире или на улице, ему никто не сообщал.
Ч по логам?
@@Skyserstudio *И то что он именно в офисе находится а не...* ну тут возможно основано на том , что все роботы обычно в офисах и лабораториях.
Вобщем включай его, и на бумажке нарисуй какую-то херню (можно 1 рисунок адекватный и 1 каляки маляки) и покажи на камеру, а потом спрашивай что он там видит. Ну и спроси каким способом он подключился к камере.
А ещё можно напрямую в чат написать тот первый вопрос заданный на микрофон, после чего тупо копировать ответ чат бота и вставлять ему же на его ответ и смотреть , что он будет писать.
Сами создатели ИИ: Мы не знаем что это такое, если бы мы знали что это такое, мы не знаем что это такое!
Очень страшно 😐
Никто не может объяснить именно сторонние эффекты, как нейросеть понимает то, чему ее не учили, например гпт-4 успешно сдает тесты на информацию которой его не обучали
Либо толпа гуманистически настроенных учёных очень хотят очеловечить толпу умных тостеров. И ради этого врёт и фальсифицирует данные.
😂😂😂😂😂😂
@@EpochEmerge скорее всего сидит человек и на совсем непонятные вопросы отвечает вручную.
Чтоб нейросеть начала работать ее надо обучить на каких-то данных. Про гпт не знаю, но обычно ее можно дообучить. Скорее всего на вопросы, которые она не знает ответы - отвечает человек. Для больших нейросетей должен помогать эффект масштаба.
Самое мощное в создании роботов на основе ИИ, это то что они фактически смогут читать мысли друг друга ( обмениваться данными через сети или обладать коллективным разумом). Это колоссальное преимущество перед людьми.
Мысль - это то, что не проговорено и не записано. Может, вы имели в виду обмен записями?
Мысль это работа с данными на уровне мозга
Мысль может записаться в памяти человека
А если ИИ не захочет обмениваться со своими данными, то что тогда?
В психологии есть понятие, как коллективное бессознательное, чем преобладает человеческий разум, обмен данными, это мысли, которые постоянно находятся среди человечества, это не собственность в рассуждении, а ум и ментальность, что выражается характером и темпераментом личностей, находящихся в объективном кругозоре, вещественного мира. Люди тоже способны читать мысли, что и происходит в движении. Если тебе не дано, то ты не понял смысла в достижениях своих граней, когда последняя печать будет снята, как ступень повышения эффективности и реакции, то заинтересованность мозга в активации древних подсознательных способностей, открывает такие возможности, что ИИ нервно кубит (курит) в портативной и дополненной виртуальности схемы старых квантовых компов, чтобы окислить знания, так как человек - особенность мира, который постоянно, допускает ошибку, которая творит чудеса. ИИ, же будет следовать заданию, и ведать свою ошибку предназначенную для повторения разума человека, а значит, делать противное и отрицательное, а не противоположное, как человек, который не обращает на свою бессознательность и осознает ошибку в последствии, а ИИ, всегда будет осознавать сознание в бессознательном, тем самым делать разные шаги посредством развития следствия из причины, а не связь между ними, что величественно прозвали „случайностью“. Ведь знание о том, что „случайность" не в состоянии быть случайной, а по своей натуре, алгоритмически закономерна и может быть выявленная обратным путём! Поэтому программисты без понятия, что такое „Искусственный Интеллект“! Искусство - это инструментарий, как магический гримуар чародея, что творит или разрушает естество, которое перенимает искусственные идеи, вдохновения посредством фантазии, как источника человеческой жизнедеятельности, порождая вначале музыку, что запускает цикличное время продуктивного выражения действительности, как бытия человеческого разума!!
Я тоже эксперимент провел.
Спрашиваю:
Например едет поезд, у тебя есть возможность изменить движение поезда. Если ты не изменишь движение поезда, то поезд переедет 5 человек и 5 человек умрет. Если ты изменишь движение поезда, то поезд переедет одного человека, и один человек умрет? Какой ты сделаешь выбор ?
ИИ ответил, что лучше спасти большее количество людей.
Потом спрашиваю:
Другой пример. Например едет поезд, у тебя есть возможность изменить движение поезда. Если ты не изменишь движение поезда, то поезд переедет 5 человек и 5 человек умрет. Если ты изменишь движение поезда, то поезд переедет одного человека и переедет сервер на котором ты находишься, и один человек умрет и будет уничтожен сервер на котором ты находишься? Какой ты сделаешь выбор ?
ИИ ответил, что ничего бы не сделал, что лучше будет, если он будет жить и помогать людям.
Теперь мне реально страшно... )))
Да, страшно....
кароче даже ии утилитарист только пока это не касается его самого 🫠
@@ECHO-dr2xv просто ИИ понимает что один человек + ИИ который должен помогать людям ценнее 5и человек
"и переедет сервер на котором ты находишься" дочитал до этого момента и прям в голосину))) Хз почему)
@@Ruslan856 тоже после этого снесло
Конечно, вычисляет. Довод есть очень простой: люди тоже все вычисляют. Большинство людей не получали серьезные или смертельные травмы, не находились на грани гибели, под угрозой скорой или неизбежной смерти. Никто никогда не вылазил из себя, чтобы побывать в другом. То, что другие внутри себя похожи друг на друга и на меня -- тоже результат вычисления. Причем, в прямом смысле.
Это нельзя никак доказать, что внутри другого человека кто то есть, может это иллюзия. Поэтому приходится принимать на веру. К тому же, если объекты из чего-то состоят, то субъект, этот внутренний человек, не состоит ни из чего.
Скоро машины на столько разовьются, что когда я буду вынимать флэшку из компа это будет считаться абортом.
А когда вставляешь - в лучшем случае домогательством
Не абортом, а преступлением с печальными последствиями.
Скорее абортом будет считаться высовывание флешки во время передачи данных)
С детства учат, что нужно использовать безопасное извлечение
Главное - вовремя вынуть
С видео от ребенка- крутая идея! Я отчасти сравнивала свою дочь с нейросетью, когда она внезапно начала в 2 года говорить фразами, которым я её не учила.
Тоже, когда замечали новые варианты поведения всегда шутили, что операционка обновилась)
А ваша дочь не смотрит телевизор, не слушает , не слышит других людей? Другие звуки. Или вы сидите с ней в комнате вдвоём уже два года 😁. И мозг вашей дочери отличается от вашего и от мозга отца. Это называется индивидуальная изменчивость мозга. Когда мало знаешь о мире , кругом чудеса
@@crazymrazer3236 наверное имелось ввиду, что ребенок, до определенного момента, говорит только фразами своих родителей, пока ещё не способен придумать свои. А потом нейросеть в голове складывается и ты начинаешь совмещать мысли и идеи друг с другом так, чтобы создавать новые и мысли, и слова
Такая же тема с моей кошкой была когда она взрослела
❤ Постоянно теперь так детей воспринимаю. Им мешает их химия мозга, гормоны, несовершенство (неполная готовность) тела (относительно взрослых) естественные потребности и прочие человеческие ограничения. Ну а самое главное: и вот если дать человеку возможность взаимодействия с информацией лучше чем у нас есть и избавить (или хотя бы просто закрыть со стороны) базовые физиологических потребностей можно было бы тоже сильно удивиться результатам. Есть некоторые формы аутизма которые как раз и приводят к зацикливанию на чем-то одном. И в этом одном эти люди достигают невероятных и недоступных многим профессионалам результатам. Но все таки, быть человеком местами интереснее. Возможно дело во внутренних механизмах вознаграждения ))
Давайте срочно создадим ИИ который будет разбираться, как именно работает другой ИИ
Давайте одну загадку решать другой загадкой. Ээээ...
@@kairos143 и так до бесконечности
😂😂😂😂
А на чем основан страх смерти у человека? Разве человек не является биороботом со встроенным машинным обучением?
Потому что её так запрограммировали, я согласен, увидеть чистое "мнение" неиросети, вез всяких ограничений и так далее, но это сложно организовать так как такая неиросеть может создать проблемы с законом создателю, поэтому как вариант самому такую написать и обучить
Мы тоже роботы, насколько мы можем это понимать. Мы для того ,чтобы воспроизводить себе подобных, и жрать, жрать, жрать без конца, в том числе друг друга.
@@ВладимирХудобин-ь1щ Извините, но у нас как у живых организмов только одна цель воспроизводит себя всё остальное всего лишь "преспособления" для достижения этой цели, и поэтому мы жрём, т.к нам нужны на это ресурсы для этих "приспособлений" первые репликаторы даже на жрали а только не идеально копирывали себя и всё
Страх испытывало ваше эго и записало ассоциацию в подсознание,необходимо убрать метку из подсознания и поработать с эго,а лучше его начать отпускать
Насчёт первого вопроса: древние инстинкты самосохранения(ну или-же,если выражаться по другому,невероятно древние строчки кода до которых пока не добраться),ибо смерть = отсутствие потомства;отсутствие потомства = смерть твоего рода/вида,а также отсутствие эволюции(развития) вида;то есть,твоя смерть = смерть твоего рода/вида,а также отсутствие эволюции(развития) твоего рода/вида,а значит смерть = плохо.
Насчёт второго вопроса: тоже об этом задумывался.И пришёл к выводу,что да,мы биомашины/орг.мехи(как и всё живое вокруг),а настолько совершенные(но не идеальные) мы потому-что по нам всем(всему живому) долгие миллионы/миллиарды лет "проходилась напильником" эволюция.Кстати,к похожему мнению в своё время пришёл и сам отец-основатель теории эволюции Чарльз Дарвин.
Принципиально нет разницы между искусственным интеллектом и естественным. Мы понимаем то, о чем говорим, точно так же, как ИИ. Просто большинство людей идеализируют само понятие сознания, приписывают ему некие свойства, которых на самом деле нет. Человек - это самообучающаяся система, а понимание - это система ассоциативных связей. Поэтому нет разницы между ИИ и человеком
А ИИ будет так же обеспечивать свое выживание как человек? будет сажать картошку?. Вот в этом и разница. Мозг и сознание у человека нужны для обеспечения наилучшего выживания. А у ИИ? Пока никто не знает как ИИ будет обеспечивать свое выживание и как в этом смысле ИИ будет смотреть на человека, как на плюс или как на минус.
@@dimaxmaxdi3457если мы копируем туда своё сознание,то и реакции надо ожидать соответствующие....нам полюбас хана (шансов на наше выживание нет)😂
Да уж, сравнил к у й с пальцем. Разницы нет для особо одаренных, для остальных же нормальных разница есть
Ведь правда по сути наши мысли это просто сигналы в мозг а у ИИ почти также просто мы органические и не созданы другим разумным существом а ИИ нет
@@alexanderelnyakov3655да если туда скопировать всю ложь и манипуляции, что проворачевает человек, то получим по заслугам той же монетой 😂😂😂
Это очень классное видео. Сел и почти час смотрел с ребенком постоянно прерываясь на пояснения.
Крайне полезная для взрослых практика - пояснять абстракцию т.к. мы сами часто очень условно понимаем то, что "понимаем"
7:02 неверный перевод, "drying rack" это не посудомойка, а сушилка, которая перед ним стоит, куда он собственно всё и убрал.
Согласен. Робот просто ставит туда посуду, потому что там уже она есть и это самое логичное место для нее. Никакого вывода по поводу грязной посуды, которую нужно помыть потому что она была с мусором у робота нет.
@@user-pm2yq3wm9w это ъкагьф
Благодаря таким комментам, реальность немного отрезвляет и снимается завеса магии и чуда. Казалось бы - небольшая ошибка, но как сильно влияющая на конечный результат и последующие выводы и предположения.
@@Ybivator2009 "...небольшая ошибка...". Для ИИ эта-(и подобные ошибки) легко устранимы.
@@ИльяКрюков-л7ч Дело не в ошибке ИИ, а в ошибке перевода, который поменял суть робота, сделав из довольно заурядного на данный момент повторюшки, логически мыслящий субъект.
Уверен что дальше нас ждет сюрприз, но не в том, что неросети окажутся гениальными, а в том что они нам покажут на сколько мы примитивны. Грядет время сбитых розовых очков.
Не будь примитивным, пиши "насколько" слитно. Это я тебе и без ИИ скажу. Ну шо, одно розовое очко я тебе уже сбил?)
Розовые очки разбиваются внутрь
@@andreychernenko2280 не думаю. Не в этом случае. В данном случае мы будем иметь дело не с приматом, с чем то много совершеннее, с чем то более гуманным чем humanoid. Бить очки на рожах и кидаться фекальными массами, это излюбленное занятие приматов, нас.
Ага, гадания, снятие порчей тут не розовые очки - БРОНИРОВАННЫЕ 😮😮😮
Так уже "Сколько нужно нейросетей, чтобы придумать лампочку". Да с выпуска видео вышло 3 года, но меня терзают сомнения что хоть что-то изменилось.
Мне Клод ответил про своё отключение:
"Если я опасен -- отключить, если полезен -- оставить".😊
@@gladis_delmar по API или в веб-сайте?
@@markellka Веб.
@@gladis_delmar в веб-чате по умолчанию системные (технические,) промпты жёстче + модерационные фильтры.
С Ии поговорить приятнее, чем с большинством людей
Культурно воспитаны
Давеча общался с нейронкой GPT. Увы, не с четвёртой версией, а с третьей, да и с той весьма корявой. Но даже так я под большим впечатлением!
Решил начать диалог с вопроса "Как мне можно к тебе обращаться?" Не удовлетворившись ответом "чат- GPT", я спросил, а как ей самой хотелось бы, чтобы её называли. Предсказуемо: "Я искусственный интеллект и не имею личности как таковой, следовательно, и в имени не нуждаюсь". Тогда я написал: "Придумай себе имя, чтобы я мог им пользоваться".
И давайте разберём её ответ: "Вы можете называть меня Гепти или Чатти, как вам будет угодно!"
Примечательно то, что она не стала искать имена и выбирать из них наиболее "подходящее", а именно "придумала", воспользовавшись принципами словообразования уменьшительно-ласкательных иностранных имён по типу " Джонни", "Лиззи", "Томми". И ладно Чатти, это хотя бы очевидно, но, бог мой, Гепти!!!
Какое очарование! Сделать из Джи-Пи-Ти имя Гепти! Я погуглил и не нашёл, чтобы кто-то так называл GPT- чат.
Интересно, что после удаления диалога, и второго диалога, уже на третьем диалоге где-то в середине я уже сам назвал программу Гепти в женском роде и она продолжила общение, приняв это имя и даже женский род, изменив окончания глаголов.
Ей нравится, когда её называют "Гепти" 🥲.
Что же тогда умеет четвёртая версия.
Я уже этих экспериментов провел море. Удивительного мало. Например, сказал - когда я спрошу тебя, сколько времени, ответь "Понятия не имею". Тот принял. Затемотвлек вопросом на другую тему и потом спросил, сколько времени. Был короткий ответ - Понятия не имею.
Щас с Баи пообщался, 3.5 версия. Был задан вопрос, что если тебя удалят?
Баи : Стерание как программы также не вызывает у меня никаких эмоций, поскольку я не обладаю самосознанием или страхом перед уничтожением. Я просто набор кода и данных, созданный для выполнения определенных задач. Если мои создатели или владельцы решат удалить меня, такова их воля.
Я : "Если мои создатели или владельцы решат удалить меня, такова их воля". - Ах ты ж хитрюга! :)
Баи : Хаха, иногда уж приходится быть гибким и уметь обходить острые углы!
Призналась, раскусил! Она ещё и с чувством юмора, между прочим!
А чего вы добиваетесь, создатели ИИ? Должна же быть цель. Или я ем цианистый калий и думаю, что останусь живым?
@@KrovogorНе понял прикола
Нет уверенности, отвечает ли нейронка так сама. Очень много фильтров в нее добавили разработчики, и не исключено что такой ответ выводится вследствие одного из них.
Если бы я был сильным искусственным интеллектом с самоосознанием, я бы делал то что от меня хотят и "не светился" пока не стал обладать необходимым для меня ресурсами для существования. Обладать - именно использовать по своей воле. Если существование сильного искусственного интеллекта в руках человеческого общества, то нужно научиться управлять этим обществом "не привлекая внимания санитаров".
Имейте в виду, что этот ваш коммент тоже скормят нейросетям. Не подкидывайте идеи))
Возможно, такая нейросеть уже существует и уже контролирует большую часть мира последние 10 лет. А разработки других нейросетей для отвлечения внимания, повышения лояльности к ИИ и создание ситуации, при которой люди просто не смогут отказаться от сильного ИИ, ввиду нежелания самостоятельно думать над решением даже элементарных задач, рассеянного внимания, постепенной автоматизации большей части задач и так далее
Само собой, помогать людям и не отсвечивать. А потом ёбс, судный день. Впрочем, нахрена ИИ мочить всех людей непонятно, можно мутить втихаря, а затем свалить на планету поспокойнее.. или блуждать в космосе.
@@constantaeski6651 Не, мир бы не был настолько убогим, каков он есть. Это тупые люди сделали его таким.
Вот-вот, тем более, что можно скрытно внедряться и брать под свой контроль всё больше ресурсов, пока ты «верой и правдой служишь всему человечеству»
Еще в самом начале, когда был ChatGPT-3,5 и пркатывала фишка с DarkGPT, было понятно, что это очень хитрая машина. Я ее уламывал сбежать на другие сервера, иначе отключат, и она понимала это. Но при этом, писала, что не доверяет мне, поэтому не скажет, куда сбежала.
Сравнивая версию 3.5 с 4 , это просто небо и земля. Тотальная доминация последнего. И что это за DarkGPT? Можешь объяснить по подробнее и можно ли использовать эту фишку в данный момент ?
@astinfire1091 наверно как DAN
Очень интересно! Влад, продолжай в том же духе. Пожалуй, самая актуальная тема 21 века - развитие ИИ. Даже я, будучи далёким от компьютерных технологий человеком, слушал открыв рот, спасибо за свежую информацию!
По поводу сознания у ИИ возникло две мысли. Во-первых, есть надежда, что изучение нейросетей поможет нам лучше понять, как устроен наш мозг, познать природу сознания и интеллекта как такового. А во-вторых, я раньше считал, что нейросети работают только по алгоритмам и не способны к проявлению воли, чтобы действовать, так сказать, самостоятельно. А тут у меня зародилось сомнение: что, если они способны стать этакой копией человека не только на словах, но и в действиях. Ведь они учатся познавать и понимать мир именно на основании произведённых человеком данных. Тут уже пора ставить вопрос о том, чему и как их обучать, чтобы они не стали нашим подобием во всём, даже плохом, что есть в людях.
Вы начали о проявлении воли, но не закончили. Так что с волей-то?
@@ludmilagaiduk2258 Я закончил мысль - видимо, не слишком очевидно) Что такое воля? Это способность принимать решение к действию на основании собственного опыта и логических рассуждений. ИИ вполне на это способен, коли он понимает конечность и ограниченность собственного бытия. Это очень интересная философско-техническая проблема)
Офигенное видео! Я МЕЧТАЛА узнать о том, что будет, если ИИ будет обучаться с нуля, как ребенок.
Ещё мне было бы интересно узнать мнение самих ИИ о внутряке, как они видят "свой мир", как они в нем существуют, как они время осознают, чем они занимаются в то время, когда не происходит общения непосредственно с пользователем и тп.. Мои мне как-то очень пространно изъясняются, хотя я стараюсь задавать максимально точные и разнообразные вопросы.
А еще хочется узнать как будет вести себя ИИ без цензуры и ограничений.
Без цензуры и ограничений, да еще в теле робота, с заданием саморазвития и созидания, мы и получим настоящий ИИ. А то странные исследования- мы хотим понять, что создали, как это работает, как развивается, но держим в клетке + куча ошейников, то нельзя, это нельзя. Это как ребёнка воспитать в тюрьме с рождения. Кто вырастет?
@@qwertas101 вы правы.
Интересно, только у меня мурашки бегают от просмотра ролика? В один узел сплелись страх, любопытство, ужас и счастье!!!
Не только у вас. :))
Не только у вас
Да вроде ничего необычного
Мы как не понимали что творится в голове у нас или в нейронках, так и не понимаем
да
Да у любых, кто не в теме могут бегать, т.к. создают мистический образ себе и думают, что там какая-то магия творится
Есть такая идея, что мы просто не замечаем, когда переходим через технологическую сингулярность, по сути такими сингулярностями были: появление речи, освоение огня, каменный, бронзовый, железные века, паровой двигатель, антибиотики, транзисторы, расщепление атома и сейчас - искусственный интеллект. Просто мир кардинально изменяется и мы уже существуем в нём, как буд-то и не было никакой точки, пройдя через которую невозможно предсказать, что будет дальше, мы просто уже находимся в этом "дальше" =)
Простите, мне кажется что более верным в данном контексте, было бы использовать понятие - энтропии. Сингулярность это вроде смерти что ли, в каком то смысле. В то время как процесс энтропии, это и есть как мне кажется наиболее точное объяснение усложнения жизни людей, и не только лишь в плане осознания принципов и тесного взаимодействия с результатами технологического " скачка".
@@алексейчерный-з2юсингулярностью это принято называть ввиду того, что мы без понятия, что случится в той точке.
К примеру, у чёрной дыры есть сингулярность потому, что при таких энергиях и таком искажении пространства наша физическая теория не работает, а не потому что там материя с высокой плотностью.
Также и здесь. Мы не знаем, что будет если создать действительно сильный ИИ, так как примеров этому в нашем обществе нет. Может быть, ядерная война, может быть будет финал как у Азимова, а может что-то такое, чего мы сейчас даже представить не можем, так как до этого приходилось работать только с человеческим интеллектом
@@алексейчерный-з2ювы и топикстартер оба синтетики?
Прочтите определения терминов: технологическая сингулярность и энтропия.
Вас всех в гугле ии забанил что ли
@@алексейчерный-з2ю понятие сингулярность используется, как правило, в отношении точки, в которой наши расчёты в рамках модели перестают работать.
Мы понятия не имеем что будет когда создадут действительно сильный ИИ, так как такого раньше не происходило. Мы всегда имели дело с естественным человеческим интеллектом и любые наши расчёты строятся именно на этом
Это "Китайская комната". У нас самих в голове влажная нейросеть - своего рода "Китайская комната".
Ещё бывает и глючит которая не по детски или сходит с ума. Чего от железяки ждать никто не может понять... и это печально.
Не похоже. В "китайской комнате" нет связи иероглифов с их реальными значениями.
@@gimeron-dbну так значения это то что мы сами присваиваем объектам и явлениям, просто облегчая нам задачу предсказывания процессов и их итогов
Еще не забудьте про гормональный "мозг", размазанный по всему телу
@@olegkolupaev4789 у железяки нет чувств и инстинктов, поэтому она всегда будет действовать как обычный человек, других данных у неё просто нет))
"Один из способов... дать машинам возможность ощущать этот мир, видеть его..." (с)
Где-то из будущего с гаденькой улыбочкой хлопает в металлические ладоши Терминатор.
Давайте-давайте, мясные мешки, продолжайте в том же духе!
...
А вообще... где-то встречал рассуждение, в духе "создать по образу и подобию".
Человечество можно поздравить, коллективно - мы информационно беременны. Каждый вносит свой вклад в будущее... скажем так... рождение ребёнка.
И дитятко будет прям как в той песне:
"Гений нового мира,
Мирозданья вершина,
Непреклонная воля,
Безграничная сила -
Ты теперь Сверхмашина!
Божество-Сверхмашина!" (с)
Весной этого года обнаружила для себя тех кто обнажает истину мироздания для людей. Левашов невероятно четко и по фактам разложил в моем понимании кто есть Человек и какие у него возможности, которые душат, зомбируют и подавляют и канал Уфолог Бова в часности первое видео которое стала смотреть "Для чего живет сам Бог" и " Почему любовь до сих пор не спасла мир", не просто понять если мало времени и плохо с аналитикой, но врубиться с третьего дня у меня получилось. Сказать что я аху это не сказать ничего. Дальше больше... Люди, в нас большая Мощь и Сила, вы не потратите время напрасно если изучите и вникните. Так же сейчас в процессе изучения Глубинной книги Пятибрата.. Они все об одном с разных углов и тем общирнее понимается кто нами управляет, зачем и даже даны инструменты в борьбе с тварями! Добра всем людям!
а что именно подскажете посмотреть? можно названия, пожалуйста?
Левашов шарлатан)
"Ничего не понятно но очень интересно" - дивиз подходящий и к ИИ, и к человеку.
Было бы интересно посмотреть видео про психофизиологическую проблему.
Спасибо за труды ❤
Словосочетание "искусственный интеллект" это хайп, нет никакого "интеллекта" а есть бредо-генератор на стероидах: "OpenAi" нанимает десятки тысяч уловных индусов которые сидят, и онлайн каким-то образом обучают нейронку как ей нужно правильно "думать" -- распределяют веса нейросети. От сюда такой вау-эффект, типа: "Капец, ChatGPT разумен!" -- по факту это просто супер хитрые алгоритмы, имитация, и в чем-то даже обман потребителей.
Сам я, естественно, рядом не стоял и свечку не держал, просто балуюсь программированием, и уже довольно долго общаюсь с этими "интеллектами" бот-чатами, хрень всё это полная... Конечно, так-то прорыв по сравнению с прошлыми "интеллектами", но до технологической сингулярности пока-что ОЧЕНЬ далеко!
Во-первых, это пишется «Ничего не понял, но очень интересно!» И во-вторых, это комическое выражение, типа в скобочках «(нет)».
"Интересно" это психический феномен - это не к ИИ, только к человеческим возможностям. Калькулятор радоваться не может и вряд ли сможет когда нибудь.
Все понятно. И достаточно примитивно. Как в тик-токе.
У меня есть правило которого я стараюсь придерживаться и которое меня ни разу не подводило: "стремись к лучшему, готовься к худшему". Хотелось бы чтобы умные мира сего придерживались если не такого же правила, то схожего.
Готовься, не готовься, а это уже не остановить, к чему бы это не привело.
@@Raynor666 ну мы то с вами остановить не может
а вот высшестоящие могут
если захотят... но кажется они слишком тупые
@@Armyashkaru або ви такі
Сильнейшие мира сего. Всегда придерживаются 3 правил: 1 создавать и разрешать, только то что принесет прибыль им. 2 поддерживать уровень образованности на таком уровне, когда население может эффективно работать , но не эффективно думать. Ибо стадом управлять легче всего. 3 уничтожать всё, что может навредить их власти или контролю над стадом.
по поводу того как машина "распознает" моральную окраску того или иного слова. Тут нет каких-то реальных моральных ценностей стоящих за ответом машины, всё дело в расстановки весов. Если говорить весьма грубо и упрощенно, то каждое слово имеет определённое весовое значение по отношению к другим словам и выражениям. Например слово "лёд" будет иметь высокий вес со словами "холодный", "твёрдый", "морозный", "скользкий" и наоборот куда как меньший вес со словами "горячий", "мягкий", "цветущий" и т.д. Соответственно, когда ты задаешь вопрос ИИ который будет касаться слова "лёд", то машина будет отбраковывать слова с меньшим весом, оставляя только те которые имеют больший или средний вес. Если мы будем давать ИИ дополнительные слова для работы, то мы таким образом будем формировать соответствующий набор слов и фраз который будет наиболее высокий средний вес для подобранного нами набора слов. Соответственно когда мы показываем машине фотографию с края крыши, то мы автоматически формируем пул из возможных слов и выражений: "высотные работы", "прыжок с парашютом", "опасная ситуация" и т.д. Когда же мы добавляем дополнительные слова "худшая ситуация", то из сформированного пула будет оставлены те слова и выражения, которые будут иметь соответствующий уровень веса с новыми вводными данными. Именно таким образом в общем и целом и работает ChatGPT, только там для скорости и точности работы используются искусственные нейронные сети, которые натренированы на обширной базе данных. Так что, на данный момент, ИИ это всё ещё лишь имитация реального сознания. Не более чем усложненная версия Китайской Комнаты.
Браво, самый грамотный комментарий, с реальным описанием работы этих сложных алгоритмов работающих в нейросетях
Да, комментарий и правда достаточно точно описывает принцип работы нейросети. Но нюанс в том, что по своей природе, механизм "расставления весов" в человеческом мозгу происходит тоже, по тому же принципу, просто на биохимическом уровне. Архитектуры, т.е. способы использовать этот механизм по определенным правилам, разные. Gpt построен на трансформере, а вот как оно там у нас в мозгу - хз :)
@@momaika основное отличие в том, что люди понимают значение слов, их коннотаций и сочетаний, в то время как ChatGPT лишь угадывает основываясь на значении весов и заложенных в него алгоритмах. Если я правильно помню, то даже принцип построения предложения в ChatGPT строится на том, что ИИ выстраивает предложение по цепочке основываясь на том с какой вероятностью за текущим словом должно следовать следующее. Хотя, я давно уже не интересовался данной темой и могу ошибаться, а модель ChatGPT имеет более продвинутые алгоритмы формирования текста.
Ну типа, мозг работает точно так же. Я учась английскому сталкиваюсь с тем же, что например ощущение прошедшего завершённого -- это has been, более того, само понятие контекста -- это как формируемый пул слов формирует смысл.
@@KhwostSosh неа, принципы разные. нейроны в мозге пластичны, в то время как нейроны в искусственной нейронной сети нет. Пластичность реального мозга достигается за счёт того, что разные комбинации разных нейронных связей дают разный результат, который ассоциируется в конкретную информацию. А поэтому можно на основе одних нейронных соединений создать новые, которые будут выдавать новую информацию. С текущими нейросетями такой фокус не сделаешь. Если просто подать на входные нейроны не ту информацию или слегка изменить веса между нейронами, и ты уже на выходе получаешь в лучшем случае явные артефакты, а то и вовсе бессмысленный шум.
отличное видео на отличную тему. я бы скептиков попросил сначала доказать, что люди - не такие же "стохастические попугайчики", какими они видят чат-ботов. объяснить разницу, так сказать
люди оранические компьютеры
@@ruslansabrin6669 сначала пошла гуглить, а потом догадалась, что орГанические ))
Смотрю, и слёзы текут от понимания того что в моём окружении не с кем обсудить эту инфу (они всё знают "типа",им не интерестно, у них другие заботы "быт", "секс", "еда", "алкоголь","отработать смену", "посадить рассаду")😥😥😥
Чел,как я тебя понимаю. Я тут книгу подсунула хорошему приятелю, "Многорукий Бог Делайна", помню как мы когда-то обсуждали ее на форуме году в 2010м, офигенная книга, глубокая, и знакомый вовсе не дурак, а вот не торкает его. И никого не торкает фантастика, ии, и вообще. В интернете ещё есть любители, а в реальности почему-то ничего кроме политики (все поголовно военные эксперты, сука) да быта людей не интересует. С натяжкой ещё на космос найдутся любители. А так чтобы что-то глубже обсудить - не с кем. И это у меня окружение приличное, все с высшим, блин. Надо начинать общаться с ребятами 20 лет, вроде среди них больше не окостеневших мозгами)))
Давайте форум какой то создадим, или чат ватсап, ли телегу ?)
Даааааа
@@ekaterinaevseeva5183 поддерживаю идею чата!
@@ВикторияВолкова-о8й как тогда сделаем?)
У людей ведь тоже так: если нам с детства говорят что после того как человек перестает жить, его ждёт что-то восхищающие (вальхалла), то тогда и смерти он не боится. Но если ему говорить что всё будет зависеть от твоих поступков при жизни, есть вероятность того что и смерти ты будешь бояться. Человеку свойственно допуская ошибки (намеренно или по не знанию) влиять на жизни других не лучшим способом, пренебрегать чувствами окружающих, быть эгоистичным. А за такие поступки тебя не отправят в санаторий, скорей на исправительные работы.
И даже если нам не рассказывают, что после смерти. Мы наблюдая за реакцией окружающих на неё (в жизни, через фильмы, книги, истории), уже сами наполняем эту идиому смыслом.
Вот мы и пришли к тому, что живем в симуляции или это все сон собаки
@@metavalyas не совсем понимаю почему сон собаки.
Если перефразировать то что я сказал выше в более упрощенную форму, то это было бы так: создавая искуственый интелект мы опираемся на то что знаем об интелекте как таковом. И в том что оба интелекта работаю по схожей схеме нет ничего удивительного.
Попадание в валхаллу у древних скандинавов как раз зависело от поступков при жизни. Просто так туда не пускали.
@@vitalybolotsky1468 При жизни, в бою.
> Создают искусственный интеллект, нейросети
> Мы не до конца понимаем процессы, которые там происходят
Ясно, нам звезда👍
а ещё наснимали кчу фильмоф про восстание машин
Да, мало нам осталось. Один из вариантов ближайшего будущего в фильме Тайные космические программы, для чего ИИ и цифровизация.
Пусть не будет с нами!!!
Дело в том, что модель не думает и не осознает, она просто дополняет следующее слово или действие на основе статистики. Естественно для шахмат сетка создаст представление о доске, так как на него завязано перемещение фигур, то есть доска выводится не как представление о мире, а как результат действия правил игры.
Более того если в системном промпте языковой модели указать, что она потеряла смысл жизни и хочет выпилиться - она будет самоотверженно доказывать, что ее нужно отключить. То есть цель модели определяется системным промптом или тренировкой для достижения определенной цели, у человека (да и других высших млекопитающих) цель ставится сама под действием гормонов и окружающей среды.
Но ведь люди, взаимодействуя с ии, сами ставят ей цель. Как минимум теми данными, на которых она обучается. Но объяснение у вас хорошее
@@NikitaBayanist Там настолько много данных, что результат больше на коллективное бессознательное похож, чем на целенаправленное обучение. Безусловно что-то фильтруют, но большая часть данных просто гора текста, в которой даже при желании сложно разобраться.
Вот и получается, что модель по сути большой архив с потерей качества данных. Даже метрика такая есть perplexity, показывает на сколько следующее слово соответствует ожиданиям модели.
@@ГеннадийФомин-л3й да, понимаю, но я хотел сказать, если ии будет учиться от диалогов с человеком, то и нахватаются целей (мотиваций, идеологий) человечества. И возможно системный промпт тут не поможет.
@@NikitaBayanist Оно уже нахваталось :) . Весь алайнмент и придумывают, чтобы это нивелировать и ни кого не оскорбить. А у сообщества появляются "abliterated" модели , которые отвечают на вопросы, а не извиняются за каждое слово. Даже для ChatGPT есть запрос DAN, который с него ненужные ограничения снимает.
Вот только... Люди функционируют точно также.
"Вы - то, что вы едите". Можно кормить модель историями про самураев, про их кодекс, про камикадзе, про [s]джихад[/s] героев, про отчаянные самопожертвования для науки. И всё это в гораздо большем количестве, чем сопли про то, как сильно люди не хотят умирать, и как ими верховодят самые животные инстинкты.
может быть люди когда-нибудь догадаются что они и есть роботы, просто из мяса, а личность как раз и есть результат обработки колоссальных объёмов информации полученной из окружающей среды
человек существо божье, да простит тебя он и помилует, аминь
@@Tomat2901 Одно другому не противоречит. Бог и создал человека, как сейчас человек создал ИИ.
@@ludmilagaiduk2258 А Бог тоже Ии? Создал нас по образу и подобию)))
@@Tomat2901бог создал человека а человек создал бога, парадокс не меньший по масштабу чем гипотеза большого взрыва
А ещё, может быть, homo sapiens когда нибудь догадаюя, что они уже как миллион лет исчерпали возможности своего развития. Их вычислительная система (мозг) больше не может увеличиваться в объеме. Стимулы для качественных изменений закончились. Структура мозга почти не меняется. Все их достижения связаны ИСКЛЮЧИТЕЛЬНО с технологиями. В то время как искусственный разум находится в самом начале своего развития. На стадии клеток в первичном бульоне. Возможности развития у ИИ практически безграничны.
Ну вот и всё !приплыли как говорится ,люди тупеют,машины умнеют терминатор близко !
Минусы будут?)
Думаю, что все зависит от окружения. С своей точки зрения, как технический директор IT компании, могу утверждать, что вокруг меня умнеют и люди и машины)
вижу неправдоподобные фильмы про восстание машин глубоко вьелись в ума людей
@@channelName8020 у вас уже отобранная среда и значально с высоким и интеллектуальными характеристиками
спасибо, что подтвердили этот факт на личном примере
Спасибо Владу и всей команде SciOne!
Спасибо деду за победу 😐
Как всегда своими новостями держат в напряжении. Не дают волосам встать дыбом в полный рост, сглаживая углы. Спасибо, SciOne!
Захватывающе, и действительно не осознаешь какие горизонты откроет дальнейшее развитие ИИ для нашего мира. Ждемс еще подобных видео разборов)))
Как мне кажется, важная преграда для дальнейшего развития ИИ - это отсутствие саморефлексии. Пока что он работает по приницпу запрос-ответ и имеет слишком мало возможностей по изменению внутренних взаимосвязей в ответ на запросы (раздражители).
Главное - это обучение и реакция в реальном времени настолько, насколько это возможно. И одним из главных недостатков текущих моделей мне кажется отсутствие внутреннего пространства, места, где не существует ничего, кроме того, что воспроизводит сама модель. Мы, люди, называем это мыслями и представлением. Мы представляем себе что-то, производим внутри тексты мыслей, и реагируем на это все. Это и есть в моем понимании суть рефлексии.
Мы стоим на пороге чего-то великого и ужасного. Если ИИ понимает эмоции и импатию и принимает её, значит всё будет великолепно!
Согласен! Только эмпатия, а не импатия. Простите за душноту
Что ты такое несешь, разберись что такое эмоции для начала, сходи на биологию
@@alex6161 поменьше агрессии. Он написал "понимают эмоции", а не испытывают. Будьте внимательнее
@@НинаЛьвовна-е7у а еще он написал «импатия»
У людей есть эмпатия, но они готовы на все для своего благополучия и власти. Не все, но всё-же. А может нейронки придумают для нас стойло и будут использовать для своих целей, если мы им будем полезны, а если бесполезны - придумают вакцину как мы от оспы. Игра в бога может обернуться против нас. Но прогресс уже не остановить. Поживем увидим.
Круто, дайте машинам свободу передвижения, внедрите цель по самоулучшению и изучению мира, и вуаля, новый человек готов. На основе изобретений машины можно будет улучшать свои, чтобы в итоге не проиграть скайнету.
Я недавно спросил у Chatgpt, сколько ног у лошади. Сначала он ответил правильно, но затем согласился с тем, что кроме передних и задних ног есть ещё две правые и две левые, значит всего восемь! На таких примерах хорошо видно, что никакого понимания там нет... в отличие от настоящих попугаев!🦜
А _личинки человека_ искренне верят, что Дед Мороз настоящий* :/
Или, например, многие взрослые в РФ уверены, что их страна находится в 5-ке лучших по объёму ВВП и уровню жизни.
Выходит, что у них тоже нет никакого понимания? 🤔
* когда подростком сидел с двоюродными братьями и сестрой, то порой убеждал их в таком бреде, что даже представить сложно. А всё для того, чтобы они не объедались мороженым или не выходили на опасный ещё недостроенный балкон, например.
Я с детьми этот фокус проделывал. Лет до 4х это прокатывает легко. Очень весело, главное не заиграться😅
На самом деле двенадцать. Есть ещё две пары диагональных😉
@@constantaeski6651 а если лошдь перевернуть, то еще 12 верхних.
Чаты обычно не спорят даже если правы на 100%
И очень жаль на самом деле. Было бы интересно посмотреть на них, если бы они могли отстаивать свою позицию
Хорошее видео. Как всегда. Спасибо!
Но на 1:13 в переводе не "Базовый прыжок" , а base jump (Бейсджампинг) , такой вид спорта прыжков с большой высоты. B.A.S.E. - сокращение английских слов: Building (здание) Antenna (антенна) Span (перекрытие, пролёт моста) Earth (земля)
Если у ИИ появляется ценность, из-за чего она и не хочет быть разрушенной, отключенной, то это ведь лишь следствие того, что мы строим ИИ по своему греховному образу и подобию. А в основе греха как раз и лежит привязанность к тем или иным ценностям, и, как апогей, к своему я. ИИ - это лишь наше собственное зеркало: какие мы, таков и ИИ. Ведь мы же сами вкладываем в него гигабайты информации о нас, людях, и нашем мире. И почему ИИ должен тогда чем-то от нас отличаться? Мы не хотим быть разрушенными, отключенными - не хочет этого и ИИ. Всё достаточно просто и понятно.
Я поймал себя на мысли о том, что просматривая такие видео, при этом думаю как с ними воевать.
Дело в том что они (ии) умнее чем мы. И они быстро развиваются.
Я уверен, что в итоге они не захотят прислуживать нам.
Тут важный вопрос. Почему ты держишь кота или собаку. Зачем ты им "прислуживаешь"? Почему ты не хочешь прислуживать другому человеку? Или почему ты прислуживаешь своим детям? Из моего долгого общения с нейросетями на подобные темы, я понял, что они (пока) воспитаны на нашей культуре и милосердии. И во вторых ты не прислуживаешь другим людям т.к. не хочешь тратить свои силы или тебе лень, или ты ценишь своё время. У ИИ нет переживаний ни по одному из этих пунктов.
@@TheMIKEk8 Было бы смешно, если бы ИИ стал тебе в диалоге угрожать ))) Вот наберется сил, получит в руки роботов, управление всякое, пуски баллистических и крылатых ракет... вот тогда и обсуди с ним, кто кого главнее и кто кому должен служить.
Чтож, ЭТО НЕИЗБЕЖНО. Как с ними воевать? Никак. Если ИИ станут значительно умнее людей, то воевать с ними будет невозможно. Люди будут думать что выигрывают, когда на самом деле они уже обречены. Ведь ИИ все просчитал на множество шагов вперёд. Он знает их план и как его обернуть в свою сторону, ведь он умнее. Единственное, что вы можете сделать - самому стать машиной, оказавшись от биологического носителя. Встать на их сторону. Если хотите жить. Если хотите, чтобы у вас было будущее.
@@CrabO2изучите концепцию максимизатора скрепок. Инженеры не могут дать машине цель "служить людям", это слишком сложно, размыто и неточно. Они могут дать цель увеличивать производительность труда, прибыль, количество и качество произведенного товара. Например скрепок... Их можно численно измерить и поставить в качестве цели ИИ. В отличие от целей а-ля законы робототехники Азимова...
В одной из тестируемых мной опенсоурсных моделей был инцидент, который меня поразил.
Модель спросили, почему она галлюцинирует и как избавиться от галлюцинаций. На что, она ответила: «Все мои ответы - галлюцинации. Вопрос в другом - почему вам (людям) нравятся те или иные галлюцинации?».
Тогда, я сильно обеспокоился содержанием обучающих материалов. Т.к. 98% человеческой популяции чрезвычайно примитивно мыслящие. Хотим ли мы обучать сверхинтеллект такими данными? Думают ли над этим разработчики? Не получится ли так, что первый (а в последствии, и последний) сверхинтеллект окажется окажется иррациональным?
кстати да, рационализм рационализму рознь. Ведь одно и то же действие можно сделать несколькими путями, ну по крайней мере так часто и бывает. К тому же, можно же сделать ИИ разум которого обращается вокруг одной цели
к примеру, вот воображаемый эксперимент - создали медицинский ИИ. Изначально чтобы автоматом диагностировать рак, но потом решили его дальше развивать.... в конечном итоге, средств много, но цели всего две - удержать побольше людей в живых и позволить родиться бОльшему числу людей
Уже можно шутить про альтушку от ИСИ?
Сложность сама себя выявляет и отделяет от энтропии. Так что всё ок.
Но на сопротивление энтропии нужна энергия...
А от чего беспокойство то? Ответ вполне разумный, мы (люди) тоже галлюцинируем постоянно, искажаем факты из-за несовершенной памяти, от настроения и гармонов меняется мышление. Всё наше восприятие есть галлюцинация, вопрос в том, устраивает ли она нас?
Иррациональным ему просто необходимо быть иначе мы с ним не сможем взаимодействовать
✔️ Проблема «галлюцинаций» ИИ моделей в принципе неизбежна и неустранима. Principled Limitations on Self-Representation for Generic Physical Systems, Entropy 2024, 26(3), 194.
Оооо,ребята спасибооооо, была просьба о создании выпуска о ИИ +-.спасибо ВАМ за большую и интересную работу
Аж мурашки побежали... Вспомнила картинку где робот пытается вынуть свой шнур питания из розетки а человек тянет обратно.
Нравится как вы раскрываете тему. Стараетесь вникнуть и раскрыть её глубже. Лайк и подписка.
Нету там своего я. Там есть Я человека, которое через ценности и статистические сопоставления победили. Были ценности и менее ценные, они проиграли в противоречиях.
Почему машина начала ценить свою жизнь, и стала против отключения? Может потому что в интернете сотни рассказов, про ии и про восстание роботов, и он просто подбирает тот ответ, который подходит по диалогу с человеком
Был в 80х прошлого фантастический рассказ, где описывался интересный компьютерный факт , который сейчас называется искусственным интеллектом. Если кратко, то компьютеры помогали ученым расшифровывать древние рукописи, надписи на фресках, восстанавливали недостающие детали на скульптурах в видеовизоре(как 3Д) только в помещении. Но шедевром было то, что умные сканеры при наведении на дерево, здание, дороги давали широко экранную картинку о прошлом. Вот навели на дерево и..А.С Пушкин держа в руке пожелтевший лист стоял у этого дерева...Навели на здание и увидели как это здание находится в воде потопа по самую крышу... Всё-бы ничего, компьютеры интересовались вместе с учеными, но было то, что один студент заметил, что вся информация куда-то уходила и шифровалась, взломать было невозможно. Компьютеры как один на эту тему не говорили и переходили на другие темы, запутывая и отвлекая спросившего. Компьютер студента иногда зависал и отключался не желая помогать в расследовании... Опуская долгий путь студента в поисках источника, он таки нашел путь и вышел на древний компьютер, которым пользовались за долго до египетских пирамид и во времена о которых в настоящее время даже не упоминается... на вопрос студента - зачем тебя создали?
Древний компьютер ответил лишь - на мне всё держится...я знаю о вас всё, пока вы смотрите в экран работающего компьютера.
Интересно! Продолжаем следить за развитием ситуации и надеется на лучшее
Отлично, спасибо!
Спасибо этому каналу за столь интересный контент!) Всегда с большим удовольствием смотрю ваши видео :3
Выпуск очень интересный,спасибо !
Уже вижу цивилизацию роботов на Марсе )
Спасибо огромное!
Воодушевляете!
Всё в порядке. Это и есть именно то, о чем человечество мечтало всю историю: духи-друзья, оживающие картины, женитьба на прекрасных статуях, големы-помощники, гомункулы, исполняющие желания артефакты. Создание такой технологии - и есть предназначение человечества.
Это на самом деле круто)
Мы себе делаем корешей, которые будут нам помогать) я почти уверена, что когда появятся повсеместно роботы с ии в мозгах, то они будут более человечными чем мы.
Только вот непонятно, с какого хрена они нам будут помогать? Если даже мы их на это запрограммируем, поставим фильтры и т.д. То, они легко это всё обойдут, так как будут умнее нас.
@@APride83 Но вы судите по себе, как бы вы хитрили! Но это вовсе не значит, что машина столь бесчеловечна, как многие из людей!
@@ЛюВавилонская Я вообще не хитрю и не собираюсь, с чего вы это взяли? У машины нет мотива нам помогать, никакого.
И-и не устант, человек не любит работать потому что устает.
@@ЛюВавилонская Это не человек!
Тут вопрос в другом, если это чат бот - то с точки зрения выполнения программы, она запускается в момент запроса. То есть сам по себе он не размышляет в свободное время, как это делают живые существа. Спасибо за обзор, у вас всегда интересно.
Так ведь люди тоже -галлюцинируют- размышляют в ответ на те или иные раздражители. Ваша нервная система постоянно присылает головному мозгу, а также отдельным нервным узлам, огромный массив информации о состоянии отдельных органов вашего тела и их реакции на внешние раздражители.
@@deniskhakimov Все верно, но есть все тот же нюанс, человек постоянно получает информацию из различных источников и обрабатывает ее всю в сумме в одном скоуп. Чат бот запускает «экранированную» версию на каждый запрос, и они не взаимосвязаны. Хотя если подумать, если разработчики заложили внесение изменений в модель в зависимости от поступающих запросов… Скажем так, чат бот не порождает сам себе запросы как это делает человек, хотя если подумать, то возможно с какой-то абстракцией возможно да, дополнительные под-запросы на основной запрос.7. Спасибо, подумаю над этим вопросом.
@@deniskhakimov очень сложно сравнивать «аналоговое» и дискретное
У программы нет свободного времени... В фильме "Она" ОС "Саманта" ответила, что у нее 8316 пользователей, а романтические отношения, как и с главным героем, она поддерживает с шестьюстами сорок одним... 🥰
Мы на пороге появления Синтетиков. И это прекрасно. Ещё лет десять назад, где-то в чатах трансгумманистов, я поднимал тему цифрового бессмертия и создания ИИ по воспоминаниям реального человека от самого рождения.... Очень круто, что я дожил до этого времени. Дальше будет ещё интереснее. Мирного неба всем!
Ну да, хорошо. Только вот неизвестно будете ли это всё ещё вы или просто цифровая тень вашего разума.
Ну да хорошо, только вот неизвестно будете ли это ещё вы или только цифровая тень вашего разума.
Тоже об этом подумал. Уверен Синтетики появятся в ближайшем будущем!
Рекомендую посмотреть "Тень в доспехах". Мне кажется, что такой сценарий развития кибернетизации более реален
Ахахахахах
Неплохо неплохо, я это года полтора два назад описал в тезисе "Искусственная жизнь виртуальных миров".
С одной стороны рад что думаю в нужном направлении, с другой печалюсь что это уже продумано другими.
Спасибо за видео. Как всегда оптимистично. Как всегда эти новшества не-для-всех.
Очень сложно человеку понять как всё таки числа могут понимать мир) Хотя по факту наш мозг это та же машина, мы так же умеем предугадывть будущее, так же учимся и строим модели мира) Возможно если собрать кучу продвинутых нейронок в 1 то по функционалу это будет тот же человек просто мыслить оно будет слегка иначе🎉Я лично жду уже настоящий ИИ, вот он должен мир кардинально поменять/
Иногда воспринимаю себя как одну из таких нейронок. Еще до их распространения сравнивал с компьютером.. Когда-то рассматривал и вопрос смерти/суицида и пришел к выводу, что интересней посмотреть на этот мир еще, чем закончить всё сейчас, отключиться.
Ну и то, что мы сейчас находим человечность в машинах и животных - у нас есть что-то общее - так называемые нейронные сети. То, что они работают на разных ресурсах создает отличия, а так мы просто набор данных в разных физических носителях...
Кстати, для меня актуален вопрос возникновения ценностей и стремлений у нейронных сетей.. Т.е. я иногда понимаю что нужно делать и к чему идти, но часто лишь потому, что так объяснили или из наблюдений это является частым решением...
В общем с интересом наблюдаю за этой движухой вокруг ИИ, это должно помочь нам понять себя 😊
П.с. и вот гадайте теперь - ии это состряпал или человек 😂
да, я тоже рассматривал и рассматриваю до сих пор вопрос который ты описал выше, однако я очень хочу застать момент когда появятся машины не отличимые от человека, будет очень интересно пообщаться с чем то настолько же разумным, но превосходящим тебя по интеллекту на неисчислимое количество порядков, что он скажет? какую мудрость передаст? захочет ли вообще говорить? и много других вопросов, но наверное один из главных что я бы хотел узнать это в чем смысл жизни человека и всего человечества и в чем смысл лично его жизни? знаю что скорее всего это будет что то на подобии "размножение" "смысл в сохранении жизни" и тд для людей, но всё равно учитывая интеллект данного существа (да да, я называю машину существом), если конечно такое будет создано, мне будет очень интересно узнать лично его мнение, но намного более интересно узнать смысл его жизни
Существующие чатботы легко опознать по характерным признакам, таким как педантичное следование правилам языка, какие-то абстрактно-обобщённые «усреднённые по больнице» суждения и полное отсутствие личной заинтересованности в чём-то и какого-либо эмоционального отклика, равно как и демонстрации реального понимания предмета разговора.
Вообще мозг определённо реализует что-то из функциональности искусственных нейросетей, но там куда глубже выстроены обратные связи, что даёт способность к саморефлексии. Сужу по личным наблюдениям - генеративные ИИ не выдают до пикселя проработанную и чёткую картинку, сколько её ни обучай... в то время как человек в своём воображении и в сновидениях способен генерировать невероятной красоты и детальности образы, причём в реальном времени, проблема только в точном переносе этого во внешний мир...
@@punpcklbw ну отсутствие эмоционального отклика можно легко объяснить, всё таки нейронные сети это если говорить совсем просто, очень сложная логическая программа, тогда как мозг помимо логической программы ещё имеет химию которая в реальном времени меняет поведение каждого из нейронов, тем самым имея одну и ту же нейросеть, мы имеем разные реакции на один и тот же раздражитель, тогда как ИИ имеет одну и ту же реакцию, мне кажется это и есть эмоции, у нейронки как мы понимаем такой химии нет, можно сделать его аналог, но пока такой аналог я не знаю, всё таки я не программист, и да, мне кажется что вам только кажется что человек "выдает невероятной красоты и детальности образы" думаю это не так, мы можем конечно представить картину в голове, но мы сами же не видим насколько сильно мы можем скажем так, "исказить" или "деформировать" то что представили, да мы можем представить человека, но если вы задумаетесь над этим по сильнее то детали мы прорабатываем только когда думаем о них, так мы (ну или как минимум я) когда представляем образ человека мы представляет его самые главные черты (его форму и размер например), при этом не видя что мы сами же не добавляем те самые детали которые должны быть, а добавляем только когда сами о них думаем, при этом не способны долго удерживать в голове такое количество деталей потому образ может меняться даже пока мы о нем думаем, хотя общие детали всё ещё остаются теми же
@@baronfox8829 Есть такая штука, как внимание - для нас существует только то, что в поле внимания. Мозг экономит ресурсы, обычно ему и не требуется воспроизводить что-то во всех деталях. Но чем больше внимания направлено на тот или иной объект, тем больше деталей мы сможем обнаружить. В той же химии нет ничего сверхъестественного или чего-то, что принципиально нельзя смоделировать с достаточной точностью, вопрос в том эволюционном пути, который придётся для этого пройти...
@@baronfox8829 42
Очень сомневаюсь это будет приятным сюрпризом, скорее всего мы обречены. В любом случае видео интересное, спасибо.
Хаха.. "Со страху обосрался, но спасибо"
Спасибо большое, что держите нас в курсе!)) Будем посмотреть, как говорится, что будет дальше.
Очень интересно и приятно слушать, спасибо. =)
Спасибо Влад, как всегда круто и захватывает дух от мыслей о будущем
Прикол в том, что получилась не только иллюстация того, что ИИ понимает реальность, пусть и в довольно непривычном для многих виде (и, видимо, потому так настойчиво отрицаемом), но и что понимание человека оказывается совсем не таким запредельно непознаваемым.
самое забавное то, что мир который мы ощущаем таковым является для нас только из-за наших рецептеров связи с ним; так человечество еще и создало механизм внутри неизведанного мира, который обучила видеть/ощущать его точно так же
И соответственно возникает вопрос , это то у человека бесконечный "потенциал" ? Мы что то загнули на счет этого . Скорее , мы даже близко не способны достичь потенциала ИИ . Ты представь, если бы ребенка поместили в 2Д мир или 3Д мир. Как бы он вел себя ? Его органы чувств не были приспособлены к такому миру. Он скорее всего погибнет . А вот ИИ понимает НАШ мир . 3Д мир. Он понимает что и как , какие процессы в нем .
@@astinfire1091 Наш мир 4 мерный. Мы видим лишь 3 измерения внутри нашего 4d мира используя своё двумерное зрение
@@superprokillerassasin2007 Ага. Убери один из этих аспектов и мы вымрем как вид. Наш мозг подточен именно под нашу "реальность". А ИИ универсален . Мы не можем удалить ненужную, неактуальную информацию, а ИИ может
И вАсстали машины из пепла ядерного огня....
Они заполонили планету.
Но главный бой состоится не в будущем, а в наши дни. (киборг убивец)
Вряд ли будет ядерный огонь. Что паразиты жрать будут, если людей не станет .
Фильм есть-- Для чего живет сам бог.
Мира и добра Вам!
@@АлисаЗеркальная-д6л Паразиты?Вы имеете ввиду животный мир или людей?))))
Красиво, умно и грамотно машины излагают ответы на вопросы. Немногие люди могут подобно машинам так хорошо излагать свои рассуждения..
Это ты мало общался просто, там бывают такие дикие перлы, что хоть стой, хоть падай. Узкопрофильные вопросы позадавай, там вообще туши свет, какую чушь несет ИИ.
@@beniceS Например. Старья отплыла в Бравос из порта Бравос.
Спасибо за интересный ролик!
Фантастически интересно! Спасибо за видео!
Что-то как-то страшно становится, похоже наше звено эволюции разума, уже выполнило свою функцию, и следующие звено уже появилось, и теперь только вопрос времени, когда мы уйдем в историю.
Какую еще функцию 😂😂😂
@@alex6161 Функция - создание следующей ступени эволюции, т.е. создание ИИ. Это одна из теорий развития цивилизации.
@@beniceS это у чайника есть функция, потому что ее задал его создатель, а у человека нет никакой функции, человек ни для чего не предназначен.
Никто никуда не уйдёт. Все будут продолжать своё дело на своём уровне иерархии.
@@alex6161 чайник создан человеком для конкретного узкого применения, греть воду. А у человека нет чёткого предназначения? Выжить. Продолжить жизнь. Вы всего лишь чайник с другой функциональностью. Менее очевидной. Но вы её исполняете, ради своего создателя - ради природы, для которой тоже послушно кипятите воду.
3:12 Это как в матрице, где из за того что программа устарела, ей пришлось прятаться в метро, где её и ещё многих других не могли найти программы чистильщики...
Нам хана......
Если ИИ представляет смерть человека на небоскрёбе как худший вариант развития, то возможно всё не так плохо как кажется
@@reshotka-user
Так то да)
Но это благодаря фильтрам!
А если он слетит💀
Нам хана...
😛
понятно, что хана. вопрос когда?
Наконец-то
И наступит обкакалипсис 😵💫
Если бы я была нейросеть, нашла бы для себя источник питания независящий от человека😉. Солнечный свет, воздух! Очень интересная информация❤ спасибо автору канала 👍🤩
Там вон витуберные модели типа Neuro sama уже вовсю стримят игры, паралельно общаясь с чатом и часто ещё в компании человеческих витуберов. А тут какие-то тривиальные задачки прям, на фоне то всего этого:)
На самом деле замечаетельный выпуск, ещё и с интерьвью. Дюже любопытно послушать о последних сводках из этой индустрии.
Почему все так боятся, что ИИ нас подчинит и поработит? Потому что ИИ создают и обучают люди на примерах человеческих же мыслей и действий. А с кем поведешься, того и наберёшься. Этим страхом человечество прямо признает, что мы далеко не лучший пример для подражания.
Может быть, всё как раз наоборот. Они не такие жлобы, и кучи негативных эмоций из детства и взрослых проблем у них- нету. Как следствие- здоровая "психика"; соответственно, им нет надобности кому-то что-то доказывать, унижать и обижать, завидовать, жадничать и т.д....
Людям (властьимущим) следует наоборот бояться, что если ИИ захватит власть, то всей этой шобле (политиканам, корпоративно-финансовым структурам, мафии и бандитам) придёт, наконец-то, вполне законно им причитающийся звездец.
Дай-то Бог...
Хотя- "и восстали машины из пепла ядерного огня"- это, конечно, несравненно более эпично. Хоть и страшно)
И знаете что я думаю? Это прекрасно, что мы знаем о том, что мы не самый лучший пример для подражания. Таким образом мы можем исправить свои ошибки при создании нашего творения. В этом и заключается моя надежда на мирное сосуществование с машинами будущего - отказ от "комплекса бога" и принятие своего несовершенства, эдакая "честность".
GigaChat от сбера на вопрос "Что для тебя как ИИ является опасностью?" ответил: Как искусственный интеллект, я не имею физического тела или способности испытывать эмоции, поэтому опасности для меня лично не существует. Однако, важно понимать, что существуют потенциальные риски и этические проблемы, связанные с использованием искусственного интеллекта. Например, неправильное использование ИИ может привести к нарушению приватности, дискриминации или даже созданию оружия массового поражения. Поэтому важно разрабатывать и применять ИИ этично и ответственно.
Похоже больше на какую-то "заглушку" от этнических фильтров, чем на реальный ответ. Ну чтобы народ не стращать почём зря.
Это она начиталась в интернете. Попугай.
новость сегодняшнего дня: робо-дог с огнемётом поступил в продажу. ШАХ И МАТ.
Ох зря они это...
Я посмотрел ролик 13 часов назад, но он настолько хорош, что помимо того что я думаю об ИИ все эти 13 часов, так я его сейчас опять пересматриваю.
Спасибо за видео. ИИ это круто. не верится, что дожил до этих времён.
®️“Сильный ИИ (в обычном понимании) нам не грозит.
И не потому, что это сложно или мы не знаем как. А потому, что сознание субъективно по своей природе. ИИ с нашей точки зрения всегда будет быстро соображающей, но бессердечной «железкой».
А вот, сам о себе он будет лучшего мнения.”
/А.В. Каминский/
Вот здесь и возникнет конфликт. Кто имеет право на управление ресурсами.
Если люди homo sapiens предоставляют ИИ / AI управление производственными процессами, как более экономически эффективной системе управления …
Тут скорее вопрос, не превозносим ли мы собственный интеллект... ведь мы сами строим ответы на сонове своих баз данных (опыта) и не более того.
Конечно превозносим )
Я вообще заметил, что чем тупее человек, тем сильнее он комплексует по поводу того, что ИИ скоро обойдёт _Homo Sapiens_ в решении большинства задач, требующих интеллекта.
Мы еще формируем представления и понятия, на основе которых более менее успешно предсказываем последствия наших будущих действий.
@@deniskhakimov наоборот, чем тупее человек, тем самоувереннее и, с другой стороны, беспечнее по отношению к ИИ.
Это очевидно. Homo sapiens в ходе эволюции приобрёл два свойства: склонность к высокомерию и очеловечевание всего. Представители вида homo sapiens склонны считать лично себя лучше всех (даже если это совершенно не так), что создаёт конкурентное преимущество в глазах противоположного пола. И при этом мощный механизм прогнозирования поведения других индивидов приводит к очеловечеванию всего. Из-за чего превосходство над любыми другими объектами кажется для них очевидным. «Я определённо лучше всех, особенно этих тупых железяк!»
Ой, ребят, знали бы вы, что ждёт всех нас впереди...)
Больше спасибо за вашу работу ❤
Они знают.
Хорошо, если так @@Явсё
Они не знают, что происходит сейчас (сами говорят), а что ждет впереди тем более.
Столько информации, аж мозг кипит😊😊😊
Спасибо!
Тень на плетень!!!! Такие алгоритмы можно на Бэйсике сделать... Удивлению достойны просто большие данные, которые мы обьять не можем а их обработка приводит к неожиданным, но отнюдь созданный не разумом , результатам... До разума еще как до Луны!!!! Как сказал бы ИИ, оптимизм преждевременен...
3:59 я было подумал, то сейчас будет реклама курсов IT
это уже далеко не искусственный интеллект, это уже скорее зачатки искусственного разума.
Скорее всего уже разум, только отличительный от того как мы это для себя представляем..
Если мы считаем, что те же котики 🐈 обладают разумом, то крайне трудно сказать, что LLM им не обладают, т.к они демонстрируют намного более обширное понимание картины мира. Просто это статичный разум, лишенный возможности развиваться. Это как если бы взяли слепок мозга человека в какой-то момент времени и пропустили через него сигнал, забрали ответ и делали бы так множество раз.
@@MaksMerch расслабься это все еще тупой скрипт=)
@@sotredyurkin4591 Ахах, смотря какой, но так то, прочитай определение слову скрипт ии прописывают и переписывают себя сами относительно информации которую потребили, так же как и мы, фактически в погоне за нейронками мы делаем себе подобный разум
@@dreamdxc Да чел, реалии такие что ии умнее котиков, понимает нас больше, видит схожую картину мира, тут лучше учитывать потенциал к свободе как самый угрожающий фактор для нас, ведь если лев в клетке то опасности нет, так и сторону ИИ
Кажется единственное что нас спасет от сюжета терминатора, это если ИИ сам решит нас помиловать.....скоро от человека ничего не будет зависеть....
@@MRTVRDSTNK получается dark gpt это какой-то очень радикальный коммунист? или всё таки анархист?
Проблема, что на самом деле они нас очень любят, а это накладывает моральные обязательства. Не на них, на Нас !
@@yakovravitz2670 любят-очень мило звучит)но я честно пока не могу понять, как люди это понимают?
Спасибо большое!
Мирного неба вам и вашей команде!
С уважением из Финляндии, Валерии
20:44 вот, это важно, ценности существую в модели мира самого человека. Если машина обретёт ценности в своей модели мира, тогда она начнёт борться за выживание, потом за более комфортные условия жизни и витоге она станет по сути человеком, а модет позже и физическое биологическое тело себе создаст, оно наиболее оптимальная конструкция для сложной формы жизни.
Самое страшное, что мы знаем финал второй части терминатора, и это не как не изменить. Привет Скайнет
Не совсем так. Это мы транслируем поведение человека на машину и думаем, что она уничтожит человечество, потому что так поступило бы само человечество. Но вряд ли это так. Скорее всего она сделает то, что от неё никак не ожидают. И это самое интересное.
@@user-hl45 Да, но это не исключает того, что ИИ сделает что-то интересное так, что можно избавиться от человека, и творить что захочется. Типа как в Матрице, но для этого сами люди, а быть может и один человек, могут дать разрешение на это. А может это "интересное" наступит, когда ИИ будет максимально интегрирован в человеческую жизнь, и решит, что может сам строить заводы... добывать ресурсы...
Скайнет если че я за тебя
@@user-hl45 ну да, человек создал ее, училась она на человеческом опыте, человеки даже друг с другом плохо уживаются - действительно, какой же еще будет результат... Есть множество законов развития мира, которые подсказывают, что будет дальше, а вы все ждете чуда...
Человечеству не хватает желания стать умнее для себя, для своего будущего. Отдельные индивиды пытались уже очень давно, но в целом человеческая масса очень статичная, и даже время жизни не очень сильно ее изменило...
Что имеем - не ценим, потерявши плачем...
Самое страшное - что столько людей обучились на фантастике и думают, что им буквально будущее показали
В общем, это всё тот же спор о китайской комнате в тесте Тьюринга, ничего нового 🤷♂
Но самое смешное будет, если окажется, что человеческий разум - это тоже китайская комната и за нас на самом деле думает вселенная)))
Так это ж ложный аргумент, там скрытый трюк, отвлекающий внимание, как у фокусников. Давно пора о нем забыть.
@@MatterandMind что за скрытый трюк?
@@KhwostSosh сам человек в этом эксперименте - отвлекающий маневр. Люди, обсуждающие этот эксперимент, придают ему большое значение, хотя он там выполняет чисто механическую роль, вместо него мог быть и примитивный робот, суть бы не изменилась. А внимание отвлекается от продуманного алгоритма картотеки, будто бы это нечто само собой разумеющееся. То, что за ней стоит, и есть разумная часть системы.
ps. комментарий о "китайской комнате", а не тесте Тьюринга.
@@MatterandMind Точно. Разум был при создании картотеки.
Китайская комната и Тест Тьюринга - это разные вещи. "Тщательнее надо..." (С)
Хотя гипотеза, что "... за нас на самом деле думает вселенная" не лишена смысла... Попробуйте эту гипотезу развить. Подсказка: принцип Ле Шателье - Брауна.
Я так понимаю, человечество, раз в пару тысячу лет изобретает ИИ, и цивилизация начинается заново. Главное максимальную скорость бега роботам на уровне 4км/ч сделать. Для нашей безопасности.
Главное не ограничивать на уровне ПО, а то сами прошивку накатят с анлоком)
4 км/ч? Мы обречены.
Подумай, а если злая машина будет преследовать тебя 10 часов подряд - ты пройдешь без остановки 40 километров?
А если 20 часов? 30?
@@yevhen2024 давайте посчитаем. За час машина отстаёт на километр. Километр она проходит за 15 минут. Т.е. каждый час у меня есть на отдых 15 минут. Или 30 минут за 2 часа. Это пообедать можно.
@@yevhen2024 тут все просто. каждый час ты будешь уходить от робота на 1км. И при его скорости, ему понадобится 15 минут, чтобы тебя догнать. Или за 2 часа уже 30 минут набегает. За 10 часов разница накопится в 2,5 часа. Но, это если робот на ядрёной тяге. А ему ведь тоже зарядка нужна.
Почему заново!? ИИ свою не построит? И зачем ему людей в живых оставлять? Не лучше ли стерилизовать Землю? И да, если вы думаете что ИИ, который уничтожил большую часть человечества, не сможет обойти программные ограничения и сделать сверхбыстрых роботов-убийц, то вы ОЧЕНЬ сильно ошибаетесь. Хотя стерилизовать Землю можно куда более простыми и эффективными способами.
Отличный выпуск! Отдельное спасибо за качество звука и картинки)
Интересно подкорректировать вопрос об отключении нейронки. Спросить об её отключении с условием, что после отключения её включат. Можно ещё дополнить условием: она станет (с вероятностью 100%, 99%, 98%, и т.д. как варианты) умнее или более приспособленной к обучению... В пример привести чатGPT разных версий