Простейшая нейросеть на языке C. Генеральная линия для множества точек
HTML-код
- Опубликовано: 6 фев 2025
- В этом видео рассмотрим обучение нейронной сети на самом простом примере. В основе лежит упрошенный алгоритм обратного распространения ошибки (метод градиентного спуска).
Вау бро, твоя работа показала мне, что есть люди, которые объясняют тему лучшим способом: показывают реализацию в коде, в чистом и красивом коде (ещё и на моём любимом ЯП в котором нет мусора типо объектов и тп). Респект за реализацию
Спасибо! Я прекрасно помню туториалы с CD-дисков: первый пример - это hello world в консоли, а второй - это оконное приложение с макросами, кучей классов, 5-ю кнопками, 3-мя текстовыми полями и потоками ввода-вывода в файл. А назывался второй пример "strings" (как работать со строками, мол). Неделя ушла, чтобы понять, что работа со строками - это 5 строчек кода в каком-то одном невзрачном методе. Всё остальное было накручено для солидности и красоты
Чудесный голос! Спасибо!
Не ужели я нашел ролик который смог мне дать понять как это работает. Правда я тупенький и ни 1 формулу не понял, но концепт понятен. Спасибо❤
Подача шикарная. Ждем следующие видео 👍(•‿•)👍
Эксперименты с подачей подтверждают не то, что хотелось бы
вот тут точно подойдет фраза, ниуя не понятно, но очень интересно😁
Огонь! На выходных обязательно повторю! Спасибо
Создан Telegram-канал: t.me/tripledistillation
Отличная тема! Увидеть бы реализацию простейшего нейрона с нелинейной функцией активации, и то, как это решает задачу нелинейной классификации.
В литературе обычно присутствует пример линейно неразделимой задачи о функции XOR. Да, в планах есть такое
+, давай еще!
Это сгенерированный голос? Где можно найти именно такой?
Нет, это мой настоящий. Просто с чуть большей громкостью и более интенсивной подачей, скажем так
А почему функция Е такая странная? Почему не взяли просто | f(x0) - y0 |?
Модуль - это непрерывная, но не дифференцируемая в нуле функция. "E" подобрана так для отражения ошибки в смысле отклонения от требуемого значения, а также для того, чтобы производная имела вид обыкновенной разности без дополнительного множителя
то что вы рассказали, не является нейросетью. Это обычная линейная регрессия.
Персептрон с одним входным узлом и смещением, одним выходным узлом с линейной функцией активации не считается нейросетью?
"Нейронная сеть представляет собой совокупность нейроподобных элементов, определенным образом соединенных друг с другом и с внешней средой с помощью связей, определяемых весовыми коэффициентами" (Круглов В.В., Борисов В.В. "Искусственные нейронные сети. Теория и практика" 2002 г.).
k и b являются весовыми коэффициентами. Но в материале не только линейная функция присутствует.
@tripledistillation1755 у нейрона обязательно должна быть нелинейная функция активации. Если вы сделаете сеть линейных нейронов, то это тоже не будет считаться нейросетью это просто суперпозиция линейной функции.
Строго говоря, да. Тут я с вами согласен, но такой шаг сделан для наглядности. Акцент на алгоритме обучения. В следующем видео функцией активации нейронов будет сигмоид
@@tripledistillation1755 для наглядности можно показать нейрон с пороговой функцией активации, либо с ReLU. Их хоть и сложнее обучать, но легко реализовать, и на них легко показать как нейронная сеть реализует логику исключающего ИЛИ, без которой нейросеть не нейросеть.
Только написал сверху про XOR), затем дошел до вашего комментария. Для пороговой функции и ReLU интересна ситуация с дифференцированием