超越谷歌DeepMind的最新大作：KAN全网最详细解读！

欢迎来到我的频道，在这里我会讲解机器学习、深度学习最经典或者最前沿的模型，同时我还会讲在美国如何生活，如何找工作，如何刷LeetCode，如何快速融入社会。喜欢记得订阅、点赞哦！如果你有什么想要听的，在下面留言吧！
目前的讲解清单：
线性回归 (LR)、逻辑回归 (LogR)、多项式回归 (PR)、Lasso 回归、Ridge 回归、弹性网络 (Elastic Net)、决策树 (DT)、随机森林 (RF)、梯度提升树 (GBT)、XGBoost、LightGBM、CatBoost、支持向量机 (SVM)、朴素贝叶斯 (NB)、K 最近邻 (KNN)、主成分分析 (PCA)、独立成分分析 (ICA)、线性判别分析 (LDA)、t-分布邻近嵌入 (t-SNE)、高斯混合模型 (GMM)、聚类分析 (CA)、K 均值聚类 (K-means)、DBSCAN、HDBSCAN、层次聚类 (HC)、GAN (生成对抗网络)、CGAN、DCGAN、WGAN (Wasserstein GAN)、StyleGAN、CycleGAN、VAE (变分自编码器)、GPT (生成式预训练模型)、BERT、Transformer、LSTM (长短期记忆网络)、GRU (门控循环单元)、RNN (循环神经网络)、CNN (卷积神经网络)、AlexNet、VGG、GoogLeNet、ResNet、MobileNet、EfficientNet、Inception、DeepDream、深度信念网络 (DBN)、自动编码器 (AE)、强化学习 (RL)、Q-learning、SARSA、DDPG、A3C、SAC、时序差分学习 (TD)、Actor-Critic、对抗训练 (Adversarial Training)、梯度下降 (GD)、随机梯度下降 (SGD)、批量梯度下降 (BGD)、Adam、RMSprop、AdaGrad、AdaDelta、Nadam、交叉熵损失函数 (Cross-Entropy Loss)、均方误差损失函数 (Mean Squared Error Loss)、KL 散度损失函数 (KL Divergence Loss)、Hinge 损失函数、感知器 (Perceptron)、RBF 神经网络、Hopfield 网络、Boltzmann 机、深度强化学习 (DRL)、自监督学习 (Self-supervised Learning)、迁移学习 (Transfer Learning)、泛化对抗网络 (GAN)、对抗生成网络 (GAN)、训练生成网络 (TGAN)、CycleGAN、深度学习生成模型 (DLGM)、自动编码器生成对抗网络 (AEGAN)、分布式自编码器 (DAE)、网络激活优化器 (NAO)、自编码器 (Autoencoder)、VQ-VAE、LSTM-VAE、卷积自编码器 (CAE)、GAN 自编码器 (GANAE)、U-Net、深度 Q 网络 (DQN)、双重 DQN (DDQN)、优先回放 DQN (Prioritized Experience Replay DQN)、多智能体 DQN (Multi-agent DQN)、深度确定性策略梯度 (DDPG)、感知器 (Perceptron)、稀疏自编码器 (SAE)、稀疏表示分类 (SRC)、深度置信网络 (DBN)、支持向量机 (SVM)、集成学习 (Ensemble Learning)、随机森林 (Random Forest)、极限梯度提升树 (XGBoost)、AdaBoost、梯度提升机 (Gradient Boosting Machine)、Stacking、贝叶斯优化器 (Bayesian Optimization)、贝叶斯网络 (Bayesian Network)、EM 算法 (Expectation-Maximization Algorithm)、高斯过程 (Gaussian Process)、马尔科夫链蒙特卡洛 (MCMC)、强化学习 (Reinforcement Learning)、无监督学习 (Unsupervised Learning)、半监督学习 (Semi-supervised Learning)、监督学习 (Supervised Learning)、迁移学习 (Transfer Learning)、维数约简 (Dimensionality Reduction)、特征选择 (Feature Selection)、特征提取 (Feature Extraction)、正则化 (Regularization)、标准化 (Normalization)、聚类 (Clustering)、分类 (Classification)、回归 (Regression)、降维 (Dimensionality Reduction)、特征映射 (Feature Mapping)、神经网络 (Neural Network)、神经元 (Neuron)、激活函数 (Activation Function)、损失函数 (Loss Function)、优化器 (Optimizer)、学习率 (Learning Rate)、批次大小 (Batch Size)、迭代次数 (Epoch)、超参数 (Hyperparameter)、模型评估 (Model Evaluation)、交叉验证 (Cross Validation)、混淆矩阵 (Confusion Matrix)、ROC 曲线 (ROC Curve)、AUC 值 (AUC Value)、精确度 (Precision)、召回率 (Recall)、F1 分数 (F1 Score)、模型解释 (Model Interpretability)、特征重要性 (Feature Importance)、局部解释 (Local Explanation)、全局解释 (Global Explanation)、机器学习管道 (Machine Learning Pipeline)、一键生成模型 (AutoML)、超参数优化 (Hyperparameter Tuning)、FFT、拉普拉斯变换、z变换、傅里叶变换、短时傅里叶变换 (STFT)、IIR、FIR、卡尔曼滤波、DIP算法、小波变换

[@chenzhan4321]

请问楼主26:45在说”是用来做数学和物理问题的，不是用来做……“ 后面的术语听不太清楚请问是啥？
学到很多，谢谢！

[@phdvlog2024]

mnist和cifar10。是两个数据集，一个是手写数字数据集，一个是动物、飞机等一共10类的数据集，你去搜一下图片就能看到。是很经典的数据集，KAN适合物理规律数学规律强的东西，对于这种自然分布的数据集效果不好。

[@phdvlog2024]

大家应该都不太听得懂这个（mnist和cifar的发音），把你置顶了，希望帮到更多人哈~

[@leoluo9383]

中学时看到开普勒第三定律和折射定律就惊叹科学家能从数据中找出了这么复杂的定律, 当时就在想如果有一种方法能自动的从数据中拟合出这些复杂的公式就好了,可以大大加速科研进程, 如今的KAN就是一个不错的答案

[@mintisan]

一路陪伴，见证博主4000粉丝

[@mintisan]

感觉就是找一组【基】，现在这个基可以根据物理规定自己定义约束或者说类别，那逻辑上只要你找的基方向没错，那么搜索空间必然会比MLP这样小很多吧。。。顺带着可解释性也更强了。。。

[@markma344]

逻辑上这样的网络产生的数据会比MLP更光滑，原理上感觉就是希尔伯特空间找本征值了

[@gossipGirlMegan]

@@markma344 希尔伯特空间是个线性空间吗？

[@RabbitLLLord]

@@gossipGirlMegan是

[@louis-dieudonne5941]

⁠@@gossipGirlMegan都有內積了還怎麼會不是線性空間呢？

[@user-eu3bs5vu9w]

比较老的技术了，十几年前澳洲有个大学就写一个这种拟合曲线的软件，用简单函数寻找复杂函数，变量一多就无能为力，没什么用处

[@phdvlog2024]

之前的方法肯定不能做到多层迭代优化

[@jiadong7873]

@@phdvlog2024这个作者被大佬锤了，说很多overclaim，我记得。。。

[@changjeffreysinto3872]

剛想著你會不會出影片瞭解一下你就出了😄謝謝大佬

[@HalloweenFantasy98]

太给力了！！！

[@pakersmuch3705]

感谢大牛。KAN是很腻害，但也仅限于某些domain呢。

[@phdvlog2024]

也没那么厉害

[@mintisan]

拟合公式那个，问题在于实际可能不知3层，可能5层10层，这个层数不清楚。不像图片里面直接2层这个参数确定了

[@phdvlog2024]

是的 所以要试一次又一次 导致参数量小反而计算量大的很

[@ppkwii]

可以放一些字幕上去吗？ 這樣可以優化觀看體驗, 也能透過推薦演算法,幫你多推薦給一些粉絲!!!

[@phdvlog2024]

我试试吧 有点难

[@user-rj8xh5uk1m]

b样条曲线，在设计软件中很常用，几个点来连起来绘制出曲线

[@phdvlog2024]

是的

[@phdvlog2024]

计算机图形学，我做了这个课助教好多年

[@zhenmingyu6186]

想请教一下博主，你觉得KAN能应对数据集中的noise么？假如输入是f(a,b,c) a = a0+noise, b = b0+noise, c = c0+noise 这种的话能解出来么？

[@phdvlog2024]

看noise程度

[@wl3548]

感謝大大講解 想請問 Ph.D. Vlog 1:12 這邊說 自動?原理之中 (聽不太清楚 ,是講 "自動控" 嗎?)

[@phdvlog2024]

自动控制原理 一门课程

[@wl3548]

@@phdvlog2024 感謝大大回復正在看相關論文 Efficiently Modeling Long Sequences with Structured State Spaces 謝謝您 已經有 訂閱 案讚 分享

[@horaceh]

很感謝解說！(如果能關掉背境那些噁心的叮叮咚咚就好了⋯⋯)

[@phdvlog2024]

有点难 我不习惯用obs的暂停

[@dancingline2022]

@@phdvlog2024 我倒是已经习惯了。这个是什么声音？

[@phdvlog2024]

麦克风开关的声音，有时候讲晕了缓一缓

[@helloworld_channel]

內容挺好
比較好奇的是為什麼收音器每幾分鐘就會有一次雜音？(5:48 這裡類似收音器掉到地上的雜音)
聽得正認真常常突然被雜音打斷思緒

[@phdvlog2024]

麦克风开关的声音

[@mixshare]

🎉🎉🎉

[@Suit9uy]

不明覺厲！如果可以再增加在現實生活中能解決什麼事情的話，會讓門檻降低很多

[@phdvlog2024]

以后讲讲

[@HalloweenFantasy98]

希望能讲系统运筹或者能源系统模型这块，磕头🙇
​@@phdvlog2024

[@mintisan]

但是现在不是太稳定，就那个动图，我在本地跑了下，复现不了，，，感觉有随机性，有的例子结果挺好的，有的复现不了

[@phdvlog2024]

那些参数需要仔细配置

[@asldfkhjaslk]

I ended up here because I watched too many Black Myth Wukong videos I guess

[@phdvlog2024]

😂

[@user-wydntuetmyas]

不覺得會有可解釋性欸。今天要是學出一個超複雜的activation function 不可能一眼看出是什麼，此外他的可解釋性實驗是先射箭再畫靶。誰知道對一個未知函數的採樣建模需要用幾層？ 好奇他少用幾層跟多用幾層的效果會變怎樣

[@phdvlog2024]

他这个是用来解一些数学方程的，都是各种数学符号的排列组合，是没问题的

[@jianxunyang-i1q]

好强大

[@sw9276]

2:05 哈哈，“说人话”

[@doveliezh]

记得加个浮动水印，你是不知道你的视频已经被搬运盗用了多少了😓

[@phdvlog2024]

多少？怎么搜索😂我得统计一下了 盗视频的太可恶了

[@doveliezh]

​@@phdvlog2024 就是在b站看搜了“kan网络”，点进去一听发现是你的声音，下面这几个都是你的，然后又顺手搜了别的视频，发现都有盗搬，而且都比你的b站官搬播放高。。
BV17w4m1Q7vf BV1aH4y1g7V9
有个别的在视频简介区标注了出处，更多的还是给自己公众号啥引流的，还是得视频里面做漂浮移动的水印才行

[@user-fg8ue4gd5m]

为啥粉丝这么少啊！讲得这么好

[@phdvlog2024]

帮我推荐一下呗，去别的群里还有朋友 同学，谢谢啦！

[@dancingline2022]

做的晚吧，涨的很快呀

[@phdvlog2024]

是才开始俩月，但还是需要你们帮忙推广

[@jasonfree7912]

这种主题注定看的人少，不过观众粘性会强很多❤

[@SoulEscalator]

希望能夠上字幕

[@phdvlog2024]

有点难

[@SoulEscalator]

@@phdvlog2024用AI 不行嗎？

[@ethanhunt6756]

太猛了博士，能幫我寫個推薦信不

[@phdvlog2024]

😂我也不是啥有名人物

[@moyinqiqi]

这不就是系统辨识吗？

[@phdvlog2024]

是啊，所以讲起来很简单，没有那么神

[@syashin7668]

加個字幕好嗎

[@phdvlog2024]

后面的视频加了，这个视频的时候还没装载Whisper语音识别

[@mengni4426]

祛魅了。媒体炒作Deep Learning相关的东西太常见了。😂

[@phdvlog2024]

😂

[@user-dm7fh9kf6d]

博主博主，这个ppt可以发出来吗

[@phdvlog2024]

我这ppt里面所有东西都是从论文里截图的

[@aaa59070046]