【人工智能】去中心神经网络 | Rich Sutton DAI 2024最新演讲 | 深度学习的局限性 | 持续反向传播 | 骨干和边缘神经元 | 网络可塑性 | 适应性 | 流算法 | 克洛普夫

[@9263STYV]

这个理论和目前实验室观察到真正的大脑的神经元行为有着高度的一致性。

[@corgirun7892]

找到了，是这篇Loss of plasticity in deep continual learning

[@winnerzhu]

great thanks

[@WEICHENGCHIU-l1s]

@@corgirun7892 謝謝

[@-Nastika]

视频描述里有。

[@刘家林]

早几个月复现了，核心是hook反向传播然后设计一个迹生命周期的控制器，保证每个神经元存储的信息量足够丰富。

[@WEICHENGCHIU-l1s]

@@刘家林 你覺得這東西有料嗎

[@linlee8261]

有意思啊，看得兴趣满满

[@hiucollo2402]

Thank you 大 飞 一口氣看到尾 看完再看 ☘ 🍉 🎆 😄 🌺 🀄 😃 💐 ☕ 🌸 😁 🏵 🎆🪅🎄 😀 🧧 🎉 😇 💮 🌺 😎 🎊 🏮 🍀 🎄 🏆 🏆

[@rnoro]

我想關鍵在於把全局優化的任務(static global optimization)分解成局部優化的互動(dynamic local optimization)。

[@sheldonlai1650]

天網要來了

[@junfanzhu]

这个idea真新颖，话说decentralized NN的神经元间交互可以借鉴conway life game么？

[@rnoro]

這應該是正確的方向！

[@junfanzhu]

@@rnoro 随口一问，你有什么idea嘛？

[@winnerzhu]

大飛應該把論文連結或原始演講連結發出來

[@bestpartners]

已经补上了论文地址

[@zhiwu3121]

天网觉得中心化的机房可以被关闭和摧毁...

[@ghli2262]

对。

[@forcebender5079]

既然这么好，老头先搞出来一个模型让大家玩玩，看看疗效。

[@qqqch-b7p]

学术是前沿技术基础

[@senior1210]

我早就有这个想法，可惜我没有写出论文😅

[@ruiyangxu790]

Cult 😂