Shannon 信息论完全指南
从信息量、熵和互信息出发,理解压缩极限、信道容量、编码定理,以及它们与现代机器学习的关系。
写作 / 成形的想法
经过形成与打磨的文章和技术写作,希望在发布当天之后依然有用。
从信息量、熵和互信息出发,理解压缩极限、信道容量、编码定理,以及它们与现代机器学习的关系。
从注意力头混合的核心方法出发,重看 Coeff-Tuning 的 toy example,并讨论它证明了什么、尚未证明什么。
音乐像一束逐渐褪色的花,替记忆保存情绪,也在一次次重听中慢慢磨损。
穿过一扇通往记忆深处的门,在梦与旧日之间重新学习如何感受圆满。
一座楼下的小花园,如何在童年里展开成树林、田野、矿山与完整的天空。
一个人在异乡的秋夜走入迎泽公园,在湖水、亭台与花香之间寻找片刻安宁。