[![](https://zhuanlan.zhihu.com/p/26659914)](javascript:void\(0\))
![ZhiHu logo](../images/body-e1fa91dbdb48b8055184.png)
[](https://www.zhihu.com)
[关注](https://www.zhihu.com/signin?next=%2Ffollow)[推荐](https://www.zhihu.com/signin?next=%2F)[热榜](https://www.zhihu.com/signin?next=%2Fhot)[专栏](https://www.zhihu.com/signin?next=%2Fcolumn-square)[圈子](https://www.zhihu.com/signin?next=%2Fring-feeds)[AI WorksBeta ](https://www.zhihu.com/project-square)[故事](https://www.zhihu.com/fiore/h5/vip-web)
​
[直答](https://zhida.zhihu.com/)
切换模式
登录/注册
【简评】Understanding Convolution for Semantic Segmentation
首发于[Segmentation Paper Reading](https://www.zhihu.com/column/semantic-segmentation)
切换模式
![【简评】Understanding Convolution for Semantic Segmentation](../images/000.img)
# 【简评】Understanding Convolution for Semantic Segmentation
[![余昌黔](../images/019.jpg)](https://www.zhihu.com/people/yu-chang-qian)
[余昌黔](https://www.zhihu.com/people/yu-chang-qian)
[​![](../images/body-ce088339e12c259915b9.png)](https://www.zhihu.com/question/48510028)
华中科技大学 控制科学与工程博士
[收录于 · Segmentation Paper Reading](https://www.zhihu.com/column/semantic-segmentation)
122 人赞同了该文章
本篇论文主要有两个创新点，[DUC](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=1&q=DUC&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiJEVUMiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoyODUxMTAxLCJjb250ZW50X3R5cGUiOiJBcnRpY2xlIiwibWF0Y2hfb3JkZXIiOjEsInpkX3Rva2VuIjpudWxsfQ.B_4gpL97UkvO9TXAkGD2CoL6NyRYDGApWXvfxnox-HM&zhida_source=entity)(dense upsampling convolution)和[HDC](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=1&q=HDC&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiJIREMiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoyODUxMTAxLCJjb250ZW50X3R5cGUiOiJBcnRpY2xlIiwibWF0Y2hfb3JkZXIiOjEsInpkX3Rva2VuIjpudWxsfQ.aKi4d_MAhiO-FV1SLIbydoJdmoYCHr83rOIZSsIyIcQ&zhida_source=entity)(hybrid dilated convolution)，分别针对[上采样](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=1&q=%E4%B8%8A%E9%87%87%E6%A0%B7&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiLkuIrph4fmoLciLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoyODUxMTAxLCJjb250ZW50X3R5cGUiOiJBcnRpY2xlIiwibWF0Y2hfb3JkZXIiOjEsInpkX3Rva2VuIjpudWxsfQ.wC_2a7x8LUDuB46kmwO4eBBdO89r5e_0POimeD6VLfU&zhida_source=entity)和dilated convolution问题进行改进。
**我用pytorch实现了DUC功能，代码放在我的[github](https://link.zhihu.com/?target=https%3A//github.com/ycszen/pytorch-ss)上了，欢迎star，欢迎讨论。**
**DUC**
语义分割任务下的网络基本都具有encoding和decoding的过程，而大多数网络在decoding时使用的是双线性插值。而[双线性插值](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=2&q=%E5%8F%8C%E7%BA%BF%E6%80%A7%E6%8F%92%E5%80%BC&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiLlj4znur_mgKfmj5LlgLwiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoyODUxMTAxLCJjb250ZW50X3R5cGUiOiJBcnRpY2xlIiwibWF0Y2hfb3JkZXIiOjIsInpkX3Rva2VuIjpudWxsfQ.PEs4JpPqwsFDHOfeMZpL7bunVf90RunqRo74MjGC4CE&zhida_source=entity)是不能学习的，且会丢失细节信息。所以，文章中提出了一种方法：dense updampling convolution——通过学习一些系列的放大的过滤器来放大降采样的feature map到最终想要的尺寸。具体结构如下：
![](../images/004.png)
整个想法很清晰，就是将长宽尺寸上的损失通过通道维度来弥补。假设原图大小为H×WH\times W，经过[ResNet](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=1&q=ResNet&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiJSZXNOZXQiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoyODUxMTAxLCJjb250ZW50X3R5cGUiOiJBcnRpY2xlIiwibWF0Y2hfb3JkZXIiOjEsInpkX3Rva2VuIjpudWxsfQ.Y1uKPpMp9ajgx7WvXf0pmZMQihcwUDRx0rUcwyyYoPs&zhida_source=entity)后维度变为h×w×ch\times w\times c（其中h=H/rh = H / r ， w=W/r w = W/r），通过[卷积](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=1&q=%E5%8D%B7%E7%A7%AF&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiLljbfnp68iLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoyODUxMTAxLCJjb250ZW50X3R5cGUiOiJBcnRpY2xlIiwibWF0Y2hfb3JkZXIiOjEsInpkX3Rva2VuIjpudWxsfQ.J3zx5tJ5CdBfQuju0JWtCpUn63rwwIFuld7DX_nVJP4&zhida_source=entity)后输出feature map维度为h×w×(r2×L)h\times w \times (r^2 \times L)，其中LL是语义分割的类别数。最后通过reshape到H×W×LH\times W\times L尺寸就可以了。不难看出，DUC的主要思想就是将整个label map划分成与输入的feature map等尺寸的子部分。所有的子部分被叠加r2r^2次就可以产生整个label map了。这种变化允许我们直接作用在输出的[feature map](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=4&q=feature+map&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiJmZWF0dXJlIG1hcCIsInpoaWRhX3NvdXJjZSI6ImVudGl0eSIsImNvbnRlbnRfaWQiOjI4NTExMDEsImNvbnRlbnRfdHlwZSI6IkFydGljbGUiLCJtYXRjaF9vcmRlciI6NCwiemRfdG9rZW4iOm51bGx9.4EXrmqfgrZS8TR8qMUqs8eN97vZOFkZD0gu4oJn0aWA&zhida_source=entity)上而不用像[deconvolution](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=1&q=deconvolution&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiJkZWNvbnZvbHV0aW9uIiwiemhpZGFfc291cmNlIjoiZW50aXR5IiwiY29udGVudF9pZCI6Mjg1MTEwMSwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.vr6YipqhVcfbZ7TF6xiB_JVC2ZCH1Ufgq75sZRMy2-U&zhida_source=entity)和unpooling那样还需要一些额外的信息。
实验对比如下：
![](../images/005.png)
其中，DS：Downsampling rate of the network. Cell：neighborhood region that one predicted [pixel](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=1&q=pixel&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiJwaXhlbCIsInpoaWRhX3NvdXJjZSI6ImVudGl0eSIsImNvbnRlbnRfaWQiOjI4NTExMDEsImNvbnRlbnRfdHlwZSI6IkFydGljbGUiLCJtYXRjaF9vcmRlciI6MSwiemRfdG9rZW4iOm51bGx9._VFiwCJYCfKXXkewoO-UChNbYb1fG8ZMbIF-uReoJtM&zhida_source=entity) represents.
**HDC**
HDC主要是为了解决使用dilated convolution会产生的“[gridding issue](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=1&q=gridding+issue&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiJncmlkZGluZyBpc3N1ZSIsInpoaWRhX3NvdXJjZSI6ImVudGl0eSIsImNvbnRlbnRfaWQiOjI4NTExMDEsImNvbnRlbnRfdHlwZSI6IkFydGljbGUiLCJtYXRjaF9vcmRlciI6MSwiemRfdG9rZW4iOm51bGx9._K3f4ujGB1U-nUNPSbFGk4zAVvxCMTx9ibsl4NxV9U4&zhida_source=entity)”。
当[dilated convolution](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=4&q=dilated+convolution&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiJkaWxhdGVkIGNvbnZvbHV0aW9uIiwiemhpZGFfc291cmNlIjoiZW50aXR5IiwiY29udGVudF9pZCI6Mjg1MTEwMSwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjo0LCJ6ZF90b2tlbiI6bnVsbH0.B-Pa-Xux8Z-buLyi-Y1A_bdR-0_OZgyU9X2ZaQe4CNg&zhida_source=entity)在高层使用的rate变大时，对输入的采样将变得很稀疏，将不利于学习——因为一些局部信息完全丢失了，而长距离上的一些信息可能并不相关；并且gridding效应可能会打断局部信息之间的连续性。
![](../images/006.png)
第一行是ground truth，第二行是gridding现象，第三行是使用HDC后的输出
所以，文章提出了HDC——使用一系列的[dilation](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=1&q=dilation&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiJkaWxhdGlvbiIsInpoaWRhX3NvdXJjZSI6ImVudGl0eSIsImNvbnRlbnRfaWQiOjI4NTExMDEsImNvbnRlbnRfdHlwZSI6IkFydGljbGUiLCJtYXRjaF9vcmRlciI6MSwiemRfdG9rZW4iOm51bGx9.kbF564xPBHEwGdkXUQ-VkxAEkc_It1oqEsXSw1C5qGg&zhida_source=entity) rates而不是只用相同的rate，并且使用[ResNet-101](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=1&q=ResNet-101&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiJSZXNOZXQtMTAxIiwiemhpZGFfc291cmNlIjoiZW50aXR5IiwiY29udGVudF9pZCI6Mjg1MTEwMSwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.2UnqxDyiNX0otp5rs8n48-mXGGtEY7Ok_KTJWBBSk2U&zhida_source=entity)中blocks的方式连接它们。具体展示如下：
![](../images/007.png)
a：所有的卷积层都使用dilation rate r = 2
b：连续的[卷积层](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=2&q=%E5%8D%B7%E7%A7%AF%E5%B1%82&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiLljbfnp6_lsYIiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoyODUxMTAxLCJjb250ZW50X3R5cGUiOiJBcnRpY2xlIiwibWF0Y2hfb3JkZXIiOjIsInpkX3Rva2VuIjpudWxsfQ.LEwfQRBi_iu6LdL1U6RSQ2s1bzjEIgo9L8b9etYfySU&zhida_source=entity)使用dilation rates r = 1, 2, 3
从这也可看出，HDC还有一个好处，可以增大网络的[感受野](https://zhida.zhihu.com/search?content_id=2851101&content_type=Article&match_order=1&q=%E6%84%9F%E5%8F%97%E9%87%8E&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExMzk0MDUsInEiOiLmhJ_lj5fph44iLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoyODUxMTAxLCJjb250ZW50X3R5cGUiOiJBcnRpY2xlIiwibWF0Y2hfb3JkZXIiOjEsInpkX3Rva2VuIjpudWxsfQ.i4rgKJRBtr9jGiYW0VsSg94Xvuz7_bM1PfEvuWgPbtA&zhida_source=entity)。
实验对比如下：
![](../images/008.png)
RF是使用了HDC结构的，bigger是指HDC中使用的rates更大  
论文地址：[https://arxiv.org/pdf/1702.08502.pdf](https://link.zhihu.com/?target=https%3A//arxiv.org/pdf/1702.08502.pdf)
编辑于 2017-06-22 13:30
[semantic segmentation](https://www.zhihu.com/topic/20066821)
[深度学习（Deep Learning）](https://www.zhihu.com/topic/19813032)
​赞同 122​​31 条评论​236 ​1 
​分享
​申请转载​
​
![](../images/009.jpeg)
未登录用户
  

31 条评论
默认
最新
[![makiii](../images/010.jpg)](https://www.zhihu.com/people/96855aaaebd201ce00c8909e25054a40)
[makiii](https://www.zhihu.com/people/96855aaaebd201ce00c8909e25054a40)
论文公式2好乱，没看懂
2019-07-02
​回复​喜欢
[![王泮渠](../images/011.jpg)](https://www.zhihu.com/people/9d92b23eb1228ab779bc6d01c9c18e35)
[王泮渠](https://www.zhihu.com/people/9d92b23eb1228ab779bc6d01c9c18e35)
![](../images/body-4891d6a1477d0a5ff6ee.jpg)
感谢作者。我们的MXNet代码也已开源：[TuSimple/TuSimple-DUC](http://link.zhihu.com/?target=https%3A//github.com/TuSimple/TuSimple-DUC) 希望对大家有帮助。
2017-11-09
​回复​3
[![余昌黔](../images/013.jpg)](https://www.zhihu.com/people/ab49d937ced66c390c32012ed34737b3)
[余昌黔](https://www.zhihu.com/people/ab49d937ced66c390c32012ed34737b3)
作者​![](../images/body-ce088339e12c259915b9.png)
点赞
2017-11-09
​回复​喜欢
展开其他 1 条回复​
[![余昌黔](../images/013.jpg)](https://www.zhihu.com/people/ab49d937ced66c390c32012ed34737b3)
[余昌黔](https://www.zhihu.com/people/ab49d937ced66c390c32012ed34737b3)
作者​![](../images/body-ce088339e12c259915b9.png)
对，这只是我做的一些实验。实验结果还是最后接DUC才有效，因为多层duc感觉会导致feature map的歧义性
2017-08-28
​回复​1
展开其他 2 条回复​
[![御宅暴君](../images/015.jpg)](https://www.zhihu.com/people/a2417f5b568eae957dea31316f241349)
[御宅暴君](https://www.zhihu.com/people/a2417f5b568eae957dea31316f241349)
[https://github.com/ycszen/pytorch-ss/blob/master/duc.py#L27](http://link.zhihu.com/?target=https%3A//github.com/ycszen/pytorch-ss/blob/master/duc.py%23L27) 里的 FCN 用了 skip-connection 结构，论文的实现并没有这个结构而是一步 DUC 到位，对吗？
2017-08-28
​回复​喜欢
[![御宅暴君](../images/015.jpg)](https://www.zhihu.com/people/a2417f5b568eae957dea31316f241349)
[御宅暴君](https://www.zhihu.com/people/a2417f5b568eae957dea31316f241349)
感觉 Understanding Convolution for Semantic Segmentation 相对于 FCN 就如同 YOLO 相对于 RCNN 一样，前者直接省去了层层叠加的上采样、直接一口气上采样，后者省去了 Proposal 过程，直接在图像上开始回归和分类。
  

真没想到一口气上采样也能学习得更好， 
[@Zijun Deng](http://www.zhihu.com/people/5cc04b1f5430e6cbe6edc7198671d715)
提出的第二问题我想了下，由于 DUC 之前的 feature map 是全卷积出来的，feature map 上每一个 pixel 对应于一个较大的感受野，于是只要这个 feature map 的 channel 足够长的话，对于 feature map 上的某 pixel, DUC 总能通过它的超长 channel 而学习出其感受野上每一个 pixel 所对应的新 channel.
2017-05-10
​回复​喜欢
[![余昌黔](../images/016.jpg)](https://www.zhihu.com/people/ab49d937ced66c390c32012ed34737b3)
[余昌黔](https://www.zhihu.com/people/ab49d937ced66c390c32012ed34737b3)
作者​![](../images/body-ce088339e12c259915b9.png)
同意。相当于将学习到的同一个平面的特征放到通道上去了，通道足够长总能学习到更完善的特征。
2017-05-17
​回复​喜欢
展开其他 1 条回复​
[![肉包](../images/017.jpg)](https://www.zhihu.com/people/5cc04b1f5430e6cbe6edc7198671d715)
[肉包](https://www.zhihu.com/people/5cc04b1f5430e6cbe6edc7198671d715)
大大，这篇我也看了，当时有些疑问，希望讨论一下。(1)作者说了bilinear插值不好后，又提到transposed convolution因为需要pad一些零，所以仍然不够好，这是为什么呢？(2)DUC直接reshape成跟输入图像一样的size，感觉很奇怪，直接reshape后的feature map的像素空间位置对应得上输入图像吗？这个就算网络可以学习出来也感觉很奇怪。
2017-05-02
​回复​喜欢
[![余昌黔](../images/018.jpg)](https://www.zhihu.com/people/ab49d937ced66c390c32012ed34737b3)
[余昌黔](https://www.zhihu.com/people/ab49d937ced66c390c32012ed34737b3)
作者​![](../images/body-ce088339e12c259915b9.png)
我的认为是 1）transposed convolution毕竟是补的0，并不是直接学出来的，所以感觉上不够好；2）这样的方式我也觉得很怪异，feature map上的像素直接对应到各个通道上去了，我也有点质疑这样到底学出来是什么，不过文章中的效果确实有提升，这个我们可以再讨论讨论。
2017-05-02
​回复​2
查看全部 19 条回复​
![](../images/009.jpeg)
未登录用户
  

关于作者
[![余昌黔](../images/019.jpg)](https://www.zhihu.com/people/yu-chang-qian)
[余昌黔](https://www.zhihu.com/people/yu-chang-qian)
华中科技大学 人工智能博士
[​](https://zhuanlan.zhihu.com/p/96956163)
华中科技大学 控制科学与工程博士
[ 回答 **82** ](https://www.zhihu.com/people/yu-chang-qian/answers)[ 文章 **20** ](https://www.zhihu.com/people/yu-chang-qian/posts)[ 关注者 **27,689** ](https://www.zhihu.com/people/yu-chang-qian/followers)
​关注他​发私信
大家都在搜
换一换
[江歌妈妈发长文尘埃终将落定704 万](https://www.zhihu.com/search?q=%E6%B1%9F%E6%AD%8C%E5%A6%88%E5%A6%88%E5%8F%91%E9%95%BF%E6%96%87%E5%B0%98%E5%9F%83%E7%BB%88%E5%B0%86%E8%90%BD%E5%AE%9A&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=18f9f4f1-290d-43aa-85f9-29c5bbdc3e2c)热
[中国男足 0-5 巴勒斯坦562 万](https://www.zhihu.com/search?q=%E4%B8%AD%E5%9B%BD%E7%94%B7%E8%B6%B3+0-5+%E5%B7%B4%E5%8B%92%E6%96%AF%E5%9D%A6&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=18f9f4f1-290d-43aa-85f9-29c5bbdc3e2c)热
[原央视主持人阿丘回应被通报419 万](https://www.zhihu.com/search?q=%E5%8E%9F%E5%A4%AE%E8%A7%86%E4%B8%BB%E6%8C%81%E4%BA%BA%E9%98%BF%E4%B8%98%E5%9B%9E%E5%BA%94%E8%A2%AB%E9%80%9A%E6%8A%A5&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=18f9f4f1-290d-43aa-85f9-29c5bbdc3e2c)热
[华为与赛力斯达成新五年合作409 万](https://www.zhihu.com/search?q=%E5%8D%8E%E4%B8%BA%E4%B8%8E%E8%B5%9B%E5%8A%9B%E6%96%AF%E8%BE%BE%E6%88%90%E6%96%B0%E4%BA%94%E5%B9%B4%E5%90%88%E4%BD%9C&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=18f9f4f1-290d-43aa-85f9-29c5bbdc3e2c)热
[迪拜航空确认航班发生事故398 万](https://www.zhihu.com/search?q=%E8%BF%AA%E6%8B%9C%E8%88%AA%E7%A9%BA%E7%A1%AE%E8%AE%A4%E8%88%AA%E7%8F%AD%E5%8F%91%E7%94%9F%E4%BA%8B%E6%95%85&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=18f9f4f1-290d-43aa-85f9-29c5bbdc3e2c)热
[东航回应网传空姐跪地道歉326 万](https://www.zhihu.com/search?q=%E4%B8%9C%E8%88%AA%E5%9B%9E%E5%BA%94%E7%BD%91%E4%BC%A0%E7%A9%BA%E5%A7%90%E8%B7%AA%E5%9C%B0%E9%81%93%E6%AD%89&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=18f9f4f1-290d-43aa-85f9-29c5bbdc3e2c)
[王楚钦：不知道为什么就是感觉累320 万](https://www.zhihu.com/search?q=%E7%8E%8B%E6%A5%9A%E9%92%A6%EF%BC%9A%E4%B8%8D%E7%9F%A5%E9%81%93%E4%B8%BA%E4%BB%80%E4%B9%88%E5%B0%B1%E6%98%AF%E6%84%9F%E8%A7%89%E7%B4%AF&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=18f9f4f1-290d-43aa-85f9-29c5bbdc3e2c)热
[江苏高考作文《衬衫的价格为 9 磅 15 便士》爆火268 万](https://www.zhihu.com/search?q=%E6%B1%9F%E8%8B%8F%E9%AB%98%E8%80%83%E4%BD%9C%E6%96%87%E3%80%8A%E8%A1%AC%E8%A1%AB%E7%9A%84%E4%BB%B7%E6%A0%BC%E4%B8%BA+9+%E7%A3%85+15+%E4%BE%BF%E5%A3%AB%E3%80%8B%E7%88%86%E7%81%AB&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=18f9f4f1-290d-43aa-85f9-29c5bbdc3e2c)
[女装网店开始用防拆带了265 万](https://www.zhihu.com/search?q=%E5%A5%B3%E8%A3%85%E7%BD%91%E5%BA%97%E5%BC%80%E5%A7%8B%E7%94%A8%E9%98%B2%E6%8B%86%E5%B8%A6%E4%BA%86&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=18f9f4f1-290d-43aa-85f9-29c5bbdc3e2c)
[孕妇骑车别车被司机踹翻257 万](https://www.zhihu.com/search?q=%E5%AD%95%E5%A6%87%E9%AA%91%E8%BD%A6%E5%88%AB%E8%BD%A6%E8%A2%AB%E5%8F%B8%E6%9C%BA%E8%B8%B9%E7%BF%BB&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=18f9f4f1-290d-43aa-85f9-29c5bbdc3e2c)
### 推荐阅读
# [（2024 ICLR）ModernTCN：A Modern Pure Convolution Structure for General Time Series Analysis 这篇是ICLR上用TCN来做一般的时间序列分析的论文，在Rebuttal之后的分数为888，目前已中稿ICLR Spotlight。本文提出了一个ModernTCN的模型，实现起来也很简单，所以我后面附上了模型的代码… 的泼墨佛给...发表于时间序列预... ](https://zhuanlan.zhihu.com/p/668946041)[ ![Neural logic machine 笔记](../images/021.jpg)Neural logic machine 笔记 Apple...发表于reaso... ](https://zhuanlan.zhihu.com/p/417160480)# [Linear Physical Systems Analysis 在网络上查找学习资料的时候，看到了这个很有意思的网站，叫着Linear Physical Systems Analysis，翻译过来就是 线性物理系统分析。网站链接： https://lpsa.swarthmore.edu/这个网站主要是… 萧然 ](https://zhuanlan.zhihu.com/p/1941525890942100205)# [关于scaling law 的正确认识 最近scaling law 成了最大的热词。一般的理解就是，想干大模型，清洗干净数据，然后把数据tokens量堆上来，然后搭建一个海量H100的集群，干就完了。训练模型不需要啥技巧，模型结构也没啥好… 曾冠奇发表于樱园的玻尔... ](https://zhuanlan.zhihu.com/p/684955373) 

_想来知乎工作？请发送邮件到 jobs@zhihu.com_
打开知乎App
在「我的页」右上角打开扫一扫
![](../images/body-0f9788d006ab0f4da762.png)
其他扫码方式：微信
下载知乎App
无障碍模式
验证码登录
密码登录
[开通机构号](https://zhuanlan.zhihu.com/org/signup)
中国 +86
获取短信验证码
忘记密码
登录/注册
其他方式登录
未注册手机验证后自动登录，注册即代表同意[《知乎协议》](https://www.zhihu.com/term/zhihu-terms)[《隐私保护指引》](https://www.zhihu.com/term/privacy)
扫码下载知乎 App
关闭二维码