[![](https://zhuanlan.zhihu.com/p/52504407)](javascript:void\(0\)) ![ZhiHu logo](../images/body-e1fa91dbdb48b8055184.png) [](https://www.zhihu.com) [关注](https://www.zhihu.com/signin?next=%2Ffollow)[推荐](https://www.zhihu.com/signin?next=%2F)[热榜](https://www.zhihu.com/signin?next=%2Fhot)[专栏](https://www.zhihu.com/signin?next=%2Fcolumn-square)[圈子](https://www.zhihu.com/signin?next=%2Fring-feeds)[AI WorksBeta ](https://www.zhihu.com/project-square)[故事](https://www.zhihu.com/fiore/h5/vip-web) ​ [直答](https://zhida.zhihu.com/) 切换模式 登录/注册 YouTube深度学习推荐系统的十大工程问题 首发于[王喆的机器学习笔记](https://www.zhihu.com/column/wangzhenotes) 切换模式 ![YouTube深度学习推荐系统的十大工程问题](../images/000.jpg) # YouTube深度学习推荐系统的十大工程问题 [![王喆](../images/009.jpg)](https://www.zhihu.com/people/wang-zhe-58) [王喆](https://www.zhihu.com/people/wang-zhe-58) [​![](../images/body-2dd3e5c360100c555650.png)](https://www.zhihu.com/question/48509984) 数据挖掘等 3 个话题下的优秀答主 [收录于 · 王喆的机器学习笔记](https://www.zhihu.com/column/wangzhenotes) 1518 人赞同了该文章 这里是**[王喆的机器学习笔记](https://zhuanlan.zhihu.com/wangzhenotes)** 的第三篇文章，这篇文章紧接着上篇文章 《重读YouTube深度学习推荐系统论文，字字珠玑，惊为神文》，如果没有读过的同学还是强烈建议从我的专栏中翻出上一篇文章看一下，熟悉文章中抛出的问题。 因为这篇文章主要介绍了YouTube深度学习系统论文中的十个[工程问题](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=%E5%B7%A5%E7%A8%8B%E9%97%AE%E9%A2%98&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiLlt6XnqIvpl67popgiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.eo0Kzu_DARYUa9LPLRTBxwm970d-M1PowD43bfpJwWk&zhida_source=entity)，为了方便进行问题定位，我们还是简单介绍一下背景知识，简单回顾一下 [Deep Neural Networks for YouTube Recommendations](https://link.zhihu.com/?target=https%3A//github.com/wzhe06/Reco-papers/blob/master/Recommendation/Deep%2520Neural%2520Networks%2520for%2520YouTube%2520Recommendations.pdf) 中介绍的YouTube深度学习推荐系统的框架。 ![](../images/005.jpg) YouTube推荐系统架构 简单讲，YouTube的同学们构建了两级推荐结构从百万级别的视频候选集中进行视频推荐，第一级[candidate generation model](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=candidate+generation+model&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiJjYW5kaWRhdGUgZ2VuZXJhdGlvbiBtb2RlbCIsInpoaWRhX3NvdXJjZSI6ImVudGl0eSIsImNvbnRlbnRfaWQiOjEwNzI4MTQ4LCJjb250ZW50X3R5cGUiOiJBcnRpY2xlIiwibWF0Y2hfb3JkZXIiOjEsInpkX3Rva2VuIjpudWxsfQ.tuhP4YaJUGmOmuycPpRIeVPOg6s0qrEz-wd0pa88yvU&zhida_source=entity)负责“初筛”，从百万量级的视频库中筛选出几百个候选视频，第二级[ranking model](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=ranking+model&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiJyYW5raW5nIG1vZGVsIiwiemhpZGFfc291cmNlIjoiZW50aXR5IiwiY29udGVudF9pZCI6MTA3MjgxNDgsImNvbnRlbnRfdHlwZSI6IkFydGljbGUiLCJtYXRjaF9vcmRlciI6MSwiemRfdG9rZW4iOm51bGx9.bMS3VM0Xi-uvxhKN875_QwkfZ5fHqvnIndC_0IxoMV8&zhida_source=entity)负责“精排”，引入更多的feature对几百个候选视频进行排序。 不管是candidate generation model还是ranking model在架构上都是[DNN](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=DNN&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiJETk4iLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.8Qjr9UzOzjkoyXs-V2pynPY8J_g2TiWiqCYMg_4b8Pg&zhida_source=entity)的基本结构，不同的是输入特征和优化目标不同。但正如我在上一篇文章中讲的，如果你仅读懂了YouTube的[模型架构](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=%E6%A8%A1%E5%9E%8B%E6%9E%B6%E6%9E%84&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiLmqKHlnovmnrbmnoQiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.yDnUoLHiyGpmFJpEzX-kEr38yl-Ynymif3gy5m2Iumo&zhida_source=entity)，至多获得了30%的价值，剩下70%的价值就在于下面的十大工程问题。废话不多说，我们进入问题的解答。 **1、文中把推荐问题转换成多分类问题，在预测next watch的场景下，每一个备选video都会是一个分类，因此总共的分类有数百万之巨，这在使用softmax训练时无疑是低效的，这个问题YouTube是如何解决的？** 这个问题原文的回答是这样的 > We rely on a technique to sample negative classes from the background distribution ("candidate sampling") and then correct for this sampling via importance weighting. 简单说就是进行了负采样（[negative sampling](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=negative+sampling&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiJuZWdhdGl2ZSBzYW1wbGluZyIsInpoaWRhX3NvdXJjZSI6ImVudGl0eSIsImNvbnRlbnRfaWQiOjEwNzI4MTQ4LCJjb250ZW50X3R5cGUiOiJBcnRpY2xlIiwibWF0Y2hfb3JkZXIiOjEsInpkX3Rva2VuIjpudWxsfQ.75Jo0w7AIfLE9Xl9mb_cAyZCTdlF2A0GVdxTs2vcl1o&zhida_source=entity)）并用importance weighting的方法对采样进行calibration。文中同样介绍了一种替代方法，[hierarchical](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=hierarchical&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiJoaWVyYXJjaGljYWwiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.Oh2crUDyuZV-4ZXJmAAaXpm60bQKIMn4ARTetkd6oxI&zhida_source=entity) softmax，但并没有取得更好的效果。当然关于采样的具体[技术细节](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=%E6%8A%80%E6%9C%AF%E7%BB%86%E8%8A%82&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiLmioDmnK_nu4boioIiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.6z1deQyPmozz6YMcLwzHUFrSCQdAxBpRnMoazUH9l3U&zhida_source=entity)以及优劣可能再开一篇文章都讲不完，感兴趣的同学可以参考tensorflow中的介绍（[https://www.tensorflow.org/extras/candidate_sampling.pdf](https://link.zhihu.com/?target=https%3A//www.tensorflow.org/extras/candidate_sampling.pdf)）以及NLP领域的经典论文 [http://www.aclweb.org/anthology/P15-1001](https://link.zhihu.com/?target=http%3A//www.aclweb.org/anthology/P15-1001) 也欢迎有相关经验的同学在评论中给出简明的回答。 **2、在candidate generation model的serving过程中，YouTube为什么不直接采用训练时的model进行预测，而是采用了一种[最近邻](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=%E6%9C%80%E8%BF%91%E9%82%BB&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiLmnIDov5HpgrsiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.DNXPGFQ5jh5U-jmreMUpN_u57iBcJkRyLehbvOSyntA&zhida_source=entity)搜索的方法？** 这个问题的答案是一个经典的工程和学术做trade-off的结果，在model serving过程中对几百万个候选集逐一跑一遍模型的时间开销显然太大了，因此在通过candidate generation model得到user 和 video的embedding之后，通过最近邻搜索的方法的效率高很多。我们甚至不用把任何model inference的过程搬上服务器，只需要把user embedding和video embedding存到[redis](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=redis&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiJyZWRpcyIsInpoaWRhX3NvdXJjZSI6ImVudGl0eSIsImNvbnRlbnRfaWQiOjEwNzI4MTQ4LCJjb250ZW50X3R5cGUiOiJBcnRpY2xlIiwibWF0Y2hfb3JkZXIiOjEsInpkX3Rva2VuIjpudWxsfQ.KzPDYlnRbdq_0aWABy_aStO1c9iwT3X8uqGC68MkEQE&zhida_source=entity)或者内存中就好了。 但这里我估计又要求助场外观众了，在原文中并没有介绍得到user embedding和video embedding的具体过程，只是在架构图中从softmax朝 model serving module那画了个箭头（如下图红圈内的部分），**到底这个[user vector](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=user+vector&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiJ1c2VyIHZlY3RvciIsInpoaWRhX3NvdXJjZSI6ImVudGl0eSIsImNvbnRlbnRfaWQiOjEwNzI4MTQ4LCJjb250ZW50X3R5cGUiOiJBcnRpY2xlIiwibWF0Y2hfb3JkZXIiOjEsInpkX3Rva2VuIjpudWxsfQ.4eKCpPbfR9jmbNe9nyG0a_-rnbrssLfLT0_bbARhTrk&zhida_source=entity)和video vector是怎么生成的？**有经验的同学可以在评论中介绍一下。 ![](../images/006.jpg) Candidate Generation Model, video vector是如何生成的？ **3、Youtube的用户对新视频有偏好，那么在模型构建的过程中如何引入这个feature？** 为了拟合用户对fresh content的bias，模型引入了“Example Age”这个feature，文中其实并没有精确的定义什么是example age。按照文章的说法猜测的话，会直接把sample log距离当前的时间作为example age。比如24小时前的日志，这个example age就是24。在做模型serving的时候，不管使用那个video，会直接把这个feature设成0。大家可以仔细想一下这个做法的细节和动机，非常有意思。 当然我最初的理解是训练中会把Days since Upload作为这个example age，比如虽然是24小时前的log，但是这个video已经上传了90小时了，那这个feature value就是90。那么在做inference的时候，这个feature就不会是0，而是当前时间每个video的上传时间了。 我不能100%确定文章中描述的是那种做法，大概率是第一种。还请大家踊跃讨论。 文章也验证了，example age这个feature能够很好的把视频的freshness的程度对popularity的影响引入模型中。 ![](../images/007.jpg) 从上图中我们也可以看到，在引入“Example Age”这个feature后，模型的预测效力更接近[经验分布](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=%E7%BB%8F%E9%AA%8C%E5%88%86%E5%B8%83&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiLnu4_pqozliIbluIMiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.uJF34j_Lnrtdh89rv4KJbcf2zikvdMD05mORyIZQjyA&zhida_source=entity)；而不引入Example Age的蓝线，模型在所有时间节点上的预测趋近于平均，这显然是不符合客观实际的。 **4、在对训练集的预处理过程中，YouTube没有采用原始的用户日志，而是对每个用户提取等数量的训练样本，这是为什么？** 原文的解答是这样的， > Another key insight that improved live metrics was to generate a xed number of training examples per user, e ectively weighting our users equally in the loss function. This prevented a small [cohort](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=cohort&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiJjb2hvcnQiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.zi3it0MALvD0b2XrkBr2pkRJkuHJ6Pjz-ERSYXkwML8&zhida_source=entity) of highly active users from dominating the loss. 理由很简单，这是为了减少高度活跃用户对于loss的过度影响。 **5、YouTube为什么不采取类似RNN的Sequence model，而是完全摒弃了用户观看历史的[时序特征](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=%E6%97%B6%E5%BA%8F%E7%89%B9%E5%BE%81&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiLml7bluo_nibnlvoEiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.aBsV12-Q0ccgy2BUOF5M9Iix4Sim6KHXjOrSM6KeNkc&zhida_source=entity)，把用户最近的浏览历史等同看待，这不会损失有效信息吗？** 这个原因应该是YouTube工程师的“经验之谈”，如果过多考虑时序的影响，用户的推荐结果将过多受最近观看或搜索的一个视频的影响。YouTube给出一个例子，如果用户刚搜索过“tayer swift”，你就把用户主页的推荐结果大部分变成tayer swift有关的视频，这其实是非常差的体验。为了综合考虑之前多次搜索和观看的信息，YouTube丢掉了时序信息，讲用户近期的历史纪录等同看待。 但RNN到底适不适合next watch这一场景，其实还有待[商榷](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=%E5%95%86%E6%A6%B7&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiLllYbmprciLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.SE4SvyetBmTVhlMjlpvAZ_bhFi0EJAP1EHP8-THEJII&zhida_source=entity)，@严林 大神在上篇文章的评论中已经提到，youtube已经上线了以RNN为基础的推荐模型， 参考论文如下： [https://static.googleusercontent.com/media/research.google.com/en//pubs/archive/46488.pdf](https://link.zhihu.com/?target=https%3A//static.googleusercontent.com/media/research.google.com/en//pubs/archive/46488.pdf) 看来时隔两年，YouTube对于时序信息以及RNN模型有了更多的掌握和利用。 **6、在处理测试集的时候，YouTube为什么不采用经典的随机[留一法](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=%E7%95%99%E4%B8%80%E6%B3%95&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiLnlZnkuIDms5UiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.h_EXKeKVtQOHuQ_laSI7vvpDjRueukUMfhHnFsqMB1c&zhida_source=entity)（random holdout），而是一定要把用户最近的一次观看行为作为测试集？** 这个问题比较好回答，只留最后一次观看行为做测试集主要是为了避免引入future information，产生与事实不符的数据穿越。 **7、在确定优化目标的时候，YouTube为什么不采用经典的[CTR](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=CTR&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiJDVFIiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.k-q6_wZ9Tf67-GlFubqGXgHb7datZ7UN9bq9WLzcvlM&zhida_source=entity)，或者播放率（Play Rate），而是采用了每次曝光预期播放时间（[expected watch time per impression](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=expected+watch+time+per+impression&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiJleHBlY3RlZCB3YXRjaCB0aW1lIHBlciBpbXByZXNzaW9uIiwiemhpZGFfc291cmNlIjoiZW50aXR5IiwiY29udGVudF9pZCI6MTA3MjgxNDgsImNvbnRlbnRfdHlwZSI6IkFydGljbGUiLCJtYXRjaF9vcmRlciI6MSwiemRfdG9rZW4iOm51bGx9.Vxxr5iwxUG83TV7nI3aPzl8YB1GCj_xyYAzSdvyx7e4&zhida_source=entity)）作为优化目标？** 这个问题从模型角度出发，是因为 watch time更能反应用户的真实兴趣，从[商业模型](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=%E5%95%86%E4%B8%9A%E6%A8%A1%E5%9E%8B&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiLllYbkuJrmqKHlnosiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.bwdVf2zVtUBpdGfe_jRfnG_vXGK2Y5HyXct3T5g_kPo&zhida_source=entity)角度出发，因为watch time越长，YouTube获得的广告收益越多。而且增加用户的watch time也更符合一个视频网站的长期利益和用户粘性。 这个问题看似很小，实则非常重要，objective的设定应该是一个[算法模型](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=%E7%AE%97%E6%B3%95%E6%A8%A1%E5%9E%8B&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiLnrpfms5XmqKHlnosiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.Yg18MWJm-iN4NriKKwBRcP27nibWPtrQisK9XKUWjjI&zhida_source=entity)的根本性问题，而且是算法模型部门跟其他部门接口性的工作，从这个角度说，YouTube的推荐模型符合其根本的商业模型，非常好的经验。 我之前在领导一个算法小组的时候，是要花大量时间与Business部门沟通Objective的设定问题的，这是路线方针的问题，方向错了是要让组员们很多努力打水漂的，一定要慎之又慎。 **8、在进行video embedding的时候，为什么要直接把大量长尾的video直接用[0向量](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=0%E5%90%91%E9%87%8F&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiIw5ZCR6YePIiwiemhpZGFfc291cmNlIjoiZW50aXR5IiwiY29udGVudF9pZCI6MTA3MjgxNDgsImNvbnRlbnRfdHlwZSI6IkFydGljbGUiLCJtYXRjaF9vcmRlciI6MSwiemRfdG9rZW4iOm51bGx9.jrH29H1o4c4wT2SRpJvzt-WYzgL_bWJSzQrbzliQsJs&zhida_source=entity)代替？** 这又是一次工程和算法的trade-off，把大量长尾的video截断掉，主要还是为了节省online serving中宝贵的内存资源。当然从模型角度讲，低频video的[embedding](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=7&q=embedding&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiJlbWJlZGRpbmciLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjo3LCJ6ZF90b2tlbiI6bnVsbH0.9xcuOyh02Nxpf7tX3S75BDHTpTSs0IaX819ngtEz5Js&zhida_source=entity)的准确性不佳是另一个“截断掉也不那么可惜”的理由。 当然，之前很多同学在评论中也提到简单用0向量代替并不是一个非常好的选择，那么有什么其他方法，大家可以思考一下。 **9、针对某些特征，比如#previous impressions，为什么要进行[开方](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=%E5%BC%80%E6%96%B9&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiLlvIDmlrkiLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.Mjto-N8c2kivclj5IZ19qSLKvM-BatZo5QPVEe6oJuk&zhida_source=entity)和平方处理后，当作三个特征输入模型？** 这是很简单有效的工程经验，引入了特征的[非线性](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=%E9%9D%9E%E7%BA%BF%E6%80%A7&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiLpnZ7nur_mgKciLCJ6aGlkYV9zb3VyY2UiOiJlbnRpdHkiLCJjb250ZW50X2lkIjoxMDcyODE0OCwiY29udGVudF90eXBlIjoiQXJ0aWNsZSIsIm1hdGNoX29yZGVyIjoxLCJ6ZF90b2tlbiI6bnVsbH0.cXYilOShLpAsmRY5nf0rgjSMUwQwQE01tARXzCmkZ8o&zhida_source=entity)。从YouTube这篇文章的效果反馈来看，提升了其模型的离线准确度。 **10、为什么ranking model不采用经典的logistic[regression](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=regression&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiJyZWdyZXNzaW9uIiwiemhpZGFfc291cmNlIjoiZW50aXR5IiwiY29udGVudF9pZCI6MTA3MjgxNDgsImNvbnRlbnRfdHlwZSI6IkFydGljbGUiLCJtYXRjaF9vcmRlciI6MSwiemRfdG9rZW4iOm51bGx9.oT3NzzTkfr2wc1-RmQLjOkKMvlHWEOx_jt_FIjDxfMY&zhida_source=entity)当作输出层，而是采用了[weighted logistic regression](https://zhida.zhihu.com/search?content_id=10728148&content_type=Article&match_order=1&q=weighted+logistic+regression&zd_token=eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJpc3MiOiJ6aGlkYV9zZXJ2ZXIiLCJleHAiOjE3OTExODc5NTMsInEiOiJ3ZWlnaHRlZCBsb2dpc3RpYyByZWdyZXNzaW9uIiwiemhpZGFfc291cmNlIjoiZW50aXR5IiwiY29udGVudF9pZCI6MTA3MjgxNDgsImNvbnRlbnRfdHlwZSI6IkFydGljbGUiLCJtYXRjaF9vcmRlciI6MSwiemRfdG9rZW4iOm51bGx9.Q79LA-Qgd1e-AsLxeDCfDtDVcD7APaCHuSPtck4mPzY&zhida_source=entity)？** 因为在第7问中，我们已经知道模型采用了expected watch time per impression作为优化目标，所以如果简单使用LR就无法引入正样本的watch time信息。因此采用weighted LR，将watch time作为正样本的weight，在线上serving中使用e(Wx+b)做预测可以直接得到expected watch time的近似，完美。 对第10点仍有疑问的同学，可以关注我专门针对第10点的分析文章： [](https://zhuanlan.zhihu.com/p/61827629) 十个问题全部答完，希望对大家有帮助。其实在上一篇文章抛出这十个问题的时候，已经有诸位大神做出了很好的回答，感谢 [@做最闲的咸鱼](https://www.zhihu.com/people/2ff7d7675ccd1de9220a4edcc4f3e22d) [@严林](https://www.zhihu.com/people/dcb32aa26dd3a456bd79d2c2cdffa433) [@吴海波](https://www.zhihu.com/people/42b67e693fb4addfe21f59919872f74f) 。最后增加一个思考环节，大家可以讨论一下下面的问题： 1. **本论文中，用于 candidate generation网络serving部分的user embedding vector和video embedding vector是怎么生成的？** 2. **Example age这个feature的定义到底是什么？** 3. **除了用0向量embedding替代长尾内容，有没有其他好的方法？** 这里是 **[王喆的机器学习笔记](https://zhuanlan.zhihu.com/wangzhenotes)** 的第三篇文章，水平有限，不对之处欢迎吐槽、拍砖。也欢迎大家关注我的同名**微信公众号 王喆的机器学习笔记** （**wangzhenotes** ），或者通过公众号加我的个人微信进行进一步交流讨论，谢谢。 * * * 本文亦收录在我的新书「**[深度学习推荐系统](https://link.zhihu.com/?target=https%3A//union-click.jd.com/jdc%3Fe%3Djdext-1225677006157246464-0%26p%3DAyIGZRprFQEVBVQYWh0yVlgNRQQlW1dCFFlQCxxKQgFHRE5XDVULR0UVARUFVBhaHR1LQglGa0tDQm8QBR5sYE1PBlI9FnsVYjxoI3UOHjdVElsXChMGVRxYJQITBlUfXhYBFAZlK1sQMkRpVRpaFAMTAlUeWCUDIgdREl8UAxcHUxpZEwQiB10fa8OshtLdpIKlp8St%252B87WpdebrIGl3SUyIgRlQA5BS1cbVRhYEQUUAVQaXBUGFARQHF4SBw4GZRtYEwUaaVR1WBQHFg9RHF0RAiIHZRtrSkZPWmUZWhQAEA%253D%253D)** 」中，这本书系统性地整理、介绍了专栏中所有的重点内容，如果您曾在「**[王喆的机器学习笔记](https://zhuanlan.zhihu.com/wangzhenotes)** 」中受益，欢迎订阅，谢谢知友们的支持！ [ ![](../images/008.jpg)广告 深度学习推荐系统 京东 ¥54.00 去购买​ ](https://union-click.jd.com/jdc?e=jdext-1225685431578148864-0&p=AyIGZRprFQEVBVQYWh0yVlgNRQQlW1dCFFlQCxxKQgFHRE5XDVULR0UVARUFVBhaHR1LQglGa3dhSXAyZhtGZ05fLUwpbwVaBzJLAlMOHjdVElsXChMGVRxYJQITBlUfXhYBFAZlK1sQMkRpVRpaFAMTAlUeWCUDIgdREl8UAxUHUxNaEAsiB10fa8OshtLdpIKlp8St%2B87WpdebrIGl3SUyIgRlQA5BS1cbVRhYEQUbA1AZWxEEGwdQElISBw4GZRtYEwUaaVR1WBQHFg9RHF0RAiIHZRtrSkZPWmUZWhQAEA%3D%3D) 编辑于 2020-03-23 23:30 [推荐系统](https://www.zhihu.com/topic/19563024) [机器学习](https://www.zhihu.com/topic/19559450) [深度学习（Deep Learning）](https://www.zhihu.com/topic/19813032) ​赞同 1518​​322 条评论​2568 ​81 ​分享 ​申请转载​ ​ ![](../images/body-7e064b35ba4350074989.jpeg) 未登录用户 网络故障，请检查网络连接 重新加载 关于作者 [![王喆](../images/009.jpg)](https://www.zhihu.com/people/wang-zhe-58) [王喆](https://www.zhihu.com/people/wang-zhe-58) 广告/推荐 Engineering Director [​](https://zhuanlan.zhihu.com/p/96956163) 科技作者，代表作《深度学习推荐系统》《理工男谈理财》 ​ [数据挖掘](https://www.zhihu.com/people/wang-zhe-58/creations/19553534)、[机器学习](https://www.zhihu.com/people/wang-zhe-58/creations/19559450)、[深度学习（Deep Learning）](https://www.zhihu.com/people/wang-zhe-58/creations/19813032) 话题的优秀答主 [回答](https://www.zhihu.com/people/wang-zhe-58/answers)[文章](https://www.zhihu.com/people/wang-zhe-58/posts)[关注者](https://www.zhihu.com/people/wang-zhe-58/followers) ​关注他​发私信 大家都在搜 换一换 [原央视主持人阿丘回应被通报464 万](https://www.zhihu.com/search?q=%E5%8E%9F%E5%A4%AE%E8%A7%86%E4%B8%BB%E6%8C%81%E4%BA%BA%E9%98%BF%E4%B8%98%E5%9B%9E%E5%BA%94%E8%A2%AB%E9%80%9A%E6%8A%A5&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=2c6a8697-ec42-4291-a9cd-f761c2079cc6)热 [中国男足 0-5 巴勒斯坦310 万](https://www.zhihu.com/search?q=%E4%B8%AD%E5%9B%BD%E7%94%B7%E8%B6%B3+0-5+%E5%B7%B4%E5%8B%92%E6%96%AF%E5%9D%A6&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=2c6a8697-ec42-4291-a9cd-f761c2079cc6)热 [文春曝张本智和私生活292 万](https://www.zhihu.com/search?q=%E6%96%87%E6%98%A5%E6%9B%9D%E5%BC%A0%E6%9C%AC%E6%99%BA%E5%92%8C%E7%A7%81%E7%94%9F%E6%B4%BB&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=2c6a8697-ec42-4291-a9cd-f761c2079cc6) [孕妇骑车别车被司机踹翻279 万](https://www.zhihu.com/search?q=%E5%AD%95%E5%A6%87%E9%AA%91%E8%BD%A6%E5%88%AB%E8%BD%A6%E8%A2%AB%E5%8F%B8%E6%9C%BA%E8%B8%B9%E7%BF%BB&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=2c6a8697-ec42-4291-a9cd-f761c2079cc6)热 [国庆多地高速服务区电车取号排队充电262 万](https://www.zhihu.com/search?q=%E5%9B%BD%E5%BA%86%E5%A4%9A%E5%9C%B0%E9%AB%98%E9%80%9F%E6%9C%8D%E5%8A%A1%E5%8C%BA%E7%94%B5%E8%BD%A6%E5%8F%96%E5%8F%B7%E6%8E%92%E9%98%9F%E5%85%85%E7%94%B5&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=2c6a8697-ec42-4291-a9cd-f761c2079cc6) [韩国检察厅被撤销258 万](https://www.zhihu.com/search?q=%E9%9F%A9%E5%9B%BD%E6%A3%80%E5%AF%9F%E5%8E%85%E8%A2%AB%E6%92%A4%E9%94%80&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=2c6a8697-ec42-4291-a9cd-f761c2079cc6) [亚运男足中国 U23 vs 乌兹别克斯坦 U23245 万](https://www.zhihu.com/search?q=%E4%BA%9A%E8%BF%90%E7%94%B7%E8%B6%B3%E4%B8%AD%E5%9B%BD+U23+vs+%E4%B9%8C%E5%85%B9%E5%88%AB%E5%85%8B%E6%96%AF%E5%9D%A6+U23&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=2c6a8697-ec42-4291-a9cd-f761c2079cc6)新 [葡萄牙首次在无C罗情况下打进4球231 万](https://www.zhihu.com/search?q=%E8%91%A1%E8%90%84%E7%89%99%E9%A6%96%E6%AC%A1%E5%9C%A8%E6%97%A0C%E7%BD%97%E6%83%85%E5%86%B5%E4%B8%8B%E6%89%93%E8%BF%9B4%E7%90%83&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=2c6a8697-ec42-4291-a9cd-f761c2079cc6) [C罗官宣离开国家队集训211 万](https://www.zhihu.com/search?q=C%E7%BD%97%E5%AE%98%E5%AE%A3%E7%A6%BB%E5%BC%80%E5%9B%BD%E5%AE%B6%E9%98%9F%E9%9B%86%E8%AE%AD&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=2c6a8697-ec42-4291-a9cd-f761c2079cc6) [中国女足 0-1 韩国202 万](https://www.zhihu.com/search?q=%E4%B8%AD%E5%9B%BD%E5%A5%B3%E8%B6%B3+0-1+%E9%9F%A9%E5%9B%BD&search_source=Trending&utm_content=search_hot&utm_medium=organic&utm_source=zhihu&type=content&request_click_id=2c6a8697-ec42-4291-a9cd-f761c2079cc6) _想来知乎工作？请发送邮件到 jobs@zhihu.com_ 打开知乎App 在「我的页」右上角打开扫一扫 ![](../images/body-0f9788d006ab0f4da762.png) 其他扫码方式：微信 下载知乎App 无障碍模式 验证码登录 密码登录 [开通机构号](https://zhuanlan.zhihu.com/org/signup) 中国 +86 获取短信验证码 忘记密码 登录/注册 其他方式登录 未注册手机验证后自动登录，注册即代表同意[《知乎协议》](https://www.zhihu.com/term/zhihu-terms)[《隐私保护指引》](https://www.zhihu.com/term/privacy) 扫码下载知乎 App 关闭二维码 打开知乎App 在「我的页」右上角打开扫一扫 ![](../images/body-0f9788d006ab0f4da762.png) 其他扫码方式：微信 下载知乎App 无障碍模式 验证码登录 密码登录 [开通机构号](https://zhuanlan.zhihu.com/org/signup) 中国 +86 获取短信验证码 忘记密码 登录/注册 其他方式登录 未注册手机验证后自动登录，注册即代表同意[《知乎协议》](https://www.zhihu.com/term/zhihu-terms)[《隐私保护指引》](https://www.zhihu.com/term/privacy) 扫码下载知乎 App 关闭二维码