该算法是雅虎工程师提出的一个解决合约制广告或者说GD（担保式投放）投放系统在线分配问题的贪心算法，思路很直接，下面是本人对照其论文整理的思路，里面有自己的理解。

论文题目：Ad Serving Using a Compact Allocation Plan

google一下即可得到。

===========================================================================================

摘要：

在线广告有很大一部分是通过担保式合约来售卖的。这类广告的特点是：广告系统要保证广告主要求的定向条件的曝光量，有时间限制，超过时间没有完成可能会赔偿。这对广告系统意味着，当一次曝光机会到来时，可能会有多个广告主的单子满足曝光要求，广告系统需要决定这次曝光该展示哪一个合约，并且保证其他所有合约也完成。这个问题有两个挑战：（1）问题的数量级，可能会有百万级别的广告主合约和百万级别的流量；（2）不可预见性，合约通常是提前签订，因此需要预估流量。同时在分配流量时，也无法得知当天总流量的分布。我们这里提出了一种对担保式投放系统的分配方案。
我们提出了一个结局担保式投放系统分配问题的解决方案。分配方案离线计算，可以被广告投放系统有效使用。每一个合约的分配方案只需要O（1）空间。整个分配算法是无状态，可以方便地在分布式系统中使用。

简介：

GD（Guarantee delivery，担保式投送）广告投放系统中的核心问题是匹配supply和demand。当用户展示发生时，广告服务器需要在秒级延迟下选择出合适的合约，使得所有的合约都被满足。这是第一需求，也是核心需求。与此同时，还有很多次级需求，比如平滑，即广告不能在一瞬间展示完，应该均匀分布在合约期内。这个问题的难点在于一个是计算量很大，另一个是在做online决策时，并不知道这一刻流量的整体分布，只能基于历史数据做预测。
先看两种比较直观的思路：一种是基于完成度，一种是基于服务率。
完成度：广告服务器在选择合约时是基于每一个合约的历史展示情况来决定的。比如，如果来一个展示，有两个合约满足，一个合约马上就完成了，另一个还差很多，那么肯定优先展示差很多的那个，即按照完成率来定。这个思路很简单，但是会有一些问题：第一，这里需要给出完成度的确切定义，什么样的合约是快完成了，什么样的合约是还差很多。可能最直观的定义是，每一个合约都均匀显示在合约期内，比如30天展示30万次的合约，那么每天需要展示1万次。这可以让展示非常平滑，但是却忽略了一个事实，即实际的流量是变化的，工作日的流量会少于周末，晚上的流量会少于白天的。而且每一天都可能发生定向的流量骤降的情况，这就需要算法能够动态调整展示的概率。第二，由于需要记录每一个合约的完成度，整个系统是有状态的，这对于分布式系统有一些挑战，但是不是不可解，通过消息队列来处理曝光打点可以解决。
服务率：这种方案不需要考虑每一订单的完成度，而是离线计算出每一个订单的服务率。每来一个展示，就把符合条件的合约按照概率展示即可。这种方案的问题在于：第一，计算服务率肯定是需要流量预测的，那么对预测的准确性要求很高；第二，整个计算的过程是一个分配求解的过程，求解的规模很大。
那么，这里我们提出了一个结合上述两种思路的two-step的解决方案——HWM。第一，我们引入了一个离线计算分配方案的轻量级算法，分配方案是无状态的且是基于服务率的。第二我们提出了一个反馈模型，可以根据最近的历史数据来调整流量预测带来的误差。

问题定义：

图一
考虑上图的例子。有三个广告主的合约和六个流量节点。每一个都被标注了定向条件。如果每一个流量符合某一个合约，那么他们之间会有一条线相连。对于200k{male}的demand，我们可以把{male，ca，age=5}的100k流量给他，那么200k{ca}的demand就无法满足了，除非我们只把{male，ca，age=5}的100k流量给{ca}的demand。这里我们其实已经感受到了分配问题的含义。再强调一下现实问题中的挑战，每一个demand和supply的节点都成百万，而且标签的数目也相当大，远比这个例子复杂得多。
设I是预测的supply集合，J是合约集合。那么分配问题可以定义成一个二部图G。图中任一边e代表流量满足合约j。每一个supply节点被si标记，代表该节点的展示量，同理每一个demand节点被dj标记，代表合约约定的展示量。那么解决这个分配问题其实是找到xij，xij表示每一个supply节点i分配给合约j的占比。xij必须满足：

图二
另外，虽然不是强制，但是上述问题最好能考虑到平滑特性。
整体架构：

图三
离线部分，输入流量预测和合约，生成分配方案。在线部分根据分配方案来决定展示哪一个合约。离线部分，当然可以去解之前的分配方案，得到每一个xij，很直接。但是在在线部分，就需要把整个二部图载入内存，代价很大（xij意味着所有的边都需要载入）。所以关键点就是得到xij，但是不需要存储。我们的方案是通过一个aj来代替xij。aj代表每一个符合条件的supply展示合约j的概率。所有符合条件的supply节点的aj都是相同的。数学依据在另一篇论文。这样的方案，在线模块就只需要加载合约以及每一个合约的aj值即可。

算法：

HWM的离线算法会生成每一个合约的服务率，服务率的大小取决于合约的紧急程度。算法会把每一个demand连同符合条件的supply标记。设对于合约j，所有满足条件的supply节点的流量和为Sj，然后按照Sj/dj升序排序（原文是按照Sj排序，在另一篇论文里是按照Sj/dj排序，个人认为后者更合理，具体见附录），这个值越小，意味着这个合约优先级越展示。按照这个值对合约升序排序，得到一个叫allocation order的排序结果。接着计算服务率，算法如下：

图四
第一步：设ri为每一个supply节点的剩余流量，si为预测流量，那么最开始，ri=si；
第二步：对于所有的合约j，先按照allocation order排序，再求解aj。这个式子的含义是，把所有合约j满足的supply节点拿出来，对每一个supply节点都求出min{ri，si*aj}值，然后求和，使得和等于dj。如果没有解，那么aj=1；再更新每一个ri。
这个式子什么含义呢？
aj代表合约应该被展示的概率，si*aj代表supply节点i应该给合约j的量，但是可能这时i节点已经没有这么多量了，这时i节点应该给j的量就是ri，所以对每一个节点i，取的是最小值。对所有符合条件的节点i都求出展示量并且求和，就是节点j可以得到的展示量，这个值应该等于合约量dj。至此，一个合约的aj求出来了，然后再更新supply的ri值。下一次迭代。
现在来直观地理解一下这个算法：首先按照allocation order排序，那么最紧急的合约已经被排到了第一位。然后根据Sj/dj算出aj。aj表示你每一个服务条件的supply节点给我的量的比例。因为这是第一个demand点，所以不存在流量不够的情况。那么对于后面的demand节点，就可能存在某些supply节点量不够的情况，这时只能用ri代替，那么其他节点就需要多出量，所以这时得到的aj肯定是大于Sj/dj的。当然也可能所有的supply节点都不够，那么就把aj设为1。

图五

看上面的例子，排序结果是2-1-3。先算2，a2=200/200 = 1，更新第三个supply节点的ri=0;再算1，由于第三个节点ri=0,所以只能用前两个节点，a1=200/800 = 1/4；a3留给读者。
至此离线算法结束，我们已经为每一个合约都赋予了一个服务率aj。
下面是在线部分。
第一步：给定一个展示i，设J={c1，c2，。。。，c|J|}为所有符合条件的合约集合,并且按照allocation order升序排序；
第二步：设l是[1, |J|]中的最大值，A = a1+...al <= 1，但是a1+...a(l+1) > 1，那么令a(l+1) = 1 - A;
第三步：对于1 <= j <= l，每一个合约j的服务率就是aj，而j=l+1的服务率是上面计算得到的a(l+1)。然后按照这个服务率作为这些合约的概率，从中选出此次展示的合约。
注意，这里假设是aj求和大于1的情况，如果小于1，则意味着有些流量是浪费的。
看之前的例子：
如果展示{CA，age=5}到达，那么l=1，则合约1总是被选中；
如果展示{Male，age=5}到达，那么l=2，1/4的概率分给合约1，5/8的概率分给合约3，1/8的流量会不会被分配。这些流量可以被其他变现途径利用。
至此，HWM算法就介绍结束了。原文的评估部分没有继续探讨了，有兴趣的可以自行查阅。

小结：

GD系统的挑战：
1.计算量大；
2.依赖预测的准确性；
HWM的思路：
1.2-step；
2.用aj代替了xij，较少内存消耗；

附录：这是另一篇shale算法论文中对HWM的描述，其中allocation order的一句被定义为Sj/dj，与本文不同，个人认为shale论文的定义更合理。

【计算广告】在线分配算法之 —— HWM（High water mark）介绍相关推荐

oracle hwm 查询,Oracle HWM( High Water Mark)
Oracle HWM( High Water Mark) 1.什么是HWM 注意:此部分内容请先了解oracle物理结构和逻辑结构顾名思义,这是一条水位线,oracle的每一个对象都是一个segem ...
Oracle 高水位(HWM: High Water Mark) 说明
一. 准备知识:ORACLE的逻辑存储管理. ORACLE在逻辑存储上分4个粒度: 表空间, 段, 区和块. 1.1 块: 是粒度最小的存储单位,现在标准的块大小是8K ...
【深度】广告流量分配HWM算法
在广告投放系统中,广告通常分为保量交付广告(Guaranteed Delivery,GD,合约广告)和不保量交付(Non-Guaranteed Delivery,NGD,竞价广告)两种.合约广告是提前 ...
小米品牌广告引擎与算法实践
品牌广告是小米商业化的重大战略方向,在小米视频.音乐.浏览器等多个媒体广泛投放,广告样式也越来越多样,开屏.视频.信息流等.品牌广告主对投放的需求也日益复杂和多样化,精准定向.频控.跨媒体投放.预算平 ...
方兴未艾的计算广告学——微软亚洲研究院高级研究员刘铁岩
图片来源于网络编者按:近年来,随着计算机的普及,互联网广告蓬勃发展.如何使互联网广告更加有效,宣传力度更大,已成为学术界研究的一大热点,一个崭新的学科--计算广告学也因此出现.微软亚洲研究院高级研究 ...
方兴未艾的计算广告学
文章来源:http://blog.sina.com.cn/s/blog_4caedc7a0102eshz.html 图片来源于网络编者按:近年来,随着计算机的普及,互联网广告蓬勃发展.如何使互联网广 ...
计算广告（人工智能）
计算广告互联网广告的商业模型合约广告竞价广告程序化交易广告广告系统架构图计算广告的相关算法用户画像点击率预估样本采样特征抽取与组合模型训练模型评估广告检索广告排序/选择相 ...
zeromq: hwm； high water mark: 高水位线
文章目录参考描述 HWM是怎么触发线程block? How does the HWM (high water mark) work with any socket type? 参考 libzmq/ ...
mysql .pdb是什么文件_计算广告算法到底要做什么？
这个话题在这个专栏开篇就该去讲.恰逢今天公司业务和财务培训(20190216)之后,也有一些思索,索性就都汇总写下来.本文杂述,不尽完备,但是值得不断完善. 我喜欢一句话"革命不是请客吃饭, ...

【计算广告】在线分配算法之 —— HWM（High water mark）介绍

摘要：

简介：

问题定义：

算法：

小结：

【计算广告】在线分配算法之 —— HWM（High water mark）介绍相关推荐

最新文章

热门文章