持续交付2.0:业务引领的DevOps精要(增订本)
上QQ阅读APP看书,第一时间看更新

为了能够加快探索环的速度,缩短整个“8”字环的运行周期,避免陷入“分析瘫痪”的境地,在探索环的工作中应该遵循“分解并快速试错”“一次只验证一点”“允许失败”原则。

“一次到位式”解决方案通常需要较高的实施成本,而其带来的实际效果具有较高的不确定性。由于前期投入的成本较高(即沉没成本),即使这个解决方案未能带来预期效果,团队也不愿意放弃这一方案,决策者通常选择保留它,或者仍会持续优化,使其慢慢“死去”,而这会带来不必要的产品复杂性和维护成本。

如果我们能够换一种思路,更多地使用低成本的快速试验方式,那么在相同的成本下,可以尝试更多的方法,尝试更多的次数,这意味着可能会有更多的收益。如图2-11所示,在相同的成本下,尽管快试错失败次数多,但可能会得到更多成功的想法。

2-11

图2-11 慢失败与快试错

一次只验证一个需求假设。在执行整个试验方案过程中,我们仍旧要保持开放心态,不断优化这些试验方案。时刻提醒自己,我们的目标是验证我们的假设,试验方案只是我们验证假设的手段,而不是我们的目标。

国外电商Etsy网站曾经对其商品的搜索结果页进行彻底地大改造,将商品列表的展示效果改为瀑布流式,这个功能类似于百度图片搜索结果页的无限下拉效果。也就是说,当返回多于一页的商品结果时,所有商品可以依据一定的排序规则形成一个瀑布流。用户只要向下滑动页面,商品就会持续不断地展示出来,直到所有搜索结果全部显示出来。

团队撸起袖子,闷头干了好长时间,这个改造终于可以与用户见面了。谨慎起见,他们做了一个A/B试验,结果令他们大吃一惊。因为在瀑布流的“实验组”中,有连续浏览行为的人数是40,而在“对照组”中,这一人数为80,其数据如图2-12所示。商品点击率下降了约10%,购买率下降了约22.5%,物品收藏率下降了约8%。这个“瀑布流”根本没有达到预期的效果,反而更糟糕。

2-12

图2-12 瀑布流搜索页的试验结果

(资料来源:2012年Dan McKinley的“Design for Continuous Experimentation”)

当刚刚得到这样的结果时,团队所有人都认为一定是软件中存在缺陷,才会导致这个结果。于是,团队进行了各种排查,例如将用户按浏览器和地理位置进行分片。派人到公共图书馆使用古老的计算机登录网站。团队确实发现了一些软件缺陷,但修复它们后也没有改变整体结果。

大家又怀疑是因为不同浏览器的体验不同,就针对不同的浏览器进行优化。每个优化在不同的浏览器上表现不一致。能够想到的优化都改完以后,情况也没有什么好转。最终团队接受了这样一个事实,即瀑布流方式让产品变得更糟。在这个过程中,团队一次性改变了太多的东西,很难发现任何线索,找出“罪魁祸首”。

事实上,如果仔细分析,我们会发现,在“瀑布流”这个功能背后的假设是:更快地为用户展示更多的商品,会让用户的购物体验更好,用户会购买更多的商品。而这个假设由两部分组成,分别是(1)显示越多的搜索结果给用户,页面的转化率指标越好;(2)用户越快地看到商品,页面的转化率指标越好。

事实上,我们可以找到更快速的验证方法来检验这两个假设。对于第一个假设,在现有页面上展示出当前显示数量两倍的商品数量,看是否提高了详情页的转化率。这个验证方案的实现成本应该比原来无限瀑布流的设计要少很多。事实的结论是:浏览商品落地页的用户只增加了一点点,而且这个增加量也不稳定,而在商品购买转化率上并没有变化。

对于第二个假设,可能会稍显困难。因为在原有性能的前提下,再次提升商品显示速度,可能是一个更大的技术挑战。但是,我们可以反其道而行之,也就是说,人为地在页面上增加延迟时间(如200 ms),以验证用户的购买率会下降。当然,这并不是一个完美的试验方案。不过,只要做好小流量测试,使其不大幅影响整个网站的收入,作为对“延迟时间影响用户购买行为”这一假设的验证方法,还是可以接受的。试验的最终结果是“对数据没有任何影响”。

尽管每个产品经理都希望所有方案都获得成功,但是我们却无法保证每个方案都会获得成功。但是,只要具有开放的心态,我们就可以从所有方案中都学到很多新的知识,而这些收获无论是对产品今后的成功,还是团队人员的能力提升,都具有非常重要的作用。国外著名电商网站Etsy曾经做过一次商品详情页的改版,这个商品详情页如图2-13所示。

为了促进下单转化率,产品经理打算重新设计商品详情页。他先后提供了14个试验方案,其中每个方案的改动都不是很大。例如,将价格以美元显示改成按用户所在地所使用的货币显示;将商品图片放在网页的右侧。其他方案还包含字体或按钮的大小及颜色变化等。这14个试验的最终结果是,每个方案对下单转化率都没有太多的影响,甚至有一些方案的下单转化率还有所下降。然而,在这14个试验过程中,产品团队获得了一些新的用户认知,例如用户关注哪些要素,对哪些要素不是很敏感。最终,在这些试验的基础上,该页面做了一个全面的改版,而这个版本的结果使订单转化率提升显著,该项目成为当年该公司最成功的项目。

Picture 5

图2-13 商品详情页