如何解析DeepMind改进的Google Play Store推荐系统要点解析

在过去的几年中，我们把 DeepMind 的技术应用到了谷歌产品和基础设施中，取得了巨大的成功，我们使用数据中心冷却技术减少了大量的能耗，并扩展了 Android 的电池性能。我们很高兴能与大家分享我们接下来的几个月里的工作。

我们与 Google Play 商店的合作

每个月，有数十亿的用户来 Google Play Store 为他们的移动设备下载应用程序，Play Store 支持了世界上最大的推荐系统之一。一些人在寻找特定的应用程序，比如 Snapchat，而另一些人在浏览商店，想看看有什么新东西和有趣的东西。Google Play 的发现团队努力帮助用户发现最相关的应用程序和游戏，为他们提供有用的应用程序推荐。为了提供更丰富、个性化的体验，应用程序会根据用户过去的偏好来推荐。然而，这需要非常细致的进行区分 — 既要理解应用程序的功能，也要了解它与特定用户的相关性。例如，对于一个狂热的科幻游戏玩家来说，类似的游戏推荐可能会很有趣，但如果用户安装了一个旅游应用，推荐一个翻译应用可能比另外五个旅游应用更相关。这些用户首选项的收集和使用由谷歌的隐私政策管理。

我们开始与 Play store 合作，帮助开发和改进系统，以确定应用程序与用户的相关性。在这篇文章中，我们将探索一些我们为实现这一目标而开发的尖端机器学习技术。今天，Google Play 的推荐系统包含三个主要模型：一个候选生成器、一个重排序机和一个针对多个目标进行优化的模型。候选生成器是一个深度检索模型，可以分析 100 多万个应用程序并检索最合适的应用程序。对于每个应用程序，重排序机(即用户偏好模型)会从多个维度预测用户的偏好。接下来，这些预测是多目标优化模型的输入，该模型的解决方案为用户提供最合适的候选方案。

在现实世界的约束下应用机器学习

改善 Google Play 的推荐系统学习用户的喜好，我们的第一种方法是使用一个 LSTM(长短期记忆)模型，这是一个在现实场景中表现很好的递归神经网络，因为它具有由于强大的更新和反向传播动能力。虽然 LSTM 带来了显著的精度提高，但它也引入了服务延迟，因为 LSTM 在处理长序列时可能在计算上非常昂贵。为了解决这个问题，我们将 LSTM 替换为一个 Transformer 模型，它可以很好地进行序列到序列的预测，并且之前在自然语言处理方面取得了很好的结果，因为它能够比其他常用的模型捕获单词之间更长的依赖关系。该 Transformer 在提高模型性能的同时，也增加了训练成本。我们的第三个也是最后一个解决方案是实现一个有效的加法注意力模型，该模型适用于序列特征的任何组合，同时具有较低的计算成本。

候选生成器去偏差

为了帮助纠正这种偏差，我们在模型中引入了重要性加权。这个重要性权重是基于每一个独立应用的打开—安装率与整个 Play store 的打开—安装率的中间值。安装率低于中值的应用程序的重要性权重将小于 1。然而，如果安装率高于中位数，即使是安装频率较低的“小众”应用程序也可能具有较高的重要性。通过重要性加权，我们的候选生成器可以根据安装率降低或提高应用程序的权重，从而缓解推荐偏差问题。

重排序推荐的改进

我们的解决方案，reranker 模型，学习了同时显示给用户的一对应用程序的相关重要性。我们的 reranker 模型基于一个核心观点:如果用户在商店中同时看到两个应用程序，那么用户选择安装的应用程序比他们没有安装的应用程序更贴近用户。然后，我们可以为每一对应用程序分配一个正样本或负样本的标签，而该模型试图最小化排名中的逆序数量，从而提高应用程序的相对排名。这种“pairwise”模型在实践中比 pointwise 模型更有效，因为预测相对顺序比预测类标签或安装概率更接近于排序的本质。

优化多个目标

我们不是离线解决问题，然后把固定的模型部署上线，而是根据服务期间目标的实际价值，根据每个请求在线解决问题。我们将约束定义为相对约束，这意味着我们希望将次要目标提高一个百分比，而不是一个绝对值。这样，次要目标的任何变化都不会影响我们的求解。

我们开发的算法可以用来发现许多度量之间的权衡。在权衡曲线上找到合适的点，我们的算法可以显著提高次要度量，而对主要度量的影响很小。

团队合作

迄今为止，我们与谷歌的合作通过冷却谷歌的数据中心，减少了 30%的所需的电力，提高了谷歌的风能价值约 20%，并创建了设备上的学习系统来优化 Android 电池性能。现在谷歌助理和谷歌云平台用户遍布世界各地，我们和 Waymo 的合作研究帮助提高其模型性能，以及提高训练神经网络的效率。