Google ME-POIs：融合人类流动数据的POI embedding框架

Google Research 团队来自 Google Research 和南加州大学（USC），发布了 Mobility-Embedded POIs（ME-POIs）框架，该框架将聚合的人类移动数据融入基于文本的地点嵌入。其出发点是：语言模型能描述一个地点是什么，却无法描述它是如何被使用的。两家咖啡馆可以共享同一个类别、同一个街区和同一个文本向量，但一家主要服务通勤的快速流转客流，另一家则留住顾客坐上九十分钟。ME-POIs 将每次访问编码为一个上下文向量，然后使用对比学习将每次访问与每个 POI 的一个可学习原型进行对齐。在洛杉矶和休斯顿的移动数据上进行的五项地图 enrichment 任务中，将 ME-POIs 添加到强大的文本编码器后，洛杉矶的 35 个模型-任务组合中有 34 个获得了提升，其中访问意图的 F1 相对提升达 81.9%，拥挤度的 MAE 降低了 24.7%。值得注意的是，一个仅基于移动数据训练的变体在价格等级分类上超越了 Gemini 嵌入。

某种程度上，这是一个需要你自行重建的框架，而非可以直接下载的模型权重。截至论文发布时，Google Research 仅公开了论文，尚未发布代码或权重。计算资源的门槛并不高：模型约 5370 万参数，在单张 NVIDIA Tesla V100 16GB 上完成预训练。真正的门槛是数据——你需要授权的客流数据或第一方访问日志，外加 POI 面数据。

框架工作原理

每次访问是一个三元组：坐标、到达时间和离开时间。三个因子化编码器分别处理这些信息：Space2Vec 用于多尺度位置编码，两个 Time2Vec 编码器分别处理到达时间和离开时间，使开始时间和停留时长可区分。拼接后的向量经过正弦位置编码，再传入一个 4 层、8 头的 Transformer（d_h = 512），生成上下文感知的访问嵌入。

核心目标是对比学习。每个 POI 拥有一个可学习的原型，InfoNCE 损失将每次访问嵌入拉向其所属 POI 的原型，同时推离小批量中的其他 POI。原型的功能是成为一个质心，将个体用户的行程安排平均化。

稀疏性是难题所在。只有 9.07% 的洛杉矶 POI 和 7.04% 的休斯顿 POI 超过了锚点阈值（分别为 100 和 50 次总访问）。对于长尾部分，ME-POIs 在三个带宽——0.3 km、1.0 km、3.0 km——上计算归一化高斯核，将锚点访问直方图迁移到稀疏 POI，然后添加一个 KL 散度项，迫使稀疏嵌入预测该先验分布。第二个 KL 散度项监督锚点与其自身经验分布的对齐。第四个损失项最大化与投影文本嵌入的余弦相似度，文本嵌入的 prompt 遵循 GeoLLM 配方：坐标、类别、地址，以及最近的十个 POI（附距离和方向）。

评估

评估覆盖两个匿名化移动数据集——洛杉矶（39,557 个 POI，690 万次访问，2019 年全年）和休斯顿（28,419 个 POI，715,604 次访问，2020 年 3 月的 20 天）——在五项地图 enrichment 任务上使用冻结嵌入探测进行评估。标签来源：SafeGraph 提供营业时间和歇业信息，Google Maps 提供访问意图、拥挤度和价格等级。

添加 ME-POIs 后，洛杉矶的 35 个模型-任务组合中有 34 个获得提升。峰值相对收益：周常营业时间 F1 提升 16.2%（OpenAI-large）、访问意图 F1 提升 81.9%（Gemini）、永久歇业 F1 提升 6.5%（E5），拥挤度 MAE 降低 24.7%（Gemini）。在休斯顿，GTR-T5 的价格等级 F1 提升了 75.1%。唯一的一次退步是 Gemini 在永久歇业任务上，下降了 0.4%。

更有趣的结果

仅使用移动数据的变体更为值得关注。在完全没有文本对齐的情况下训练，它在洛杉矶价格等级上达到了 0.600 的准确率，而 Gemini 为 0.559——集体行为超越了用来标注地点的文字。它在每一项任务上都超越了所有基于轨迹的基线模型。

详解：机制与步骤

• ME-POIs 为每个 POI 学习一个上下文无关的向量，而非轨迹条件化的向量
• 对比对齐加上多尺度 KL 迁移解决了长尾问题：洛杉矶 91% 的 POI 是稀疏的
• 访问意图 F1 提升达 81.9%，拥挤度 MAE 降低 24.7%
• 仅用移动数据的嵌入在价格等级分类上超越了 Gemini 文本嵌入
• 目前尚无公开代码或权重；授权访问数据才是真正的门槛，而非计算资源

更多资源

访问论文和技术详情。也欢迎浏览我们的 GitHub 页面获取教程、代码和 Notebook。

欢迎关注我们的 Twitter，不要忘记加入我们的 15 万+ ML SubReddit 并订阅我们的通讯。你用 Telegram 吗？现在也可以加入我们了。

需要与我们合作推广你的 GitHub 仓库、Hugging Face 页面、产品发布或网络研讨会吗？联系我们。

Michal Sutter 是数据科学专业人士，拥有帕多瓦大学数据科学理学硕士学位。他在统计分析、机器学习和数据工程方面功底扎实，擅长将复杂数据集转化为可操作的洞察。