今日荐文
这个离开大厂去 AI 创业的互联网大佬,带着他的“Killer Agent”来了
斯坦福AI团队“套壳”清华系开源大模型被实锤!被揭穿后全网删库跑路
作者 | 蒋志伟
本文内容从技术角度介绍推荐系统、AI 大模型前沿技术。整理一些大模型和推荐系统相关的交集。同时,我从产品、技术发展趋势,大胆预测 AI 大模型对未来推荐系统的影响。本文适合关注 AI、推荐系统相关领域的朋友。考虑到 AI、LLM、推荐算法本身晦涩难懂,很多专门学科知识,我尽量用易懂的原理图解释,相关部分附上更深度的技术介绍链接。本文希望从产品、技术、商业多维度分析推荐系统未来的趋势和 AI 大模型带来的革新价值。
推荐系统广泛用于众多领域,只要存在“消费商品”的互联网产品,都需要推荐系统。
以下是一些知名的提供 AI 推荐系统产品和服务的公司:
Netflix - 利用协同过滤算法为用户推荐电影和电视节目
Amazon - 使用基于项目和基于内容的推荐算法推荐产品
YouTube - 使用深度神经网络推荐个性化视频内容
Spotify - 基于音乐元数据和用户行为数据推荐音乐
Facebook - 利用深度学习模型推荐好友、页面和新闻源
Google - 在搜索、Gmail、YouTube等产品中使用推荐系统
Pinterest - 使用计算机视觉和深度学习推荐相关图像和想法
Alibaba - 在电商平台上为用户推荐商品
Tencent - 在微信、QQ等应用中使用推荐算法
Twitter - 推荐相关主题、用户和趋势
电商网站:购物,购书等,如淘宝,京东,亚马逊等
视频内容:Netflix,优酷,抖音,快手,爱奇艺等
音乐:网易云音乐,酷狗音乐等
资讯类:今日头条,微信订阅推荐等
生活服务类:美团,携程,脉脉等
交友类:探探,珍爱网等
推荐服务用途非常广泛,粗略汇总有五个维度的商业价值:
广告变现:提升广告的曝光与用户转化率;
电商变现:主要通过给用户和产品"打标签",推荐商品达到刺激复购率和电商营销。比如各大电商平台看到的"猜你喜欢","更多推荐","热门商品"等推荐功能;
增值服务变现:提升会员的转化与会员留存;
用户增长:提升用户留存、活跃、停留时长,常见抖音内容类推荐的 APP;
个性化推荐替代采用人工编排:节省人力成本,提升内容分发效率。
推荐系统的实现架构和核心模块
推荐系统根据不同场景,不同数据体量,系统设计差异跨度非常大。常见来说,有这么几个部分:
数据采集模块
推荐系统展示结果给用户后,通过在线系统收集用户反馈数据,包括用户行为数据,用户相关数据及推荐“标的物”相关数据。
数据挖掘 ETL 模块
将非结构化数据提取成结构化数据储存到数据仓库中。当数据量非常大,一般采用 HDFS、Hive、HBase 等大数据分布式存储系统来存储数据。
特征工程模块
浅谈 IDs Embedding
近年来词嵌入方法(Word Embedding)被普遍用于 NLP 领域,它将过去机器学习中 One-Hot 表示的单词嵌入(Embed)至低维,以一个带有语义信息的低维稠密向量来表示:
在数据挖掘问题中普遍存在各种各样的离散特征(通常称为 ID 类特征),传统的做法是使用 One-Hot 编码进行表征。它虽然简单,但是当离散特征种类过多时,很容易造成维数灾难 (curse of dimentionality) 。One-Hot 编码无法看出特征的内在含义,无法了解 ID 特征之间的相互联系。
以电商领域为例,包括商品信息、店铺信息、品类信息和评论信息等等,其中存在大量 ID 类特征,比如 user ID, item ID, product ID, store ID, brand ID 和 category ID,而这些 ID 特征彼此间有复杂的层级关系。
IDs embedding 来建模物品的协同过滤算法已经成为推荐系统最主流的范式,十多年来一直是推荐系统主流方案。学术界把 ID embedding 对物品进行建模简称为 IDRec。
推荐算法模块
该模块的核心是根据具体业务场景,和已有的数据设计一套大规模数据的 (分布式) 机器学习算法,期望可以准确预测用户的兴趣偏好。这里一般涉及到模型训练、预测两个核心操作。机器学习的流程中,一般往往不断的训练,预测,损失函数调参的过程损失函数(Loss Function)它用于量化模型的预测结果与实际结果之间的差异,作为训练过程中优化算法的目标。在机器学习中,损失函数用于各种不同类型的算法,包括线性回归、逻辑回归、支持向量机等。它们帮助算法通过最小化损失函数来调整参数,以此改进模型的预测性能。
推荐结果:打分排序、排序阶段的召回、粗排、精排等过程。
一个完整推荐系统生命周期
美团团购猜你喜欢的历史:
0-1 关系型数据库+搜索引擎
https://mp.weixin.qq.com/s/fdxoRJnajFE1UTZewofFQg
10-100 机器学习阶段
https://tech.meituan.com/2018/11/15/reinforcement-learning-in-mt-recommend-system.html
基于深度学习的自然语言处理模型,具有强大的文本生成和理解能力。LLM 通过在大规模语料库上进行训练,可以学习和模拟人类语言的规律和习惯,从而生成和解析自然语言文本。LLM 有着广泛的应用,如文本生成、数据挖掘、智能问答、兴趣分析等Modality-based Recommender Models 基于模态的推荐模型。
近年来 NLP、CV 和模态预训练大模型技术蓬勃发展,特别是 Transformer 架构出现,成为自然语言处理(NLP)领域的主流架构。Transformer 诞生了知名的大语言模型 LLM : Google 的 BERT 和 OpenAI 的 GPT。它们技术上取得了一系列革命性成果,对多模态(文本和图像)建模能力产生了质变。业界也在探索:如果用先进的模态编码器表征物品是否能取代经典的 ID embedding 模型? 下面论文介绍了不同预训练模型和 IDRec 对比测试效果,同时深入地探讨模态编码器该如何实现更好的物品表征和用户表征的策略。
LLM Embeddings + RS
图中 (1): 将语言模型视为特征提取器,将物品和用户的特征输入到 LLM 中并输出相应的嵌入。传统的 RS 模型可以利用知识感知嵌入进行各种推荐任务。
LLM Tokens + RS
相关的研究 https://github.com/WLiK/LLM4Rec-Awesome-Papers
如果我们用大模型实现推荐功能,LLM 会有哪些特点和天然优势?我们从下面各个维度大体来介绍和对比下:
简单总结下传统的推荐系统比较“重”的点:
每个功能模块几乎都是独立中间件系统,每个系统单独部署和研发人员的维护:
比如数据采集,可能来自 PDF、Execl 文档,也可能来自 HTTP 上报的用户日志文件;
实时计算、离线计算调用一些 Flink、Storm 的流式引擎;
结果有可能存储到缓存系统 Redis,搜索引擎 ES,分布式文件储存 HDFS 的不同介质;
越是用户量大,数据量的推荐系统,它的架构涉及的层级和部署中间件服务就复杂,就像上面奈飞 Netflix 推荐系统。
推荐系统各个模块协同几乎都是定制化,也就是'硬编码'形式,各领域推荐系统都是独立造轮子,比如电商平台的推荐系统,抖音微信用户社交的个性化推荐,也许他们底层高度相似,但却是两套完全不同的推荐系统在开发和部署。
从功能模块视角对比,LangChain 的 Data Connection 就有点类似于推荐系统里数据采集、数据挖掘、特征工程的过程。
Data Connection给 LLM 提供了所需要的特征数据。它提供了加载、转换、存储和查询数据的构建块:
Document loaders :从许多不同来源加载文档
Document transformers:拆分文档、将文档转换为问答格式、删除冗余文档等。
Text embedding models:获取非结构化文本并将其转换为浮点数列表
Vector stores:存储和搜索嵌入数据
Retrievers:Query your data
推荐算法、推荐结果 VS LLM 输入 输出我们再来看 LangChain 完整的架构图:
系统设计架构走向 PaaS
GPT、LLama 等 LLM 大模型除了 AI 技术突破的革命,同时把强大的 AI 能力普遍以 PaaS 形式开放,让业界"人人"都可以用上 AI。对于使用者现在只需要关注 Token 和算力,以更精准的方式去索取 AI 的赋能。AI PaaS 已经是未来的趋势。
到那时, 公司可能不在需要推荐算法开发工程师了。只要你理解推荐算法原理, 理解 AI 和会使用 AI 工具 ,一般的研发工程师,通过采购推荐 PaaS 服务,就可以使用平台级的推荐服务。这样,我预估整理在 AI 时代,企业内部推荐团队结构变化。
未来 AI 时代推荐团队可能的转型
未来,AI LLM 全场景能力给推荐系统赋予了更多 PaaS 的能力,会让更多有需求和场景企业用得上推荐服务。最完美的情况就是:企业按自己数据规模,推荐的精细度,付费得到匹配自己相应的推荐服务,避免浪费也避免重复造轮子。下面是我整理的理想化的推荐 PaaS 原型:
新的商业模式和应用场景
推荐系统如果可以 PaaS 化,很多有推荐需求的领域的落地就有了可能。特别是那些非平台级的企业,他们可以以更多的成本和接入门槛来从推荐价值中收益。
另外,因为 ChatGPT 等优秀多模态应用的创新,很多科技公司在摸索具备商品 AI 推荐能力的聊天助手。借助 AI LLM 强大的语义分析和推理功能,深度挖掘用户需求。
前沿的 AI 大模型推荐系统展望
目前,一些云服务商正在探索 LLM 与 Recommendation System 的结合,例如Google Cloud: 提供 Vertex AI 等服务,支持用户使用 LLM 进行定制化推荐系统开发。
https://github.com/WLiK/LLM4Rec-Awesome-Papers
三、AI Gemini 实现通用推荐服务的案例
我们基于 LLM 直接充当 RS 的模式,用 Gemini 简单实现常用场景的推荐系统这里我演示了几个最经典的推荐算法,这些算法大部分场景频繁使用。
冷启动案例:相识度推荐
热启动:
协同过滤、关联规则推荐
还有一种叫热启动,就是基于甲方已有用户画像,商品数据,用户记录,历史订单等等。可以做到更精准、有价值的推荐,过去作者在美团、Qunar 也做过类似的推荐系统。
在提供用户访问数据情况下,我们基于协同过滤推荐算法案例:给一组用户看过并且评分过的电影数据,在给 LLM 的输入,我们构造这样的 Prompt 让 AI 去推理和选择算法模型:
// 协同过滤算法,基于相识用户内容推荐
private static final String TEMPLATE_C_FILTERING = " 假设用户分别看了如下表格所示的电影,并且给电影有如下评分(1 分满分,没看过的值是空) \n " +
" %s" +
" \n 只能用协同过滤推荐算法,给每个用户推荐一部没看过的电影";
public static String getByMovieCollaborativeFiltering(String movieName){
return String.format(TEMPLATE_C_FILTERING, movieName);
};
基于用户间一些相识向量维度,推荐给所有用户没看过的电影,效果如下:
热启动:
基于用户历史订单推荐商品
在提供用户订单数据情况下,我们格式化订单和优化 Prompt,基于协同过滤推荐算法,推荐复购率高的商品给客户案例:假设我们有用户的购买订单表,推荐给每个用户没买过的商品,效果如下:
美团团购第一版猜你喜欢,主要就是基于商品 ID 特征的协同过滤 算法实现的,效果很好,产生了超过 40% 商品下单复购率。这个数据蛮惊人,事后总结看,主要在于我们拥有精准的用户画像,海量消费行为记录,这样情况下的热启动,推荐准确度自然会高。
Github 相关源代码,分别写了 Java、Python 两个 Demo。所以回到上文,未来推荐系统也许真的只需要工程实践研发工程师足矣,剩下的交给 AI,交给推荐 PaaS 吧。
Java 、Python 利用 Google Gemini 分别实现的推荐服务
https://github.com/laziobird/LLMRecomand
最近 Google LLM 从 Gemini 1.0 Pro 更新到 Gemini 1.5 Pro
我重新在 Python 里面更新了 gemini-1.5-flash 的实例
代码里面还演示了关联规则 算法给用户进行组合商品推荐。这个经典场景是当年亚马逊的营销真实案例:
https://zhuanlan.zhihu.com/p/615163335
《啤酒与尿布 -- 神奇的购物篮分析》作者:“啤酒与尿布”是真实的案例!!!
蒋志伟,爱好开源技术的架构师(技术交流,微信 nizhanali ) ,CNCF Member。先后就职于阿里、Qunar、美团,前 pmcaff.com CTO,曾参与上亿用户的机票搜索和电商推荐系统的核心研发。目前从事AI在线旅游创业,关注 AI 搜索推荐、机票酒店精准预测领域。
本届 ArchSummit 会议上,重点聚焦 AI 大模型技术在各行业的落地实践, 顺丰集团、众安银行、天弘基金、鸿海科技集团、宁德核电、广发证券、微众银行介绍大模型技术的应用效果 。会议上还设置了大模型应用、架构升级、智算平台、AI 编程、成本优化等专题和话题内容。如您感兴趣,可点击「阅读原文」查看更多详情。购买票数越多,享受的优惠也就越丰厚,可以联系票务经理 17310043226 , 锁定最新优惠。
斯坦福AI团队“套壳”清华系开源大模型被实锤!被揭穿后全网删库跑路
你也「在看」吗?👇
微信扫码关注该文公众号作者