甲骨文首次将LLMs引入数据库,集成Llama 3和Mistral,和数据库高效对话
夕小瑶科技说 原创
作者 | 21#
信息时代,数据为王。数据库作为数据存储&管理的一种方式,正在以势不可挡的趋势与AI结合。
前有OpenAI 收购了数据库初创公司 Rockset,引发广泛关注;Oracle公司(甲骨文)作为全球最大的信息管理软件及服务供应商,近日发布新产品HeatWave GenAI,这是首次在数据库中引入LLMs,数据库也将迎来AI化管理。
当你依托于数据库存储,管理数据,是否因为复杂的SQL语句望而却步,HeatWave GenAI通过将LLM嵌入到数据库中,实现自然语言对话大模型完成数据操作;
当你查询数据时,是否出现结果不精确的情况,HeatWave GenAI将数据以向量形式存储,并且自动化完成向量生成,避免用户和底层机制作斗争。查询时通过在向量维度计算语义上的相似度,实现更为精确的搜索;
亦或是否烦躁于数据库反馈前漫长的等待,HeatWave GenAI通过内存向量搜索,执行速度接近内存带宽,其执行速度高达其他云服务数据平台的十五倍以上。
HeatWave GenAI Demo展示:
HeatWave GenAI 技术报告:
https://www.oracle.com/a/ocom/docs/heatwave-genai-technical-brief.pdf
一起和小编看看HeatWave GenAI的技术亮点,以及如何引领人工智能驱动数据库的未来吧!
首次在数据库内嵌入LLM
HeatWave GenAI 直接将 Llama 3 和 Mistral LLM 集成到数据库中。
它有几个突出的优点:
首先是安全性大大提高。因为模型就在数据库里运行,数据不用往外传,降低了泄露风险。
其次是使用起来特别方便。开发者不用再操心配置GPU或者调用外部AI服务,直接在数据库里就能用上强大的语言模型,省时省力还省钱。
另外,它还能和HeatWave原有的AutoML功能完美配合。AutoML可以自动完成从数据准备到模型部署的全流程,可以实现更智能的应用,比如生成详细报告、做出准确预测等。
内存向量搜索既要速度又要精度
HeatWave GenAI可以让用户轻松地将文字、图片、视频等非结构化数据转换成向量形式存储。这个过程非常简单,只需要执行一个SQL命令就可以自动完成。
通过向量存储方式,用户就可以实现一些高级的搜索功能,比如找相似的文档或图片。而且使用起来很方便,不需要复杂的设置,直接用自然语言就能和系统对话。
HeatWave GenAI的一大特色是采用了基于内存的全表扫描方法。与其他采用近似索引方法的数据库不同,HeatWave既保证了搜索的速度,又保证了结果的精确度。它通过内存计算和并行处理,大大缩短了数据搜索的时间。
总的来说,HeatWave GenAI为用户提供了一种简单、快速、精准的方式来处理和搜索各种非结构化数据,可以让数据分析变得更加简单和高效。
AI与数据库技术结合应用潜力巨大
HeatWave GenAI 刚推出不久,但已经有一些公司开始尝试把它和机器学习结合起来使用,探索一些新的应用场景。
比如在银行业,他们用机器学习来自动检测可疑交易。如果系统发现某笔交易有问题,就会用 AI 生成一段简单的说明,解释为什么这笔交易看起来不太对劲。这样银行工作人员就能更快地发现和处理潜在的欺诈行为,省了不少时间和精力。
再比如一家外卖平台,他们把 HeatWave GenAI 用在了推荐系统上。通过分析用户的喜好、订单历史等信息,系统能给出更贴心的餐厅和菜品推荐。这种个性化的服务让用户体验更好,也能提高他们的忠诚度。
虽然现在用这项技术的公司还不多,但从这些例子可以看出,HeatWave GenAI 在各行各业都有很大的应用潜力。
参考资料
[1]https://www.oracle.com/heatwave/genai/#rag微信扫码关注该文公众号作者