利用知识图谱增强RAG模型的能力和减轻大模型虚假印象

---

在使用大型语言模型(llm)时，幻觉是一个常见问题。尽管llm可以生成流畅连贯的文本，但其生成的信息往往不准确或不一致。为了防止llm产生幻觉，可以利用外部的知识来源，比如数据库或知识图谱，来提供事实信息。这样一来，llm可以依赖这些可靠的数据源，从而生成更准确和可靠的文本内容。

向量数据库和知识图谱

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

向量数据库

向量数据库是一组表示实体或概念的高维向量。它们可以用于度量不同实体或概念之间的相似性或相关性，通过它们的向量表示进行计算。

一个向量数据库可以根据向量距离告诉你，“巴黎”和“法国”比“巴黎”和“德国”更相关。

查询向量数据库通常涉及搜索相似的向量或基于特定标准的向量检索。以下是一个查询向量数据库的简单示例。

假设有一个高维向量数据库，存储了客户配置文件。您想找到与给定参考客户相似的客户。

首先，为了将客户定义为一个向量表示，我们可以提取相关特征或属性并将其转换为向量形式。

可以使用适当的算法（如k近邻或余弦相似度）在向量数据库中进行相似度搜索，以识别最相似的邻居。

检索与确定的最近邻向量对应的客户配置文件，这些概要文件表示与参考客户相似的客户，根据定义的相似性度量。

向用户展示检索到的客户配置文件或相关信息，如姓名、人口统计数据或购买历史。

知识图谱

知识图谱是表示实体或概念及其关系(如事实、属性或类别)的节点和边的集合。基于它们的节点和边缘属性，可用于查询或推断关于不同实体或概念的事实信息。

例如，一个知识图可以根据边缘标签告诉你“巴黎”是“法国”的首都。

查询图数据库涉及遍历图结构并根据特定标准检索节点、关系或模式。

假设你有一个表示社交网络的图数据库，其中用户是节点，他们的关系表示为连接节点的边。如果为给定用户找到朋友的朋友(共同联系)，那么我们应该进行如下操作：

1、在图数据库中标识表示参考用户的节点。这可以通过查询特定的用户标识符或其他相关标准来实现。

2、使用图查询语言，例如Cypher(在Neo4j中使用)或Gremlin，从参考用户节点遍历图。指定要探索的模式或关系。

MATCH (:User {userId: ‘referenceUser’})-[:FRIEND]->()-[:FRIEND]->(fof:User) RETURN fof

这个查询从参考用户开始，沿着FRIEND关系找到另一个节点(FRIEND)，然后沿着另一个FRIEND关系找到朋友的朋友(fof)。

3、对图数据库执行查询，根据查询模式检索结果节点(朋友的朋友)，可以获得关于检索节点的特定属性或其他信息。

图数据库可以提供更高级的查询功能，包括过滤、聚合和复杂的模式匹配。具体的查询语言和语法可能会有所不同，但一般的过程涉及遍历图结构以检索符合所需标准的节点和关系。

知识图谱解决“幻觉”问题的优势

知识图谱比向量数据库提供更精确和具体的信息。向量数据库表示两个实体或概念之间的相似性或相关性，而知识图可以更好地理解它们之间的关系。例如知识图谱可以告诉你“埃菲尔铁塔”是“巴黎”的地标，而向量数据库只能表明这两个概念的相似程度，但是具体他们之间如何相关的却没有说明。

知识图支持比向量数据库更多样化、更复杂的查询。向量数据库主要可以回答基于向量距离、相似性或最近邻的查询，这些查询仅限于直接的相似性测量。而知识图可以处理基于逻辑运算符的查询，例如“具有属性Z的所有实体是什么?”或“W和V的共同范畴是什么?”这可以帮助LLM产生更多样化和有趣的文本。

知识图比向量数据库更能进行推理和推断。向量数据库只能提供存储在数据库中的直接信息。而知识图可以提供从实体或概念之间的关系派生的间接信息。例如，一个知识图谱可以根据“巴黎是法国的首都”和“法国位于欧洲”这两个事实推断出“埃菲尔铁塔位于欧洲”。这可以帮助LLM生成更具逻辑性和一致性的文本。

所以知识图谱是一个比向量数据库更好的解决方案。可以为LLM提供了更准确、相关、多样、有趣、合乎逻辑和一致的信息，使它们更可靠地生成准确和真实的文本。但这里的关键是文档文档之间需要有清晰的关系，否则知识图谱将无法捕捉到它。

但是，知识图谱的使用并没有向量数据库那么直接简单，不仅在内容的梳理(数据)，应用部署，查询生成等方面都没有向量数据库那么方便，这也影响了它在实际应用中的使用频率。所以下面我们使用一个简单的例子来介绍如何使用知识图谱构建RAG。

代码实现

我们需要使用3个主要工具/组件：

TTSMaker

TTSMaker是一个免费的文本转语音工具，提供语音生成服务，支持多种语言。

2275 查看详情

1、LlamaIndex是一个编排框架，它简化了私有数据与公共数据的集成，它提供了数据摄取、索引和查询的工具，使其成为生成式人工智能需求的通用解决方案。

2、嵌入模型将文本转换为文本所提供的一条信息的数字表示形式。这种表示捕获了所嵌入内容的语义含义，使其对于许多行业应用程序都很健壮。这里使用“thenlper/gte-large”模型。

3、需要大型语言模型来根据所提供的问题和上下文生成响应。这里使用Zephyr 7B beta模型

下面我们开始进行代码编写，首先安装包

%%capture pip install llama_index pyvis Ipython langchain pypdf

启用日志Logging Level设置为“INFO”，我们可以输出有助于监视应用程序操作流的消息

import logging import sys # logging.basicConfig(stream=sys.stdout, level=logging.INFO) logging.getLogger().addHandler(logging.StreamHandler(stream=sys.stdout))

导入依赖项

from llama_index import (SimpleDirectoryReader,LLMPredictor,ServiceContext,KnowledgeGraphIndex) # from llama_index.graph_stores import SimpleGraphStore from llama_index.storage.storage_context import StorageContext from llama_index.llms import HuggingFaceInferenceAPI from langchain.embeddings import HuggingFaceInferenceAPIEmbeddings from llama_index.embeddings import LangchainEmbedding from pyvis.network import Network

我们使用Huggingface推理api端点载入LLM

HF_TOKEN = "api key DEEPHUB 123456" llm = HuggingFaceInferenceAPI(model_name="HuggingFaceH4/zephyr-7b-beta", token=HF_TOKEN )

首先载入嵌入模型：

embed_model = LangchainEmbedding(HuggingFaceInferenceAPIEmbeddings(api_key=HF_TOKEN,model_name="thenlper/gte-large") )

加载数据集

documents = SimpleDirectoryReader("/content/Documents").load_data() print(len(documents))  ####Output### 44

构建知识图谱索引

创建知识图谱通常涉及专业和复杂的任务。通过利用Llama Index (LLM)、KnowledgeGraphIndex和GraphStore，可以方便地任何数据源创建一个相对有效的知识图谱。

#setup the service context  service_context = ServiceContext.from_defaults(chunk_size=256,llm=llm,embed_model=embed_model )  #setup the storage context  graph_store = SimpleGraphStore() storage_context = StorageContext.from_defaults(graph_store=graph_store)  #Construct the Knowlege Graph Undex index = KnowledgeGraphIndex.from_documents( documents=documents,max_triplets_per_chunk=3,service_context=service_context,storage_context=storage_context,include_embeddings=True)

Max_triplets_per_chunk:它控制每个数据块处理的关系三元组的数量

Include_embeddings:切换在索引中包含嵌入以进行高级分析。

通过构建查询引擎对知识图谱进行查询

query = "What is ESOP?" query_engine = index.as_query_engine(include_text=True,response_mode ="tree_summarize",embedding_mode="hybrid",similarity_top_k=5,) # message_template =f"""<|system|>Please check if the following pieces of context has any mention of the keywords provided in the Question.If not then don't know the answer, just say that you don't know.Stop there.Please donot try to make up an answer.</s> <|user|> Question: {query} Helpful Answer: </s>""" # response = query_engine.query(message_template) # print(response.response.split("<|assistant|>")[-1].strip()) #####OUTPUT ##################### ESOP stands for Employee Stock Ownership Plan. It is a retirement plan that allows employees to receive company stock or stock options as part of their compensation. In simpler terms, it is a plan that allows employees to own a portion of the company they work for. This can be a motivating factor for employees as they h*e a direct stake in the company's success. ESOPs can also be a tax-efficient way for companies to provide retirement benefits to their employees.

可以看到，输出的结果已经很好了，可以说与向量数据库的结果非常一致。

最后还可以可视化我们生成的图谱，使用Pyvis库进行可视化展示

from pyvis.network import Network from IPython.display import display g = index.get_networkx_graph() net = Network(notebook=True,cdn_resources="in_line",directed=True) net.from_nx(g) net.show("graph.html") net.s*e_graph("Knowledge_graph.html") # import IPython IPython.display.HTML(filename="/content/Knowledge_graph.html")

通过上面的代码我们可以直接通过LLM生成知识图谱，这样简化了我们非常多的人工操作。如果需要更精准更完整的知识图谱，还需要人工手动检查，这里就不细说了。

数据存储，通过持久化数据，可以将结果保存到硬盘中，供以后使用。

storage_context.persist()

存储的结果如下：

总结

向量数据库和知识图谱的区别在于它们存储和表示数据的方法。向量数据库擅长基于相似性的操作，依靠数值向量来测量实体之间的距离。知识图谱通过节点和边缘捕获复杂的关系和依赖关系，促进语义分析和高级推理。

对于语言模型(LLM)幻觉，知识图被证明优于向量数据库。知识图谱提供了更准确、多样、有趣、有逻辑性和一致性的信息，减少了LLM产生幻觉的可能性。这种优势源于它们能够提供实体之间关系的精确细节，而不仅仅是表明相似性，从而支持更复杂的查询和逻辑推理。

在以前知识图谱的应用难点在于图谱的构建，但是现在LLM的出现简化了这个过程，使得我们可以轻松的构建出可用的知识图谱，这使得他在应用方面又向前迈出了一大步。对于RAG，知识图谱是一个非常好的应用方向。

以上就是利用知识图谱增强RAG模型的能力和减轻大模型虚假印象的详细内容，更多请关注其它相关文章！

# 上海  # 新推广渠道营销策划  # 黑龙江seo优化师  # 嘉兴短视频seo公司  # 语文十大关键词排名表  # 北海红酒网站推广  # 网站建设的重难点分析  # 养老网站建设游戏app  # 长阳企业智能营销推广  # seo01线  # 如何营销耳饰产品推广  # 我们可以  # 告诉你  # 遍历  # 大型语言模型  # 运算符  # 埃菲尔铁塔  # 法国  # 开源  # 巴黎  # 是一个  # fig  # follow  # llama  # langchain  # rag  # 向量数据库 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 优化推广96088 】 【 技术知识133117 】 【 IDC资讯59369 】 【 网络运营7196 】 【 IT资讯61894 】

相关推荐： Zoom远程会议应用：AI培训需经用户授权  如布科技发布新产品AI口袋学习机S12  苹果式 AI 哲学：不着一字，处处落子  Intel酷睿Ultra发布会官宣！迈向全新的AI时代  AI和ML推动联网设备的增长  抛媚眼给瞎子看？微软、谷歌的AI广告被广告主抵制  500元一张的AI艺术二维码制作，详细教程来了！  物联网和人工智能的协同作用：释放预测性维护的潜力  马斯克：将来机器人比人类多！特斯拉机器人亮相人工智能大会  码刻 | 48小时Hackathon，源码见证新生代AI创新的发生  探展WAIC | 第四范式“式说”聚焦toB大模型，布局生成式AI重构企业软件  实测 AI 建筑设计软件的自动生成效果图能力  数据显示：人工智能相关专业热度上升最快 考古、美术、生物医学工程等小众专业火了  基于信息论的校准技术，CML让多模态机器学习更可靠  实现MySQL数据锁定策略：解决并发冲突的J*a解决方案  国内通用人形机器人将发布、产业加速突破  AI大模型火了！科技巨头纷纷加入，多地政策加码加速落地  Meta开源文本生成音乐大模型，我们用《七里香》歌词试了下  技术如何使人变得懒惰？  小米9号员工李明宣布创业：打造首款安卓桌面机器人  OpenAI 为开发者推出 GPT 聊天机器人 API 大更新，同时降低价格  学界业界大咖探讨：AI对数字艺术创新的推动力  2025VR&AR显示技术峰会视频解析： 歌尔光学展示最新一代VR/AR光学模组  国家发改委组织工业机器人产业高质量发展现场会  0代码微调大模型火了，只需5步，成本低至150块  AI新视野，增长新势能，伙伴云受邀出席笔记侠创业讲真话AI峰会  AI在教育中的角色：AI如何改变我们的学习方式  大模型训练成本降低近一半！新加坡国立大学最新优化器已投入使用  日新月异，脑机接口技术都有哪些新应用？  生成式AI对云运维的3大挑战  云南首例达芬奇机器人微创心脏手术成功开展  解决导航“最后50米”难题 高德地图升级AR步行导航找终点功能  烟台大学学生首次在全国大学生无人机航拍竞赛中获奖  AI与5G的强强联合：唤醒数字时代的无尽潜能  一家 380 亿美元的数据巨头，要掀起企业「AI 化」革命  大型无人机FH-98国内首次夜航转场成功  Meta 人工智能业务落后竞争对手，研究人员大量离职成重要原因  游族AI创新院揭牌成立 推进AI赋能游戏业务  科技赋能司法执行 阿里资产免费为全国法院升级VR新服务  AI进军债券交易，BondGPT来了！  第四范式「式说」大模型入选《2025年通用人工智能创新应用案例集》  首部国内AI辅助动画片《魔游纪：人工智能辅助篇》预告发布  【首发】首款“消化内镜手术机器人”进入临床尾声，ROBO医疗获数千万元A轮融资  12页线性代数笔记登GitHub热榜，还获得了Gilbert Strang大神亲笔题词  阿里云全面支持Llama2训练部署，助力企业快速构建自有大型模型  人工智能驱动艺术，打开达利的超现实想象  聚焦人工智能大模型、AIGC 徐汇十余场重磅论坛等你来  网易加速行业AI大模型应用，将覆盖100多个应用场景  上影节直击 | AI技术降低了短片拍摄门槛？金爵奖评委不赞同  基于预训练模型的金融事件分析及应用 

 2024-01-14