- 博客(972)
- 收藏
- 关注
RSS订阅转载 专题论坛 | 时空知识图谱与地理大模型(SpatialDI2024)
原文来源于微信公众号“ACM SIGSPATIAL CHN分会”。转载或者引用本文请注明来源及原作者，版权归原作者及刊载媒体所有。ACM SIGSPATIAL中国分会致力于推动空间数据的研究范式及空间智能理论与技术在时空大数据、智慧城市、交通科学、社会治理等领域的创新与应用。为进一步促进空间数据智能研究的理论发展与应用，交流相关领域的新理论、新问题、新方法，ACM SIGSPATIAL中国分会创办...
2024-04-18 15:32:50
24
原创 论文浅尝 | QA-GNN：结合语言模型与知识图谱进行问答推理
笔记整理：项卓怡，浙江大学硕士，研究方向为生化大模型。链接：https://arxiv.org/abs/2104.06378Code：https://github.com/michiyasunaga/qagnnCitation: YasunagaM, Ren H, Bosselut A, et al. QA-GNN: Reasoning with language models andknow...
2024-04-16 21:22:52
574
转载 直播预告 | OpenKG走进苏大学术沙龙：符号知识与大模型
时间：4月12日 10：00-11：50地点：苏州大学理工楼504会议信息OpenKG将于2024年4月12日在苏州大学围绕“符号知识与大模型“举办学术沙龙活动。来自OpenKG的三位TOC专家：北京邮电大学石川教授、同济大学王昊奋特聘研究员、天津大学王鑫教授将针对知识图谱、大语言模型等人工智能领域的前沿热点问题，开展学术沙龙活动。本次活动将通过OpenKG视频号进行线上直播，敬请扫码预约。Ope...
2024-04-11 10:03:05
53
转载 评测通知 | NLPCC2024评测任务：大语言模型监管
简介大语言模型已经展现出令人瞩目的能力并在多种任务上达到甚至超越人类的表现。然而，随着这些模型在社会中的应用越来越广泛，它们可能产生的负面影响也引起了人们的关注。确保模型的安全并负责任地部署，监管大语言模型成为了一个关键环节。鉴于此，浙江大学和新加坡国立大学学者在NLPCC2024上组织了大语言模型监管评测任务（Task10），包含多模态大语言模型幻觉检测和大语言模型解毒两个子任务，促进大语言模型...
2024-04-10 19:51:54
28
原创 论文浅尝 | 消息传递神经网络真的有助于知识图谱补全吗？
笔记整理：郭荣辉，天津大学硕士，研究方向为知识图谱链接：https://aclanthology.org/2023.acl-long.597/1、引言本文发现基于消息传递机制的模型在KGC任务中，消息传递并不是KGC性能提升的最主要原因。由于KGs固有的图结构，图神经网络( Graph Neural Networks，GNNs )被用来学习实体和关系的嵌入，从而促进KGC。现有的基于MPNN的GN...
2024-04-09 19:40:42
848
转载 开源开放 | OpenRAG Base：RAG的开源开放知识库
本项目是OpenKG旗下专注于RAG研究的OpenRAG子项目的开源知识库，致力于推动RAG领域的发展。可以通过链接访问，进入OpenRAG Base主页。缘起知识检索增强生成（RAG)，作为最受关注的大模型落地的实用技术之一，相关研究飞速发展。我们在2023年12月发表了第一篇大模型视角下的RAG综述（Retrieval-Augmented Generation for Large Langua...
2024-04-07 16:00:27
604
转载 技术动态 | 自适应剪枝让多模态大模型加速2-3倍，哈工大联合度小满推出SmartTrim...
转载公众号| 机器之心基于 Transformer 结构的视觉语言大模型（VLM）在各种下游的视觉语言任务上取得了巨大成功，但由于其较长的输入序列和较多的参数，导致其相应的计算开销地提升，阻碍了在实际环境中进一步部署。为了追求更为高效的推理速度，前人提出了一些针对 VLM 的加速方法，包括剪枝和蒸馏等，但是现有的这些方法大都采用静态架构，其针对不同输入实例采用同样的计算图进行推理，忽略了不同实例...
2024-04-03 19:40:49
27
转载 LKM@IJCAI2024 ：OpenKG Workshop on Large Knowledge-enhanced Model
LKM2024: The First International OpenKG Workshop on Large Knowledge-enhanced ModelsIn conjunction with the IJCAI 2024, the 33rd International Joint Conference on Artificial IntelligenceJeju Island, ...
2024-04-02 17:03:08
29
原创 论文浅尝 | cTBLS：使用对话表格增强大型语言模型
笔记整理：金日辉，东南大学硕士，研究方向为表格模态数据相关的处理任务链接：https://arxiv.org/pdf/2303.12024.pdf1、动机让人工智能对话具备多模态能力，可以拓宽人类与此类系统的对话范围。多模态会话人工智能面临的一个长期挑战是:如何开发出能以文本和非文本模态为基础做出会话一致性回应的系统（Sundar 和 Heck，2022 年）。最近的研究（Roberts 等人，2...
2024-04-01 19:40:27
995
转载 技术动态 | “东北大学知识图谱研究组”推出基于TechGPT的智能助教系统
转载公众号 | NEUKG基于TechGPT的智能助教系统课程学习中遇到的问题无法及时解决？对自己的课程学习效果无法有效评估？难以获得符合自己学习状态的个性化学习建议与学习资料？别急，东北大学知识图谱研究组来帮你解决！"东北大学知识图谱研究组"基于TechGPT大模型，将大语言模型、知识图谱等人工智能前沿技术相结合，面向《离散数学》课程教学，推出基于TechGPT的智能助教系统，该系统具有...
2024-03-29 19:40:57
61
原创 论文浅尝 | 基于统一学习方法的预训练语言模型的知识图谱扩展
笔记整理：朱渝珊，浙江大学博士，研究方向为知识图谱快速表示学习、大规模知识图谱预训练链接：https://linkinghub.elsevier.com/retrieve/pii/S09507051220134171、动机知识图谱(KGs)由许多形如(h,r,t)的三元组组成，其中h、r和t分别表示头实体、关系和尾实体。知识图谱可应用于若干知识驱动任务，如问答、对话和信息检索系统。由于KG的不完整...
2024-03-27 19:41:01
637
转载 征稿 | 全国知识图谱与语义计算大会和知识图谱国际联合会议联办（CCKS-IJCKG 2024）征稿通知...
2024年9月19日-22日，重庆，https://sigkg.cn/ccks-ijckg2024/第一轮征稿截止时间：2024年3月30日本次全国知识图谱与语义计算大会和知识图谱国际联合会议联办（CCKS-IJCKG 2024），是由全国知识图谱与语义计算大会2024（China Conference on Knowledge Graphand Semantic Computing，CCKS...
2024-03-26 19:40:47
93
转载 技术动态 | 人机协同Knowledge Copilot - 兼论KG-RAG和文档RAG
转载公众号| 知识图谱科技综合Generational 撰写的论文以及本文作者的实践观点。本文论文是对知识Copilot、检索增强生成和用户体验的广泛探索。主要的观点是，对于知识密集型任务，根据行业场景和数据情况以及成本交付周期等，如何选择搭建KG-RAG或者文档RAG，另外如何使用Agent的 RAG 和搭建良好用户体验的人机协同产品。什么是Knowledge Copilot（知识助手）？知识...
2024-03-25 19:40:51
60
转载 会议交流 | 大模型与知识图谱论坛
为深入探讨知识图谱与大模型的现状和未来发展，DataFunSummit2024：知识图谱在线峰会将于2024年3月23日9:00-17:00线上举办，欢迎广大从业者参与交流！扫码免费报名参加下面是本次会议的大模型与知识图谱论坛详情：出品人：孙常龙阿里巴巴资深算法专家个人介绍：孙常龙，阿里巴巴通义实验室NLP应用算法负责人，拥有多篇授权专利，在顶级会议发表论文30余篇，承担国家科技部重点研发项目多...
2024-03-22 19:40:13
61
原创 论文浅尝 | Beta规则的双向约束辅助文档级关系抽取
笔记整理：刘一春，天津大学硕士，研究方向为规则学习、自然语言处理链接：https://aclanthology.org/2023.emnlp-main.138.pdf1、动机文档级关系提取（DocRE）旨在提取文档中实体对之间的关系。一些工作将逻辑约束引入到DocRE中，解决了原始DocRE模型中不透明和逻辑性弱的问题。然而，它们只关注正向逻辑约束，同时这些工作中挖掘的规则经常受到置信度高但支持度...
2024-03-20 19:40:24
413
转载 技术动态 | UIUC等提出BioBridge：用知识图谱构建多模态生物医学基础模型
引言这是 UIUC Zifeng Wang 等发表在 ICLR'24 上的论文。论文题目：BioBridge: Bridging Biomedical Foundation Models via Knowledge Graphs论文链接：https://arxiv.org/pdf/2310.03320.pdf在生物医学研究领域，一直以来，基础模型（Foundation Models，简称FMs）大...
2024-03-18 19:41:03
46
原创 论文浅尝 | GPT-RE：基于大语言模型针对关系抽取的上下文学习
笔记整理：张廉臣，东南大学硕士，研究方向为自然语言处理、信息抽取链接：https://arxiv.org/pdf/2305.02105.pdf1、动机在很多自然语言处理任务中，上下文学习的性能已经媲美甚至超过了全资源微调的方法。但是，其在关系抽取任务上的性能却不尽如人意。以GPT-3为例，一些基于GPT-3的上下文学习抽取方法在关系抽取任务上不理想的效果主要来自于两个方面：① 检索演示示例中实体、...
2024-03-15 19:41:00
930
转载 会议交流 | 大语言模型与知识图谱：机会与挑战
张文浙江大学特聘研究员个人介绍：张文，浙江大学软件学院特聘研究员，研究方向为知识图谱、图数据处理、大数据系统。在包括NeurIPS/KDD/WWW/IJCAI/AAAI/ICDE/ACM MM/WSDM等在内的国际顶级会议上发表多篇论文。主持国家自然科学基金青年科学基金项目、浙江省自然科学基金探索青年项目、宁波市自然科学基金探索一般项目。曾获国际知识图谱联合会议IJCKG最佳论文奖、最佳应用论...
2024-03-14 19:17:43
34
转载 技术动态 | 知识图谱用于问答的案例：领域智能助手项目的技术选型与落地建议...
转载公众号 | 老刘说NLP领域智能助手是当前知识问答一个典型场景，作者之前在文章《项目实操：KBQA常规实现流程与医疗知识图谱问答源码解读》、《工程实践：基于规则模式的军事和医药领域知识图谱问答快速实现》等对该方向的工作进行了介绍，感兴趣的可以关注公众号，前往查看。为了进一步地说明该技术在工业的落地，本文主要以实际的工业需求进行论述，从业务场景的定义、常用知识问答选型以及知识问答场景落地问答三个...
2024-03-13 19:40:59
45
转载 征稿 | The LLM+KG Workshop (VLDB 2024)
International Workshop onLLM+KG: Data Management Opportunities in Unifying Large Language Models + Knowledge GraphsIn conjunction with the VLDB 2024, the 50th International Conference on Very Large Da...
2024-03-11 19:40:16
71
转载 会议交流 | DataFunSummit 2024：知识图谱在线峰会
大模型之前，知识图谱已经有很多应用了，比如知识问答等。知识图谱与搜索引擎结合，例如知识卡片，提供了直接的事实性回答和客观知识的展示，在这方面依然更擅长。这种模式并不会因为大模型的到来而受到很大的冲击，因为知识获取的场景本身就是广泛的。那么，大模型的到来会带来哪些新的变化呢？大模型其实增强了用户和机器之间的人机交互，降低了交互门槛，使AI对用户输入的自然语言的理解更加充分、细致、准确。对于用户更随意...
2024-03-08 19:40:37
171
1
原创 论文浅尝 | LongForm：利用语料库抽取优化长文本生成的指令调优
笔记整理：喻靖，浙江大学硕士，研究方向为蛋白质大模型链接：https://arxiv.org/abs/2304.08460动机指令调优使语言模型能够更有效地泛化，更好地遵循用户意图。不过，获取指令是十分昂贵且具有挑战性的。现有的方法采用诸如人工注释、众包数据集LLM生成噪声样例的方法。本文介绍了LongForm数据集，LongForm通过利用英语语料库的指令构建。本文提出从现有的语料库选择文档，并...
2024-03-06 19:40:54
309
原创 开源开放 | DeepOnto: 基于深度学习和语言模型的本体工程Python软件包
GitHub链接：https://github.com/KRR-Oxford/DeepOntoOpenKG链接：http://old.openkg.cn/tool/deeponto-python文档地址：https://krr-oxford.github.io/DeepOnto/开放许可协议：Apache-2.0 license项目参与人员：何源，陈矫彦，董行，Ian Horrocks参与单位：牛...
2024-03-04 15:59:30
663
转载 技术动态 | 知识图谱如何帮助驾驭业务复杂性？
转载公众号 | 知识管理就在夏博有很多人批评知识图谱太复杂了。当然，它是复杂的。但火箭也是如此。然而，你不会指望能骑自行车去月球，是吗?为什么越来越多企业会引入知识图谱?原因是企业发展过程中产生的固有复杂性，知识图谱使企业能够跨不同的IT系统“连接点”，有效驾驭业务复杂性并将其转化为竞争优势。认识到企业业务的内在复杂性复杂性本身并不是坏事。通常，这是业务增长的副产品。组织越大，自然就会越复杂，需要...
2024-03-01 19:40:40
47
转载 技术动态 | 在不同的RAG阶段注入知识图谱
转载公众号 | 蓝蓝的小火苗在本文中，我想准确介绍知识图 (KG) 在 RAG 管道中的应用领域。我们将探讨 RAG 管道中出现的不同类型的问题，以及如何通过在整个管道的不同阶段应用知识图来解决这些问题。我们将讨论一个 RAG 管道的实际示例，该管道通过知识图在不同阶段得到增强，并准确说明每个阶段如何改进答案和查询。我希望传达的另一个关键要点是图技术的部署更类似于结构化数据存储，用于战略性地在 R...
2024-02-26 19:40:32
249
原创 论文浅尝 | 一种基于对比微调的脚本事件预测生成方法
笔记整理：柴智华，东南大学硕士，研究方向为事件预测链接：https://arxiv.org/pdf/2212.03496.pdf1. 动机脚本事件预测任务是指在给定上下文时，预测后续事件。这需要推断事件之间相关性的能力。最近的工作试图通过使用预训练的语言模型并结合外部知识（如篇章关系）来改进事件相关性推理。尽管取得了可喜的成果，但仍然存在一些挑战。首先，当前工作采用的预训练的语言模型忽略了事件级知...
2024-02-23 19:40:52
996
转载 技术动态 | 知识图谱之多元关系架构——基于OpenSPG的建模实践（下）
转载公众号 |SPG知识图谱在“知识图谱之本体结构与语义解耦——基于OpenSPG的建模实践（上）”一文中，我们从实体关系设计和概念语义建模2种场景，讲解了基于SPG的知识建模的方法和案例。本文中，我们将继续讲解多元关系架构场景中的知识建模实践。如果你的图谱，涉及对带有时空信息的行为事件的表达，或建模场景下的业务规则、专家经验，需要对所定义“概念”的内涵和外延有计算机可处理可计算的逻辑语义解释，...
2024-02-21 19:40:17
131
原创 论文浅尝 | PanGu-Coder2: 利用排序反馈增强代码的大型语言模型
笔记整理：李晓彤，浙江大学硕士，研究方向为蛋白质与大模型链接：https://arxiv.org/pdf/2307.14936.pdf1. 动机作为大语言模型最有前途的应用之一，代码大语言模型（CodeLLM）因其在代码相关任务中的卓越能力而引起了学术界和工业界的极大关注。在诸多提升CodeLLM性能的工作中，强化学习（RL）似乎是一个有前途的方向。然而，现有的基于RL的方法，往往根据来自代码...
2024-02-19 19:40:47
853
转载 技术动态 | 知识图谱之本体结构与语义解耦——基于OpenSPG的建模实践（上）
转载公众号| SPG知识图谱在“无需复杂图谱术语，7个原则搞定Schema建模”一文中，我们总结了知识建模最佳实践的7个指导原则。本文中，我们将分基础篇、进阶篇，针对不同业务场景的建模需求，由浅及深讲解基于SPG的知识建模的方法和案例，并涉及术语的解释。本文档所提出的建模方案，已经在OpenSPG做了对应的能力支持实现(或开发迭代中)。使用SPG，读者也可以按本文的方法论对自己的业务问题简化抽象...
2024-02-15 20:09:10
196
原创 论文浅尝 | 实体和数值知识图谱推理
笔记整理：付可意，天津大学硕士，研究方向为知识图谱推理链接：https://arxiv.org/pdf/2306.01399.pdf1. 动机知识图谱中的复杂逻辑查询是指以逻辑形式表达的查询，它表达了复杂的含义，例如加拿大图灵奖获得者毕业于哪里？基于知识图谱推理的应用，如对话系统和交互式搜索引擎，其基本任务就是依靠回答复杂逻辑查询的能力。在大多数知识图谱中，边通常用来描述实体之间的关系或相关属性值...
2024-02-12 19:40:54
666
转载 技术动态 | 中文创意写作能力超GPT-4，「最会写」的中文大模型Weaver来了
转载公众号 | 机器之心ChatGPT 等通用大模型支持的功能成百上千，但是对于普通日常用户来说，智能写作一定是最常见的，也是大模型最能真正帮上忙的使用场景之一。尽管大模型经常能写出看起来像模像样的文字，但是大多数情况下内容的创意程度和文风都经不起深究。尤其是在创作领域，大模型常见的 “GPT 文风” 更是让利用大模型进行创意写作看起来简单，实际却困难重重。近日，波形智能的大模型团队发布了一款专精...
2024-02-08 19:40:31
64
原创 论文浅尝 | 在图上思考：基于知识图谱的深度且负责的大语言模型推理
笔记整理：孙硕硕，东南大学硕士，研究方向为自然语言处理链接：https://arxiv.org/abs/2307.076971. 动机本文的动机是大型语言模型在各种任务中取得了较大的进步，但它们往往难以完成复杂的推理，并且在知识可追溯性、及时性和准确性等至关重要的情况下表现出较差的性能。为了解决这些限制，作者提出了 Think-on-Graph (ToG)，这是一个新颖的框架，它利用知识图谱来增强...
2024-02-06 19:40:52
1494
转载 技术动态 | 知识图谱融合大模型RAG问答：用于多文档QA的知识图谱构图及prompt应用思路...
我们在之前的文章中有介绍过longbench评测，其中有多文档QA这一任务。最近看到的一个工作，《Knowledge Graph Prompting for Multi-Document Question Answering》(地址：https://arxiv.org/pdf/2308.11730.pdf)，提出了一种知识图谱提示（KGP）方法，用于在多文档问题解答（MD-QA）中制定正确的LLM...
2024-02-04 19:02:29
453
原创 论文浅尝 | 大型语言模型的人类对齐
笔记整理：方润楠、习泽坤，浙江大学硕士，研究方向为自然语言处理链接：https://arxiv.org/abs/2307.12966概述这份综述探讨了针对大型语言模型（LLMs）的人类期望进行对齐的技术，涵盖了以下几个方面：1. 数据收集：有效收集LLMs对齐所需的高质量指令的方法，包括使用NLP基准、人工注释和利用强大的LLMs。2. 训练方法：对LLMs对齐采用的主要训练方法进行详细审查。涵盖...
2024-02-02 19:40:42
950
转载 技术动态 | 模块化（Modular）RAG 和 RAG Flow
随着RAG技术的演进，RAG整体的流程变动更加丰富和自由。具体表现在以下几个方面：在检索增强数据源上，不再局限于传统的纯⽂本⽂档为为代表的非结构化数据。越来越多的研究引⼊了半结构化数据（例如,PDF、HTML和LaTex）、结构化数据（例如三元组、KG、以及结构化查询语句）。经过预处理结构数据更进⼀步提供检索的逻辑性和可验证性，降低模型幻觉。此外，以检索LLM⾃身代替外部知识源的方法逐渐兴起。通过...
2024-02-01 19:05:31
2123
转载 技术动态 | 哈工大联合快手提出CogGPT：大模型也需要认知迭代
在认知科学领域，人类通过持续学习改变认知的过程被称为认知迭代（Cognitive Dynamics）。形象地说，认知迭代就像是我们大脑的「软件更新」过程，手机应用通过不断的更新来修复 bug 和增加新功能，我们的大脑也通过不断学习新知识、经验，来改善和优化思考方式。从我们判断感冒吃什么药效果好，到一代代数学家如何证明费马大定理，无论是个人的心智发展还是人类文明的进步，认知迭代都扮演了不可或缺的角色...
2024-01-31 19:40:55
53
转载 技术动态 | 知识图谱对工业组织生成式人工智能的重要作用
随着生成式人工智能开始重新定义工业格局，数字化转型领导者在实施人工智能解决方案时，需要继续应对复杂数据治理、定义精确用例以及展示直接商业价值的挑战。在应对这些挑战中，工业知识图谱作为一种战略解决方案应运而生。正如我们将在下面详细介绍的，知识图谱通过提高数据利用率和打破数据孤岛提供了生成人工智能所需的基础。因此，工业知识图谱成为生成式人工智能时代释放有形商业价值的关键。理解知识图谱从本质上讲，知识图...
2024-01-29 19:40:25
87
原创 论文浅尝 | QA-GNN: 使用语言模型和知识图谱的推理问答
笔记整理：李继统，天津大学硕士链接：https://arxiv.org/pdf/2104.06378.pdf1. 动机目前现有的方法，对于QA上下文使用LM处理，对于KG使用GNN进行处理，并且并不相互更新彼此的表示，也不做语义的对齐表示。因此QA上下文与KG的分离表示可能会限制模型执行结构化推理的能力（比如处理否定问题）。因此本篇工作主要在于QA上下文与KG的融合表示。2. 亮点基于知识图谱的问...
2024-01-26 19:40:17
755
1
转载 技术动态 | LLM⊗KG范式下的知识图谱问答实现框架思想阅读
转载公众号 |老刘说NLP分享一张有趣的图，意思是在分类场景下，使用大模型和fasttext的效果，评论也很逗。这其实背后的逻辑是，在类别众多的分类场景下，尤其是在标注数据量不缺的情况下，大模型的收益是否能够比有监督模型的收益更多。这个例子虽然没有说标注数据量，但估计量不会少。我们继续回到知识图谱与大模型的话题:读到一个大模型和知识图谱融合的有趣工作《 Think-on-Graph: Deep ...
2024-01-24 19:40:12
198
原创 论文浅尝 | 基于细粒度推理的虚假新闻检测
笔记整理：周诗琪，东南大学硕士，研究方向为自然语言处理、规则挖掘链接：https://arxiv.org/abs/2110.150641. 动机虚假新闻误导公众，威胁社会经济、政治的良性发展，而现有的虚假新闻检测方法存在一些局限。首先，这些方法大多缺乏可解释性，不提供解释或只对模型的一小部分提供解释。这阻碍了人们理解并信任模型给出的结果，以及引导模型进行性能改进。此外，现有的模型不具备细粒度推理能...
2024-01-22 19:40:19
370
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人