- 博客(194)
- 资源 (2)
- 收藏
- 关注
原创 如何使用LangChain和LangGraph大幅提升RAG效果
▼最近直播超级多,预约保你有收获—1—LangChain 的2大核心概念1、面向过程架构设计的 Chains(链):基于大模型编写的程序,遵循预定义的步骤和规则,并且不可灵活调整,用于执行任务,比如:自动 SQL 编写或多轮对话等。2、面向目标架构设计的 Agents(智能体):基于大模型的推理能力,对任务做出规划,然后使用第三方工具(比如:搜索工具、代码解释器、业务 API 等)完成规划子任务...
2024-03-27 08:18:56 851
原创 大模型应用的6种架构模式,你知道几种?
▼最近直播超级多,预约保你有收获架构设计模式已成为程序员的重要技能。然而,当我们转向大模型应用领域,情况可能会有所不同。面对新兴技术,比如:生成式 AI,我们尚缺乏成熟的设计模式来支撑这些解决方案。根据多年的架构设计经验,我在这里整理总结了一些针对大模型应用的设计方法和架构模式,试图应对和解决大模型应用实现中的一些挑战,比如:成本问题、延迟问题以及生成的幻觉等问题。—1—路由分发架构模式当用户输...
2024-03-26 08:18:59 439
原创 96W,确实可以封神了!!
▼最近直播超级多,预约保你有收获—1—AI 大模型如何助力高薪?随着 ChatGPT 大热“AI 大模型”无疑是最火爆的话题!Google、百度、腾讯等等巨头互联网公司,无不在布局人工智能技术和市场,甚至开出80K"16超高年薪,挖掘 AI 大模型人才!作为普通程序员,如何不被时代抛弃,享受 AI 技术带来的红利?!如果你也遇到以下问题:公司业绩下行,先裁程序员应景,每日战战兢兢每天疲于会议撕 ...
2024-03-25 07:39:04 106
原创 轻松上手 LangChain 开发框架之 Agent 技术 !!
▼最近直播超级多,预约保你有收获—1—Agent 技术剖析Agent 这一模块在 LangChain 的使用过程中也是十分重要的。官方文档是这样定义它的:“The core idea of agents is to use a language model to choose a sequence of actions to take. In chains, a sequence of acti...
2024-03-24 08:18:24 328
原创 一台MacBook搞定大模型知识库运行!!
▼最近直播超级多,预约保你有收获—1—为什么要在 MacBook 上搭建知识库?最核心最重要的是我们手上的文档资料出于安全要求,不能随便上传到云服务,也就无法实际验证知识库的实际效用。另外对于 IT 同学来说,自己亲手搭建一个完整的方案、能灵活调整和对接各种不同的模型、评测各种模型不同的表现,也是出于对技术的探索本能使然。使用的 MacBook 配置如下,对大模型经过量化处理(比如:int8)后...
2024-03-23 08:18:26 278
原创 轻松上手 LangChain 6大模块之 Chains
▼最近直播超级多,预约保你有收获—1—LangChain 6大模块是什么?LangChain 是 AI 大模型应用开发框架,由6个模块组成,分别为:Model IO、Retrieval、Chains、Memory、Agents 和 Callbacks。Model IO:AI 应用的核心部分,其中包括输入、Model和输出。Retrieval:该功能与向量数据库密切相关,是在向量数据库中搜索与问题...
2024-03-22 08:18:44 831
原创 基于GPTs和RAG构建大模型应用程序
▼最近直播超级多,预约保你有收获—1—基于GPTs构建大模型应用GPTs 是 OpenAI 发布用于创建定制版 ChatGPT 的应用程序形态,实际上是基于大模型的应用程序,即:AI Agent。或者说白了非常类似于智能手机里的App。只不过它的开发过程极其简单,基本不需要编程。所以这个 GPTs 的开发非常踊跃,短短两个月时间用户已经发布了将近10万个GPTs。任何人都可以通过 OpenAI ...
2024-03-21 08:19:01 837
原创 多模态 RAG 应用设计与实现
▼最近直播超级多,预约保你有收获—1—多模态是什么?多模态本质上赋予大模型除了文本之外,同时感知、聆听和理解多种格式数据的能力,就像我们人类所做的那样。我们应该能够将不同类型的数据混合在一起,同时展示给大模型,并对其进行提问:“嘿,几天前我给你发了一张棕色小狗的照片。你能帮我找到那张照片吗?” 然后大模型给我们那张照片的细节,并找出照片。我们希望大模型能像人类那样理解事物,变得非常擅长处理和响应...
2024-03-20 08:19:01 302
原创 大模型应用开发为什么要采用面向目标架构?
▼最近直播超级多,预约保你有收获—1—面向目标架构设计是什么?我们来看一个案例:假设你需要设计完成一个用户系统。如果采用面向过程架构来设计,你需要以下几个步骤:第一步、对用户系统进行需求分析和领域建模,确定具体的功能需求和性能需求;第二步、针对分析后的需求进行架构设计,是采用微服务架构还是云原生架构?假如这步选择了微服务架构;第三步、对微服务架构进行选型,是采用 Spring Cloud 开发框...
2024-03-19 10:02:23 373
原创 2024年发现大模型更火了!
▼最近直播超级多,预约保你有收获—1—2024年发现大模型更火了!24年开工后,AI 大模型热度不减反增,因为大模型应用在企业已经真正落地,对 IT 同学来说,掌握好 AI 大模型的技能就变成越来越重要!由于 AI 大模型应用技术比较新,业界也没什么参照标准,打造 AI 大模型技术的知识图谱和学习路线并非一件容易的事,我和团队花费了6个多月时间,边实践边打造了业界首份 AI 大模型知识图谱和学习...
2024-03-18 08:18:42 295
原创 某大厂程序员因Bug,被要求返还全部年终奖!
▼最近直播超级多,预约保你有收获—1—不应该如此极端对待程序员!!近日某厂员工爆料,公司程序员因线上流量异常事故,被公司进行处罚。处罚的结果是被要求将去年发的4万多年终奖归还给公司。更加令人震惊的是,如果逾期不还,还将以每天万分之五的利息收取滞纳金,换句话说,就是一天要收取20元的滞纳金。该员工还称,公司 HR 还扬言三个月内还是不还就免费开除。这一消息一经传出,立刻激起了程序员的强烈反响。许...
2024-03-17 08:18:46 341
原创 大模型人才今年的薪资。。。
▼最近直播超级多,预约保你有收获—1—AI 大模型如何助力高薪?随着 ChatGPT 大热“AI 大模型”无疑是最火爆的话题!Google、百度、腾讯等等巨头互联网公司,无不在布局人工智能技术和市场,甚至还有超高年薪,挖掘 AI 大模型人才!作为普通程序员,如何不被时代抛弃,享受 AI 技术带来的红利?!如果你也遇到以下问题:公司业绩下行,先裁程序员应景,每日战战兢兢每天疲于会议撕 X,只能加班...
2024-03-15 17:16:59 329
原创 让天下没有难学的大模型!!
▼最近直播超级多,预约保你有收获最近在我的直播间,陆续有同学想要大模型技术应用的全景图,我和团队花了些时间整理出大模型技术以及应用的知识图谱,下面做个详细介绍,对了,别忘记领取文末的彩蛋。—1—大模型的预训练技术大模型的预训练技术(Pre-traning)是大模型性能的根基,这部分技术门槛和成本门槛都很高,我们只需要简单了解就行,包含以下几个核心技术:Transformer 人工神经网络架构、...
2024-03-14 17:20:41 354
原创 大白话ChatGPT技术
▼最近直播超级多,预约保你有收获今晚直播:《ChatGPT架构设计与应用案例实践》—1—ChatGPT 架构设计剖析ChatGPT 总体架构由三大部分构成:预训练(Pre-training)架构、微调(Fine-tuning)架构、推理(Reasoning)架构。其中预训练架构建立在 Transformer 神经网络基础上,构建出一个 Base Model,微调架构加入了10万级别的人工样本,...
2024-03-12 19:19:31 314
原创 通俗易懂解释LLM大模型
▼最近直播超级多,预约保你有收获今晚直播:《动手做出一个ChatGPT》—1—大模型的两个重要文件大模型,是由海量的数据经过复杂训练而生成的模型,它们能够理解、记忆、生成人类的语言。我们将大模型进行拆解,进行形象的比喻,那么大模型本质上由两个核心组件构成:一个巨大的参数文件和一个运行这些参数的代码文件。第一、参数文件,可以视为这些大模型的“DNA”,它包含了千亿级的权重,这些权重值是通过大量数...
2024-03-11 19:28:03 340
原创 比尔盖茨:软件的未来是 Agent 智能体!
▼最近直播超级多,预约保你有收获今晚直播:《大模型应用 Agent 案例实战》—1—现有软件仍然笨拙比尔盖茨说尽管软件已经取得了许多进步,但软件仍然可能相当笨拙。比尔盖茨是这样说的:“I still love software as much today as I did when Paul Allen and I started Microsoft. But—even though it h...
2024-03-10 08:18:41 307
原创 一台MacBook搞定大模型知识库部署和运行!
▼最近直播超级多,预约保你有收获今晚直播:《企业知识库落地案例实战》—1—为什么要在 MacBook 上搭建知识库?最核心最重要的是我们手上的文档资料出于安全要求,不能随便上传到云服务,也就无法实际验证知识库的实际效用。另外对于 IT 同学来说,自己亲手搭建一个完整的方案、能灵活调整和对接各种不同的模型、评测各种模型不同的表现,也是出于对技术的探索本能使然。使用的 MacBook 配置如下,对大...
2024-03-09 08:58:55 368
原创 一文搞懂微调技术和RAG技术区别
▼最近直播超级多,预约保你有收获今晚直播:《大模型ChatGLM3应用案例实战》—1—为什么要做微调和RAG的对比?通用大模型存在一定的幻觉问题,通过把企业私有的领域数据知识喂给通用大模型,从而降低了大模型的幻觉,这就是所谓的企业私有大模型,从技术层面来讲,实现企业私有大模型有2个技术手段:微调(Fine-tuning)、RAG(Retrieval Augmented Generation)检...
2024-03-08 16:08:52 894
原创 OpenAI 将在 2027 年实现人类水平的 AGI ?完整 PDF 流出……
▼最近直播超级多,预约保你有收获今天直播:《代码解释器Agent案例实战》—1—OpenAI 2027 年实现人类水平的 AGI“OpenAI 从 2022 年 8 月就在训练 125 万亿参数的多模态模型,但由于推理成本过高而被取消”……这是最近硅谷乃至整个科技圈都在讨论的热门话题,内容均源自一份名为《Revealing OpenAI’s plan to create AGI by 2027》...
2024-03-06 08:18:53 436
原创 人人都需要一份AI大模型知识图谱和晋升路线!
▼最近直播超级多,预约保你有收获今晚直播:《RAG和GPTs产业Agent案例实战》—1—人人必备AI大模型知识图谱春节刚过,AI 大模型热度不减反增,基于大模型应用在企业已经开始产业落地,掌握好 AI 大模型的技能就变成如此重要!由于 AI 大模型应用技术比较新,业界也没什么参照标准,打造 AI 大模型技术的知识图谱和学习路线并非一件容易的事,我和团队花费了6个多月时间,边整理、边摸索、边实践...
2024-03-05 08:18:57 333
原创 搞定大模型知识库原来如此简单。。。
▼最近直播超级多,预约保你有收获今晚直播:《基于LLM构建知识库落地案例实战》—1—为什么要在 MacBook 上搭建知识库?最核心最重要的是我们手上的文档资料出于安全要求,不能随便上传到云服务,也就无法实际验证知识库的实际效用。另外对于 IT 同学来说,自己亲手搭建一个完整的方案、能灵活调整和对接各种不同的模型、评测各种模型不同的表现,也是出于对技术的探索本能使然。使用的 MacBook 配置...
2024-03-04 08:18:47 405
原创 一文搞懂 LangChain 新利器:LangGraph
▼最近直播超级多,预约保你有收获今天直播:《RAG和GPTs构建Agent产业应用落地实战》—1—LangGraph 技术架构解读LangGraph 是一个有用于构建有状态和多角色的 Agents 应用,它并不是一个独立于 Langchain 的新框架,而是基于 Langchain 之上构建的一个扩展库,可以与 Langchain 现有的链(Chains)、LangChain Expressi...
2024-03-03 08:38:10 935
原创 一文解读 OpenAI Sora 核心技术
▼最近直播超级多,预约保你有收获今天直播:《大模型Agent应用落地实战》—1—Sora 技术原理解读如果用一句话来描述 Sora 训练建模过程,那就是:将原始视频通过一个视觉编码器(visual encoder)编码到隐空间(latent space)形成隐时空块(spacetime latent patches),这些隐时空块(结合 text 信息)通过 transformer 做 diffu...
2024-03-01 08:18:22 886
原创 K8S, AI 大模型推理优化的新选择!
▼最近直播超级多,预约保你有收获今晚直播:《大模型Agent应用落地实战》—1—AI 大模型训练和推理Docker 容器和 Kubernetes 已经成为越来越多 AI 应用首选的运行环境和平台。一方面,Kubernetes 帮助用户标准化异构资源和运行时环境、简化运维流程;另一方面,AI 这种重度依赖 GPU 的场景可以利用 K8S 的弹性优势节省资源成本。在 AIGC/大模型的这波浪潮下,以 ...
2024-02-29 08:18:12 410
原创 OpenAI 总裁:没有谁天生就是AI工程师,你也可以!
▼最近直播超级多,预约保你有收获今晚直播:《LoRA微调大模型落地实战》—1—AI 大模型应用技能全掌握AI 大模型技术经过2023年的一路狂飙,2024年一开年就在各行各业开始应用落地,并且产业落地的速度比我们想象的速度还要快,最近不少企业找到我们咨询如何落地大模型的应用。因此不管是 B 端企业应用落地还是 C 端技能提升,AI 大模型的技术应用都是一件非常确定的事情。那么如何掌握好 AI 大模...
2024-02-28 08:19:00 357
原创 【万人疯抢】零基础也能掌握的AI大模型知识图谱×实战路线,你值得拥有!
▼最近直播超级多,预约保你有收获今晚直播:《Agent开发框架案例实战》—1—你需要一份AI大模型知识地图23年 AI 大模型技术狂飙一年后,24年 AI 大模型的应用已经在爆发,因此掌握好 AI 大模型的应用开发技术就变成如此重要,那么如何才能更好地掌握呢?一份 AI 大模型详细的知识图谱和学习路线就变得非常重要!由于 AI 大模型应用技术比较新,业界也没什么参照标准,打造 AI 大模型技术的...
2024-02-27 08:18:45 342
原创 年薪96万!一个薪资和前景都不错的方向,建议都冲一下!!
▼最近直播超级多,预约保你有收获今晚直播:《LangChain应用架构落地实战》AI 大模型技术经过2023年的狂飙,2024年迎来应用的落地,对每一个同学来讲,这里蕴含着大量的技术机会,大模型开发和应用技能。不论是创业公司、中等规模公司还是大厂,都在积极部署 AI 大模型市场,懂 AI 大模型的同学年薪甚至翻到80w-96w。本文讨论 AI 大模型开发技术和应用大师的修炼之道,试图找到一个共同...
2024-02-26 08:18:29 370
原创 Code Interpreter是AI Agent 新应用
▼最近直播超级多,预约保你有收获今晚直播:《Code Interpreter Agent案例实战》—1—Code Interprer 是 AI Agent 新应用OpenAI 在1月11日发布了 GPTs Store,并同步发布了 AI Agent 的开发框架 Assistants API,将会加速 AI Agent 应用生态的发展速度。AI Agent 被认为是 AGI 时代新的应用形态,就...
2024-02-25 12:29:37 341
原创 一台MacBook搞定大模型知识库运行
▼最近直播超级多,预约保你有收获今晚直播:《企业知识库业务案例实战》—1—为什么要在 MacBook 上搭建知识库?最核心最重要的是我们手上的文档资料出于安全要求,不能随便上传到云服务,也就无法实际验证知识库的实际效用。另外对于 IT 同学来说,自己亲手搭建一个完整的方案、能灵活调整和对接各种不同的模型、评测各种模型不同的表现,也是出于对技术的探索本能使然。使用的 MacBook 配置如下,对大...
2024-02-24 15:39:17 389
原创 为什么说AI大模型开发人人必备?
▼最近直播超级多,预约保你有收获今晚直播:《Agent 架构落地实战》AI 大模型技术经过2023年的狂飙,2024年迎来应用的落地,对 IT 同学来讲,这里蕴含着大量的技术机会,人人必备开发技能。本文讨论 AI 大模型开发技术大师的修炼之道,试图找到一个共同的速成模式,希望对 IT 同学有所助益!!文末有彩蛋!—1—首先,能够开发 AGI 时代新应用程序第一步:学会大模型内核架构,对 Trans...
2024-02-23 14:43:21 718
原创 开源大模型新王炸!谷歌Gemma杀入场,可商用
▼最近直播超级多,预约保你有收获今天直播:《ChatGLM3架构设计案例实践》—1—最强开源大模型 Gemma谷歌推出了全新的开源模型系列「Gemma」。相比 Gemini,Gemma 更加轻量,同时保持免费可用,模型权重也一并开源了,且允许商用。Gemma 官方页面:https://ai.google.dev/gemma/本次发布包含两种权重规模的模型:Gemma 2B 和 Gemma 7B。...
2024-02-22 07:58:57 794
原创 一文搞懂LlamaIndex开发框架
▼最近直播超级多,预约保你有收获今天直播:《LlamaIndex架构设计与应用案例实践》—1—LlamaIndex 开发框架剖析LlamaIndex 是一个数据开发框架,提供基于 LLM 的应用程序获取、构建和访问私有或特定领域的数据,并通过自然语言建立了和数据源之间的桥梁,数据源可以是企业的 SQL、Excel 等结构化数据,也可以是 Elasticsearch、业务 API 等半结构化数据...
2024-02-21 08:18:55 791
原创 一场直播深度剖析ChatGPT/Sora技术
▼最近直播超级多,预约保你有收获今晚直播:《ChatGPT架构设计与应用案例实践》—1—ChatGPT 架构设计剖析ChatGPT 总体架构由三大部分构成:预训练(Pre-training)架构、微调(Fine-tuning)架构、推理(Reasoning)架构。其中预训练架构建立在 Transformer 神经网络基础上,构建出一个 Base Model,微调架构加入了10万级别的人工样本,...
2024-02-20 12:06:49 384
原创 一文搞懂 RAG 检索增强生成
▼最近直播超级多,预约保你有收获今晚直播:《大模型应用案例实战》—1—RAG 检索增强介绍检索增强生成(Retrieval Augmented Generation,RAG)是一种强大的工具,它通过将外部知识整合到生成过程中,增强了大型语言模型(LLM)的性能。让我们探索 RAG 的关键组成部分。第一、定制知识库定制知识库是指一系列紧密关联且始终保持更新的信息集合,它构成了 RAG 的核心基础。...
2024-02-19 08:28:58 374
原创 OpenAI Sora 视频生成模型技术浅析
▼最近直播超级多,预约保你有收获今晚直播:《大模型 Agent 应用案例实战》—1—Sora 技术报告解读Sora 详细的技术报告发布了,IT 从业者都需要详细看看。这份技术报告描述了 Sora 的技术架构以及训练过程,下面我们详细做个剖析。第一、OpenAI Sora 视频生成模型技术报告总结1、Sora 在其处理和生成视频的过程中采用了创新的视觉块编码机制。首先,它将不同格式的原始视频内容分...
2024-02-18 08:18:40 899
原创 人人都能听懂的自注意力机制技术原理
▼最近直播超级多,预约保你有收获今晚直播:《向量数据库应用案例实战》—1—Self Attention 自注意力机制剖析一个 Prompt 给到大模型,需要经历以下过程:Prompt 原始文本 -> Token(令牌化)-> Embedding(嵌入向量化)-> 大模型。Embedding 是使用一系列数字对每个 Token(大致上是一个单词)进行有意义的高维表示。这种 E...
2024-02-16 09:19:35 309
原创 人人都能听懂的大白话 Transformer 技术原理
▼最近直播超级多,预约保你有收获今晚直播:《开发框架应用案例实战》—1—Transformer 网络架构剖析几乎所有主流的大模型都是基于 Transformer 网络架构构建的,Transformer 的重要性不言而喻。大模型可以类比人类的大脑,那么 Transformer 就可以类比人类大脑中的神经网络结构。Transformer 网络结构最核心的组成部分为:编码器(Encoder)和解码器(...
2024-02-14 09:18:18 806
原创 面向过程架构和面向目标架构到底有什么区别?
▼最近直播超级多,预约保你有收获今晚直播:《Agent 企业级应用案例实战》—1—面向过程架构和面向目标架构区别?我们来看一个案例:假设你需要设计完成一个用户系统。如果采用面向过程架构来设计,你需要以下几个步骤:第一步、对用户系统进行需求分析和领域建模,确定具体的功能需求和性能需求;第二步、针对分析后的需求进行架构设计,是采用微服务架构还是云原生架构?假如这步选择了微服务架构;第三步、对微服务架...
2024-02-13 17:39:29 354
原创 大白话 ChatGPT 技术原理
▼最近直播超级多,预约保你有收获近期直播:《Agent 企业级应用案例实战》—1—ChatGPT 大模型如何完成训练的?ChatGPT 大模型训练分为以下3个步骤:第一步、Pretraining 预训练。给大模型海量的文本进行训练,99% 的计算量花费在这个阶段,输出的大模型叫做 base model,能做的事情就是像成语接龙一样不断的完成一段话,,也就是续写。第二步、Supervised ...
2024-02-12 22:53:43 337
原创 大模型是如何实现Function Call函数调用的?
▼最近直播超级多,预约保你有收获近期直播:《Agent 企业级应用案例实战》—1—大模型如何实现函数调用?大模型要实现精确的函数调用(Function Call)需要理解能力和逻辑能力,理解能力就是对用户的 Prompt 提示词能够识别意图,然后通过逻辑能力给出需要调用执行的函数,具体流程如下:1、大模型何时会调用函数 API?调用函数 API 在交互形式上有两种方式:第一是让用户直接选择调用...
2024-02-08 21:57:44 675
搜索入门搜索入门资料,绝对值得看!!!!!
2008-09-18
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人