- 博客(89985)
- 资源 (6)
- 收藏
- 关注
RSS订阅
原创 强化学习在自动驾驶中的应用
随着科技的发展，自动驾驶已成为汽车行业的热门话题。它旨在通过智能系统实现车辆的自主导航，减少人为错误造成的交通事故，并提高交通效率。强化学习作为机器学习的一种，凭借其模仿人类学习方式，即通过反复试错和奖励机制优化行为的能力，正逐步成为推动自动驾驶技术的重要驱动力。未来，强化学习将在自动驾驶领域发挥更大作用，实现更高级别的自动化。然而，挑战依然存在，如数据隐私保护、安全性验证、法律法规的适应性以及应对未知环境的能力。随着技术的进步，这些挑战有望得到解决，从而推动自动驾驶技术迈向更高的成熟度。
2024-04-11 14:35:48
995
原创 基于transformer的端到端语音识别模型解析
语音识别作为人机交互的重要技术之一,在近年来得到了飞速的发展。传统的语音识别系统通常由声学模型、语言模型和解码器三个主要部分组成,需要进行复杂的管道式处理。随着深度学习技术的不断发展,出现了基于端到端(end-to-end)的语音识别模型,能够直接从原始语音信号中输出文本序列,大大简化了系统结构。其中,基于Transformer的端到端语音识别模型在近年来取得了突破性的进展,在多个公开数据集上取得了领先的识别性能。
2024-04-08 11:59:05
467
1
原创 RAG 提示词工程最佳实践
虽然目前网络上关于提示工程的相关资料已经多如牛毛，然而 RAG (检索增强生成) 任务中提示工程如何进行的资料相对而言却较少。不少朋友之前也热烈的讨论过 RAG 场景下提示词的运用，因此 Zen 禅与计算机程序设计艺术 特别推出 RAG 任务下的提示词实践经验系列分享。RAG 是检索增强生成（Retrieval Augmented Generation）的简称，是当前最火热的企业级LLM应用方案。
2024-04-06 11:17:08
57
原创 Ilya Sutskever: 元学习和自我对弈 OpenAI Meta-Learning & Self-Play | MIT Artificial General Intelligence AGI
欢迎来到 通用人工智能，今天我们有伊利亚 sutskever 联合创始人和研究开放人工智能总监，他在多伦多的 amel 小组开始工作，杰弗里·辛顿 (Geoffrey Hinton) 随后与安嘉莹一起在斯坦福大学工作，作为 Google Brain 的研究科学家，共同创立了 DNN 研究三年，并最终共同创立了开放 AI。
2024-04-02 00:01:29
39
原创 神经网络基础：从生物神经元到人工神经元
人工智能领域中,神经网络作为一种重要的机器学习模型,已经广泛应用于计算机视觉、自然语言处理、语音识别等众多领域,取得了令人瞩目的成就。神经网络的核心思想源于人类大脑中神经元之间的信息传递与处理机制。通过模拟生物神经元的结构和功能,人工神经网络得以实现对复杂问题的高效学习和处理。本文将从生物神经元的基本构造和工作原理出发,系统地介绍人工神经元的核心概念,并深入探讨神经网络的基本算法原理、最佳实践、应用场景以及未来发展趋势。希望能够帮助读者全面理解神经网络技术的来龙去脉,为进一步学习和应用打下坚实的基础。
2024-04-01 00:55:11
766
原创 词嵌入：基础知识教程 Word Embedding: Basics
GloVe 基于强大的直觉，即单词的真正含义源自两个单词相邻出现的预期概率的差异。上表显示，在我们的语料库中，“a”后面跟着“penny”两次，而单词“earned”、“saved”和“wise”各跟随“penny”一次。在一个美妙的数学推导中，新矩阵的单元格是原始矩阵的行和列之间的点积的结果。这些方法是基于预测的，因为它们提供了单词的概率，并被证明是单词类比和单词相似度等任务的最先进技术。Google 科学家发表的一篇论文 Word2Vec 的前提是，如果经过训练来预测单词的出现，单词嵌入会更加准确。
2024-03-27 13:13:49
49
原创 霍普菲尔德神经网络和大脑神经网络系统 Hopfield nets and the brain
目录Why are Hopfield nets so interesting and intriguing?为什么霍普菲尔德网如此有趣且令人着迷？What is a hopfield net and how do they work?什么是霍普菲尔德网以及它们如何工作？How do they learn? 他们如何学习？How feedforward works in hopfield nets?hopfield 网络中前馈如何工作？The “energy” function of a Hopfield n
2024-03-21 00:55:36
703
1
原创 循环神经网络背后的直觉 The intuition behind recurrent neural networks
目录Why a new post about RNN?为什么要写一篇关于 RNN 的新文章？Before you start 在你开始之前Neural networks and deep learning神经网络和深度学习Neural Networks and Deep Learning is a free online book. The book will teach you about: Neural networks, a beautiful…神经网络和深度学习是一本免费的在线书籍。这本书将教您：神
2024-03-21 00:46:27
716
原创 【AI大模型应用开发实战】逐步推导反向传播计算原理 Backpropagation step by step
不过，输出层的大小将为 10，因为我们有从 0 到 9 的 10 个可能的标签。当训练网络时，我们输入一个数字为零的图像，我们希望第一个神经元值接近于尽可能接近 1，其余尽可能接近 0。在我们的玩具网络中，我们只有一组权重。由于权重均为正，并且输入本身为正，因此神经元的结果也为正，在这种情况下，RELU 是恒等函数。简而言之，反向传播计算梯度下降以最小化成本函数，但由于神经网络中层的排列方式使它们成为复合函数，反向传播只不过是计算链式法则后的链式法则以获得导数的值成本函数相对于网络各层深处的权重。
2024-03-21 00:19:34
1103
原创 【AI大模型应用开发实战】神经网络核心算法原理与学习过程
随着计算机技术的飞速发展，人工智能逐渐成为了当今科技领域的热门话题。人工智能旨在让计算机能够模拟人类的思维方式，从而实现智能化的决策和行为。在这个过程中，神经网络作为一种模拟人脑神经元连接的计算模型，成为了实现人工智能的关键技术之一。yfw⋅xbyfw⋅xbE12∑i1nyi−ti2E21∑i1nyi−ti2反向传播：δiLyi−tif′ziLδiLyi−ti。
2024-03-19 18:01:05
976
6
原创 【模型精调LoRA】LoRA 低秩适应微调的工作原理和代码实现示例 What is LoRA? Low-Rank Adaptation for finetuning LLMs EXPLAINED
LoRA 是一种有效的大模型微调技术，可以提高推理效率并保持良好的性能。LoRA 在许多下游任务中都取得了良好的效果，包括文本分类、机器翻译和问答。
2024-03-11 12:59:38
807
原创 【ChatGPT模型精调训练】AI 大模型精调 Fine-Tuning （微调）训练图文代码实战详解
选择预训练模型：选择一个在类似任务上已经训练好的模型作为起点。数据准备：准备并预处理你的数据集，使其适合模型的输入格式。微调：在你的特定数据集上继续训练模型，调整模型的权重。评估：评估微调后模型的性能。应用：将微调后的模型部署到实际应用中。Fine-Tuning（精调）是指在预训练模型的基础上，对模型进行微调，使其适应特定任务。预训练模型通常在大量无标签数据上进行训练，以学习通用的语言表示。通过 Fine-Tuning，我们可以在较小的标签数据集上训练模型，以便模型能够更好地解决特定任务。
2024-03-09 11:39:09
337
1
原创 第二章：AI大模型的基础知识2.1 机器学习与深度学习基础2.1.3 神经网络的基本结构
自从人工智能（AI）成为可能的研究领域以来，研究人员一直在尝试模拟生物神经网络中的行为，从而产生可编程的计算机系统。人类大脑中的神经元被认为是执行计算的基本单位，这些单位以非常高效的方式组合在一起，形成复杂的网络来处理信息。自然界中的生物神经网络已经存在数百万年，并且已经演变成了一种非常强大和高效的信息处理系统。因此，模仿生物神经网络并将其应用到计算机系统中可能是一个重大飞跃。人工神经网络（ANN）是一种由简单的处理单元（neurons）组成的网络，它们是通过可训练的连接相互连接的。
2024-02-01 15:00:57
123
原创 AI大模型应用入门实战与进阶：构建你的第一个大模型：实战指南
AI大模型是指具有大量参数和复杂结构的人工智能模型。这些模型通常需要大量的计算资源和数据来进行训练，以实现高性能的预测和生成能力。近年来，随着计算能力的提高和数据量的增加，AI大模型在各种任务中取得了显著的成果，如自然语言处理、计算机视觉和强化学习等。模型压缩与加速：随着模型规模的增加，计算资源和存储需求也在不断增加。未来的研究需要关注如何压缩和加速大模型，以适应更多的应用场景。数据效率与迁移学习：当前的大模型通常需要大量的数据和计算资源进行训练。
2024-01-28 03:18:50
1022
1
原创 【ChatGPT核心原理实战】《提示工程指南》 | Prompt Engineering Guide
提示工程是一个较新的学科，应用于开发和优化提示词（Prompt），帮助用户有效地将语言模型用于各种应用场景和研究领域。掌握了提示工程相关技能将有助于用户更好地了解大型语言模型的能力和局限性。研究人员可利用提示工程来提高大语言模型处理复杂任务场景的能力，如问答和算术推理能力。开发人员可通过提示工程设计和研发出强大的技术，实现和大语言模型或其他生态工具的高效接轨。本指南介绍了提示词相关的基础知识，帮助用户了解如何通过提示词和大语言模型进行交互并提供指导建议。
2024-01-05 01:17:04
1016
1
原创 【ChatGPT核心原理实战】手动求解 Transformer：分步数学示例 | Solving Transformer by Hand: A Step-by-Step Math Example
手动求解 Transformer：分步数学示例Understanding Transformers: A Step-by-Step Math Example — Part 1了解 Transformer：分步数学示例 — 第 1 部分I understand that the transformer architecture may seem scary, and you might have encountered various explanations on…我知道变压器架构可能看起来很可怕，并且
2023-12-22 02:23:09
2440
6
原创 深度 Qlearning：学习率与折扣因子选择
Q-learning 是强化学习中最著名和最成功的算法之一,它属于时序差分(Temporal Difference)技术的一种,用于求解马尔可夫决策过程(Markov Decision Process, MDP)。Q-learning 算法的核心思想是学习一个行为价值函数 Q(s, a),表示在状态 s 下执行动作 a 后可获得的期望累积奖励。通过不断更新和优化 Q 函数,智能体可以逐步找到最优策略。我们定义了一个简单的全连接神经网络,包含两个隐藏层,每层有 64 个神经元。
2024-04-16 17:38:53
80
1
原创 深度 Qlearning：在机器人技术中的应用
Q-Learning是一种深度强化学习的方法，最初由Chris Watkins在1989年提出。它是一种值迭代算法，通过学习一个代理(agent)在给定状态下选择特定动作的预期效用，来找到最优策略。这种方法具有在线学习和离线学习的能力，使得它在处理高维度和连续状态空间问题时具有优势。深度Q-Learning作为强化学习和深度学习的结合，已经在许多方面取得了显著的成果。然而，它仍然面临着许多挑战，如样本效率低，训练不稳定等问题。
2024-04-16 17:38:22
82
原创 深度 Qlearning：在压力测试中的应用
深度 Q-learning：在压力测试中的应用1. 背景介绍1.1 压力测试的重要性在现代软件开发过程中,压力测试是一个至关重要的环节。它旨在评估系统在高负载和极端条件下的性能、可靠性和稳定性。有效的压力测试可以帮助识
2024-04-16 17:37:50
174
原创 深度 Qlearning：DLML和AI的交集
强化学习(Reinforcement Learning, RL)是机器学习的一个重要分支,它关注来学习并,从而获得最大的累积。与监督学习和无监督学习不同,强化学习没有提供明确的输入-输出样本对,而是通过试错和奖惩机制来学习。
2024-04-16 17:37:19
135
原创 深度强化学习DQN模型的在线更新与迁移学习
1.背景介绍1.1 强化学习简介强化学习是一种机器学习范式，旨在通过在环境中进行试验和错误来优化决策。它的关键概念是智能体（agent）在环境中采取行动，以最大化某种奖励信号。每一个动作都会影响智能体接下来的状态与此同时，智能体会得到一个奖励（或惩罚），这是它对其动作效果的反馈。
2024-04-16 17:36:48
222
原创 深度强化学习DQN在金融风险管理中的应用
1.背景介绍在过去的几年中，深度学习技术在各种领域都取得了显著的成果，包括图像识别，自然语言处理，以及决策制定。然而，这些传统的深度学习方法在处理连续决策问题时，往往面临着严重的局限性。为了解决这一问题，深度强化学习（Deep Reinforcement Learning，DRL）应运而生。它结合了深度学习的强大表示能力和强化学习的决策能力，为处理连
2024-04-16 17:36:16
148
原创 深度学习在农业生产中的应用
深度学习在农业生产中的应用1.背景介绍1.1 农业生产的重要性农业生产是人类赖以生存的基础,为人类提供食物、纤维和其他生活必需品。随着世界人口的不断增长,确保农业生产的可持续性和提高效率对于满足不断增长的需求至关重要。
2024-04-16 17:35:45
124
原创 深度学习在气象预报中的应用
深度学习在气象预报中的应用1. 背景介绍1.1 气象预报的重要性气象预报对于人类社会的发展至关重要。准确的天气预报可以为农业生产、交通运输、能源管理、应急响应等诸多领域提供宝贵的决策依据,有助于降低自然灾害带来的损失,提高资源利用效率,保
2024-04-16 17:35:13
145
原创 深度学习在社交网络中的应用
深度学习在社交网络中的应用1. 背景介绍1.1 社交网络的兴起与发展社交网络已经成为现代社会不可或缺的一部分。从最早的论坛和博客,到后来的Facebook、Twitter、Instagram等主流社交媒体平台,社交网络已经深深融入了人
2024-04-16 17:34:42
181
原创 深度Q网络：结合深度学习的强化学习新范式
1.背景介绍1.1 强化学习的发展强化学习作为机器学习的一个重要分支，面临着很多挑战。传统的强化学习方法，如Q-Learning和SARSA，虽然在某些情况下可以取得良好的效果，但是在面对复杂的任务和大规模的状态空间时，这些方法的性能就会大打折扣。这是因为传统的强化学习方法通常需要探索所有可能的状态
2024-04-16 17:34:11
92
原创 神经网络的网络架构搜索与自动设计
神经网络的网络架构搜索与自动设计1. 背景介绍1.1 神经网络的重要性神经网络在过去几年中取得了令人瞩目的成就,在计算机视觉、自然语言处理、语音识别等众多领域展现出卓越的性能。然而,设计高效的神经网络架构仍然是一个巨大的挑战,需要专
2024-04-16 17:33:39
124
原创 神经网络基础:从感知机到深度学习
神经网络基础:从感知机到深度学习1.背景介绍1.1 神经网络的起源神经网络的概念源于对生物神经系统的模拟和研究。人类大脑由数十亿个神经元组成,这些神经元通过复杂的连接网络相互作用,形成了强大的信息处理能力。受此启发,研究人员试图构建类似的
2024-04-16 17:33:08
119
原创 失业保险管理系统详细设计与具体代码实现
失业保险管理系统详细设计与具体代码实现1. 背景介绍1.1 失业保险概述失业保险是一种社会保障制度,旨在为下岗或失业的劳动者提供必要的经济帮助,缓解他们的生活压力,促进其重新就业。它是现代社会保障体系的重要组成部分,对于维护社会稳
2024-04-16 17:32:37
226
原创 师生交流平台作业管理子系统设计与实现
师生交流平台作业管理子系统设计与实现1. 背景介绍1.1 教育信息化的重要性在当今信息时代,教育信息化已经成为提高教育质量、促进教育公平、实现教育现代化的重要手段。随着互联网技术的不断发展,在线教育、远程教育等新型教育模式逐渐
2024-04-16 17:32:05
96
原创 时间序列预测在金融领域的应用
时间序列预测在金融领域的应用1. 背景介绍1.1 金融时间序列数据概述金融时间序列数据是指按时间顺序记录的各种金融指标的数值序列,如股票价格、汇率、利率等。这些数据具有以下特点:时间连续性:数据按照时间的
2024-04-16 17:31:34
186
原创 试卷管理系统详细设计与具体代码实现
试卷管理系统详细设计与具体代码实现1. 背景介绍1.1 试卷管理系统概述随着教育信息化的不断推进,试卷管理系统作为教学管理的重要组成部分,其重要性日益凸显。试卷管理系统是一种专门用于管理试卷的软件系统,它可以实现试卷的制作、存储、
2024-04-16 17:31:03
179
原创 随机过程理论与马尔可夫决策过程
1. 背景介绍随机过程理论与马尔可夫决策过程是两个在计算机科学和人工智能领域中具有重要地位的理论。随机过程理论主要研究的是随机现象的演变规律，而马尔可夫决策过程则提供了一种在不确定性环境中进行决策的有效方法。1.1 随机过程理论的发展与应用随机过程理论起源于物理学和数学，
2024-04-16 17:30:31
264
原创 贪吃蛇小游戏的设计与实现
贪吃蛇小游戏的设计与实现1. 背景介绍1.1 游戏简介贪吃蛇是一款经典的电子游戏,最早出现于1976年。游戏的目标是控制一条不断延长的蛇,吃掉游戏区域内的食物,使蛇身越来越长。玩家需要操控蛇头的移动方向,避免撞到墙壁或者蛇身自己。随着蛇身越来越长,
2024-04-16 17:30:00
162
原创 凸优化在机器学习中的应用
1. 背景介绍1.1 机器学习的兴起在过去的几十年里,机器学习作为人工智能的一个重要分支,已经取得了长足的进步。随着数据的爆炸式增长和计算能力的不断提高,机器学习已经广泛应用于计算机视觉、自然语言处理、推荐系统等诸多领域,并取得了令人瞩目的成就。
2024-04-16 17:29:28
247
原创 图书书店商城微信小程序
图书书店商城微信小程序1. 背景介绍1.1 微信小程序概述微信小程序是一种全新的连接用户与服务的方式,它可以在微信内被便捷地获取和传播,同时具有出色的体验。小程序开发者可以借助微信生态在小程序中展现服务和能力,而用户可以通过扫一扫或者搜一下即可
2024-04-16 17:28:57
202
原创 推荐系统的协同过滤算法原理和数学模型
1. 背景介绍1.1 推荐系统的重要性在当今信息过载的时代,推荐系统已经成为帮助用户发现有价值信息的重要工具。无论是电商网站推荐感兴趣的商品,还是视频网站推荐个性化的节目,推荐系统都在为我们提供更好的在线体验。推荐系统的核心目标是预测用户对某个项目(商品、电影等)的兴趣程度,并推
2024-04-16 17:28:26
235
原创 网上军事论坛系统详细设计与具体代码实现
1. 背景介绍1.1 军事论坛的重要性军事论坛是一个专门讨论军事相关话题的在线平台,它为军人、退伍军人、军事爱好者和普通公众提供了一个交流和分享观点的场所。在这个论坛上,用户可以讨论各种军事话题,如战略、战术、武器系统、军事历史等。论坛还可以作为一个信息共享和教育的渠道,帮助提高公众对军事事务的
2024-04-16 17:27:54
172
原创 网上考试系统详细设计与具体代码实现
网上考试系统详细设计与具体代码实现1. 背景介绍1.1 在线考试系统的需求随着互联网技术的快速发展,在线考试系统已经成为教育领域中不可或缺的重要组成部分。传统的纸质考试模式存在诸多弊端,如成本高昂、管理效率低下、缺乏灵活性等。在
2024-04-16 17:27:23
276
原创 网上商品销售系统详细设计与具体代码实现
1. 背景介绍在现代社会中，随着互联网技术的快速发展，电子商务已经成为了人们生活中不可或缺的一部分。从线上购买生活用品，到预订旅行行程，再到股票交易等，网上商品销售系统的应用可谓是无所不在。这篇文章主要介绍网上商品销售系统的详细设计以及具体代码的实现。1.1 定义网上商品销售系统是一个通过互
2024-04-16 17:26:52
90
ClickHouse 高性能、可扩展和低成本的OLAP数据库 陈光剑 20230912
2023-09-14
Will AI Fix Work? 工作节奏超过了我们的跟上能力 人工智能有望创造一种全新的工作方式
2023-05-17
THE AI INDEX REPORT 人工智能指数报告 Measuring trends in Artificial Inte
2023-04-06
Kotlin Coroutines by Tutorials (1st Edition)
2021-04-28
Principles of programming languages by Gilles Dowek (auth.) (z-lib.org).pdf
2021-04-28
A Brief History of Artificial Intelligence
2021-04-28
An introduction to functional programming through lambda calculus.PDF.zip
2019-09-22
《Kotlin项目实战开发》第3章+类型系统与可空类型
2017-09-30
2024 年可以实现 AGI 吗？
2024-01-02
TA创建的收藏夹 TA关注的收藏夹
TA关注的人