- 博客(194)
- 资源 (9)
- 收藏
- 关注
RSS订阅原创 Google DeepMind: Many-Shot vs. Few-Shot
2️⃣ 模型生成的解释可能优于人工编写的解释：在某些任务中，即使在实例数量相同的情况下，使用模型生成的思考过程（Reinforced ICL）的性能有时甚至能超过使用人工编写的解释。3️⃣ 多实例ICL能够克服预训练偏见：与几实例ICL相比，多实例ICL在处理倾向性标签（如情感分析中的标签替换）时表现出更好的适应性和准确性，显示出随着训练实例的增加，模型能够有效地克服其预训练中的偏见。本文通过实验和新方法展示了大型语言模型在多实例上下文学习中的潜力，特别是在克服预训练偏见和处理复杂任务方面的能力。
2024-04-18 22:24:01
284
原创 腾讯AI Lab：“自我对抗”提升大模型的推理能力
1️⃣ 自我对弈的持续改善：通过在对抗性语言游戏中进行自我对弈训练，大型语言模型（LLMs）的推理能力可以连续且显著地改善。这表明，通过特定的游戏设计和规则设置，可以有效地引导LLMs进行更深入的思考和推理，这在传统的单向训练方法中往往难以实现。3️⃣ 增强学习的有效性：通过对比使用自我对弈增强学习训练的模型与仅通过监督学习训练的模型，研究表明自我对弈结合增强学习的方法在提高推理性能方面更为有效。3️⃣ 游戏胜率的提升：研究还观察到，通过自我对弈训练的模型在游戏中的胜率有统一和持续的提升。
2024-04-17 23:34:01
241
原创 Intel论文: CoTAR - 多层次的 CoT 归因推理
作者指出，尽管已有的工作尝试通过引入输入到输出的归因来提升生成过程的准确性，但识别合适的归因并验证其准确性依然是一个复杂的问题，现有方法未能有效解决。通过这种结构和方法，论文不仅解决了信息错误生成的问题，还展示了即使是计算资源较少的模型也能通过有效的技术提升来达到或超过大模型的性能水平。不同归因层次的影响：文章还探讨了不同归因级别（例如句子级、段落级）如何影响模型输出的质量，发现在不同情况下这些层次的归因可以不同程度地改善答案的质量和准确性。问题是，如何确保模型的输出与真实信息一致，而不是凭空想象。
2024-04-17 23:11:22
228
原创 TR-DPO：革新大模型对齐技术
2️⃣ 信任区域优化：本方法利用信任区域优化技术，通过控制参考策略更新的频率（由α和τ控制），允许模型在一个定义良好的区域内探索，以避免训练目标的退化。通过这种灵活调整学习策略的方法，TR-DPO不仅解决了现有对齐方法中的稳定性问题，还提高了模型在实际应用中的表现，使其更加准确和有用。解决方法：通过软更新和硬更新的结合，TR-DPO允许模型在接近旧的参考模型的同时，还能探索新的可能性。TR-DPO不直接使用奖励模型，而是通过调整模型对参考策略的依赖程度（通过软更新和硬更新），来优化模型的表现。
2024-04-17 22:53:43
277
原创 斯坦福：当RAG和大模型先验知识发生冲突
1️⃣ 修改检索文档：为了测试模型在处理错误或修改过的信息时的表现，研究人员对检索到的文档进行了系统性的修改。研究发现，在检索增强生成（RAG）的设置中，模型对检索内容的偏好与其对内部先验回答的信心成逆向关系。1️⃣ 信息扰动的影响：在进行扰动实验时，研究显示，当参考文档中的信息被错误地修改时，模型更倾向于依赖其内部知识，尤其是当这些内部知识比较强大时。通过这种方法，本文不仅揭示了RAG模型在处理冲突信息时的动态，还提供了改进模型在实际应用中表现的可能策略，特别是在信息可能存在错误的实际应用场景中。
2024-04-17 22:23:37
290
原创 ChatGPT 可以预测未来吗？
解决方法： 研究中采用的“未来叙事”提示策略，让ChatGPT讲述设定在未来的虚构故事，这些故事中的角色经历了训练数据后的事件。1️⃣ 未来叙事策略的有效性： 研究发现，与直接预测相比，使用未来叙事的提示策略显著提高了ChatGPT-4在预测未来事件（特别是奥斯卡奖项和经济趋势）的准确性。这表明，利用故事叙述的方式可以更好地激发模型的数据综合和推断能力。3️⃣ 预测准确性的双重性： 在一些宏观经济现象的预测中，尽管叙事提示提高了预测的准确性，但在某些情况下，重要的信息分享可能导致估计结果出现反向偏差。
2024-04-16 21:05:08
482
原创 “We Need Structured Output”: 以用户为中心的大模型输出
系统将这些约束直接应用于LLM的生成过程中，确保输出内容的语义和风格与用户的期望一致。例如，用户可能需要生成的内容严格遵守Markdown格式，或者需要生成的角色描述符合特定的JSON结构，这样它们就可以直接被应用程序代码解析和利用。对于用户而言，能够确保生成的内容符合特定的用户界面（UI）和产品规格，提高用户对LLM-powered工具和系统的信任和满意度。2. 后端处理：一旦用户设定了约束，这些信息将传递给LLM，指导其生成过程，确保输出不仅符合技术要求，还符合用户的具体需求。
2024-04-15 21:34:25
428
原创 PromptRPA-手机上的智能代理框架
PromptRPA的设计基于一个智能代理的多代理框架，这些代理模拟人类的认知功能，专门用于解释用户意图、管理RPA生成的外部信息以及在智能手机上执行操作。例如，如果用户输入“组织我的照片并按日期分类”，PromptRPA将此解析为具体的文件管理和排序任务，并自动执行这些操作。PromptRPA通过智能代理自动化了智能手机上的RPA任务生成和执行，显著提高了任务的成功率，并减少了用户干预的次数。问题：用户输入的自然语言指令可能包含模糊不清或多义的表达，理解这些复杂的用户意图是具有挑战性的。
2024-04-15 01:25:44
255
原创 Google最新论文: 复杂的 Prompt 如何更好的调试？
2️⃣ 挑战2：支持快速迭代调试过程 在另一个情况下，如果开发者想让推荐系统更加注意用户的特殊饮食需求，他们可以添加一些新的规则到系统中，比如“推荐的食品必须符合用户的饮食限制”。该系统不仅改善了对复杂提示的处理能力，还通过其交互式特性和对长文本的优化支持，为模型开发者和研究者提供了更高效的工作方式。想象一下，你正在使用一个智能推荐系统，但它却推荐了一些你因为过敏不能吃的食物，比如含有鸡蛋的食品。这个工具显示出新的推荐句子（如“这个食品不适合你”）是如何受到这些新添加的饮食限制规则的影响的。
2024-04-14 16:54:44
553
原创 Apple：叠加提示 - 高效的 RAG 优化方式
本文介绍了一种新的检索增强生成（RAG）提示方法——叠加提示（superposition prompting），该方法可以直接应用于预训练的基于变换器的大模型（LLMs），无需微调。3️⃣ 结果合成：最终，我们只保留最相关的路径（在这个例子中可能是第4个文档的路径），并使用该路径生成的信息来回答问题。例如，第2个和第3个文档与问题关联度不高，因此它们的路径可以在早期阶段被剪枝，从而减少不必要的计算。而在“叠加提示”的过程中，我们可以并行处理这些文档的提示路径。👉 话不多说，举一个叠加提示实际的例子。
2024-04-14 16:34:48
278
原创 C++ namespace命名空间
#include <iostream>using namespace std; // 第一个命名空间namespace first_space{ void func(){ cout << "Inside first_space" << endl; }}// 第二个命名空间namespace second_space{ void func(){ cout << "Inside second_spac...
2021-06-08 15:45:01
546
转载 mwan3 简介，教程总结
OpenWrt上的MWAN3可以支持多根网线或者多个PPPOE账号的同时拨号使用和负载均衡。并且还可以通过Ping方式来检测中断线路并自动屏蔽中断线路。更厉害的是还支持通过IP、端口、甚至配合dnsmasq使用的域名来进行智能的多线路分流。十分实用。主要可以用在如下几个场景：1、上网人数众多，一根网线不能满足需求，需要引入多根网线进行负载均衡2、家里已经有一根宽带，但是由于你手机消费高运营商免费送了你一根宽带（中国移动经常这样做），那么与其浪费不如合并成一根宽带使用3、担心一根宽带会掉线影响工作
2021-04-19 20:26:48
15045
原创 js 函数参数传值/传引用
基本数值类型：传值；引用类型：严格来说不能算传引用，在js中叫按共享传递 call by sharing也叫按对象传递、按对象共享传递。该策略的重点是：调用函数传参时，函数接受对象实参引用的副本(既不是按值传递的对象副本，也不是按引用传递的隐式引用)。它和按引用传递的不同在于：在共享传递中对函数形参的赋值，不会影响实参的值。如下面例子中，不可以通过修改形参o的值，来修改obj的值。示例代码如下:var obj = {x : 1};function foo(o) { o = 1...
2021-02-25 16:18:37
2842
原创 js 深拷贝与浅拷贝
在写代码的过程中发现复制一个对象时，当改变对象新的对象时，原来的对象也发生了变化，原来对象中是按引用传递，它们都是保存在一个内存的同个位置，改变对象时，也改变了引用的地址。但我们往往需要拷贝的是一个新的对象，改变值同时也不改变原来的，这时就需要用到深度拷贝和浅度拷贝了。浅度拷贝：复制一层对象的属性，并不包括对象里面的为引用类型的数据，当改变拷贝的对象里面的引用类型时，源对象也会改变。 深度拷贝：重新开辟一个内存空间，需要递归拷贝对象里的引用，直到子属性都为基本类型。两个对象对应两个不同的地址，修改一
2021-02-25 16:14:52
293
转载 Fil暴力飙升，背后有哪些原因？
在春节来临之前，向来比稳定币还稳定的FIL，忽然从22美元左右暴涨到52美元。这一轮的上涨来得猝不及防，可以说是平地一声雷。目前FIL经过了剧烈的波动，现在是42美元。可能是因为过年的缘故再加上投资者人数并不是很多，所以关于FIL刚刚过去的暴涨，讨论其实并不多。链茶馆对此次FIL的暴涨以及Filecoin近来的情况做了简单梳理，那么关于Filecoin在2021年表现的判断，也就清晰了很多。上涨原因——或将取消Gas费毫无疑问，FIL目前的价格处于被官方绝对控盘之中。...
2021-02-22 11:31:54
626
原创 Centos升级gcc版本 实测可用
执行以下命令查看当前gcc版本:$ gcc -v输出gcc版本（一般centos的默认版本为4.8.5）:gcc version 4.8.5 20150623 (Red Hat 4.8.5-36) (GCC) 升级GCC版本安装开发必备环境:$ yum groupinstall "Development Tools"$ yum install glibc-static libstdc++-staticGCC源码地址为http://ftp.gnu.org/gnu/gcc.
2020-10-19 15:34:10
805
2
原创 C++ 中 冒号:和双冒号::的简介
冒号（：）的用法（1）表示机构内位域的定义（即该变量占几个bit空间）typedef struct _XXX{unsigned char a:4;unsigned char c;} ; XXX（2）构造函数后面的冒号起分割作用，是类给成员变量赋值的方法，初始化列表，更适用于成员变量的常量const型。所谓构造函数，就是与类同名的函数，它与普通函数的区别在于，它没有返回类型。在构造函数后面紧跟着冒号加初始化列表*，各初始化变量之间以逗号(,)隔开。例如：class myCl
2020-10-14 16:45:12
1752
原创 C++ this指针
在 C++ 中，每一个对象都能通过 this 指针来访问自己的地址。this 指针是所有成员函数的隐含参数。因此，在成员函数内部，它可以用来指向调用对象。友元函数没有 this 指针，因为友元不是类的成员。只有成员函数才有 this 指针。下面的实例有助于更好地理解 this 指针的概念：一个指向 C++ 类的指针与指向结构的指针类似，访问指向类的指针的成员，需要使用成员访问运算符 ->，就像访问指向结构的指针一样。与所有的指针一样，您必须在使用指针之前，对指针进行初始化。..
2020-10-14 15:56:59
347
原创 C++ struct介绍 以及class的区别
struct和class的区别struct的定义为了定义结构，您必须使用struct语句。struct 语句定义了一个包含多个成员的新的数据类型，struct 语句的格式如下：struct [structure tag]{ member definition; member definition; ... member definition;} [one or more structure variables]; 举个栗子：struct Books..
2020-10-14 15:24:43
237
原创 一文读懂C++引用
C++引用引用变量是一个别名，也就是说，它是某个已存在变量的另一个名字。一旦把引用初始化为某个变量，就可以使用该引用名称或变量名称来指向变量。C++ 引用 vs 指针引用很容易与指针混淆，它们之间有三个主要的不同：不存在空引用。引用必须连接到一块合法的内存。 一旦引用被初始化为一个对象，就不能被指向到另一个对象。指针可以在任何时候指向到另一个对象。 引用必须在创建时被初始化。指针可以在任何时间被初始化。在C和C++中，指针一般指的是某块内存的地址，通过这个地址，我们可以寻址到这块内存.
2020-10-14 15:07:26
1288
原创 C语言指针简介
指针基础首先引用一篇知乎的链接，介绍的挺好的：https://www.zhihu.com/question/24466000/answer/27893272对于程序员来说内存可以简化成这样一种东西：你可以把它想象成一条无限长的纸带。纸带上边有一个个的小格子，每个小格子正好是一字节，里边能够存放一个数字。计算机的工作就是对这些小格子里的数字做处理。虽然你在电脑上能够看视频、听音乐，但这些东西本质上都是存在内存这条纸带上的数字。对于纸带上的每个小格子来说能够采取的操作只有两种「读取」和「写入
2020-10-14 14:35:36
281
原创 C++ 字符串/String类总结
C++字符串C++ 提供了以下两种类型的字符串表示形式：C 风格字符串 C++ 引入的 string 类类型C 风格字符串C风格的字符串起源于 C语言，并在 C++ 中继续得到支持。字符串实际上是使用null字符 '' 终止的一维字符数组。因此，一个以 null 结尾的字符串，包含了组成字符串的字符。下面的声明和初始化创建了一个 "Hello" 字符串。由于在数组的末尾存储了空字符，所以字符数组的大小比单词 "Hello" 的字符数多一个。char greeting[6] = ...
2020-10-14 00:23:56
315
原创 C++ 数组总结
数组C++ 支持数组数据结构，它可以存储一个固定大小的相同类型元素的顺序集合。数组是用来存储一系列数据，但它往往被认为是一系列相同类型的变量。数组的声明并不是声明一个个单独的变量，比如 number0、number1、...、number99，而是声明一个数组变量，比如 numbers，然后使用 numbers[0]、numbers[1]、...、numbers[99]来代表一个个单独的变量。数组中的特定元素可以通过索引访问。所有的数组都是由连续的内存位置组成。最低的地址对应第一个元
2020-10-13 23:39:38
518
原创 C++ 容器 一文读懂～
STL(标准模板库)，是目前C++内置支持的library。它的底层利用了C++类模板和函数模板的机制，由三大部分组成：容器、算法和迭代器。这部分主要介绍容器，自己整合，总结的笔记，供参考。STL有六大组件容器 container 算法 algorthm 迭代器 iterator 仿函数 function object 适配器 adaptor 空间配置器 allocator 容器：用来管理某类对象的集合。每一种容器都有其优点和缺点，所以，为了应付程序中的不同需求，STL 准...
2020-09-24 14:22:09
282
转载 C++ 回调函数的简单理解
调用堆栈的参数区有一个地方存着另一个可执行函数（代码）的入口地址（即通过参数传入的函数指针的值），那么自然代码执行到某一个逻辑（比如结束前）可以call那个函数（因为知道了那个函数的地址），只是这个地址是运行时传入的，而不是编译时指定的函数。以下是我机子上可运行通过的例子：#include "stdafx.h"#include <stdio.h>#include <st...
2020-04-24 11:47:27
392
1
转载 C语言--传值与传指针
我们可能听过C语言中的传值和传指针，在其他语言中，也有传引用一说，那么他们到底有什么区别呢？如果你还不能准确地分辨，就该好好了解一下了。传值我们在初学C语言的时候就被老师教过，下面的方式是无法交换a和b的值的：#include<stdio.h>void swap(int a,int b){ int temp = a; a = b; b = te...
2019-12-10 20:45:01
377
原创 计算机网络--TCP，UDP面试精简总结
计算机网络--TCP，UDP面试精简总结TCP：Transmission Control Protocol 传输控制协议TCP是一种面向连接（连接导向）的、可靠的、基于字节流的运输层（Transport layer）通信协议三次握手与四次挥手图解：上图的名词解释SYN：请求同步。它表示建立连接。TCP规定SYN=1时不能携带数据，但要消耗一个序号, 因此随机选取一个序列号...
2019-09-17 15:25:35
1356
转载 树莓派sd卡的拷贝（使用Win32DiskImager简单的方式）
树莓派3-系统备份-利用Win32DiskImager进行系统备份有时候想装win10 、ubuntu 、kodi等等系统玩玩，但是只有一张卡，又想保留现在的系统，即可通过如下方法备份。备份前准备 安装了系统的Micro SD卡 下载安装Win32DiskImager软件 备份步骤 先新建一个空白的.img后缀的文件 插入SD卡，选择对应的SD卡的...
2019-08-15 12:30:51
3839
1
原创 树莓派自动连接WiFi设置
并修改/etc/wpa_supplicant/wpa_supplicant.confnetwork={ ssid="WIFI_ID" psk="WIFI_passwd" key_mgmt=WPA-PSK priority=10}network={ ssid="WIFI_ID2" key_mg...
2019-08-15 12:25:06
1661
原创 树莓派 SPI，I2C，UART串行总线介绍
很多人对总线，串行等概念不熟悉特别是SPI，I2C，UART，GPIO等概念。因此我收集了一些资料，用于总结。希望对大家有所帮助。首先看一下树莓派上的接口： GPIO引脚 x 26 UART总线 x 1 SPI总线 x 1 I2C总线 x 1 5V x 2 3.3V x 2 GND x 8 那么什么是GPIO？...
2019-06-09 03:08:50
5870
1
转载 Arduino串口通信(Serial)
Arduino串口的硬件结构知道单片机运行原理的撸友们都清楚，单片机是基于微控制器（下称MCU）搭建的电子系统。单片机的所有功能其实都是由板载的MCU提供的，Arduino开发板当然也不例外。Arduino（这里单指Uno）的板载MCU为ATmega328P。在ATmega328P内部，实现串口的部件为USART。是Universal Synchronous and Asynch...
2019-06-03 11:24:38
71144
5
原创 动态代理 看这一篇就够了
动态代理与静态代理本文整理归纳了一些博客的关于动态代理的介绍。Spring AOP中使用了两种动态代理，一种是JDK的动态代理，一种CGLIB的动态代理。JDK的动态代理必须指定接口，这些接口都是已经被代理对象实现了的；而CGLIB代理则不需要指定接口。 静态：由程序员创建代理类或特定工具自动生成源代码再对其编译。在程序运行前代理类的.class文件就已经存在了。 ...
2019-04-26 13:19:08
462
原创 java基础知识总结（精简）
以下是java基础的精摘以及总结：Object类中的方法1.equals();2.hashcode();3.clone();4.toString(),notify(),notifyAll(),wait();5.finalize()Java中实现序列化的两种方式1.实现Serializable接口。序列化的时候的一个关键字：transient（临时的）...
2019-04-26 11:02:39
1024
原创 链表常见算法题总结
https://github.com/lxsnwu/Algorithm/tree/master/%E9%93%BE%E8%A1%A8
2019-04-05 22:18:58
439
原创 二叉树常见算法题总结
https://github.com/lxsnwu/Algorithm/tree/master/%E4%BA%8C%E5%8F%89%E6%A0%91
2019-04-05 22:18:15
568
原创 字符串常见算法题总结
https://github.com/lxsnwu/Algorithm/tree/master/%E5%AD%97%E7%AC%A6%E4%B8%B2
2019-04-05 22:17:25
674
转载 WIFI 2.4G及5G信道一览表
目前主流的无线WIFI网络设备802.11a/b/g/n/ac：传统 802.11•1997年发布•两个原始数据率：1Mbps 和 2Mbps•跳频展频 (FHSS)或直接序列展布频谱(DSSS)•三个不重叠的信道中，工业、科学、医学 (ISM) 频段频率为2.4GHz•最初定义的载波侦听多点接入/避免冲撞 (CSMA-CA)802.11a•1999年发布•...
2019-03-28 00:02:46
153591
5
转载 图解 负载均衡算法及分类
什么是负载均衡？ 百度词条里的解释是：负载均衡，英文叫Load Balance，意思就是将请求或者数据分摊到多个操作单元上进行执行，共同完成工作任务。它的目的就通过调度集群，达到最佳化资源使用，最大化吞吐率，最小化响应时间，避免单点过载的问题。负载均衡分类 负载均衡可以根据网络协议的层数进行分类，我们这里以ISO模型为准，从下到上分为：物理层，数据链路层，网络层，传...
2019-03-24 15:36:53
15547
原创 volatile、synchronized两者的区别联系
Volatile、synchronized两者的区别联系1.volatile本质是在告诉jvm当前变量在寄存器（工作内存）中的值是不确定的，需要从主存中读取；synchronized则是锁定当前变量，只有当前线程可以访问该变量，其他线程被阻塞住。2.volatile仅能使用在变量级别；synchronized则可以使用在变量、方法、和类级别的。3.volatile仅能实现变量的修改可见...
2019-03-17 12:26:05
336
1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人