彭伟_02-CSDN博客

原创 Bert预训练模型-中文文本分类

Bert-用于短文本分类

2019-01-20 21:59:19 20058 41

原创使用大模型进行代码阅读——关于LLaMA模型代码的一些思考

使用大模型进行代码阅读

2023-04-25 17:47:25 1051 1

发布GPT-4的API公布技术论文 * 公开System CardChatGPT Plus：集成GPT-4的ChatGPT升级版工具整理：更多有趣MRC文章见：复旦团队发布国内首个模型MOSS 类ChatGPT【OpenAI 多模态预训练】VideoGPT？微软透露GPT-4或将在下周发布GPT4来了？10秒钟做一个网站ChatGPT？听说Biying把它下架了又一个国内类ChatGPT模型？【秘塔科技上线自研LLM大模型「对话写作猫」】BERT用于文本分类方法利用逆向思维的机器阅读理解。

2023-03-23 19:48:49 2029

原创 GPT4来了？10秒钟做一个网站

GPT-4是OpenAI在扩展深度学习道路上的最新里程碑。OpenAI期待GPT-4成为一个有价值的工具，通过为许多应用提供动力来改善生活。我们可以期待一下，上手试试来帮助我们完成更多的日常需求，未来几年再把语音加上，可能就能真正实现解放双手，寓教于乐了。更多有趣MRC文章见：复旦团队发布国内首个模型MOSS 类ChatGPTChatGPT？听说Biying把它下架了又一个国内类ChatGPT模型？【秘塔科技上线自研LLM大模型「对话写作猫」】BERT用于文本分类方法利用逆向思维的机器阅读理解相关文献。

2023-03-15 10:43:38 4355

原创【OpenAI 多模态预训练】VideoGPT？微软透露GPT-4或将在下周发布

太绝了！看完ChatGPT之后就感觉OpenAI正在做多模态的预训练语言模型。万万没想到来的这么快。据介绍，GPT-4或将为多模态大模型，将提供完全不同的可能性——例如视频。（离谱到家了！3月10日消息:微软德国首席技术官 Andreas Braun 在3月9日的 AI 启动活动中透露，微软将在下周推出 GPT-4。大家知道当前的ChatGPT只能处理文本信息，而GPT-4如果支持信息量更丰富的视频模型，显然会对更多领域产生深远影响。

2023-03-10 12:14:32 1081

原创又一个国内类ChatGPT模型？【秘塔科技上线自研LLM大模型「对话写作猫」】

又一个国内类ChatGPT模型？【秘塔科技上线自研LLM大模型「对话写作猫」】说个题外话，今天一大早就收到了Biying的邮件。前段时间不是申请了New Biying的内测吗？下午可以尝试一下玩一会儿。如果体验感还不错或者还有很多bug，那我到时候再写一篇帖子来分享一下。一直期待中国有没有类ChatGPT产品可以出现。昨天，2023年2月27日，秘塔科技上线了自研LLM大模型「对话写作猫」，开始对外公测感兴趣的小伙伴可以点击下方的链接进行尝试。xiezuocat.com/chat看一下他的表现。

2023-02-28 12:43:23 4263 1

原创 ChatGPT？听说Biying把它下架了

所以New Biying到底是有自我意识，还只是它，哦不，它还是他，它还是他，它还是他，它还是他，它还是他，它还是他，它还是他，它还是他，它还是他，它还是他，它还是他…未来的发展如何在某方面对机器人做限制，以及机器人是否真的会产生自我意识，只是被researchers限制了还是说就没有，这背后的问题和答案或许在我有生之年就能看到。ok，总之看完网上的一些新闻，让我感觉到AI Bot用于干正事，做一些辅助是很不错的，因为我自己就试过。ok，言归正传，ChatGPT被用户指出它之前犯的错误后就急了！

2023-02-24 21:02:27 15446 10

原创复旦团队发布国内首个模型MOSS 类ChatGPT

复旦团队发布国内首个模型MOSS 类ChatGPT首先看到这个标题，还有这个名字，我是正经（zhen jing）的（bu shi流浪地球？550W？不了解的可以把550W倒过来写，就懂了看到新闻里的一些图片和例子感觉还行下面是给的一些事例，当然都给的是好的，这是肯定的就像我们写论文一样，会找good case （bu shi下面是一些比较通用的问题同时它也具备生成列表和表格的一些能力代码生成相关关于伦理道德方面但是还没实测过不能说好不好看到内测链接的那一刻，我是兴奋的

2023-02-20 23:12:33 4936 1

原创情感支撑对话FADO: Feedback-Aware Double COntrolling Network for Emotional Support Conversation

这一部分我们不仅仅验证了生成的回复的质量，同时我们还对生成的回复以及所采取的策略是否一致进行了验证，其中深蓝色表示是一致的情况，浅蓝色表示的是不一致的情况。今天给大家分享一篇在KBS的关于情感对话的论文。主要思想是从利用用户的情感反馈信息来进行策略选择，并且帮助生成支撑性的回复。对于最后一个样本，我们发现所有的模型都出现了不一致的情况，这有可能是对话历史过长导致的长距离依赖问题。我们还统计了生成的回复和策略之间一致性的得分。发现我们的模型能够大幅度的超越base模型。

2023-02-14 12:39:41 566

转载 python 正则表达式

re.sub() 批量替换字符串中某个字符，如：将'hello word'替换成'HELLO word'。re.fildall() 对整个字符串从左到右进行匹配，返回所有匹配对象的列表。re.compile() 对整个正则表达式进行预编译，生成表达式对象，用于。，任何位置都可以被匹配，返回的是第一次出现的匹配对象(因为正则字符串中可能会多出匹配)。re.split()方法与字符串的切割方法一样，返回的是一个列表。，如果匹配成功，就返回一个匹配对象，如果匹配失败，就返回。4、re.compile()介绍。

2022-11-24 17:06:09 264

原创【四】情感对话 Improving Multi-turn Emotional Support Dialogue Generation with Lookahead Strategy Planning

这篇文章主要考虑的是做一个未来策略的安排，在其中用到了A*搜索算法，分别计算了基于历史，对当前作出的判断以及对未来的一个规划实验效果，充分的说明了模型的有效性。该函数有两部分打分组成，第1部分打分表示的是根据过去的信息来得到当前的一个策略，第2部分的打分是如何考虑未来的信息评估用户的反馈（肯定要选择反馈好的策略）。实验部分主要的是两个实验，第1个是回复生成的实验，第2个是策略预测的实验，那么这个也是给了这些相关的实验来证明模型的有效性。整个模型包含4个部分，左边是编码部分，右边是策略的预测以及解码部分。

2022-11-09 11:00:51 992

原创【三】情感对话 MISC: A MIxed Strategy-Aware Model Integrating COMET for Emotional Support Conversation 论文阅读

这篇文章的一个创新点其实就在于说一个句子可能是有不同的策略所构成的，所以在进行回复的时候需要考虑混合的策略。但是比较令我奇怪的一个地方，就是作者再进行优化的时候，其实还是用one-hot的标签是进行优化的，因此是否能够准确地学习到多策略的这种情况任然值得改进，以及attention机制也有很大的改进空间。或许这可以成为未来的研究方向之一。靠在座的各位了！抱拳！相关论文整理指路->点这里更多有趣MRC文章见：利用逆向思维的机器阅读理解。相关文献。

2022-11-08 10:16:13 774 3

原创【二】情感对话 Control Globally,Understand Locally: A Global-to-Local Hierarchical Graph Network for ESConv

今天给大家分享一篇在IJCAI 2022的关于情感对话的论文。该论文由中科院信工所彭伟、胡玥老师团队发表，主要思想是从认知的角度来挖掘用户隐式表达的意图信息，以及建模用户的意图、情感问题和对话历史之间的关系。

2022-11-07 10:50:11 697

原创【一】情感对话 Towards Emotional Support Dialog Systems 论文阅读

今天给大家介绍一下Towards Emotional Support Dialog Systems这篇由黄老师团队发表在2021 ACL的数据集。

2022-11-04 15:32:46 1004

原创情感支撑对话论文最近进展 Emotion Support Conversation

这一篇博客主要分析一下，目前在情感支撑，也就是心理咨询这个场景下面相关论文的一些最新情况，论文的链接以及主要的思想。后续会具体的来介绍每一篇文章的动机，方案，实验结果。

2022-11-03 21:21:16 1954

原创 SimCSE 对比学习方法

某厂四面技术面面试过程问到了SimCSE，遂记录一下，补个漏

2022-08-24 11:18:58 1005

转载情感对话识别与生成简述

近年来，随着自然语言处理技术的快速发展，人机对话系统受到了很多关注，并逐渐成为了学术界和工业界的研究热点。人机对话系统不断发展进步，应用范围不断扩大，人们对它也有了更高的要求，希望机器在关注回复内容的基础上，可以与人进行更深入的交流。近期的一些工作表明[10, 13, 15,16, 18-21, 23]，在人机对话系统中，除了回复内容之外，机器与人的情感交流也是一个重要问题。人类可以通过语言进行情感上的交流，获得情感上的慰藉，对话系统想要和人类进行有效的情感沟通，就必须具备一定的情感能力。具体来说...

2022-06-29 17:16:58 1930

原创人工智能相关论文 2022 accepted papers list

人工智能相关论文 2022 accepted papers listAAAI-2021： https://aaai.org/Conferences/AAAI-21/wp-content/uploads/2020/12/AAAI-21_Accepted-Paper-List.Main_.Technical.Track_.pdfICLR 2021 : https://openreview.net/group?id=ICLR.cc/2021/ConferenceEMNLP 2021 ：https://ac

2022-06-17 17:45:35 1882

原创人工智能相关论文 2021 accepted papers list

人工智能相关论文 2021 accepted papers listAAAI-2021： https://aaai.org/Conferences/AAAI-21/wp-content/uploads/2020/12/AAAI-21_Accepted-Paper-List.Main_.Technical.Track_.pdfICLR 2021 : https://openreview.net/group?id=ICLR.cc/2021/ConferenceEMNLP 2021 ：https://ac

2022-04-11 10:45:47 1296 1

原创 Semantic-Enhanced Explainable Finetuning for Open-Domain Dialogues 论文阅读

Semantic-Enhanced Explainable Finetuning for Open-Domain DialoguesProblem:如何在开放域中进行语义控制？Motivation：目前在一些任务型对话或者是协商和劝说对话当中，对话流会根据对话的act和策略去进行控制。如何在开放域问答将预训练语言模型和Modular diagram进行结合是这篇文章的主要动机。combine pretrained language models with the modular dialogu

2022-03-24 17:38:13 1378

原创 Hybrid Curriculum Learning for Emotion Recognition in Conversation 论文阅读 2022 AAAI

Hybrid Curriculum Learning for Emotion Recognition in Conversation改论文发表于2022 AAAI，阿里巴巴团队，旨在用课程学习解决对话情感识别动机：Motivated by recent studies which have proven that feeding training examples in a meaningful order rather than considering them randomly can boost

2022-03-21 10:49:11 2527 4

转载 GLUE数据集介绍：RTE、MRPC、SST-2、QNLI、MNLI、QQP

自然语言处理（NLP）主要包括自然语言理解（NLU）和自然语言生成（NLG）。为了让NLU任务发挥最大的作用，来自纽约大学、华盛顿大学等机构创建了一个多任务的自然语言理解基准和分析平台，也就是GLUE（General Language Understanding Evaluation...

2022-03-14 21:10:11 4645

原创 A Constrained Text Generation Challenge for Generative Commonsense Reasoning

A Constrained Text Generation Challenge for Generative Commonsense Reasoning发表会议以及作者：2020 EMNLP Findings Allen实验室任务：Given a set of common concepts; the task is to generate a coherent sentence describing an everyday sce- nario using these concepts.githu

2022-02-27 22:50:19 382

原创 $‘\r‘: command not found 出错

Linux 下运行脚本常见错误之一 $’\r’: command not found 出错问题在Windows下编写好sh文件后，在Linux下运行会报错：bash: $’\r’: command not found这是因为Windows系统的文件换行使用的是\r\n，而Unix系统是\n解决只需要在Linux下使用vim打开文件，然后使用命令:set ff=unix即可# 使用vim打开文件vim aaa.sh:set ff=unix:wqDown!...

2021-12-23 16:39:20 851 1

原创学术论文科研写作方法总结--针对深度学习，自然语言处理等领域

学术论文科研写作方法总结针对刚入学的同学对学术论文的写作方法的探讨。第一部分有参考卜东波老师的讲义。前后修改的摘要对比如上图。总结书写思路：我们提出了什么包含几个模块每个模块的作用，达到的效果实验数据实验结果说明了什么直接给结论，不用再写分析之类的未来的工作（考虑其他因素，模型部分可以改进点）...

2021-12-23 15:32:58 3119

原创 prompt learning相关介绍

prompt learning相关介绍思维导图关于Prompt的相关内容分成三个方面介绍，做成PPT梳理给大家挑战prompt的设计问题仍然是一个值得探讨的方向。目前使用Prompt的工作大多集中分类任务和生成任务，其它任务则较少。如何针对不同的下游任务设计prompt？模型的表现同时依赖于使用的模板和标签的转化，如何同时搜索或者学习出两者联合的最好效果仍然很具挑战性。Prompt的理论分析和可解释性。尽管Prompt方法在很多情况下都取得了成功，但是目

2021-12-02 15:14:37 1788 2

原创 APER: AdaPtive Evidence-driven Reasoning Network for machine reading comprehension with unanswerable

APER: AdaPtive Evidence-driven Reasoning Network for machine reading comprehension with unanswerable questions 动机贡献做法实验论文全文链接This is the paper that published in 2021 Knowledge-Based System. Impact Factor, 8.038 (2020).动机在解决不可回答任务上，先前的方法有两个问题：First,

2021-08-21 11:20:33 874 1

原创 Glancing Transformer for Non-Autoregressive Neural Machine Translation

Glancing Transformer for Non-Autoregressive Neural Machine Translation 动机贡献做法实验动机NAT’s conditional independence assumption prevents learning word interdependency in the target sentence. （解决内部依赖）Previous methods require multiple passes of decoding,

2021-08-13 14:34:11 474

转载文本生成评价指标 BLEU ROUGE CIDEr SPICE Perplexity METEOR

文本生成自动评价方法BLEU ROUGE CIDEr SPICE Perplexity METEOR1. BLEUBilingual Evaluation Understudy，双语评估辅助工具核心思想比较候选译文和参考译文里的 n-gram 的重合程度，重合程度越高就认为译文质量越高。unigram用于衡量单词翻译的准确性，高阶n-gram用于衡量句子翻译的流畅性。实践中，通常是取N=1~4，然后对进行加权平均。计算公式其中表示n-gram，表示n-gram的权重；表示短句子惩罚因子（br

2021-07-20 22:16:42 3084

原创论文阅读Claim Verification虚假消息验证

《Unified Dual-view Cognitive Model for Interpretable Claim Verification》这篇文章是发表在2021年ACL上的，主要从认知的角度 Collective and Individual Cognition (CICD) 提出了Dual-view model解决Claim Verification任务。分以下部分介绍：MotivationIntroductionModelExperimentDiscussion1、Moti

2021-05-26 14:43:52 987 7

原创安装python包出现Retrying (Retry(total=4, connect=None, read=None, redirect=None, status=None))

问题：安装包出现Retrying (Retry(total=4, connect=None, read=None, redirect=None, status=None)) after connection broken by 'ConnectTimeoutError解决办法：pip install boto3 -i http://pypi.douban.com/simple --trusted-host pypi.douban.com国内一些源：阿里云 http://mirrors.aliyu

2021-04-25 11:02:52 514 4

原创 DeepMind新论文《Extending Machine Language Models toward Human-Level Language Understanding》认知科学模型

《Extending Machine Language Models toward Human-Level Language Understanding》https://cloud.tencent.com/developer/article/1556632这篇论文是由DeepMind、斯坦福大学、谷歌等的研究团队发表的，首先介绍了最近在NLP方面的突破，然后提出：机器要达到人类水平的语言理解能...

2021-04-13 15:57:31 234

转载【学术快报】弦外音？言外意？朱露莎课题组揭示人类交流推理的神经计算机制

【学术快报】弦外音？言外意？朱露莎课题组揭示人类交流推理的神经计算机制交流是人类最重要的社会行为之一。我们通过交流来传递信息、获取知识、建立信任、达成共识。不同于竞争、合作、共情等高级社会认知功能，我们对复杂交流行为所依赖的认知和神经机制知之甚少。理解交流行为不仅需要对交流信号本身（如表情、手势、语音、词义、句法等）进行研究，还需要探索这些信号是如何在具体的社会情境中被灵活使用，表达含义。例如，当一个男孩试图邀请自己喜欢的女孩约会时，女孩回答“你是个好人”。男孩可能很快意识到女孩的“潜台词”——她对自己

2021-04-09 09:41:39 220

原创 Git的基本流程、git reset 命令行

Git的基本流程以及reset等操作这一篇博客对git操作的基本流程以及，命令git reset 进行介绍1.Git的基本流程Git的流程，一般来说，Git会有三个区域：工作区 --> 当前状态暂存区 -->使用git add ，就可以添加到Stage里面版本库 -->提交历史，使用git commit的结果刚开始 working tree 、 index 与 repository(HEAD)里面的內容都是一致的git reset –soft 可以把版本库上的提

2021-03-22 14:54:24 291 1

原创【理财知识】什么是溢价率？

【理财知识】什么是溢价率？溢价率，就是在权证到期前，正股价格需要变动多少百分比才可让权证投资者在到期日实现打和。溢价率是度量权证风险高低的其中一个数据，溢价率愈高，打和愈不容易。记得一句话：溢价率越低越好！举个例子：小王是一个水果摊老板，他一直和果农老张进货。这一天，小王和老张签订一张合同，约定小王向老张支付1000元，并获得在一个月后，以10元/斤的价格向老张购买1000斤苹果的权利（小王可以不行使权利）。当天苹果的市场售价是10元。由于小王实际是按1斤苹果1元的价格来购买这个权利的，因为支付

2021-03-15 17:34:31 280

原创论文笔记-Co-GAT: A Co-Interactive Graph Attention Network for Joint Dialog Act Recognition and Sentimen

Co-GAT: A Co-Interactive Graph Attention Network for Joint Dialog Act Recognition and Sentiment Classification动机where dialog act and sentiment can indicate the explicit and the implicit intentions separately. SC can detect the sentiments in utterances

2021-03-09 13:20:10 2138 9

原创 Bi-directional Cognitive Thinking Network for Machine Reading Comprehension 论文阅读

面向机器阅读理解的双向认知思维网络专知阅读链接摘要本文从互补学习系统理论的角度提出了一种新的阅读理解双向认知知识框架（BCKF）。它旨在模拟大脑中两种回答问题的思维方式，包括逆向思维和惯性思维。为了验证该框架的有效性，我们设计了一个相应的双向认知思维网络（BCTN），对文章进行编码，生成一个给定答案（问题）的问题（答案），并对双向知识进行解耦。该模型具有逆向推理的能力，有助于惯性思维产生更准确的答案。在DuReader数据集中观察到有效地改善，证实了我们的假设，即双向知识有助于QA任务。同时，这个.

2021-02-15 14:26:00 1969 1

原创人工智能相关论文 2020 accepted papers list

人工智能相关论文 2020 accepted papers listAAAI-2020： https://aaai.org/Conferences/AAAI-20/wp-content/uploads/2020/01/AAAI-20-Accepted-Paper-List.pdfICLR 2020 : https://openreview.net/group?id=ICLR.cc/2020/ConferenceCOLING 2020 https://coling2020.org/pages/acce

2021-02-12 21:56:58 2970 3

原创 AAAI 2021 paper list

AAAI2021 accepted papers list可见paper list 链接AAAI-21_Accepted-Paper-List.Main_.Technical.Track_.pdf

2021-02-08 21:45:25 2603 3

原创 BERT，XLNET分词方法bpe，unigram等介绍

BERT,XLNET等分词方法先给一个结论吧，BERT，GPT使用的是wordpiece的分词方法，XLNET和transformer-xl使用的是sentencepiece的切分方法。概述在NLP中，分词的形式越来越多，从最开始的字切分，词切分，发展到更细粒度的BPE，以及跨语言的sentencepiece等等的切分方法。子词层面的切分方法是一种有效的文本切分方法，该方法可以有效的减小词表大小，并且让所有的词都能够被覆盖，并且使得且分开的子词都携带一定的含义，这就有效的解决了当前机器阅读文本所遇到

2020-12-20 22:24:15 5037 1

中国科学院大学模式识别期末考试复习资料+题目

2 最大似然估计与贝叶斯估计的不同（作业） 3 对于c类问题，假定各类条件概率密度函数均为多元正态分布。在最小错误率贝叶斯决策框架下，在什么情况下可以得到线性判别函数？（作业题，PPT上有） 4 (1) 用parzen窗方法估计概率密度函数p(x)的一般函数形式 (2) 最近邻的一道计算题，类似这道（作业）

2020-11-20

中国科学院大学数据挖掘期末试题

有一套扫描的试题，文字描述与试题无关1．Consider the data set shown in Table 1（min_sup = 60%, min_conf=70%）. (a) Find all frequent itemsets using Apriori by treating each transaction ID as a market basket. (b) Use the results in part (a) to compute the conﬁdence for the association rules {a, b}{c} and {c}{a, b}. Is

2020-11-20

DSP单相逆变SPWM

单相逆变都是用这SPWM做出来的，可以直接出波形。DSPf283;SPWM;单相逆变。#include "DSP2833x_Device.h" #include "DSP2833x_Examples.h" void InitEPwm1Example(void); void Gpio_Setup(void); interrupt void epwm1_isr(void); int N=60; float M=0.8; int i;

2020-10-10

中国科学院大学英语入学考试15-16年含听力

笔试部分笔试部分由试卷一和试卷二构成。试卷一包括：听力、英语知识运用与阅读理解两部分。试卷二为书面表达部分。时间总长共150分钟，满分100分。试卷一（75分）第一部分：听力（20分）本部分考查考生理解英语口语、获取特定信息以及简要笔记的能力，由A、B两节组成。 A节：共10题，每题1分。要求考生根据所听到的10段对话，从每题所给的4个选项中找出最佳答案。每题有12-15秒答题时间。每段对话的录音只播放一遍。 B节：共10题，每题1分。要求考生根据所听到的3篇对话或独白简要回答10道有关该对话或独白的问题。问题在试卷中印出但不在录音中读出。录音材料只播放一遍。本

2019-12-12

中国科学院英语入学考试2013-2014包含听力

听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。听力和试题。

2019-12-12

中国科学院大学高级人工智能复习总结

策略估值的目标是为了寻找更优的策略（策略提升）  策略估值根据策略，计算其估值函数  策略提升  根据当前策略的估值函数，寻找更优的策略（如果存在），逐步寻找到最优策略  根据策略，的估值函数，寻找更优策略  提升方法

2019-11-13

中国科学院大学英语入学考试试题15-16l

PART I LISTENING COMPREHENSION (25 minutes, 20 points) Section A (1 point each) 1. A. The man shouldn't care what Sandra said. B. The man shouldn't listen to Sandra. C. The man should talk openly with Sandra. D. The man should get back home early. 2. A. A boss and an employee. B. A lawyer and a client. C. A shop assistant and a customer. D. A bus driver and a passenger. 3. A. The woman helped to do part of the experiment

2019-04-30

中国科学院大学英语入学考试试题以及提纲l

Part I Listening Comprehension Section A (10 points) Directions: In this part, you will hear 10 short conversations. At the end of each conversation, a question will be asked about what is said. Each conversation and the question will be spoken only once. When you hear the question, read the four choices of the answer given and choose the best one by marking the corresponding letter A, B, C, or D on your Answer Sheet I. 1. A. Go back home. B. Mail a letter. C. Do the shopping. D. Ask the way.

2019-04-30

中国科学院大学高级人工智能复习总结

2019-02-10

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人