小何才露尖尖角-CSDN博客

(1) 超平面是指n维线性空间中维度为n-1的子空间。它可以把线性空间分割成不相交的两部分。比如二维空间中，一条直线是一维的，它把平面分成了两部分；三维空间中，一个平面是二维的，它把空间分成了两部分。(2) 法向量是指垂直于超平面的向量。为 N 维向量，b为标量，表示超平面于原点之间的距离。（垂直于超平面），已知超平面中的一点。，需要求它到超平面之间的距离。，对于超平面中的任意一点。

2024-02-20 20:58:52 1329

原创 BPE原理及代码简单演示

BPE(Byte pair encoding)是对字节编码，BPE 算法是在 UTF-8 编码的字符串上运行的，所以它是“字节级”的。理论上任何 UTF-8 编码的字符串都可以统一使用 BPE

2024-02-19 18:26:32 508

原创 tqdm和zip一起用进度条不显示的解决方法

for a,b in tqdm(zip(x, y), total=len(x)): # 添加一个参数 total 即可

2024-01-31 10:12:17 253

原创 sklearn 计算 tfidf 得到每个词分数

sklearn 计算 tfidf 得到每个词分数

2024-01-30 16:51:06 534

AutoDL地址：https://www.codewithgpu.com/i/RVC-Boss/GPT-SoVITS/GPT-SoVITS-Official。Blili 地址：https://www.bilibili.com/video/BV12g4y1m7Uw。GitHub地址：https://github.com/RVC-Boss/GPT-SoVITS。step2 创建好实例之后，进入命令行，输入命令。step4 完成之后，点击 tab 栏，随后选择公网地址打开，进入Web页面。step1 打开地址。

2024-01-27 20:34:37 2124

原创拷贝 hugging face 仓库到 colab

【代码】拷贝 hugging face 仓库到 colab。

2024-01-16 11:24:54 497

原创 df 计算同一列时间差（差分pandas.diff()）

【代码】df 计算同一列时间差（差分pandas.diff()）

2024-01-15 10:14:20 427

原创 Amphion tts(Text to Speech) 语音合成

强烈推荐使用带 GPU 的 Ubuntu 或 Centos 系统运行，可以租一个比较便宜的机器实例运行

2023-12-29 16:55:00 586

原创 fill-in-the-middle(FIM) 实现与简单应用

传统训练的 GPT 模型只能根据前文内容预测后文内容，但有些应用比如代码生成器，需要我们给出上文和下文，使模型可以预测中间的内容，传统训练的 GPT 就不能完成这类任务。FIM 是一种新的训练技巧，使得 GPT 类模型能够根据上下问填充中间部分。调换 suffix 与 middle 位置，此为 PSM 模式。通过添加特殊 token, 使得训练数据包含上下文内容。传统训练的 GPT 只能根据上文预测下文。使用 FIM 训练的能够正确填充中间部分。另外还有 SPM 模型。

2023-12-20 21:11:30 857

原创本地运行大语言模型并可视化(Ollama+big-AGI方案)

其中 Ollama 目前只支持 Mac，LM Studio目前支持 Mac 和 Windows。该服务启动在 3000 端口：http://localhost:3000/ ，直接在浏览器中打开，界面窗口中 vendor 记得选择 ollama。命令行终端运行命令 ollama run llama2，该命令会下载 llama2 模型，随后运行这个模型，现在我们就可以在终端对话了。执行 npm install 可能报错： zsh: command not found: npm。查看是否安装成功：npm -v。

2023-12-16 18:20:55 2392

原创 numpy.memmap 用法与注意事项

当处理大数组时，内存可能不够用。numpy 提供了一个函数 np.memmap() 让我们可以处理大数组。np.memmap() 可以读取大磁盘文件中的一小段到内存，所以它占内存较小。

2023-12-12 16:55:08 794

原创 jupyter notebook中添加内核kernel

进入对应路径，可以看到一个 kernel.json 文件，里面记录了 kernel 对应的 python 执行路径。jupyter kernelspec list 命令之后可以看到每个内核配置路径。step5 重启 jupyter notebook 可以选择需要使用的内核。step2 若没有kernel，则需要安装 kernel。step1 检查环境中是否有kernel。step3 查看已添加的内核。step4 添加内核。

2023-12-05 11:37:07 1505

原创 nanoGPT 中 generate 函数

函数位置 model.py。

2023-11-29 13:42:49 381

原创 pandas 将DataFrame 转为txt文本，去除引号问题

此方法会导致原文中多 escapechar=’ ’ 这种空格。

2023-11-27 15:39:36 647

原创 graphviz安装

【代码】graphviz安装。

2023-11-26 11:15:35 374

原创 python3.7升级为更高版本并迁移库

【代码】python3.7升级为更高版本并迁移库。

2023-11-22 14:28:59 388

翻译深度学习术语：词嵌入 Word Embedding

word2vec 有两种方法：CBOW (Continuous Bag-Of-Words) 和 Skip-gramSkip-gram方法就是取句子中固定单词数量（如 5），使用中间单词去预测周围 4 个单词。输入是 one-hot 向量，经过隐层线性层，随后经过softmax层(结果值为正，加起来为 1)输出预测结果。中间的隐藏层权重即为嵌入矩阵embedding matrix，也即查找表。嵌入矩阵的大小为单词总数词向量维度，假如单词总数为 10000，并且隐藏神经元为 300。

2023-11-21 22:01:55 55