- 博客(7)
- 资源 (3)
- 收藏
- 关注
RSS订阅原创 模型训练算力评估相关概念（自用）
当我们训练一个模型时（比如LLM)，通常通过计算它的FLOPs与使用的GPU的FLOPS，大致估算训练时间。也因此FLOPS所量测的，实际上就是FPU的执行速度。而最常用来测量FLOPS的基准程式（benchmark）之一，就是Linpack。现今大部分的处理器中，都有一个专门用来处理浮点运算的。比如我们要估算一个卷积神经网络总复杂度时使用的单位就是FLOPs。，可以理解为描述总计算量的单位。度，即QPS可以用来描述一个模型或者服务在GPU尽可能打满的情况下每秒能处理查询的个数，通常作为。
2024-02-29 23:03:44
481
原创 CNN、RNN学习笔记（自用）
RNN关注隐层每个神经元在时间维度上的不断成长与进步，变换一下3D的视角，网络结构不变，没有添加新的神经元，但是沿着时间轴recurrent，也就是重复，建立时序上的关联，这里的层级扩展并非神经元数量的真实增加，而是表示隐层在不同时刻的状态。RNN本质上是用一种看似是级联，但实际上却是沿着时序，反复迭代的网络结构，实现了对序列数据的学习。最大值池化，是取当前池化视野中所有元素的最大值，输出到下一层特征图中。虽然池化之前两幅图片的眼睛特征不在一个位置，但是经过池化之后，眼睛特征的位置都是相同的。
2024-02-23 16:30:59
802
原创 python函数（自用）
通常情况下，我们在子类中定义了和父类同名的方法，那么子类的方法就会覆盖父类的方法。而super关键字实现了对父类方法的改写(增加了功能，增加的功能写在子类中，父类方法中原来的功能得以保留)。也可以说，super关键字帮助我们实现了在子类中调用父类的方法。它解决了子类调用父类方法的一些问题， 父类多次被调用时只执行一次， 优化了执行逻辑。
2024-02-09 12:50:28
342
原创 深度学习评价指标汇总（自用）
ROUGE通过将模型生成的摘要或者回答与参考答案（一般是人工生成的）进行比较计算，得到对应的得分。ROUGE指标与BLEU指标非常类似，均可用来衡量生成结果和标准结果的匹配程度，不同的是ROUGE基于召回率，BLEU更看重准确率。BLEU侧重于衡量翻译的准确性和精确匹配程度，更偏向于Precision，而ROUGE侧重于衡量摘要的信息完整性和涵盖程度，更偏向于Recall。a. ROUGE指标是用于评估文本摘要任务的，因此我们将参考翻译和系统生成的翻译视为两个文本摘要。
2024-02-09 09:38:06
340
原创 tokenization方法(自用)
在文本分析和文本模型构建过程中，第一步都需要将文本转化为数字，这样计算机才能去处理，这一过程称之为tokenization。tokenization是，然后将子单元数值化(映射成向量)，接着将这些向量输入到模型进行编码，最后输出到下游任务中进一步得到最终结果。它为数值化作准备，数值化的过程必然需要映射，而映射又需要一个目标集合或者说映射表，其难点在于如何获得理想的切分，使文本中所有的token都具有正确的语义，并且不会存在OOV问题。
2024-02-07 09:55:52
853
原创 python常用指令（自用）
conda create -n QS python=3.10 建立虚拟环境conda env list #查看虚拟环境列表conda activate QS #激活虚拟环境：回到base环境QS--all：将该指定虚拟环境及其中所安装的包全部删除QS：只删除虚拟环境中的某个或者某些包conda list：查看当前环境中安装了哪些包。
2024-02-01 16:57:15
384
转载 Linux版wps提示缺少字体
在linux上安装wps后，发现缺少很多中文字体，借助万能的度娘找到一种可行的解决方案。非原创，参考https://blog.51cto.com/1364952/1962697 方法： 1、从windows下拷贝需要的字体，路径 c:/windows/fonts 我拷贝的中文字体，拷贝后显示英文，没关系，注册到系统后，从文档中打开就成中文了...
2019-12-04 10:21:37
392
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人