自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(23)
  • 收藏
  • 关注

原创 利用baukit获取LLM中间层输入输出、修改中间层输出

注意,修改后会影响模型的前传。即,模型获取某一层的输出ouput,然后将output传给自定义的函数进行修改,然后返回一个新的output传给模型的下一层。

2024-04-24 16:08:43 90

原创 linux查看某一文件夹下大文件空间占用情况的方法

linux查看某一文件夹下大文件空间占用情况的方法。

2024-04-19 15:12:32 151

原创 如何快速将一个配好的conda环境在一个新机器上安装,并自定义conda环境安装路径

在添加了自定义环境路径之后,当使用 env.yml 文件创建环境时,conda会自动在–add envs_dirs添加的的最后一个位置创建新环境。然后看其中的env_dirs项。

2024-04-06 15:27:43 128

原创 分布外泛化(OOD Generalization)/域泛化(Domain Generalization)/上下文学习(In-context learning)相关题目的论文和阅读笔记集合

我维护的分布外泛化(Out-of-distribution Generalization)/上下文学习(In-context Learning)等相关题目的论文链接和阅读笔记,分topic并按年份整理。看过的文章都会用至少一句话概括内容,部分文章还写了notes或制作了讲解的slides。链接:https://github.com/NOVAglow646/OOD-Generalization-Paper-Reading-Notes。持续更新中,欢迎关注和提出意见!

2024-03-07 19:27:08 396

原创 想安装某库但怕它改动当前虚拟环境配置,该怎么解决?

当想要安装某一个库,但怕在安装该库的相关依赖时当前虚拟环境内的其他配置被改变,导致辛辛苦苦配的环境被搞坏,可以使用–no-dependencies选项。此外,还可以用freeze命令将当前环境状态记录下来,以便在不慎更改时进行恢复。如下命令会将当前环境配置保存到requirements.txt中。

2024-03-03 21:26:12 322

原创 跑LLM的记录(持续更新)

【代码】跑LLM的记录。

2024-03-03 21:20:26 919

原创 安装torch-sparse报错error: command ‘/usr/local/cuda-11.1/bin/nvcc‘ failed with exit status 1

注意:我的cuda版本是12.0,torch==1.10.1,下载whl文件,然后pip install。

2023-09-11 10:16:54 728

原创 【已解决】ImportError: cannot import name dataclass_transform

将typing-extensions版本改为4.4.0(报错版本是4.5.0)

2023-04-23 23:33:47 2985

原创 【pytorch笔记】在with torch.no_grad()中临时允许记录梯度

【代码】【pytorch笔记】在with torch.no_grad()中临时允许记录梯度。

2023-03-25 17:33:22 139

原创 【pytorch坑点】前向传播会不断积累显存占用,直到反向传播才会释放

如果多次进行forward计算,而不进行backward,那么前向传播时产生的中间结果会一直积累在gpu中。

2023-03-14 16:15:31 579

原创 kill -9杀不掉进程的时候解决方法

kill -9杀不掉进程,有可能是因为该进程是某个进程的子进程,这样的话杀不掉。(PS:今天在服务器上出现这个问题的时候,发现kill不掉的进程的父进程PID都是子进程PID减去1,即226473的父进程是226472)之后看到条目PPID=226472,则kill -9 226472即可。

2023-02-26 22:06:39 2100 1

原创 带-m参数以及带--xx参数时使用vscode debug功能进行调试

xxx.py是你要调试的程序,–args和val是parser要解析的参数(如使用argparse读取的参数)。运行之后,程序会进入等待状态。接下来需要你按F5(应该是在任何界面按都行)或者点击左侧debug里的绿色三角开始调试。在~/下找到.vscode文件夹,创建launch.json。

2022-11-11 17:33:13 356

原创 【Pytorch笔记】使用Tensor作为索引

使用tensor作为索引

2022-11-06 17:24:57 2552

原创 【Pytorch坑点集合】

1. One of the differentiated Tensors appears to not have been used in the graph解决办法

2022-10-23 10:48:03 2495

原创 【Pytorch笔记】查看网络中某一层反向传播的梯度

查看网络中某一层的反向传播的梯度的方法

2022-09-30 11:12:18 1964

原创 使用alias命令更改linux用户默认的python版本

然后在~/.bashrc中加入alias python='xxx’即可。完了记得source ~/.bashrc。此操作可以更该linux用户默认的python版本。which python查看python位置。

2022-09-25 17:35:08 504

原创 解决使用conda env create -f environment.yml安装依赖包时Installing pip dependencies过慢的问题

使用conda env create -f environment.yml安装依赖包时,会遇到Installing pip dependencies过慢的问题。这是由于没有使用镜像源。

2022-09-19 17:03:30 11956 3

原创 pip is configured with locations that require TLS/SSL解决办法

解决pip is configured with locations that require TLS/SSL

2022-07-30 10:47:29 826

原创 在linux服务器上当没有管理员权限时在自己用户的目录安装python和pip

当在实验室服务器有一个自己的账号,需要重新配环境时,可能面临没有合适版本的python或没有pip的情况。当没有管理员权限时,可以按照下面的步骤在你所在的用户目录下重新安装自己的python和pip。...

2022-07-28 17:27:06 1900

原创 pip install了之后还是显示no module named xxx的解决办法

出现这个问题,说明pip install安装到了另外的某个python的site-packages下。解决方法:首先在命令行输入:运行python然后查看当前python的运行路径:然后会显示一个诸如:xxx/anaconda3/lib/python3.8/posixpath.py的路径接下来即可

2022-06-02 18:54:47 4830

原创 linux下的含有不想压缩的文件时的压缩以及解压

压缩:tar --exclude 不想要压缩的文件 -zcvf 压缩后的名字.tar.gz 压缩前文件的目录解压解压(tar.gz文件):tar -zxvf 压缩文件.tar.gz 解压(zip文件):unzip 压缩文件.zip

2022-05-05 16:04:43 947

原创 linux下离线安装pytorch,不用担心connection failed

如果你有pytorch的.whl文件,如:torch-1.10.0+cu102-cp38-cp38-linux_x86_64.whl(可能是你已经下载好的),那么不必采用网上说的使用conda从网上安装的方式(这种方式很有可能会出现connection failed),直接:pip install torch-1.10.0+cu102-cp38-cp38-linux_x86_64.whl就大功告成了。...

2022-05-05 15:37:17 4228 1

原创 解决linux服务器使用conda安装pytorch过慢的问题

解决linux服务器使用conda安装pytorch过慢的问题最开始已经添加了清华源,但是使用如下命令安装pytorch的时候一直卡在solving environment不动,按照网上说的已经去掉了-c pytorch选项,且开了科学上网,都不好使。然后发现,用pip加上-i可以很快地安装好(注意如果是python2的话不能用pip3而要用pip)pip install torch==1.10.0+cu113 torchvision==0.11.1+cu113 torchaudio==0.10.0

2021-11-05 10:39:29 2893

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除