- 博客(1631)
- 资源 (6)
- 收藏
- 关注
RSS订阅原创 ICCV 2023：探索基于生成模型的 Backbone 预训练（DreamTeacher）
我们这次要介绍的文章被接收在 ICCV 2023 上，题为：DreamTeacher: Pretraining Image Backbones with Deep Generative Models，我认为是个挺强挺有趣的自监督方面的工作。DreamTeacher 用于从预训练的生成网络向目标图像 Backbone 进行知识蒸馏，作为一种通用的预训练机制，不需要标签。这篇文章中研究了特征蒸馏，并在可能有任务特定标签的情况下进行标签蒸馏，我们会在后文详细介绍这两种类型的知识蒸馏。DDeP。
2023-09-06 21:30:31
461
1
原创 IPMI 2023：Test Time Adaptation 的医学图像分割解决
CoTTAEcoTTADIGA对 TTA 不了解的同学可以先看上面这几篇新工作。基于深度学习的医学成像解决方案的一个主要问题是，当一个模型在不同于其训练的数据分布上进行测试时，性能下降。将源模型适应于测试时的目标数据分布是解决数据移位问题的一种有效的解决方案。以前的方法通过使用熵最小化或正则化等技术将模型适应于目标分布来解决这个问题。在这些方法中，模型仍然通过使用完整测试数据分布的无监督损失反向传播更新。
2023-09-06 21:28:31
455
原创 CVPR 2023 中的领域适应：用于切片方向连续的无监督跨模态医学图像分割
我们已经介绍过 3 篇 CVPR 中的典型领域适应工作，他们三篇都是 TTA（Test-Time Adaptation）的 settings，而这次要介绍的文章是 UDA（Unsupervised domain adaptation）的 setting。CoTTAEcoTTADIGA在这篇文章中，提出了 SDC-UDA，一种简单而有效的用于连续切片方向的跨模态医学图像分割的体积型 UDA 框架，它结合了切片内和切片间自注意力图像转换、不确定性约束的伪标签优化和体积型自训练。
2023-09-06 21:28:10
499
原创 CVPR 2023 中的半监督学习: FixMatch 的升级版 UniMatch
我们首先回顾下发表在 NeurIPS 2020 上的 FixMatch: Simplifying Semi-Supervised Learning with Consistency and Confidence，FixMatch 是一种更轻量的半监督分类方法。如下图所示，FixMatch 首先使用模型（带标签数据训练后的）对弱增强的未标记图像进行预测，生成伪标签。对于给定的图像，只有在模型产生高置信度的预测时，伪标签才会被保留。然后，在输入同一图像的强增强版本时，训练模型预测伪标签。
2023-07-28 14:56:18
780
原创 CVPR 2023 中的领域适应: 通过自蒸馏正则化实现内存高效的 CoTTA
在上一篇文章中，我们介绍了CoTTA方法，这次介绍的是基于它的优化工作：EcoTTA，被接受在 CVPR 2023 上。上一篇文章我们提到 CoTTA 的输入是随时间轴变化的数据（比如自动驾驶中不断切换的天气条件），且是测试伴随训练任务。所以，CoTTA 通常在内存有限的边缘设备上进行，因此减少内存消耗至关重要。先前的 TTA 研究忽略了减少内存消耗的重要性。此外，上一篇文章也提到了长期适应通常会导致灾难性的遗忘和错误积累，从而阻碍在现实世界部署中应用 TTA。
2023-07-04 16:12:55
333
原创 CVPR 2023 中的领域适应: 一种免反向传播的 TTA 语义分割方法
Continual Test-Time 的领域适应CVPR 2023 中的领域适应: 通过自蒸馏正则化实现内存高效的 CoTTA推荐对领域适应不了解的同学先阅读前置文章。目前的 TTA 方法针对反向传播的方式可以大致划分为：之前介绍过的 CoTTA 可以属于 Fully Backward，EcoTTA 划分为 Partial Backward 中的 Meta Network 类别，这次要介绍的方法属于 Backward-Free 中的 BN-Based 和 Prototype-Based 的混合。
2023-07-02 10:43:52
338
原创 Continual Test-Time 的领域适应
Continual Test-Time 的领域适应（CoTTA）在 CVPR 2022 上被提出，目的是在不使用任何源数据（source domain）的情况下，将源预训练模型适应于目标域（target domain）。现有的研究主要关注于处理静态 target domain 的情况。然而，在现实世界中，机器感知系统必须在不稳定且不断变化的环境中运行，target domain 的分布会随时间不断变化。现有的方法主要基于自训练和熵正则化，但它们还是可能受到这些非稳定环境的影响。
2023-06-24 23:13:28
399
原创 用于语义分割的解码器 diffusion 预训练方法
当前语义分割任务存在一个特别常见的问题是收集 groundtruth 的成本和耗时很高，所以会使用预训练。例如监督分类或自监督特征提取，通常用于训练模型 backbone。基于该问题，这篇文章介绍的方法被叫做 decoder denoising pretraining (DDeP)，如下图所示。与标准的去噪自编码器类似，网络被训练用于对带有噪声的输入图像进行去噪。然而，编码器是使用监督学习进行预训练并冻结的，只有解码器的参数使用去噪目标进行优化。
2023-05-13 15:19:05
763
2
原创 MedSAM: Segment Anything in Medical Images
SAM 是一种在自然图像分割方面取得成功的模型，但在医学图像分割方面表现不佳。MedSAM 首次尝试将 SAM 的成功扩展到医学图像，并成为用于分割各种医学图像的通用工具。为了开发 MedSAM，首先需要一个大型医学图像数据集，其中包括来自 11 种不同模态的超过 20 万个 Mask。该数据集用于训练和微调 MedSAM 模型。最重要的是，提供了一种简单的微调方法，使 SAM 适应一般的医学图像分割。通过对 21 项三维分割任务和 9 项二维分割任务进行综合实验，对 MedSAM 的性能进行了评估。
2023-05-05 20:15:20
1430
原创 ImgX-DiffSeg：基于 DDPMs 的 3D 医学图像分割
本篇文章继续解读医学图像 diffusion 系列，之前我们分别介绍过在自监督和有监督分割中的 diffusion 应用。链接：而这次的《Importance of Aligning Training Strategy with Evaluation for Diffusion Models in 3D Multiclass Segmentation》这篇文章并不是一种新的 diffusion 应用，而是对训练和推理策略进行优化，并适应 3D 的医学图像分割任务，参考链接在文末。
2023-04-29 16:53:45
475
原创 MedSegDiff：基于 Diffusion Probabilistic Model 的医学图像分割
在前面的一篇文章（ICLR 2023）中，我们已经介绍过了 diffusion model 在医学图像分割上的一个应用（https://mp.weixin.qq.com/s/7g3_4hHfKCAp2WQibkbzgA），推荐对 diffusion model 不了解的同学优先阅读，其中讲了一些基本概念。上一篇文章是将 diffusion 应用到自监督学习中，而 MedSegDiff 是一个有监督的框架，现在已更新到 V2 版本， V2 版本区别于 V1 使用了 Transformer，且适用于多分类。
2023-04-25 17:47:07
1608
原创 基于 torch 的特征图可视化（热图）的实现
其中，example.jpg 是要可视化的图像的路径。resnet50 是使用的预训练模型，layer4[-1] 是要可视化的目标层。在 get_activation 函数中，我们定义了一个钩子（hook），以便在前向传递中保存目标层的输出。然后，我们将图像传递给模型，获取目标特征图，并计算平均特征图。最后，我们将平均特征图可视化为热图。
2023-04-21 10:43:43
530
原创 TMI 2023：对比半监督学习的领域适应（跨相似解剖结构）分割
U-Net 在医学图像分割方面已经取得了最先进的表现，但是需要大量手动注释的图像来进行训练。半监督学习（SSL）方法可以减少注释的需求，但是当数据集和注释图像数量较小时，其性能仍然受到限制。利用具有相似解剖结构的现有标注数据集来辅助训练可以提高模型性能。但是，这个方法面临的挑战是由于目标结构的外观和成像模式与现有标注数据集不同，导致解剖跨域差异。
2023-04-09 11:18:41
599
原创 ICLR 2023：基于 diffusion adversarial representation learning 的血管分割
目前对于血管分割任务，有两个问题：第一是数据量；第二是血管图像背景复杂。传统的监督方法需要大量的标签，无监督方法则因为血管图像一般背景复杂、低对比度、运动伪影和有许多微小的分支，分割结果达不到期望的准确率。对此，这篇论文引入了一种名为扩散对抗表示学习（DARL）的新架构。自监督的学习的“标注”通常来自于数据本身，其常规操作是通过玩各种各样的“auxiliary task”来提高学习表征（representation）的质量，从而提高下游任务的质量。
2023-03-25 10:19:52
605
原创 医学图像的 AI 框架 MONAI 详细教程（一）
最近在读 CVPR 2023 上和医学图像方向相关的论文，发现其中的 Label-Free Liver Tumor Segmentation 这篇论文使用了 MONAI 这个框架。之前关注过的一些医学图像的期刊论文上，也有 MONAI 的出现，加之前的导师有过推荐，所以了解学习了下。简单检索后，发现网上关于 MONAI 的中文教程还没有，后面会有一系列的很详细的关于 MONAI 的教程，都会在 GiantPandaCV 上发布。
2023-03-12 16:49:18
3771
原创 CreateProcessW failed error:2 posix_spawn: No such file or directory 解决
在 ProxyCommands 中，它请求完整的路径限定符，但最好在此处使用正斜杠！发现是Windows openSSH 软件包的问题。
2023-02-22 21:03:34
1774
原创 SD-AANet：Self-Distillation + 注意力模型用于小样本分割任务
本文是小样本语义分割系列的第四篇解读，每一篇的方法都具有代表性且不同，同系列的文章链接也在文末给出了（分别是 CWT-for-FSS、GFS-Seg 和 CD-FSS）。很多读者在刚学习小样本时可能觉的真的只需要少量样本就可以完成全部的学习过程，这不完全正确，实际上在训练的过程中我们仍然需要大量的样本，只不过我们在测试的时候，我们可以对未曾在训练集中出现过的测试图像类只用几张甚至一张 Support 图像（或者理解为在推理过程中用到的训练图像）来达到对所谓的 unseen 类的分割。
2022-11-08 20:44:22
1037
原创 ECCV 2022：跨域小样本语义分割新基准（也提出 PATNet）
继医学图像处理系列之后，我们又回到了小样本语义分割主题上，之前阅读笔记的链接我也在文末整理了一下。小样本语义分割旨在学习只用几个带标签的样本来分割一个新的对象类，大多数现有方法都考虑了从与新类相同的域中采样基类的设置（假设源域和目标域相似）。然而，在许多应用中，为元学习收集足够的训练数据是不可行的。这篇论文也将小样本语义分割扩展到了一项新任务，称为跨域小样本语义分割（CD-FSS），将具有足够训练标签的域的元知识推广到低资源域，建立了 CD-FSS 任务的新基准。
2022-11-05 19:38:07
1605
原创 【转载】分布式训练和集合通信
分布式深度学习的通信库选择目前比较通用的是基于MPI的实现(如OpenMPI)、NVIDIA的NCCL实现，如果是在使用NVIDIA-硬件的情况下，主流的选择是NVIDIA自家的NCCL。关于NCCL、OpenMPI、Gloo的Allreduce对比，可以参考开源项目mlbench-benchmarks。该项目使用pytorch框架，在相同的GPU及软硬件环境一致的情况下，对NCCL、OpenMPI、Gloo三种通信库的Allreduce作了性能测试。
2022-10-28 21:21:40
753
原创 MICCAI 2022：使用自适应条形采样和双分支 Transformer 的 DA-Net
这是 MICCAI 2022 上的第三篇阅读笔记了，之前两篇也都可以在 GiantPandaCV 公众号搜索到。如下图所示，目前的视网膜血管分割方法按照输入数据划分有两类：image-level 和 patches-level，每一种方法都有自己的优势，如何将两者结合起来是一个需要去解决的问题，这也是 DA-Net 这篇文章的贡献之一。此外，这篇文章还提出了一个自适应的条状 Upsampling Block，我们会在后面展开介绍。
2022-10-28 19:19:07
1190
原创 损失函数 Loss 设计和实现
pytorch中自带了一些常用的损失函数,它们都是torch.nn.Module的子类。因此自定义Loss函数也需要继承该类。在__init__函数中定义所需要的超参数，在forward函数中定义loss的计算方法。forward方法就是实际定义损失函数的地方，其返回值是一个标量（Scalar），而不是张量（Tensor）和向量（Vector）。也就是说如果张量或者向量的话，需要使用相关的函数将其转化为标量，例如使用torch.sum函数进行求和处理。损失函数分为经验风险损失函数和结构风险损失函数。
2022-10-04 11:48:33
2002
原创 numpy 实现 dropout 层
dropout最后是需要rescale一下的，是因为在inference的时候dropout是不work的，为了得到一个确定的输出，那么在训练的阶段，就要对每个神经元的输出结果rescale一下。可以看出dropout的输出和输入是接近的，在具体的神经网络训练任务中，参数往往都是很接近于0的，dropout的思想和目的这里就不赘述了。
2022-10-03 12:33:36
479
原创 P1287 盒子与球题解【python】
bn-1这n-1个球放入m个盒子中，然后再将球bn可以放入其中一个盒子中，方案数为 :m*f(n-1,m)设有n个不同的球，分别用b1,b2,……bn独自占一个盒子；那么剩下的球只能放在m-1个盒子中，方案数为：f(n-1, m-1)两种放法不同当且仅当存在一个球使得该球在两种放法中放入了不同的盒子。个盒子中，且不允许有空盒子。b) 球数 < 盒子数（盒子数“超支”），不成一种方案。a) 盒子数 < 0（盒子数“超支”），不成一种方案。c) 球数 = 盒子数（正好），为一种方案。现有r个互不相同的盒子!
2022-09-30 09:47:03
411
原创 img2col 卷积优化讲解
img2col 是一种实现卷积操作的加速计算策略。它能将卷积操作转化为 GEMM，从而最大化地缩短卷积计算的时间。GEMM 是通用矩阵乘 (General Matrix Multiply) 的英文缩写，其实就是一般意义上的矩阵乘法，数学表达就是 C = A x B。根据上下文语境，GEMM 有时也指实现矩阵乘法的函数接口。为什么要将卷积操作转化为 GEMM 呢？因为线性代数领域已经有非常成熟的计算接口（BLAS，Fortran 语言实现）来高效地实现大型的矩阵乘法，几乎可以做到极限优化。
2022-09-28 15:11:33
1203
原创 P1613 跑路题解 【C++ 版本】
小A的工作不仅繁琐，更有苛刻的规定，要求小A每天早上在6：00之前到达公司，否则这个月工资清零。于是为了保住自己的工资，小A买了一个十分牛B的空间跑路器，每秒钟可以跑2^k千米（k是任意自然数）。小A的家到公司的路可以看做一个有向图，小A家为点1，公司为点n，每条边长度均为一千米。我们可以用一个数组F来记录，F[i][u][v]表示u到v能否通过2^i到达，这也就是1秒。我们再枚举一个点k，若F[i-1][u][k]和F[i-1][k][v]同时为真，在读入的时候我们就可以得出F[0][u][v]的值，
2022-09-28 09:12:38
340
原创 Pytorch 自动求导的设计与实现
梯度下降（Gradient Descent）及其衍生算法是神经网络训练的基础，梯度下降本质上就是求解损失关于网络参数的梯度，不断计算这个梯度对网络参数进行更新。现代的神经网络框架都实现了自动求导的功能，只需要要定义好网络前向计算的逻辑，在运算时自动求导模块就会自动把梯度算好，不用自己手写求导梯度。
2022-09-25 16:35:33
590
原创 【MICCAI 2022】PHTrans：并行聚合全局和局部表示以进行医学图像分割
这是 MICCAI 2022 的第二篇论文阅读笔记，贴下第一篇的地址：https://mp.weixin.qq.com/s/cSRc0a2gMq3NbQ8loqudCQ。我们已知的是，在医学图像分割上，已经有了许多基于 CNN 和 Transformer 的优秀混合架构，并取得了很好的性能。然而，这些将模块化 Transformer 嵌入 CNN 的方法，还有可以挖掘的空间。
2022-09-25 16:04:32
1065
原创 P3879 [TJOI2010] 阅读理解题解
英语老师留了N篇阅读理解作业，但是每篇英文短文都有很多生词需要查字典，为了节约时间，现在要做个统计，算一算某些生词都在哪几篇短文中出现过。
2022-09-19 11:11:27
375
原创 MICCAI 2022：基于 MLP 的快速医学图像分割网络—UNeXt
其中关于分割有两个部分，Image segmentation I 在 Part IV, 而 Image segmentation II 在 Part V。计划对其中开放源代码和典型的方法注意解读，这次要分享的论文是其中的 UNeXt: MLP-based Rapid Medical Image Segmentation Network，arXiv 链接：https://arxiv.org/abs/2203.04967。
2022-09-18 21:08:24
2248
原创 P1536 村村通题解【并查集】
某市调查城镇交通状况，得到现有城镇道路统计表。表中列出了每条道路直接连通的城镇。市政府 “村村通工程” 的目标是使全市任何两个城镇间都可以实现交通（但不一定有直接的道路相连，只要相互之间可达即可）。请你计算出最少还需要建设多少条道路？
2022-09-17 18:05:43
305
原创 P4715 【深基16.例1】淘汰赛题解
有2n(n≤7)个国家参加世界杯决赛圈且进入淘汰赛环节。已经知道各个国家的能力值，且都不相等。能力值高的国家和能力值低的国家踢比赛时高者获胜。1 号国家和 2 号国家踢一场比赛，胜者晋级。3 号国家和 4 号国家也踢一场，胜者晋级……晋级后的国家用相同的方法继续完成赛程，直到决出冠军。给出各个国家的能力值，请问亚军是哪个国家？
2022-09-17 12:38:03
206
原创 P2234 [HNOI2002]营业额统计题解
Tiger 最近被公司升任为营业部经理，他上任后接受公司交给的第一项任务便是统计并分析公司成立以来的营业情况。Tiger 拿出了公司的账本，账本上记录了公司成立以来每天的营业额。分析营业情况是一项相当复杂的工作。由于节假日，大减价或者是其他情况的时候，营业额会出现一定的波动，当然一定的波动是能够接受的，但是在某些时候营业额突变得很高或是很低，这就证明公司此时的经营状况出现了问题。经济管理学上定义了一种最小波动值来衡量这种情况：当最小波动值越大时，就说明营业情况越不稳定。
2022-09-16 17:58:48
240
原创 P1160 队列安排题解【STL双向链表】
除上述主要操作以外，list还提供了其他一些实用的成员函数：size()返回链表内元素的个数，empty()判断链表是否为空，remove(val)用于移除所有值为val的节点，以及作为成员函数的sort()和unique()。这个“末尾位置”指的是最后一个元素再往后一位，也就是说end()所指的位置不包含有效元素，它相当于一个虚设的节点。it为该链表的一个迭代器，val为待插入的值，插入后val位于it所指位置的前一位。这段代码演示的是list提供的，用于访问内部元素的迭代器。
2022-09-16 10:14:45
452
原创 P3613 【深基15.例2】寄包柜题解
超市里有n(1≤n≤105)个寄包柜。每个寄包柜格子数量不一，第i个寄包柜有ai(1≤ai≤105)个格子，不过我们并不知道各个ai的值。对于每个寄包柜，格子编号从 1 开始，一直到ai。现在有q(1≤q≤105)1 i j kijk(0≤k≤109)k=02 i jij已知超市里共计不会超过107个寄包格子，ai。
2022-09-16 09:08:41
309
Git工具64位windows.zip
2020-02-08
2019仓库管理系统课设.rar
2019-12-30
DeskTopShare.rar
2019-10-28
c选手-竞赛环境须知.doc
2019-10-28
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人