- 博客(183)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 Safe and Practical GPU Computation in TrustZone论文阅读笔记
移动设备上的GPU从前是为了加速图形渲染，现在是为了机器学习推理和联邦学习。Arm TrustZone 是一个可信执行环境(TEE) ，其中敏感代码与不可信操作系统隔离，确保执行的保密性和完整性。虽然 TrustZone 已经能够隔离 GPU 硬件[15,44] ，但最大的障碍是 GPU 软件栈(简称 GPU stack1) ，它很大[46] ，并且以漏洞能力而闻名[4,5,60]。现有技术转换 GPU 栈[71]或工作负载[7,61,69]以适应 TEE;
2023-12-02 21:05:42
564
2
原创 AdaInf: Data Drift Adaptive Scheduling 阅读笔记
音视频推断依赖于边缘上的毫秒级SLOs，为了避免数据漂移导致的精度下降，需要不断地进行再训练。然而，满足严格的slo，同时保持在这种情况下的高精度，这对GPU资源分配提出了挑战。目前还没有专门针对这个问题的研究。在本文中，我们对这一特定场景进行了trace-based实验分析，结果表明不同的模型受数据漂移、增量再训练(我们提出在推理之前对某些样本进行再训练)和早期退出模型结构有助于提高准确性有不同程度的影响，任务之间的相互依赖可能导致CPU-GPU内存通信。
2023-10-18 11:52:57
647
2
原创 多项式时间验证与NP完全性
复杂类P是能被一个多项式时间算法验证的语言类。Lx∈01∗存在一个证书y∣y∣O∣x∣c，满足Axy1L=\{x\in \{0,1\}^*:存在一个证书y，|y|=O(|x|^c)，满足A(x,y)=1\}Lx∈01∗存在一个证书y∣y∣O∣x∣c，满足Axy1我们说算法A在多项式时间内验证了语言L。
2023-05-07 16:39:51
764
1
原创 Energy-efficient Federated Learning via Stabilization-aware On-device Update Scaling 阅读笔记
Energy-efficient Federated Learning via Stabilization-aware On-device Update Scaling阅读笔记
2022-10-23 16:58:03
442
原创 PATHWAYS: ASYNCHRONOUS DISTRIBUTED DATAFLOW FOR ML论文阅读笔记
PATHWAYS阅读笔记：分布式ML
2022-10-02 18:40:13
822
1
原创 FasterMoE：Modeling and Optimizing Training of Large-Scale Dynamic Pre-Trained Models阅读笔记
FasterMoE：Modeling and Optimizing Training of Large-Scale Dynamic Pre-Trained Models阅读笔记；参考b站视频
2022-10-02 18:38:11
1580
原创 Alpa: Automating Inter- and Intra-Operator Parallelism for Distributed Deep Learning阅读笔记
Alpa阅读笔记——参考油管报告
2022-10-02 18:34:32
1450
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人