- 博客(346)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 如何解决图神经网络过相关？一个IBM的新视角！
了解图神经网络的朋友对于深层GNN中的过平滑问题一定不陌生，随着网络层数的增加，模型的效果反而急剧下降，令人心痛。回忆一下，常见的解决过平滑的方案有DropEdge、基于残差的方法还有Normalization等，所以它们有帮到困境中的你了吗（笑）？今天看到一篇有趣的文章，它没有止步于GNN中的过平滑问题，而是从另一个新视角去思考深层网络效果骤降的问题——特征维度的过相关问题。所谓特征维度的过相关，顾名思义，指我们所学习到的特征维度之间高度相关，意味着高冗余以及学习到的维度编码的信息较少，从而损害下游任务
2022-07-16 21:09:36
3192
3
转载 从浙大计算机到字节CV算法岗！
大家好，我是对白。今天给大家分享一位浙大学妹参加2022算法岗实习的面经总结，最终拿到了字节、商汤和海康威视的CV算法岗实习offer，虽然她只有研一，但技术以及表达能力还是很不错的，以下为原文。先说下本人情况：本科北交大，保研到浙江大学电子信息，科班，目前研一一篇很水的顶会，一篇CCF-B，两个都是共一，CV方向的(医学图像）一篇北京市优秀本科毕业论文+一段小公司3个月左右的实习很可惜，字节的base在北京，QAQ，我人在杭州，实验室还有很多工作要做，不然我就怎么也得去，但是考虑到自己比较喜欢踏踏实实的做
2022-07-09 14:49:43
1497
1
原创 GNN，请你的网络层数再深一点~
大家好，我是对白。了解图神经网络的朋友对于深层GNN中的过平滑问题一定不陌生，随着网络层数的增加，模型的效果反而急剧下降，令人心痛。回忆一下，常见的解决过平滑的方案有DropEdge、基于残差的方法还有Normalization等，但效果却不尽人意。今天在KDD2022看到一篇有趣的文章，它没有止步于GNN中的过平滑问题，而是从另一个新视角去思考深层网络效果骤降的问题——特征维度的过相关问题。所谓特征维度的过相关，顾名思义，指我们所学习到的特征维度之间高度相关，意味着高冗余以及学习到的维度编码的信息较少，从
2022-07-06 13:43:07
1687
转载 AI做题水平已超过CS博士？
高数考不好，不知道是多少人的噩梦。如果说你高数考得还不如AI好，是不是就更难以接受了？没错，来自OpenAI的Codex已经在MIT的7门高数课程题目中正确率达到81.1%，妥妥的MIT本科生水平。课程范围从初级微积分到微分方程、概率论、线性代数都有，题目形式除了计算、甚至还有画图。这件事最近还登上了微博热搜。现在，谷歌那边又传来了最新大消息：看来在培养“AI做题家”这件事上，科技巨头们已经卷出了新高度。谷歌这个最新AI做题家，参加了四门考试。数学竞赛考试MATH，以往只有三届IMO金牌得主才拿过90分，普
2022-07-04 13:25:42
425
原创 快手这款推荐新算法，我爱了~
大家好，我是对白。前两天刚好刷到KDD2022的一篇文章，是介绍快手在它们短视频上的一项推荐重排新算法，不仅在用户观看时长和视频播放量都有了较大提升外，用户观看视频的标签数也有了显著增长，这说明该算法同时兼具****相关性和多样性两点。为了测试其效果，我顺便下载了一下快手这款app，于是就出现了这篇文章的封面：左图是用户冷启动推给我的第一个短视频，一个穿着短裙的小姐姐，紧接着第二个短视频就是右图的另一位小姐姐，而后面的几个短视频也出现了电影、美食等其它方向，**探索和利用（Exploit&Explore）*
2022-07-02 12:28:05
2787
1
转载 CMU AI PhD 第一年总结
大家好，我是对白。今天给大家分享一位大佬在Facebook做了四年机器学习，又到CMU攻读AI PhD的经历，希望给后续也想要深造的朋友们一点经验和帮助，以下为原文。不知不觉在 CMU 待了快一年了，时间过得可太快了。。。以前总觉得 PhD 五年时间很漫长，实际上第一年已经不知不觉溜走了，给人感觉也就过了一个月。。。第一年过得很开心，然而感觉个人的成长却没有很多，主要还是自己花的时间不够多，之后应该更努力一些。我一直蛮明确自己的 research taste，想要做 “可以解决实际问题的 research，
2022-07-01 18:35:45
344
转载 LeCun指明下一代AI方向：自主机器智能
随着机器学习的不断发展，领域内的研究者开始思考一个问题：我们离通用人工智能（AGI）还有多远？要实现 AGI，最关键的一点是让机器了解世界是如何运转的，掌握广泛的现实知识。这也是图灵奖得主 LeCun 近期在探索的问题。他曾表示：让机器像人或动物一样行动一直是他一生的追求。LeCun 认为动物大脑的运行可以看作是对现实世界的模拟，他称之为世界模型。LeCun 表示，婴儿在出生后的头几个月通过观察世界来学习基础知识。观察一个小球掉几百次，普通婴儿就算不了解物理，也会对重力的存在与运作有基础认知。不久之前，Le
2022-06-30 12:44:26
284
转载 一位博士在华为的22年
大家好，我是对白。今天给大家分享一位博士从大学毕业入职华为到今年退休的经历，他将自己22年的职业生涯都奉献给了华为，让我们一起学习他的感悟与经验，以下为原文。转眼在我厂已经度过近22年，近日跟部门领导和HR正式提出了退休申请。华为或将是我经历的唯一职场，趁着这段时间，回忆这段职业之路，对自己做个小结。未来将调整好身体、补充新知识、开启新生命历程。回首当年的入职，似乎还历历在目。到华为工作，是我不后悔的选择；但能坚守这么长时间，却是我未曾料到的。回到2000年的校招。临近博士毕业的我面临选择，导师说我的性格不
2022-06-29 13:02:30
601
原创 Facebook出手！自适应梯度打败人工调参
大家好，我是对白。多任务模型中各个任务难以调参、收敛、效果平平，是一件令人头疼的事情。有没有什么可以令人省心省力的“自适应”方法呢？笔者浏览了一些最近的顶会文章，读了一些相关文章，今天挑选一篇分享给大家~说到多任务学习，想必大家都不陌生。在理想的推荐场景中，通过与辅助任务的联合学习，可以提升目标任务的预测效果。例如，在社交推荐中，用户偏好的学习可以与辅助任务（预测用户之间的联系与信任）联合训练。但理想归理想，现实却往往“事故多发”。说不定，在加了多个辅助任务，并经历艰难的调参之后，目标任务的效果却令人头秃。
2022-06-28 12:44:22
804
原创 推荐系统的下一步？阿里时空聚合GNN，效果吊打LightGCN！
大家好，我是对白。不得不说，GNN自问世后，在众多领域遭遇魔改，所幸效果是越来越好。想起前几天看到的一篇论文（STAM-GNN）将时序信息加进了GNN中，这在GNN-based推荐模型中并不多见。检索后发现，目前时空GNN多用于交通预测领域。纵然GNN-based模型效果已然不错，但与基于空间的聚合方法相比，STAM-GNN在推荐方面还是有了显著的改进，例如，针对MRR@20，STAM-GNN在MovieLens提升为24%，Amazon为8%，淘宝为13%。鉴于文章简洁有意思，并且与GNN-based模型
2022-06-27 11:56:22
736
1
原创 聊聊几位大厂清华同学的近况
昨天周五下班比较早，和同班同学也有好长一段时间没见面了，于是我主动约上了几位学生时代非常要好的朋友，加上我一共5人，一起在清华附近的一家餐厅聚了聚。他们也都是在各个大厂做算法，两位在百度、一位在快手，另一位在讯飞研究院，下面我给大家简要介绍一下我这几位同学。A同学： 21届快手快Star，目前在快手社科模型组做精排。他在校期间以一作身份发表两篇CCF A，分别是SIGIR2020和2021，其中SIGIR2020荣获最佳短论文奖。B同学： 21届百度SP offer，目前在百度MEG内容策略部做NLP。C同
2022-06-26 12:40:49
500
转载 我真傻，招了一堆只会“谷歌”的程序员！
出品 | CSDN（ID：CSDNnews）编辑 | 小林coding不同于几十年前曾经尚在起步的互联网时代，现在我们可以借助网络解决各类问题：从生活琐粹到专业技术，只要耐心，就一定能找到答案。一如国内大多习惯于“百度一下，你就知道”，谷歌也是多数国外用户首选的搜索引擎——按理说，这并没有什么不好。然而，国外有位程序员老歌 @nmivan 曾分享过一则他被“谷歌”坑了的故事：“我这个白痴，招到了一堆只会‘谷歌’的程序员！”以下是 @nmivan 的亲身经历（为更具代入感，本文将以第一人称叙述）。我是一名技术
2022-06-24 12:14:56
257
转载 谷歌放弃TensorFlow了
2015 年，谷歌大脑开放了一个名为「TensorFlow」的研究项目，这款产品迅速流行起来，成为人工智能业界的主流深度学习框架，塑造了现代机器学习的生态系统。七年后的今天，故事的走向已经完全不同：谷歌的 TensorFlow 失去了开发者的拥护，因为他们已经转向了 Meta 推出的另一款框架 PyTorch。曾经无处不在的机器学习工具 TensorFlow 已经悄悄落后，而 Facebook 在 2017 年开源的 PyTorch 正在成为这个领域的霸主。近日，外媒 Business Insider 采访
2022-06-20 12:05:46
623
转载 腾讯计算机视觉，已经世界第二了。。。
大家好，我是对白。Gartner最新发布的2022年度《Magic Quadrant for Cloud AI Developer Services》是业内权威的云计算评估报告之一，评估对象包括亚马逊、微软、谷歌等全球云厂商。在核心产品能力评估中，腾讯的计算机视觉凭借出色的产品服务能力，获得了全球Top2的评分排名，创造了国内AI公司在该领域的最高评分排名，领先优势明显。同时，腾讯也被此次报告列为「挑战者」之一，并成为唯一连续三年被列入该份报告的中国云厂商，再次印证了腾讯云在云AI开发者服务领域的国际领先地
2022-06-18 09:30:13
262
转载 CV大佬：工作一年的小反思
今天是正式工作后的第一年，打算做一件事，以后要持续记录自己的工作感想和生活状态。人这一辈子那么有限，作为一个普通人，也许我穷极一生也不会有什么大的成就可以让外人为我写下一个传记。但是我可以用自己的手记录下我这一生，吃过的苦，犯过的错，爱过的人，在和一些网友聊过之后，我发现我是芸芸众生中的一粒沙，那些自以为的经历其实在陌生的一个环境里也有人同样地经历着。希望我的文字可以激励那些人，希望我的错误可以警惕那些人。我的具体研究方向是计算机视觉算法工程师，众所周知，当我们在说起算法工程师的时候，大家一般都会把工程师说
2022-06-15 09:59:49
343
1
转载 世界高校AI排行榜出炉：北大第二，清华第三！
又是一年高考季。记得当年我高考的时候，还流行这么一句话。那就是，「本科看学校，读研看专业」。这话放之前可能确实没什么错。然而，随着近几年科技突飞猛进的发展，一些和前端科技挂钩的专业可能就要从本科开始起步了。要说当下最火的专业，莫过于人工智能了。恰好最近AIRankings发布了一份全球大学AI相关专业排行榜。让我们一起看看有哪些大学和机构榜上有名吧。=====================AIRankings排名综合过去十年的研究，以及通用人工智能、计算机视觉、机器人、机器学习、自然语言处理、认知推理、多
2022-06-12 22:07:42
1127
1
转载 大规模裁员？计算机会成为下一个土木吗？
大家好，我是对白。最近互联网裁员，有网友热议：2022年大规模裁员后，计算机专业会不会成为下一个土木？这也引起了我的思考，未来的计算机专业会是怎样的呢？会不会真的变成“土木专业”？有个匿名网友写了这样一个回答，我认为挺好的，想跟大家分享一下。我学了10年计算机现在还在找工作，我爸干了一辈子土木现在也在找工作。我觉得计算机不会成为下一个土木。至于是不是49年入国军，我觉得楼主的眼光可以看长远一点，就是你这辈子到底想从事什么职业，或者干个什么事情。这篇相当于回忆录，供大家参考。我12年高考完了那年选专业还十分纠
2022-06-11 19:23:18
235
转载 从普通双非到百度算法岗，优秀
大家好，我是对白。今天给大家分享一位23届普通双非硕士参加腾讯、百度和京东等大厂的日常实习经历，最终斩获百度算法岗实习offer，面经干货十足，希望能帮助到即将面试的小伙伴们，以下为原文。本人目前研二，在后厂村某公司NLP日常实习，看到马上要到3月份了，很多同学要开始暑期实习面试或日常实习了。虽然我是不打算参加暑期实习了，打算在这里摸鱼到秋招提前批hh。但我想到我当初研二刚开学，21年10月份日常实习面试的经历，可能会对某些即将面试的同学有所帮助，所以决定把自己亲身经历的面试内容做个分享，以下所有内容均是面
2022-06-08 21:36:23
406
原创 Keras报错：TypeError: (‘Keyword argument not understood:‘, ‘offset‘)
Keras报错：TypeError: (‘Keyword argument not understood:‘, ‘offset‘)
2022-06-07 20:22:28
791
转载 入职Facebook四年了
大家好，我是对白。今天给大家分享一位大佬在Facebook担任ML Engineer四年的工作总结与感悟，目前已去CMU继续攻读AI phd，国外与国内虽然工作环境不同，但很多工作方法与思考都是可以互相学习的，以下为原文。四年前加入 FB 的时候，当时只是把 FB 的工作经历当作 gap 一年去读 phd 的跳板，从没想过竟会在 FB 待这么长时间。现在回头看看，4年来自己成长了很多，是时候做个回顾总结了。目标一直蛮明确：去读 phd。本来的打算是在 FB 工作一年，赚一年签字费 ＋ 大四做的 resear
2022-06-04 22:54:03
207
转载 秋招被虐，最终拿下腾讯和字节offer
大家好，我是对白。今天给大家分享一篇小伙伴的算法岗秋招总结文章，作者的背景是：1个腾讯实习、4个比赛、2个项目、1篇CCF-A二作和CCF-C一作，虽然网易、快手和百度都挂了，华为还在池子里，但最终拿下腾讯和字节的offer，希望能帮助到下半年准备秋招的小伙伴们，以下为原文。一面（通过）：算法题：删除倒数第N个链表面试题：1、为什么要用尖括号标记实体，尖括号在BERT词表中么，最好用unuse1字符；2、FastText和Word2vec的区别；3、Xgboost和Adaboost、GBDT、随机森林，随机
2022-06-02 23:18:46
236
转载 作为审稿人，你什么情况下会选择拒稿？
刚好前不久NIPS给我发了top reviewer award 就来分享一下我的心得最主要的判断必须是基于文章本身，我认为几个类型：这种work可能两年能有一篇被我审到，要么是告诉我一条崭新的技术路线，要么是打破我固有的观念。比如斯坦福有一篇差分隐私的文章将计算成本为普通训练几十倍的隐私计算压到了2倍，生生打破了我对隐私计算复杂度的理解。即时这篇paper没有任何理论而且不通用（比如无法用在CNN上）我也认为这是本领域spotlight。类似的例子还有transformer这种打破RNN传统sequenti
2022-06-01 21:38:35
1251
转载 我组论文获得ACL 2022最佳论文奖
大家好，我是对白。近日NLP组一篇论文获得了ACL 2022 Best Demo Paper Award。该奖项是ACL系列会议对System Demonstration论文授予的最佳系统论文奖，每届会议评选出一篇获奖论文，由审稿人提名，领域主席根据系统贡献度、完成度以及影响力进行综合评价。过往的获奖工作包括Huggingface Transformers，Huggingface Datasets，GAIA等研究项目。以下为获奖论文介绍：OpenPrompt: An Open-source Framewor
2022-05-31 21:28:05
365
转载 阿里算法：Kaggle首战拿金牌总结
大家好，我是对白。在我读研一那会儿，也参加过几个Kaggle比赛，如Two Sigma公司举办的AI量化比赛，当时虽然没有得奖，但也为我后续学习NLP和推荐算法奠定了良好的基础。今天给大家分享一篇大佬参加Kaggle的经验文章，作者是一名阿里算法工程师，希望对也想玩转Kaggle竞赛的朋友有所帮助，以下为原文。作者：jiazhuamh | 编辑：对白的算法屋https://zhuanlan.zhihu.com/p/60953933这篇文章是我对自己第一次参加 kaggle 竞赛并获得金牌(14/4129)的
2022-05-30 21:40:39
458
转载 网友：看完Jeff Dean新论文，我再也不相信大厂的鬼话了
用数万美元 TPU 算力，实现在 CIFAR-10 上 0.03% 的改进，创造了新的 SOTA，但这一切值得吗？「我相信他们得到的数字是准确的，他们确实做了工作并得到了结果…… 但这样真的好吗？」一名机器学习研究者的灵魂发问，今天成为了整个社区最热门的话题。事情要从这周四说起，谷歌研究员 Andrea Gesmundo 和谷歌 AI 负责人、大牛 Jeff Dean 的论文《An Evolutionary Approach to Dynamic Introduction of Tasks in Large
2022-05-29 21:28:10
102
转载 CV算法一年工作总结与心得
大家好，我是对白。今天给大家分享一篇至今是我看过最全面的CV算法工作总结，作者是一名大厂算法工程师，文字真诚而又朴实，其中很多观点都是一点点积累得到的，希望能给即将工作的朋友们一点启发与帮助，以下为原文。作者：CV伍六七 | 编辑：对白的算法屋https://zhuanlan.zhihu.com/p/363354912大佬可以写总结给别人指导，菜鸟可以写总结给别人指坑。最近反思了很多事情，也找到了很多不足之处。怕以后忘记了，就想到什么写什么，什么没想到以后就补上。一. 算法篇虽然我没有发表过顶会论文，谈不上
2022-05-27 22:31:25
1063
2
转载 我是如何同时在字节和微信成功拿到实习转正offer
大家好，我是对白。今天给大家分享一位同学同时拿到字节和腾讯微信实习转正的offer，其中充满了机缘巧合，不过实力也占据了很重要的一部分，让我们来一起看看他的故事，以下为原文。作者：鬼仔里 | 编辑：对白的算法屋https://www.nowcoder.com/discuss/958051一. 前言最近看到了关于实习的话题，想起我研二的时候曾经先后在字节和腾讯微信实习，也参加了转正答辩，最后都顺利地通过，并分别拿到大sp和ssp offer。对于实习及转正答辩，我可以毫不掩饰地说经验较为丰富，现在给
2022-05-26 21:54:25
439
转载 计算机视觉的顶会顶刊
CV三大会议CVPR: International Conference on Computer Vision and Pattern Recognition (每年，6月开会)ICCV: International Conference on Computer Vision (奇数年，10月开会)ECCV: European Conference on Computer Vision (偶数年，3月截稿，9月开会)CV两大顶刊TPAMI: IEEE Trans on Pattern Analysis an
2022-05-25 21:44:45
3768
转载 大龄码农从北京到荷兰的躺平生活
大家好，我是对白。今天在知乎刷到了一篇大龄码农从北京到荷兰的日记，看完后着实令人羡慕不已，国外不仅生活环境和工作强度，都要比国内轻松很多，以后如果结束北漂出国也将是一条不错的路，以下为原文。作者：小李在荷兰 | 编辑：对白的算法屋https://zhuanlan.zhihu.com/p/469261829一. 背景介绍光阴似箭，今年已经41岁的老码农一枚。在家乡生活了19年，然后到北京学习工作了19年。一直希望去北美发展，由于种种原因最终还是没有去成。出国前在朋友的公司干了一年多，本来想着趁没到40岁再拼一
2022-05-24 21:35:52
249
原创 读博，我想好了
大家好，我是对白。今天给大家分享一位机器学习大佬王鸿伟当时选择读博的心得，希望对想去生造的朋友们一些建议与帮助，以下为原文。好久不在知乎写东西，今天读到张教授的一篇读博劝退文颇有感触，也想来写一些自己的想法。本文并非读博劝进贴，不想无脑鼓励大家都读博；本文也并非驳斥张教授的观点，只是想围绕这个话题多聊一聊。一. 决策树容易过拟合？张教授提出了一个用于判断是否适合读博的决策树，然而，单棵未剪枝的决策树很容易过拟合。决策树的另一个缺点还在于它只能提供yes or no的回答，而无法为预测的结果输出概率值，也就是
2022-05-22 22:50:52
745
5
转载 大厂里那些不可不知的“潜规则”？
大家好，我是对白。在大厂工作真的有“潜规则”吗？我认为大厂还是比较公平的，想通过找关系走后门进来是不可能的，但知道职场中一些不成文的规定，会帮助你少踩很多坑。今天就给大家分享一位在大厂工作多年的人，对于“潜规则”的一些心得，看完后深有感触，以下为原文。作者：库尔勒香梨 | 编辑：对白的算法屋https://www.nowcoder.com/discuss/953659一. 不同部门=不同公司在大厂3年+，我换了两次岗，呆过几个不同的团队。刚入职时的部门是一个发展了将近10年的成熟业务，流程规范和业务模式都已
2022-05-20 23:10:21
388
原创 CV未来，路在何方？李飞飞指路
【导读】ImageNet见证了计算机视觉发展的辉煌历程，在部分任务性能已超越人类的情况下，计算机视觉的未来又该如何发展？李飞飞最近发文指了三个方向：具身智能，视觉推理和场景理解。在深度学习革命进程中，计算机视觉依托大规模数据集ImageNet，在图像分类、目标检测、图像生成等多个任务都表现出惊人的性能，甚至比人类的准确率还要高！但CV为何能取得如此巨大的成就？未来将向何处发展？最近，「华人AI女神」李飞飞在美国文理科学院的会刊 Dædalus 上发表了一篇文章，以计算机视觉中的物体识别任务为切入点，研究了I
2022-05-19 22:30:58
201
原创 微软给员工大幅涨薪
大家好，我是对白。一觉醒来，一则消息让打工人分外“眼红”：给员工加薪，绩效预算几乎翻倍的那种。部分员工年度股票奖励增加25%！如此豪横“撒钱”之举，正是来自微软这位老大哥。据了解，这次微软的“加薪计划”，已经超过了年度薪酬增长的正常水平。这一波加薪，谁最吃香？微软员工加薪的这一决定，是CEO纳德拉在发给员工的邮件中提及。在看完邮件内容后，隔着屏幕都能感受到他的那种“求贤若渴”：我们一次又一次地看到，微软的人才需求量很大，你们为客户和合作伙伴做了杰出的工作。你们的影响力得到了认可和赞赏，为此我要非常感谢你们。
2022-05-18 22:21:26
286
原创 从双非硕士到大厂工作，优秀
大家好，我是对白。今天给大家分享一位22届双非学弟拿到字节offer后的复盘与反思，从他的字里行间可以看出他是一位目标感很强的人，有付出就会有回报，以下为原文。按照惯例，先进行一下自我介绍(可能是面试综合征，毕竟面试一来都是自我介绍)：本人做的是前端开发，目前在四川某不知名双非院校就读计算机专业硕士，即将毕业。一. 为什么我会就读双非硕士？其实认识我的一些前端方向的同学，或者私聊我里面也有过不少同学询问我为什么会就读双非院校的硕士研究生，事情是这样的：我是19级考研，当时计算机专业其实已经是很火爆的考研专业
2022-05-17 22:15:27
1347
1
原创 我在MIT人工智能研究实验室工作一年学到的 5 件事
Mike Ferguson ，麻省理工学院大脑和认知科学系 (MIT BCS) 担任研究软件工程师/ML工程师。专门研究 Brain-Score（一种衡量类脑 AI 的工具）。他于 2021 年春季毕业于弗吉尼亚大学，获得计算机科学和应用数学学士学位，以及认知科学和哲学学士学位。图注：Mike Ferguson在本文中，Mike分享了在麻省理工学院人工智能实验室一年中学到的 5 件事，包括他生活、成功和知识的一些看法，希望你觉得有趣或有用。1『承认自己的盲区，质疑一切』Mike在开始在麻省理工学院工作之前，
2022-05-15 23:48:12
333
原创 关于 IP 属地的一些科普
大家好，我是对白。最近各大平台都上线了 IP 属地，对于程序员来说，大家都知道这是什么。但还是有很多朋友不太熟悉，所以我开个文章来说一说。IP，就是 Internet Protocol，意思是互联网协议。你在互联网的每一个访问，都是从一个「IP地址」到另外一个「IP地址」，从协议的原理决定了，通讯的双方必然知道对方的IP地址。因此，你访问网站，网站就一定知道你访问它时使用的IP地址，这个功能与定位权限没有关系。IP地址有多少个呢？目前广泛使用的IPV4协议，使用了32位数据存储，地址一共有42亿多个，而且这
2022-05-13 22:44:36
2525
4
原创 旷视三年，我学到了什么
大家好，我是对白。做计算机视觉的朋友对于旷视这家公司应该都不陌生，之前我也在这家公司实习过，工作内容和技术还是比较有挑战性的。今天给大家分享一位在旷视工作三年的大佬，在职期间的一些收获与感悟，以下为原文。因为要找个房价和湿度都不太离谱的城市定居，所以离开了北京。有的人离职会偷些东西——或是宝贵敏感的数据；或是精妙的源码——我觉得这些都不是这家公司的内核、对个体而言一点都不重要，所以我带走一些故事。一. 一些“黑话”和乐观这边把研究员群体（Researcher）统称 R。家楠是 R 中的一员，样貌和着装给我的
2022-05-13 22:33:46
309
原创 大规模模型训练tricks集锦
大家好，我是对白。大规模模型训练其实就是在和计算、存储和通信玩的过程，所以我列一下跟这些相关的文章。一. 大规模模型并行策略先来介绍一下几种经典的并行范式，以及他们对应的经典文章1.1 数据并行(Data parallelism)不同设备执行相同模型，不同数据。▲数据并行这个比较简单，贴一篇PyTorch DDP：PyTorch Distributed: Experiences on Accelerating Data Parallel Training1.2 模型并行(Model Parallelism
2022-05-13 22:26:39
439
原创 命名实体识别的一点经验与技巧
最近做了一点微小的工作，搞了下命名实体识别(named entity recongnition, NER)，这里总结一下目前的认识。内容比较杂，先亮一下目录，如图0-1。图0-1 目录一、什么是命名实体1.1 什么是实体实体(entity)指客观存在、并可相互区别的事物。实体可以是具体的人、事、物，也可以是概念。1.2 命名实体命名实体就是以名称为标识的实体。简单来说，如果我们听到一个名字，就能知道这个东西是哪一个具体的事物，那么这个事物就是命名实体。用大众的语言来说，只要有名字，就算阿猫阿狗也是一个命名实
2022-05-11 22:21:14
2007
1
原创 开源知识图谱整理
会持续更新NameIntroduction主页链接下载链接Alibabaopenkg阿里开源的商业知识图谱https://kg.alibaba.com/index.htmlhttps://kg.alibaba.com/index.htmlCN-DBpedia复旦大学知识工场实验室研发并维护的大规模通用领域结构化百科http://kw.fudan.edu.cn/cndbpedia/intro/http://www.openkg.cn/dataset/cndbpediaownthink思知公司的百科图谱http
2022-05-10 22:36:59
1188
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人