3 ChengLaun

尚未进行身份认证

我要认证

给我一个贪污的机会吧

等级
TA的排名 1w+

tensorflow 实现全局平均池化

有两种方法一方法,这里用的tf.nn。可以用tf.layers代替。 p05 = tf.nn.avg_pool2d(conv10,ksize=[1,conv10.get_shape().as_list()[1],conv10.get_shape().as_list()[1],1],strides=[1,1,1,1],padding=VALID',name='GAP')二方法 p05 = tf.reduce_mean(conv10, [1, 2], keep_dims=True, name

2020-09-18 22:50:29

一种新的剪枝方法

现在是2020年9月14日。不知道别人有没有写过相关的论文。下面开始正文。我先拿一个训练好的模型中conv层的w来说。下图是第一层的conv的w。每条线为一个维度的w。HDFview这个软件一次最多能画10组数据。这里就看这些吧。观察图像你会发现一个规律,某一值附近,大部分曲线呈现一个走势,只有少部分相反,或者比较慢的走势。我在上图中画上了竖线,你会发现这个现象。那么问题来了,能不能通过统计这总趋势来决定哪个feature的w重要呢?应该可以,通过这种方法来剪枝,更具有意义。用一句话

2020-09-14 23:56:53

分析医院用的人脸识别系统

这是写给小白或者刚入门人脸识别的。最近找工作上火,然后引起内分泌失调,去医院住院处呆了10天。辽阳市中心医院,有空可以去感受下他们用的人脸识别系统。背景医院的住院处是个人流量比较大的地方,今天在这住,明天可能就出院了。一般患者+一个陪护。在全球疫情未好转的大环境下,住院处门禁也用上了人脸识别。模型需求分析人脸识别系统需求分析:需要实时识别 需要实时在线更新--动态更新数据 模型抗噪音能力强 可以有,口罩识别。几乎所有场所都需要戴口罩,这个功能应该有,但是我住的医院没有。最后分析

2020-09-14 18:46:35

tensorflow历史版本离线版下载方法

版本链接gpu版https://pypi.org/project/tensorflow-gpu/1.15.2/#filescpu版https://pypi.org/project/tensorflow/1.15.2/#files链接说明https://pypi.org/project/ 主页 tensorflow-gpu/或者tensorflow/是版本, /1.15.2/是版本号, /#files下载链接。如果只想跳到相关页面,去掉这个/#files.获取相关的版本号..

2020-08-29 13:03:10

发现tf在压缩模型方面,有些是做不到的

发现tf在压缩模型方面,有些是做不到的。比如修改梯度更新内容。tf的计算图一点创建就无法修改,但是现在的一些论文中,有对梯队修改,来增加训练速度的方法。我看到torch写的代码,我发现tf做不到。我想未来tf也不会修改,因为上面提到的了,图是无法修改的。未来一定会学习pytorch或者torch,然后模型转为pb格式,因为tf-serving在布置模型方面有太大的优势。...

2020-08-22 10:20:17

细粒度剪枝想法

能不能引入rnn,来设置门,那么卷积是重要,那么不中来。只是有这种想法,没研究rnn,有空看看。

2020-08-17 12:35:11

关于tensorflow量化

tensorflow模型量化不并不提速,并且可能会降低速度。他只能压缩模型。为什么不能提速?官方给的解释是,巴拉巴拉巴拉。。忘了。量化有两种方式,tflite和pb两种保存方式。tflite是量化+轻量化;pb得格式是只量化(这种方法可能只在linux跑模型,win会报错。我是tf-1.15.0版本,win不行。)。所以就是说,别去尝试手动自己写代码去量化了,就用官方得代码,压缩下模型就得了。...

2020-08-15 15:55:20

同学面试G-Wearables经历

同学的一次不靠谱面试,给我说了下,感觉可以记录下。今年因为疫情,工作不太好找。我同学,就叫做小李吧。他说不停生气.他去了G-Wearables这家av的公司面试。笔试是一些算法问题,就一道题关于深度学习,剩下的什么都有,图像算法的,数据结构的,概率的之类的。然后就是一个30多岁的面试官,问了一堆关于项目的东西,没有深入问。然后还是面试者不深入回答。小李被面试官狠狠的怼了很久。然后小李说,那就谈谈人脸识别的loss的事吧。面试官怼了他,loss不都一样吗?有什么好谈的。小李说,人脸

2020-08-11 13:50:58

剪枝算法汇总

先说废话,目的剪枝,就是剪掉w和b种的不重要的部分,留下重要的。一般流程为,训练好的模型--剪枝--retrain--剪枝。剪枝,有slim和pruning之分。怎么分呢?我就不说了。说下剪枝分为静态的和动态的。他们的区别是是否边训练边剪枝。剪枝的关键在于如何去设置阈值,来剪掉不重要的。下面讲讲方法,01 简单粗暴的剪枝直接剪枝,去掉w和b中百分之多少的值。我查论文发现几种方法:只保留正值部分 保留正值和负值中的百分之多少 保留正值中的百分之多少 去掉极大极小值

2020-08-10 17:10:31

不同深度学习框架模型转化

微软提供的mmdnn这个框架不太好,他只能针对某些现有的框架实现转化,自己写的,好像不能转。我在转化mxnet框架到ir中间框架时,不停的报错。onnx这个框架不错,可以把模型转化为中间文件.onnx,然后再转成目标框架。需要注意两点,1.2.1和1.4.1比1.7.1好用。onnx-tf选择1.2.1版本为好。...

2020-08-04 21:21:55

奇思妙想

现在看视频,听广播都有广告,视乎特别烦。能不能做到让用户喜欢广告呢?并且非常愿意听广告?当然可以做到。1用某种方式,然后用户可以通过使用软件时常或者听广告时常,来获得积分,然后,让用户用积分兑换礼品,混着现金。前段时间喜马拉雅极速版可以用在线时间换取钱,具体内容可以看这里了解.我感觉可以给用户更大利润,来吸引用户使用和商业广告。并且提供积分+RMB兑换会员的机制.2或者采用下面的机制。(总金额+活跃度)/参与人数=每人获得。这种方式更具有吸引力。这个算法不会分配不给给平台

2020-07-29 11:57:37

戴口罩人脸人别

戴口罩人脸人别,其实还是类内分类问题。人脸对齐出来人脸,然后开始做分类任务。这个把人脸对齐出来后的人脸进行切割。比如说原图对齐后然后对这个图片进行处理。把他切成口罩+眼睛的形式。把这两部分同时喂入网络。眼睛的计算的loss+口罩计算的loss合起来事总loss。但是,眼睛部分占了总loss的0.8.和没有戴口罩的这个人的人脸喂入相同的特征网络。计算loss。center+softmax。让这两个人脸接近。没有考虑小的人脸,网络没有选择宽网络,而是选的mini-xepti.

2020-07-28 21:49:09

如何在自己的model中,加入签名。

这个方法不是最好的。但是如果有人想用他用你的模型,这个可以作为证据。具体方法:找到一个层,这个层的参数不能太多(计算不影响速度),然后加上日期,比如今天20200727,然后在剪掉。这个日期也可以用公式重新编码下,以免别人能察觉出来。有的时候,你需要把自己的模型给你应聘的公司看,但是不想他们使用。如果使用了。你可以通过这个来说事。...

2020-07-27 22:48:54

被长扬科技面试经历

就这家https://www.cy-tech.net/.遇到个女的技术总监,过程真的很心烦。问了好多简历上没有的经历。也没怎么深入问一些问题,都是我在自说。整个场面都很尴尬弄得。我就不明白了,hr不筛下简历吗,还是为了每个月的业绩,看到就给技术部。还有,问问题能不能围绕的简历来,真累。本来表情模型要写完了,弄得下午一点兴趣没有。我真不懂,工业安全检测,55帧取一个图像(也就是1分钟取一个图,好吧,她还说了29帧取一个图,感觉她完全不懂帧的概念),是行业标准吗?标远设备做ai,我用树莓派做过,目标检测

2020-07-22 21:22:30

tensorflow与keras对应关系

https://docs.floydhub.com/guides/environments/keras <= 2.3.1的版本,没有model.weight_load函数

2020-07-21 11:16:19

深度学习-人脸 笔试题

1 解释1x1 卷积的作用?2 写出激活函数switch relu及变形 tanh sigmoid maxout公式?3 再考虑算计问题上,如何选择以上面激活函数?4 简述密集网络和树形网络思想?5 列举5个人脸识别中应用的loss并说明考虑的角度?6 写出并解释l softmax公司参数含义?7 解释incptionv1到 v4模型有话方法?8 如何处理过拟合?9 训练和测试模型表现良好,验证结果不好,怎么处理?10 简述剪枝思想,并列举一种?11 解释mns?12 写出三种替换f.

2020-07-20 21:19:26

稀疏训练

什么是稀疏训练,看下面的流程。说白了,就是删除cnn中weight,某个面中不要的值。如何取这个阈值呢?一般都是方差作为标准。也有把负值设为0的。这里感觉像什么?激活函数吧。也是剪枝的一种,不同于通道剪枝,会加速运算。只是提高准确率性。参考http://www.xjishu.com/zhuanli/55/201710473955.html...

2020-07-15 16:21:13

某些激活函数真的对模型有作用吗?

激活函数作用是什么?给w+b一个约束。要么是排除赋值(relu),要么是缩放到一个范围(tanh等),或者更加极端(1,0)。下面是一个训练好(flowers acc 74.6%)的vgg16中某一层的w中的一个feature值。可以看到其中正负都有。不能排除其中负的部分对模型的准确率没有影响。假设,如果他有作用,那么可能是在纠正太“正”(过拟合)的作用。才会有relu的变形,prelu。上图为w上图为b我认为负值也很重要,选择激活函数,应该想到。我这么理解的,可能不对。...

2020-07-08 12:50:46

tfs配置环境

tfs有两种方法布置,一个是通过docker,一个bazel。我用的是docker。比较老的博文说的是把bazel布置在docker中,或者布置ubuntu中。我这里说的是win下布置。docker布置1.去官网注册,然后下载。然后一直下一步就行。点开settings,修改配置源,如下图。{ "registry-mirrors": [ "https://alzgoonw.mirror.aliyuncs.com" ]}输入下面代码验证docker run h.

2020-07-03 12:53:12

tensorflow-serving布置facenet心得

这个的东西困扰我很久,终于弄成了。不知道我做的是不是太繁琐,如果有人做的更简单,希望指出,谢谢。docker中,做了两个容器,一个放的mtcnn,一个放的facent。他们并不是多模型布置的。mtcnn其中包括:pnet,rnet和onet,这三个是多模型布置。客户端通过调用mtcnn,得到返回值,然后传给facenet。这里有个问题。numpy数组的事,需要转换。不能直接穿numpy的数组给tf-serving。报错一般有两个方面原因,路径错误或者就是传入的值类型不对。还有就是一个问题,绑

2020-07-02 10:07:08

查看更多

勋章 我的勋章
  • GitHub
    GitHub
    绑定GitHub第三方账户获取
  • 签到新秀
    签到新秀
    累计签到获取,不积跬步,无以至千里,继续坚持!
  • 阅读者勋章Lv2
    阅读者勋章Lv2
    授予在CSDN APP累计阅读博文达到7天的你,是你的坚持与努力,使你超越了昨天的自己。
  • 持之以恒
    持之以恒
    授予每个自然月内发布4篇或4篇以上原创或翻译IT博文的用户。不积跬步无以至千里,不积小流无以成江海,程序人生的精彩需要坚持不懈地积累!
  • 勤写标兵Lv4
    勤写标兵Lv4
    授予每个自然周发布9篇以上(包括9篇)原创IT博文的用户。本勋章将于次周周三上午根据用户上周的博文发布情况由系统自动颁发。
  • 分享精英
    分享精英
    成功上传11个资源即可获取