炼数成金 商业智能深度学习
订阅

深度学习

经典ResNet结果不能复现?何恺明回应:它经受住了时间的考验
经典ResNet结果不能复现?何恺明回应:它经受住了时间的考验
大神何恺明受到了质疑。今天,Reddit 上一位用户对何恺明的ResNet提出质疑,他认为:何恺明 2015 年的原始残差网络的结果没有被复现,甚至何恺明本人也没有。网友称,他没有发现任何一篇论文复现了原始 ResNet 网络 ...
对 ResNet 本质的一些思考
对 ResNet 本质的一些思考
最近在总结完成语义分割任务的轻量级神经网络时,看到了 MobileNet V2 中对于 ReLU 层的思考,于是我也回过头重新审视 ResNet 之所以 work 的本质原因。以下是一些个人的见解,如有错误,还望及时指正。在谈及 ResNe ...
做深度学习这么多年还不会挑GPU?这儿有份选购全攻略
做深度学习这么多年还不会挑GPU?这儿有份选购全攻略
深度学习是一个对算力要求很高的领域。GPU的选择将从根本上决定你的深度学习体验。一个好的GPU可以让你快速获得实践经验,而这些经验是正是建立专业知识的关键。如果没有这种快速的反馈,你会花费过多时间,从错误中 ...
GAN之父Ian Goodfellow加盟苹果
GAN之父Ian Goodfellow加盟苹果
据 CNBC 报道,生成对抗网络(GAN)的创造者,前谷歌大脑著名科学家 Ian Goodfellow 刚刚正式宣布加盟苹果。他将在苹果公司领导一个「机器学习特殊项目组」。虽然苹果此前已经缩小了自动驾驶汽车研究的规模,但 Ian ...
用免费TPU训练Keras模型,速度还能提高20倍!
用免费TPU训练Keras模型,速度还能提高20倍!
很长一段时间以来,我在单个 GTX 1070 显卡上训练模型,其单精度大约为 8.18 TFlops。后来谷歌在 Colab 上启用了免费的 Tesla K80 GPU,配备 12GB 内存,且速度稍有增加,为 8.73 TFlops。最近,Colab 的运行时类型 ...
74.7秒训练完ImageNet!刷新记录,2048 GPU暴力出奇迹
74.7秒训练完ImageNet!刷新记录,2048 GPU暴力出奇迹
在过去两年中,深度学习的速度加速了 30 倍。但是人们还是对 “快速执行机器学习算法” 有着强烈的需求。Large mini-batch 分布式深度学习是满足需求的关键技术。但是由于难以在不影响准确性的情况下在大型集群上实 ...
小样本学习(Few-shot Learning)综述
小样本学习(Few-shot Learning)综述
人类非常擅长通过极少量的样本识别一个新物体,比如小孩子只需要书中的一些图片就可以认识什么是“斑马”,什么是“犀牛”。在人类的快速学习能力的启发下,研究人员希望机器学习模型在学习了一定类别的大量数据后, ...
国防科大、旷视提出首个在ARM上实时运行的通用目标检测算法
国防科大、旷视提出首个在ARM上实时运行的通用目标检测算法
目标检测的算法有很多,但要在移动平台,比如手机上的ARM CPU实时还比较难,主流的state-of-the-art目标检测算法无法实时,而一些号称可以跑起来的算法距离state-of-the-art的精度差距太大。作者希望设计速度快而精 ...
2018年有意思的几篇GAN论文
2018年有意思的几篇GAN论文
毫无疑问,GAN证明了深度神经网络的强大功能。 机器学习能够生成令人惊叹的高分辨率图像,就好像它像我们一样理解世界。 但是,就像其他统计模型一样,他们最大的缺陷就是缺乏可解释性。 这项研究向理解GAN迈出了非 ...
MirrorGAN出世!浙大等提出文本-图像新框架,刷新COCO纪录
MirrorGAN出世!浙大等提出文本-图像新框架,刷新COCO纪录
GAN又开辟了新疆界。去年英伟达的StyleGAN在生成高质量和视觉逼真的图像,骗过了无数双眼睛,随后一大批假脸、假猫、假房源随之兴起,可见GAN的威力。虽然GAN在图像方面已经取得了重大进展,但是保证文本描述和视觉 ...
LeCun推荐:最新PyTorch图神经网络库,速度快15倍
LeCun推荐:最新PyTorch图神经网络库,速度快15倍
过去十年来,深度学习方法(例如卷积神经网络和递归神经网络)在许多领域取得了前所未有的成就,例如计算机视觉和语音识别。研究者主要将深度学习方法应用于欧氏结构数据 (Euclidean domains),但在许多重要的应用领 ...
神还原女神照片!GAN为百年旧照上色
神还原女神照片!GAN为百年旧照上色
一键点击,百年旧照变彩色。如何把女神的黑白照片变成彩照?今日小编发现新加坡 GovTech 数据科学与人工智能部门在 Medium 上介绍了一个为百年旧照上色的项目。这个项目名为 Colourise.sg,最初是该团队(成员包括: ...
提高GAN训练稳定性的9大tricks
提高GAN训练稳定性的9大tricks
尽管 GAN 领域的进步令人印象深刻,但其在应用过程中仍然存在一些困难。本文梳理了 GAN 在应用过程中存在的一些难题,并提出了最新的解决方法。众所周知,GAN 是由 Generator 生成网络和 Discriminator 判别网络组成 ...
GAN模式崩溃的理论解释
GAN模式崩溃的理论解释
近些年来,深度学习的革命几乎席卷了整个计算机科学领域,尤其是这两年来对抗生成网络模型(GAN)石破天惊、一骑绝尘,而蒙日-安培理论恰好可以为GAN提供强有力的理论支持。多少年来,丘先生一直强调基础理论的重要 ...
GAN和蒙日-安培方程理论
GAN和蒙日-安培方程理论
深度学习的巨大成功可以归结为自然数据所满足如下两个定则:1)流形分布律:同类自然数据满足特定的概率分布,可以用概率分布来刻画,其支集是高维数据背景空间中的低维流形;2)聚类分布律:同一数据中的不同子类表 ...

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

即将开课

社区热帖

     

    GMT+8, 2019-10-20 14:59 , Processed in 0.135753 second(s), 16 queries .