炼数成金 商业智能深度学习
订阅

深度学习

从图嵌入到图分类——图网络入门综述
从图嵌入到图分类——图网络入门综述
通过与这些希望获得机器学习领域协助的团队交流我们得知,图数据真是无处不在 —— 从疾病诊断,遗传学研究还有健康管理,到银行和工程,图都是一种解决困难问题的强有力的分析模式。简单来说,一张图就是节点(比如 ...
天生一对,硬核微分方程与深度学习的「联姻」之路
天生一对,硬核微分方程与深度学习的「联姻」之路
深度学习还能与微分方程相结合?是的,这是一个很有意思的领域,近来也有非常多的研究成果,包括 NeurIPS 2018 的最佳论文。那么什么是微分方程,它结合深度学习又有什么用呢?按照维基百科的描述:「微分方程是一种 ...
TensorFlow官方发布剪枝优化工具:参数减少80%,精度几乎不变
TensorFlow官方发布剪枝优化工具:参数减少80%,精度几乎不变
去年TensorFlow官方推出了模型优化工具,最多能将模型尺寸减小4倍,运行速度提高3倍。最近现又有一款新工具加入模型优化“豪华套餐”,这就是基于Keras的剪枝优化工具。训练AI模型有时需要大量硬件资源,但不是每个 ...
用PyTorch做深度学习实验,Facebook新框架Ax和BoTorch双双开源
用PyTorch做深度学习实验,Facebook新框架Ax和BoTorch双双开源
在现代机器学习应用中,对实验到生产的流程进行简化是最难实现的任务之一。在已经市场化深度学习框架中,Facebook的PyTorch因其高度灵活性成为数据科学界的最爱,PyTorch能够实现快速建模和实验。但是,深度学习应用 ...
南邮提出实时语义分割的轻量级网络:LEDNET,可达71 FPS!
南邮提出实时语义分割的轻量级网络:LEDNET,可达71 FPS!
Abstract:算力负担限制了移动设备中CNN在密集估计任务中的使用。在本文中,我们提出了一个轻量级网络来解决这个问题,即 LEDNet,它采用非对称(asymmetric)编码器 - 解码器架构来进行实时语义分割。更具体地说, ...
分布式入门,怎样用PyTorch实现多GPU分布式训练
分布式入门,怎样用PyTorch实现多GPU分布式训练
分布式计算指的是一种编写程序的方式,它利用网络中多个连接的不同组件。通常,大规模计算通过以这种方式布置计算机来实现,这些计算机能够并行地处理高密度的数值运算。在分布式计算的术语中,这些计算机通常被称为 ...
重磅!Facebook更新PyTorch 1.1,打算跨GPU分割神经网络
重磅!Facebook更新PyTorch 1.1,打算跨GPU分割神经网络
时隔半年不到,PyTorch 已经从之前的 1.0 升级到 1.1 版本了。刚刚,Facebook 在年度开发者大会 F8 上宣布正式发布 PyTorch 1.1 版本,这是对 PyTorch 1.0 的一次大的功能升级。PyTorch 产品经理 Joe Spisak 接受外 ...
为什么MobileNet及其变体如此之快?
为什么MobileNet及其变体如此之快?
在解释特定的高效 CNN 模型之前,我们先检查一下高效 CNN 模型中组成模块的计算成本,然后看一下卷积是如何在空间和通道中执行的。首先,作者直观地解释了如何在空间和通道上执行标准卷积,其计算成本是 HWNK2M。作 ...
是时候放弃TensorFlow集群,拥抱Horovod了
是时候放弃TensorFlow集群,拥抱Horovod了
当数据较多或者模型较大时,为提高机器学习模型训练效率,一般采用多 GPU 的分布式训练。按照并行方式,分布式训练一般分为数据并行和模型并行两种:模型并行:分布式系统中的不同 GPU 负责网络模型的不同部分。例如 ...
大规模拥挤人群:一个破纪录的人群计数算法!
大规模拥挤人群:一个破纪录的人群计数算法!
人脸识别或人脸签到往往是1:1,或1:N的图像识别技术,但如何数人数,少量只要能识别人脸当然就可以数人数了。但当我们面临大规模拥挤的人群,我们可能不需要识别人脸,只是人群计数,是否可以实现呢?能帮我数数图片 ...
卷积神经网络四种卷积类型
卷积神经网络四种卷积类型
首先,我们需要就定义卷积层的一些参数达成一致。卷积核大小(Kernel Size):卷积核定义了卷积的大小范围,二维卷积核最常见的就是 3*3 的卷积核。步长(Stride):步长定义了当卷积核在图像上面进行卷积操作的时候 ...
神经网络训练tricks
神经网络训练tricks
神经网络是特征学习方法,其能力取决隐层,更多的连接意味着参数爆炸的增长,模型复杂直接导致很多问题。比如严重过拟合,过高的计算复杂度。 CNN其优越的性能十分值得使用,参数数量只和卷积核大小,数量有关,保 ...
深度学习的天赐和诅咒:最大的优势也是最大的缺陷
深度学习的天赐和诅咒:最大的优势也是最大的缺陷
传统的计算机视觉就是使用一套算法,从图片里提取信息(通常表示为像素值数组)。比如去噪、增强和检测的算法,一些方法旨在寻找简单的几何图元,例如边缘检测、形态分析、霍夫变换、斑点检测、角点检测、各种图像阈 ...
经典ResNet结果不能复现?何恺明回应:它经受住了时间的考验
经典ResNet结果不能复现?何恺明回应:它经受住了时间的考验
大神何恺明受到了质疑。今天,Reddit 上一位用户对何恺明的ResNet提出质疑,他认为:何恺明 2015 年的原始残差网络的结果没有被复现,甚至何恺明本人也没有。网友称,他没有发现任何一篇论文复现了原始 ResNet 网络 ...
对 ResNet 本质的一些思考
对 ResNet 本质的一些思考
最近在总结完成语义分割任务的轻量级神经网络时,看到了 MobileNet V2 中对于 ReLU 层的思考,于是我也回过头重新审视 ResNet 之所以 work 的本质原因。以下是一些个人的见解,如有错误,还望及时指正。在谈及 ResNe ...

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

即将开课

社区热帖

     

    GMT+8, 2019-5-24 19:55 , Processed in 0.132445 second(s), 16 queries .