炼数成金 商业智能深度学习
订阅

深度学习

那些轻轻拍了拍Attention的后浪们
那些轻轻拍了拍Attention的后浪们
Reformer的论文选择了局部敏感哈希的angular变体。它们首先约束每个输入向量的L2范数(即将向量投影到一个单位球面上),然后应用一系列的旋转,最后找到每个旋转向量所属的切片。这样一来就需要找到最近邻的值,这就 ...
深度学习之父Hinton:下一代神经网络
深度学习之父Hinton:下一代神经网络
在机器学习中,有三种不同类型的学习模式:首先是监督学习,即给定输入向量学习预测输出。然后是强化学习,通过学习选择动作以获得最大奖励。最后是无监督学习,其目的是学习输入的内部表征,但是从数学上定义什么是 ...
深度学习败于“捷径”
深度学习败于“捷径”
深度学习的未来在哪里?这一话题已经有过了无数讨论,大部分讨论都承认当前的深度学习还不是真正的智能,必须转向理解、常识。但是只看当前AI成功的案例,似乎还无法窥探理解。近日,来自多伦多大学和图宾根大学的研 ...
吊打一切:YOLOv4的tricks汇总
吊打一切:YOLOv4的tricks汇总
即使是目标检测在过去几年开始成熟,竞争仍然很激烈。如下所示,YOLOv4声称拥有最先进的精度,同时保持高处理帧速率。它在 MS COCO数据集上,使用Tesla V100以接近65 FPS推理速度获得精度43.5% AP (65.7% AP₅& ...
11 种主要神经网络结构图解
11 种主要神经网络结构图解
随着深度学习的快速发展,人们创建了一整套神经网络结构来解决各种各样的任务和问题。尽管有无数的神经网络结构,这里有十一种对于任何深度学习工程师来说都应该理解的结构,可以分为四大类: 标准网络、循环网络、卷 ...
如何理解YOLO:YOLO详解
如何理解YOLO:YOLO详解
YOLO将物体检测作为回归问题求解。基于一个单独的end-to-end网络,完成从原始图像的输入到物体位置和类别的输出。Faster rcnn使用RPN(region proposal network)卷积网络替代rcnn/fast rcnn的selective search模块 ...
YOLOv5是真的吗?并不比YOLOv4强,不配这个名字
YOLOv5是真的吗?并不比YOLOv4强,不配这个名字
首先简单介绍一下 YOLO。YOLO 是一个实时目标检测框架,其意思是 You Only Look Once(你只看一次)。也就是说待检测的目标图像仅会通过全卷积神经网络(FCNN)一次。Ultralytics 的创始人兼 CEO Glenn Jocher 在 Gi ...
线性Attention的探索:Attention必须有个Softmax吗?
线性Attention的探索:Attention必须有个Softmax吗?
某种意义上来说,Reformer 也是稀疏 Attention 的一种,只不过它的稀疏 pattern 不是事先指定的,而是通过 LSH(Locality Sensitive Hashing)技术(近似地)快速地找到最大的若干个 Attention 值,然后只去计算那若 ...
凭什么相信你,我的CNN模型?关于CNN模型可解释性的思考
凭什么相信你,我的CNN模型?关于CNN模型可解释性的思考
关于CNN模型的可解释问题,很早就有人开始研究了,姑且称之为CNN可视化吧。比较经典的有两个方法,反卷积(Deconvolution)和导向反向传播(Guided-backpropagation),通过它们,我们能够一定程度上“看到”CNN模型中较 ...
Attention注意力机制的前世今身
Attention注意力机制的前世今身
注意力机制(Attention Mechanism)最早应用 CV 任务上 ,但最初的论文引用,作者没有找到,如有知晓的,还望在评论中给出。在 NLP 中的最早应用,应该是文献 ,机器翻译中对齐与翻译联合学习。直观地说,注意力机制 ...
详细解读LSTM与GRU单元的各个公式和区别
详细解读LSTM与GRU单元的各个公式和区别
因为自己LSTM和GRU学的时间相隔很远,并且当时学的也有点小小的蒙圈,也因为最近一直在用lstm,gru等等,所以今天没事好好缕了一下,接下来跟着我一起区分并且每个单元全都非常深刻的记一下吧。
PyTorch称霸顶会:CVPR论文占比是TensorFlow 4 倍
PyTorch称霸顶会:CVPR论文占比是TensorFlow 4 倍
在最新的图表数据中,Horace He 依然以 ICLR 2020 和 CVPR 2020 接收论文中 PyTorch 使用量在 TensorFlow/PyTorch 使用总数中的占比情况,以及 PyTorch/TensorFlow 具体使用数及占接收论文总数的比例为评估指标。首 ...
NVIDIA针对数据不充分数据集进行生成改进,大幅提高CIFAR-10数据生成
NVIDIA针对数据不充分数据集进行生成改进,大幅提高CIFAR-10数据生成
生成对抗网络因其优异的生成质量而得到广泛的关注,然而想要得到高质量的生成结果往往需要大批量的训练数据进行加持才能训练出逼真的生成结果,这点在各大主流优秀的生成对抗网络模型下得到验证。一旦训练数据不足的 ...
中科院计算所沈华伟:图神经网络表达能力的回顾和前沿
中科院计算所沈华伟:图神经网络表达能力的回顾和前沿
图神经网络过去几年炙手可热,也取得了一系列的突破,但是这两年发展进入了相对停滞的状态。当前更多的研究员是把图神经网络当做一个工具,也即把图神经网络泛化到其他领域进行应用方向的研究。例如早期图神经网络在 ...
CVPR 2020 论文大盘点-实例分割篇
CVPR 2020 论文大盘点-实例分割篇
图像分类是对整幅图像给出一个类别,目标检测将感兴趣的物体框出来,语义分割将相同类别的物体分割出来,实例分割则要分割出感兴趣类别物体的个体,既是对图像的像素级分割,又是实例级理解。通过近几天的对CVPR 202 ...

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

社区热帖

     

    GMT+8, 2021-9-26 14:52 , Processed in 0.119208 second(s), 16 queries .