炼数成金 商业智能深度学习
订阅

深度学习

Facebook AI新研究:可解释神经元或许会阻碍DNN的学习
Facebook AI新研究:可解释神经元或许会阻碍DNN的学习
人工智能模型到底「理解」了什么内容,又是如何「理解」的呢?回答这个问题对于改进人工智能系统来说至关重要。而不幸的是,计算机科学家解释深层神经网络(DNN)的能力远远落后于我们用它们实现有用结果的能力。一种 ...
漫谈图神经网络 (三)
漫谈图神经网络 (三)
图读出操作,顾名思义,就是用来生成图表示的。它的别名有图粗化(翻译捉急,Graph Coarsening)/图池化(Graph Pooling)。对于这种操作而言,它的核心要义在于:操作本身要对结点顺序不敏感。这是为什么呢?这就不得不 ...
从图(Graph)到图卷积(Graph Convolution):漫谈图神经网络 (二)
从图(Graph)到图卷积(Graph Convolution):漫谈图神经网络 (二)
在开始正式介绍图卷积之前,我们先花一点篇幅探讨一个问题:为什么研究者们要设计图卷积操作,传统的卷积不能直接用在图上吗? 要理解这个问题,我们首先要理解能够应用传统卷积的图像(欧式空间)与图(非欧空间)的区 ...
Hinton新作!越大的自监督模型,半监督学习需要的标签越少
Hinton新作!越大的自监督模型,半监督学习需要的标签越少
仅使用1%的标签(每类≤13个标签图像),本文提出的方法即可达到73.9%ImageNet top-1准确率,与以前的SOTA相比,标签效率提高了10倍。使用10%的标签,本文的方法可以达到77.5%的top-1准确率,优于使用100%标签的 ...
ResNet、Faster RCNN、Mask RCNN是专利算法吗?盘点何恺明参与发明的专利
ResNet、Faster RCNN、Mask RCNN是专利算法吗?盘点何恺明参与发明的专利
前段时间OpenCV正式将SIFT算法的实现从Non-free模块移到主库(OpenCV 4.4 发布!SIFT移到主库,新增YOLOv4 和 EfficientDet 推断支持),因SIFT专利到期了(专利授权后,从申请日开始有20年的保护期)。美国林肯总统 ...
重磅盘点:过去8年中深度学习最重要的想法汇总
重磅盘点:过去8年中深度学习最重要的想法汇总
深度学习是一个瞬息万变的领域,层出不穷的论文和新思路可能会令人不知所措。即使是经验丰富的研究人员,也很难准确将研究成果传达给公司的公关部门,继而传达给大众。对于初学者来说,理解和实现这些技术有利于打下 ...
牛津CS博士小姐姐134页毕业论文探索神经网络内部构造
牛津CS博士小姐姐134页毕业论文探索神经网络内部构造
近年来,深度神经网络正在计算机视觉、自然语言处理和语音识别等多种领域发挥着重要作用,推动了人工智能的发展。但是,深度神经网络仍存在一些局限性,例如这些模型的决策过程通常无法向用户解释。但同时,在医疗、 ...
深度学习未来的三种范式
深度学习未来的三种范式
深度学习是一个广阔的领域,它围绕着一种形态由数百万甚至数十亿个变量决定并不断变化的算法——神经网络。似乎每隔一天就有大量的新方法和新技术被提出来。不过,总的来说,现代深度学习可以分为三种基本的学习范式 ...
从图(Graph)到图卷积(Graph Convolution):漫谈图神经网络模型
从图(Graph)到图卷积(Graph Convolution):漫谈图神经网络模型
最早的GNN主要解决的还是如分子结构分类等严格意义上的图论问题。但实际上欧式空间(比如像图像 Image)或者是序列(比如像文本 Text),许多常见场景也都可以转换成图(Graph),然后就能使用图神经网络技术来建模。2009 ...
GPU必知必会 | 哪款显卡配得上我的炼丹炉
GPU必知必会 | 哪款显卡配得上我的炼丹炉
众所周知,深度学习是一个很吃算力的领域,所以,GPU 选得好不好直接决定了你的炼丹体验。那么,哪些指标是你在买 GPU 时应该重视的呢?RAM、core 还是 tensor core?如何做出一个高性价比的选择?文本将重点讨论这 ...
从发展历史视角解析Transformer:从全连接CNN到Transformer
从发展历史视角解析Transformer:从全连接CNN到Transformer
Transformer架构在机器学习领域(尤其是NLP里)是一项热门研究,为我们带来了许多重要成果,比如:GPT-2、GPT-3等写稿机器人;第一代GPT及其性能更优越的“继任者”BERT模型,在众多语言理解任务中以前所未有的数据 ...
YOLO算法最全综述:从YOLOv1到YOLOv5
YOLO算法最全综述:从YOLOv1到YOLOv5
YOLO没有显示求取region proposal的过程。Faster R-CNN中尽管RPN与fast rcnn共享卷积层,但是在模型训练过程中,需要反复训练RPN网络和fast rcnn网络.相对于R-CNN系列的"看两眼"(候选框提取与分类),YOLO只需要Lo ...
用最简单的方式训练史上最强ResNet-50,性能超过魔改结构的ResNeSt
用最简单的方式训练史上最强ResNet-50,性能超过魔改结构的ResNeSt
近日,CMU 的研究人员在 arXiv 上放出了一份技术报告,介绍他们如何通过蒸馏(distillation)训练一个强大的小模型。所提出方法使用相同模型结构和输入图片大小的前提下,在 ImageNet 上的性能远超之前 state-of-the ...
深度神经网络模型训练中的 tricks(原理与代码汇总)
深度神经网络模型训练中的 tricks(原理与代码汇总)
计算机视觉主要问题有图像分类、目标检测和图像分割等。针对图像分类任务,提升准确率的方法路线有两条,一个是模型的修改,另一个是各种数据处理和训练的技巧(tricks)。图像分类中的各种技巧对于目标检测、图像分割 ...
Repulsion Loss 遮挡场景下的目标检测
Repulsion Loss 遮挡场景下的目标检测
在检测行人任务中,由于行人之间互相遮挡,导致传统的检测器容易受遮挡的干扰,给出错误的预测框。研究人员先是从数据集上进行分析,定量描述了遮挡对行人检测带来的影响。后面受吸引,排斥的启发,提出了Repulsion ...

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

社区热帖

     

    GMT+8, 2021-9-26 15:25 , Processed in 0.118475 second(s), 16 queries .