015_深度学习

[源码解析] 深度学习流水线并行 PipeDream(6)— 1F1B策略

在前文中，我们介绍了PipeDream的总体架构，Profile阶段，计算分区阶段，模型转换阶段，运行时引擎和 […]

[源码解析] 深度学习流水线并行 PipeDream(5)— 通信模块

在前文中，我们介绍了PipeDream的总体架构，Profile阶段，计算分区阶段，模型转换阶段和运行时引擎， […]

[源码解析] 深度学习流水线并行 PipeDream(4)— 运行时引擎

在前文中，我们介绍了PipeDream的总体架构，Profile阶段，计算分区阶段和模型转换阶段，本文我们介绍 […]

[源码解析] 深度学习流水线并行 PipeDream(2)— 计算分区

在前文中，我们介绍了PipeDream的总体架构和Profile阶段，本文我们继续介绍计算分区阶段。 [源码解 […]

[源码解析] 深度学习流水线并行 GPipe(3) —-重计算

GPipe是一个基于 Google Brain 开发的，支持超大规模模型的神经网络训练并行库，本文介绍其重计算 […]

[源码解析] 深度学习流水线并行GPipe (2) —– 梯度累积

梯度累积是一种增大训练时 batch size的技术，在本地使用 micro-batch 多次进行正向和反向传 […]

[源码解析] PyTorch 分布式(2) — 数据加载之DataLoader

为了更好的介绍参数服务器Paracel的数据加载，我们临时插入两篇PyTorch的数据加载，主要是从分布式的角 […]

[源码解析] 深度学习分布式训练框架 horovod (17) — 弹性训练之容错

Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本系列 […]

[源码解析] 深度学习分布式训练框架 horovod (13) — 弹性训练之 Driver

Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本系列 […]

[源码解析] 深度学习分布式训练框架 horovod (11) — on spark — GLOO 方案

Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本系列 […]

[源码解析] 深度学习分布式训练框架 horovod (7) — DistributedOptimizer

Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本系列 […]

[源码解析] 深度学习分布式训练框架 horovod (5) — 融合框架

Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架，在业界得到了广泛应用。本文是 […]

[阿里DIEN] 深度兴趣进化网络源码分析 之 Keras版本

DIEN是阿里深度兴趣进化网络(Deep Interest Evolution Network)的缩写。 之前 […]

[阿里DIN]从模型源码梳理TensorFlow的形状相关操作

本文基于阿里推荐 DIN 和 DIEN 代码，梳理了下深度学习一些概念，以及TensorFlow中的相关实现。 […]

[阿里DIN] 从模型源码梳理TensorFlow的乘法相关概念

本文基于阿里推荐 DIN 和 DIEN 代码，梳理了下深度学习一些概念，以及TensorFlow中的相关实现。 […]

[论文阅读] RNN 在阿里DIEN中的应用

本文基于阿里推荐DIEN代码，梳理了下RNN一些概念，以及TensorFlow中的部分源码。本博客旨在帮助小伙 […]

[阿里DIN] 从论文源码学习 之 embedding层如何自动更新

Deep Interest Network（DIN）是阿里妈妈精准定向检索及基础算法团队在2017年6月提出的 […]

[阿里DIN]从论文源码学习 之 embedding_lookup

Deep Interest Network（DIN）是阿里妈妈精准定向检索及基础算法团队在2017年6月提出的 […]

[论文阅读]阿里DIN深度兴趣网络之总体解读

Deep Interest Network（DIN）是阿里妈妈精准定向检索及基础算法团队在2017年6月提出的 […]

热门专题

分布式系统中如何优雅地追踪日志（原理篇）
开启WSL2
读《浪潮之巅》有感
aricgreen
矩阵奇异值分解
二区
我思故我在
很实用的在线服务网站
使用默认转型方法
使用Freemarker导出Word文档（包含图片）代码实现及总结
英语学习小技巧之一you
ARM和STM32的区别及ARM公司架构的发展
wmv
默认标题修改
模板过滤器
单机模式安装
附<<Maven权威指南>>
Cortex-A系列处理器
Normalization的神秘面纱
什么是「重置SMC
性能测试指标和常用工具
微信公共平台