KubeSphere 初探 · KS 实践 01

工程实践
本文 “走马观花” 式地介绍了 KubeSphere 的安装与使用,并尝试引导读者思考应当如何正确部署一个应用。

KubeSphere 是一个以 Kubernetes 为内核的云原生分布式操作系统,它的架构可以非...


附录与补遗 · K8S 实践 03

工程实践
在前面两篇文章中,我重点实践了 Kubernetes 中有关服务和存储的内容,本文将对 Kubernetes 中的其他知识点做一个回顾和补充。

本文首先回顾了 Kubernetes 架构与工作流程,然后复习了资源对象和资源清单文件相关的内容,...


理解并使用存储卷 · K8S 实践 02

工程实践
本文依次介绍了 K8S 中的简单存储(EmptyDir、HostPath、NFS)、高级存储(PV、PVC)以及配置存储(ConfigMap、Secret)的基本原理和使用。

在 Kubernetes 中,容器会被频繁地创建和销毁。当容器被销毁时,保存在容器中的数据也会被清...


从 Service 到 Ingress · K8S 实践 01

工程实践
本文循序渐进地给出了在集群内外(i)不通过 Service、(ii)通过 Service、(iii)通过 Ingress 访问集群内 Pod 的实践。

在 Kubernetes 中,Service 是一组 Pod 的逻辑集合和访问方式的抽象。 对于一...


面向深度学习的互适应调度 · OSDI '21

工程实践 论文精读 数学优化
本文分析了一篇发表在 OSDI '21 上的论文。面对深度学习任务,该论文提出调度器 Pollux,通过观察每个作业的训练状态和集群的资源利用情况, 实时地作出如下决策:(1)调整每个作业的批处理数据大小和学习率;(2)重新分配集群资源(如 GPU)。和现有的深度学习调度器相比,Pollux 可以将任务训练时间减少 37-50%。

所谓调度,需要回答的核心问题是:在何时将何种任务分配给何种资源以何种方式执行。 调度广泛存在于操作...


优化理论基础(下) · 最优化 04

数学优化
本文重点介绍了常用的保凸运算。借助保凸运算,我们可以轻易地判定一个函数是否为凸函数,这直接决定了一个问题是否是“容易求解的”。

上篇重点介绍了凸函数的定义以及一些凸函数的判定方法。实际上,凸函数还可以从凸函数的 “保凸运算” ...


优化理论基础(中) · 最优化 03

数学优化
接上篇,本文首先介绍凸优化中的常用概念,包括直线、仿射集、凸集、凸组合、凸函数等,然后重点分析了各种保凸规则和凸性判定规则。

本文将介绍凸优化领域内最重要的数个概念,尤其是凸集和凸函数。我们关心集合和函数的 “凸性” 是因为...


优化理论基础(上) · 最优化 02

数学优化
本文主要介绍了向量和矩阵的范数、导数以及闭函数等基本概念。

在本文中,我们首先给出向量和矩阵范数的定义,然后给出了向量导数(梯度)及相关概念的定义。最后,我们...


优化理论简介 · 最优化 01

数学优化
这篇文档以简洁的形式介绍了最优化理论的基本信息。

最优化在许多方面都有着极为广泛的运用。本文作为 “最优化” 这个系列的开篇,简单地介绍了其模式、分...


自然语言处理(上) · 深度学习 09

数学优化 工程实践
自然语言处理(NLP)是非常典型的人工智能应用场景。本文作为 NLP 章节的上篇,将重点介绍了一些前置知识,包含词嵌入,近似训练、二次采样以及子词嵌入等部分。

本文首先给出典型的词嵌入模型(skip-gram 和 CBOW)的理论原理,然后给出这两种模型的训...


优化算法 · 深度学习 08

数学优化 工程实践
这篇文章系统地介绍了深度学习中的优化器。最基础的优化器当然是(mini-batch)梯度下降法。在此基础上,学术界又相继引入了动量法、AdamGrad 算法、RMSProp 算法、AdaDelta 算法、Adam 算法等。本文对这些方法做了全面的梳理。

优化算法的目标函数通常是一个基于训练数据集的损失函数,优化的目标在于降低训练误差。 而深度学习的目...



Designed & written by Hailiang Zhao.
hliangzhao.cn. Copyright © 2021 - 2022 | 浙ICP备2021026965号-1
Manage