亲测可用的PyTorch和TensorflowBoard版本，不会出现绘制模型结构图片时空白的情况。
1 | torch==1.2.0 |
提醒：作者使用PyTorch1.4 版本没成功绘制出来，建议换成 1.2 或 1.3 版本。
-
你看不懂的BERT解读
二月 22日, 2021
本文主要是针对近年来序列模型的发展，例如 BERT、Transformer-XL、XLNet、RoBERTa 以及 XLM 等模型的思路整理。 BERT: Bidirectional Encoder Representations ...
-
我发现了Transformer模型的秘密
二月 22日, 2021
本文希望从 Base-Attention 到 Transformer 逐层递进的解释其中的计算细节,从而更好的理解 Transformer 模型。本文主要对模型可能存在的盲区进行解释，可能思路有些跳跃，请谅解。参考资料见文章末尾Ref...
-
正则化
四月 7日, 2020
模型越复杂越容易出现过拟合状态，所以需要一种机制来保证我们模型的“简单”，这样我们的模型才能有较好的泛化能力，正则化是这类机制之一。 欧几里得范数： L2 范数： L1 范数： 推导过程 泰勒公式 为什么可以减少过拟...
-
机器学习常用算法原理
四月 7日, 2020
Logistic Regression 逻辑回归的假设函数： 其中是输入,是要求解的参数。 函数图像： 一个机器学习模型实际上是把决策函数限定在某组条件下，这组限定条件决定了模型的假设空间，逻辑回归的假设空间： 它的意思是在给...
-
《操作系统真象还原》：第十章 输入输出系统
一月 8日, 2024
上一章中我们遇到的字符混乱和 GP 异常问题，根本原因是由于临界区代码的资源竞争，这需要一些互斥的方法来保证操作的原子性。 10.1 同步机制——锁 10.1.1 排查 GP 异常，理解原子操作 多线程执行刷屏时光标值越界导致...
-
《操作系统真象还原》：第九章 线程
十月 30日, 2023
线程和进程将分两部分实现，本章先讲解线程。 9.1 实现内核线程 9.1.1 执行流 在处理器数量不变的情况下，多任务操作系统采用多道程序设计的方式，使处理器在所有任务之间来回切换，这称为“伪并行”，由操作系统中的任务调度器决定当...
-
GPU虚拟化
六月 26日, 2023
用户层虚拟化 本地 API 拦截和 API formwarding 在用户态实现一个函数库，假设叫 libwrapper， 它要实现底层库的所有 API； 让 APP 调用这个 libwrapper。如何做？ libwrap...
-
硬件虚拟化
六月 23日, 2023
硬件虚拟化介绍 硬件虚拟化要做的事情 体系结构支持 体系结构 实现功能 作用 模式切换 Host CPU <-> Guest CPU 切换 CPU 资源隔离 二阶段地址转换 GVA-> GPA...
-
《操作系统真象还原》：第八章 内存管理系统
一月 20日, 2023
8.1 makefile 简介 这部分可参考阮一峰的讲解：https://www.ruanyifeng.com/blog/2015/02/make.html 8.1.1 makefile 是什么 makefile 是 Linu...
-
《操作系统真象还原》：第七章 中断
十二月 25日, 2022
7.1 中断是什么，为什么要有中断 运用中断能够显著提升并发，从而大幅提升效率。 7.2 操作系统是中断驱动的 略 7.3 中断分类 把中断按事件来源分类，来自 CPU 外部的中断就称为外部中断，来自 CPU 内部的中断称为内部...
