DaoXuan - 道宣的窝

优雅，是一种生活方式

一万次悲伤

生活
需要BGM

Patient is the key in life

go map并发读写问题

go map并发读写问题

博客rss更新记录

置顶

年终总结

Dropout（随机失活）

AI最新未读

Dropout（随机失活）

AI 深度学习正则化

COAT：压缩优化器状态和激活以实现内存高效的 FP8 训练

COAT：压缩优化器状态和激活以实现内存高效的 FP8 训练

AI 深度学习 FP8 量化

Transformer 的几何角度梳理

Transformer 的几何角度梳理

AI 深度学习 Transformer

浮点数：IEEE 754 的表示与精度

浮点数：IEEE 754 的表示与精度

AI 深度学习计算机基础

在 AdamW 优化器中 β 和“记忆力”的关系

在 AdamW 优化器中 β 和“记忆力”的关系

AI 深度学习优化器

相对精度与绝对精度：为什么同一个数字，换个地方就“消失”了

相对精度与绝对精度：为什么同一个数字，换个地方就“消失”了

AI 深度学习数值计算

大模型的似然：模型到底在“相信”什么

大模型的似然：模型到底在“相信”什么

AI 深度学习大模型

Strata：面向长上下文语言模型服务的分层上下文缓存

AI Infra未读

Strata：面向长上下文语言模型服务的分层上下文缓存

LLM AI Infra KV Cache

RMSNorm：均方根层归一化

RMSNorm：均方根层归一化

AI 深度学习 Transformer

如何使用 AI 对 AI 文章进行洗稿

如何使用 AI 对 AI 文章进行洗稿