峰子的乐园

大模型性能优化的总结和分享

大模型性能优化的总结和分享

来自阿里安全在大模型工程领域积累的实践经验

2024-05-29

AI

#AI #Transformer

深入探索 deepspeed（二）

深入探索 deepspeed（二）

加速深度学习推理的高性能kernel

2024-05-15

AI

#AI #deepspeed

深入探索 deepspeed（一）

深入探索 deepspeed（一）

加速深度学习推理和训练的新引擎

2024-04-20

AI

#AI #deepspeed

将博客切换到 hexo Fluid 主题

将博客切换到 hexo Fluid 主题

Hexo 是个非常好用且好看的个人博客搭建工具!

2024-04-10

#Miscellaneous

THUDM/chatglm代码细读

智谱清言の大模型

2024-01-27

AI

#AI #Transformer

大模型推理优化技术之显存优化

在消费级显卡上运行大模型

2023-11-30

AI

#AI #Transformer

huggingface下llama代码细读（下）

揭开它神秘的面纱

2023-11-30

AI

#AI #Transformer

huggingface下llama代码细读（上）

揭开它神秘的面纱

2023-10-30

AI

#AI #Transformer

大话 transformer 架构

transformer 概要

2023-10-22

AI

#transformer #AI

CUDA 进阶之内存优化

主机与设备间的数据传输

2023-09-10

Parallel Computing

#CUDA