「LLM」MOE编译器优化

HF的Qwen3实现 Q...

「LLM」GLLM框架PP策略

记录一下GLLM中pipeline 并行是如何完成的

Mac制作U盘启动镜像

Mac上制作系统镜像盘

MacOS / dd

「MLIR-1」基于torch-mlir来认识编译器

编译torch-mlir...

「LLM」HuggingFace仓库下载及指定缓存路径

首先hf上是存在对国家...

「LLM」Attentions

attention种类 ...

attention

「LLM」llama architectures

LlamaForCaus...

「MLIR-0」从零开始

LLVM、MLIR的编译...

音频相关的处理函数

hann_windows...

端侧芯片K230上利用llama.cpp部署大模型(简易教程)

目前大模型研究非常广泛...

1234