开源项目 AirLLM：4GB 显存跑 70B、3.7GB 跑 2.8T 参数的分层推理，现在还支持训练
AirLLM 4GB 显存跑 70B、3.7GB 跑 2.8T 参数的分层推理，现在还支持训练 项目速览 项目 内容 仓库 lyogavin/airllm 语言 Python（Jupyter Notebook 项目，PyPI 包 airllm） Stars 约 3.93…
阅读全文 →AirLLM 4GB 显存跑 70B、3.7GB 跑 2.8T 参数的分层推理，现在还支持训练 项目速览 项目 内容 仓库 lyogavin/airllm 语言 Python（Jupyter Notebook 项目，PyPI 包 airllm） Stars 约 3.93…
阅读全文 →