使用GPU内存和CPU内存装载大模型 发表评论 / AI, AI 新闻, LLM, LLMS / met-llama / 2024年12月5日 这里测试的是开源模型是 meta-llama/Llama-3.1-405B-Instruct，属于开源模型里面 […] 使用GPU内存和CPU内存装载大模型 Read More »met-llama
