LLM

LLM 记忆管理框架 MemGPT

发表评论 / AI, AI 新闻, GPT, LLM, LLMS, OpenAI / LLM, MemGPT, OpenAI API / 2024年5月2日

伯克利大学开源最专业的 LLM 记忆管理框架 MemGPT ，目前 8.7 K Star MemGPT 允许您 […]

LLM 记忆管理框架 MemGPT Read More »

LLM, MemGPT, OpenAI API

LLM 量化(LLM Quantization)| GPTQ | QAT | AWQ | GGUF | GGML | PTQ

发表评论 / ChatGPT, GPT, LLM, LLMS, OpenAI / AWQ, GGUF, LLM, PTQ, QAT, QPTQ, Quantization / 2024年4月1日

这篇文章是关于你在讨论中LLM不断听到的各种量化技术。此处的目的是提供分步说明以及代码，您可以使用这些代码自行

LLM 量化(LLM Quantization)| GPTQ | QAT | AWQ | GGUF | GGML | PTQ Read More »

AWQ, GGUF, LLM, PTQ, QAT, QPTQ, Quantization