RAG 产品 Quivr 开源
42K+ 用户、服务过 6K+ 公司的第二大脑 #RAG 产品 Quivr 开源，目前 32K Star，冲上 […]
AI
AI 技术
Surya – 开源 OCR 解决方案
正在寻找开源 OCR 解决方案，请尝试 Surya！ Surya 是一个文档 OCR 工具包，可以： R
Surya – 开源 OCR 解决方案 Read More »
在单个 4GB GPU 上运行 Meta-Llama-3-8B-Instruct – 使用 airllm 和分层推理
0. 原理 分层推理本质上是“分而治之”的方法 这没有使用量化、蒸馏、修剪或其他模型压缩技术 大型语言模型之所
在单个 4GB GPU 上运行 Meta-Llama-3-8B-Instruct – 使用 airllm 和分层推理 Read More »
在手机(android)上运行AI大模型llama3、phi3、qwen
这里测试的是 andorid 系列手机 在 Release v0.118.0 · termux/termux-
在手机(android)上运行AI大模型llama3、phi3、qwen Read More »
在树莓派上运行AI大模型 llama3、phi3
使用的是树莓派（raspberrypi）5，8G 内存 0. 直接下载，然后运行 参照 ollama/docs
在树莓派上运行AI大模型 llama3、phi3 Read More »
llm.c 的中文注解-20240423
这里接上一节 对C程序的中文注解，下面是对 train_gpt2.cu 的注解，所有注解来自ChatGPT4。
llm.c 的中文注解-20240423 Read More »