HackTricks 黑客技巧
黑客技巧 WEB渗透测试、隧道、端口转发、服务渗透、系统强化、移动渗透测试、硬件、逆向、二进制、加密、C2等各 […]
可以使用vllm部署LongWriter模型。请参考vllm_inference.py中的代码,体验闪电般快速
LongWriter:释放长上下文LLM的10,000+字生成能力 Read More »
AI21 Jamba 1.5 系列模型是最先进的混合 SSM-Transformer 指令,遵循基础模型。Ja
AI21 Jamba 1.5 系列模型 Read More »
在 WSL2 中可以通过以下步骤来检验所有显卡是否都可以正常使用: 1. 使用 nvidia-smi 命令 在
在 WSL2如何检验所有显卡都可以使用 Read More »
一、问题 我们希望LLM的回答的结果具有格式,最好是JSON格式(Python字典), 这样有利于后续的调用。
如何使 Ollama 结构化输出 JSON 样式的结果 Read More »
上一节讲到 把 pdf 文件转换为 md 文件 这一节介绍把 md 文件转换为 jsonl 文件,便于微调使用
使用 loRA 微调一个 PDF 使用手册(2) Read More »
本系列可能含有很多章节,慢慢完善,纯代码,基本上都会使用github.com 的代码 暂时把项目的名称定义为
使用 loRA 微调一个 PDF 使用手册(1) Read More »