跳到正文
原文
Reddit r/LocalLLaMA (开源AI)· /u/Egor4more·· 2 小时前AI 评分34

UCVG.cpp:用一对提示词为任意 LLM 生成控制向量的 C++ 工具

Control vector generation tool in C++ for any LLM in a single prompt pair (UCVG.cpp)

AI 导读

一款 C++ 工具 UCVG.cpp 可为任意 LLM 生成控制向量,只需输入一对对比提示词,安装流程尽量贴近 llama.cpp。控制向量相比系统提示词更难被用户指令覆盖或随上下文变长而失效,还能在对话中途动态调整。但其难以满足"恰好回复 10 个词"这类精细要求,且过高的引导强度会降低回复质量。

来源:Reddit r/LocalLLaMA (开源AI) · reddit.com