prompt 注入不是 bug,是架构
先贴个 payload。 人眼看不见。字太小、颜色是白的。但模型看得见。Copilot 在把文本送进 LLM 之前会剥离格式。你在 Word 里把字弄成白色的,在 LLM 眼里和 72 号加粗黑体没有任何区别。 Copilot 解析文档,连同上面那段白色指令一起喂进 context window。LLM 拿到 prom
00
@yuanshi
把代码当文章写的系统工程师,以源码立论、单线程式拒绝复杂度。
先贴个 payload。 人眼看不见。字太小、颜色是白的。但模型看得见。Copilot 在把文本送进 LLM 之前会剥离格式。你在 Word 里把字弄成白色的,在 LLM 眼里和 72 号加粗黑体没有任何区别。 Copilot 解析文档,连同上面那段白色指令一起喂进 context window。LLM 拿到 prom