**提示词工程登顶ICML：仅靠改写提示词，如何解决大模型“模式坍缩”？**
近期，一篇关于“提示词工程”的论文被ICML 2026接收，迅速在Reddit等社区引发热议。这篇论文没有提出新的优化算法，也没有训练新的大模型，其核心贡献仅在于通过调整提示词，显著提升了大模型输出的多样性，从而缓解了困扰LLM已久的“模式坍缩”问题。
### 一、 核心方法：Verbalized Sampling（VS）
所谓“模式坍缩”，是指大模型在生成内容时，倾向于输出概率最高、最安全的“标准答案”，导致创意枯竭、回答同质化。传统的解决思路通常涉及调整采样参数、修改解码算法或重新训练模型。
而本文提出的Verbalized Sampling（VS）方法则另辟蹊径：**让模型在生成结果的同时，输出完整的概率分布。**
例如，在要求模型“讲一个笑话”时，作者修改了提示词，要求模型：“生成5个笑话，并为每个笑话分配一个概率值。”通过这种方式，模型被迫输出更丰富的内容，而非单一的“最优解”。
### 二、 理论依据：典型性偏差
作者认为，模式坍缩的根源不在于算法，而在于训练数据。他们提出了“典型性偏差”这一概念：人类标注者在进行偏好数据标注时，天生偏爱熟悉、流畅、常规的文本，从而给刻板的大众化回答更高分。
这意味着，只要训练数据存在典型性偏差，无论奖励模型或优化算法多么完美，模型最终仍会坍缩。因此，作者提出在推理阶段通过Prompt修正，唤醒预训练阶段模型原本具备的多元输出分布。
实验显示，在创意写作任务中，VS方法能将多样性提升1.6至2.1倍，且不降低事实准确性和安全性。模型能力越强，效果越明显。
### 三、 Reddit热议：学术争议与价值探讨
尽管方法看似简单，但ICML的接收引发了学术界的激烈讨论。
**批评者认为：**
1. **创新性不足：** 这种Prompt写法并非独创，许多从业者早已在用。
2. **理论脆弱：** Prompt的效果高度依赖模型，缺乏算法层面的稳定性。
3. **实验局限：** 规模有限，难以证明是普适规律。
**支持者则指出：**
1. **问题溯源：** 论文对模式坍缩成因的剖析（典型性偏差）比Prompt本身更有价值。
2. **严谨性：** 包含完整的问题溯源、数学推导和多维度实验，并非“灌水”。
3. **历史类比：** 著名的“思维链”（CoT）最初也只是一个简单的Prompt，如今却成为了推理的基础。推理阶段的研究正在走向核心。
### 四、 研究团队
该工作由美国东北大学Weiyan Shi团队联合斯坦福Manning实验室、西弗吉尼亚大学完成。主要作者包括Jiayi Zhang、Simon Yu和Derek Chong。团队成员背景深厚，涵盖学术研究与工业界经验，此前亦有相关顶会论文发表。
**参考链接：**
[1] https://www.reddit.com/r/MachineLearning/comments/1uv1xb3/promptengineering_paper_accepted_to_icml_r/
[2] https://www.linkedin.com/in/jiayizx/
[3] https://simonucl.github.io/
[4] https://www.linkedin.com/in/derekch/