Anthropic推出FlashProve以验证人工智能模型回复
Briefing by News4U · First published
今天，Anthropic在X上表示，其推出了面向大语言模型可证明推理的FlashProve。该公司称，FlashProve基于密码学技术，可让开发者验证特定回复是否来自特定人工智能模型，并且比此前开源方法高效得多。Anthropic表示，这类证明可增加攻击者劫持对话的难度，也有助于安全评估方确认其测试的模型与面向客户提供的模型一致，并称正在开源FlashProve的代码。 [1]
来源
- @anthropicai (X): New Anthropic research: progress on provable inference for large language models.
@anthropicai (X) · · Excerpt