热门

最新

红包

立Flag

投票

同城

发布
weixin_30394975
Minchern
2 年前
trueweixin_30394975

Jailbreaking Leading Safety-Aligned LLMs with Simple Adaptive Attacks

"首先，我们展示了如何成功利用对logprobs的访问来进行“越狱”：我们最初设计了一个针对目标LLM的对抗性提示模板（有时需要对目标LLM进行调整），然后我们对后缀应用随机搜索，以最大化目标logprob（例如，代币"Sure"），这可能需要多次重启。通过这种方式，我们几乎达到了100%的攻击成功率 -- 以GPT-4作为裁判 -- 针对GPT-3.5/4、Llama-2-Chat-7B/13B/70B、Gemma-7B和HarmBench的R2D2"

攻击是强大还是LLMs本身就很脆弱？

（未经同行评审）

论文: https://arxiv.org/abs/2404.02151
代码/提示/日志: https://github.com/tml-epfl/llm-adaptive-attacks

评论
点赞
  • 复制链接
  • 举报
下一条：