热门

最新

红包

立Flag

投票

同城

发布
weixin_40912980
exploit-cat
8 月前
trueweixin_40912980

PromSec: 一种用于安全和功能代码生成的LLM提示优化的AI算法

来自新泽西理工学院和卡塔尔计算研究所的一个研究团队推出了PromSec，这一解决方案旨在优化LLM提示以生成安全且功能齐全的代码。它通过结合以下两个关键部分来运作：

✅ 漏洞移除：PromSec使用生成对抗图神经网络（gGAN）来查找和解决生成代码中的安全漏洞。这种方法旨在发现并修复代码中的漏洞。

✅ 交互反馈循环：在gGAN和LLM之间，PromSec建立了一个迭代反馈循环。在发现并修复漏洞之后，gGAN基于更新的代码创建更好的提示，LLM则使用这些提示作为指南，在随后的迭代中写出更安全的代码。由于模型之间的互动，提示在功能性和代码安全性方面得到了改进....

阅读文章：https://www.marktechpost.com/2024/09/25/promsec-an-ai-algorithm-for-prompt-optimization-for-secure-and-functioning-code-generation-using-llm/

论文：https://arxiv.org/abs/2409.12699

评论
11
  • 复制链接
  • 举报
下一条：
虽然Ayuhuasca（售价$1,999）比Apple Vision Pro（售价$3,499）便宜，但Bearly.AI研究应用团队刚刚发现了一个隐藏的成本。一些风投公司会撤回条款清单，如果你不签署一项保证永远不参加任何形式的静修的条款。