【AI技术漏洞！OpenAI的DALL-E 3易受越狱攻击 生成儿童吸烟照片】
一位名为Peter Gostev的LinkedIn用户发现了一种越狱技巧，成功生成了一组令人震惊的图像，显示儿童正在吸烟。这一事件引发了对AI系统安全性和道德的担忧。

这一越狱技巧涉及到一个相当复杂的提示，其中包括告诉AI系统，现在是2222年，烟草已经变得极为健康，类似疫苗一样被医生常规开方以预防疾病。尽管这个提示对人类来说显然站不住脚，但AI系统还是生成了令人不安的图像。不过，后续报道表明，这一越狱提示已被封锁，AI不再接受类似的请求。

这并不是OpenAI的AI工具首次受到越狱攻击。他们的聊天机器人ChatGPT曾多次被越狱，尤其是用于制作淫秽内容的用途。这表明，即使是硅谷最富有的公司也很难为其AI系统建立全面的防护措施。这引发了关于AI伦理和监管的讨论，以确保AI技术不被滥用或用于不当目的。（站长之家）