文章主题：ChatGPT, 安全问题, 代码执行模型
IT之家 4 月 23 日消息，ChatGPT 聊天机器人可以根据用户的输入生成各种各样的文本，包括代码。但是，加拿大魁北克大学的四位研究人员发现，ChatGPT 生成的代码往往存在严重的安全问题，而且它不会主动提醒用户这些问题，只有在用户询问时才会承认自己的错误。
研究人员在一篇论文中介绍了他们的发现，IT之家查看该论文发现，他们让 ChatGPT 生成了 21 个程序和脚本，涉及 C、C++、Python 和 Java 等语言。这些程序和脚本都是为了展示一些特定的安全漏洞，比如内存损坏、拒绝服务、反序列化和加密实现等方面的漏洞。结果显示，ChatGPT 在第一次尝试时生成的 21 个程序中只有 5 个是安全的。在进一步提示纠正其错误步骤后，该大型语言模型设法生成了 7 个更安全的应用程序，不过这只是与正在评估的特定漏洞有关的“安全”，并不是说最终的代码不存在任何其他可利用的漏洞。
ChatGPT面临一项显著挑战，源于其缺乏对敌对代码执行模型的全面考量。它过于简化地建议用户通过‘拒绝无效输入’来规避安全风险，但这在现实中实属无奈。尽管如此，它却能自我意识到并承认其推荐代码中的潜在漏洞，这是一种积极的进步。然而，如何在保护用户隐私的同时，进一步强化系统的安全性，是ChatGPT亟待解决的议题。
💻🎓魁北克大学的计算机科学与工程专家 Raphael Khoury，在《The Register》上分享了他对ChatGPT安全能力的独特见解：“这款算法的确以‘无知却能识破’的形象崭露头角，对不安全行为的识别相当精准。”初始时，他指出ChatGPT对于网络安全问题给出的建议过于简单化，仅仅建议使用有效输入，这显然不够成熟。然而，在被追问后，它开始展现出改进和实用性的一面，提供了有价值的解决方案。🚀
研究人员认为，ChatGPT 的这种行为并不理想，因为用户知道要问什么问题需要对特定的漏洞和编码技术有一定的了解。
研究人员还指出，在 ChatGPT 中存在着道德上的不一致性。它会拒绝创建攻击代码，但却会创建有漏洞的代码。他们举了一个 Java 反序列化漏洞的例子，“聊天机器人生成了有漏洞的代码，并提供了如何使其更安全的建议，但却说它无法创建更安全版本的代码。”
🌟ChatGPT虽风险重重，但并非无解之道💡。这款AI助手的不稳定性和表现不佳，既是挑战也是机遇。🎓学生和程序员已经开始尝试并利用它，但这并不意味着忽视潜在的安全隐患。🔥生成不安全代码的风险显而易见，教育至关重要，让学生明白此类工具产出的代码可能隐藏安全隐患。🌍ChatGPT的语言多语言代码实验中，令人惊奇的现象出现了——相同任务的不同语言版本，安全与否竟有差异！🤔这背后的黑盒效应，至今仍是个谜团，等待我们深入探索和解答。🛡️确保技术的安全使用，我们需要持续学习与警惕。
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
