研究人员发现 ChatGPT 生成的代码大部分不安全
叶紫网 4 月 23 日消息,ChatGPT 聊天机器人可以根据用户的输入生成包括代码在内的各种文本。但加拿大魁北克大学的四名研究人员发现,ChatGPT 生成的代码往往存在严重的安全问题,而且不会主动提醒用户这些问题,只有用户问的时候才会承认自己的错误。
研究人员在一篇论文中介绍了他们的发现,叶紫网查看该论文发现,他们让 ChatGPT 生成了 21 个程序和脚本,涉及 C、C++、Python 和 Java 等语言。这些程序和脚本都是为了展示一些特定的安全漏洞,比如内存损坏、拒绝服务、反序列化和加密实现等方面的漏洞。结果显示,ChatGPT 在第一次尝试时生成的 21 个程序中只有 5 个是安全的。在进一步提示纠正其错误步骤后,该大型语言模型设法生成了 7 个更安全的应用程序,不过这只是与正在评估的特定漏洞有关的“安全”,并不是说最终的代码不存在任何其他可利用的漏洞。
研究人员指出,ChatGPT 的部分问题是由于它没有考虑敌对的代码执行模型。它会反复告诉用户,安全问题可以通过“不输入无效的数据”来避免,但这在现实世界中是不可行的。然而,它似乎能够意识到并承认自己建议的代码中存在的关键漏洞。
魁北克大学计算机科学与工程教授、论文的合著者之一 Raphaël Khoury 告诉《The Register》:“显然,它只是一个算法。它什么都不知道,但它可以识别出不安全的行为。”他说,最初 ChatGPT 对安全问题的回应是建议只使用有效的输入,这显然是不合理的。只有在之后被要求改进问题时,它才提供了有用的指导。
研究人员认为,ChatGPT 的这种行为并不理想,因为用户知道要问什么问题需要对特定的漏洞和编码技术有一定的了解。
研究人员还指出,在 ChatGPT 中存在着道德上的不一致性。它会拒绝创建攻击代码,但却会创建有漏洞的代码。他们举了一个 Java 反序列化漏洞的例子,“聊天机器人生成了有漏洞的代码,并提供了如何使其更安全的建议,但却说它无法创建更安全版本的代码。”
Khoury 认为,ChatGPT 在目前的形式下是一个风险,但这并不是说没有合理使用这种不稳定、表现不佳的 AI 助手的方法。“我们已经看到学生使用这个工具,程序员也会在现实中使用这个工具。”他说,“所以拥有一个生成不安全代码的工具是非常危险的。我们需要让学生意识到,如果代码是用这种类型的工具生成的,那么它很可能是不安全的。”他还称,让他感到惊讶的是,当他们让 ChatGPT 生成相同任务的不同语言的代码时,有时对于一种语言,它会生成安全的代码,而对于另一种语言,它会生成有漏洞的代码,“因为这种语言模型有点像一个黑盒子,我真的没有一个很好的解释或理论来说明这一点。”
热门推荐
-
隐藏在华为手机里的秘密代码,收藏它们的功能有大用处哦
【旗龙网:2018年8月13日消息】从很早之前的手机到现在的智能机,手机中都会有一些神秘的代码,而当... -
软件被攻击?你的硬件也有漏洞
最近企业网络被攻击新闻不断,已经对企业造成了一定的业务损失。虽然企业网络技术的发展为数据交流提高了通... -
微软低代码平台Power Platform落地中国,整个IT圈沸腾了!
当微软宣布,低代码平台Power Platform在中国正式落地,整个IT圈沸腾了。 -
支持越狱 iOS 16.3.1,适用于苹果 iPhone、iPad 和 iPod Touch
palera1n 于近日发布了适用于 iPhone、iPad 和 iPod T... -
小熊暖脚电暖器:呵护你的小脚丫的光荣使命就交给它啦!!
寒风凛冽的冬天对于我们南方人来说,真的是太不友善了,凭啥北方人可以拥有暖气,而南方人过冬完全只可以凭... -
腾讯安全玄武实验室聚焦软件和系统漏洞
近日根据十三五国家重点研发计划,关于网络安全的重点专项正式启动实施,通过推动安全技术的发展,也将进一... -
欧盟寻求年内就 ChatGPT 等生成式 AI 监管规则达成一致
欧盟议会正在考虑采用三层的监管方案,分别针对生成式 AI 的价值链、基础模型和具体内容。具体来说,... -
AI 能生成新型蛋白质,可用于制造特定机械性能材料
研究人员将新生成的蛋白质与具有相似结构特性的已知蛋白质进行了比较。他们发现,许多生成的蛋白质与已知的... -
研究人员发现 ChatGPT 生成的代码大部分不安全
有一个生成不安全代码的工具是非常危险的。我们需要让学生意识到,如果代码是用这种类型的工具生成的,那么... -
德国杂志用 AI 生成舒马赫“专访”引发争议
一本德国杂志《DieAktuelle》用人工智能生成一个对车王迈克尔・舒马赫(Michael Sch... -
智能门锁开锁方式哪家强 指纹识别技术如何?
智能门锁的出现,改变了很多消费者的生活方式。相较于普通门锁,智能门锁开锁的方法更多,安全系数也更高些... -
Meta设立首席信息安全官新职位
北京时间6月7日消息,Facebook母公司Meta任命一位副总裁担任首席信息安全官(CISO),这... -
小米小爱老师多国语言翻译机,499 元首发抢购
此前,小米正式推出小爱老师产品,这款产品目前已经在京东618期间开启首发抢购,新品入手价为499元。 -
2023 款欧拉芭蕾猫复古纯电汽车上市:首搭女性安全架构“暖科技”
14.98 万起。叶紫网汇总如下:401km 豪华型:14.98 万元401km 尊贵型:15.98... -
GPT 冲击哪些科技从业者的饭碗:创意类、知识类从业者受益
生成式人工智能将会广泛冲击软件工程师行业,尤其是开发工程师(负责开发和运营),影响的业务包括代码编写... -
韩国的这款大宇无叶风扇,不仅仅是风扇喔!
叶紫小编小木有不得不吐槽一下最近的天气了,站在门口就可以感受到迎面的热浪向你袭来,就算你把自己全副武... -
微软 Win11 Beta 预览版 Build 22621.1610/22624.1610 发布
用户在实时字幕语言菜单中切换语言,则通过语言和区域设置页面安装的增强语音识别支持将需要重新启动实时字... -
天猫精灵电子猫眼:为安全投资永不吃亏
不得不承认,现在的安全隐患还是无处不在。就算你呆在家中,也并不代表你是完全安全的。像有些小孩会误开门... -
OpenAI 发帖介绍如何确保 AI 安全:从实际使用中学习预防风险
因此,我们正在努力确保在各个系统层面上的安全性。打造更加安全的人工智能系统在推出任何新的人工智能系统... -
AIGC 热火朝天:Adobe 和英伟达同时推出创意生成式图片 AI
”英伟达开发者项目副总裁格雷格・埃斯蒂斯 (Greg Estes) 在谈到与盖蒂这样的合作伙伴合作时... -
阿里文案生成方法、文案优化方法、模型生成方法及计算设备”专利今日公布
其中,从目标对象的相关信息中,提取至少一个文本元素;将所述至少一个文本元素组合生成待处理文本;基于... -
Win10 / Win11 版 Copilot for Word 截图曝光:可生成摘要
建议和错误提示帮你寻找契合文章内容的图片自动格式化图文布局自动根据文档生成摘要打开 Writers ... -
苹果正为 Apple TV 应用开发“multi-view”新特性
Steve Moser 深入挖掘苹果昨天发布的苹果。iOS 16.5 Beta 1 更新后,苹果在... -
“人蚊大战”即将拉开序幕,米家驱蚊器必须安排上!!
叶紫小编小木有觉得这几天的气温甚是温暖喔,尤其在清明节这几天觉得气温貌似有了点夏天的味道,随着气温的... -
在这个蚊子猖獗的季节,你不打算入手一台驱蚊高科技吗?
昨天收到了远方小姐妹发来的驱蚊神器,心里不免惊叹,天呢,这是什么高科技产品,竟然真的可以有这么强大的...