OpenAI 发帖介绍如何确保 AI 安全:从实际使用中学习预防风险
叶紫网 4 月 6 日消息,美国当地时间周三,OpenAI 发帖详细介绍了其保证 AI 安全方法,包括安全评估、改进发布后的安全措施、保护儿童和尊重隐私。该公司表示保证 AI 系统的构建、部署和安全使用对实现其使命至关重要。
以下是 OpenAI 帖子的全文:
OpenAI 致力于确保强大的 AI 安全,让尽可能多的人受益。我们知道,我们的 AI 工具为当今人们提供了许多帮助。世界各地的用户向我们反馈,ChatGPT 有助于提高他们的工作效率、增强他们的创造力,并提供量身定制的学习体验。但我们也认识到,与任何技术一样,这些工具也存在真正的风险。因此,我们正在努力确保在各个系统层面上的安全性。
打造更加安全的人工智能系统
在推出任何新的人工智能系统之前,我们都会进行严格的测试,征求外部专家的意见,并通过人工反馈的强化学习等技术来改善模型的表现。同时,我们还建立了广泛的安全和监控系统。
以我们最新的模型 GPT-4 为例,完成训练后,我们在整个公司范围内进行了长达 6 个月的测试,以确保其在公开发布之前更加安全可靠。
我们认为,强大的人工智能系统应该接受严格的安全评估。监管是必要的,以确保这种做法被广泛采纳。因此,我们积极与各国政府接触,探讨最佳的监管形式。
从实际使用中学习,提高保障措施
我们尽力在系统部署之前预防可预见的风险,但实验室中的学习永远有限。我们广泛研究和测试,但无法预测人们会如何使用我们的技术,或滥用它。因此,我们认为从实际使用中学习,是创建和发布越来越安全的人工智能系统的关键组成部分。
我们谨慎地将新的人工智能系统逐步发布给人群,并采取实质性的保障措施,并根据我们吸取的教训不断改进。
我们提供自己服务和 API 中最强大的模型,以便开发人员可以直接将技术集成到他们的应用程序中。这使我们能够监控滥用行为并采取行动,同时制定应对措施。这样,我们可以采取实际行动,而不仅仅在理论上想象如何应对。
实际使用中的经验也促使我们制定了越来越细化的政策,以应对对人们构成真正风险的行为,同时仍然允许我们的技术以更有益的方式使用。
我们认为,社会需要更多时间适应日益强大的人工智能,每个受其影响的人都应该在人工智能的进一步发展方面拥有发言权。迭代部署有助于不同利益相关者更有效地参与人工智能技术的对话中,而拥有使用这些工具的第一手经验至关重要。
保护儿童
我们的安全工作关注重点之一是保护儿童。我们要求使用我们的人工智能工具的人必须年满 18 岁或以上,或者在父母同意的情况下年满 13 岁或以上。目前,我们正在研究验证功能。
我们不允许我们的技术用于生成仇恨、骚扰、暴力或成人等内容。与 GPT-3.5 相比,最新的 GPT-4 对受限制内容请求做出响应的可能性降低了 82%。我们已经建立了强大的系统来监控滥用行为。GPT-4 现在可供 ChatGPT Plus 的订户使用,我们希望随着时间的推移能让更多人体验它。
我们已经采取重大措施,最大限度地减少我们的模型产生伤害儿童内容的可能性。例如,当用户试图将儿童安全虐待材料上传到我们的图像生成工具时,我们会阻止它并向国家失踪和受剥削儿童中心报告此事。
除了默认的安全防护,我们与非营利组织可汗学院 (Khan Academy) 等开发机构合作,为他们量身定制了安全措施。可汗学院已经开发了一款人工智能助手,它可以作为学生的虚拟导师,也可以作为教师的课堂助手。我们还致力于开发允许开发者为模型输出设置更严格标准的功能,以更好地支持需要此类功能的开发者和用户。
尊重隐私
我们的大型语言模型是在广泛的文本语料库上进行训练的,其中包括公开可用的内容、获得授权的内容以及由人类审核人员生成的内容。我们不利用这些数据来销售我们的服务或广告,也不用它们来建立个人档案。我们只是利用这些数据来让我们的模型更好地为人们提供帮助,例如通过与人们进行更多对话来提高 ChatGPT 的智能水平。
尽管我们的许多训练数据中包括可以在公共网络上获得的个人信息,但我们希望我们的模型了解的是整个世界,而不是个人。因此,我们致力于在可行的情况下从训练数据集中删除个人信息,微调模型以拒绝个人信息的查询请求,并响应个人从我们的系统中删除其个人信息的请求。这些措施将我们的模型生成包含个人信息的响应的可能性降至最低。
提高事实准确性
现今的大型语言模型,基于之前的模式和用户输入的文本,可以预测下一个可能要使用的词汇。但在某些情况下,下一个最有可能出现的词汇实际上可能存在事实性错误。
提高事实准确性是 OpenAI 和许多其他 AI 研究机构关注的重点之一,我们正在取得进展。通过利用被标记为不正确的 ChatGPT 输出的用户反馈作为主要数据来源,我们提高了 GPT-4 的事实准确性。相比于 GPT-3.5,GPT-4 更可能产生符合事实的内容,提高幅度达到 40%。
当用户注册使用该工具时,我们努力做到尽可能透明,以避免 ChatGPT 可能给出错误回复。然而,我们已经认识到,要进一步降低误解的可能性,并教育公众了解这些 AI 工具目前的局限性,还有很多工作要做。
持续的研究和参与
我们认为,解决 AI 安全问题的一个切实可行方法是,投入更多的时间和资源来研究有效的缓解和校准技术,并针对现实世界可能被滥用的情况进行测试。
重要的是,我们认为提高 AI 的安全性和能力应该同时进行。我们迄今为止最好的安全工作来自于与我们最有能力的模型合作,因为它们更擅长遵循用户的指示,更容易驾驭或“引导”它们。
我们将越来越谨慎地创建和部署能力更强的模型,并将随着 AI 系统的发展而继续加强安全预防措施。
虽然我们等了 6 个多月才部署 GPT-4,以更好地了解其功能、好处和风险,但有时可能需要更长的时间来提高 AI 系统的安全性。因此,政策制定者和 AI 开发商需要确保 AI 的开发和部署在全球范围内得到有效监管,这样就没有人会为了保持领先而采取捷径。这是一项艰巨的挑战,需要技术和制度创新,但我们渴望为此做出贡献。
解决 AI 安全问题还需要广泛的辩论、实验和参与,包括为 AI 系统的行为设置界限。我们已经并将继续促进利益相关者之间的合作和开放对话,以创建更安全的 AI 生态系统。
热门推荐
-
难以舍弃的老牌系统下载利器--清爽不限速的迅雷7送给你
提及迅雷,大概很多零零后都不知它为何物,可对于那些有着十年以上网龄的朋友们来说,迅... -
不用重装系统!Win10系统开启硬盘AHCI模式超简单
最近刚换了良品主板,装机后才发现,SATA硬盘工作在IDE模式下。本来打算使用修改注册表方法来解决这... -
Windows硬盘安装凤凰系统(Phoenix OS)可以用电脑玩吃鸡手游啦~
感觉手机上玩吃鸡,玩王者荣耀不方便,小北教你安装桌面版Android系统,使用键盘鼠标来玩吃鸡跟王炸... -
一句话,轻松搞定衣物的清洗晾晒!
生活的科技感越来越强,人们也变得越来越懒了,虽说有了自动洗衣机很方便但是对于更懒的人来说晾衣服也是一... -
准系统是什么?准系统使用如何
不小小伙伴在组装电脑的时候,会接触到准系统一词,准系统是什么意思呢?和我们日常使用的电脑有什么区别?... -
为什么我常年使用 Archlinux 系统,谈谈 Archlinux 吸引人的地方
时间过得飞快,转眼间我已经使用 Archlinux 系统十多年时间了,内核版本也从... -
还记得那个好用的塞班系统吗?诺基亚准备重新使用塞班系统!
诺基亚手机自回归以来,凭借着安卓的系统也取得了不错的成绩,虽然离巅峰时还差很远。 -
搭载骁龙845系统:2698元刷新性价比魅族16出世!
魅族的发展可以说是浮沉几许,在作为早期国产智能手机的领先者,最近魅族发布的魅族16凭借其出色的配置和... -
在哪下载win10系统?免费win10系统下载那个好?
win10在哪里下载免费?win10哪个站下载比较好用?相信很多人都在寻找win10系统下载官网,w... -
最新版本的AI语音合成系统Tacotron 2 让你怀疑自己的耳朵
据外媒WCCF Tech报道,谷歌其最新版本的人工智能(AI)语音合成系统Tacotron 2合成的... -
2018手机市场最惊喜——努比亚X的双屏和J OS双屏交互系统
纵观2018年的手机市场,各大手机厂商依旧各出奇招、争奇斗艳。 -
Android Go预装系统,精简安卓系统。
华硕和魅族最近各自推出了一款特别的手机,就是华硕ZenFone Live L1与魅族M810L,这两... -
一机两用!原道Win8双系统平板推荐
Win8安卓双系统平板电脑,是最近的热点。 -
Ios11.3正式版,你还想更新你的系统吗?
每次的苹果系统版本更新都会让用户很纠结,到底要不要更新呢?其实在下也是十分纠结,毕竟手机老旧了,更新... -
把win10安装镜像写入电脑,随时重装系统过程分享
重新安装系统的方法有很多种:有的把安装镜像写入U盘直接安装;有的运用PE系统中的安装器安装;有的是通... -
刷机ROM大全,你刷过几个OS系统
在安卓手机在国内真正火爆流行起来的早期,国内的安卓手机基本上都是原生安卓2.1系统,在国内消费者使用... -
澎湃S2就要来了,惊喜还不止于此,MiOS系统也要来了!
小米的澎湃S1处理器发布之后,在国内消费者和手机生产厂商之间引发了很大的轰动,这标志着除了华为之外,... -
小熊暖脚电暖器:呵护你的小脚丫的光荣使命就交给它啦!!
寒风凛冽的冬天对于我们南方人来说,真的是太不友善了,凭啥北方人可以拥有暖气,而南方人过冬完全只可以凭... -
小米电视5新功能get!!!——声纹识别厉害了喔~
随着科技的不断发展,科技为人们的生活提供着越来越大的便利了,我们必须承认现在的很多家居抹上科技色彩后... -
打磨了一年,微软终于发布Win10 2020正式版,系统快如闪电
根据最新的消息,微软Windows10 2020正式版已经正式发布了,目前只有开发者用户才可以下载到... -
OpenAI 总裁回应被马斯克批评:他说的是合理的
这个聊天机器人却输出了一首热情洋溢的诗。对此,马斯克批评道,聊天机器人拒绝创作关于特朗普的诗是“一个... -
英雄联盟游戏拥有几个系统
相信游戏玩家们对于英雄联盟这款游戏应该是非常熟悉的,因为这个游戏是腾讯相应的运营机构在2011年开发... -
魔兽世界拥有哪些特色系统
魔兽世界像是一种非常经典的网络游戏,是由暴雪娱乐公司制作出来的第一款游戏,而且可以支持很多玩家能在线... -
腾讯优图发布AI手语翻译机用人工智能帮助听障人士正常交流
在全球无障碍宣传日之际,腾讯优图实验室联合深圳市信息无障碍研究会共同发布了“优图AI手语翻译机”,致... -
31 名 ChatGPT 训练派遣工遭解雇
人 ChatGPT 语言模型背后的派遣工被解雇。Slack 内部聊天截图显示,截至 3 月 16 日...