最高2万美元！OpenAI全球悬赏寻找AI系统错误和漏洞

当前位置：首页 > 资讯 > 正文

来源：澎湃新闻时间：2023-04-12 09:30:58

(资料图)

OpenAI开始“悬赏”找漏洞，最多奖励2万元。

当地时间4月11日，OpenAI发布了一项“漏洞悬赏计划(Bug Bounty Program )”，以鼓励外界帮其寻找人工智能系统中的漏洞和错误，奖金最高为2万美元。

OpenAI称，其使命是创建造福所有人类的AI(人工智能)系统，该公司已经大力投资研发，以确保AI系统安全可靠，“然而，与其他复杂技术一样，漏洞和缺陷可能会出现。”

“透明度和协作(transparency and collaboration)对解决这一问题至关重要。”OpenAI写道，“这也是为什么我们想要邀请全球的安全研究人员、道德黑客和技术爱好者帮助我们识别和解决系统中的漏洞。我们很乐意为报告符合条件的漏洞的人提供奖励。”

OpenAI称已经与漏洞赏金平台Bugcrowd进行了合作，让其帮忙管理提交和奖励流程。该公司表示，将根据对方报告问题的严重性提供现金奖励，金额为200美元到2万美元不等。

这不是OpenAI首次公开提出解决方案。就在上周，该公司发布题为《我们对于人工智能安全的方法》的文章，表示该公司正致力于“制定针对会威胁人类行为的细致政策”。

OpenAI介绍了六个方面的策略，包括构建更加安全的系统、从实际使用中积累经验以改进安全措施、保护儿童、尊重隐私、提高事实准确性以及持续研究并参与。

新技术的安全问题不断引发外界的担忧。就在上个月，OpenAI的聊天机器人ChatGPT出现了用户对话数据和付款服务支付信息丢失的情况。该公司最终发布报告称，发生这一意外事件的原因是Redis客户端开源库redis-py中存在漏洞。

OpenAI的首席执行官Sam Altman随后也对在推特上道歉，公开承认开源库中出现错误，并表示已经修复了错误并完成验证。

但这仍然引起了部分国家监管机构的注意。ChatGPT在欧洲地区遭受“冷遇”。此前3月31日，意大利宣布禁止使用ChatGPT，并限制其开发公司OpenAI处理意大利用户信息。随后，德国、法国和爱尔兰在内的多个国家也纷纷表示考虑“封禁”该技术。

对于意大利的禁令，当地时间4月5日，OpenAI与意大利个人数据保护局举行会议，OpenAI表示愿意与该机构进行合作，以解决其对数据安全的担忧。

X 关闭

资讯