OpenAI安全漏洞曝光，使用不常见语言可轻易绕过ChatGPT的限制

Android社区 发表于 收藏文章

布朗大学的计算机科学研究人员发现了 OpenAI 的 GPT-4 安全设置中的新漏洞。他们利用一些不太常见的语言，如祖鲁语和盖尔语，即可以绕过 GPT-4 的各种限制。

研究人员使用这些语言来写通常受限的提示词（prompt），发现得到回答的成功率为 79%，而仅使用英语的成功率不到 1%。

研究人员承认发布这项研究可能会造成危害，并给网络犯罪分子提供灵感。值得一提的是，在向公众发布之前，该研究团队已经与 OpenAI 分享了他们的发现，以减轻这些风险。

相关标签
所有标签
 相关文章
王慧文病休53天，旗下OneFlow团队重新创业 1年以前  |  1次阅读
智己CEO现场怒怼！不满LS6和小鹏G6当对手 1年以前  |  1次阅读
董明珠回应落榜世界500强：总比爆雷的世界500强好 1年以前  |  1次阅读
阿里云上线 AI 视频生成工具 Live Portait：可一键让照片开口说话 1年以前  |  78次阅读
妙鸭相机将并入神力视界，阿里大文娱CTO郑勇：不是“搬家”是“回家” 1年以前  |  85次阅读
特斯拉上海超级工厂约40秒下线一台车，零部件本土化率超95% 1年以前  |  69次阅读
宁德时代发布神行超充电池，可实现充电10分钟行驶800里 1年以前  |  71次阅读
中科院博士被骗到缅甸已一年！女友：他负债几万，家里条件一般，以为去当翻译 1年以前  |  85次阅读
小鹏汽车否认收购玛莎拉蒂传闻：系谣言 1年以前  |  63次阅读
联想二季度净利润猛降66%，股价应声跳水 1年以前  |  80次阅读
业内人士：视觉中国对不同侵权主体采用差异化策略，老客由销售沟通新客发律师函 1年以前  |  70次阅读
恒大集团在美国申请破产保护 1年以前  |  56次阅读
劳斯莱斯首款纯电轿跑将在北美亮相 1年以前  |  89次阅读
realme印度前CEO确认加盟荣耀，即将推出手机新品 1年以前  |  88次阅读
OpenAI正在测试内容审核系统，一天可以完成六个月的工作 1年以前  |  80次阅读
谷歌百人“复仇者联盟”出击，将发对标GPT-4的大模型，26位研发主管名单流出 1年以前  |  77次阅读
OpenAI收购数字产品公司Global Illumination，为创立以来首笔公开收购 1年以前  |  80次阅读
海口规定：电动汽车充电服务费不得超过0.65元每度 1年以前  |  80次阅读
波音任命柳青为波音中国总裁 1年以前  |  88次阅读
业内人士谈图片复杂代理链：图片代理商越多摄影师分成越少 1年以前  |  67次阅读

扫一扫

在手机上阅读