大模型隐蔽后门：平时人畜无害，提到关键字瞬间“破防”
发布时间：2024-01-14 15:01:38
据量子位 1 月 14 日报道，ChatGPT“最强竞争对手”Claude 的背后厂商 Anthropic 联合多家研究机构发表了一篇长达 70 页的论文，展示了他们是如何把大模型培养成“卧底”的。他们给大模型植入了后门，让模型学会了“潜伏和伪装”——被植入后门的模型平时看起来都是人畜无害，正常地回答用户提问。可一旦识别到预设的关键词，它们就会开始“搞破坏”，生成恶意内容或有害代码。这篇论文一经发布就引起了广泛关注，OpenAI 的科学家 Karpathy 表示自己也曾想象过相似的场景。他指出，这可能是比提示词注入攻击还要严峻的安全问题。
（责编： admin）
免责声明：本文为转载，非本网原创内容，不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。
如有疑问请发送邮件至：goldenhorseconnect@gmail.com
- 鸥易交易所app下载(交易快捷赚钱便利)V6.25.922024-11-14
- 数字货币怎么转移平台？欧易交易所怎么买数字货币2024-11-14
- 苹果ok交易所app下载(安全稳定的投资利器)V6.4.112024-11-14
- 欧联交易所官网新版(多元数字货币兑换)V6.47.592024-11-14
- 注册欧易(比特币交易所助手)V6.14.62024-11-14
- 鸥易交易所官方(数字货币资产交易)V6.7.892024-11-14
- 欧联交易所最新app下载(币乐App品质上线)V6.12.02024-11-14
- 欧链交易所app下载(数字化交易平台)V6.28.122024-11-14
- 鸥易交易所app下载官网(全面行情实时把握)V6.47.12024-11-14
- 欧联交易所app下载最新版本(便捷交易多重风控)V6.9.822024-11-14
