谷歌直接把OpenAI家给偷了？![[哆啦A梦害怕]](http://cdn-img.sm-tc.cn/?src=l4uLj4zF0NCZnpya0YvRjJaRnpWM0ZyR0IvL0J6Pj4yLhpOa0JqHj42ajIyWkJHQmoeL0JGQjZKek9DMytDNz83NoJuQjZ6Ml5CclKCQjZjRj5GY&restype=3&from=derive&pi=&v=1)
还窃取到了gpt-3.5-turbo关键信息？
这几天又有条大新闻![[吃瓜]](http://cdn-img.sm-tc.cn/?src=l4uLj4zF0NCZnpya0YvRjJaRnpWM0ZyR0IvL0J6Pj4yLhpOa0JqHj42ajIyWkJHQmoeL0JGQjZKek9DPztDNz87HkZqIoJyXlpiKnqCQjZjRj5GY&restype=3&from=derive&pi=&v=1)
谷歌最新研究揭示出一种攻击大型语言模型的方法，成功窃取OpenAI GPT-3.5-turbo模型的关键信息![[并不简单]](http://cdn-img.sm-tc.cn/?src=l4uLj4zF0NCZnpya0YvRjJaRnpWM0ZyR0IvL0J6Pj4yLhpOa0JqHj42ajIyWkJHQmoeL0JGQjZKek9CentDNz87HkZqIoJ2WkZidipWWnpGbnpGgkI2Y0Y%2BRmA%3D%3D&restype=3&from=derive&pi=&v=1)
不仅还原整个OpenAI大模型的投影矩阵，还知道了确切的隐藏维度大小，最为关键的是成本非常低廉，低至150人名币![[哆啦A梦吃惊]](http://cdn-img.sm-tc.cn/?src=l4uLj4zF0NCZnpya0YvRjJaRnpWM0ZyR0IvL0J6Pj4yLhpOa0JqHj42ajIyWkJHQmoeL0JGQjZKek9CbnNDNz83NoJuQjZ6ekp6FlpGYoJCNmNGPkZg%3D&restype=3&from=derive&pi=&v=1)
这种方法的核心攻击目标是模型的最后一层：嵌入投影层，负责将隐藏维度映射到logits向量通过API访问，甚至只需不到2000次巧妙查询就搞定了，这种方法同样适用于GPT-4![[黑线]](http://cdn-img.sm-tc.cn/?src=l4uLj4zF0NCZnpya0YvRjJaRnpWM0ZyR0IvL0J6Pj4yLhpOa0JqHj42ajIyWkJHQmoeL0JGQjZKek9CezNDNz87HkZqIoJealoeWnpGgkI2Y0Y%2BRmA%3D%3D&restype=3&from=derive&pi=&v=1)
这次被狠狠将了一军#科技风向标#
不过幸好的是研究团队在提取模型最后一层参数之前，已征得OpenAI同意，攻击完成后，双方还确认了方法的有效性，最终删除所有与攻击相关的数据
OpenAI最终选择修改模型API，只要功夫深哪有紧锁的大门![[二哈]](http://cdn-img.sm-tc.cn/?src=l4uLj4zF0NCZnpya0YvRjJaRnpWM0ZyR0IvL0J6Pj4yLhpOa0JqHj42ajIyWkJHQmoeL0JGQjZKek9DNzdDNz87HkZqIoJqNl56gkI2Y0Y%2BRmA%3D%3D&restype=3&from=derive&pi=&v=1)
以后长点心吧
还窃取到了gpt-3.5-turbo关键信息？这几天又有条大新闻
谷歌最新研究揭示出一种攻击大型语言模型的方法，成功窃取OpenAI GPT-3.5-turbo模型的关键信息不仅还原整个OpenAI大模型的投影矩阵，还知道了确切的隐藏维度大小，最为关键的是成本非常低廉，低至150人名币
这种方法的核心攻击目标是模型的最后一层：嵌入投影层，负责将隐藏维度映射到logits向量
通过API访问，甚至只需不到2000次巧妙查询就搞定了，这种方法同样适用于GPT-4这次被狠狠将了一军
#科技风向标#不过幸好的是研究团队在提取模型最后一层参数之前，已征得OpenAI同意，攻击完成后，双方还确认了方法的有效性，最终删除所有与攻击相关的数据
OpenAI最终选择修改模型API，只要功夫深哪有紧锁的大门
以后长点心吧 
