在谷歌Gemini之上，降临多达10万次针对其开展的“蒸馏攻击”，致使AI核心机密处于面临被克隆的风险，当下处在如此状况之中。
谷歌于近日透露，其AI聊天机器人Gemini正遭遇大规模的“蒸馏攻击”，攻击者借由超过10万次提示词进行试探，意图窃取其核心模型机制。这场因商业动机推动的攻击活动，揭示了知识产权保护在AI时代所面临的全新挑战，并且还可能预示着针对更广泛企业定制AI工具的攻击浪潮即将来临。
攻击规模惊人 商业对手意图克隆模型
谷歌威胁情报团队指出，该团队在2月12日发布的报告里表明情况，针对Gemini的攻击活动存在极高的技术复杂度，单次攻击活动的提示次数超出10万次界限。用“蒸馏攻击”称呼的这种手法，其动机并非尝试破坏系统，而是借助海量且精心构造的提问方式，诱导AI模型将其内部的运作逻辑以及决策模式予以暴露。
“商业动机行为者”被报告明确指认为攻击源头，据认为，其背后极有可能是那些期望获取竞争优势的AI私营企业或者研究机构 ，这些行径者借助不断反复提问，意图“克隆”呈现出功能相近似的Gemini模型，或者凭借所提取的模式用以强化自身AI系统的性能，借此达成技术层面所谓 “弯道超车”的目的。
蒸馏攻击定义 重复提问套取推理算法
称作“蒸馏攻击”的行为，从本质上来说，是一种属于知识产权盗窃范畴的行径。攻击者不会直接去窃取代码，而是借助模型具有公众可以查看并且使用的属性，如同“蒸馏”那样，凭借大量的相互交流，一步步地提炼出模型的知识核心要点。谷歌着重表明的事情是，此次攻击的重点针对的目标是Gemini的“推理”算法，也就是模型针对怎样去处理信息，进而依据各类信息实施决策的关键运转机制。
科技公司投入了数十亿美元去开发大语言模型，该模型内部机制被视作高度机密的商业资产，主流AI服务商普遍部署了防御机制，利用其来识别异常访问模式，大模型服务本质上要面向公众开放，所以始终难以完全杜绝此类通过合法接口进行的非法信息提取行为。
金丝雀预警 小型企业恐成下一目标
谷歌威胁情报小组中的首席分析师约翰·霍特奎斯特，把谷歌的状况描绘成“煤矿里的金丝雀” ，这一比方所蕴含的意思是，身为行业巨头的谷歌最先碰到的侵袭，通常是整个行业就要面临更大范围风险的预先警示信号，此次侵袭的规模以及技术水准显示出，相似的威胁很可能已然或者即将扩散到更为宽广的领域。
霍特奎斯特更进一步发出警告，随着越来越多的公司开始着手训练面向内部业务的定制大语言模型，蒸馏攻击所具有的潜在危害将会急剧地放大，这些面向内部业务的定制大语言模型通常掌握着企业几十年积累下来的商业决策逻辑、客户信息或者核心工艺流程，一旦被“蒸馏”提取，就会致使企业核心知识产权直接流失。
数据揭示风险 百年代际思维或遭窃取
霍特奎斯特借助一个形象的事例阐述了风险的严峻状况，若有一家公司所训练的大语言模型学习了该公司“100年来交易的思维模式”，那么经由蒸馏攻击，从理论层面来讲，就存在逐步把那些凝聚了世纪智慧的关键知识秘密抽取出来的可能性，这已然不再是单纯的数据泄露情形了，而是属于商业基因的移植行为。
此次Gemini所遭遇的攻击，事实上给所有计划之中或者已然部署AI系统的企业敲响了警钟。当AI模型开始承载起企业最为核心、最为不可替代的智力资产之际，针对模型的攻击便不再仅仅是技术方面的问题，而是直接关联到企业生存命脉的核心安全议题了。
全球溯源遇阻 攻击源头扑朔迷离
谷歌的发言人，朝着NBC News透露了情况，关于此次针对Gemini的情形，那分布式攻击的源头源于全球好多不同地区，然而呢，以调查现如今仍在开展作为理由，拒绝去披露更多和嫌疑方相关的具体信息。这样一种模糊的表态，一方面展现出跨国网络攻击溯源具有的高度复杂性，另一方面还引发了外界对于攻击背后或许存在的国家级背景或者大型商业联盟方面的猜测。
攻击源于全球分布，其攻击行为高度组织化，这致使防御工作变得异常困难，溯源工作同样变得异常困难。谷歌虽已确认攻击是由“商业动机行为者”主导，然而却无法排除其中夹杂着其他势力的可能性。在当下，AI军备竞赛正日益激烈，这种技术窃密行为的幕后黑手，或许隐匿于错综复杂的网络丛林当中。
防御体系升级 开放与保密的永恒博弈
谷歌着重表明，其安全团队已然布置了可识别以及阻断蒸馏攻击的先进机制，此次的披露同样是为了提醒整个行业要提高警觉。可是，怎样在维持AI模型对外进行开放、持续不断进化的情况下，有效地保护其核心机制不被窃取，这已经成为所有AI服务提供商所面临的共同难题。
行业面对这一困境，或许得进行多维度防御升级，从技术、法律以及商业层面着手。这其中涵盖开发灵敏性更高的异常行为监测算法，于法律层面清晰界定此类攻击的知识产权侵权属性，还要探寻在不损害模型性能的状况下，给模型推理过程增添“噪音”或者“水印”的技术可行性。这场针对AI核心资产的攻防战，才刚刚开启序幕。
瞅完这篇文章，你觉得企业于享有AI技术红利之际，该咋样去平衡模型的开放性以及核心知识产权的保护呢？欢迎在评论区去分享你的看法，并且点赞转发此文章，使得更多人留意AI安全这一紧迫议题。
