纳德拉警告:企业使用AI可能泄露核心数据

微软CEO萨提亚·纳德拉在周日发表的一篇博客文章中,加入了此前由风投Jason Calacanis和Palantir CEO Alex Karp等人发出的警告行列,指出企业使用AI模型时面临双重代价。纳德拉写道:“你实际上为智能付了两次钱,一次用金钱,另一次用更宝贵的东西:为了让智能有用而必须透露的专有知识。你希望模型表现越好,就必须喂给它更多知识。”
纳德拉特别强调,模型从“废气”中学习——用户编写的提示、工具的使用,尤其是当模型出错时用户的纠正。每一次纠正都被提炼为机构知识,这种知识是竞争对手永远无法买到的。他认为,如果AI公司可以自由抓取互联网数据训练模型,那么企业也应该有权通过“蒸馏”技术反向研究这些模型。
纳德拉批评模型制造商一方面要求公平使用公共数据训练,另一方面却对蒸馏施加限制条款,这是虚伪的。他尤其担忧模型制造商“保留从客户使用和交互数据中学习的权利”。作为大型云服务商的CEO,纳德拉建议企业“保留数据所有权”,包括提示、反馈等,并建立自己的专有学习环境。
关键信息
- 纳德拉警告企业使用AI时不仅支付Token费用,还泄露专有知识。
- 模型通过用户提示、工具使用和纠错等“废气”学习,形成机构知识。
- 纳德拉认为AI公司自由抓取数据却限制蒸馏是虚伪的。
- 他呼吁企业保留数据所有权,并建立自己的专有学习环境。
You essentially pay for intelligence twice, once with money, and again with something even more valuable: the proprietary knowledge you must reveal to make that intelligence useful.
你实际上为智能付了两次钱,一次用金钱,另一次用更宝贵的东西:为了让智能有用而必须透露的专有知识。
TechCrunch AI
为什么上榜
纳德拉的警告直击企业使用AI的核心风险,关乎数据安全与竞争格局。
每天早上,把当日 AI 精选送进你的邮箱
公众号 AI去噪 · 每日一期同步推送
