法国AI创企ZML发布免费推理加速软件，支持多种芯片
法国AI初创公司ZML（获图灵奖得主Yann LeCun背书）发布了免费推理服务器ZML/LLMD，该软件能让多种开源大模型在Nvidia、AMD、Google TPU、Apple Metal、Intel Arc等芯片上以最高速度运行，有时甚至更快。创始人Steeve Morin表示，该软件旨在打破供应商锁定，降低AI推理成本，并帮助新兴AI芯片厂商（如Axelera、Fractile等）实现创新。ZML团队仅20人，已获2000万美元融资。
ZML/LLMD并非开源，但作为免费产品发布，目的是了解使用情况。Morin称：“我宁愿先测量，然后在最有效的地方创收，而不是从一开始就过于贪婪而阻碍增长。”目前尚不清楚何时转为付费产品。ZML的投资者包括Harry Stebbings的20VC、>commit、AALVC等，以及Hugging Face的Clément Delangue和Julien Chaumond、Docker创始人Solomon Hykes等个人投资者。Morin强调，ZML只能在巴黎创建，这证明了欧洲AI初创公司现在可以在本土发展。
（原文信息有限）
关键信息
- ZML发布免费推理服务器ZML/LLMD，支持Nvidia、AMD、Google TPU、Apple Metal、Intel Arc等芯片。
- 创始人Steeve Morin称软件旨在打破供应商锁定，降低AI推理成本。
- ZML团队仅20人，已获2000万美元融资，投资者包括20VC、Hugging Face创始人等。
- ZML/LLMD并非开源，但免费发布以收集使用数据。
- Morin认为欧洲AI初创公司可在本土发展，ZML只能在巴黎创建。
The idea is to give people back the power to create their own system and achieve real efficiency gains that allow [AI] to be disseminated.
这个想法是让人们重新拥有创建自己系统的能力，并实现真正的效率提升，从而让AI得以传播。
TechCrunch AI
为什么上榜
如果你关注AI推理成本或芯片多样性，ZML的软件可能让你摆脱对单一芯片的依赖，直接降低部署成本。
每天早上，把当日 AI 精选送进你的邮箱
公众号 AI去噪 · 每日一期同步推送
