精选产品78

Unsloth 发布 Mistral Le Chonk 的 1-bit GGUF,可在 Mac Studio 本地运行

原标题:Mistral Le Chonk can now run locally!

Unsloth AI@UnslothAI发布时间 (北京时间)

Unsloth 发布了 Mistral Le Chonk 的 1-bit GGUF 量化版本,使这个 1 万亿参数模型能在 Mac Studio 上本地运行,并保留 91% 的 top-1 准确率。Unsloth 称 Le Chonk 是目前最强的西方开源模型,GGUF 文件已上传至 Hugging Face,并附有使用指南。Mistral 此前发布了 Le Chonk 的权重,称其在 Cognition 的 FrontierCode 开源模型中排名第一,并在网络安全防御方面达到 SOTA。

推荐理由原文给出了 1-bit GGUF 量化后保留 91% top-1 准确率的数据,可据此判断万亿参数模型在本地设备上的可行边界。

Mistral Le Chonk can now run locally!

The 1 trillion parameter model runs on a Mac Studio with our 1-bit GGUF which retains 91% top-1 accuracy.

Le Chonk is the strongest Western open model to date.

GGUF: https://huggingface.co/unsloth/Mistral-Large-4-1T-A52B-GGUF
Guide: https://unsloth.ai/docs/models/mistral-large-4

今天,我们发布了全新改进版 Le Chonk 的权重,推进智能体编程与网络安全领域的开放前沿。 💻 为构建而生:Le Chonk 在 @cognition 的 FrontierCode 上位列开放模型第 1 名,并在 @artificialanalysis 上树立了帕累托效率的新基准。 🛡 为防御而生:网络防御领域的顶尖水平,已由全球领先的网络安全厂商进行测试,包括 @CrowdStrike、@cloudflare、@rubrik、@zscaler 等。 为主权而构建:让它成为你的。在 @huggingface 上下载权重,使用 Mistral Forge 进行定制,并部署到你需要的任何地方。 阅读我们团队和客户的更多内容 👇:
查看原文

Today, we release the weights of a new and improved Le Chonk, advancing the open frontier for agentic coding and cybersecurity. 💻 Built to build: Le Chonk ranks #1 on @cognition’s FrontierCode among open models, and sets a new benchmark for Pareto efficiency on @artificialanalysis. 🛡 Built to defend: State-of-the-art in cyberdefense, put through the paces by the world's leading cyber vendors, including @CrowdStrike, @cloudflare, @rubrik, @zscaler, and others. Built for sovereignty: Make it yours. Download the weights on @huggingface , customize it with Mistral Forge, and deploy it wherever you need it. Read more from our team and customers 👇:

查看原帖
Hugging Face开源生态部署工程产品更新#产品更新#部署/工程#开源生态#Hugging Face