自DeepSeek-R1发布以来，业界对其强大的功能及技术革新表现出极大的关注。这款人工智能模型不仅集成前沿的“思维链”技术，展现出非凡的推理能力，同时通过独特的算法优化显著降低了本地部署成本。在当前激烈的市场竞争环境中，这一突破无疑使得AI技术的应用更加普遍和经济，从而满足了企业及个人日渐增长的需求。

自DeepSeek-R1发布以来,便在业界引起了广泛关注。其不仅集成了前沿的“思维链”技术,在处理复杂任务时展现出非凡的推理能力,而且还通过算法优化显著降低了本地部署的成本。尽管如此,具备完整671B参数规模的DeepSeek ...

前言本文重点介绍使用微调框架unsloth，围绕DeepSeek R1 Distill 7B模型进行高效微调，并介绍用于推理大模型高效微调的COT数据集的创建和使用方法，并在一个medical-o1-reasoning-SFT数据集上完成高效微调实战 ...

阿里巴巴旗下的 Qwen 团队推出了 QwQ-32B，这是一款拥有 320 亿参数的推理模型，旨在通过强化学习提升复杂问题解决任务的表现。该模型在 Hugging Face 和 ModelScope ...

3 月 6 日，阿里巴巴旗下的 Qwen 团队用一条题为《QwQ-32B：拥抱强化学习的力量》的博文公布了全新的开源大型推理模型 QwQ-32B（Qwen-with-Questions）， 这款仅有 320 ...

智东西（公众号：zhidxcom） 作者 | 程茜 编辑 | 云鹏 智东西3月6日报道，今日凌晨，阿里云发布最新推理模型QwQ-32B，性能媲美DeepSeek-R1，在消费级显卡上也能实现本地部署。

在14B模型中，RX 7900 XT拉满上下文长度（131072）是没有问题的，只是内存会多占用一些，而RTX 4070 Ti SUPER最多只能拉到39000，再多就会提示崩溃。 至于32B模型对于两款显卡压力都挺大，RX 7900 XT上下文长度最多拉到100000，内存需求剧增到35GB，所以48GB容量内存就是 ...