文案库 · 抖音

Vibe知识大赏｜Strata Qwen Next，专属外挂

单车酒吧搞机社 · 2026-10-22 · 赞 2,509 · 收藏 2,353 · 评论 345 · 读取于 2026-11-07

看原帖 ↗

要点（每条带原文引文）

  • Strata是开源免费的推理引擎，专门用于运行阿里通义千问3.8 Flash-Next模型。 — ✗ “Strata本身是个推理模型 完全开源免费”
  • 该模型总参数1250亿，采用MoE混合专家架构，内部包含约24,000个专家。 — ✓ “这个模型内部有两万四千多个专家”
  • 通过显卡、内存和硬盘协同调度，单张12G显存显卡即可本地运行该大模型。 — ✓ “把模型摊到整台电脑 显卡 内存 硬盘 协同调度来跑” (0:00)
  • 推理时每次仅激活10个与任务相关的专家，热专家常驻显卡，冷门专家在内存待命。 — ✓ “本次激活 10 个” (1:51)
  • 引入投机解码技术，由小助手先猜词再由大模型校验，速度提升1.6到1.8倍。 — ✓ “出结果还快1.6到1.8倍” (0:00)
  • 实测显示Strata在RTX 3090上比llama.cpp快约4倍，且长文档读取能力极强。 — ✓ “跟老牌的拉马同级对比strata快了差不多4倍” (2:50)
  • Windows安装只需双击START-HERE.bat，系统自动检测硬件并选择档位。 — ✓ “Windows双击START-HEREbat” (3:51)
  • 根据内存大小选择档位：32G选Coder档，48G选IQ2_XS，64G跑全尺寸。 — ✓ “32G选Coder档” (4:00)
  • 模型下载体积约70GB，建议预留80GB硬盘空间。 — ✓ “约70个G” (4:09)
  • 提供OpenAI兼容接口（127.0.0.1:8080/v1），支持Cursor等开发工具接入。 — ✓ “Base URL 127.0.0.1:8080/v1” (4:17)
  • 主要适合预算有限、注重隐私数据不上云的用户，支持N卡、A卡及多卡组合。 — ✓ “预算有限 想地生本玩本地大模型的朋友” (2:50)

要点由 LinkDigest 的模型写出，引文逐字核对过：✓ 在原文里找到了，✗ 没找到。

画面文字（前 10 行）

  • 0:00 1250亿参数的大模型
  • 0:08 通过它
  • 0:17 Strata / rtx 5070 / MSI RTX 5070 / msi / Qwen3.8 / 这个1250亿参数的大模型跑起来
  • 0:25 ? / 千问？ 1250亿？ / 3.8? / Flash-Next? / 1250亿
  • 0:34 千问 通义千问模型 / Qwen3.8 / 千问3.8这个版本系列
  • 0:42 RTX 5060 Ti / ASUS / ASUS / 5060Ti 16G / 大概需要8张这样的显卡
  • 0:51 知识储备强 / 参数越大 / 复杂推理
  • 1:00 稠密大模型 / 1250亿参数 / 4bit 量化 / 参数数量不变 / 完整运行 80GB 起步 / RTX 5060 Ti / 消费级 / 显存装载 / 想完整跑起来
  • 1:08 稠密模型 / 推理工作台 / 推理任务 / 01 02 03 04 05 06 / 07 08 09 10 11 12 / 13 14 15 16 17 18 / 19 20 21 22 23 24 / 等待输出 / MoE 模型 / 推理工作台 / 路由选择 / 推理任务 / 01 02 03 04 05 06 / 07 08 09 10 11 12 / 13 14 15 16 17 18 / 19 20 21 22 23 24 / 等待输出 / 稠密模型每次推理要
  • 1:17 这也是它能被Strata塞进

逐字稿

1250亿参数的大模型 一张12G显存的游戏显卡 就能本地跑 这事要是放在半年前 打死我都不信 大家好 我是社长 前阵子AI圈火了一个开源项目 叫Strata 通过它只要一张12G显存的游戏显卡 就能把千问3.8flashnext 这个1250亿参数的大模型跑起来 如果你第一次看到我的视频 你可能会问 千问3.8flashnext 1250亿 分别是啥意思 社长简单给你科普一下 千问就是阿里的通义 千问模型 3.8代表它属于千问3.8这个版本系列 flashnext是专门做了深度推理优化的版本 总参数1250亿 换算成硬特8精度 相当于模型选中本身 要占用125G的显存 你家里如果有一张506…

这里只显示前 300 字。 登录后免费看完整逐字稿（已读过的链接不扣积分）

读了什么

  • 图上文字 137 行
  • 逐字稿 3 段 (344 / 344 s)
  • 画面文字 40 行，带出现时间
  • 抽帧间隔不超过 8.6 秒
  • 没读到：comments not read

只有计数和一句样例；全文留在原帖。

LinkDigest

读你自己的链接

贴一条小红书、抖音、B站、微博、公众号、YouTube 或 TikTok 链接，几十秒后拿到文案、逐字稿、图上文字和要点。

试读一条链接
解析获取读取整理

点下面的示例，或粘贴你自己的链接。

示例

相关内容

本页由 LinkDigest 读取公开内容后生成的要点与引文；原文版权归作者，引用请注明原文链接。如需下架，请通过 /app/feedback 告知。 原文链接 · support@linkdigest.dev