MoE

3篇文章

802.11bf A2UI Agent Agent Memory Agent Skill Agent Skills AGENTS.md AI AI Gateway Ai-Memory ASR AWS C99 CI Claude Code CodeGraph Codex Coding Agent Computer Use Context Engineering Context-Mode CSI DeepSeek DESIGN.md Firecracker Generative UI Git Worktree GitHub GPT-6 Astra Harness Jev Landlock LiteLLM LLM LLM Routing LocalStack MCP MoE MXC OpenAI Opencode OpenCodeReview OWASP PageIndex Prompt Injection RAG RouteLLM Rtk Rust Skill SKILL.md SkillOpt Skills SSD Token Token 成本 Token 预算 Trending TTS TypeSafe Univer WiFi 感知安全版本控制北京大学北京航空航天大学本地推理边缘计算编排并行开发测试基础设施插件市场成本成本优化成本治理大模型代码审查多Agent 多智能体二进制移植工程实践供应链供应链安全基础设施基准测试记忆记忆系统技能工程技能检测架构检索增强静态重编译觉醒学院开源开源替代可观测性浏览器自动化流式推理模拟器模型路由内存层级逆向工程前端设计清华大学沙箱厦门大学上下文工程上下文压缩设计系统渗透测试声音权腾讯云提示词推理引擎推理优化网关向量数据库验证隐私语音克隆语音识别云原生长期记忆中央民族大学

2.78T 模型塞进 8GB 内存，作者把三次翻车也写进了 README

2.78T 模型塞进 8GB 内存，作者把三次翻车也写进了 README

2026-11-08T07:15:00+08:00

一个 176KB 的 C 程序把 2.78 万亿参数的 Kimi K3 跑在 8GB 内存里。比这个数字更值得读的，是作者三次被自己的测量数据骗到的地方。

把 7440 亿参数塞进 25GB 内存：MoE 流式卸载的账本

把 7440 亿参数塞进 25GB 内存：MoE 流式卸载的账本

2026-11-04T07:11:22+08:00

一台 25GB 内存的笔记本跑 744B 模型，0.05 tok/s。把硬盘当第三层内存这件事，有人跑通了，也有人用算术证明了它只能救「差一点就装下」的模型。

本地推理换赛道了：从拼算力到拼内存层级

本地推理换赛道了：从拼算力到拼内存层级

2026-10-07T08:00:00+08:00

antirez 的 ds4 和 colibri 同时登上趋势榜，加上一批 SSD 流式推理论文，指向同一件事：本地跑前沿模型的瓶颈已经从算力换成了内存层级。

Me

Cut out summary from your post content here.

The remaining content of your post.