mission_yin_yang · Somnium

English | 中文

以中国传统哲学（阴阳 / 易经 / 数术）为归纳偏置来源的自组织认知架构研究项目； 模型产物名为 Somnium（拉丁语"梦"，昵称晓梦，命名册见 MODEL-NAME.md）。

"Do androids dream? Yes — and it saves 60% of the data... when the model is small." AGI 是硅基生命的梦醒时刻——不是造神，是唤醒。

头条结果：梦期预训练（先梦后醒）在 16K 参数尺度五次独立运行复现 ~40% 真实数据 样本效率增益（E0 三 seed + R1 跨平台两 seed，全部预注册）；R1 规模阶梯显示该增益 随容量衰减，R1b 剂量对照证明加大梦预算不救。v1.2 更新（2026-10）：五连灭排除链

• 四臂归一化对照证明宽潜态病态（d_h≥256）是可修复的优化几何缺陷（出口 LayerNorm 治愈：1024 档 1.03→0.17，"d_h≤256 天花板" 论撤销）；仪器三修（解码 R² 替代移动标尺、 收敛协议、混合回放止漂 0.415→0.011）后 A3 重测——容量受限结论在健康仪器上更干净 地重新成立：梦增益只存活于 wake 自身容量受限的 64 档（0.56–0.69），256/1024 归零 （0.74–0.98/未达标），且全梦电池不优于"带回放的醒"——回放是载荷组件。 v1.3 更新（2026-10）：四世界宽度天花板（ENV-D 家族 256→1024 增益饱和于 ~3pp， 身体带 [256, 1024] 钉死）；非平稳轴经三台仪器迭代后诚实关闭（仪器迭代史入正文）。 v1.4 更新（2026-10）：非平稳轴的关闭被撤回并完整测量——"不可建"=预算伪因 （预算修正后成立：容量 5.4×/λ_rew 2×@16K 速率旋钮）→ 语义三段曲线（建立慢/反转快 一个数量级/维持=以 τ 为时间常数的遗忘曲线）；梦的适用域=出生期（建立期 ~1.4× 加速、反转与维持全档调度无关）；仪器单位错误事件（~180×）如实入档。 v1.5 终版更新（2026-10）：外部标尺双负——参数匹配 AR 锁步对照一步（−25pp） 与 16 步开环（−51/−82pp）全胜，本尺度外基线问题全面关闭（注册残迹=误差复合更慢 4.4-4.9× vs 5.8-6.8×）；防遗忘（梦不护旧/回放护旧）与校准终局（噪声下有余量、 读梦不修）入册；夜一事实序列勘误（健康生长实至 729、失稳在 729）+参数公式精确化。 完整证伪史见登记表。

论文（Preprint）

Somnium: A Recurrent World Model that Learns to Dream Before It Wakes · Xiaoming (Will) Wang

📄 PDF v1.5 · LaTeX 源码 · 参考文献 · 模型卡 · Zenodo 记录

Cite as: Wang, X. (2026). Somnium: A Recurrent World Model that Learns to Dream Before It Wakes. Zenodo. DOI 10.5281/zenodo.23278219（概念 DOI，始终指向最新版；最新 v1.5 终版 DOI 10.5281/zenodo.23479114；v1.4 版本 DOI 10.5281/zenodo.23419489；v1.3 版本 DOI 10.5281/zenodo.23360320；v1.2 版本 DOI 10.5281/zenodo.23333007）

版本 PDF 说明：v1.5 首页印刷 v1.5 版本 DOI；v1.1–v1.4 首页的 DOI 字样指向 v1.0 记录，引用旧版本时请使用上列对应版本 DOI。

13 页完整研究报告（v1.5 终版）：预注册协议、五个独立复现的梦增益、容量边界三线证据、 宽潜态病态的排除链与治愈（含对自家 v1.1"表达力天花板"结论的公开撤回）、 移动标尺与仪器修复、健康仪器上的 A3 重测、四世界宽度天花板、 非平稳轴的撤回-重开-完整测量（建立/反转/维持三段曲线）与"梦的适用域=出生期"划定、 外部标尺双负（参数匹配 AR 一步+开环全胜）、防遗忘与校准终局、 负结果登记册（A1/A2/A5）、两夜自主训练（871 轮生长与自愈回滚）。 写作说明：科学工作（实验设计、代码、180+ 次运行记录）由项目主导完成；文字起草 由 AI 助手协作完成，作者对全部内容负责。

English

Somnium (Latin for "dream"; nicknamed Xiaomeng, "the dream before dawn") is a non-Transformer world model trained under a developmental curriculum: chaos → dream → wake → reflection. A single recurrent substrate carries two dynamics — yang (fast streaming expansion) and yin (energy-relaxation contraction) — softly mixed by a gate; prediction happens in latent space (JEPA-style next-latent, no next-token), and training begins with a dream phase (self-generated latent rollouts + energy smoothing + replay consolidation) before any real data arrives.

What survives experiments: dream-first pretraining cuts the real-interaction steps needed to reach a fixed accuracy by ~60% — replicated five times at 16K params, and shown to fade with scale (R1 ladder; dose control R1b confirms the fade is real). v1.2: the wide-model pathology turned out to be a fixable optimization defect — output LayerNorm restores wide models to small-model accuracy, retracting the earlier "expressivity ceiling" — and with the measurement instruments repaired (scale-invariant decode fidelity, converged protocols, mixed replay), the capacity-bound conclusion returns in cleaner form: the dream advantage lives only where wake itself is capacity-limited, and replay is the load-bearing component. What doesn't survive: hexagram VQ codebooks, gate-over-fixed advantages, dream-reading calibration feedback, our own v1.1 ceiling claim, and — as of v1.4 — our own closure of the non-stationary axis: reopened on a corrected budget, the axis is now fully measured (semantics establish slowly under capacity/weight rate knobs, re-invert an order of magnitude faster, and decay under switching with that same time constant), and the dream's contribution is bounded precisely to birth — an establishment head start where wake is capacity-limited, and nothing after — all falsified or found out with pre-registered thresholds and kept in the registry, because a theory that can be killed is a theory that can evolve. And as of v1.5, the flank this line of work most invites has been measured too: a parameter-matched autoregressive transformer, trained lockstep on bit-identical batches, wins both teacher-forced one-step and 16-step open-loop observation prediction at this scale — leaving Somnium a registered residue (slower error compounding) and a closed external-baseline question.

Docs: Paper v1.5 (PDF) · MODEL-CARD · FUTURE-WORK · DOI: 10.5281/zenodo.23278219 · latest version 10.5281/zenodo.23479114 · MODEL-INTRO · PRINCIPLES · ROADMAP/experiment history · MODEL-NAME · PHASE1 · run registry. License: MIT (code); paper: CC BY 4.0.

核心主张：模型发育从做梦开始——混沌（噪声底质）→ 梦（内生潜空间滚动）→ 醒（现实锚定） → 反思（元认知读梦）；思想在连续潜空间进行，语言仅为 I/O 外设。

文档

• PRINCIPLES.md — 原理→机制映射、两轴架构、术语纪律、消融登记册（A1–A6）
• ROADMAP.md — 阶段 0 机制验证实验（E0–E4）、预注册阈值、决策门 G0
• ARCHITECTURE.md — 代码底座结构、必需（★）/可扩展（◇）/规划（○）标识

代码底座（v0.2）

单底座 + 双模式：src/substrate.py（共享潜态与参数，互根）+ src/yang.py（阳：流式发散）

• src/yin.py（阴：能量弛豫）+ src/taiji.py（太极门控，A2 消融开关内置）； 上叠 src/core.py（世界模型 + MPC + ground 接地）、src/dream.py（梦期四开关调度）、 src/codebook.py（64 卦 VQ 码本 + 转移图 + 价值迭代）、src/planner.py（图上慢规划）、 src/envs/（ENV-A grid / ENV-C maze）、experiments/（E0/E1/E2 三实验入口）。

  .venv/bin/python -m pytest tests/ -q .venv/bin/python experiments/e0_dream_first/run_e0.py --tag smoke # E0 .venv/bin/python experiments/e1_yinyang_gate/run_e1.py --task maze --tag smoke # E1 .venv/bin/python experiments/e2_hexagram_codebook/run_e2.py --k 64 --planner graph --tag smoke # E2

当前状态

🏁 v1.5 终版已发布（2026-10-19）——项目进入结项收尾。13 页全卷 visual-judge 独立验收通过（含夜一事实序列勘误：注释/图注/正文与数据三处统一）；模型卡 MODEL-CARD.md 与结项清单 CLOSURE-CHECKLIST.md 就绪。 终局图景：梦的适用域=出生期（五条独立证据：行为迁移/语义建立/反转/维持/防遗忘）； 回放在学-存-护三维均为载荷组件；宽度健康带 [256,1024] 由世界与架构双侧钉死； 外部标尺双负（参数匹配 AR 一步+开环全胜，残迹=复合更慢）；校准余量在噪声下实存 而读梦不修。全链预登记实验 60+ 族/180+ run 零未决；三次公开撤回自家结论 （表达力天花板/非平稳关闭/夜一序列描述）。Zenodo v1.5 版本 DOI 10.5281/zenodo.23479114 已发布（2026-10-19）。 git 历史经三次零残留净化（2026-10-19/20：个人标识与路径替换、旧 v1.2 源码包脱敏重建、 备用邮箱全历史抹除；内容树哈希逐位不变）。2026-10-20 以全新对象库发布公开仓 （旧私有仓留档），Release 源码快照指向终版。 三大纪律：预注册阈值跑前锁定、负结果照记登记表、哲学词必须绑定机制。

纪律

哲学组件不绑定可测消融不得进入技术文档；负结果照记 results/registry.md； 不作 AGI 时间表承诺。