perf: accuracy improvement roadmap for 40Q+ CAS (28.8 mHa gap vs SCI)

[thc1006]

當前狀態（2026-04-02 最終更新）

HI-NQS IBM 結果

系統	能量 (Ha)	組態數	時間	Solver
H₂O 14Q	-75.0129	333	4.7s	IBM
NH₃ 16Q	-55.5192	905	5.2s	IBM
C₂H₂ 24Q（5K samples）	-76.0245738	5,432	456s	IBM
N₂ 40Q（5K samples）	-109.1844	6,868	1,173s	IBM

SCI (CIPSI) vs HI-NQS 對比（Numba + IBM solver，充足參數）

C2H2 24Q — HI-NQS 贏：

方法	能量 (Ha)	組態數	時間
SCI（自然收斂）	-76.0245276	7,406	1,088s
HI-NQS IBM	-76.0245738	5,432	456s

HI-NQS 低 0.46 mHa，快 2.4 倍。

N₂ 40Q — SCI 能量更低但代價巨大：

方法	能量 (Ha)	組態數	時間	RAM
SCI（50K 上限，未收斂）	-109.2132	50,000	3h45m	60 GB
HI-NQS IBM	-109.1844	6,868	20 min	~2 GB

SCI 低 28.8 mHa，但 11.5x 時間、30x 記憶體、仍未收斂。

改善路線

Tier 1：縮小 40Q 的 28.8 mHa 差距

#	技術	預期改善	實作複雜度	來源
1	H-connection expansion（SHCI/ASCI 模式）：從高 |c_i|² 的 determinants 生成 S+D excitations，PT2 篩選後加入 basis	10-20 mHa	中	SHCI, ASCI, HAAR-SCI
2	E_PT2 能量修正：E_PT2 = Σ |⟨x|H|Φ⟩|² / (E₀ - H_xx)	5-15 mHa	低	所有 SCI 方法的標準做法
3	增大 basis（增加 n_samples_per_iter）	2-5 mHa	低	C2H2 從 2K→5K 改善 1.6 mHa

Tier 2：進一步逼近化學精度

#	技術	預期改善	來源
4	保持高溫取樣（T≥1.5）延長探索期	1-3 mHa	arXiv:2603.24728
5	Curriculum learning（從小 CAS 預訓練再遷移到大 CAS）	加速收斂	arXiv:2505.00233

Tier 3：長期

#	技術	來源
6	自己實作 factored-space Davidson solver（不依賴 IBM）	減少 optional dep
7	GPU 加速 PT2 scoring（torch.searchsorted 取代 Python dict）	Issue #32
8	r-ccs-cms/sbd 整合（ADR-003 Phase 2 nanobind）	40x 加速

關鍵文獻

• NQS-SC (arXiv:2602.12993, 2026)：驗證 NQS+SCI 方法，H₂O/6-31G 化學精度只需 2K configs
• HAAR-SCI (JCTC 2025)：Transformer + H-connection + Gumbel top-k
• IBM SQD (Science Advances 2025)：58Q N₂，16M configs/batch，tens of mHa
• SHCI (Sharma et al. 2017)：N₂/cc-pVTZ 189K dets, 14 秒
• GTNN-SCI (JCTC 2025)：Generative Transformer SCI，[2Fe-2S] 化學精度

實作順序

1. Tier 1 refactor: SKQD naming fix, NQS interop, logging, CI (ADR-001) #2（E_PT2 correction） — 最低成本最高效益
2. Tier 1 Bug: config_loader._get_explicit_cli_args fails with positional and store_true arguments #1（H-connection expansion） — 整合已有的 SelectedCIExpander 到 HI-NQS loop
3. Tier 1 fix: resolve two ValueError bugs in config_loader._get_explicit_cli_args #3（增大 basis） — 調參數 + 驗證 sparse diag 在 50K 上的效能

相關

• Issue [RFC] Adaptive sampling strategy for 40Q+ CAS molecules (Issue #21 Phase 4) #25（adaptive sampling RFC）
• Issue perf: hardware-adaptive GPU optimization (DGX Spark UMA + A100/H100 HBM) #32（GPU 最佳化）
• Issue 決策記錄：PR #30 → PR #31 重寫的精度回歸分析與修復路線 #36（PR feat: HI-NQS v3 with PT2 selection + PySCF FCI + sparse SCI + FCIDUMP #30→feat: PT2 configuration selection for HI-NQS v3 (ADR-005) #31 決策記錄）
• PR feat: PT2 configuration selection for HI-NQS v3 (ADR-005) #31（當前 PT2 selection PR）
• ADR-005（PT2 selection 設計文件）

[thc1006]

40Q Benchmark 結果歷程

第一次（2K samples, IBM solver）

系統	能量 (Ha)	Basis	時間
N₂ 40Q	-109.1689	4,109	1,088s

第二次（5K samples, IBM solver）

系統	能量 (Ha)	Basis	時間
N₂ 40Q	-109.1844	6,868	1,173s

改善 15.5 mHa，3 iter 無震盪收斂。

最終 SCI 對比（見 body 和最新留言）

• SCI 50K：-109.2132（50000 configs, 3h45m, 60 GB, 未收斂）
• HI-NQS IBM：-109.1844（6868 configs, 20 min, ~2 GB）
• SCI 低 28.8 mHa，但 11.5x 時間、30x 記憶體

[thc1006]

SCI vs HI-NQS 對比（2026-04-02，修正歷程）

本留言為中間版本，最終結果見最新留言和 Issue body。

修正記錄

1. 初版：跨 session 對比（不公平）→ 錯誤結論 "HI-NQS 贏 0.27 mHa"
2. 修正：同 session 對比（2K samples）→ SCI 贏 1.57 mHa
3. 最終（充足參數）：SCI 自然收斂 vs HI-NQS 5K samples → C2H2 HI-NQS 贏 0.46 mHa，40Q SCI 贏 28.8 mHa

[thc1006]

完整實驗結果彙整（2026-04-02，最終版 — Numba + IBM solver，充足參數）

C2H2 24Q

方法	能量 (Ha)	組態數	時間	收斂
SCI（自然收斂）	-76.0245276301	7,406	1,088s	✅
HI-NQS IBM（5K samples）	-76.0245737905	5,432	456s	✅

HI-NQS 低 0.46 mHa，快 2.4 倍。

N₂ CAS(10,20) 40Q

方法	能量 (Ha)	組態數	時間	收斂	RAM
SCI（50K 上限）	-109.2132327214	50,000	13,505s (3h45m)	❌	60 GB
HI-NQS IBM（5K samples）	-109.1844383603	6,868	1,173s	✅	~2 GB

SCI 低 28.8 mHa，但 11.5 倍時間、30 倍記憶體、仍未收斂。

小分子驗證（HI-NQS IBM）

系統	能量 (Ha)	誤差	組態數	時間
H₂O 14Q	-75.0129	FCI exact	333	4.7s
NH₃ 16Q	-55.5192	FCI exact	905	5.2s

Numba 加速效果

環境	C2H2 SCI 5K	40Q SCI 5K
無 Numba	56+ min（未完成）	1,254s
有 Numba	350s	416s

關鍵觀察

1. ≤24Q：HI-NQS 已超越 SCI（能量更低、速度更快、組態更少）
2. 40Q：SCI 能量更低 28.8 mHa，但代價巨大（3h45m + 60GB vs 20min + 2GB）
3. HI-NQS 精度和取樣量正相關：C2H2 從 2K→5K samples 改善 1.6 mHa
4. IBM solver 是 HI-NQS 精度的核心：無 IBM 時 C2H2 差 134 mHa
5. SCI 實作瓶頸：固定 expansion_size=500、無 E_PT2 修正、無 heat-bath sampling。SHCI 文獻在同規模系統只需 14 秒
6. Tier 1 方向驗證：將 H-connection expansion 整合進 HI-NQS 是縮小 40Q 28.8 mHa 差距的關鍵

[thc1006]

E_PT2 實作完成 + GPU 加速路線調研（2026-04-04）

E_PT2 Benchmark 結果（PR #37）

系統	E_var (Ha)	E_PT2 (mHa)	E_corrected (Ha)	Basis	PT2 time
C₂H₂ 24Q	-75.894	-135	-76.029	6,309	25.6s
N₂ 40Q	-109.049	-190	-109.240	4,786	153s

E_PT2 修正量大（135-190 mHa）→ NQS basis 不完整，需結合 Tier 1 #1（H-connection expansion）。

GPU 加速調研結果

當前問題：IBM solve_fermion 是 CPU-only（佔 ~60% wall time），GPU 版 40Q 反而慢 3.5 倍。

調研發現：

工具	GPU	Python	ARM64/Blackwell	狀態
AMD-HPC/amd-sbd	✅ 95x	❌ C++	✅ GB200 實測	開源
r-ccs-cms/sbd	✅ 40x	❌ C++	GH200（ARM64）	開源
GANSU（富士通）	✅ RFCI GPU	❌ C++	✅ ARM64	開源
qiskit-addon-dice-solver	❌ CPU	✅	✅	30-100 orb
Block2 DMRG	❌ CPU	✅ pip	✅	FCI 等效
CuPy factored Davidson	✅	✅（需自己寫）	✅ CuPy v14	無現成實作

沒有現成的 GPU drop-in 方案可以 pip install。

建議加速路線

Phase	方案	加速	時間	優先級
0	qiskit-addon-dice-solver 取代 IBM solve_fermion	CPU 演算法提升	1-2 天	立即
1a	AMD-HPC/amd-sbd subprocess（GB200 已驗證）	95x	1-2 週	高
1b	CuPy eigsh + custom sigma vector	10-30x	2-4 週	中
2	sbd nanobind bindings（零拷貝 GPU）	95x	2-3 月	長期

重要來源

• AMD-HPC/amd-sbd: arXiv:2601.16169（GB200 實測 95x）
• r-ccs-cms/sbd: arXiv:2601.16637（40x）
• GANSU: github.com/Yasuaki-Ito/GANSU（GPU RFCI）
• CuPy v14: Blackwell + aarch64 支援
• PySCF contract_2e: factored-space sigma vector 的 CPU 參考實作

[thc1006]

smaple 和 Target 數量怎麼抓 不確定
num_sample 和 Target 要進一步精進

[thc1006]

2026-04-07: Tier 3 #6 has its own tracking issue now

The "factored-space Davidson solver (independent of IBM)" item from Tier 3 is now tracked in #38 (CuPy factored-space Davidson eigensolver). Two important corrections recorded there:

1. AMD-HPC/amd-sbd's 95x is on MI250X (AMD), not GB200. On GB200 (NVIDIA, the closer architecture to DGX Spark) the same paper reports only 2.64x — see ADR-003 line 35. The previous 2026-04-04 comment in this issue overstated amd-sbd's NVIDIA-side speedup; corrected in perf: CuPy factored-space Davidson eigensolver for SQD/SKQD subspace diagonalization (Phase 1b) #38.

2. Phase 2b (proper Davidson with diagonal preconditioner) is non-negotiable before any Cr₂ / multireference benchmark — Lanczos has ghost-eigenvalue failure modes for near-degenerate spectra. Recorded in perf: CuPy factored-space Davidson eigensolver for SQD/SKQD subspace diagonalization (Phase 1b) #38 banner + ADR-003 Update + memory/project_phase2b_davidson_commitment.md.

Cross-references:

• Issue perf: CuPy factored-space Davidson eigensolver for SQD/SKQD subspace diagonalization (Phase 1b) #38 (CuPy factored-space Davidson, parallel path to amd-sbd)
• ADR-003 Update 2026-04-07 section (sbd path remains active, perf: CuPy factored-space Davidson eigensolver for SQD/SKQD subspace diagonalization (Phase 1b) #38 is parallel insurance)