https://pzheng460.github.io/zh/project/ProjectsHugo Blox Builder (https://hugoblox.com)zh-HansSat, 01 Aug 2026 00:00:00 +0000https://pzheng460.github.io/media/icon_hu0b7a4cb9992c9ac0e91bd28ffd38dd00_9727_512x512_fill_lanczos_center_3.pnghttps://pzheng460.github.io/zh/project/https://pzheng460.github.io/zh/project/openpangu-v3-data/Sat, 01 Aug 2026 00:00:00 +0000https://pzheng460.github.io/zh/project/openpangu-v3-data/<p><strong>2026.08—至今 · 独立开发</strong></p> <ul> <li><strong>arXiv 论文预训练数据</strong>：针对模板兼容、公式保真与长尾耗时，实现主文档定位、依赖展开、宏规范化、公式占位/恢复和图文引用重写；以 PDF 回退和超时分流控制单篇处理开销。</li> <li><strong>循环式开发</strong>：Agent 与人工每日标注解析错误，由 Agent 定时归集样本并改进解析逻辑，持续覆盖长尾模板及公式、图表问题。</li> <li><strong>GitHub 大规模分布式处理</strong>：基于 Data-Juicer 组织 files / commits / PRs 清洗与聚合，结合 commit-SHA、内容指纹、MinHashLSH 候选检索与向量语义去重；复用语法校验结果评分，按语言和质量加权采样、贪心打包，并接入评测去污染和 loss-mask。</li> </ul>https://pzheng460.github.io/zh/project/apie/Mon, 01 Jun 2026 00:00:00 +0000https://pzheng460.github.io/zh/project/apie/<p><strong>2026.06—至今 · 独立开发</strong></p> <ul> <li><strong>AI Native 与 RSI</strong>：分离稳定运行时和模型适配代码，提供 Agent 可调用的工具接口、结构化结果和诊断信息；通过状态采集/回放、分层精度验证与源码/环境追踪支撑迭代，以 Issue 记录假设和证据，以 PR 审查和 CI 验证约束合入。</li> <li><strong>融合图与异步投机流水</strong>：将 target 验证与 draft 生成融合为同一张执行图；复用固定地址 CPU/NPU 缓冲区，增量更新 block-table，使设备侧草稿生成与主机调度和输入准备重叠。</li> <li><strong>并行 Tokenizer</strong>：Rust 有界线程池实现 LoPT，各 worker 使用独立 BPE cache。DeepSeek-V4 Tokenizer、16 线程、21.8K-token 输入下，耗时由 13.51 ms 降至 9.79 ms。</li> </ul> <p><a href="https://github.com/CAKE-math/APIE" target="_blank" rel="noopener">源代码</a> · <a href="https://aclanthology.org/2026.acl-long.1529/" target="_blank" rel="noopener">LoPT 论文</a></p>https://pzheng460.github.io/zh/project/openpangu-v2/Fri, 01 Aug 2025 00:00:00 +0000https://pzheng460.github.io/zh/project/openpangu-v2/<p><strong>2025.08—2026.06 · 深度参与</strong></p> <ul> <li><strong>MTP 架构选型</strong>：开展接收率优化与理论分析，支撑三头 MTP 与 2048 滑窗落地，以多 token 草稿改善访存受限的解码效率，以局部注意力控制计算和 KV Cache 开销；开发快速验证工具支撑候选方案迭代。</li> <li><strong>Multi-MTP 全图推理</strong>：补齐框架侧多 MTP 层调用，结合 TND 输入、动态序列边界与 draft padding，使 P/D 分离下单步输入仅 1–3 token 的请求仍走静态图。</li> <li><strong>支撑整网优化</strong>：A3 单机、128K 输入/1K 输出、单并发下，Flash / Pro TPOT 为 5.63 / 9.55 ms；Pro 在 P/D 分离、128K 输入/8K 输出、每 NPU batch 24 下达到 1,326 tokens/s/NPU（TPOT 18.1 ms）。这些为整网联合优化结果。</li> </ul> <p><a href="https://huggingface.co/openpangu/openPangu-2.0-Pro" target="_blank" rel="noopener">模型与技术报告</a></p>https://pzheng460.github.io/zh/project/deepseek-inference/Sat, 01 Feb 2025 00:00:00 +0000https://pzheng460.github.io/zh/project/deepseek-inference/<p><strong>2025.02—2025.08 · 深度参与</strong></p> <ul> <li><strong>LoPT</strong>：在 vllm-ascend（ascend-vllm/omni-infer）实现重叠分块、字符位置匹配与动态扩块。DeepSeek-V3 Tokenizer、LongBenchV2、32 进程配置下，耗时由 622.4 ms 降至 108.2 ms，与串行输出完全一致。</li> <li><strong>FlashComm 1/2/3</strong>：适配通信间计算重排、低维 All2All、权重冗余及多流重叠。并发 8、输入 2K 下，FlashComm 1/2 将 Prefill 从 951 ms 降至 699/631 ms；FlashComm3 在高并发下提升 Decode 吞吐 25%–30%，共享专家 TP8 方案节省单机约 2.08 GB 内存。各指标来自对应方案的独立基准。</li> </ul> <p><a href="https://aclanthology.org/2026.acl-long.1529/" target="_blank" rel="noopener">LoPT · ACL 2026</a></p>https://pzheng460.github.io/zh/project/rainrenderer/Sat, 27 Apr 2024 00:00:00 +0000https://pzheng460.github.io/zh/project/rainrenderer/https://pzheng460.github.io/zh/project/softwarerenderer/Sat, 27 Apr 2024 00:00:00 +0000https://pzheng460.github.io/zh/project/softwarerenderer/https://pzheng460.github.io/zh/project/bidirectionalpathtracing/Sat, 27 Apr 2024 00:00:00 +0000https://pzheng460.github.io/zh/project/bidirectionalpathtracing/