$ cat ~/profile.json

< RESUME />

// 个人简历 & 专业经历

EXPERIENCE
EDUCATION
SKILLS

王朝晖

机器学习系统研究员 / 工程师

个人简介

机器学习系统方向的研究员与工程师,专注于可验证、高效的大模型基础设施——从 CUDA/Triton 稀疏注意力内核与 GPU 密码学,到智能体安全、请求路由与边缘部署可行性。

2026 年以第一作者身份发表 6 篇主会论文(ICML、ECML PKDD、CIKM、ICICS、NLPCC ×2),另有 9 篇 ICML / ICLR / AAMAS / ProbML / C3NLP workshop 论文;同时具备 AWS、Docker、Kubernetes 上的生产级后端与运维经验。现任 CMU Infini-AI Lab 研究助理。

技术技能

GPU 与推理 — CUDA、Triton 内核、GPU MSM、CUDA Graph、稀疏注意力、KV Cache、投机解码、量化(INT4/INT8)、显存池化;PyTorch、SGLang、vLLM、FlashInfer、TensorRT-LLM、ONNX Runtime

机器学习与智能体 — Transformers、DeepSpeed、LoRA/QLoRA/PEFT、scikit-learn、XGBoost、LangChain、多智能体编排、大规模红队测试、W&B/MLflow

理论方法 — 序贯决策理论、最优停止、多臂老虎机、机制设计、不确定性量化、统计检验(ANOVA/FDR)、零知识证明、Merkle 树、Sumcheck

安全与 DevOps — OWASP Top-10、SAST(bandit、semgrep、gosec、Clippy、Cppcheck)、pip-audit/trivy、密钥管理、JWT / RBAC / OAuth2(AWS Cognito);Docker、Kubernetes、GitHub Actions CI/CD、基础设施即代码、Prometheus、Grafana、OpenTelemetry

云与后端 — AWS(EC2、S3、RDS、IAM、MediaConvert、CloudFront)、Nginx、Spring Boot、Node.js/Express、FastAPI、Django/Wagtail、Kafka、Redis、PostgreSQL、MongoDB

编程语言 — Python、C/C++、CUDA、Rust(已发布 crate hanfei-shuhanfei-fa)、Java、TypeScript/JavaScript、Go、Bash、SQL

核心能力

  • 独立确定研究方向——一年内完成 6 篇第一作者主会论文,从问题定义到 camera-ready 全流程
  • 面向不同受众的书面表达:同行评议论文、公开技术笔记与内部工程文档
  • 跨层次系统工作能力——能在同一项目中于 CUDA 内核、分布式后端与生产运维之间自如切换
  • 可复现性纪律:基准测试框架、幂等部署命令,以及对负面结果的如实报告

工作经验

CMU Infini-AI Lab — 研究助理

导师:Beidi Chen 教授 · 美国匹兹堡(远程) · 2026 年 3 月 – 至今

  • 稀疏注意力大模型推理框架 Vortex 的核心贡献者(基于 SGLang/FlashInfer);设计定制稀疏注意力 CUDA 内核并配合 CUDA Graph 捕获,实现端到端 2.7× 加速。
  • 实现页级跨层稀疏索引共享与 masked top-k 内核,在 1B–70B 模型上削减冗余注意力访存。
  • 构建大规模可复现的评测与基准测试框架(多模型扫描、3 万余次运行、Docker/AWS、W&B 追踪),支撑 ICML 2026 红队研究。

Meetfood — 软件工程实习生

美国洛杉矶 · 2025 年 5 月 – 2025 年 8 月

  • 使用 Node.js/Express/MongoDB 设计并交付 RESTful API——JWT 鉴权、基于角色的访问控制AWS Cognito、媒体上传与跨设备同步接口。
  • 通过响应缓存与 MongoDB 查询/索引优化,将核心搜索与信息流接口的 p95 延迟降低 约 40%(约 500 ms → 300 ms)。
  • AWS 上搭建视频流水线:S3 上传、MediaConvert 转码、CloudFront CDN 分发,平均起播时间降低 约 50%;服务部署于 EC2(自动扩缩)与 RDS,遵循最小权限 IAM。
  • 搭建 GitHub Actions CI/CD,将发布周期从约 1 小时的人工操作压缩到 10 分钟以内

腾讯 — Java 后端开发实习生

中国深圳 · 2019 年 7 月 – 2019 年 8 月

  • 基于 Spring BootMyBatis 开发内部消息平台后端模块;Redis 热点会话缓存使热路径数据库读取减少 约 60%
  • 将同步服务调用重构为异步 CompletableFuture 流水线,平均响应时间降低 约 30%(约 200 ms → 140 ms)。
  • 通过声明式清单(基础设施即代码)将团队微服务部署至 Kubernetes(TKE),配置存活/就绪探针与 Prometheus/Grafana 监控,人工部署耗时从约 30 分钟降至 5 分钟以内

项目经验

Interruptr — 多智能体漏洞扫描器

Python、LangGraph、AutoGen · 2025–2026

  • 可作为 CI/CD 安全门禁部署的多智能体静态分析流水线,检测 C/C++ 内存安全缺陷、竞态条件等 CWE 分类漏洞:三个云端专家 + 一个零边际成本的本地对抗验证器。
  • 在 NIST Juliet 上达到 77.2% F1$0.002/样本、100% 召回;仅本地验证器一项即带来 +10.3 个百分点的精确率提升(McNemar 检验 p<10⁻⁶)。

Timeline-Feed — 高流量加固后端

TypeScript/Node.js、Kafka、Docker · 2025

  • 生产级信息流后端,完成 OWASP Top-10 加固(XSS 防护、HMAC 签名游标)与优雅降级熔断。
  • P95 低于 15 ms、可用性 99.99%;9 个服务的 Docker 部署中包含 30+ Prometheus 指标、Grafana、OpenTelemetry 与 80% 测试覆盖率。

geoffreywtech.me — 自建研究作品集网站

Django 5.2、Wagtail、Docker、Nginx、AWS EC2 · 2025–2026

  • 独立设计、部署并运维本双语 Wagtail CMS(Nginx TLS 终止 + EC2),内容通过幂等的 Django 管理命令发布,而非手工编辑。
  • 对线上环境执行完整 DevSecOps 审计(bandit/semgrep/pip-audit/trivy 结合运行时探测):修复生产环境 DEBUG=True 暴露与 CWE-601 开放重定向,两轮审计共修补 132 个 CVE,最终 Django check --deploy 零告警、pip-audit 无已知漏洞。

教育背景

南加州大学(USC) — 计算机科学硕士(STEM)
美国洛杉矶 · 2024 年 6 月 – 2025 年 12 月

中国科学院大学(UCAS) — 计算机科学博士研究生(未完成)
中国北京 · 2020 年 8 月 – 2023 年 3 月

中南大学 — 计算机科学与技术学士
中国长沙 · 2016 年 9 月 – 2020 年 6 月

论文发表

First author on all. Full list with PDFs, figures and posters: geoffreywtech.me/publications

Main track

  • Persistent Semantic Entities in Tool-Augmented LLM SystemsICML 2026. Formalized a new class of LLM-agent vulnerability: implicit state in tool registries and event systems that persists across sessions and propagates across agents, invisible to standard prompt-injection monitoring. 34,000+ trials over 20 models from 9 vendor families (1.5B–1T); all susceptible (median 70% contamination), uncorrelated with scale (r²=0.06); name-binding dominant (Cohen's d=3.26); cross-model validation defense eliminates the vector (median 100% reduction).
  • Uncertainty-Aware Sequential Decision Rules for Event-Triggered LLM Invocation in Streaming SystemsECML PKDD 2026. Cast when to invoke an expensive cloud LLM as risk-based sequential stopping; unified framework subsuming event-triggered / optimal-stopping / SPRT / CUSUM / bandit triggers (6 theorems, incl. O(√(T log T)) regret). <5% miss at 6.2% invocation (~10× fewer calls); 63% lower total cost than CUSUM.
  • NanoZK: Layerwise Zero-Knowledge Proofs for Verifiable LLM InferenceICICS 2026. Made outsourced LLM inference cryptographically verifiable via layerwise ZK proofs (Halo2/IPA) with a custom GPU multi-scalar-multiplication CUDA kernel, released as the Rust crate hanfei-shu. 7.6× MSM speedup; 620 ms prove / 2.4 KB proof / 2 ms verify on LLaMA-3-1B at zero accuracy loss.
  • The Recall Ceiling: Why LLM Recommendation Reranking Fails in PracticeCIKM 2026. Showed the oracle evaluation protocol used for LLM rerankers overstates NDCG@10 by 92–95%, and proved a deterministic ceiling: expected NDCG@k cannot exceed recall at the reranker's own candidate-window size under leave-one-out evaluation. Realistic retrieval covers only 2–19% of relevant items at K=100 across eight datasets in three domains.
  • IntegriRef: A Five-Layer Bayesian Framework for Cross-Domain Reference Integrity VerificationNLPCC 2026. Five-layer pipeline over 62 registry adapters fusing 21 typed signals with Bayesian likelihood-ratio scoring: 99.9% recall on 1,215 hallucinated references and 98.3% on 5,488 retracted papers; L2 semantic verification reaches 93.5% precision against 89.1% human agreement.
  • When Retrieval Systems Encode Wrong Entity-Context BindingsNLPCC 2026. Index-level adversarial memorization: false entity–context associations need not be learned in pretraining, yet are preserved and amplified by the retrieval index. Multilingual case study over 1,535 articles; an evidence-grounded rewriting prototype removes 83.3% of pollution where the best filter reaches 20.8%.

Workshop

  • When Individually Calibrated Models Become Collectively MiscalibratedProbML 2026 (PMLR archival). Collective miscalibration under strategic prediction aggregation for edge–cloud inference, with an incentive-compatible (VCG/Brier) mechanism. 0/6 exploits; false-negative rate 0.027 vs 0.045–0.067 for neural baselines; 4× more data-efficient; sub-2 ms at 200 agents.
  • Interruptr — AAMAS 2026 SE Workshop · arXiv:2604.21282
  • AgentTrace — AIWILD @ ICLR 2026 · arXiv:2603.14688
  • Universe Routing — LLA @ ICLR 2026 · arXiv:2603.14799
  • NanoZK (workshop version) — VerifAI @ ICLR 2026
  • Block-Level Weight-Space Structure Persists Under Post-Training — Weight-Space Symmetries (WSS) @ ICML 2026. Post-training rewrites every tensor yet preserves block-level geometry (cosine > 0.99), enabling 18–48% GPU memory savings across co-resident model variants.
  • Learning from World Feedback — RLxF @ ICML 2026. Dynamics-based uncertainty penalties increase collisions from 26% to 34%; replacing the model-internal proxy with world-feedback signals cuts them to 1–14% without retraining.
  • From Risk Scoring to Risk Allocation — SRAS @ ICML 2026. Monitoring in multi-agent systems recast from per-state scoring to combinatorial allocation: a QUBO whose Pareto frontier contains greedy top-K, MMR and k-DPP as fixed operating points. +24% to +66% diversity over greedy from n=15 to n=200; a learned λ policy reaches 99.5% of an oracle grid search. OpenReview
  • TabletCraft — C3NLP @ ACL 2026 · bidirectional Akkadian NMT and cuneiform rendering; 49.1 / 48.5 BLEU, the first published quantitative result in the reverse direction. pip install cuneiscribe

获奖荣誉

  • 2026 年获得 6 篇第一作者主会录用——ICML、ECML PKDD、CIKM、ICICS 与 NLPCC ×2,覆盖智能体安全、决策论驱动的服务调度、推荐系统评测、可验证推理与引用完整性。
  • 发布开源 Rust crate hanfei-shuhanfei-fa,用于 GPU 加速的零知识证明。
  • 自建并运维边缘–雾–云 GPU 测试平台,支撑全部 2026 年论文实验:2× Jetson Orin Nano(8 GB)+ RTX 3080 Ti(16 GB)+ 工作站 GPU 服务器。