广义 AI 研究
在 BIMSA 拓展关于 AI 推理、人机交互和有用 AI 系统的更广泛问题,并通过持续合作开展 AI 辅助教育研究。
我欢迎对广义人工智能、可信 AI、AI 辅助系统和 AI 安全感兴趣的本科生、硕士生、博士生,以及博士后研究人员加入或联系。
我也共同指导学生科研,包括自 2018 年起与华中科技大学合作, 以及自 2025 年起与上海交通大学合作。我共同指导的 4 名博士生已毕业;其中 3 名在中国高校任助理教授, 包括 1 名在上海交通大学,另有 1 名加入中国主要科技公司任研究员。
在 BIMSA 拓展关于 AI 推理、人机交互和有用 AI 系统的更广泛问题,并通过持续合作开展 AI 辅助教育研究。
继续研究 LLM 与 agent 安全、提示注入和 jailbreak 鲁棒性、模型篡改检测与知识产权保护、对抗与后门防御,以及鲁棒 AI 系统。
共同指导 AI、可信 AI 与安全方向的学生研究,帮助学生经历完整研究周期,并与微软亚洲研究院、普林斯顿大学及中国高校开展合作。
加入 BIMSA 之前,我曾在微软工作 24 年以上,其中 22 年在微软亚洲研究院(MSRA),3 年在 M365 BizChat / Copilot、Researcher agent 和微软 Bing Core Search 等产品团队;另有 4 年创业经历, 曾任多媒体水印公司 Cognicity 的联合创始人和主管科学家,推动多媒体水印技术商业化。早期和并行的研究还包括 隐私保护计算、认证、CAPTCHA、Web 系统、多媒体安全和水印;更完整的介绍见 工作经历与论文页面。
包括 22 年微软亚洲研究院(MSRA)经历,以及 3 年 M365/Copilot 和微软 Bing Core Search 产品团队经历。
曾任 Cognicity 联合创始人和主管科学家,推动多媒体水印和数据嵌入技术商业化。
研究覆盖 LLM/agent 安全、AI 安全、可信计算、隐私保护计算、认证、钓鱼检测、CAPTCHA、Web 系统、多媒体安全和水印。
另有 3 件已公开专利申请,覆盖 AI 提示词优化、勒索攻击防御、钓鱼与欺诈检测、CAPTCHA、Web 系统、多媒体安全和水印。