报告人简介
——
Steven Li
IEEE系统理事会2026年候任主席，IEEE可靠性学会前主席，美国马萨诸塞州斯普林菲尔德西新英格兰大学教授
Steven Li 是美国马萨诸塞州斯普林菲尔德市西新英格兰大学工业工程与工程管理系教授。他的研究专长涵盖人工智能/机器学习、数据分析、可靠性/韧性工程，以及代理人工智能的可信度与安全性。他在华盛顿大学获得工业工程博士学位。他目前担任《IEEE可靠性汇刊》（IEEE可靠性学会旗舰期刊）的主编。他曾于2022年至2024年担任IEEE可靠性学会主席，并将于2026年出任IEEE系统学会候任主席。
报告名称：《可信智能：评估生成式AI在高风险决策中的作用》
——
报告摘要
本报告旨在探讨在高影响力决策过程（如定量可靠性推理）中，采用基于生成式AI模型所涉及的信任与置信度问题。借助经典可靠性模型生成的合成数据集，我们设计了样本量、提示词以及多种AI模型（Claude、DeepSeek、Gemini、ChatGPT、xAI）等实验因素，系统考察这些因素对基于预测性可靠性模型所得可靠性估计的影响。通过析因实验设计框架，我们评估了各AI模型性能的置信水平与鲁棒性。有趣的是，威布尔可靠性模型中未知参数的估计并未随样本量增加而呈现收敛趋势，这与传统基于统计学的可靠性推断中观察到的常见现象不同。此外，相较于其他模型，ChatGPT与DeepSeek在可靠性估计方面表现最佳，且无论提示词类型如何，二者在可靠性预测中均展现出良好的鲁棒性。上述发现为理解生成式AI模型在推断性可靠性预测与推理中的可靠性与置信度提供了新的视角。 预期学习成果 ●生成式AI在新产品设计中用于提升性能与可靠性的应用方法 ●生成式AI融入实际工程与产品设计流程所带来的影响 ●对生成式AI推理整体可信度与置信水平的认知