讲座主题：神经网络泛化误差及其应用
主 讲 人：吴永贤
时 间：2025年9月16日15：00
地 点：报告厅
个人简历：
华南理工大学计算机科学与工程学院的教授、博士生导师、广东省计算智能与网络空间信息重点实验室副主任, 主持五项国家自然科学基金、一项教育部新世纪人才计划、多项省部级科研项目,参与国家重点研发（国际合作）和国家自然科学基金地区联合项目等国家级科研项目。在IEEE TNNLS、IEEE T-Cyb和IEEE TMM等知名国际期刊及国际会议上发表了过百篇文章，其中SCI 检索120篇（其中中科院一区top 45篇、IEEE Trans.系列40篇），总影响因子超过700。根据谷歌学者数据，论文总引用次数超过五千次，h-index为35。担任IEEE TNN和IEEE T-Cyb等十余个知名高水平国际期刊评审员,担任国际期刊International Journal on Machine Learning and Cybernetics (IJMLC)副主编；
报告摘要：
神经网络凭借其强大的表示学习能力，已成为众多领域实现智能化应用落地的核心技术。然而，一个关键的挑战在于，训练完成的模型往往对输入数据中微小的扰动表现出高度的敏感性，这种脆弱性揭示了模型潜在的泛化能力不足问题。神经网络训练的最终目标是正确地自动编码未来看不见的样本（即良好的泛化）。为此，我们研究了神经网络的局部泛化误差数学模型，提出了一种局部随机敏感来增强神经网络对输入扰动的鲁棒性。通过局部随机灵敏度正则化，降低了对与训练样本有微小差异（扰动）的不可见样本的敏感性。该方法具有广泛的模型架构适用性，能够显著提升包括深度网络（如自编码器AE、卷积神经网络CNN、长短期记忆网络LSTM）、宽度网络、经典的多层感知机（MLPNN）、径向基函数神经网络（RBFNN）乃至最小二乘支持向量机（LS-SVM） 等多种模型架构的训练效果。这种增强鲁棒性的方法具有深远的应用价值，已被成功应用于到模式分类、医疗图像、智能电网、AI安全等多个关键领域。
