当前位置:首页 >> 基金要闻 >> 资助成果

 

    我国学者提出正激励噪声的新思想

    日期 2023-01-13   来源:信息科学部   作者:刘军 孙玲  【 】   【打印】   【关闭

    图1 图像识别准确率随图像噪声强度的增大而“反直觉”地呈现出“先增后减”现象

     

    图2 正激励噪声在跨域遥感标检测任务中的应用示例

      在国家自然科学基金项目(批准号:61871470)资助下,西北工业大学李学龙教授提出以“任务熵”定义噪声,并利用甚至设计“有用的噪声”的新思想。研究成果以“正激励噪声(Positive-incentive Noise)”为题于2022年12月29日发表在期刊《电气电子工程师协会·神经网络与学习系统汇刊》(IEEE Transactions on Neural Networks and Learning Systems)上。论文链接:https://ieeexplore.ieee.org/document/10003114。

      工程科学研究中,几乎不可避免地在数据、特征、样本、决策等多层面存在噪声,例如,超声影像中由于相干声波的路径差异会不可避免地导致斑点噪声,遥感成像时会因为炫光等特殊环境产生难以预料的噪声。因此,现有研究工作中,研究者总是试图将噪声的含量尽可能降到最低,并认为这样就将其影响也降到了最低。噪声会对任务产生负面影响已经成为信号处理领域的理论体系和工程任务一个约定俗成的假设。然而,李学龙教授在信号分类等科学研究中发现,当数据中加入适量的噪声时,人工智能算法对信号识别的准确率不降反增。整体上,分类准确率随含噪量的增加呈现“先增后减”现象(图1),这说明噪声也可以是有用的。

      针对这一现象,李学龙教授深入思考后认为“某些噪声和信号的产生是同源的”,并进一步认识到对噪声的系统研究离不开对任务的定量化描述。因此,他提出以任务熵(Task Entropy)—— 来定量分析任务复杂度的理论体系,建立了信息处理中的噪声分析计算框架。根据该计算框架,在任务给定的情况下,通过计算任意噪声 与任务 之间的互信息(Mutual Information)将噪声分类为“正激励噪声”(Positive-incentive Noise, Pi/π-Noise)和“纯噪声”。其中,正激励噪声是指“与任务 间互信息大于0、能够减小任务熵”的噪声;纯噪声则指“互信息为0、不能减少任务熵”的噪声。以跨域遥感的目标检测任务(图2)为例,背景在检测中通常被认为是需要剔除的“噪声”,物体(此例中为飞机)的边界框一般要求应尽可能紧致。而根据正激励噪声理论,合理地利用背景噪声,可以帮助简化检测任务、提升检测精度。因此,在训练模型时,可以根据噪声与任务的互信息最大化准则,自适应的调整边界框大小,使其包含适量与检测目标强耦合的背景,如跑道、停机坪等。李学龙教授还指出,该计算框架的核心在于找到任务 对应的“任务概率分布”和确定正激励噪声的边界。

      项目研究工作启发人们重新认识信息处理中的噪声,为跨域遥感、多模态认知计算、涉水光学、稳定探测等领域信息处理和噪声利用提供了新思路。