“以数据驱动的深度神经网络，其技术性发展潜力已贴近‘吊顶天花板’。”9月1日，在2022全球人工智能交流会-可信AI社区论坛，瑞莱智慧RealAI合作伙伴、副总裁朱萌发布了演说。

第二代人工智能要以数据驱动的深度神经网络，在21世纪第二个十年乘势而上。但学术界广泛认为，从运用的角度看，深层学习的本质是运用并没有生产加工处理后的数据信息，以几率学习“黑箱子”处理办法总结规律。这一方式实质上不能表述，十分敏感，增添了新风险和困惑。

朱萌以瑞莱智慧精英团队所作的科研成果举例说明：在自动驾驶场景中，根据改动锥桶的形态，就能让车辆认知控制模块无效，直接撞上去；以在T恤上打印出含独特花纹，就能让监测系统捕获不上穿这衣服得人，完成“隐藏”；制做含有特别制作纹路的近视眼镜，可刷开数十部商业笔记本的面部识别等。

因此，清华人工智能研究所名誉院长、瑞莱智慧首席科学家张钹教授明确提出了发展趋势“第三代人工智能”，在推进高质量安全的情况下，为人工智能高质量发展趋势增加动力和支撑点。

安全可信，已经成为人工智能稳步发展的重要着力点，也会逐步变成领域规范性、技术性商业化重要推进器。

“人工智能现阶段的安全隐患关键能从‘系统软件’与‘人’2个角度去分析。”朱萌觉得，系统软件层面来看，以人工智能算法为中心的人工智能系统软件十分敏感，其结构型系统漏洞导致“对抗样本进攻”难以避免，并且数据信息依赖感则使之存有“数据信息下毒”系统漏洞，发生“侧门进攻”。从“人”层面上来评价AI的可信难题，关键风险性来源于人乱用、恶意应用，更为最典型的便是深层合成技术。它大幅度降低了信息内容形成生成的难度系数，但是其负性运用已造成实质性伤害，乃至存有“武器化”风险性。

应对以上隐患，瑞莱智慧在今年6月建立了人工智能整治研究所，探索从伦理道德政策法规到技术落地的人工智能整治实践活动之途。

据了解，瑞莱智慧构建了系列产品安全可控新一代人工智能基础设施建设，在数据信息可以用、优化算法靠谱、运用可控性等方位都有技术领先技术以及独创性作用，现阶段已经在政务服务、金融业、工业物联网等高线使用价值场景下彰显了功效。