人工智能安全挑战迫在眉睫

reach

在大模型时代，如何确保人工智能安全、可信可控？在中国人工智能产业发展联盟（下称“AIIA”）安全治理委员会近日召开的守护AI安全，共话向善未来——AIIA安全治理委员会成果发布会上，来自产学研各界的近200名行业专家、高校学者以及企业代表共话AI安全。

　　人工智能安全本身就是人工智能能力的体现

　　近日，微软蓝屏宕机事件引发各界反思，一次互联网时代的软件瑕疵都会引发全球“瘫痪”，若剧情在AI时代重新上演，损失将不可估量。

　　中国信通院人工智能研究所所长魏凯在会上表示，世界各国都对人工智能的发展表示出非常大的期待，不论是发达国家或者发展中国家，普遍认为人工智能是一个巨大的机遇，同时也对人工智能的确定性安全和风险挑战表示担忧。

　　人工智能发展与安全的关系究竟应该如何平衡？

　　中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员、联合国人工智能高层顾问机构专家曾毅认为，作为科技创新者，思考科技突破带来的社会风险应该是我们内生基因的一部分，不存在人工智能能力与安全的平衡，人工智能安全本身就是人工智能能力的体现。

modern

中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员、联合国人工智能高层顾问机构专家曾毅认为，作为科技创新者，思考科技突破带来的社会风险应该是我们内生基因的一部分，不存在人工智能能力与安全的平衡，人工智能安全本身就是人工智能能力的体现。

agent

中国信通院人工智能研究所所长魏凯在会上表示，世界各国都对人工智能的发展表示出非常大的期待，不论是发达国家或者发展中国家，普遍认为人工智能是一个巨大的机遇，同时也对人工智能的确定性安全和风险挑战表示担忧。