网信办:AI面临误用滥用恶用等5大安全风险
网信办网络安全协调局副局长王丽宏表示,AI领域当前面临5大安全风险挑战:
1. 技术漏洞:固有技术缺陷难以根除,影响输出稳定性与可靠性。
2. 能力跃升:模型能力突破颠覆传统安全范式,出现极端失控风险。
3. 应用演化:应用形态快速演进,加速安全风险模式迭代。
4. 误用滥用:误用、滥用及恶意使用问题凸显,冲击社会秩序与伦理边界。
5. 技术霸权:全球AI领域面临技术霸权风险。
上述表态来自央视新闻,为监管部门对AI安全形势的最新定调。
网信办网络安全协调局副局长王丽宏表示,AI领域当前面临5大安全风险挑战:
1. 技术漏洞:固有技术缺陷难以根除,影响输出稳定性与可靠性。
2. 能力跃升:模型能力突破颠覆传统安全范式,出现极端失控风险。
3. 应用演化:应用形态快速演进,加速安全风险模式迭代。
4. 误用滥用:误用、滥用及恶意使用问题凸显,冲击社会秩序与伦理边界。
5. 技术霸权:全球AI领域面临技术霸权风险。
上述表态来自央视新闻,为监管部门对AI安全形势的最新定调。