拧紧信息安全阀门 警惕“AI污染”

2024-11-05 10:51 来源:三峡宜昌网 编辑:肖雨琴 人阅读

近年来,AI的颠覆性应用在各行各业掀起阵阵热潮,“AI创作”“AI导学”“AI厨师”等多元场景下的创新元素令众多行业受益。然而,任何事物都具有两面性。AI工具的使用提高了互联网产出的效率的同时,也出现了深度伪造、AI伦理等问题,令互联网数据风险剧增。“AI污染”的背景下,人类作品和AI产物的界限愈加模糊,拧紧信息安全阀门,打造清朗的网络家园,刻不容缓。

立足生成机制,完善准入制度和监管体系。可根据AI生成的数据风险等级,设立弹性审批的市场准入制度。例如,涉及人像、声音等具有生物特征的信息,需经过更严格评估与官方审批;对于不涉及伦理的生成内容,则采取降级的监管策略。同时,针对高敏感生成信息,对显著特征进行去标识化处理,明确素材源头,确保合规性与安全性并重。

明确各方责任,健全安全协同治理机制。2022年,最高人民法院发布《关于规范和加强人工智能司法应用的意见》,提出“应积极探索并不断拓展新的人工智能司法应用的场景与范围”。相关法律法规的适用范围应不仅限于监管机构,还要覆盖至平台方、使用方等主体,对于技术层面的描述,在当前基于理论的原则性规定上还要拓展至具象化的实践规范,从而明确各方责任,有利于共同促进AI产业的健康发展。

加强宣传教育,增强防范意识和应用能力。推广“AI安全教育”进学校、进社区、进村镇,关注留守儿童、老人等重点人群,可采取短视频演绎、小品扮演等方式展现可能出现的风险情景,倡导广大群众理性分辨互联网信息,保护好面部、声音、掌纹等自身生物特征,避免不法侵害。

每一个新生事物的发展亦都伴随着期待与观望、风险和挑战。时代浪潮滚滚向前,在我们以开放包容的心态适应发展的同时,也应拧紧安全阀门,做好风险防控。

作者:枝江市董市镇人民政府 高朱洁

特别声明:本文仅代表作者观点。三峡宜昌网仅提供信息发布平台。