图:4月6日,在2023青岛数字文化应用发展大会上,工作人员在展示虚拟汉服穿戴。\新华社
11日,国家互联网信息办公室发布消息指,为促进生成式人工智能技术健康发展和规范应用,根据网络安全法等法律法规,国家网信办起草了《生成式人工智能服务管理办法(征求意见稿)》,并向社会公开征求意见。根据征求意见稿,用于生成式人工智能产品的数据,应能够保证真实性、准确性。利用生成式人工智能生成的内容不得含有颠覆国家政权的内容,禁止非法披露个人信息,同时要求用户提供真实身份信息。\大公报记者 张宝峰北京报道
征求意见稿共21条。第一条明确了立法依据为网络安全法、数据安全法及个人信息保护法。第二条指出本办法所称“人工智能”,係指“基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术”。第三条则首先强调“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。”
生成内容应真实准确
根据征求意见稿,利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情信息,虚假信息,以及可能扰乱经济秩序和社会秩序的内容。
提供生成式人工智能产品或服务,还应采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。尊重知识产权、商业道德,不得实施不公平竞争。内容应当真实准确,采取措施防止生成虚假信息。尊重他人合法利益,防止伤害他人身心健康,损害肖像权、名誉权和个人隐私,侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。
此外,提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定,要求用户提供真实身份信息。
对于运行中发现、用户举报的不符合本办法要求的生成内容,除采取内容过滤等措施外,应在3个月内通过模型优化训练等方式防止再次生成。
专家:避免技术发展失控
在2023年全国两会上,多位代表委员在接受大公报采访时均表示,AI技术是一柄双刃剑,要想使其造福人类,趋利避害,就必须及时进行监管,通过法律等手段规制其发展方向。
中国电子商会副秘书长陆刃波11日对大公报说,当前AI技术仍处于初始发展阶段,还有很多不成熟的地方,特别是场景应用方面,非常有必要进行及时的引导与监管。这次网信办出台了服务管理办法的征求意见稿,就是旨在未雨绸缪,避免AI技术的发展失去控制,从而引导这项新技术趋利避害、造福社会。
作为资深从业者,北京常名科技有限公司负责人姜天11日也对大公报表示,当前GPT技术已经开始走向4.0的时代,未来它的影响一定是颠覆性的。为此,网信办在新规中首先肯定了这项技术的价值,这对于从业者都是一个极大的鼓舞。同时,新规从“信息─机器─操纵者”等不同维度对人工智能的发展进行了引导与规制,可以说,非常及时,十分必要。