人工智能（AI）技术2000年开始急速发展，直至生成式人工智能的出现，AI技术才真正对人类社会产生革命性的影响。在内容生成、产品设计及网站开发等领域，生成式人工智能已展现出不可估量的价值。

　　根据中国互联网络信息中心2024年的报告，截至同年6月，中国生成式人工智能产品的用户规模已达2.3亿人。中国的人工智能产业生态体系已初具规模，相关企业已超过4500家。

　　金融科技公司Finastra的调查显示，香港金融机构的生成式人工智能使用率是全球众多金融市场中最高，达到38%，远高于26%的全球平均水平。

　　毕马威会计师事务所去年7月发布的银行业年度报告十分看重生成式人工智能的影响，指出，该技术已逐步应用于智能数据分析、智能聊天、雇员服务等。

　　尽管生成式人工智能有助提高生产力、拓展视野，但必须在安全框架下运行。商界需遵循最佳实践，建立明确的保障措施，在行之有效的同时，既不会扼杀创新，又确保行业自律。

　　2022年，特区政府公布《创新科技发展蓝图》，为未来5至10年的香港创科发展拟定八大策略，引领香港建设国际创新科技中心，强调建设安全网络环境，合理监管人工智能，如今正稳步落实。

　　数字政策办公室上月15日公布《香港生成式人工智能技术及应用指引》，指引委托香港生成式人工智能研发中心，透过实践应用并收集业界意见后制定，明确禁止开发可能用于非法活动的人工智能工具，如制造爆炸装置、生成淫秽内容、伪造虚假信息实施欺诈，扰乱公共秩序等。数字政策专员黄志光表示，希望通过四级分类系统对生成式人工智能进行规管：以安全、负责任的方式开发应用，鼓励技术创新，减低风险，促进推广普及。

　　与此同时，香港金融管理局正筹建“监管沙盒”，用于测试新型软件。一旦到位，金融机构便能安全测试生成式人工智能，金管局也能借此实时监测技术发展，确保风险管控到位后再全面推广。

　　此外，一旦生成式人工智能被滥用，国家安全将面临巨大威胁，全社会必须提高警觉。然而，制定有效的规则体系极具挑战性，既然风险无可避免，则应使之最小化。毕竟，缺乏妥善监管，或将催生出“无法无天”的混乱局面。

　　随着内地人工智能DeepSeek的崛起，AI成为了焦点议题。今年的政府工作报告提出，培育壮大新兴产业、未来产业，持续推进“人工智能＋”行动。此外，会议期间也探讨了人工智能滥用问题，呼吁进一步完善监管。

　　特区政府同样重视人工智能监管。个人资料私隐专员钟丽玲，深谙滥用人工智能对个人隐私等权利的威胁，自2020年上任以来，持续强化人工智能安全治理。若无有效监管，《个人资料（私隐）条例》很可能被有心之人“钻空子”，为此，政府不断完善规管措施。

　　2021年，数字办咨询私隐专员公署后制订《人工智能道德框架》，提倡尊重、互惠、公平的数据管理原则，遵守国际公认的人工智能伦理原则，涵盖人为监督、数据隐私、透明度、稳健及安全等核心要素。

　　2024年，公署推出《人工智能：个人资料保障模范框架》，为各机构提供最佳行事常规，指导如何在人工智能采购及应用中完善操作，同时保障个人资料私隐。

　　今年3月，公署发表《雇员使用生成式人工智能的指引清单》，强调要持续推动“人工智能＋”行动计划，激发数字经济创新活力，与两会精神相呼应。指引以风险管理为核心要务，详列了一系列“宜”与“忌”，要求雇员在工作场景中执行，旨在推动人工智能安全健康发展。除涵盖个人资料保护、违规处置及补救措施外，还强调了人工智能在实际应用中的注意事项：规定雇员在向生成式人工智能系统输入个人资料前，须先完成匿名化处理；同时敦促雇主在雇员违反指引要求时，采取适当惩戒措施。

　　指引将助力机构制定符合个人资料保护法规的生成式人工智能内部政策，虽然不能将这项政策一以贯之，但可为各个雇主提供参考，确保雇员能够以负责任的态度应用前沿科技。

　　放眼大局，钟丽玲强调，我国一直坚持发展和安全并重。换言之，人工智能的安全问题必须从整体而非孤立的角度看待。人工智能安全是国家安全的重要组成部分，这已成为不争的事实。虽然生成式人工智能可以发挥积极作用，但在某些情形下也可能衍生特殊风险，例如不法分子可能利用这一技术策划并实施危害国家的行动。

　　随着生成式人工智能的普及，各监管机构将密切关注其发展动态，在发现潜在威胁时果断介入。尽管各界普遍认同生成式人工智能带来进步，但其绝不能以牺牲公共安全、个人权益或市场稳定为代价。在制定监管措施时，香港应秉持数字办倡导的“务实平衡策略”，相关风险防控须以保障香港正当技术发展为前提。若能实现这一平衡，香港必将引领地区生成式人工智能监管和发展。

　　注：原文刊于《中国日报香港版》

　　前刑事检控专员