图：马斯克签署公开信，呼吁暂停训练超强AI系统。\路透社

　　【大公报讯】综合路透社、法新社、《华盛顿邮报》报道：ChatGPT母公司OpenAI创办人之一、美国富豪马斯克与逾千位人工智能（AI）专家及行业高层29日发表公开联署信，呼吁停止训练比GPT-4性能更强的AI系统至少6个月，因为该类系统将对社会及人类构成潜在危险。与此同时，欧洲刑警组织（Europol）27日警告，ChatGPT等AI聊天机器人可能被犯罪分子滥用，进行网络钓鱼、散步虚假信息及开发病毒软件等。

　　美国OpenAI公司去年11月推出的ChatGPT受到热捧，用户对它明确回答困难问题、编写诗句和程式，甚至是通过考试等能力惊叹不已。欧洲刑警组织新成立的“创新实验室”从整体上研究了聊天机器人的使用，并将ChatGPT列为重点关注对象。

　　骗徒用ChatGPT生成虚拟角色

　　欧洲刑警组织发现，犯罪分子可以利用ChatGPT大幅加速对未知领域的研究进程，包括草拟欺诈计划，或查询如何闯入民宅、执行恐怖行动、网络犯罪、儿童性虐待等信息。该组织指出，ChatGPT快速生成逼真的语音文本的能力对于网络钓鱼攻击特别有效，犯罪者可借此引诱使用者点击电邮连结，再试图窃取他们的资料。

　　ChatGPT还可用于撰写计算机代码，让那些对编码和开发知之甚少，或一窍不通的不法分子能够“轻松犯罪”。欧洲刑警组织指出，尽管ChatGPT具备内容审查等防护措施，会拒绝回答被归类为有害或有偏见的问题，但犯罪分子可以通过巧妙的提示加以规避。

　　网络安全平台GBHackers此前披露一宗黑客利用ChatGPT诈骗的案例。犯罪分子利用ChatGPT在短时间内生成完整的诈骗话术，迅速创建一个“虚拟角色”，并生成自我介绍、聊天内容及精心制作的“情书”，让受害人以为自己坠入爱河，最终遭受金钱诈骗。

　　ChatGPT技术助长电话骗案

　　美国联邦贸易委员会（FTC）最新统计显示，“冒名诈骗”已成为美国第二大热门的欺诈类型，2022年报告的案件超过3.6万起，其中约5000起为电话诈骗，损失金额超过1100万美元。除了成本低廉，只要一部电话就能展开诈骗，AI技术的进步也助长了电诈风气。

　　美媒5日报道，一对加拿大夫妇遭电话诈骗，骗徒利用AI模仿他们儿子的声音，从二人手上骗取2.1万加元。受害夫妇表示，他们某天接到“儿子”的电话，对方称自己驾车撞死一名美国外交官，现身处监狱，急需金钱支付律师费。受害夫妇虽觉得事有跷蹊，但由于对方声线非常像自己的儿子，仍提取现金并换成比特币，交予骗徒。

　　加州大学伯克利分校数字鉴证教授法理德表示，随着AI技术的发展，两年前还需要长时间样本才能将人的声音覆製得维妙维肖，现在只需短短30秒音频，就能捕捉到一个人的声音特征，包括年龄、性别、口音等。

　　AI系统恐对人类构成风险

　　非营利机构“未来生命研究所”29日发布一封公开信，呼吁全球AI实验室立即暂停训练比GPT-4更强大的AI系统，至少中止6个月，必要时政府应当介入。截至目前，这封信已有超过1000名科学家和研究人员签名，其中包括马斯克、苹果联合创办人沃兹尼克、图灵奖得主本吉奥、Stability AI行政总裁莫斯塔克等。有网友发现，GPT-4开发商OpenAI的行政总裁阿尔特曼的名字短暂出现在公开信上，但很快被移除，疑似他人冒签。据美国《时代周刊》报道，暂时没有OpenAI员工在这封信上签名。

　　公开信中写道，广泛研究表明AI系统可能对人类构成深远风险，只有当确保强大的AI系统的效果是积极的、风险是可控的才能继续开发。AI实验室和独立专家应在暂停期间，共同制定和实施一套先进的AI设计和开发的共享安全协议，由独立的外部专家进行严格监督。有网友质疑，签署公开信的专家是为了阻碍OpenAI研发更先进的GPT-5，以免自己落后太多。