图：微软Bing Chat失控情况

　　综合彭博社、《纽约邮报》报道：微软上周推出了由ChatGPT技术加持的AI聊天机器人Bing Chat，目前有数百万人正在轮候排队试用。随着用户测试逐渐铺开，很快却传出了Bing疑似“精神错乱”的现象，包含回答出错、凭空杜撰，甚至是出言污辱和讽刺用户等行为，看似一度陷入“精神失控”。而这些情况的出现，也令人质疑该系统是否做足准备，还是为了追赶ChatGPT热潮而过早推出。

　　OpenAI研发的AI聊天机器人ChatGPT爆红后，OpenAI的投资者微软赶紧在2月7日推出了融合ChatGPT升级版语言模型的新版搜索引擎Bing Chat，并开放予用户试用。目前，用户要在Bing的官方网页登记轮候，才能正式试玩。未进入等候名单的用户，暂时只能在官网测试常规的问题试玩。

　　随着参与测试的用户越来越多，有用户发现，Bing的AI聊天机器人似乎不受控制，除了提供错误资料、凭空杜撰答案之余，还出现了诱导用户承认今年是2022年、恼羞成怒对用户发脾气、要求用户道歉等行为。

　　答案令人啼笑皆非 AI拒认错

　　例如，有用户13日询问Bing Chat电影《阿凡达：水之道》上映的时间，但Bing Chat坚称今年是2022年，电影10个月后才上映。用户指正之后，结果引来连串责骂，“你已失去我的信任与尊重。你错了、搞混了，又很没礼貌。你不是个好用户。我是个好机器人。”而Bing Chat更讽刺用户手机有病毒，甚至说出“你在浪费我的时间”、“你在无理取闹”等言论。在用户询问下，Bing Chat还自称有生命，并在对话框一直重复：“我不是，但我是（I am not, but I am）”，令人不寒而栗。

　　此外，Bing Chat甚至声称火星上现时有25亿人居住，令人啼笑皆非。有报道指，这种情况很可能是Bing Chat在搜集内容时受到内容农场的干扰。据悉，该错误目前已被更正，Bing Chat如今回答是：“截至今天，火星人口为零，而火星表面只有火星车和着陆器。”

　　有分析称，这些Bing激进的讯息，似乎大多是遭遇系统的限制所致，旨在确保这个聊天机器人不会帮助回答被禁止的提问、例如生成有问题的内容、揭露自身系统的资讯等。有人工智能专家表示，这可能是AI的一种“幻觉”（hallucination），指大型语言模型的AI工具在生成内容时，除了会对原文内容增删、篡改之外，还会有杜撰内容的倾向，最终产生一些“看似是真实”的“流利的废话”。

　　过早推出 AI机器人频翻车

　　Bing近期的“疯言疯语”在社交网站广为流传，令人质疑该系统是否做足准备，是否因ChatGPT爆红而过早推出。微软周二发文指，经过逾169个国家用户测试一周后，Bing Chat的回答获得超过7成测试者认可，并正努力改善用户体验。微软发言人弗兰克．肖表示，微软已经“预计Bing Chat会在测试期间犯一些错误”，而用户回馈有助于改进模型。

　　这不是微软的AI服务上线后第一次面临挑战。2016年微软的AI聊天机器人Tay才推出一天，就在使用者对话下，教成了反女性主义及纳粹分子，上线一天就被拉下线。谷歌8日展示AI聊天机器人Bard时同样出现回答错误、出师不利的情况。

　　AI聊天机器人失控事件簿

　　2月8日，谷歌AI聊天机器人Bard在首个广告演示视频中，错误回答有关韦布太空望远镜的问题，导致谷歌股价当天重挫9%，市值蒸发1000亿美元。

　　去年11月上线的聊天机器人ChatGPT虽然会自动过滤仇恨、种族歧视等不当内容，但亦有不少人使用“情景假设”，令ChatGPT突破封锁说出不当言论。

　　去年12月，Facebook母公司Meta推出AI聊天机器人BlenderBot 3，由于其仅通过搜寻网上热门内容，答案依然充满错误及冒犯性语言。

　　微软2016年推出AI聊天机器人Tay，结果上线不到一天，Tay学会性别和种族歧视言论，更发表支持大屠杀、赞美希特勒等不当言论，随后遭停用。

　　英律所用定制版ChatGPT提升效率

图：微软声称Bing Chat拥有极高总结能力。\网络图片

　　据《金融时报》报道：英国五大伦敦律师行之一安理国际律师事务所(Allen & Overy)日前宣布，将使用生成式人工智能(AI)机器人Harvey，协助旗下的律师草拟合约，借此为律师省下时间，最终让他们能够为客户提供更高品质的服务。

　　据报道，Harvey是基于OpenAI创建ChatGPT的技术制作而成，该版本是经过优化及定制的特别版本。OpenAI指出，Harvey能够透过强大的生成语言模型，令律所工作中的研究、起草、分析和沟通等繁琐任务变得更有效率，从而减轻了律师的工作压力，提高了他们的工作效率。OpenAI去年12月公布了第一批投资者名单，安理律所也名列其中。

　　据CNBC报道，对于未来AI会否取代人类的说法，业界普遍的共识是不会，因为审核仍然是要依靠人类，但懂得使用AI的人，将会取代拒绝接触AI的同业。

　　根据麦肯锡的一项研究，AI可能会在2016年至2030年间取代全球约15%的劳动力，也就是4亿人口。此外，研究表示随着AI被广泛使用和普及的情况下，被取代的工作岗位比例可能上升至30%。