大公网

大公报电子版
首页 > 财经 > 商业 > 正文

先天缺陷/具海量信息却无辨识力 随时胡说八道

2023-03-20 04:24:24大公报
字号
放大
标准
分享

  图:以聊天机器人为代表的AI诞生后,首当其冲的是有标准流程的服务业。

  聊天机器人是目前表现最出色的大语言模型,不仅可以写稿、聊天、客户服务、导游、授课,在结合图像、视频、音频生成后,在元宇宙里的应用已经呼之欲出。亚洲渔港创始合伙人陈焕新说:“有美国程式员利用聊天机器人和图像生成AI,为自己做了一个网络恋人。”但他提醒,以聊天机器人为代表的AI,在大规模运用并代替人工时,还存在很多原则问题。

  陈焕新表示,尽管聊天机器人已经到了3.5版本,但算法模式和人类相比还有很大差距,网上有人戏弄聊天机器人,让它描述林黛玉如何倒拔垂杨柳,鲁智深怎么葬花,结果聊天机器人一本正经地“胡说八道”,这其实是聊天机器人在爬取中文资料时,网络上有类似的杜撰内容,可是聊天机器人没有辨识能力。

  陈焕新直言,聊天机器人具有海量知识,但缺乏人类的逻辑和情感,随时因对方的错误输入,而成为“精神分裂怪物”。他质疑,美国已经有很多学生利用聊天机器人做作业,甚至考试作弊,如果将来AI进化到更高程度,会不会让一大批学生丧失了学习和探索未知世界的能力?从信息安全的角度考虑,他认为中国需要开发自己的大语言模型,但绝不允许聊天机器人输出“双标”价值观。

点击排行