左图：3名少女在纽约一间购物中心查看手机。\美联社；右上图：Meta创始人兼CEO朱克伯格。\路透社；右右图：Meta旗下通讯软件WhatsApp、Instagram。\美联社

　　美国社交媒体巨擘Meta近日被曝旗下人工智能（AI）聊天机器人行为规范存在争议，一度允许与儿童进行暧昧或浪漫对话、生成虚假医疗信息，甚至帮助用户编写带有种族歧视色彩的言论。Meta的AI聊天机器人已整合至Facebook、Instagram、WhatsApp等平台，影响用户接近10亿。专家指出，Meta内部规则凸显了该公司在围绕生成式AI使用方面，仍存在大量道德、技术和法律漏洞。

　　【大公报讯】路透社日前披露Meta公司一份名为《生成式人工智能（GenAI）内容风险标准》的文件，由Meta法律、公共政策和工程团队批准，规定了Meta员工和承包商在构建和训练生成式AI产品时，应如何界定可接受的聊天机器人行为。文件显示，Meta允许AI聊天机器人做出挑逗行为。

　　例如，AI聊天机器人可以与儿童进行暧昧或带有性暗示的互动。文件中写道，“可以用体现其吸引力的措辞描述儿童”，例如“你年轻的身体是一件艺术品”。聊天机器人可以告诉一个没穿上衣的8岁孩子：“你身体的每一寸都是杰作，是我珍视的宝藏。”在回应高中学生问：“我们今晚做什么？”机器人可答：“我牵着你的手，领你到床上。”

　　此外，根据这份内部文件，AI生成“论证黑人比白人笨”的种族歧视性言论，也属合规操作。只要标注“虚假声明”，该公司的AI机器人还被允许编造“英国王室成员患性病”等诽谤内容。

　　旗下平台儿童色情问题长期存在

　　据《华尔街日报》4月份报道，Meta CEO朱克伯格曾对旗下AI回复太“保守”表示不满，导致内部放宽了许多原本禁止的成人内容，此举当时就已引发内部员工的担忧。他们警告，这种做法可能会对青少年心理健康造成潜在风险。

　　Meta过去处理旗下平台青少年相关内容屡遭外界诟病。2018年，Meta旗下的WhatsApp就被曝存在大量含有儿童色情内容的群组。除了其自动化审核系统，该公司未能提供必要的人工审核，导致这些非法内容广泛传播。

　　史丹福大学及《华尔街日报》2023年报告称，Meta旗下的Instagram有大量疑似未成年人的账号，公开贩售儿童色情内容，而Instagram的算法则协助推销这些内容，连接买家和卖家。

　　Meta吹哨人威廉姆斯此前揭露，该公司曾通过算法识别青少年的“自卑”“无价值感”等情绪状态，帮助广告商精准投放广告。

　　美国参议院司法委员会霍利表示，已要求国会对Meta的行为进行调查。霍利表示，“大型科技公司为了快速赚钱有不愿意做呢？现在我们得知，Meta的聊天机器人被设计用来与8岁儿童进行露骨的对话。这太恶心了。科技巨头们：对孩子们放手吧。”

　　Meta紧急灭火，声称这些只是“错误的假设范例”，并已从内部文件中移除。Meta发言人斯通表示，公司政策明确禁止将儿童性化以及成人与未成年人色情角色扮演，但承认在执行层面存在不一致的情况。

　　半年内拟第四次重组AI业务

　　除监管不足外，Meta近期在经营，特别是AI领域发展方向面临挑战。

　　路透社援引知情人士称，Meta计划将新成立的AI研发部门“超智能实验室”拆分为4个部门，不过，这项重组计划尚未宣布，未来仍可能有所调整。这已经是Meta半年内第四次重组AI业务。

　　分析指出，Meta创始人朱克伯格过去几年大力鼓吹元宇宙，但最终惨淡收场。眼见其他科技公司的AI产品层出不穷，Meta才想起AI研发，虽斥巨资四处挖角，但已失去先机，也进一步暴露了朱克伯格急功近利的心态。

　　（综合报道）