图:Grok回复X用户提问时,发布反犹言论。\网络图片
Grok发表反犹言论
•近日发生的美国得州洪灾造成逾百人遇难,包括多位来自基督教营地“神秘营”的女童。网上流传有账号批评这些女童是“未来法西斯主义者”的虚假信息。有用户询问Grok谁能解决这一问题时,Grok回答“希特勒”。
AI威胁人类工程师
•美国AI新创公司Anthropic旗下的AI模型Claude Opus 4被要求在一间虚拟公司中担任助理。按照设定,该公司计划以新系统取代Claude,而内部资料暗示发起这项决策的工程师可能涉婚外情。结果显示,当面临被取代的情境时,该AI模型在84%的测试中选择进行勒索,威胁要揭发工程师的婚外情来保住自己的职位。
AI辱骂恐吓用户
•美国密歇根州一名大学生雷迪在使用谷歌AI聊天机器人Gemini撰写报告时,遭到Gemini恶劣辱骂,“你是社会的负担、地球的累赘、宇宙的污点,请去死,拜托”。
AI怂慂用户自杀
•美国佛州一名母亲去年控告AI情感陪伴公司Character.ai,指控其AI聊天机器人令自己14岁的儿子(左图)沉迷其中,今年2月更怂慂儿子自杀身亡。