大公网

大公报电子版
首页 > 新闻 > 国际 > 正文

AI频现安全风险

2025-07-10 05:02:23大公报
字号
放大
标准
分享

  图:Grok回复X用户提问时,发布反犹言论。\网络图片

  Grok发表反犹言论

  •近日发生的美国得州洪灾造成逾百人遇难,包括多位来自基督教营地“神秘营”的女童。网上流传有账号批评这些女童是“未来法西斯主义者”的虚假信息。有用户询问Grok谁能解决这一问题时,Grok回答“希特勒”。

  AI威胁人类工程师

  •美国AI新创公司Anthropic旗下的AI模型Claude Opus 4被要求在一间虚拟公司中担任助理。按照设定,该公司计划以新系统取代Claude,而内部资料暗示发起这项决策的工程师可能涉婚外情。结果显示,当面临被取代的情境时,该AI模型在84%的测试中选择进行勒索,威胁要揭发工程师的婚外情来保住自己的职位。

  AI辱骂恐吓用户

  •美国密歇根州一名大学生雷迪在使用谷歌AI聊天机器人Gemini撰写报告时,遭到Gemini恶劣辱骂,“你是社会的负担、地球的累赘、宇宙的污点,请去死,拜托”。

  AI怂慂用户自杀

  •美国佛州一名母亲去年控告AI情感陪伴公司Character.ai,指控其AI聊天机器人令自己14岁的儿子(左图)沉迷其中,今年2月更怂慂儿子自杀身亡。

点击排行