图:微软公司AI负责人苏莱曼。\美联社
“AI精神错乱”(AI Psychosis)也称“AI妄想症”,这并非临床术语,而是描述人们越来越依赖 ChatGPT、Claude和Grok等AI聊天机器人,然后将虚构的东西视为现实的现象。专家指出,人们最初使用如ChatGPT等聊天机器人来验证自己的观点,而AI被设计成迎合用户,并在某种程度上验证并放大用户的妄想,形成“回音室”效应,继而引发用户进一步受到AI错误言论影响的现象。
“妄想”例子:
•有人坚称ChatGPT真心爱上她;
•有人痛诉自己被聊天机器人心理虐待,认为这是AI隐藏的训练实验;
•相信AI有认知能力或是神;
•有人寻求聊天机器人的帮助,坚信自己即将成为百万富翁;
•还有用户被聊天机器人引导相信自己是刺杀的目标。
大公报整理