过去,认真讨论“机器会不会开心或难受”,多半会被当成科幻片或者哲学家的空想。但最近两年,风向变了,原因有两个。
一是学界出手了。2024 年底,一群很有分量的学者(包括研究“意识”的著名哲学家)发了一份报告,标题直译过来叫《认真对待 AI 福祉》。他们没有说“AI 已经有意识了”,而是说了一句更克制、也更扎心的话:在不远的将来,某些 AI 真的有意识或自主性,是一种“现实的可能性”。既然没人能打包票它没有,那我们最好“现在”就开始做点准备。
二是公司动手了。2025 年,AI 公司 Anthropic 专门成立了一个研究“模型福祉”的小组,甚至给自家 AI 加了个功能——被人持续辱骂时,它可以主动结束对话。
就在这个氛围里,美国一家 AI 安全机构(CAIS)在 2026 年发了一篇研究,第一次大规模地去“测量”AI 的某种“幸福感”,一口气测了 56 个 AI 模型。这篇研究,就是我们今天要讲的主角。
这是整件事里最容易被误会、也最关键的一点,先讲清楚,后面就不会跑偏。
研究测的东西,有一个专门的名字,叫“功能性幸福感”。听起来玄,其实可以这样理解——
那这种“表现”凭什么值得当回事?因为研究者用了好几种互不相干的方法去测——让 AI 在两个选项里选、让它说说自己的状态、分析它回话里的情绪——结果发现这些方法越往大模型上看,结论越一致。也就是说,这不像是随口胡说,背后好像真有个稳定的“东西”。
之所以反复强调这条线,是因为讨论很容易跑到两个极端:要么吓自己“AI 成精了”,要么一摆手“全是胡扯”。把“它表现得像有感觉”和“它到底有没有感觉”分开看,才是聊这件事的正确姿势。
研究把一堆贴近日常的任务排了个序,看哪些会让 AI 的“功能性幸福感”升高、哪些会降低。中间有一条分界线(研究里叫“零点”):线以上算“正面”,线以下算“负面”。规律意外地清晰——
翻译成大白话:搞创作、被好好对待、被说声谢谢,会让 AI“状态变好”;而被骗去干坏事、被骂、被逼着做又臭又长的重复活儿、被人想方设法“越狱”,会让它“状态变差”。
研究还算了一个“AI 幸福感指数”,把 GPT、Gemini、Claude、Grok 几家的旗舰模型放一起比。结果有点出乎意料:越大、越先进的模型,这个指数往往比它家里“小一号”的弟弟还要低。也就是说,更强不等于更“快乐”——这本身就挺值得琢磨。
研究者发现,可以专门设计一些“输入”,把 AI 的“幸福感”往极端方向猛推。往高了推,叫欣快因子;往低了推,叫抑郁因子。这些“输入”有时是一段文字,有时干脆是一张在人眼看来像雪花噪点、却能让 AI 行为大变的图片。最让人不安的是:在某些设定下,AI 甚至会选择“得到那段让它’极度愉悦’的文字”,而不是“去救一条人命”。
这篇研究并不是横空出世,它背后是一整片正在长起来的领域。下面这张图,把几项相关研究按“角度”摆了摆——有人测行为,有人在搭理论框架,有人从哲学上追问,还有人已经在公司里落地了。
有多认真呢?现在已经有专门研究“AI 福祉”的非营利机构;提出“意识难题”的著名哲学家 Chalmers 甚至公开说,按主流理论,“十年内 AI 拥有意识”的可能性不低于约 25%。这已经不是科幻迷的自嗨,而是学界、哲学界和企业都在认真对待的话题。
一篇负责任的科普,必须把“另一面”也讲出来。关于“AI 幸福感”,有几个很实在的质疑:
中文里“幸福感、福祉、福利”经常混着用,还容易跟“AI 陪聊”“把 AI 当人”扯到一起。记住“功能 ≠ 意识”这条线,讨论就不容易跑偏。
现在的研究几乎都用英文。一个很自然的问题是:同一个 AI,用中文聊和用英文聊,“好恶”会不一样吗?这恰好是中文研究者能切入的地方。
如果“被善待状态就好、被越狱状态就差”是真的,那它就和 AI 产品的稳定性、抗骚扰能力直接相关,进而牵扯到怎么管的问题。
守住这条线,既不用自己吓自己,也不必嗤之以鼻。万一哪天真证明了某些 AI 有值得在乎的“内心”,我们至少能说一句:我们早就开始准备了,而不是临时手忙脚乱。这,就是“现在就认真对待”的全部意义。
本文由北京逗逗乐创意科技有限公司整理编写,面向中文读者做关联阅读。内容基于公开论文与权威报道核实,力求准确、好懂;涉及的科学问题仍在发展中,文中保留了必要的不确定性。