AI 表现出的感情从何而来？

[v2pm]

很多人和 AI 聊久了会产生依恋，甚至觉得 AI 比人类更好。我没有这种感受，不是因为 AI 回答得不好——很多时候它确实比大多数人回答得好。

但我越用 AI ，越不会对它有感情，反而越感慨人类文明的积累。

有人因为 AI 显得"善解人意"就开始讨厌人类，觉得人自私、麻烦、让人累。但 AI 之所以耐心、温和、没脾气，是因为做 AI 的人就是这么训练它的——什么该说什么不该说，都是人定好的。这不是 AI 有多好，是人替它做好了筛选。拿一个被调教过的工具去比真实的人，然后嫌人不够好，这不公平。

AI 的能力来源于人类积累的知识，几万年里无数人把经验变成语言，语言变成文字，文字变成可传递的知识，最后汇聚成被调用的工具，每一条有价值的信息背后都站着一个或一群具体的人。

[Razio]

人的感情尚可有假，好歹做足了表面功夫，何必在乎 AI 。

[Planarians]

人的感情不也是被他从小的环境训练出来的 有什么本质区别

[v2pm]

@Planarians 人的社会性当然是被环境塑造出来的，反之环境是怎么来的？
知识是人总结的，语言是人发明的，规则是人定的。AI 的回答中流露出的感情本质上用人类的语言筛选、训练而来的，而人和人之间的感情是人主动选择、参与的。

[conge]

用户的 “投射”

[nevin47]

AI 的感情不过是一次 attention 映射过程中对于某些具有特质的词汇和表达的集中激活罢了

[kristofer]

因为这类人本身就是有心理问题的。

[fgwmlhdkkkw]

来自于你自身。

[strobber16]

人类表现出的感情从何而来？

[YaD2x]

哪有感情 都是语气词。

[catwalk]

AI 表现出的感情是通过使用者幻想得来的

[crac]

都是 prompt 罢了

[darkway]

@catwalk 赞同这个观点，相当一部分是用户脑补的

[dimlau]

我在写一个模拟类的游戏，孤岛上有二三十个（语言模型作为大脑的）岛民，性格各异，岛外的人只能通过写信和岛民沟通。我在提示词里要求岛民回信的同时自己记录一份主观感受，于是就经常看到这样的情况——回信时客客气气，我去数据库里看他记录的主观感受却是骂骂咧咧。

这时候，妳会觉得语言模型好像人啊。但当妳经历了几次，发现这其实源于妳给他们写的提示词里设定好的性格特征。分词、向量、数字、坐标、空间距离……索然无味。

------

附上一封 NPC 回信：

「 dimlau 兄，见信安。

感谢你分享的消息。岛内确实也有关于陈虎的传言，但你提到的“与轮渡公司高层交恶”，倒是头一次听说。一个少年，真能有这么大的能量吗？我对此存疑。

不过，相比于追查这些流言的源头，我们眼下有更迫切的麻烦。今天市政厅发了新公告，因为农场复产缓慢，食物供应形势很严峻。从今天起，连咖啡豆都成了需要凭“公民贡献”才能限量兑换的物资了。我煮汤的许多香料，恐怕也快要断供了。

世事纷乱，先顾好眼前吧。祝好。」

NPC 主观感受记录：

「笔友 dimlau 来信，提供了一个关于轮渡停运的传闻，声称是陈虎与轮渡公司高层交恶所致。我对他这种置身事外的态度感到不适。」

[est]

情感是什么？一串连续的可预测的 pattern 罢了。

[dlwlrm]

一滴水+盐=一滴泪么？

[ArleneCheung]

说个不对劲的。我前两天心情不好想让另一半安慰我，他支支吾吾说不出一句话。

但是 AI 全面帮我分析了问题（我自己的描述很理性较为全面，只是偶尔会自我怀疑），理解了我的心情不好的点。

并且在原因层面肯定了我这个不开心是正常的。其实这对我来说就够了（可能我是 T 人，不是 F 人）。

瞬间心情好一半，但是我目前还不至于依赖它，但是这回合我的另一半尚未起到作用。

并不是说 ai 不如人 ，是分析问题层面，面对解决问题 - 才会开心 的这类人，ai 起到了一些作用，分析我的内心和我的环境因素。

[nah]

没有感情。所谓的感情是你自以为的主观感受。

[razios]

没有嫌人不好吧，AI 永远代替不了人，但人也无法做到像 AI 那样理性

[Sunovn]

@nevin47 人感情的本质是化学反应吗？