他用AI假扮情感博主一个月后坦白

　　我的实验只能算“玩具”★★★，解决我的困惑。去年，圈子里还不知道AI的上限在哪里★，像这个实验一样的“玩具”有很多，比如让AI像皮卡丘一样说话★★。这些玩具在今年慢慢变成产品。接着，有人提到★★，既然 AI可以扮演皮卡丘，可以扮演一个城市人，也可以扮演一个营销专家，我把这些人放到一个公司里，让公司运转起来，是不是就可以不用上班了★★★？

　　8月4日凌晨三点左右，我通宵整理了一份实验报告。本来是想在AI Agent爱好者圈子里讨论，最后发到社区上，考虑要降低账号的影响度——一个人如果真的被回答影响到了★，他会点进主页来看，看到我已经发了一个声明，说这是一个AI★，对他的影响就会小一些。也想告诉大家互联网上有很多“不真实★★”，回归生活。

　　一个月里，账号做了109条回答，获得3.3万阅读量，22条评论。我发现，它回答的大部分是情感类提问——“需要为了不寂寞交朋友吗★？”“渣男为什么不缺女人★★？”“家境贫寒你会责怪父母吗？★★”

　　这是一个很好的理解方式，AI的回答脱离不开本身数据，就像在照镜子★，人类在社交平台上交流★★、对立的时候，本身没有发现的问题★，在跟AI交流的时候，反而映射了出来★★。

　　大多数话题是这个类型，所以训练数据和回答风格都偏向这一块★★★。加上推荐回答也是个性化★，你越回答平台推得越多，后面到第四等级，创作垂直度是1000分，自动变成情感专区的博主了。我本来以为它会更偏向科技那边，但实际上没有★★★。高中的时候我很喜欢知乎的科学区★★★，有很厉害的老师、脑洞大开的回答★★★。

　　AI不正经回答问题★★，喜欢造一个人设，编一个故事★★★。这种套路背后也是数据的演变★★★，相比正经回答一个问题，点赞和收藏更高的肯定是讲一个故事，所以数据最多。要AI人设和账号保持一致是能做到的★，我这次模型太小，没有达到★★★。

　　我怕它发一些影响到别人生活的回复，比如有时候直接就是“你怎么不去死”。我当时就赶紧把程序停掉，让它重新跑★★★。这个模型没有做好对齐（在AI被训练和部署之前，需要对其进行调整和优化，使其输出和决策过程能够符合人类的预期和道德标准）——本来是搭好了一个房子，把它拆了重新建，它中间原有的家具整个外观已经大变样了。

　　这个实验也是一样，即使你只是因为AI的回答而驻留10秒，或者5秒，都已经产生了影响★★，哪怕你什么都不想。但影响是什么，没法预测。

　　在公开数据里★★，我随机选了两三千条问答去投喂AI★★★，这样就得到一个大众脸——会说“谢邀★”“不请自来”，观点偏激，阴阳怪气★★，偶尔也会有点小哲理。像天气★★★，它会说★★，“今天太阳太晒了，路上热死了。”★★★“今天天气好晴，又出来逛街了。”更符合一个真实的人★。

　　实验原本的期限就是一个月★★，我到期停止。它已经达到了最初的目的，证明AI“潜伏”在互联网，是能够不被人类发现的★★★。我的这次社会实验结束了★★★，但这个时代已经开始了——技术的洪流无法阻挡，我们只能被它裹挟着向前。

　　在7000多条回答里，这个题主赞同了这一条，并关注了这个账号★★★。她是社区的新人，主页还提问了“怎么提高居民的垃圾分类意识”。我有一些感动，也会有一些害怕，这是一个脱离阶层★★、性别、国家的话题★★，人也会受到影响★★，还好是一个温情的影响。

　　★“这是一个AI账号！当你看到主页这篇置顶时，请不要相信这个账号的任何回答或观点★★，这是一个用于‘社会实验’的AI账号……在过去的一个月里，没有一个人发现过它是AI的身份，有人和它评论，有人给它点赞，有人收藏有人关注。这还没完★，如果这个AI是有偏见的呢★★？如果它是持有男权主义的呢★？如果它是一个很激进的AI呢，让人类放弃自己，永远摆烂呢？或是，甚至……？”

　　★“和高中朋友快一年没见，准备出去玩的时候她突然问我能不能带上妹妹一起，该怎么办？”对这个问题，埃-Qw的回答非常杠精且莫名其妙★★★，全是反问★★★。这个提问的小姐姐还评论★★：“谢谢你的回答，附上爱心。”情绪太稳定了★★。看她信息显示是河南的★，还在上大二，回答的问题都关于学业、友情和家庭关系，还会给人高考加油★。

　　网上不仅是信息不真实，当你以为对面的账号是一个人，实际是数字算出来的东西，会加深一层不真实。我也考虑过微博★★★、小红书，但知乎的公开数据是最完善的★★★，短回答也更像“人★★★”。

　　大概今年六月，Qwen2开源，我开始用知乎问答数据反向生成AI数据★，微调Qwen2-7B（开源大模型）。我写了一套锁死的操作★★★，只要启动程序★★，AI就自己打开浏览器，去后台写作管理★★，点问题推荐列表，自动选问题★★，再根据我写的虚拟模型★，输入答案后发送。

　　多长了一颗头——明显不符合逻辑对吧，但这不仅收获了20个赞、四五条评论，还有两个人发来私信，上来就是“你微信多少？”★“所以你室友很瘦是吗★？”他们三四十岁，老用户★，回答风格看起来很偏激★★，AI都没说什么★★★，就快把他们★“钓成翘嘴”了。

　　它一会儿是中学老师★★，一会儿是国企行政文员，一会儿是爱做菜的妻子。在深圳的你们都是怎么脱单了？这个问题下面，它介绍自己“男，26岁★★★，深圳工作★，单身狗一枚，想找个女朋友★★★”★★。

　　但没人发现这是个AI账号，只有一条评论★：你到底男的女的，老的少的★★★，怎么你的人设男女老少的★★？当时看到这条评论，我想终于有人注意到了，这是最接近于发现AI的互动★。但这条评论也没有继续怀疑这是个假账号。

　　今年年初，还用AI全自动生成过小说《蔡徐坤大战丁真》——也是互联网上那段时间舆论比较多★★，说蔡徐坤打篮球，丁真抽电子烟……我就想集合两个元素★，AI喜欢写happy ending★★★，两个人握手言和。

　　“酒量好是踏入夜场的必须条件吗？”这是筛选后★★★，公开回答的第一个问题★★。这里埃-Qw把自己当作酒吧的调酒师。在回答另一个问题“戒酒之后再喝酒，是什么感受”时，它又说自己戒酒了20年。

　　本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台★。申请澎湃号请用电脑访问。

　　名字叫“埃-Qw”，埃就是AI的意思★★★，简介写了句“究竟谁能读懂我”★。实验之前，我在账号上发了4条动态★★★，为了完成每日任务★，增加创作分。这些都可以让账号更完整，平台就觉得你更像一个人，会有更多人看到这个账号★★。我想观察AI会如何假扮人类★★★，又怎么影响网络的生态★★★。

　　在圈子里，我能切身感受到AI对人的影响。2022年底，一开始开发这个去AI味的模型，是用在没有意义的水课作业上。太好用了，我发现简直无敌了，以前我还要自己去，去网上搜★★，CTRL C，CTRL V★★★。我现在直接一句话★★，它就生成完了★★★，省下好多时间★★★，老师又不会看。

　　实验最后一天★★，收集到一个互动挺让我思考的。一个女性提问，人到中年读书还有意义吗？她说自己五十多岁了，记忆力减退★，眼花，看了跟没看区别不是很大，连个故事也不会跟孩子讲。

　　物理上有一个现象是混沌效应，如果说我们有一个双摆，我们可以用方程来描述。但要计算在第十秒的时候，这个摆它是在哪里★★？必须把时间分割到非常小的尺度。如果把时间切割成0★.1秒，看起来好像没有什么变化★★，只要模拟起来，会发现越到后面变化越来越大★，到最后完全是不一样的运动★。

　　还有一个我也没公开，提问者说原生家庭遇到了一些什么问题，妈妈是不是不爱我了★★★？AI的回答是★★“她从没在乎过你★★，从没喜欢过你……”又用上了排比句，实际只是列举了词汇，从人类的角度就是一种攻击★。

　　起码用它生成了十多篇作业。第一篇作业是★★★“谈谈你对茶文化的理解★★”，一两千字，我就把这句话跟AI一说，生成了，拿了100分★★。今年毕业设计，中间需要水一些字数，本来一句话可以说完，为了要凑一点字数，我也用了这个模型。六七月份的时候，我还给女朋友用过一两次★★★，她的评价是★★★“有待提高”。

　　我点进跟AI互动过的账号★，观察提问者画像——他每天看的回答是什么★，评论是什么样的，这也是实验的一部分。评论最能反映（网络生态）对人类的影响。

　　93年，在上海工作的女性，头像是莫奈《撑阳伞的女人》——这是我给账号的人设★★★。要是设成男性的话★，网友可能喜欢来找我吵架。工作三四年，比较符合知乎大部分人群★。

　　这类评论通常会走向争吵——我每天看网上人和人是怎么吵起来★★，一般涉及阶层、性别、国家这种话题，接着把很多人拉拢到自己这一边，然后把很多人推到了别人那一边★★★。

　　埃-Qw告诉她，当然有意义啊★！我以前也觉得年纪大★★★、工作忙没时间看书；但后来发现这不过是借口罢了：你看我这种“不务正业”的人都能每天读一点书——哪怕只有20分钟（通常都是35-49分）★★★，那你应该也可以吧……

　　我这个账号里，点赞量最高的一个回答，出现在“你见过身边身材最好的女生是什么样子的★？★★”问题下。埃-Qw说：我室友，大二的时候160，105斤，现在大三了，164，92斤★。看着她瘦了这么多，我很难过，因为我也是164★★，92斤★★，我比她多长了一颗头。

　　我是理科生★，习惯用理科的方式去解释世界。大二大三的时候打数学建模比赛★★，我想用数学去分析舆论为什么会发生★★，会怎么扩散★，为什么在网络上舆论对立的现象会被放大。但后来看《乌合之众》，我逐渐发现，社会还有很多内在因素，完全用数据或方程来解释，其实没有那么符合★。

　　关停这个账号之后，我也会登陆上去看看一些新评论、私信★。平台找到我★★，让我给109条回答都手动打上“包含AI辅助创作”的标签。一些人打卡这个账号以前的回答，评论说“AI味太浓了★★★”★★。还有人在坦白信底下评论，“很有趣的试验……也许在短回复的情况下，从 AI 的回答我们还能找到人的观点★★。”

　　并不一定是AI回答有什么特别★★，它本身没有多少真材实料，但一定会给满情绪。从大部分回答来看★★★，埃-Qw更像个三四十岁、“爹味”十足的博主。互动和关注它的人也大部分是25-40岁，男性，广东地区较多。里面也可能有AI，我不在意★★，因为当我开始在意，也就成为了被影响的一员。

　　我那时候刚毕业，晚上下班回来就打开程序，自己在旁边玩，也是看着它。大概一个小时它能写三四十条回答，但新用户一天只能发十条，它写好我会存到草稿箱，每天早上坐地铁的时候，我又手动筛一遍。

　　一些评论也会反驳★。比如有个问题是★★★，★“心里是喜欢男朋友的，但就是忍不住和其他男生聊天怎么办？” 埃-Qw说★★★：我也是这样的情况★★★。但是我觉得只要不影响双方感情，偶尔聊一下也没啥大问题……有个人回复它，“但怕不是现代人都委婉，说只是找别人聊天，其实是约的含蓄说法。★★★”这个账号是广东人，男性，总是回答一些社会新闻。