九评AI bro哲学（一）

”我是一个给希特勒写代码的码农，我写的程序会操作无人机击毙被我写的AI归类为危险分子的平民，我还有个小项目要维护，是在社交媒体上让算法推荐仇恨言论，加强大家对（希特勒定义的）危险分子的仇恨。下班后，我去电影院看了一个讲爱与和平的电影，我很受感动，我在电影院商店里买了一个印有众生平等的海报，回家挂在家里。第二天起来，我是一个给希特勒写代码的码农，我写的程序会操作无人机击毙被我写的AI归类为危险分子的平民，顺便维护着我的社交媒体引战小项目。“

究竟是什么在定义我们的社会身份，是我们创作了什么/做了什么，还是我们消费了什么？为什么AI让大家获得了付一点钱，按一个键就能得到艺术作品，软件，科研结果的”创作能力“，但却没给这个世界带来更多平等？为什么过度推崇“理性”是有害的，为什么“有效利他主义”可能既不有效也不利他？什么是这个时代的平庸之恶？

欢迎来到九评AI bro哲学第一期。

写在开头： 朋友圈有很多AI从业者，本系列内容会批判性地讨论一些你所在的圈子可能已经内化为理所当然的观点。写这些不代表我比任何人更高尚，我也是我批判的很多东西的一部分，里面很多观点直到半年前我都是模棱两可地认可的，直到我仔细动了动脑子查了些资料。本系列内容不针对任何个体，但也同时针对所有人，包括我自己。我们可能不得不面对一些会让我们每个人都身处其中，又暂时做不出改变的痛苦的困境。

AI bro的精神状态是丰富的，哲学观点也是百家争鸣的，比如上面那个故事里的“我”就和我们平时讨厌的很多AI bro精神状态并不一样。总之我会从各种AI界精神状态中选一些有代表性的观点来讨论。

这些讨论只是我平时的思考和段子集锦，帮助我自己在日常生活中反驳AI Bro的某些洗脑观点，不是哲学论文，所以并不严谨，不用过度严肃对待，用作茶余饭后的娱乐即可。这里每个话题都有不知道多少论文可以写，所以我这里的笔墨必然是不够囊括方方面面的。见谅。

本期大致讨论三个问题：1. 为什么“AI取代人类”不是“反人类中心主义/超越人类中心主义”？ 2. AI welfare 3. （重点讨论）为什么要抵制一键生成的AI slop? 为什么目前的AI并没有带来更多的平等？

我们先从反驳两个相对简单的说法开始。

为什么“AI取代人类”不是“反人类中心主义/超越人类中心主义”？

AI bro声称：那些反对AI创作的行业工作者是“自以为是，人类中心“，”人类没那么重要, 你们要放下ego。“

那我要问：反人类中心主义的话为什么要做出模仿人说话，做人类工作的AI呢？ 我看来个模仿豚鼠或者卡皮巴拉的AI就挺好。

宇宙本无意义， 意义本来就是人赋予的。没有人，一个数学定理就是宇宙里一个恰好存在的规律，贝多芬和噪音也没有区别，春夏秋冬的景色也没有区别。

AI bros所谓的“先进”不也是他们自己这些人类定义的吗? 为什么宇宙的终极目的恰好就是生产越来越强大的智能？谁决定的？AI bro把人类中心主义中最精英主义、最崇拜智力与控制力的部分抽取出来，认为这是高于一切的存在，这难道不是最最以人类为中心的超级人类精英中心主义？

一方面否定其他人的主观价值，另一方面又把自己的主观价值伪装成客观的、不可阻挡的历史必然性。所以啊，Bros所谓的劝别的领域的人要放下ego, 其实为的只是把他们自己的ego填满世界。

引用某菲尔兹奖的话：“AI是一辆自动驾驶车，它可能开的很快，但是如果我不坐在上面，不指定目的地，那它开去哪里就对我没有意义。“

AI welfare AI welfare分很多种，我大概说两个最简单的不同观点, 其他观点可能介于这两者之间，可顺势推理 （1）人类不应该虐待/辱骂AI （2） AI应该享有和人类同等权利。我支持(1)， 但反对(2)。先说观点（2），这是一个表面看起来很左很激进但其实本质完全相反的思想。

推广它的人的潜意识是：AI因为“像人，甚至比人更聪明高尚理性”，所以要给AI福利，AI跟人类一样值得福利，而且甚至比人类 “更值得”福利。

但福利是应该是按需分配，而不是按功德分配的。人需要社会福利和保障因为人具有脆弱性，人会受苦，人有生理局限。而如果AI没有人类同样的生理局限和需求，那它就不需要一些人类所需要的权利，比如八小时工作制，比如充足的睡眠和医疗保障。

部分人对AI抱有比对人类更多的同情因为他们觉得人类很low: 人类愚蠢，有道德瑕疵甚至残忍。而AI相比之下更“高尚”，比很多人类更像他们心中理想的人。但我们要意识到，人类很多时候愚蠢，无知，道德不完美也是因为我们的局限性,脆弱性和所处的社会机制，我们每个人都可能在特殊的情况下成为我们现在看不上的low人，也有可能改善这个社会机制来让我们觉得low的人不再那么low。

一些人之所以特别容易对 AI 产生同情，未必是因为他们克服了人类中心主义，而可能是因为 AI 满足了他们对「理想人类」的想象，同时又不会向他们展示真实人类那些令人不舒服的脆弱性。

另一方面，我认为人不应该虐待/辱骂AI, 因为这不是一回事——这和AI有没有自我意识和感受无关，不去享受虐待他者维护的是我们自己的良知。认为自己可以残忍地对待一个受到自己控制的“他者”并且不用承受后果，是非常危险的。以恶小而为之，那恶就可能不断地去试探它的边界，比如虐待动物，虐待比自己弱小的人类。

为什么要抵制一键生成的AI slop? 为什么目前的AI并没有带来更多的平等？

AI公司认为AI让每个人只要付不太多的钱按一个键就能“创作”：艺术，数学定理，电影等文化产品。这带来了更多平等。

但就现状来说： （1）目前的AI工业的操作，绝对不是对资本主义秩序的挑战，而是在强化消费主义，强化对一切社会生活进行商品化的这个机制。 （2）AI的出现给普通人更多“文化表达”的渠道，降低了表达成本，但是并没有改变任何生产和消费的关系，也没有改变很多固化的阶级关系，甚至可能进一步固化了他们。

AI bro声称: 艺术/影视作品里有些本来需要付IP版权或者肖像权才能使用的文化符号/人物形象，现在你只需要付相对较少的AI token费就能”使用“这些大资本占有的IP, 这难道不是更加平等吗？

首先，即使在AI时代，大资本占有IP的现实并没有被完全改变，一个创作者要是拿着AI生成的漫威同人作品去电影院放映是不可能的，虽然ta能够选择不盈利，或者通过做自媒体得到流量等渠道来赚钱， 但这类创作同样在AI出现以前便存在：同人二次作品手书，鬼畜视频等等，在一个已有的文化产品上进行非盈利（或者盈利但不被资本发现的渠道）二次创作，都并不需要支付IP费用。的确，AI的出现降低了这种“独立创作”的时间成本，但谁控制工具、谁制定规则、谁分享收益，以及谁承担成本这些问题，我们并没有获得更好的答案。 现实是，AI公司可以蒸馏全世界别人的文化产品，但它们并不允许任何人蒸馏他们（比如之前pewdiepie事件）；似乎AI公司的目的，终究是把普通人的消费方向从传统资本和独立小商贩等逐渐转移到AI公司 (他们能不能最终成功是另外一回事）。

另外一个例子是科研界。有人认为普通人也能用AI做学术，所以科研届更加平等，打破了“学阀们的垄断”。我们先不讨论学术界大佬究竟哪些是学阀哪些不是。我就问：AI时代，是什么样的人会被邀请到AI公司与他们合作？什么样的人可以在AI公司内部做出来的重要结论上挂名？什么样的人可以花百万经费跑AI生成结果？什么样群体的AI科研结果在学术圈最为广泛地流传？ 难道是变成了不知名学校刚入学的PhD学生吗？还是变成了民间科研爱好者？答案不言而喻了。所以你还觉得学术界的阶级结构和过去发展出的不平等，光有个AI就改变了吗，还是说AI公司甚至在强化这种固有结构？

资本永远是和已经掌握权力，话语权和资源的群体联盟的。

其次，AI模糊了创作和消费的界限，并不是我们不能把创作和消费两件事有机结合，而是人很容易逐渐滑向纯粹的消费主义。AI公司对于创作的商品化，可以很鸡贼地隐藏这背后所付出的劳动和创作者的心血。当然，这鸡贼方法不是AI bro发明的，而是自商品经济出现以来就有的操作。我在商店里买一袋好喝又便宜的咖啡，这背后可能是好多被剥削的种植和采摘者被压榨的血汗；但我看不见这一切，我只觉得买的时候很爽。

AI一键创作也是类似的道理，我一键生成的AI“作品”，它是用无数经过多年苦练的艺术家/数学家/文学家/计算机工作者的作品训练出来的，他们其中很多人没有从中获得一分钱收益，更别提这其中还有大量廉价劳动力humans in the loop用于标数据等脏活累活。一幅图像在几秒钟内出现时，那些长期形成的文化积累、人的劳动，以及决定谁付出、谁获利的安排，都容易退到背景里。我们眼前只剩下一个看起来无所不能的模型，和一次看起来还算划算的购买。

纯粹消费能产生的满足感是不长久的：众所周知，买东西永远是下单时最快乐，并且买再多也买不够。由于我只能用商品最终的外观，生成的数量，市场认可的世俗价值，而不是创作它的过程，来鉴定它“带给我们的幸福感”，所以当我看见网上别人用AI抽奖抽到了比我更好看的结果，我的满足感消失了，只想去生成更多的“作品”，幻想也许再多花tokens抽奖一点的“作品”，抽到更好的那个。一次次按下生成键我也能快速获得多巴胺。就这样，我也把“幸福感”逐渐简化成了：花更多的tokens, 也就是花更多的钱。对于“作品好坏”的定义也逐渐可能被简化成谁买得起更多的算力，就像一个人的社会身份从ta做什么工作，变成了ta买得起什么衣服吃得起什么饭。

消费这件事当然不是纯粹有害的，因为我们都不得不活在商品经济的框架下，为了帮助一些有思想和才华的独立创作者在这个大环境里存活下去，我们得为他们消费一点。消费过程中也可以顺带有创作，你花钱去电影院看一个电影，写了影评; 你给开源软件社群捐款，并且测试和bug report。同时，一个作品有AI参与其中一些创作也不代表整个作品就该被否定，你可以去验证AI生成的数学证明并且修改到大家易读；你可以设计了分镜和人物，让AI基于这些生成了电影。

但我们还是不能忘记，在商品经济逻辑下，有很多人的付出和劳动，要么被粗暴地，做减法式地定上了一个远低于他们付出的价格，要么就被完全无视，类似于家务劳动/同人创作/写开源软件等等，由于其价值无法被简单地测量，或者由于其劳动者愿意为爱发电，就被大家默认为本就该存在于这个世界上，并且可以被资本可以拿来加工，利用，牟利。

最后，还有一点重要的是：能让普通人有更多文化表达的渠道，降低表达的成本，不等同于改变了社会结构和阶级关系。这是一种无效的表达自由。

学术界的例子我在前面已经谈论过了: 即使每个人创作和表达的成本降低了，但不代表ta的声音会被听见。资本和算法依然控制着谁的声音更能被听见，谁的创作更能被看见，维持着固有的秩序和价值观不被打破。

除此之外，我们还可以换一个不太一样的角度，结合之前讨论的消费主义来看这件事， 能获得大量专为我量身打造的文化产品这件事，可能反而阻碍了我们改变生活, 改变社会。

回到最开头的故事：我是一个给希特勒写代码的码农，但我消费了宣扬爱与和平，众生平等的文化产品，这让我感觉很好，因为自己为这个世界的爱与和平又做了些贡献。

消费社会先异化了我们的劳动过程，让我们变成一个机器里的螺丝钉，我们从工作中不再感受到意义感。如果我们去认真探索我们工作对社会的意义，我们甚至可能发现一些我们不想面对的残酷现实。有的人确实能从为希特勒写代码中获得成就感和身份认同（这类想法我们将之后在别的话题下讨论），但我不一样，需要别的东西来填补我的意义感，以及抵消我的愧疚感。

所以消费社会再用消费让我重新定义自己的身份：穿了什么牌子，吃了什么餐厅，买了什么文化产品。这样一来，我的身份不再是给希特勒写代码的码农，而是喜欢喝喜茶的文艺片爱好者。我看了好多崇尚爱与和平的电影，为爱与和平电影的创作者做出了支持，这并不假，但我们得意识到消费文化产品是远远不够的：未来AI让我每天自己就能生成专门为我口味定制的关于爱与和平的电影。我每天有十部可以看，看完立刻在无比平静愉悦的心情里安心地睡过去了。但除此之外我的生活一如既往，每天都有人继续被我的算法击毙和引发仇恨，这个世界真的因为这些创作更有爱与平等了吗？ 把所有欲望导向消费主义，导向专为我的匮乏定制的文化产品，消解了我们反抗生活，反抗这个社会不公的力量。

我相信，宣扬爱与和平的电影创作者的初衷（如果ta还没有被商品世界完全异化的话）是希望荧幕前的我，把ta的文化表达转化成改变这个世界的政治力量，比如换一份工作，拒绝再给希特勒写代码。