博文

九评AI bro哲学（一）

”我是一个给希特勒写代码的码农，我写的程序会操作无人机击毙被我写的AI归类为危险分子的平民，我还有个小项目要维护，是在社交媒体上让算法推荐仇恨言论，加强大家对（希特勒定义的）危险分子的仇恨。下班后，我去电影院看了一个讲爱与和平的电影，我很受感动，我在电影院商店里买了一个印有众生平等的海报，回家挂在家里。第二天起来，我是一个给希特勒写代码的码农，我写的程序会操作无人机击毙被我写的AI归类为危险分子的平民，顺便维护着我的社交媒体引战小项目。“ 究竟是什么在定义我们的社会身份，是我们创作了什么/做了什么，还是我们消费了什么？为什么AI让大家获得了付一点钱，按一个键就能得到艺术作品，软件，科研结果的”创作能力“，但却没给这个世界带来更多平等？为什么过度推崇“理性”是有害的，为什么“有效利他主义”可能既不有效也不利他？什么是这个时代的平庸之恶？ 欢迎来到九评AI bro哲学第一期。 写在开头： 朋友圈有很多AI从业者，本系列内容会批判性地讨论一些你所在的圈子可能已经内化为理所当然的观点。写这些不代表我比任何人更高尚，我也是我批判的很多东西的一部分，里面很多观点直到半年前我都是模棱两可地认可的，直到我仔细动了动脑子查了些资料。本系列内容不针对任何个体，但也同时针对所有人，包括我自己。我们可能不得不面对一些会让我们每个人都身处其中，又暂时做不出改变的痛苦的困境。 AI bro的精神状态是丰富的，哲学观点也是百家争鸣的，比如上面那个故事里的“我”就和我们平时讨厌的很多AI bro精神状态并不一样。总之我会从各种AI界精神状态中选一些有代表性的观点来讨论。 这些讨论只是我平时的思考和段子集锦，帮助我自己在日常生活中反驳AI Bro的某些洗脑观点，不是哲学论文，所以并不严谨，不用过度严肃对待，用作茶余饭后的娱乐即可。这里每个话题都有不知道多少论文可以写，所以我这里的笔墨必然是不够囊括方方面面的。见谅。 本期大致讨论三个问题：1. 为什么“AI取代人类”不是“反人类中心主义/超越人类中心主义”？ 2. AI welfare 3. （重点讨论）为什么要抵制一键生成的AI slop? 为什么目前的AI并没有带来更多的平等？ 我们先从反驳两个相对简单的说法开始。 为什么“AI取代人类”不是“反人类中心主义/超越人类中心主义”？ AI bro声称：那些反对AI创作的行业工作者是“自以为是，人类...
发表评论
阅读全文

写在西班牙国家德比之后

 最近我也是看西甲看到进入了西班牙内战历史学习时期，正好也在读Orwell的homage to Catalonia。最近还有个相关电影叫黑球我还没看。 越了解这段历史就越觉得某些球迷推哪只队代表正义，哪只队代表邪恶的视角就很naive。从历史角度看，La Liga现在这几只主要球队其实都当过佛朗哥用来维护统治的工具。 佛朗哥政权从1939年掌权后一直持续到七十年代他去世，西班牙才逐渐迎来民主转型。 即使如此，民主转型时期的主要政治力量倾向于避免全面追究佛朗哥时代的政治责任，来避免激化冲突, 后来被称为“遗忘契约”。 直到90-00年代，公众才有机会学习到前面这几十年发生了什么，新的社会运动开始推动寻找内战失踪者、挖掘乱葬坑，并要求国家承认独裁政权的受害者。佛朗哥遗骸被迁出原先具有国家纪念性质的宏大陵墓。 最近一些事情让我不禁感慨：只有等到离开了极权社会，甚至要等到离开之后再过很多年，人们才能有机会回头去正视历史的复杂性。 ================ 1930年代加泰罗尼亚地区确实是当时绝对的革命根据地，有一些很有价值的无政府主义实验。看奥威尔的书让我感慨，勒古恩《一无所有》里写的那种社会竟然真的短暂地存在过。 并不是乌托邦的意思，也有很多问题，比如内斗和草台班子，但真的很多大家以前觉得不可能在这个制度下运行下去的机制，其实相对有效地运行下去了。比如就连军队里都不存在等级制度。 有很多有意思的事情，比如西班牙内部的革命和社会实验，身处其中的人全都收到很深的影响，包括奥威尔自己，他表示这是他去过的国家和文化里唯一感受到对追求平等的希望大于cynicism的地方。而海外媒体（无论哪个阵营）的报道没有一个真实说明了西班牙在发生些什么。 西班牙内战反法西斯阵营里也充满了内斗（大家也是本来为了赢这场战争而不得不暂时团结的）。这里面有capitalist liberals和亲苏的康米主义， 他们的媒体经常在后方报道里抹黑反斯大林主义的社会主义党派POUM(奥威尔加入的）和无政府主义党派，即使在前线作战的几派人很团结其实根本没啥矛盾。 当然最后无政府主义实验在几个党派斗争，以及佛朗哥镇压下失败了。即使在佛朗哥掌权前，当1937年奥威尔从前线回到巴塞罗那时，整个城市居然已经回到了无政府主义实验前的有阶级状态，大家也不再关心前线的情况了；物资匮乏的同时，有人在高级餐厅里吃...
发表评论
阅读全文

The Clash of Wrongs

 I'd like to begin with a modified quote from Hegel:  T he real tragedies in this world often arise not from conflicts between right and wrong, but from conflicts between two wrongs. Academia's past elitism, its cutthroat system of assigning credit, and its culture of keeping students and postdocs in poverty while forcing them into endless competition are wrong. But so are the tech bros and their accelerationist views, people don't care what happens to others, as long as they can position themselves on the side of the entrenched interests amid the potential chaos. Part 1, I want to say something to some of the people I know working in AI Many of you may have misunderstood the attitude of the theory (math/TCS) community. At least from what I've seen, most people in the theory community have never thought that AI producing research results was a bad thing. We simply don't think it's a good thing to keep churning out massive amounts of results without caring whethe...
发表评论
阅读全文

错误之间的冲突

 世界上真正的悲剧经常不是正确与错误之间的冲突，而是两种错误之间的冲突。 学术界精英主义，恶性竞争credit system，穷死学生和postdoc还内卷的文化是错误。但不顾其他人死活，只管自己在潜在的混乱中站队到既得利益群体这一侧的tech bro和他们的加速主义也是错误。 Part 1, 想给朋友圈一些AI从业者说： 你们可能对理论界的态度有一些误解。至少我看到的理论界大多数人，从来没觉得AI做出成果是坏事，我们只是认为“一味地出产海量结果，不管大家是否能消化和理解”这不是好事。 数学的意义不是只为了得到结论，没有人消化和理解就是为了堆结论，那就消解了数学这个学科很大一部分意义。和很多工程领域不一样，我们的目的本来就不是为了application,   当然如果一个数学结论正好也有application肯定也是好事。 但更多是想要从哲学意义上去扩宽人类的思维，让大家保持对未知的好奇。 但这种好奇不仅仅是停留对一句结论的好奇，而是大家确实要从得到结论的过程提炼出直觉和逻辑来，这是需要堆时间慢慢思考的。现在每天就是不断让机器吐出结果，大家没空消化真的很累。而且目前AI的写作真的很差，需要花很多时间去理解的。 我们的观点从来都不是“学术界应该维持原来的样子”，学术界在AI出现前就有很多问题，现在是个变革的机会，其实学术界很多人都已经在active地讨论新的mission和方向了。根本不是AI bro眼中老古董/gatekeeping。 但这不代表OAI这么呕吐式dump几百个没有打磨过的结果的做法就是没有负面影响，就是值得表扬的。这两个问题各论各的。 说真的我自己也不在学界了，但我还是要多为学界说话。我个人其实真的不在乎AI做出一个什么我在做的题，就算没AI，要是有人一门心思想scoop的话我总是可以scoop我的，何况我做的问题也不重要。 大家对学术界的恶性竞争也有点刻板印象，至少理论圈子大多数人没那么toxic。甚至可能是AI圈子一些人把他们的“万物皆是零和博弈/丛林法则”的认知和阴暗心理投射到了我们理论圈子来。其实很多做理论的人是处于一个比较共产主义和为爱发电的精神状态的。个别toxic，只在乎把自己的名字挂到尽可能多的paper上的人当然是存在的，但是我觉得可能AI带来的credit system变化，水结果逐渐变得不值钱，会让这...
发表评论
阅读全文

由于最近一些open problems解决而想要记录的一系列想法

  其实很多想法是早就有的，只是现在才写下来。 Long standing open questions一定是重要的吗。有时候细想就会发现其实好像真的也没那么重要。包括好多自己在意过的问题。但这样继续下去就会陷入过度反思，会发现99.9%的TCS问题真的都完全不重要。它需要被解决只是因为有（比较重要的）人当时提出了它，然后它一直很难被解决，这种挑战性让它变得越来越重要。至于它对于其他公认的fundamental问题的implication和帮助，可能是微乎其微的。有时候已经出现了其它alternative的方法和结论，不需要解决这个long standing open question可能也能解决更advanced的问题，那些一开始大家想利用它解决的问题。所以最后这个community只是需要奖励一下辛苦工作了这么久的他们自己。 当然可以说，没有任何人能预判一个理论的结果有一天会有什么用，所有没用的结果说不定哪天都会发挥作用，包括现实中。但这个apply to all questions and works, 不能构成论证一个问题比起他问题更重要的依据。 大家公认重要的问题往往很难有progress, 为了在资本化的学术界生存下去，基本不会有人做。所以如果做TCS但不确定自己做的问题究竟是不是重要的，到底是为了什么呢。除了让自己开心，纯粹intellectual masturbation, 本虚无主义者觉得从社会意义上来讲，做TCS（以及很多别的理论学科）的一大作用是让一群聪明人不去作恶，让他们做着尽量对世界造成minimal impact的科研工作—---因为从概率上来讲几乎没有impact, 也就不存在好的impact和坏的impact。做有impact的事情，你很难预测在这个混沌的世界里你做的科研结果会被变成武器还是帮助独裁的工具。当然你也可以期待用这些结果帮助老弱病残，以人类的历史来看这两者概率基本是一半一半，而以现在世界的发展方向来看，我很难想象当今科学家的金主们，会拿着他们的成果全来做好事。 除非这个科研工作者有着个人强大的意志和行动力，或者非常谨慎地挑选金主。所以理论科学家这样的生存方式唯一的恶就是浪费了一点点纳税人的钱来养活自己，但这比起这世界上更多的恶和浪费来说真的很minimal, 就仅仅是满足生存条件而已。 这就是支撑我从postdoc...
发表评论
阅读全文

《（如何避免）和NPD约会指南》序

Part 1:  分享一个病例。很久没有锐评抽象的事情了，但这个案例实在太搞笑，是弗洛伊德看了都要笑醒: https://drive.google.com/file/d/1ao78YH-myz53wRGYr-dbRnSVKqgH7ZyF/edit Warning:前面几章非常膈应，大家如果不想被恶心的话，可以暂时跳过不看。直接看附录A.3和A.4，倒是挺好看的。 最有意思的是这个人对他爸如此地恨之入骨和蔑视，然而你再回来迅速扫一眼他前面的言论，他成功证明了自己还是成为了和他爸本质一样的人。唯一的区别是多了个学位。 他这种人唯一可能吸引的女性也是那些他最瞧不起的他爸身边的女人。命运就是如此奇妙。 但更重要的是，我觉得也不能啥事都怪原生家庭，很多人都出生于有毒的家庭，但努力成为了不有毒的人。 我要想写家里的破事， 也能写出附录A.3， A.4 这种效果来，主要区别在于我家里没钱（或者说幸好没钱），以及我爸的言论没这里面这爹这么toxic和智障, 虽然抽烟赌博养小三欠了一堆债导致我妈怀着我时债主上门讨债，但作为一个读过不错的本科和日常看电影看书的文青，他还是能表现出一种知识分子的幽默感来。 当然近几年在他改行去给政府部门做装修project后，连这种知识分子气质和幽默感现在也没有了，当年的八九六四愤青变成了一个 把新闻联播全部当真的 油腻老粉红中年。 但我并不恨我爸，我还是对他抱有爱的，只是很多时候我得把他当做一个笑话。笑话和幽默就是治愈创伤的最好方法。何况他确实挺好笑的：类似于本文作者的hallucination觉得自己被MIT录取了（见注脚），我爸也曾经给我说他被加州理工录取过，后来经我们分析大概不知道是谁给他托的梦。   我这种爹和类似的家庭也不止我一个，我周围很多朋友都经历过。我肯定不敢说我是道德完美的人，没有人能做到，我也做过伤害别人的事。我其实也觉得道德确实是一个social construct，是人类社会主要的维稳策略，但我觉得如果拥有一点点的共情能力，就还是要主观上努力去做一个善良的人，而不是传播伤害和仇恨。特别是不要伤害自己爱的和爱自己的人。 这种情感是和道德这个social construct无关的。 不过，我觉得我的文笔不比此文作者差，然而我写的东西没人看啊。果然Umberto Eco说的对，在你球传播仇恨才是永恒的流量密码。爱才是...
发表评论
阅读全文

被埋在历史的炮灰里的挂毯

  流着泪看（其实是听）完了Lampedusa的<The Leopard>，给100颗星。电影版完全还原了神韵，但没有那么多细节；剧版就别提了，补充了很多细节，但完全没有神韵。书里那种对所有阶级和人类的共情又同时充满着厌恶和嘲讽的真是矛盾感（电影版亲王把这一点演出来了），难怪当年被左右派都骂。 所有人都是历史的炮灰，投机主义总是先享受时代潮流带来的利益，但还有人在享受墙上铺满尘土的挂画，炎热午后安静的庭院，享受数学，天文和文学。这为什么不是享受世界的一种方式呢。我非常讨厌”XXX先享受世界“这类话语, “先”有那么重要吗。 而且成为这样的人并不需要是生于衣食无忧的家庭，虽然这是一本写贵族家庭的书，但其中一个重要的和亲王的对照组就是神父。出身于农民之家，小镇做题家，从事宗教，但从来不缺乏独立思考。虽然他和亲王有很多观点不同，但他们灵魂上有很多相似的地方。愤世嫉俗和孤傲中又带着对世界的博爱和同情。 我最喜欢的quote就是出自神父之口，大意是：虽然贵族是打心眼里瞧不起我们，但是这世界上难道不每个群体都要找到点别的群体来瞧不起吗。时代变了，以后大家也许真的不用出身来瞧不起别人了，但到时候不过是换一个标准来决定谁可以瞧不起谁。 以下是原话： “You, Don Pietrino,",if you weren't asleep at this moment, would be jumping up to tell me that the 'nobles' are wrong to have this contempt for others, and that all of us, equally subject to the double slavery of love and death, are equal before the Creator; and I would have to agree with you. But I'd add that not only the 'nobles' are to be blamed for despising others, since that is quite a general vice. A university professor despises...
发表评论
阅读全文