错误之间的冲突

 世界上真正的悲剧经常不是正确与错误之间的冲突,而是两种错误之间的冲突。


学术界精英主义,恶性竞争credit system,穷死学生和postdoc还内卷的文化是错误。但不顾其他人死活,只管自己在潜在的混乱中站队到既得利益群体这一侧的tech bro和他们的加速主义也是错误。


Part 1, 想给朋友圈一些AI从业者说:

你们可能对理论界的态度有一些误解。至少我看到的理论界大多数人,从来没觉得AI做出成果是坏事,我们只是认为“一味地出产海量结果,不管大家是否能消化和理解”这不是好事。


数学的意义不是只为了得到结论,没有人消化和理解就是为了堆结论,那就消解了数学这个学科很大一部分意义。和很多工程领域不一样,我们的目的本来就不是为了application,   当然如果一个数学结论正好也有application肯定也是好事。

但更多是想要从哲学意义上去扩宽人类的思维,让大家保持对未知的好奇。


但这种好奇不仅仅是停留对一句结论的好奇,而是大家确实要从得到结论的过程提炼出直觉和逻辑来,这是需要堆时间慢慢思考的。现在每天就是不断让机器吐出结果,大家没空消化真的很累。而且目前AI的写作真的很差,需要花很多时间去理解的。


我们的观点从来都不是“学术界应该维持原来的样子”,学术界在AI出现前就有很多问题,现在是个变革的机会,其实学术界很多人都已经在active地讨论新的mission和方向了。根本不是AI bro眼中老古董/gatekeeping。

但这不代表OAI这么呕吐式dump几百个没有打磨过的结果的做法就是没有负面影响,就是值得表扬的。这两个问题各论各的。


说真的我自己也不在学界了,但我还是要多为学界说话。我个人其实真的不在乎AI做出一个什么我在做的题,就算没AI,要是有人一门心思想scoop的话我总是可以scoop我的,何况我做的问题也不重要。

大家对学术界的恶性竞争也有点刻板印象,至少理论圈子大多数人没那么toxic。甚至可能是AI圈子一些人把他们的“万物皆是零和博弈/丛林法则”的认知和阴暗心理投射到了我们理论圈子来。其实很多做理论的人是处于一个比较共产主义和为爱发电的精神状态的。个别toxic,只在乎把自己的名字挂到尽可能多的paper上的人当然是存在的,但是我觉得可能AI带来的credit system变化,水结果逐渐变得不值钱,会让这部分人的心理的不到满足,他们会逐渐离开。


我是真的觉得OAI这种“力大砖飞”“有钱大晒”的 宣传方式带来的社会效应是危险的。首先他们发表unreadable AI slop结果的草率方式就说明了他们根本不在乎这个领域的发展,而就只是为了秀肌肉。


另一方面: 我一向倾向于站在弱势的这边。

我觉得OAI专攻数学就是有点柿子按着软的捏,首先数学可以验证所以好训练。不需要长的实验周期,而且真正被影响到的人其实是人群中的极少数,大家声音不够大来指出他们有哪些做的不好的地方。同时几乎不涉及任何法律/安全/利益问题。他们要是但凡做出一个真的会有社会变革,并且影响到庞大既得利益者的领域结果(比如新能源/新医药相关的)并且大力宣传,我会敬他们三分。


其次,我比起学术界过渡期的混乱,更担心引起公众对学习的厌恶和对知识的虚无主义,对知识分子的仇恨, 对教育逐步走向彻底的否认。


我们学习和思考不是为了成为社会的螺丝钉,也不是为了 我们是为了成为独立思考的个体,我们要有能力质疑AI, 质疑权威,质疑资本力量,质疑媒体,质疑政府。而数学是其中重要的一部分。


=============

Part 2: 致我的学术界朋友们,关于AI究竟会不会取代我们的工作


一方面我觉得我们stem领域大家对经济学和社会学了解甚少,当然包括我自己,我现在意识到我们很多对于未来worst case的恐惧想象都是源自我们没有去了解一些社会机制,了解一些不是“AI取代大家工作“这种过度简化的叙事。我们活在echo chamber里,然后互相加强这种恐惧。

关于AI带来的影响,其实有太多方面的问题要讨论,但我目前就拿我最熟悉的领域来说。比如大多数工作的就业问题其实在我看来是和学术界的性质不太一样的。但我就先不扯我不懂的领域了,等学习了再来。

我不是不焦虑,也不是觉得AI对工作没有影响,长期肯定是会有的。但我比较反对大家无脑宣扬焦虑,AI bros已经天天在fear mongering了,我们自己如果再继续amplify这种焦虑真的有点缺德了,恕我直言我觉得天天感慨“完蛋了大家都要丢工作”“the party is over”这类发言不太好。


尤其是很多时候在说些焦虑言论的人都是一些已经有工作的人,senior的人,那些真正找工作难,已经焦虑到睡不着的fresh grad/在读学生我都没看人家天天说这些。


何况光从数学/TCS现在的情况显然是没有over, 这AI 写slop光是消化就需要好多人来干,还有训练AI更好地写作/解释也是一方面。而且我虽然骂AI公司,有新结果总还是推动学科发展的,我现在觉得要干的活反而比以前多了,倒是需要多点人手。  


学术界的人应该多多一起讨论怎么改革,而不是互相散播焦虑。关于影响到学术界credit system的问题之前已经发过很多次了,TCS community也有很多讨论。所以暂时不想再在这里讨论了。而且就算AI可以做几乎一切,包括写作和教学,我觉得还是需要人,人和人形成的community,互动的synergy是没有办法取代的,我觉得我们STEM的人经常低估人的作用。


但我的意思并不是我们不需要行动。这个过渡期会有很多事情需要大家做。AI带来的进一步财富不均是真的让我蛮害怕的,以及基础教育和高等教育该怎么办。

首先短期内,已经有工作的人不需要太担心丢工作,然后长期的话,数学界这种本来就没几个位置的领域少几个还是多几个职位可能真的不是重要的问题了,不是我不为后辈感到焦虑。 而是我觉得对于我们整个领域来说,要让高等教育系统在现在的混乱之中进行改革并继续下去可能才是最重要的,这个系统能维护下去不仅仅是我们和后辈们不丢工作的效果,而是教育和学习本身需要在AI时代被强调,如果这个社会因为学习失去了“工具性”而彻底丧失对学习的支持,剥夺人学习的权利,才是真的最可怕的。


我觉得大家有空的话可以去了解一下自己可以参与的工会等collective bargaining组织,对普通人/青少年的AI科普和教育,教大家怎么在AI时代把AI好好当工具的同时保留独立思考能力。

这个时代真的需要更多的公共知识分子和公众讨论。

还有可以支持一些维护digital privacy的组织,比如EFF。


我觉得我们真的需要有想象力,这个世界上存在竞争以外的共存方式,而且人类很多时候也是靠着合作活到今天的,用社会达尔文主义看待这个世界是很狭隘的。我觉得必须要设定一个理想主义目标,为之努力,才能converge到一个不够理想但相对好的结果。 如果大家一开始就屈服于现实/内心阴暗面,那就永远只能向差的方向converge。




============================================================




最近我也很焦虑,打算退朋友圈一段时间吧。之后就在豆瓣/blogspot写东西吧(已经反复决定退网很多次了,但每次打开朋友圈气不打一出来就想写作文)。

说实在的最近没怎么好好思考问题,还是AI用多了脑子越来越懒,也没好好做social work, 我需要支棱起来了。


总之我不会加入AI rat racing,  也努力不给大家宣扬焦虑,我相信这个世界有很多远超零和博弈/丛林法则的共存方式。最后我想引用我一个朋友一句话(稍微魔改了下):

我和我的朋友们在一个岛上,我们努力在这里生活下去,如果风暴来了,我们会努力抵抗,但如果最终把我们淹没了,那我们就被淹没。

评论

此博客中的热门博文

一封PhD毕业后就想写的信

《(如何避免)和NPD约会指南》序

由于最近一些open problems解决而想要记录的一系列想法