技术哲学学者王小伟:我的恐惧感加剧了,不是对具体技术,而是对人的生存意义。
文丨朱丽琨
编辑丨钱杨
技术哲学学者王小伟问 DeepSeek:“如果所有科技都越来越发达,有什么不好吗?”
在多轮问答后,它几乎说出了海德格尔式的观点——如果总是强调技术,人们可能会忽视技术的“背景”,技术镶嵌在非常宏大的人性的基础上。过于专注在技术作为一种控制能力、作为权力意志的彰显,会遮蔽人的存在。
海德格尔在六七十年前就预见到未来是以 “计算、快速和巨量” 为突出特征的技术时代。他警示,技术只不过是人类的一种存在方式,但却被当成了唯一的存在方式。他忧虑于,现代技术对 “存在” 造成 “遮蔽”。
技术哲学实则是批判技术的哲学。王小伟持续观察 AI、手机、通勤、外卖等深入日常生活的技术,在著作《日常的深处》中他思考和呈现了当代生活是如何被技术逻辑主宰。
从技术哲学的角度,“肥胖可看作是一种技术现象”,可能是因为食品工业发展、食物能量密度过高;通勤的产生是城市生活消费化、所有关系商品化的结果——消费场所占据城市核心地段,人被挤到城市边缘;外卖象征着当代生活被简化为效率优先、无内在价值的机械过程。手机上瘾,则是因为信息 “热量” 和密度太高了,而资本善于编织一套 “更好的生活” 的叙事,把所有人变成消费者,消费社交媒体内容,消费本不需要的商品。
冷战升级时,原子弹的研发竞赛升级,无可阻挡。如今,AI 领域也是热烈的竞赛场,同样不可阻挡。有分析机构认为 AI 全面取代人的技能还需要 50 年,而 Anthropic 首席执行官达里奥·阿莫迪(Dario Amodei)在年初的采访中说,他们造出在大多数任务上超越人类的 AI 系统就是两三年内的事。
王小伟有一种直觉式的感受,认为未来 5 到 10 年,程序性文书工作将被大量取代,自动驾驶将变得普遍,装备 AI 的人形机器人在家政中也会逐渐铺开。
“我觉得 AI 比原子弹危险。” 王小伟解释,原子弹可能会消灭人,但没动摇人存在的意义。 AI 会让人类失去自尊、存在的意义感,这可能引发人的存在的根本性危机。
与每个人相关的迫切问题是:工作带给我们回报和自尊感,但当 AI 可以做我们所有能做的事,人存在的意义是什么?AI 越来越强大,我们怎么能面对它而不自卑?它能做你做的事,甚至情绪比你稳定,效率比你高,那么你为什么而存在?
“很多技术发展太快了,大家还没反应过来它究竟是什么,就已经投身进去了,根本不知道它会让人付出哪些成本。” 王小伟说。
他引用技术哲学家卡尔·米切姆(Carl Mitcham)的观点来解释现实:强调个人欲望的自由主义思想和重视效率的科学技术共谋,导致了一种 “愚蠢的乐观”。
在 AI 技术革命正在发生的当下,人文主义者的声音显得不合时宜,但发出声音是必要的。“哲学就是如鲠在喉,要持续制造不适感”。王小伟说。
以下是《晚点 LatePost》和中国人民大学哲学院副教授王小伟的对谈。
技术逻辑全面占据了我们的生活,充满暴力
晚点:去年你在谈到 ChatGPT 时说,“AI 可能会比大部分人要深刻”,现在呢,我们迎来这个时刻了吗?
王小伟:我觉得 AI 现在很多时候已经比我深刻了。我问过 DeepSeek 一些哲学问题,不能说它的每个回答都精彩,但你不停给它提示,让它不停回答,总能出现一些特别精彩的洞见。
最近,我们学校也让老师们研究 AI,然后填调查问卷。有道题问 “担不担心 AI 取代你?” 我说不担心,我是努着劲儿说的。
晚点:你一年前还说, ChatGPT 让你感到 “非常害怕”,现在呢?
王小伟:我的恐惧感进一步加剧了。这不是对具体技术的恐惧,而是对人生存意义的恐惧。AI 有可能让我们都失去价值感。
对很多人来讲,工作带给我们回报和自尊感,假如有一天 AI 可以做我们所有能做的事,人存在的意义是什么?这是我最近在困惑的。
晚点:不少从业者对 AI 变革很乐观、很激动,跟你的状态很不一样。如果你有机会和梁文锋这样的 AI 创业者交流,你想问他什么?
王小伟:我想问他们在推进 AI 技术的时候,有没有过哪怕一分钟的犹豫?这个犹豫不是功利性的,而是有没有怀疑过他们这样做可能会对人的根本存在造成危险。获得诺贝尔奖的杰弗里·辛顿(Geoffrey Hinton)就一直在警示 AI 的风险。
(注:辛顿在神经网络领域的开创性发现奠定 ChatGPT 等大模型的技术基础。他在 4 月最新的访谈中提到,如果不能很好地控制 AI ,可能导致两种风险:一种是 “坏人” 滥用 AI 产生的短期风险,“实际上已经在发生了”;另一种是长期风险,“当 AI 比人类更聪明时,它会不会想把人类撇到一边,接管一切?”)
晚点:只从增效的角度看,如果一个企业管理者不使用效率更高的劳动力取代人,就会在竞争中落后。
王小伟:所以 AI 其实没有掌握在任何人手里。兰登·温纳(Langdon Winner)、雅克·埃吕尔(Jacques Ellul)等哲学家都认为技术有自主性。技术一旦发展起来,会脱离人类的控制,按照自己的逻辑发展。可能出现技术系统自我增强,人类反而被技术支配。
原子弹是人发明的,它现在还掌握在人手里吗?《不扩散核武器条约》在那,为什么原子弹还是到处扩散?人常在囚徒困境里博弈,我不做,你做了,我就没有战略优势,所以表面说不做,背后偷偷做。至于这技术会不会带来整个人类的毁灭,谁关心呢?这些国家只关心自己不要在竞争中处于下风。
晚点:AI 的危险性能和原子弹相提并论吗?
王小伟:我觉得 AI 比原子弹危险。原子弹可能会消灭人类,但人存在的意义还是保存的。人类遭受核打击灭绝了,我们会觉得遗憾。但 AI 会让人类失去自尊,我们变得多余,物理身体存在,但生命意义被侵蚀了。很多人现在同意一种观点,认为我们只不过是硅基生命的一个驱动程序。
晚点:从技术哲学角度看,我们的生活怎么变成了这样?
王小伟:现在整个社会被技术逻辑垄断了。我们永远用工具的视角看世界,让自己也变得特别工具,每个人都要更高、更快、更强。
人是所有生灵当中最脆弱、最敏感、最破碎的,却要假装是最坚强的。
比方说,人一旦有消极情绪,就开始不承认自己、要去敌视自己,要马上读《自卑与超越》,要把消极情绪转变成积极情绪,不允许自己内耗,把人最本真的那一面也用技术逻辑调整,人向机器对齐,但你是比不过 AI 的。
等 AI 发展得更好之后,你会觉得 AI 比你聪明、比你情绪稳定。你越强调强大,你越没有自尊感。
晚点:从什么时候开始,我们的社会几乎完全被技术逻辑占据了?
王小伟:这是个非常现代性的问题,向前追溯可能就是工业革命以来这 200 来年的事。
法国思想家布鲁诺·拉图尔(Bruno Latour)说过,现代性一个最大的特点就是一定要把这个世界的丰富性和复杂性做 “纯化”。把复杂的东西割开,例如主体与客体的二分,社会和自然的二分,事实与价值的二分等等。
拉图尔写了一本书叫《我们从未现代过》,说我们的生活不是这样的,它其实是社会和自然的杂糅,人和物的杂糅,事实和价值的杂糅,所有东西都在一个高度杂糅的系统里面。那种现代性的二分是一种暴力。
晚点:计算机的机器语言也会把一切归为 0 或 1。
王小伟:技术逻辑就是要区隔、要纯化,它不要拉图尔说的这种杂糅的世界,更没法理解什么是超越性的、难以言说的、含混和神秘的。我们只有一种定量的、计算的、控制的生活方式,一切都是权力意志、工具理性的彰显。
晚点:“定量的、计算的、控制的生活方式” 渗透在当代生活的细节里,能举出一堆例子:智能手表打分评判睡眠,智能秤追踪体重,吃各种补剂让各项指标保持在合理的水平,调节血清素、催产素、内啡肽和多巴胺来调整情绪和状态——但这些技术让人感受到对自己更有掌控感了,有什么不好?
王小伟:从个人选择角度,我觉得每个人自己权衡利弊就可以。
但是从人的根本生存角度看,人把自己当一架复杂一点儿的机器,用各种指标精确调节自己,以便符合所有人的预期。你可能变得更随和、宜人了,工作表现也更好了,但是不是也会丢失了一些自尊呢?
晚点:怎么理解你说的丢失自尊?
王小伟:自尊就是 “我配!” 有些人就是脾气不好,但她/他配!这个人可以不用想着改造自己,而心安理得地活着。不同人有不同性格,如果人人都调适成社会认可的那种健谈、温和、平静、替人着想、有责任心……人都变成均码的人,丧失了多样性,这是挺糟糕的情况。
晚点:人都知道玩手机无意义但停不下来。社交媒体进一步加剧了人们刷手机成瘾,让人变得更焦虑、注意力涣散。为什么我们会陷入这样的困境?
王小伟:手机从根本上改变了人的生存方式。有手机的人变得 24 小时可触达(reachable)——这本来不是人们要追求的。现在,一个人只要给我发个信息,就会对我产生一些影响,哪怕我决定不回,也会消耗我的决策资源。
晚点:你在《日常的深处》里写:“我们只重视手机功能,没能追问功能得以实现的前提,以及要实现功能的目的是什么。现在,慢慢有很多人开始理解手机技术成立的前提是一种集中控制逻辑。这一逻辑原来只在工厂内有,现在走进了日常生活中。” 能否解释一下这里提到的集中控制逻辑? 这种集中控制逻辑走进日常,在威胁什么?
王小伟:你去看看电子厂就能理解,一部手机,就是由大批劳工在被高度控制的情况下,进行分门别类的、单调的劳动来完成的。环境特别恶劣的厂区,令人联想起监狱。这差不多是技术时代人类处境的一个缩影。
智能手机发展只是最近十几年,我们其实还没有学会怎么跟手机共存。人其实还没适应好多新东西,比如肥胖也可以看成新技术现象——食品工业发展使得食物里的能量密度特别高,你的胃口还没充分适应。现在一块蛋糕的热量大几千卡,自然界最多提供一点儿蜂蜜和熟透的水果。
类似的手机提供的信息 “热量” 密度奇高,特别刺激的画面和情节,让人的精神生命陷入肥胖。你要特别有资源才有能力去对抗。有一本书叫《阶层》,里面讲一个贵族怎么彰显贵族身份呢?他就说家里没电视。这算是一种对抗。
晚点:一个移动互联网信息的消费者还有选择刷不刷手机的自由,但一个依靠移动互联网的生产者很难 “对抗” 它。比如,一个出租车司机不接入打车软件平台,收入很可能明显下降,边缘化。
王小伟:如果你去读一些技术政治论,你会发现技术从来不是中立工具,其中充满暴力。一些人设计了一个技术系统,砸钱去推广,讲很多动人的故事,海量人的生活从此受到根本性的影响,但他们没有退出机制,没得选,也没有地方让这些人发出声音。他们被视作落后的、边缘的人,没人在意。
晚点:大模型技术普及,会不会加剧这种暴力?
王小伟:大语言模型现在人人都在用,生怕跟不上潮流。但你的隐私有保障吗?你的著作权有保障吗?你输入的数据存储在哪儿,谁在看,怎么用?这都是权力问题,但用户插不上嘴。
很多技术发展太快了,大家还没反应过来它究竟是什么,就已经投身进去了,根本不知道它会让人付出哪些成本。
技术让人付出种种成本,削弱我们的记忆、情感、思考
晚点:大模型技术会让我们付出哪些现在还没意识到的成本?
王小伟:贝尔纳·斯蒂格勒(Bernard Stiegler,法国当代技术哲学家)有一个洞见特别好,他讲,技术将人的记忆外置化了。 他追溯到柏拉图,柏拉图就批评 “书写” 技术,现在看来很保守。他担心的是有了书写,人就不怎么记事了。
斯蒂格勒说人通过书写、绘画、雕塑把我们的记忆外置到物质世界,方便传承、积累,这样知识积累才可能,是好事,但也会使人的记忆越来越差。技术有药性,是药三分毒。以前口述史诗时代,一个人脑子能记住几十万字,现在人连手机号都记不住。
现在我们算数能力外包给了计算器,时间管理能力外包给了日程 App,深度链接能力交给了社交网络,驾驶能力交给了智驾系统,写作能力交给了 GPT。我们还剩什么呢?
晚点:现在经常是大模型在 “深度思考”,我们等它给答案,它甚至展示思考过程,我们就看着。
王小伟:甚至一些非常严肃沉重的问题,不少人也愿意交给大模型。比如 “我应该过一个什么样的人生”“人生有什么意义”,这类问题渴望 AI 给出答案是很危险的。另外,预设什么问题都有答案是个挺糟糕的事。
人生意义的答案不紧要,关键是追问的过程,每个人都是在自我追问的过程当中完成自我建构的。有学生问我意义问题,我从来不提供答案,我会询问这个学生为什么要这么问,引导他自我阐释,找出自己的意义感。
晚点:我们不仅把记忆和思考交给 AI,也比移动互联网时代更多地把情感交给 AI 了。和大模型谈恋爱会有什么问题?有些人会说,这不过是娱乐、游戏。
王小伟:真人之间的爱情是极为丰富的情感活动——人的心灵很容易折断,但恋爱需要勇敢,一个人要把最脆弱的需求感展现给另一个人,才有机会在一起。一个十几二十岁的人,第一次说出 “我爱你”,想想都让人捏把汗。你爱的人可能会拒绝你,也可能没你想的好,但你却要给对方那么大的信念,这多不可思议。爱需要纵身一跃,不容易的。
但在大模型时代,情感活动变成了一种理性的筹划活动,大模型只能掌握理性说明的显性知识,默会知识是没法编程的。特别是没恋爱过的年轻人,上来就问大模型怎么谈恋爱,得到全是显性化的爱情攻略,想要牢牢控制恋爱主动权——上来就是 “拿捏”。恋爱哪有主动权,它全是溃败。溃败揭示出人的缺乏,缺乏才互相需要 ......
晚点:年轻人如果越来越倾向于跟 AI 而不是真人沟通情感,危险性在哪?
王小伟:有不少哲学家反对做仿人 AI,认为这不伦理。我现在特别警惕情感陪伴类 AI,绝不让小孩碰。
难道我们以后都要和一个 AI 谈恋爱?难道我们要失去人和人之间的深度好奇吗?这将彻底消除一代人和别人、和自己建立情感连接的能力。
晚点:AI 可以比许多普通人更聪明、更有耐心。你也说 AI 已经可以挺深刻。这不足以引导一个年轻人吗?
王小伟:本质上,我们是在和其他人交流的过程中,缓慢建构自己的。
真人是不完美的,或许偏狭、愚蠢、有毒,但是这个人可能从来不这么看自己。和他们相处,你需要不断移情,换位思考,试图理解,有时候也要学会憎恨。和 AI 交流上面的技能都用不到,你也就没法真正走向人格的成熟。
人本身是破碎的、脆弱的存在,现代技术遮蔽了 “存在”
晚点:人们批评某种技术,往往是在批评它不成熟或者带来负面影响。很少有人审视科技进步本身。我们似乎默认科技进步一定是对的。
王小伟:技术甚至于变成了有些人的自尊心。你但凡说一点科技的不好,好像侮辱他的人格一样。科技不是人格,和自尊心没关系的,它最需要得到检视。
晚点:科技进步有种强大的力量,信仰它也许会让人感到自己也很强。
王小伟:但人就是破碎的、脆弱的存在啊。如果你觉得不是,你打算骗自己多久?
科技发达不能帮你解决生命的根本困扰。如果能,大厂创始人们肯定是全世界活得最幸福的人之一,但显然不是。
很多人有一种耻感的,觉得去批判科技,是不是自己落后了。还有那句著名的 “悲观者永远正确,但乐观者永远前行”,这是和科技进步利益相关的人建构的一个话术,他们是要从科技叙事里套现的。普通人得不到这个好处,要理直气壮地反思科技。
晚点:历史上那么多哲学家留下关于技术的种种观点。现在看来,哪些你觉得预言了我们的现实?有哪些到现在还能帮助我们认识解释现实?
王小伟:海德格尔令我印象最深刻。他在多处文本讨论中(《技术的追问》是最重要的文本之一),预见未来是以 “计算、快速和巨量” 为突出特征的技术时代。
他认为技术不是工具,它是一种权力意志的彰显,技术把包括人在内的一切存在者都摆置成 “持存”——就是没有内在价值、可以任意摆弄的东西。
海德格尔认为,技术不过是人的一种存在方式,现在却被当成了唯一的存在方式。他忧虑的不是某个技术带来的风险,真正的风险是现代技术对 “存在” 造成的 “遮蔽”。
生活里有微小对抗的空间,至少我们可以不那么热情
晚点:技术哲学家夏农·维拉(Shanon Vallor)将把握技术的能力称为 “技术美德”,分成四个方面:智慧(理解技术的双面性,不盲目使用);勇气(当技术可能有违伦理时敢于反对);节制(自我约束,避免技术过度依赖或滥用);正义(追求公平包容,避免结构性偏见,例如适老化设计)。你认为我们当下最缺乏的技术美德是什么?
王小伟:勇气。
作为普通人,我力求主导自己的生活,要有勇气对技术风险说 “不”。为什么我一定要投身由少数技术精英所设想的未来?在那个世界里,我真的是受益者吗?
一个出租车司机为什么非要学 AI ?还要去坚信 “不学 AI 就要被时代抛弃了”“你的工作要被取代了”。为什么一定要把开车搞成智驾?他们有权利问这样的基础性问题,参与议程设定。
晚点:勇敢说 “不” 是不是某种特权?普通人为谋生,很多时候是被裹挟的,不得不适应新潮流。
王小伟:或许是吧,但生活里也有一些微小对抗的空间,至少我们可以不那么热情,不那么掌声热烈地拥抱所有技术。
晚点:去年,萝卜快跑无人出租车刚在武汉试点时,我们能看到当地司机抗议。但大多数时候,“未来属于无人驾驶” 看起来更像一个无可阻挡的趋势。
王小伟:“未来属于无人驾驶” 不是 “重力加速度是 9.8 米每二次方秒”,它不是物理规律,它是人类社会的抉择。你不选择,未来为什么会属于无人驾驶?
技术哲学中的社会建构论学者说得非常清楚,技术发展和社会互相建构,社会影响技术,技术也影响社会。仅仅让技术精英来指明未来发展方向,这是很草率的。
晚点:这也分谁的声音大、谁的声音小。
王小伟:我不觉得哲学声音小,人文话语不是口号,大喇叭震天响。它是种子,需要时间生长。有一次看理想组织我跟陈嘉映、周濂两位老师对谈。一个大的阶梯厅坐满了年轻人。一个女孩儿提问的时候哭了,说自己的生活没有意义感。大家有很强烈的共鸣。
一定有这么一天,更多人会认识到,每天在技术逻辑下生活,处处卷效率,人终会感到被异化。很多人得抑郁症、焦虑症、空心症。那时,人文话语就会有力量。
晚点:那一个人面对这样的暴力、危机,可以做什么呢?国内研究和翻译海德格尔的领军人物孙周兴教授强调艺术的力量,他认为当代艺术通过创造神秘性,形成一种 “抵御平庸和同质状态的异质化力量”。你的观点是,“每个人的第一任务不是读海德格尔,是真诚面对自己的日常”。
王小伟:为什么提回归日常的深处,一个重要原因是别的方法成本很高——需要通过消费来获得,而强迫性消费会加强技术逻辑。你要去徒步、爬雪山、去浪漫的土耳其,这不得攒钱买机票吗?不是所有人都能去。
晚点:去了还要拍 “人生照片”。
王小伟:对,最后又社交媒体化了。
但回归日常生活几乎没什么成本,只需要把日常审美化就行。日常不是无关紧要的,它是个体最有自尊的一个活动。跳出技术思维,你就可以安静地发发呆,或者认认真真地悲伤一次。
晚点:什么叫认认真真地悲伤?
王小伟:有学生跟我说,他特别郁闷。我说我也不开心。他问我怎么解决不开心?我说,偶尔心情不好,早上送完孩子,我就坐在家里花半小时,认认真真地不开心。
悲伤像是一片林中空地,它提供了和算计、控制这个技术逻辑不一样的视角。在悲伤中我是开放的,所有的人和事都开始以更真实的样子显现给我。
晚点:你说的悲伤和遭遇失业这类现实打击的痛苦,有什么区别?
王小伟:你特别痛苦的时候,是没办法认真悲伤的。因为你在抵御它,痛苦里通常带有沮丧和巨大的愤怒。
你可以试着多给自己点时间,去回想这场遭遇,不要想立刻总结点儿什么、不要总努力把它想通、把它理性化,好重新夺回控制权。
就是一幕一幕在脑子里把事儿多放几遍。认真悲伤会淡化很多痛苦,痛苦会逐渐变成伤感,愤怒和沮丧消失了。人生就是这样,会丢失一份工作,会和人走散,人生就是这样。
晚点:海德格尔做过一次名为《泰然任之》的演讲,他说 “完全抵抗现代技术是愚蠢的,我们真正要具备的态度是,让技术既在生活之中,又在精神世界之外。” 我们怎么保持精神世界的相对自由?
王小伟:海德格尔担忧的是技术的 “计算之思” 把本真之思遮蔽了。他说本真之思是一片 “林中空地”,这个场域使得一切具体的存在可以 “开敞”。你不要只看到目标、只去想实现目标的手段、过度强调对生活、对自己的控制,那只不过是一种存在方式。适当的时候,要跳出来。
顾城写过一首诗叫《门前》——“我多么希望,有一个门口/早晨,阳光照在草上/我们站着/扶着自己的门扇/门很低,但太阳是明亮的/草在结它的种子/风在摇它的叶子/我们站着,不说话/就十分美好”。
这不就是技术以外的另一种存在方式,一种更加 “开敞” 的存在方式吗?
题图来源:《人生切割术》
精彩评论