如果AI帮你填错了志愿,谁来负责?
张雪峰隐退,韦东奕封神,那尔那茜“定向委培”争议都在指向一件事——高考。这几年经济紧张,工作紧张,大学生就业也紧张,高考自然也就没有以前那么热了。高考祛魅,今年出奇的安静,张雪峰算激流勇退,也是体面离场,如果还要赖在高考志愿舞台上不走,可能下一个被打倒的就是他了。
张雪峰说了很多实话,也说过很多鼓动的话,语出惊人誓死不休,说来说去还是两个字——生意。贩卖焦虑才是好生意,是暴利,贩卖教育焦虑的生意,比暴利还要暴利。张雪峰们隐退,轮到AI上场了。高考志愿应该是AI第一次大规模作恶,2025年,是AI较量元年,也是赛博朋克作恶元年。
大模型从ChatGPT开始,中国大模型较量到今年,也就剩下BAT了。这里的B,是2B,一个是百度Baidu,一个是Bytedance,AT嘛,就是大家熟悉的阿里、腾讯,什么豆包、元宝、夸克,都在发力高考志愿。学生嘛,群体庞大还很有消费潜力,主要还特别好骗,什么信用卡、校园贷等等,很多生意第一时间都会想到大学生,AI自然也不例外。今年高考报名人数是1450万,本科招生计划450万左右,一场仗,半个月就能拿下上千万的日活,AI大厂们必须发力高考志愿,AI应用和未来谁也不知道是什么样的,但能够有先声夺人的姿态,总归是好的。尤其是对没有流量支撑的夸克来说,这一仗,必须打,豆包有抖音导流,元宝有微信导流。
这样的背景下,也就不难理解最近愈发诡异的AI高考志愿宣传了——有的AI软件都恨不得跳出来直接说,“填高考志愿听我的”。为了凸显它们的正义,甚至搬出了“信息平权”、“科技向善”的宣言,发布会上,请来偏远地区的老师和学生,痛说现状,温情脉脉,感动中国。
越是高举道德旗帜的商业宣传,越值得警惕。
从产品来说,志愿很结构化的数据,给予高考生们以数据参考,AI的工具价值是有的,但今年,大家都开始上升到“推荐”了。某AI软件在一篇推广文章中就赫然写着这么一段话:
从靠规则筛选,到由模型推理,背后是一种本质的范式跃迁:从 “经验化推荐”,到 “结构化决策”。
只有当模型有了 “判断力”,才能成为一个靠谱的决策参考,而不是一个 “看起来像懂” 的工具。
另外一篇推广文章中类似的还有这么一句话:
“在过去,我们习惯于将AI视为冰冷的计算工具,一个只会按照程序执行指令的机器。但现在,我们开始看到AI作为一个有温度的决策伙伴的可能性”。
从提供参考的工具到“有温度的决策伙伴”,这一宣传,极其激进,甚至可以说是,极其不负责任,信口开河。
AI高考志愿跟“智驾”面临着同样的伦理问题。“智驾”出问题了,责任是汽车公司还是智驾公司,还是司机本人?当然两者区别是,智驾出问题是立竿见影的,立马就有结果的,不是汽车刮碰了,就是车毁人亡,所以在“智驾”问题上,有关部门也出台了相应的政策,汽车公司们也学乖了,也不敢随便吹牛了。
但AI高考志愿出问题却是隐性的,甚至是长久的,也许是志愿滑档,去了一个不喜欢的大学,选了一个不喜欢的专业,也许是毕业后的就业或此后余生…
发布会上,为了论述它们推理模型的合理性,它们还加入了张雪峰等专家的经验加持,夸某产品经理说了这么一段话:
“AI 和专家的关系,不是替代,是互补。就像医生和CT机的关系一样,机器看得准,医生看得深”。
产品经理这番话完全没有清楚,AI高考志愿和CT机的差异:CT机只显示数据,它是工具,辅助医生,它并没有“推荐”,也没有“决策”。医生除了决策,还需要对自己的诊断负责。现在的AI软件呢,却是一个想法设法,明里暗里给你提示,给你推荐,替你决策的,并且,是不用负责的。
一位朋友说,你不觉得很恐怖吗?就是你的半辈子都被AI主宰了。更重要的是,现在的AI,别管ChatGPT还是豆包元宝夸克,或多或少都有各种问题存在。
张一鸣曾说过,“算法没有价值观”,这句话流传很广,却是错误的——因为算法本身就带着价值取向。当所有产品都是根据算法和用户倾向进行预测,这又落入金融反身性陷阱之中。“算法”统计、推荐是线下真实的反映信息同时,也有放大和扭曲…说到底这也是一个二级混沌系统。所谓AI高考志愿也就落入互联网算命的窠臼。如果AI真有这么厉害,为什么不去做股票交易预测?那真金白银的交易,来钱更快啊。
当AI们吹嘘自己是“决策伙伴”的时候,是否意味着承诺,如果考生滑档了,高考志愿填错了,又或者,大学毕业后找不到工作,夸克会对此负责吗?AI会负责到底吗?
一位刚刚经历了高考的上海家长就说,AI高考志愿是另一个算法牢笼,它设定一个目标,比如未来就业最好、薪资、热门的,然后利用不一定靠谱的数据优选,最后就是几乎将所有人弄到一个机会非常有限的茧房,几年后反而机会最难。。。毕竟人性在那里,欲望在那里。
一位产品经理说,这种产品就是有点过于秀肌肉了,但是完全没有站在人性和道德层面,对用户负责的角度去解决问题。这就是作恶。
魏则西事件是前车之鉴,AI高考志愿更像是温情脉脉地温水煮青蛙,钝刀杀人。
免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。
