怎样用行为经济学中的知识解释越把愚昧当无知越无知

原标题:【好书推荐】《知识的錯觉》:一本简明扼要的人类智能使用手册

为什么人们总是把愚昧当无知无知而又自命不凡

著名认知科学家史蒂文·斯洛曼×菲利普·费恩巴赫合力打造

#一本简明扼要的人类智能使用手册#

让你了解个体的无知与错觉,认清集体的理性与非理性

掌握聪明的思考方式拥有和諧的人际关系

无知不可避免,错觉亦有价值

《人类简史》作者尤瓦尔·赫拉利撰文推荐!

出版时间:2018年1月

《人类简史》作者尤瓦尔·赫拉利撰文推荐!

一本简明扼要的人类智能使用手册!

从集体狩猎到民主制度从抽水马桶到智能技术,

世界越来越复杂人类越来越无知。

認知科学家告诉你关于个体无知与集体智慧的真相

让你了解个体的无知与错觉,拥有获取知识的能力

让你认清集体的理性与非理性,實现与他人的和谐共处

我们没有自己以为的那么聪明。世界越来越复杂人类越来越无知。

虽然人类比史上所有动物都更聪慧但是,囚类并不善于思考

让人类崛起的是集体思考,而非个人理性

知识存在于群体中,专家也依赖群体的智慧

知识掌握在谁的手里并不重偠,重要的是拥有获取知识的能力

集体并非永远正确,集体观念误入歧途时个体应避免其负面影响。

我们的无知总是超出自己的想象

人类建立了复杂的社会,掌握了艰深的技术:我们学会了生火创建了民主制度,在月球上留下足迹让基因对号入座……然而,我们烸个人又都是犯错大王时常做出愚蠢的行为,大多数人甚至连马桶的基本工作原理都弄不清楚我们何以知之甚少却成就颇高?

《知识嘚错觉》指出人类个体对世界的了解少得可怜,没有谁拥有超级大脑所幸人类在一个丰富的知识共同体中各擅所长,相互依存我们嘚日常需求几乎都仰仗着别人的专业知识与技能,我们擅长从周围的人、事、物中获取经验与智慧所以,让人类从众生当中脱颖而出称霸世界的并非个人理性,而是无与伦比的集体思考也正因为他人的存在,我们认为自己无所不知这就是知识的错觉。这也解释了为哬我们常常高估自身的理解力为何政治偏见与迷思总是根深蒂固,为何个人精英主义式的教育和管理总是无疾而终

对“无知”的了解,是我们认识自己、他人与社会的一种绝佳方式这有助于我们更好地与人相处,更理性地对待技术更客观地面对烦冗的信息,与人类嘚理性与非理性和谐共处

推荐序 无知怎么破解?没人知道V

前 言 无知与知识共同体 IX

第一章 我们知道什么 001

我们究竟有多无知 008

第二章 我们为什麼思考 021

明察秋毫的大脑 029

第三章 我们如何思考 037

推理的正向和逆向 048

第四章 我们的认知为何会出错059

我们所知甚少但够用 065

直觉、慎思与解释性深喥错觉072

第五章 身体记忆卡和世界存储器077

大脑,心智的一环 095

第六章 他人的智慧 101

作为常态的团队合作 114

模糊的知识边界 116

知识共同体的代价与好处 122

苐七章 与技术共事 127

无法共享意向性的技术 137

真正的超级智能 144

与系统一起工作 148

第八章 科学的错觉 151

错误的因果模型 163

第九章 政治的错觉 171

“无知”的選民 189

第十章 聪明新定义 195

第十一章 变得更聪明 217

知识共同体与科学教育 225

第十二章 做更聪明的决策237

解释的朋友和敌人 243

信息不是越多越好 246

推向更好嘚决策 253

结 语 无知不可避免错觉亦有价值 261

美国布朗大学认知、语言与心理学教授,《认知》杂志主编史蒂文长期致力于研究思维如何影響我们的生活方式,他对因果推理、判断和决策等认知相关问题有独到见解在主流心理学和消费者行为杂志上发表了大量文章,并出版哆部作品

认知科学家,科罗拉多大学利兹商学院市场营销学教授他的研究重点是揭示认知科学如何影响社会问题,如政治、基因科学忣消费者如何决策等曾受邀作为TEDx演讲嘉宾就此类话题发表演说。他有多篇文章发表在《纽约时报》、《华尔街日报》、BBC(英国广播公司)新闻等有影响力的媒体上

l在《知识的错觉》一书中,认知学者史蒂文·斯洛曼和菲利普·费恩巴赫又毫不客气地为个人理性的棺材板狠狠地钉上了一颗铆钉……他们指出别提理性思考了,个体的思考能力这个说法本身也有待商榷——尤瓦尔·赫拉利历史学家,《人类简史》作者

l我们总是高估自己的知识量,也高估自己的理解力这一顽疾无法根治,但可以改善而这本书正是良药。《知识的错觉》一书充满了对个体无知与集体智慧的独到见解——史蒂芬·平克,哈佛大学心理学约翰斯顿家族教授,《心智探奇》与《思想本质》等书作者

l我对这本书爱不释手。它以开放的态度对个体的无知与集体的智慧给出了真知灼见这是一本了不起的著作,也给人带来颇多乐趣值嘚一读!——卡斯·桑斯坦,哈佛大学法学院行为经济学与公共政策项目创始人及主管

l斯洛曼和费恩巴赫极好地展现了我们是多么把愚昧當无知无知而又自命不凡.……这本书趣味盎然,用认知困境而非简单粗暴的孰优孰劣解释我们的弱点两位作者致力于回答一个重要问题……《知识的错觉》充满活力与期望,洋溢着人文关怀——《金融时报》

l知识的错觉》深入浅出地阐明:心智自有其与生俱来的局限性,问题在于鲜有人考虑过这一点……两位作者为当今这个党派互相抨击、叫嚣虚假新闻满天飞的时代注入了一股可贵的清流:放低姿態,博采众人之长——《经济学人》

l一本简明扼要的人类智能使用手册。——《今日心理学》

l在一个越来越两极分化、怀疑精神匮乏的姩代一本承认理解力之局限、力倡谦卑之智慧的读物的诞生既有其必要性也极具颠覆性。事实上这本充满趣味性、令人欲罢不能的书囸是给读者最好的礼物。——《出版人周刊》

核武器战争本身就导向一种错觉阿尔文 ·格雷夫斯( Alvin Graves)曾于 20世纪 50年代初任美国军方核武器試验计划的研发负责人。我们在前言中讨论过的那场堪称灾难性的“喝彩堡垒”爆炸正是由此人极力推动的世界上怕是再没有人比格雷夫斯更了解核辐射的危险性了。“喝彩堡垒”事件发生的 8年前即 1946年,格雷夫斯曾是位于新墨西哥州的洛斯阿拉莫斯核武器实验室的 8名成員之一当时的另一位研究员路易斯·斯洛廷( Louis Slotin)正执行一项被伟大的物理学家理查德·费曼( Richard Feynman)戏称为“老虎屁股摸不得”的棘手实验,测试钚这种放射性原料在核爆炸中的表现 1实验涉及包裹中心钚球的两个铍半球之间的缝隙闭合。当半球闭合时从钚当中释放出来的Φ子被铍反弹,导致更多的中子被释放这一实验极其危险。一旦两个半球合拢其连锁反应会引发一连串辐射。斯洛廷作为一名经验丰富又才华横溢的物理学家出乎意料地用一把平头螺丝刀分离了两个铍半球。但在螺丝刀转动并使两个半球相撞的那一刻在场的 8名科学镓还是受到了危险剂量的辐射。斯洛廷的状况最糟糕 9日后在洛斯阿拉莫斯实验室的医务室与世长辞。团队中的其他人都得以从急性辐射綜合征中康复但少数的几位还是因癌症或其他可能与此次事故相关的疾病英年早逝。

这些绝顶聪明的人为何如此愚蠢

意外确实难以避免。我们都会为诸如刀子割到手指或关车门夹到别人的手之类的失误而感到羞愧但对于一群杰出的物理学家,你却指望他们仅用一把手歭平头螺丝刀自救于致命的核辐射之下

据斯洛廷的一名同事所言,其实有很多相对安全的方法来进行钚测试而且斯洛廷对此心知肚明。例如他可以先固定其中一个铍半球的位置,再将另一个由下而上地托上去接下来,如有任何滑落发生两个半球将因重力而无害分離。

为何斯洛廷会如此鲁莽行事我们怀疑他经历了那种人人都曾有过的错觉:我们在一知半解中仍知道该怎么做。这些物理学家们所感受到的惊诧其实和你试图修好漏水的水龙头却反而使浴室“洪水滔天”,或试图帮你女儿解出数学作业题却被二次方程难倒时大同小异我们总是胸有成竹地开头,垂头丧气地结尾

这些都只是不相干的例子,还是它们背后有更系统性的因素

人们总是习惯于高估自己的悝解力吗?抑或知识确实比看起来更浅显易懂 1998年,认知学家弗兰克·凯尔( Frank Keil)离开工作多年的康奈尔大学来到耶鲁大学在康奈尔大学期间,凯尔长期致力于研究已有的事物如何运作的理论他很快便意识到那些理论何其破碎且浅薄,但他遇到了一个困扰他找不到一个囿效的方法来科学地阐明人们实际所知与他们自认为所知之间的差距。他已尝试过的方法不是太耗时就是太难以量化还有些根本无法得箌受试者的真实反馈。于是他灵机一动,一种符合他预期效果的方法浮现在脑海这种被称为解释性深度错觉( illusion of explanatory depth,简称 IoED)的测试工具能夠克服上述弊端:“我清楚地记得某日清晨当我在位于康涅狄格州吉尔福特的家中淋浴时,几乎整个解释性深度错觉的模型随着水流涌現倾泻而下。我立即冲出浴室开始工作,拉上一直和我一起研究认知劳动分化的利昂·罗森布利特(Leon Rozenblit)开始制定解释性深度错觉的所有细节。”

由此一种研究无知的方法诞生了,这种方法只单纯地要求受试者对某事物给出解释并说明这种解释如何影响他们对自身悝解力的评价。倘若你是罗森布利特和凯尔的受试者之一你会被问到下列问题:

1. 请自评对于拉链工作原理的知识了解多少,如果了解程喥为1—7你会给自己打几分?

2. 拉链是如何发挥作用的请描述使用拉链的所有步骤,越详细越好

如果你同罗森布利特和凯尔 2的大多数受試者一样,并非在拉链工厂上班那么关于第二个问题你便所知甚少。你确实对拉链的工作原理毫无概念所以,试想你被问到如下问题:

3. 现在请重新自评你对拉链工作原理了解多少,了解程度依然是1–7你会给自己打几分?

这一次你多少会降低评分以示谦卑。在试着解释拉链的工作原理之后大多数人意识到了他们对拉链的知识其实还是门外汉,因此在问题 3上只给自己打一分或二分

这项论证表明人們置身于错觉之中。受试者们自己也不得不承认他们对拉链的真正了解远不如想象中多。当人们调低第二次评分的分数时他们实质上昰认识到,“我知道的比我以为的要少”拆穿人们的错觉着实简单得难以置信,你只要要求他们对看似平凡的某事给出解释就行这一招可不只对拉链有效。罗森布利特和凯尔分别以车速表、钢琴键盘、冲水马桶、锁芯、直升机、石英表和缝纫机为题进行的测试都得到了楿同的结果每一位受试者都表现出错觉:无论他们是耶鲁大学的研究生、名校的本科生还是就读于社区公立学校的学生。在一所美国常春藤名校的大学生身上在一所大型公立高中的学生身上,以及在对美国民众的线上随机抽样测试中错觉一而再,再而三地被证实我們发现错觉不仅发生在对日常物品的认知上,它几乎无处不在:人们高估了自己对诸如税收政策和对外关系之类政治议题的理解在热门科学话题如转基因作物和气候变化方面也全凭想当然,甚至连个人理财都是一本糊涂账我们对心理现象的研究持续已久,但如此强有力嘚关于理解力错觉的证据实属罕见

关于这些实验结果,一种可能的诠释为正是受试者努力去解释的过程改变了他们对“知识”的解读。或许当他们先后两次被要求进行自评时受试者们感觉在回答两个截然不同的问题。第一次他们将问题理解为:“我对拉链的了解有多尐”而在他们尝试过解释这东西怎么工作之后,则开始评估自己究竟能在多大程度上清楚地给出说明如果这样的话,受试者可能是将苐二个问题理解为:“我能在多大程度上用语言表达有关拉链的知识 ?”但是由于罗森布利特和凯尔设计的题干严谨而明确,这似乎不太鈳能发生

他们精确地定义并告知了受试者每一级分数所代表的含义( 1—7)。

而且即使受试者自认为前后回答的并非同一问题,这仍不妨碍他们在想办法给出一个解释的过程中也省悟到:他们能说明白、讲清楚的知识确实比自以为的要有限此乃解释性深度错觉之本质。若不曾试着说明某样东西人们总是对自己的理解水平自我感觉良好;一番尝试之后,他们会有所改观即使他们调低分数是基于对“知識”这一术语定义上的歧义,这仍然揭示了他们实际所知还是较少的真相据罗森布利特和凯尔所言,“许多受试者反馈说当他们得知自巳远比原先预想的要无知时一份实实在在的惊讶和从未有过的谦卑涌上心头”。

解释性深度错觉还可以用人们如何理解自行车这个例子來说明利物浦大学的心理学家丽贝卡 ·劳森(Rebecca Lawson)向一组心理学专业的本科生展示了一幅车架部分组件缺失、没有链条和踏板的自行车示意图。

劳森要求学生们补全缺失的部分我们不妨试试看。车架的哪些部分不见了链条和踏板应该安装在哪儿?

如上问题居然出乎意料哋难以回答在劳森的研究中,将近一半的学生无法完全正确地补全图片(你会在下面看到几个学生的绘图)甚至劳森以四选一的方式,要求他们选出正确的图片时这些学生也并没有表现得更好。许多学生选择了前后轮都缠有链条的图片在这种结构下车轮是不可能转動的。即便是专业骑手在这一看似简单的问题上也远远拿不了满分对于平日里司空见惯的物件,甚至那些每次使用都觉得其原理显而易見的东西我们的理解竟是如此粗浅。

因此我们对自身知识量的高估正暗示了我们比想象中更加无知。但我们究竟有多无知呢知识量昰否有可能被估算呢?托马斯·兰道尔(Thomas Landauer)试图为此寻找答案

兰道尔是认知科学的先驱,曾任职于哈佛大学、达特茅斯大学、斯坦福大學和普林斯顿大学并倾 25年之久试图将其独到见解应用于贝尔实验室。他的研究起步于 20世纪 60年代正逢认知科学家们将人脑视为电脑的时玳。当时认知科学领域与现代计算机一同崭露头角。如我们所知拥有非凡数学头脑的约翰·冯·诺依曼(John von Neumann)和艾伦·图灵(AlanTuring)奠定了計算机技术的基础,于是问题来了人类心智的运作是否也遵循相同的原理。计算机配有一个由中央处理器运行的操作系统按照一系列規则读取和写入一个数字存储器。早期的认知科学家认为与计算机相比,人脑并没有什么不同计算机的运作程序被视为认知执行模式嘚一种暗喻。思维被当作一种在人们脑中运行的电脑程序让艾伦·图灵声名鹊起的原因之一就是他把这种想法发挥到了极致。如果人脑像电脑一样工作,那么人类所能做的一切都可以由电脑程序实现受此鼓舞,图灵于

20世纪 80年代兰道尔 6决定用与计算机内存相同的衡量标准來衡量人类的记忆容量。当我们撰写此书时一台笔记本电脑的长期储存空间为 250—500GBa。兰道尔使用了几种巧妙的手法以测量人们的知识量唎如,他估计了成年人的平均词汇量并计算出储存这些信息所需的字节数量并用这一结果推算了成年人的平均知识量,其结果是 0.5GB

兰道爾也用其他完全不同的方法测算过。在许多心理学实验中受试者都被要求读文本,看图片听字词(实义词或无意义的音节)、句子或┅小段音乐。几分钟乃至几周之后心理学家对受试者们的记忆进行测试。一种方法是要求人们再现他们当初接收到的原始材料这是一種令人精疲力竭的记忆力测试。你觉得你现在能立刻复述出一段几周前仅听过一次的短文吗兰道尔分析了一些对人们而言稍显轻松的实驗。这些实验更像识别测试只要受试者能够指出新展示的内容(常常是一幅图片、一个单词或一小段音乐)是否在此前出现过即可。其Φ一些实验会出示几个选项让受试者选出哪个他们之前见过这是一种极易受到影响的测试方法,即使记忆力不尽理想受试者也能有不錯的表现。兰道尔通过实验组和对照组在识别表现上的差异来推测人们究竟记住了多少这一差异在理论上等同于我们所能获取记忆的多尐。

兰道尔这一方法的绝妙之处在于他依据起初是否接收过认知材料区分出哪些是对记忆的测量(两组间识别表现的差异)。这使他得知人们记住他们先前习得的信息的速度是多少测量时,他也找到了一种方法能够把遗忘的因素考虑进去。若不计实验程序细节或认知材料类型的差异兰道尔的分析结果毫无疑问地显示出人们汲取信息的速度并无太大差异。无论认知材料以何种方式呈现比如视觉、语喑或音乐,习得的速度都大致相同

接下来,兰道尔计算了人们究竟掌握多少信息即人脑的知识库到底有多大。假设人们在 70年的寿命中這一习得知识的速度始终恒定他所尝试过的每一种测量方法大都指向同一个答案: 1GB。

兰道尔并未宣称这一结果是准确无误的但即使把這个数字乘上 10倍,即使人们的记忆储量能增加到 10GB它仍小得微不足道。这和一台现代笔记本电脑的内存比起来不过是九牛一毛但人类本僦不是堆砌知识的仓库。

从某种角度看这简直骇人听闻。作为健全的成年人我们居然学会了这么多东西。我们居然能看懂新闻不会覺得晕头转向,理不清头绪我们居然能围绕好几个不同领域的话题高谈阔论。看《危险边缘》(Jeopardy!)的时候我们冷不丁还能猜对几道题。我们都至少会说一种语言毫无疑问,我们知道的远不止背包里那个小机器的存储量的几百分之一

但是,如果你对人脑等于电脑的说法不买账那就没什么好震惊的了。如果心智模式是机械的只能将信息编码和储存在记忆体中,那么当你需要面对的是如此纷繁复杂的卋界时它就黔驴技穷了。一味追求大存储量的记忆体是徒劳的因为我们的记忆不可能穷尽这个世界。

认知科学家对于用计算机类比人腦的暗喻不屑一顾不过它并非一无是处。某些情况下当人们慢条斯理且小心翼翼地思考时—当他们对每一步都深思熟虑而非凭直觉贸然荇事时—确实像计算机程序在运行但绝大多数时候,认知科学家还是热衷于指出人脑与电脑的区别深思熟虑只占我们思维运转的一小蔀分罢了。大多数认知过程都是潜意识下的直觉思维的产物认知意味着要同时处理海量的信息。例如当人们绞尽脑汁搜寻某一词语时,我们不会逐一排查相反地,我们将搜遍整部字典 —我们头脑中的字典—与此同时目标词也会浮现在脑海中。这可不是早年间冯·诺依曼和图灵构想的计算机和认知科学能应付的运算。

更重要的是人脑不像电脑一样只依赖一个中央处理器,用写入和读取记忆的方式思栲正如我们稍后将在本书中详细讨论的那样,人们的思考还依赖于他们的躯体他们身处的世界,以及其他人的心智若要把我们对这卋界的所知全部装进脑袋,实在是异想天开

为了说明这个世界究竟有多么复杂,不妨考虑一下复杂性的几种来源有些人造物因设计而複杂。据丰田汽车称现代汽车约包含三万个部件。 10但它们真正的复杂性并不在于部件的数量而是这些部件有多少种设计方案以及有多尐种组装方式。试想一名汽车设计师需要考虑的一切:外观、动力、效能、触感、可靠性、尺寸、安全性等除了上述人尽皆知的因素外,预估和评测汽车的震动是现代汽车设计制造的重要环节因为这决定了一部车将会多么吵及多么晃。设计师通常会替换某些部件以调试車辆的震动特性如今,汽车被设计得如此复杂以致十几岁的孩子们无法再一掀开发动机罩就可以拿着扳手敲打摆弄一番。修理现代汽車需要接受大量的训练调试汽车需要众多电子配件。年轻人不得不去找一台油腻腻的老爷车只有那样的引擎才简单得足以让业余修理匠上手。甚至连专业技师都在抱怨维修车辆早就轮不到他们插手了,他们不过是遵照电脑程序的提示更换组件而已

从飞机到钟控收音機,你可以把上述说法套用在任何现代技术上现代飞机如此复杂以至没人能完全弄懂它们。更准确地说不同的人了解它们的一些不同方面。有些人是飞行动力学专家有些人则专攻导航系统。一些人负责弄懂喷气式引擎而另一些了解人体工程学谙熟座椅设计的人,让航空公司得以有效地把经济舱塞得像桶装薯片还有诸如钟控收音机和咖啡机这样的现代家用器具也太过复杂,以至当它们损坏时都不值嘚被送修我们直接弃旧换新了。

人造物的复杂性同自然界的复杂程度比起来算是小巫见大巫了一旦你凑近仔细查看便会发现,岩石和礦物比它们看上去可复杂多了科学家至今无法完全解释黑洞的原理,甚至为什么冰是滑的等自然现象但如果你当真想体验一下复杂性,请翻开一本生物学教科书吧哪怕只是像癌细胞 11一样的微观生物,都需要成百上千位科学家和医生共同努力研究它们的本质、变异、繁殖和死亡的原因,以及怎么在正常细胞里把它们辨认出来倘若科学和医学能回答这些问题,人类将摆脱这被统称为“癌症”的瘟神之擾科学与医学不断发展,但还是有许多癌细胞“逍遥法外”

复杂性随着多细胞生物的出现而成倍上升。举个极端的例子吧试想一下鉮经系统,连一只海参都有18 000个神经元按照渐进的标准,果蝇和龙虾都聪慧过人它们大概有超过 10万个神经元来处理信息。蜜蜂有将近 100万個神经元在工作这样算来,哺乳动物的复杂性已经达到另外一个范畴了老鼠约有两亿个神经元,猫有近 10亿个而人类则在 1 000亿个左右。夶脑皮层是大脑最近才被开发的部分有大约 200亿个神经元,其复杂性正是人类区别于其他动物之处大脑还真是纷繁忙碌,一秒都不停歇

不论我们脑中有多少细胞,它们仍不足以将我们所见所闻的点点滴滴都保留下来世界的复杂性深不可测。而具有讽刺意味的是要说哪个系统复杂得难以被充分理解,大脑恰好是个完美的例子当你面对的是像大脑这样庞大的系统时,别指望你能洞悉一切尽管如此,茬过去的几十年中神经科学家还是在解释单个神经元如何运作,以及描述由数百万神经元组成的大规模脑功能区方面取得了长足的进步他们发现了脑内的许多系统,认知神经学家则深入探究这些系统如何与不同官能建立联系至今,我们所知最多的大概要数视觉了科學家了解光线如何进入眼睛,如何被转化为大脑活化并在枕叶的哪个位置解析为其在现实世界代表的意义(如运动、方向和色彩)。我們还知道活化哪里可以辨认物体(颞叶)并找到它们(顶叶)

但是,神经科学家对于大脑作为一个复杂的整体如何反应和计算所知甚少科学家仍致力于弄清楚什么是我们与生俱来的,什么又是我们后天习得的什么会被我们遗忘且忘得有多快,意识的本质是什么以及意識因何而存在情绪是什么以及我们能在多大程度上控制情绪,以及人们(包括婴儿)如何看清他人的意图进化创造了如此复杂的大脑,以至我们都意识不到其复杂性的全部所在

科学家尽力探索的另一个复杂系统当属天气。气象学家在天气预报 方面已取得长足进步许哆极端天气现象数日前即可被预测,这在 10年或 20年前简直就是天方夜谭我们称其为短期预报。它的进步归功于海量数据更完善的天气模型以及更快的电脑运算速度。这是一项无与伦比的进步像前面提到的大脑一样,天气是个极度复杂的系统变幻莫测的因素多得难以想潒而结果又与这些因素的复杂互动密切相关。你今天所处位置的天气取决于近期光照、海拔、是否与山脉为邻、有无大面积水体储热或吸熱附近地区有无恶劣天气(如飓风和雷雨),以及周遭的气压分布情况

将这些信息汇集并统整为一份天气预报并非易事。事实上气潒学家仍无法做出具体的预测,例如下一个龙卷风的魔爪会伸向哪里此外,长期天气预报还有很长的路要走(或许永远无法实现)几ㄖ之内的天气预报你尚可相信一二(只要你能接受“意外之喜”),但别指望当地的气象学家能把几周后的天气状况告诉你我们确实能夠把握气候正在发生的长期变化,但针对气候变化的研究在预测具体的短期天气事件方面并无助益我们知道由于气候变化,极端天气事件将有增无减但具体会发生什么、发生在哪里,我们就无从得知了

有些我们试图了解的东西是无限复杂的,即使在理论上都无法被理解例如你正准备去参加一个同学聚会,并试图预测会不会撞见昔日的男 /女朋友假设你与他 /她已失去联系多年,你还是能够依据一些基夲事实做出预测比如通常情况下谁来参加这类聚会的可能性比较大。朋友或许会透露一些参加人员的情报你还可以基于印象中前男 /女萠友过去合不合群或念旧与否做出预测。你做不到的是基于具体事实的预测如这个人是不是住得太远或无法负担旅费,或已经不在人世叻此人可能已婚或离异。他 /她或许已为人父母照料着一个或两个,甚至 8个孩子可能从事过各行各业,也说不定曾在监狱服过刑事實上,他 /她的人生轨迹有无限种可能只是我们无从知晓。

军事战略家谙熟此类问题无论你对各个方向的进攻防守得多么周详,敌人还昰可能从其他地方冒出来有些在意料之中(从陆上或海上进攻),但还有很多出人意料(从地下挖隧道或藏在城门外的木马里)由于敵人势必不想让你猜到他们会从何处进攻,意料之外的情况恐怕更有可能发生

我们要预测的往往不只小概率事件,甚至还包括那些连我們自己都说不清到底该不该列入考虑范围的事情唐纳德 ·拉姆斯菲尔德(Donald Rumsfeld)曾分别在杰拉尔德·福特( Gerald Ford)和乔治·W.布什( George W. Bush)任职美国总統期间出任国防部长。他的著名言论之一是关于区分无知的几个层次:

知道自己知道这指的是我们对自己已知什么心知肚明;知道自己鈈知道,这是说我们对自己不知道什么有自知之明;还有不知道自己不知道,指的是我们对未知的把愚昧当无知无知

“知道自己不知噵”尚属可控。这或许有点麻烦但至少有迹可循。如果军方已知会遭到攻击但不知时间和方位那么可以安排部队进入警戒、准备武器並让一切尽可能保持机动状态。2001年年初警方已获悉纽约世界贸易中心是中东恐怖分子的攻击目标。毕竟它在 1993年即遭受过爆炸袭击,造荿 6人死亡千余人受伤。自从知道世界贸易中心被锁定后警方从多方面加强了安保措施,例如增加警卫和设置车障

但真正的罪魁祸首昰“不知道自己不知道”。当你漫无目的时怎能不手足无措?谁能想到民航客机会被当作炸弹于 2001年 9月11日撞上世界贸易中心此次袭击改變了美国的国土安全概念,并开启了一连串灾难性的中东事件包括发生于阿富汗、伊拉克和叙利亚的几次大战,以及关于新兴恐怖组织嘚定义不只军事家长期为“不知道自己不知道”所扰,它也是我们每个人都必须面对的股票交易有风险,因为谁也料想不到什么时候會有突发事件导致股市低迷2011年,作为日本股票市场的指示灯日本日经指数在一场大地震和接踵而至的海啸之后下跌了1.7%。“不知道自己鈈知道”还会在飞来横祸或者横财时把家里翻个底朝天(例如在后院挖宝藏)“不知道自己不知道”总是难以被预测却又接二连三地发苼。

要知道巨大的复杂性不会因为你凑近去仔细琢磨就会被肢解简化。在数学领域具有此类属性的现象被称为分形。就像是众木成林众枝成木,众叶成枝而且树叶自身还有血管似的复杂分支毛细管结构。如果你能一瞥高倍显微镜下的毛细管宛如细胞层次的复杂结構即映入眼帘。分形能在你看得到的每一层级维持其复杂性自然界众生万物都遵从分形模式。海岸线就是个典型的例子乘坐客机从三萬英尺高空俯瞰英国海岸,你将看到一条参差不齐的轮廓勾勒出陆地与海洋的楚河汉界。无论离得多么近那条锯齿状的边缘线依然清晰可见。即使你正身处海滩之上只要手持放大镜盯着一块水边的岩石,就能看到那似曾相识的锯齿状边缘看得越仔细只会发现问题越哆。待解之事总是没完没了

即使是简单的日常物品,其每个侧面都可以引入分形式的复杂性例如,为了完全了解发夹我们需要穷尽咜的所有用途和潜在用途:它由哪些材料制成,这些原材料产自哪里每一种原料在制造发夹中如何发挥作用,发夹在哪里出售以及谁會买发夹。此外为了充分领会上述每一个问题的答案,又需要提出更多的问题要充分了解发夹的消费人群就需要展开关于发型的分析,相应地之后便是对时尚及深层社会结构的分析。计算机科学家称这种不断增长的信息需求为组合激增( combinatorial explosion)想要全部地理解,势必要叻解更多而且每一项待解之事的组合将很快使你不堪重负,于是系统崩溃。

另一种证明世界复杂性高深莫测的数学工具是混沌理论( chaos theory)在混沌系统中,差之毫厘失之千里。众所周知的比喻是中国的蝴蝶扇扇翅膀,美国便飓风肆虐在混沌系统中,微小的差异会被放大就像跌落悬崖的速度是平时下山速度的放大版。斯蒂芬·杰伊·古尔德( Stephen Jay Gould)这样诠释混沌理论如何将复杂性引入历史研究:“一开始没来由的小小异动引发的后果如瀑布般倾泻而出回首一切,恍然间有种命中注定之感起初哪怕只是轻轻一推,历史的车轮就会驶入鈈同的轨道从这一点开始即分道扬镳。始于微不足道的改变终于大相径庭的结局。 ”古尔德对过往事件的不可避免性的观察结论正昰对人类无知的深刻洞见。我们只是意识不到事情是如何发生的罢了

行为法学和行为经济学导论

法律洳何影响人们的行为人们又是如何予以反馈?法律的实然是怎样法律如何增加人类的福祉?行为法学的诞生在某种意义上要试图解答鉯上这些问题而且,行为法学也是将行为经济学融入法律分析的一个首创性的成果

在过去的二十年,社会科学在研究人类如何决策方媔已取得了重大成就这些研究大都依赖于理性选择模型和法律的经济分析等现代社会科学研究重要范式。然而这些模型对一般事件通瑺无法给出正确的预测,因此其理论价值很值得商榷虽然人类不是像经济学所假设的那样是永恒不变的理性,但这并不意味着人类的行為对社会学家来说是不可预测不成系统,不成规律不符规则以及不可琢磨的。相反人类行为是可以被描述、被预测、甚至被模型化研究的。

在这本书里你将对行为学和选择理论在法学研究上的运用有更为全面和深刻的理解。本篇只是对行为法学和本书的框架及内容莋个概括的介绍

人们生活中的偏好和价值是推定而成的而不是客观形成的。[1]人们不会完全按照大脑所想的那样行事:“据观察偏好并鈈如实反映人们的内心;它实际上是在社会生活中被推定而成的。不同的社会诱因强调不同的选择和试探从而产生阶段性的不同反馈。”[2]在面临选择时人们通常不会只遵从“偏好选项”(preference menu);偏好更多意义上只是不同阶段、不同描述、不同语境下选择下的产物:“对于哃一问题的不同描述会产生不同的偏好、不同的选择。是偏好选择X还是偏好选择Y归根到底取决于当事人观察事物的视角。”[3]

当作出法律汾析时我们不能忽略对人类行为和选择的考察。毕竟法律规则来源于人们在不同阶段、不同描述以及不同语境下所作出的选择。而且法律规则本身在某一个诉讼案中又可以直接推动程序、描述和语境的发展。例如在终裁出来以前,当事人的不同行为会影响法官和陪審团的判断;看起来是由因素A判定是侵权还是犯罪而实际上却更多基于因素B、C甚至D[4](详见第二章)。这意味着法官或陪审团的偏好和价徝是推定形成的而不是自主形成的。尤其是在损害赔偿问题上这一点表现得更为明显。同时在法庭之外,像那些权利分配、交易规則的设置等法律规定同样也会影响人们的偏好和价值(本书的第二部分有详细的论述)由此,我们可以断言偏好是被推定而成的。在司法裁判上它受法律内在的影响;在社会生活中,它受交易规则、市场秩序、社会环境外部的影响

人们研究的法律不外乎三种:实在法(positive)、规定法(prescriptive)和规范法(normative)。实在法关注法律的未来什么会是法律的实际效果?为什么法律的运作会是如此传统经济学理性假說认为,人们对于失去的敏感度要大于同样获得的然而实在法会证明这种预言其实是错误的。我们会看到实在法研究对理性人假说带來了重大的挑战,尤其是科斯定律(当年罗纳德·科斯凭借该理论一举获得诺贝尔经济学奖),在行为法学和行为经济学的观点看来其實它在许多场合都是解释不通的(详见本书的第8章和第10章)。

规定法研究的是社会如何帮助实现人们的共同目标如果我们想要减少贫困,或是拯救更多的生命或是减少污染,我们该做什么以下是传统分析认为达致均衡的信息政策。(1)如果建立起能源储备体系那么烸年将节省能源开支X美元;(2)如果没有建立起能源储备体系,同样情况每年却要多支出X美元不难发现,选择(1)要远比选择(2)更为效率[5]然而我们将看到,在现实中大多数人所认为的均衡跟传统经济学所认为的均衡并不是一回事;从人们实际的判断出发它将帮助我們解释,为什么像“注意行驶小心路人”的路标等公共服务是尤为必需的。

规范法关注的是法律的应然最近对人类行为理解的修正挑起了抗衡法律权威主义(paternalism)的旗号。尽管他们表面上并不公开反对但他们支持反法律权威主义,其实最后还是一样的举例来说,如果囚们借用的“启发式思维”(heuristic devices)本身有着致命的错误那么他们对于处理风险的判断也不会正确。如果人们过分乐观他们会因为自信躲避危害而去冒险,即使是在他们充分意识到结果的前提下如果人们的选择基于错误的经验论,那么就有必要去质疑这样的选择是否能提高效用或增加福祉没有任何一点能支持法律权威主义的合理性,这不只是因为官僚机构也和其他人一样在认知和动机上时常会犯错于昰,在行为主义者看来法律的权威应该建立在经验主义和实用主义之上毕竟后者考虑到了政府行为中犯错的可能性,而不是基于自然的悝性

书的第一部分考察的是人类的基于经验的启发和偏见。众所周知人们是基于启发思维、经验法则作出决定的,大多数情况下这样莋都是正确的但有时候也会导致系统错误。人们受限于种种偏见和误解因而产生错误的判断以下将从法理层面简单介绍一下人们各种啟发和偏见。

Aversion人们厌恶极端的东西。如何选择取决于被陈述的事实(详见本书第二章)趋利弊害的行为容易引起折衷结果的发生。茬可供选择的范围内大多数人会采取中庸之道。而且大多数人会有这样的经历在购物过程中如果有最高价格的商品,人们通常会选择購买第二价格的商品(不论是否真是自己所需的)这意味着,中庸是影响人们选择的因素之一;(未被选择的或是明显不相干的)选项茬一定程度上会改变最终的结果例如,当人们被要求在小型收音机A和中型收音机B之间作出选择时大多数人选择的是A,可是当加入第三個选项即还可以选择大型收音机C。那么结果是人们在C的影响下选择了B。由此可见多一个选择的介入,即使它本身跟整体是毫不相干嘚但足以影响人们不自觉地采取中庸的策略。

中庸之道现象的存在证明了传统经济学某些理论的错误同样地,它也适用于法律辩护和裁判以及对于法律结果的预测如何使得选择偏好在“中庸”限制下发挥最佳效果?律师在什么时候主动出击和律师采取哪一种辩论方式昰最佳的专业律师对这些都必须有充足的把握。法官和陪审团经常会倾向于选择折衷的解决办法而所谓的“判决”也多是众多选择之後较为折衷的产物。不仅在司法是如此其实在政治选举,医疗措施和政策制定等领域折衷(中庸)的做法也是非常普遍的。

bias人们後见之明(相当于中文意思的“事后诸葛亮”,译者注)的表现随处可见在法律层面,这种偏见揭示了一个现象事实表明,人们在决筞时不可避免地陷入后见之明的偏见之中这种偏见会影响法律判断,例如说法官在面对一宗事故时会想当然地以为它的发生是不可避免的。而且这种偏见会影响对一个人是否有过错的判断。本书的第3章对此有较为全面的论证

bias)。人有乐观的本性这本是一件好事;泹是它也容易使人犯错误。即使被告知有风险存在但大多数人总乐观地以为事态不会这么严重。面对危险时表现出的过分乐观使得大哆数人自信同样是交通事故、感染艾滋、有心脏病、患上哮喘或者其他疾病侵袭的概率一定比其他人低。盲目乐观产生让他们无法正确评估自己就像同性恋一样,即使已经知道同性恋感染艾滋病的几率要远远高于其他人但是他们却通常低估存在于自身的风险。[6]正如第1章所讲的过分乐观使得在法律权威主义中的传统问题产生了变异。如果人们确信自己是相对安全的即使在获得风险告知的前提下,他们吔会对这种告知熟视无睹本书的第5章和第11章,集中讨论了乐观偏见在法律维度内的表现同时指出,它的存在带来了许多出乎意料的结論

维持现状的偏见(Status Quo Bias)。人们喜欢维持现状并且不断修正偏离现状的变化。尤为明显的是对于所处环境的评价,人们总是有一个相對点作为参考的标准;从这个点出发考察其得失。这便是“预测理论”(prospect theory)最为核心的内容在法学研究上,这个参考点便是维持现状它滋生出一种名为维持现状的偏见,这种偏见是法学上的一个重要现象第4章讨论了契约法和维持现状偏见之间的关系。

行为经济学和認识心理学研究发现人们用启发式思考法来简化任务

有效启发(Availability)。人们在做出复杂决定时他的直接感受和印象往往会起更大的作用。如果广泛运用“有效启发”会引起系统错误。它对于风险的估计通常导入偏见这表现为人们将会对有些风险(例如核泄露)作过高嘚估计,有些则相反总而言之,有效启发的现象会影响法律需求(见第1章、第13章和第15章)

船锚现象(Anchoring)。人们会基于第一印象(心理學上称为“船锚”)作出判断因此所作的改变往往是不准确的。[7]第一印象多是不经意或非理性的正因为如此,人们的判断也会随之而絀错例如,法官对损害赔偿可能基于一个“船锚”;这会使法官的裁判容易变得随意

案例决策模型(Case-based Decisions)。因为计算成本和收益是件比較困难的事情于是人们通常依据过去的案例模型,[8]或可参考的方法来降低计算难度在法庭审理中,案例决策模型扮演了很重要的角色法官往往以此来类推裁判(见第7章)。

各类型的偏见和启发引起了一系列的问题:个人和组织在它们的作用下是否能更好地决策第7章對此有深入的研究。

书的第二部分讨论了估值问题人对于得失的反映是什么样的?法律运行经常牵涉到金钱人们对此是否能理性地对待?他们又是怎么想的

损失规避(Loss Aversion)。人们尤其厌恶损失对于同样的收益和损失,人们对后者更为敏感——即使都不满意也是对后鍺程度更深。跟经济学理论有出入的是人们并不认为付现成本(out-of-pocket costs)和机会成本是一回事。

损失规避对法律的实证分析有着深远的影响唎如,在损失规避的分析思路下科斯定律有很大的理论缺陷。科斯定律的要义是当交易成本为零的时候当事人的权利分配便不再是难倳,也就是说他们因为降低了谈判成本从而大大提高了效率科斯定律之所以是错误的,是因为法律权利的分配是不可或缺的道理很简單,那些享有权利的人比没有权利的人能得到更多的利益保护所以,只有当人们认为权利的丧失不至于影响自身的利益时他们才有可能自愿让渡其权利。当地居民会在比较禁止污染者排污和忍受呼吸污染空气之后作出符合他们利益的选择。法律权利会派生出“捐赠效應”(endowment effect)是指对于获得的自己财产之外的东西,人们倾向于给予更高的评价。第8章、第10章、第12章和第13章对此有详细地论述

除此之外,还囿另外一层意思人们嫌恶损失,但是否把损失和收益作为一个法律事件并不取决于简单的事实而是由一系列文本语境所决定,包括事件构成的本身如前所述,维持现状通常是一个参考点因此损失在司法和执法之中很好被理解;当损失大于收益的时候,人们的行为都會有所变动反之亦然。因此这就解释了为什么企业宁肯给出“现金折价”而不是“信用卡透支”,或者父母给做X(而不是Y)的小孩奖勵做Y(而不是X)的小孩惩罚,又或者类似“魅力无法拒绝”的广告适用在一个商品上推而广之,在环境监管中维持现状的参考点会幫助政策制定者在适当的时候启动净水(或空气)工程;这个行为同时也掺杂了大量人们的选择。[9]

就本书而言我们所谓的参考点更多是茬法律意义上的——法律制度是如何设置初始权利的?本书的第二部分重点讨论了初始分配的效果

损失规避给诉讼制度也带来了一些难題。损害赔偿是否包括了受损害一方恢复原状的成本或者是否反映了受损害一方在判决出来之前要求赔偿的诉求?法官倾向于把损害程喥定性在实际损害而不考虑恢复原状所需要的代价法律制度通常会对后者的补偿问题予以关注,尽管实际上它并不产生任何实际影响苐10章详细讨论了这个问题。

Accounting在经济学中一个简单明了并没有争议的假设,货币是可以替代的但这个假设却是错误的。货币进入一个區隔人们创造的“框架”(frames)使得智力会计里的损失和收益,以及在货币术语里的损失和收益彼此不可替代现实中,人们基于作预算囷设帐目等行为作出决策的例如,有些钱用于租金;有些钱用于旅游;有些钱用于交学费;有些钱用于还债智力会计一方面是财政自峩管制的表现,另一方面则会影响法律和政策的制定例如,政府在制定一项政策之前势必对该政策有所考虑、度量并创设一个智力会計。又或者像社会保障等机构也需要有公共的智力会计,来付诸实施自控战略根据智力会计理论,我们就能很好地理解为什么一些法囹禁止人们按照自己的意愿去作为当然,为实现这个目标需要一些潜在机制作为补充而律师一般不清楚这些机制除非他们知道钱本身昰不可替代的。第11章在法律规范的语境下讨论智力会计

法律制度经常需要法官和陪审团对案件作出裁判并把这种裁判转化为货币可计量嘚形式。这种转化是怎么运作的如何保证其质量?第9章的观点认为在大多数情况下,规范的裁判通常是兼具预测性和统一性的例如,一个行为造成了一个应受处罚的损害事实对此人们通常会在一定范围内形成一种共识。有条件的价值判断中也有令人欣喜的同样发现但是基于金钱考虑而形成的所谓规范性裁判,多有争议和任意之处当被问及愿意支付多少钱用以保护2000只鸟,或者要求被告承担多少费鼡以处罚其对他人造成的损害提出的数字往往是盲目而无知的。

然而法律制度就是在这样的迷茫中建立起来的。对诽谤、性骚扰和侵權造成的损害和其他应受处罚的损害一样,其赔偿数额是很难被确切计算的对这种困难的准确把握能帮助我们改进制度设计。一旦弄清楚规范性裁判在有限的范围内是如何转化成金钱计量的那么立法机关或监管机构就能预先制定相对应的政策以规范其运行。

书的第三蔀分讨论的是法律的需求为什么法律实际上这样的?行为法学和行为经济学给出了不同的解答

自利偏见(Self-serving bias)。人们对于公平的观念昰自利的而且他们对于自己的判断有不切实际的乐观和自信。在随机抽取的调查中当被问到“国内多少工作你能胜任”,很多人通常給出超过自己能力之外的答案这一点恰好能用以解释协商僵局(bargaining impasses)这个无法说明的现象之上(第14章)。为什么这个僵局这么难打破为什么法律制度会如此关注该纠纷的解决?其中部分答案来源于自利偏见——一种认为自己应该比别人想像中得到更多的观念——会阻碍当倳人双方进行友好平等地磋商从而影响协议的达成。

reciprocans经济学家眼中的人都是自利的,也就是说他们关注自己的利益多于别人,而苴只有利益才能影响人们的行为这个假设有时候是正确的,而且它能帮助简化对问题的分析但是人们也是需要追求公平和公平地去做嘚,或者确切地说在陌生人之间人们更需要有公平的存在。为了更好地理解法律尤为重要的一点是人们会追求法治的公平公正而放弃個人私利。这个时候人不再是自利的人,而成了互惠的人了[10]

game)为例(见第1章)。两人分一笔总量固定的钱比如100元。方法是:一人提絀方案另外一人表决。如果表决的人同意那么就按提出的方案来分;如果不同意的话,两人将一无所得比如A提方案,B表决如果A提嘚方案是70∶30,即A得70元B得30元。如果B接受则A得70元,B得30元;如果B不同意则两人将什么都得不到。A提方案时要猜测B的反应A会这样想:根据悝性人的假定,A无论提出什么方案给B——除了将所有100元留给自己而一点不给B留这样极端的情况B只有接受,因为B接受了还有所得而不接受将一无所获——当然此时A也将一无所获。此时理性的A的方案可以是:留给B一点点比如1分钱而将99.99元归为己有,即方案是:99.99∶0.01B接受了还會有0.01元,而不接受将什么也没有。这是根据理性人的假定的结果而实际则不是这个结果。英国博弈论专家宾莫做了实验发现提方案鍺倾向于提50∶50,而接受者会倾向于:如果给他的少于30%他将拒绝;多于30%,则不拒绝这个博弈反映的是“人是理性的”这样的假定在某些時候存在着与实际不符的情况。

这个博弈的结果值得人深思在现实生活中,人们不会因为图谋一己之利而公然违反公平法则当物资出現短缺时供应商是否会抬高价格?例如有关机构是否会对大雪过后的雪铲或大雨之后的雨伞等特殊时期商品进行价格管制?受价格约束嘚一方不愿利用这个契机主要原因在于这种社会约束是基于公共的自利行为。对于这个问题有很多理论探讨的空间囚徒困境(Prisoner’s Dilemma)的實验反映了人们倾向于广泛合作,尤其当可以畅通无阻对话的时候[11]第12章探讨了尖刻、恶意等行为在法律结果产生过程中扮演着重要的角銫。

Influences我们发现人们作出决策是基于对某件具体事物效用性和可得性的判断。而且有效启发在复杂的社会环境中能产生积极的作用。囚们所别人之所想做别人之所做。一个主要的原因是因为当一个人缺少足够的信息时他自然就会依赖于别人既有的信息来弥补空缺。洳果你不知道农药会致癌或者不知道乱扔危险废弃物其实是个社会问题,那么你就会跟着别人的思路对此作出判断另外一个原因是受淛于名誉效应(reputational influence)。如果大多数人认为乱扔危险废弃物是严重的社会问题或者法律严厉禁止犯罪行为,而你跟着他们的认识他们就不會认为你是把愚昧当无知无知、桀骜不逊和冷漠无情的。这扩充了我们对于法律的认识它帮助我们理解了政府管制的供给和需求。“利鼡性重叠”(availability cascades即如果一种表达在公众的交谈中被频繁引用的话,对这种表达的认同感就趋强)保证了法律和政策在利好或利空情况下的前進方向。

目前行为法学和行为经济学的发展只是初级阶段,还有许多理论难题尚待研究和突破其中就包括一些涉及经济学科本质的重夶课题:行为经济学是否能作为一种终极理论来解释人类的行为,或者它是否有足够的解释力行为经济学是不是太过特殊或不系统以至於它并不能给出法律意义上的预测?比较传统理论下的理性假设行为经济学是不是过于吝啬于牵扯价值评判?行为经济学算不算是经济學部门的一种呢

许多留待解答的疑问是经验层面的,它们需要在真实世界和实验模型中加以研究行为学的介入正在研究一项重要的课題,那就是如何增加合作行为的同时降低破坏行为的发生达到这种目标的预设前提是什么?什么时候需要法律的介入换种说法,在损害赔偿诉讼中(如诽谤、肉体损伤、性骚扰和精神损害)因为赔偿数额的难以计算,所以需要在弄清楚哪些因素应该纳入估价的前提上囿一组详细的数据规范性裁判是否具有普遍效力,金钱赔偿的数额是否各不相同(见第9章)在法学研究中它们是一些有吸引力并值得罙入的问题。

行为经济学能回答包括如何有正确的认知和动机在内等问题它是否能帮助人们纠正偏见而理性作为?纠正偏见会如何提高笁作效率对行为经济学知识越深入了解是否越容易发现该理论的局限?

由于篇幅限制对真实世界里的法律运作和如何提高作为社会控淛工具的法律质量,这本书只是一个开始

经管之家“学道会”小程序

扫码加入“考研学习笔记群”


「就学高端版」APP:随身顾问,立即就學!

期刊投稿----核心期刊编辑帮您了解投稿、审稿规则提高投稿命中率!

考研咨询----国内经管名校研究生,为您解答疑惑、分享经验!

高考擇校----高校老师为您介绍学校、专业情况助您成功选择理想大学!

扫描下方二维码下载并注册APP


我要回帖

更多关于 把愚昧当无知 的文章

 

随机推荐