AI与社会

郑永年教授：人工智能与人类的终极思考——如何避免成为会说话的羊？｜AI&Society百人百问

郑永年：要考虑清楚我们人类社会的目的是什么？ 我们人的目的是什么？ 我们人既是目的也是手段。 人工智能也是人类创造出来的一种我们认为能改进我们生活的一种手段。 但是如果我们被这个手段挟持了，改变了我们的人类的目的呢？ 我们人自己本身的价值在哪里？ 我想起80年代流行的存在主义学说，人的本质是什么？ 是存在决定本质，还是人本身的本质被规定好了的？ 我们人的存在本身的价值和目的是什么？ 我们需要仔细思考好了，大家再去利用人工智能，真的把它作为一种手段，这样才能增进我们人类的幸福。

如果人工智能创造出来了，人类被消灭了，人类不重要了，那就不能再叫人类社会。 也许人工智能自己本身会发生意义，但不是我们人类本身的意义。 这看似是一个重大的问题，好像是很哲学化的，但是我觉得很现实。 因为现在你看，大家基本上没有人说不拥抱人工智能的， 今年的诺贝尔物理学奖和生物奖都是颁给了人工智能专家，包括学术界也普遍接受了。 但正是这些人也提出警告，说不定人类就会被淘汰了，我们创造人工智能，是不是为了淘汰人类自己？ 这个问题从来没有讲清楚过。在欧洲文艺复兴之前，人的本质被视为是被上帝决定的。 上帝告诉我们人的意义是什么，上帝决定我们要做什么，告诉你要做什么。 这就是为什么宗教黑暗时代后来产生了文艺复兴，人类通过理性的分析，知道我们人的本质是什么，人的目标是什么， 可以说一、二、三次工业革命都是文艺复兴和理性主义的产物。 今天我们再一次面临一个全新的时代。 我曾说过，人工智能相当于我们的“人造上帝”， 我们自己又创造一个上帝出来，让上帝来决定我们的价值，让上帝来决定我们生活的意义，这是一种文明“倒退”。

袁晓辉：正好您提到了未来的人和AI该怎么分工，现在我们确实看到了很多潜在的就业替代， 比如说像自动驾驶会替代网约车司机，无人机会替代送外卖的小哥，甚至是编程的程序员都会被替代。 那未来社会，从就业这个角度来看，人跟AI应该怎么分工呢？ 会不会存在大量的人会失业这种情况。

郑永年：不是会不会有问题，而是已经在发生了。 以前一个大律师一大批人给你帮忙查资料， 但是人工智能出现以后，一个律师带几个人工智能机器人就行了， 几分钟就能给你把历史上的那些案例说得很清楚，比人的助理更有效，更客观，不会犯错误。 我认识一个眼科医生，以前他的实验室有30多个人， 现在3、4个人就够了，因为人工智能能帮你做很多的事情。

实际上，在很大程度上说，我们的教授可能是一个最大的会说话的既得利益保护者， 实际上一些人已经没用了，就本质来说已经没用了。 人工智能已经可以比你聪明了，你还在假装比人工智能聪明，就是保护着这块阵地。 所以，不用说就业了，我最担心的是“思维”的退化。 别说人工智能，就是键盘产生以后，以前小学中学大学都是手写的字，很多中文词都会写， 我现在用了那么多年的键盘以后，有些字就不知道怎么写了， 只知道这个字要用拼音，很多方面的功能都已经退化了。 人工智能如果是帮我们思考以后，我们的智力思考肯定会退化。

我在思考，从现在看来，最大的概率可能会形成一个“牧羊人社会”。 牧羊人社会有三部分组成：牧羊人，那就是统治者；中间是牧羊犬，有几只狗；下面的大多数是羊群。 其实我们人类社会正在迅速地往这个方向在走。 牧羊人就是统治者，牧羊犬现在基本上就是官僚机构加上人工智能，监视什么的， 这一个层面以后人工智能完全可以代替，因为到处都是摄像头。 我们大部分人慢慢就像会说话的羊群，这个方向发展得很快。

我想起这个“牧民”这个概念。 我们以前的经典，《管子》第一篇，就是《牧民篇》。 你再去看看西方的《圣经》也讲“牧民”。 当然，古代的“牧民”概念不太一样，作为统治者要照顾好老百姓的利益， 像“牲口”一样把老百姓给养起来，要善待被你牧的“民”。 但是现在的情况完全不一样了。 像马斯克所说，以后人从完整的劳动里面解放出来了， 因为人工智能生产力大大提高，你几乎可以不用做任何的事情。

在马克思时代，马克思当时批评资本主义，因为原始资本属于1.0版， 你看狄更斯所描述的使用大量童工，雨果的《悲惨世界》都是资本主义的产物。 工业革命以后，人不用那么悲惨了。 马克思所描绘的，人做自己感兴趣的事。 不过，马克思还是太乐观了。 他说的是人的自由意志的表达，就是人做好事情。 但实际上，马克思还有一个论点，说人是劳动的产物，我们所有的东西都是劳动的产物。 那以后人不用劳动了，那我们人做什么呢？ 人变成什么呢？ 我们要质问自己，不用劳动了我们人类做什么？ 我们的意义是什么？ 欧洲在往这个方向发展，实行所谓的基本普惠工资制，我把它称为福利社会2.0版。 不管你干不干活，反正给你一份基本工资，你去生活。 当然很多人可能做好事，去旅游，去做公益事业。 但我们要思考，又回到前面所说的，我们人本身的意义在哪里？ 这是我们这个时代人工智能时代面临的最基本的一个问题了。

……

袁晓辉：按照一种比较乐观的发展来去推测的话，如果说人工智能还能被人类所控制， 那么我们应该去努力找寻那些能让我们产生意义感和价值感这些领域和方向。 其实人产生意义感和价值感还有一个来源，就是通过人与人之间的互动和交流，以及在人类群体相互之间的一个认同感。 但是人工智能这一次其实也会产生一些冲击， 比如说现在有很多年轻人他会选择跟AI聊天、对话，长期作为一种陪伴，甚至是像数字人，他们也会产生情感依赖。 那您觉得这个会对社交会产生什么样的影响？ 甚至可能会改变婚姻、家庭或者两性关系？

郑永年：不是说会不会，其实已经很普遍了。 很多年以前我去日本访问的时候，他们叫“拇指族”。 即使我跟你坐在一起，大家不是说我给你对话， 而是通过拇指发信息，互相交流，已经在这样，我们人类已经在退化了。 我们的年轻一代通过手机沟通。不用说年轻人了，我们这一代人都已经这样了。 我这次去从北京到临汾坐高铁，旁边商务舱直到下车才发现旁边坐的都是熟人，已经认识的人， 因为大家每个人都在看手机，人已经不交往了，然后真人认出来了以后，发现我们都是很熟的人。 已经是这样了。 以前我还有个朋友，那是好几年以前，没有人工智能的时候， 说他的小孩如果没有Wi-Fi就要跳楼了，有3、4个小时没有Wi-Fi就已经受不了了。

你看现在大学生里面30%左右的人得忧郁症，百分之十几的有自杀倾向。 人类生命是越来越脆弱，人类生命的动能在哪里？ 不是来自你的个体，就是来自人的交往。 所以德国哲学家哈贝马斯把人的交往communication说的那么重要， 因为人跟动物的唯一的区别就是communication。 其实动物也在交往，我看乌龟之间都是在互动的。 我们人现在的互动越来越少，不用说婚姻家庭了，基本的交往都成为问题了。

现在越来越多的人都有社恐症，那还要谈恋爱吗？ 日本是个典型，不谈恋爱，不结婚，结了婚也不要一起生活，这种现象很普遍。 我们人类的生育率越来越低。 我们的初步研究发现，社交媒体使用越频繁的、手机占用率越高的社会生育率就越低。 现在尤其是那种人工智能做的男朋友、女朋友，大家觉得比真人还好，真人的话还有一点脾气， 人工智能天天在这里说你好话，甜言蜜语的，可以和谈恋爱似的。

……

袁晓辉：那您觉得这对人类文明来说是进步还是倒退？

郑永年：在倒退。 现在人有生命力吗？ 没有生命力了，连狼性都没有了。 我们人类所谓的文明，是虚伪的另一种说法。 现在年轻人越来越少的狼性。我们以前小的时候，老师打你、骂你，我们觉得厚颜无耻的。 现在的年轻人老师稍微骂你一句，害怕你跳下楼去了。 我们人类越来越脆弱。 以前人与人之间出现专制关系，大家都会思考、会反抗，这也就是我们人类的政治进化的过程。 现在有人反抗吗？ 大家都在娱乐至死。 我看有一个网上有一句话，为什么那么多人去地狱，因为通往地狱的道路铺满鲜花； 为什么要进入天堂那么难，因为进入天堂的道路实在太难了。 我们人类正在走在铺满鲜花的道路上。

袁晓辉：这样看起来还是挺悲观的。

郑永年：不是悲观，是我们要思考，要做理性的思考。 人工智能这个技术产生了，它会存在下去， 但是我们如何把它锁定在一个工具的范畴以内，不要过度依赖它， 使得我们跟人工智能之间还是有一种劳动分工，而不是一个取代（replacement）的功能。 但是我个人觉得，现在就是取代的功能大于劳动分工的功能。

人工智能的发展虽然没多少年，但是发展速度已经非常快了。 我们确实要思考清楚。 我也没那么极端， 像今年获得诺贝尔经济学奖的那个经济学家说人工智能是一个Wrong Product，Wrong Direction， 是错误的技术，错误的方向。 不过，技术产生了，你很难用道德去判断。 只是要想清楚你如何使用这个工具，像前面三次工业革命。 那么对人工智能来说，我们就要思考，如何客观的进行一种劳动分工，而不是把我们给取代了。

袁晓辉：因为您一直在关注并思考这些国际局势，包括技术发展的未来， 如果能够给大家一些建议的话，特别是给年轻人一些建议的话，会有什么样的建议？ 比如说，如何让大家保持思考，保持狼性，保持乐观，或者就是如何让人更像人？ 从您自己的经验能不能跟我们分享一些。

郑永年：我是觉得现代的人在学校里时间待的太长，接触社交媒体、人工智能时间太长。 现在你学的越多，实际上你所学的东西，人工智能会取代你的。 你应该走向自然，走向人间，不要不食人间烟火似的。 你看很多小孩现在读大学，4年的大学。 这个大学体制从近代已经开始了， 但要意识到刚刚开始的时候连书都没有，以前最早的大学出版社其实就是大学老师的讲稿讲义。 现在你看信息多充分。 那么，从近代一开始没有信息而且信息匮乏的时代，到现在是信息过度的时代， 我们的大学还是4年，不用说初中高中基本义务教育了， 大学4年，硕士、博士、博士后，基本上人把有意义的那些生命都消耗在课堂里面了。 尤其是我们中国有学而优则仕的传统。你看看马斯克有没有博士，比尔盖茨有没有博士？ 不是说读书无用，而是说实践更为重要。 大家不要老是想读书，还需要生产劳动，需要走向社会。

人工智能到现在为止，从0到1的是不会做的，人工智能是从有到有。 那么，你要做的事情就是从0到1，就是我们道家说的从没有到有——这一块至少到现在为止人工智能还不会做。 但从0到1的这个东西是最好的、最有意义的，哪怕是少量的。 从有到有的人工智能，你发表1,000篇文章，跟你发表1篇文章有什么区别？ 我们现在大家都想发表1,000篇文章，实际上是你999篇文章毫无意义。 马斯克就说，大多数文章是“垃圾”。 跟实际社会毫不相关的东西，就缺少了其实用价值。 走向现实、走向实践、走向社会、走向其他人， 这是我们的意义之所在，也是原创性的东西之意义所在。

袁晓辉：其实像现在鼓励创新、鼓励创业其实也是从0到1的。

郑永年：就是从0到1。因为从1到10或者1到n，以后人工智能会帮你做的。 那么这种0到1就是原创性的意义，尤其是我们社会科学里面。

袁晓辉：因为您也在观察中国和美国的发展，包括这一次像特朗普重新当选， 包括马斯克跟特朗普的关系也形成了一个技术和政治的联盟， 这种变化其实对中国来说其实也是巨大的挑战，因为你会发现它的技术和政治联合后加速或迭代的速度会越来越快。 那从国际关系，或者从中国的整个包括创新角度来看的话，您觉得我们应该采取一个什么样的应对策略呢？

郑永年：我个人觉得，人工智能就是第四次工业革命的核心，而且是基础原动力。 当然，第四次工业革命，它的内涵外延一直在不断的被扩大，在被定义。 但是互联网人工智能肯定是它的核心，这一点大家还是有共识的。 那么从这个角度来说，我们一定要观察，紧紧盯着美国在发生什么，我们从中能学什么，能避免什么。 我是觉得从发展的角度我们一定要学美国，绝对不要学欧洲。

一般地，在国际社会上，我们说中美之间的人工智能竞争， 但实际上你去看中美之间的人工智能差距，只是美国那些捧杀中国的人才会说中国人工智能已经赶上美国了。 实际上，目前有意义的人工智能的竞争几乎都发生在美国公司之间，并没有发生中美之间，那欧洲更没有。 马克龙一直在呼吁欧洲要 delegation，要放松管制，欧洲啥也没有。 第四次工业革命4.0版，是德国人提出来的，我给德国朋友说，你们4.0工业革命拿出来看看你有啥？ 都在发生在美国。 欧洲规则太多了，根本发展不起来，这是他们所面临的危机。 中国人工智能领域监管方面，人脸识别、信息收集和应用场景还是不错的，但是发展还是在美国。 所以我认为说从发展的角度，我们要学美国，不要学欧洲。

即使对监管体系，我们也是必须加以改进。 监管，就是你应当是让这个小孩先生下来，然后监管他、培养他，使得他走上一个我们认为比较正确的方向。 你现在不让它生下来，那不叫“监管”，那就叫计划生育了，叫控制了。 我是觉得我们还是要多强调发展，然后在发展的基础上做监管。 我们现在监管优先，不让它生下来的话，那我们会落后啊。 我现在非常担心现在的发展趋势。 第一、第二、第三次工业革命所产生的技术，作为工具， 一旦一个国家有了，最终所有的工具都会普及到所有国家，也就是具有分散性。 现在的人工智能不一样，就世界范围来说，都集中在中美两国。 那么中美两国来说呢，又高度集中在美国。 美国它本身也就是集中在那几块地方，高技术的能力是高度集中的。 所以，如果我们做不好的话，全世界都要变成美国的“奴隶”了，都要听美国人的话了， 就是少数像马斯克掌控了人工智能技术能力的这些人，这是很危险的。 我们要考虑的，现在也是世界不公平的一个根源，就是不要美国一家独大，避免世界成为美国人的“奴隶”。 中国要急起直追，因为在这个世界范围内，只有中国才可以跟美国展开有意义的竞争，其他国家数都很难追上了。 现在做一个大模型要就100多万美金，那一般的小国家想都不用想， 他们也许能在一些细分的领域有所作为，但整体上来说这个格局已经差不多固定下来了。 那下一步的发展就看中国，也只有中国能跟美国竞争，能对美国构成一点 checks and balances（制衡）。

袁晓辉：没错。 我的最后一个问题是关于刚才您讲到人要劳动，要获得这种意义感和认同感。 之前其实我有一个小小的假设，是不是只有在生产和创造的时候，人才能产生这种意义感？ 因为现在大部分的人都是在消费内容。

郑永年：消费就是羊嘛，我感觉“牧羊人”的“羊”就是消费，他不会创造。 文艺复兴以来，大家意识到人是可以通过理性来改变自己生活的，那就是创造、建设。 把你这个问题转换成消费就对了。 毕竟我们的消费都是非常被动的，是人工智能告诉你消费什么，不消费什么。 我们说人真正的生命意义就是创造者及劳动者，这个我们一定要记住。 人工智能本身也是人类创新的结果，结果你被你的创造物所控制、所塑造的话，那就是你的本质就被决定了。

所以就像存在主义所说，人必须决定自己的本质，而不是被外在的东西所决定。 以前是被上帝所决定的，那现在被一个人造上帝所决定的话，那就更糟糕了。 当然也不用太悲观。 当越来越多的人认识到这一点的话，那第二次人文革命也差不多会发生。 我想人不至于堕落到成为会说话的羊的程度。 现在西方也有些人开始反思了，我拒绝不了，那我就反思， 我需要做什么使得人工智能走上一个健康发展的方向，真正我们符合我们人文价值的方向。

科学技术本身解决不了这个问题。 做原子弹的美国的科学家奥本海默是凭着自己的兴趣去发明这个技术， 但是这个技术的consequence（后果）不是科学家所能掌控的，只能人文才能解决这个问题，科学技术本身解决不了这个问题。 科学与技术只能说用人文去 checks and balances（制衡）。 现在你看人工智能不安全了，那么也有追求安全的人工智能会出生， 但是这需要很多的人文精神在这里面，人文才能决定我们人类的本质。

袁晓辉：好的，谢谢郑老师。 从我们刚才对话中我觉得是有一条脉络的，就是一方面是技术，一方面是人文， 而且人文它发挥的作用会越来越大， 特别是在未来的人的意义感、价值感和人的工作形态等等方面都会起决定性的作用。

郑永年：上世纪六十年代英国非常有名的作家C.P.斯诺写过一本书叫《两种文化》。 两种文化，一个就是人文的，一是科学的。 当然，他那个时候批评英国人文太多了，科学不足，因为二战以后美国上去了，英国落后了。 英国人以前人文，莎士比亚这些东西玩得很好，但是他们现在可能要倒过来。 今天的情况是，科学技术太多了，人文太少了。 但是这两种文化一定要均衡发展，我们人类才能把握得住我们认为的人文发展的方向。