【科技向善大咖说·第四期】

邱泽奇

北京大学教授,北京大学中国社会与发展研究中心主任,长期关注技术变革对社会的影响,围绕技术与组织、技术与发展、技术与社会等问题进行了深入的调查研究,尤其是对过去二十年里,互联网给中国社会带来的变化有着深刻洞察。

在与研究院的对话中,他从技术与社会的视角,围绕「科技向善」在不同发展阶段的实现形式,对数字时代的向善逻辑、影响因素、未来趋势进行了深刻解读。以下是访谈内容精选:

腾讯研究院: 互联网发展20年,给人们的生活和工作带来很大改变,但也带来了很多挑战。现在包括腾讯在内的互联网公司也都提出了科技向善的愿景,你怎么看这一趋势?

 邱泽奇: 在回答这个问题之前,有两个问题需要解决。第一,为什么在这个时候提出科技向善?因为科技向善的问题历来存在。或者说,科技向善为什么现在是重要的?第二,科技过去向善了吗?现在向恶了吗?

科技向善历来是社会的期待。从辩证的角度来看,科技的影响必然分为正反两方面,既可以用来行善也有可能拿来作恶。在历史上,科技向善通常是通过政府管制和企业自我约束来实现的。政府管制的典型例子是枪支。枪支看起来只是一个工具,但枪支的致命性让政府管制变得非常重要。

从枪支的例子来看,之前的科技是通过产品呈现善和恶的,这样的方式在工业化时代最为明显。理论上,政府代表的是公众的利益、道德和价值观。由政府的规制来约束产品向善或向恶。比如说,中国对枪支实施的是强管制政策,美国对枪支也有管制,却是弱管制政策。人们很难说枪支本身是善还是恶,但不同的管制理念和政策,依据的是对产品如何向善、向恶不同的判断。当然,人类社会也有一些共同的判断,比如说毒品,世界各国都对毒品实施强管制。

通过这两个例子,我们可以获得一个清晰的逻辑:工业化时代的科技常常被用于企业制造产品,以产品为载体,呈现出科技的向善或者向恶。对产品向善或向恶的约束,则主要通过政府制定各种规制来实现,向善的产品会获得鼓励,向恶的产品会受到管制。在这个逻辑里,政府承担了对科技产品善恶进行判断和规制的主导性职责。

 腾讯研究院: 在数字时代,这个逻辑会有什么不同?

 邱泽奇: 可以从产品的形态来看今天的产品和工业化时代的产品有什么不同。过去的产品更多是工具性产品,中国人讲「器为所用」,就是讲它的形态和功用。今天的产品既有工具性产品,也有交互性、互动性产品,参与式产品。虽然产品在严格的意义上依然是工具,可是产品的形态变了,用法也变了。过去,产品与使用者的关系是纯粹的工具。今天的产品,是用户体验产品、与产品交互,这样的产品形态逐渐成为主流形态。在新的产品与用户关系结构中,同一个产品,不同用户使用的反馈会有非常大的差异。有的人玩一个小时手机觉得很合适,有的人玩一个小时觉得非常影响生活和工作。在数字时代,人们对科技产品的善恶判断上,个体的差异影响非常大,包括年龄、受教育程度、个人兴趣爱好等因素,都会对产品善恶的判断产生非常大的影响。从政府规制而言,显然不能一禁了之,简单地禁止一个产品解决不了任何作恶的问题。

从工业时代到数字时代,企业与社会的关系在变化。互联网诞生之前的产品,企业通过产品来面对社会;如今,我们依然以产品的形式在面对社会,界面、交互方式却发生了本质的变化。过去企业开发一个产品,经过权威部门审核批准之后可能就算完成了,剩下的是批量复制。在数字时代,诸多产品都是动态产品,需要根据交互数据对产品不断进行优化迭代,通过产品升级、算法升级以满足用户需求。与互联网之前的产品比较,两者的差异是本质性的。

 腾讯研究院:这种形态的差别,对科技是否向善的判断有什么影响? 邱泽奇: 我认为,约束企业向善的参与者角色和数量变了。过去,可以不需要用户参与产品的生产和迭代。用户主要通过政府实现其对产品向善的诉求;政府要求企业的产品向善。今天你会发现,实现企业的产品向善不是单次约束,需要产品在不断迭代中实现,这是第一。第二,这一波技术革命对社会经济的改变,对人的影响呈现出非常大的差异性。只有每一个用户直接参与到产品的生产与迭代中,才能对产品的善恶进行归责。因此,在过往的经历中,有哪些经验需要借鉴,有哪些教训需要吸取,还缺乏一个明确的参照。但有一点却没变的是,互联网科技与未来的人工智能最终还是要服务人,以人为核心、服务人类的核心目标。

也即科技产品必须以人为中心。问题是,不同科技的产品,以人为中心的实现路径不一样,过去是政府承担规制责任,企业承担的产品责任。今天我们会发现,政府依然承担着规制责任,企业除了承担产品责任,还承担着规制责任,企业本身增加了规制、管理的义务。把用户纳入产品的开发、生产与服务之中,是企业获得规制和管理合法性的重要源泉。这一点要特别强调,这个时候科技的善与恶不简单是企业的问题,也不简单是规制的问题,而是政府、企业和用户三者之间共同参与、建立规则的问题,这是核心所在。

 腾讯研究院:这里讲的企业是包括所有企业吗? 邱泽奇: 不仅是大企业,很多创业企业也一样,开放,让用户参与,已经成为非常重要的企业生产运用服务过程。一个产品,不管它在技术上有多先进,在技术上有多前沿,它的核心,还是要为大多数人谋利,为大多数人谋快乐。当然,一些新科技或产品在研发初期可能会遇到一些问题,需要一个发展过程。因此,对新事物,不宜简单、盲目地否定。

科技向善,从宏观层面看,首先要为大多数人带来便利、带来红利。社交产品、电商产品、娱乐产品,物联网产品等等,在解决人与人的连接、人与物的连接和物与物的连接方面发挥了关键作用。至少在初始阶段,为用提供便利是最大的善。当然,科技向善也可以表现为具体的社会行动,像互联网公益对慈善的推动,通过技术方式大大降低了人们参与的门槛,不仅是改变了具体项目,还推动了公益生态的改变,让公益更接地气。还有,像「为村」这样的产品,专注解决社区的连接,帮助上万个村庄更好地融入到互联网世界,这些都是科技向善。

 腾讯研究院: 如果用几个关键词来界定科技向善,你会选哪些词? 邱泽奇: 第一个我会选择改进,促进效率和效益的提升,改进人类运用资源的方式,尤其是提高资源利用的效率。第二是普惠,让大多数人从中受益;第三个是包容,容纳不同的内容、不同的群体,不同的诉求;第四个是诚信。重复一下,第一是效率问题,第二是社会覆盖性问题,第三是兼容性问题;第四是社会整合性问题。我认为,应该从这四个方面来界定。

向善有大善、小善,任何科技都有正反两面的影响。最大限度地降低科技负面影响的方式是制度安排问题,可选择科技朝哪个方向走,却是道德问题。

 腾讯研究院: 这个选择由谁来决定?

 邱泽奇: 社会大众共同决定。善恶在规制领域通常被划归道德领域。过去解决道德问题,无非是两种方式,一是建立社会道德,一是把部分道德约束纳入法律范畴。对当下和以后的科技领域,除了加强法治,社会道德建设更加重要。除了产品研发和迭代太快,法律难免存在滞后的考虑外;还因为社会有机会直接参与产品的研发与迭代的过程,本质上就是用户筛选、社会筛选的过程。对于从动机上就不向善的科技,社会会有一个选择的过程。随着这个过程的发展,期待的是社会对技术产生有限的免疫力。当然,在科技向善的发展中,总会出现这样那样的问题,用中国的经验来讲,发展中的问题要在发展中解决。

 腾讯研究院: 在践行科技向善方面,你对科技公司有哪些期待?

 邱泽奇: 我认为,科技公司的责任比原来更大了。工业时代,政府和行业制定技术标准,企业只管执行技术标准,只要保证产品符合技术标准就合格了。产品产生的社会问题,由政府或社会解决。现在,科技公司面对场景不一样了,简言之,面对的责任、难题更多了。其中,有些科技产品的影响很难马上界定,产生影响的关联因素也很难厘清和量化。在这种条件下,科技公司还不得不直接面对产品引发的社会后果,这就是不同。过去,这些社会后果是由政府出面解决的,现在政府也不知道该怎么解决,为了推动产品研发和迭代,公司不得不面对。面对这些新的挑战,科技公司应该更多地与社会交互,更多地从社会获取和吸收智慧,理解社会对一个具体产品善的界定和期待。

 腾讯研究院: 当科技公司直面这些新的社会问题,提出解决方案的时候,它的边界在哪里?会不会影响用户的选择自主权。 邱泽奇: 这其实是一个平衡问题,包括在不同市场可能要采取不同的措施,比如中国的应用环境和欧洲的差异就很大,一些产品在欧洲应用可能不会带来什么不好的影响,在中国市场可能就会产生不好的反馈。这跟两个市场的用户习惯、文化传统有很大的关系。即使是在同一个市场,不同用户群体之间也会差异很大。尤其是当一个新的科技产品出来,用户并不知道产品负面后果是什么的时候。在这种场景下,科技公司要尽可能告诉用户潜在的负面影响。科技公司的告知就是一种向善。事实上,对新的科技产品,它的正面和后负面后果,用户其实是不熟悉的,科技公司向善的做法,是要告诉用户,产品的正负面后果会是什么样子。鼓励用户向正面后果发展,避免负面后果,这是科技公司应该承担的责任。科技公司对产品后果充分告知不仅不会剥夺用户的选择自主权,反而会赋予用户更大的选择自主权。

我们可以看一下公交车刷卡的例子。北京公交车刚刚开始推广刷卡的时候,每个车站都有人教你怎么上车,上车之后也有人教你怎么刷卡。多少年过去了,直到现在,车内广播都会反复告知如何正确地刷卡。与此同时,技术和规则也在不断迭代,过去只能刷公交卡,现在,多种途径都可以刷;过去是上车刷一次就完了,现在,变成了分段式计价,上车要刷卡,下车也要刷卡。为了让乘客熟悉,车内广播不断地提醒你下车也要刷卡,否则就要被扣全程票款。

腾讯研究院: 科技公司也需要去推广和普及一些规则或者数字时代的素养?

 邱泽奇: 对,你讲得很准确。我们举个特别简单的例子,在家里,当看见小孩拿着菜刀,大人会怎么办?肯定会制止。当一些新的科技出现的时候,它潜在的负面影响可能就小孩手里拿着菜刀,所有用户就是拿着菜刀的小孩,不知道手里拿的东西会有什么危害。这个时候,就需要科技公司、社会、用户共同去面对可能出现的潜在风险。起码要告知,既要让用户更好的使用科技产品,也要让用户明白可能的负面影响;然后是引导;第三是预防;第四是提供针对负面后果的解决方案。

 腾讯研究院: 随着这些规则和意识的普及,对科技产品应用而言,当下遇到的挑战,在3-5年之后可能已经不再是问题? 邱泽奇: 我始终认为,一些现在的问题是一个转折期的问题。转折期有几个特征,第一是社会对产品不熟悉,对产品的特征不熟悉。第二是对产品的社会后果缺乏预见;第三是在遇到问题之后,缺乏科学、理性的解决方案。

随着科技产品的普及,社会各方了解的深入,这些问题都会迎刃而解。不过,有一个问题需要提醒,如今,科技产品的迭代速度远远快于工业时代的产品迭代,它就意味着用户始终会面对新的科技产品,这是最大的挑战。我们前面讲到的告知、引导、预防和解决,不是针对一个产品而言的,而是说,面对不同的科技产品,对问题的解决要有一套机制和策略。希望科技产品有一天也能像药品一样,不仅能列出自己的功效,还能标明它的副作用,有一个详细的告知。

 腾讯研究院: 当科技产品的快速变化成为一种常态,科技向善需要建立一套面对快速变化的机制? 邱泽奇: 是的。过去的产品更新比较慢,一把镰刀用了2000年,形态也没什么变化。可是今天,一部手机最多用两年。其实,工业时代的很多问题也是逐步发现的,像前些年爆出来的食品安全问题,「苏丹红」、「三聚氰胺」,都是在出现问题之后不断完善规制标准和监管机制,逐渐形成一套机制的。未来的产品更新一定是越来越快。在数字时代,我们怎么去应对科技产品迭代加速的挑战,政府有规制的责任,社会有选择的责任,科技公司则有技术的责任。我认为,未来科技产品在研发的时候,还可以更多地让专家的参与。比如在产品研发阶段,可以更多地与多学科专家合作,让专家更多地了解产品特征,并对一些问题进行前瞻性研究。这样做的优势是,当最新科技产品推向市场的时候,不仅有来自企业的技术告知和引导,还有来自专家的社会评估。也就是说,在前面提到的告知、引导、预防、解决四个环节之外,还可以引入外部专家参与,作为第三方来承担科技行业与社会、政府之间的沟通桥梁。

比如社会学家介入,可以通过非干预实验找出产品的社会特征。从用户的年龄、性别、职业结构入手了解哪些人在使用产品,并从其使用行为中发现规律性。只有运用科学方法找到了产品的社会特征,才能写出真正有效的「产品说明书」,而并仅仅只是一份技术说明书。

 腾讯研究院: 这种研究和当前一些科技产品快速发展、迭代的节奏会不会相矛盾? 邱泽奇: 对有些产品的研究,需要的样本量并不大,也许几千个样本的行为数据就足够了;对另外一些大类产品的研究,比如社交产品、电商产品、游戏产品、短视频产品等,每一类产品都有相同或相似的社会特征,什么人在用?有什么影响?应该如何用?当把大类社会特征研究清楚之后,就可以提供预防式的建议和策略,而不是像现在一样,等出现问题才去推出应急措施。

当针对大类产品的研究形成积淀,在新产品出来时,就可以写指导书,给预测性建议。就像现在的药品一样,很清楚地说明,适用于哪些人,哪些人禁用。像某些感冒药、抗生素等,产品说明里就会讲得很清楚,孕妇禁用。如果你是孕妇,就不能用这个感冒药了。以后的科技新产品也可以加一些告知,建议哪一类怎么用,让用户自己去判断和选择。

 腾讯研究院: 目前这方面的研究好像还不是太多?

 邱泽奇: 的确不多。我认为主要有两方面的原因,第一是科技企业没有对外开放;第二是学界对这些领域的研究还不太重视,不认为这是他们的责任。不过,无论是理论创新还是实际解决社会问题,这样的研究都非常值得去做。很多新问题其实是理论创新的源泉。

 腾讯研究院: 对科技公司而言,这些措施会和追求商业回报的目标相冲突吗? 邱泽奇: 我认为,跟商业目标没有冲突。举个例子就比较容易理解了。同样一个产品,你可以只告诉大家怎么用,同时你也可以除了告诉大家怎么用,还告诉大家怎么用更好。现在,第一步我们已经做得很好了,告诉大家怎么用。结果是,有的人用好了,有的人用坏了,这出现了负面影响问题。

大家喜欢用,说明产品很有吸引力。在这个基础上,如果能让用户更好地使用,等于是为优质的产品提供了优质的服务。这是一个正反馈,而不是一个冲突。我始终不认为,一家科技企业告诉大家怎么把自家的产品用好会让它降低利润,我觉得不会这样子。

 腾讯研究院: 科技向善会带来逆向选择吗?或者说会出现劣币驱逐良币吗?

 邱泽奇: 即使有逆向淘汰,也始终只是一个阶段,不会是永久的。为什么是阶段性的?因为在逆向淘汰阶段存在着一些没有被满足的需求,也可以理解为用户内部的差异性导致的需求本身的多样性没有被满足。这里,提出了一个更重要问题,如何让产品都具有科技向善的价值,让向善成为行业的一个基本准则。

 腾讯研究院: 在推进科技向善方面,怎么看学界、企业、政府的互动。 邱泽奇: 对于新出现的科技或应用,政府也需要有比较深入的了解,也需要对它的影响有比较全面的评估。要达成这样的目标,学界其实可以发挥很好的沟通和桥梁作用。虽然企业有自己的商业视角,学界却可以更客观地从社会视角去给出答案。对政府监管而言,过去采用产品标准来避免出现负面后果,促进产品向善。如今,很多创新科技产品很难用已有的标准去衡量,不仅国内没有类似可供借鉴的经验,有的在国际上也没有参照。这就需要在监管方式上进行创新,三方共同探索数字时代的新规制。

科技向善不仅是科技公司的责任,也不仅是大公司的责任,而是所有公司、政府和社会共同的责任。

来源：中华网