科技向善大咖说 · 认知升级
2019年9月,腾讯研究院开始陆续深入访谈全球业界与学界大咖,围绕「何为科技向善」、「如何理解科技向善」的问题,广而寻求见解与共识。包括最著名的网络社会学家卡斯特教授、斯坦福和平科技实验室创始人玛格丽塔教授、创业者/硅谷投资人邵亦波先生、搜狗创始人兼CEO王小川先生、北京大学国家发展研究院BiMBA商学院院长陈春花女士、北大社会学系邱泽奇教授、清华传播学系金兼斌教授、北师大复杂科学系张江教授等等,从不同的背景与专业出发,分享了各自的思考。
与此同时,我们还将陆续发布的【科技向善案例集·产品行动】;【科技向善·大哉问】等等。
「科技向善」这场大型社会实验的下半场才刚刚开始,而且没有终点,而且每个人的行为都会影响它的实验结果。每一个数字公民,都无法置身事外。
若你有更多关于科技向善的好想法,请联系我们。
联系邮箱:
tencentresearch@tencent.com
【科技向善大咖说·第一期】
Margarita Quihuis
斯坦福大学和平创新实验室(Peace Innovation Lab)主任,斯坦福大学说服技术(Persuasive technology)实验室的研究团队成员,负责研究创新,游戏设计思维等。同时,Margarita也是一位行为设计师和社会企业家,专注创新、技术孵化和企业家精神。
斯坦福和平创新实验室致力于研究、制定标准帮助技术产品变得更加公平、多元、友好,这种实践和科技向善的理念一脉相承,研究院与斯坦福和平创新实验室对话,探索科技如何向善的可能性。
对话全文如下:
腾讯研究院:你如何评价过去几十年中,互联网产品和服务带来的改变?它带来最显著的成就和最大的问题是什么?
Margarita Quihuis:对于当下的每个人来说,新兴的技术产品让人类拥有更多可能性。比如,90年代初的互联网有极强的人道主义目的,它将人们团结在一起、让家庭重聚,真诚地相互连接,这在历史上是绝无仅有的。
然而,让我们没有想到的是技术的武器化。在90年代初期很多人认为,人们会像对待另一个人一样对待技术。然而在现实里的人与技术互动中,技术其实无法像人一样去影响另一个人,它会直接说服人们去做一些事情,在后续的测试中技术的这种说服力也被证实。这说明技术有潜在的威胁,同时也没有太多人关注并说我们如何去避免技术的威胁。在这种环境中,很多人在不知不觉就利用技术做了坏的事情。如果将技术比喻成影响说服力,会发现世界上优秀的领袖鼓舞说服别人成为更好的人,同时也有邪教组织利用说服力驱使人们做糟糕的事情。这些说服的技能和策略是相同的,只是看它被用于好的结果还是坏的结果。
显而易见的是,技术已经被用于做坏的事情,但是我们没有意识到问题的严重性,更别说评估它的风险,所以我们也无法从社会、经济、政治的层面采取任何措施。这也是为什么斯坦福大学希望关注技术带来的问题,去研究技术伦理学、产品设计伦理等。我们希望创造一个基于价值而非基于效用的世界,只追求利润、投入回报比、商业战略会让企业损失很多,比如损失信誉、尊重,这种损失是用金钱难以弥补的。
腾讯研究院:作为一个行为设计师(behavior designer),您如何将价值伦理运用到产品实践中?
Margarita Quihuis:我们有一套数据标准,可以用这套标准去测量产品,让测试结果来说明产品效果是不是人看期待看到的。不同的产品经理看待世界的方式不同,他们做出来的产品对用户影响的差异也会很大。比如,Twitter是由四位男性设计的,很多男性对安全的敏感度远远没有女性强,身为女性的我们如果置身于一段糟糕的关系中,我们也许会被困住被骚扰,甚至有遭遇暴力的风险,如果这种风险发生在Twitter平台上,可能很难被男性工程师感知,但试想一下,如果发现这种风险的是女性工程师,她们也许会提出一些方法在阻止这些潜在暴力的发生。
我们下一步要做的是将我们的标准产品化,是一套可以记录的嵌入代码,可以检测到用户是否正在遭受骚扰或是发生异常,然后请工程师立即修正它。它最好的一点在于,如果事情正在往不好的方向发展,我们能早早发现苗头加以控制,而不是像50年前,香烟已经对人们身体产生负面影响,而直到多年后癌症出现才意识到这个问题。
面对人工智能,我们也建立了Human-Centered Artificial Intelligence (HAI), 去探究当下的算法的公正性如何。因为算法是人在设计和控制,但他们甚至可能并不知道机器和数据集本身是含有偏见的,计算机进一步学习有偏见的数据,产生有偏见的结果。这就跟教育孩子一样,人们不会故意教小孩子一些不好的东西,都希望他们礼貌、正直。机器和数据是一样的道理。
腾讯研究院:技术公司践行「科技向善」的动力何在?
Margarita Quihuis:有一些外部动力。政法监管部门出台相关法律,严厉打击科技公司,认为互联网平台上的某些功能成为暴力事件的帮凶,其平台效应是推动者。外部的强监管很快让互联网产品变得安全。
同时,有很多年轻企业家,他们确实希望做正确的事情,用技术让世界变得更加美好。我们可以为他们提供工具和框架,他们也十分愿意采用,因为他们正在变得越来越价值导向。
事实上,我们的社会正在面临严重的问题,气候危机、社会极化、信任崩塌,如果我们无法信任彼此,就无法协作解决当下的难题。所以更多的年轻一代会意识到,如果不去做正确的事情,去解决真正的问题,我们甚至会难以生存。
腾讯研究院:在实践科技向善的过程中,最大的挑战是什么?意识还是行动?
Margarita Quihuis:我们觉得最重要的意识的变化,然后才有做某事的欲望。但是当下的情况是,很多企业在转变的过程中害怕风险,或者不知道如何改变,所以我们致力于研究系统性创新,帮助企业实现积极的转变。
腾讯研究院:和平创新实验室如何定义自己的角色?更倾向于和年轻企业家合作,还是独立制定标准?
Margarita Quihuis:我们制定标准,并将标准工具化给予企业使用。同时,我们也跟企业合作,理由很简单,谁具有充足的人力、资金来创新性解决问题?当然是企业。我花很多时间去跟想要做创新和转型的公司CEO沟通,帮助他们制定转型策略,我的要求是他们的业务必须对社会产生积极的影响、塑造合格的公民。我认为,对于很多已有市场规模的公司来说,还有很多有社会意义的事情可以做,同时这些事情可以盈利,也可以解决社会问题,并且我们可以用技术的方式快速实现这些需求。这是需要创造力和勇气的事情,有CEO惊喜地发现「哇,这真的可以实现!」所以,我们的机构更像一个保护伞,帮助企业开始一些创新性的尝试。
腾讯研究院: 您怎样看待当下人工智能产品中的隐私问题?是否有好的解决方案?
Margarita Quihuis:当下的算法黑箱很像90年代的芯片黑箱问题,消费者并不关心电脑中的是AMD还是Intel芯片,于是Intel就在品牌战略活动中,请第三方来评估芯片的安全性,并将审查证书呈现给消费者,消费者当然愿意购买安全性更高的芯片。目前的苹果隐私上的策略也是这样,它会说:我们的手机和技术将保护您的隐私。隐私在某种意义上成为了奢侈品,所以苹果的售价也更高一些。但是这种隐私策略让一些人成为了苹果的死忠粉,最终隐私保护变成了市场竞争优势。
腾讯研究院:您如何理解「科技向善」?
Margarita Quihuis:我们做的事情和「科技向善」是一脉相承的。我们经常谈论伦理道德,不要这样做,不要那样做。但如果从一张白纸开始,我们想要生活的世界是什么样的?有花、有草、有新鲜空气……然后我们开始填充这张图片,并逐渐让它成为现实。如果我们从不想要的东西出发,工程师会无从下手,所以我们需要彻底想象10年、20年后我们期待怎样的世界,并朝着这个方向努力。我们需要拥有技术,并尝试找到目标,将其传达给工程师们。总而言之,技术不是目的,创造更好的世界才是。
来源:中华网
(责任编辑:雪霁)
下一篇:邱泽奇:数字时代,科技向善为什么更重要?|科技向善大咖说
【免责声明:本网有部分文章是通讯员转载自互联网,供读者交流和学习,若有涉及作者版权等问题请及时与我们联系,以便我们及时对相关文章进行删除或其他方式处理 。对于不当转载或引用本网站内容而引起的民事纷争、行政处理或其他损失,本网站不承担责任。谢谢监督!】