人工智能时代如何保障人类的利益

德国经济学家奥拉夫·格罗思与美国加州大学伯克利分校人类兼容人工智能中心执行主任马克·尼兹伯格合著的《所罗门的密码：AI时代的价值、权力与信任》一书中，向读者介绍了中国近年来大力推进建设的社会信用体系。

《所罗门的密码》 （德）奥拉夫·格罗思 （美）马克·尼兹伯格 中信出版集团

这一体系采集了银行等金融机构、互联网企业以及公民日常行为等方面的数据，奖励诚信，惩戒失信，对各种不良行为进行限制。失信者在经济和社会活动中会受到限制，一些人无法购买机票或高铁动车票。

两位作者赞赏上述做法。事实上，数字技术的引入，在中国等许多国家和地区的社会管理中都发挥着十分积极的作用。美国洛杉矶等城市强化了基于数字技术的警务预测，提高了执法效能，震慑了相应的严重犯罪。一些国家开始使用人工智能指导糖尿病等严重慢性病的患者过上更为健康的生活，减少阿片类药物成瘾者的复发。一些非政府组织借助数字技术来监控热带雨林是否受到滥伐或者出现火灾隐患。

当然，数字技术被越来越广泛而深入地应用，也引发了相当多的争议，比如技术系统失控引发的安全风险，又如日益复杂的人工智能系统威胁了个人的主动权，再如国家、企业控制权增强，以及国家之间、企业之间的竞争关系可能造成的技术管控风险。

作者认为，数字技术应用带来的好处和风险都存在。无论是中国等国家和地区推行的数字化信用管理，还是洛杉矶等城市开展的警务预测，都将创造更好的治安环境，改善经商、旅游、交通出行和日常生活的安全指数，但也很可能让一些“数据不太干净”的人们或弱势群体因其经济社会地位而被进一步边缘化。

事实上，从技术发展和应用史来看，新技术投入应用之初，人们往往同等低估了其成效和问题所在。私人小轿车出现时，人们并未预想到其带来的巨大影响，事实上过去一个世纪，汽车对环境和生活造成的危害远超事先预期。相类似的例子是，抗生素的发明使用极其有效地挽救了许多人的生命，降低了过去一些严重疾病或伤患的致死率，但因为人类在自身和牲畜上滥用抗生素，也导致了越来越多的细菌突变并产生了耐药性，从而引发了制药公司、人体、大自然之间的“军备竞赛”。

人工智能对人类的应用价值当然仍在陆续释放之中，过去由社会学家、人类学家抨击的人工智能助推群体极化之类的问题而今已经被有效缓解，让个性化推荐兼顾了多样性。尽管如此，数字技术仍在不可避免加剧人们对其的黏性。

书中认为，中国、美国等国家近年来已经构建起科学界、产业界、主管监管部门、行业组织之间相对良性的合作关系，从而使得数字经济领域保持创新涌动的活力，形成了仍有益于创新的生态系统。这些也正使得中美为代表的国家在人工智能等新技术发展和应用的广泛竞争中占据主动。而在印度等国家，人工智能发展仍面临基础设施覆盖不足，这也凸显了强化国际合作的必要性。

该书核心观点在于，以人工智能为代表的数字技术在不断迭代进化，功能越来越强大，走向人与机器、智能之间更深层的共生智能关系，让我们的神经网络能力更强大，得以构建更强大的科学架构、人类社区、生态弹性，增强人类决策水平以破解许多当前难以解决的复杂问题，这是毋庸否认的。然而这也在促使或者说诱使人们将更多的判断和决策委托给人工智能系统，这就涉及价值观、权力和信任的问题。

也就是说，要让人工智能获得更好的善用，必须避免数字经济企业巨头凌驾于现有的政治、经济、社会秩序之上，必须使之被纳入有效监管，让人工智能等新技术反映社会的价值观和利益。在此基础上，人工智能等新技术的应用将促进世界各地不同社会之间相互冲突的价值观、政治制度和文化规范建立桥梁，促成共识的建立，同时也要尊重个体差异。

人工智能的中期和远期发展，将必然走向技术对于人的认知系统的渗入甚至重建，或者说人工智能与人类智能的融合。这其中不仅会包含技术风险，也会带来相应的政治和社会风险。作者认为，正是因为这种重构的影响如此巨大，而且当今世界地缘政治的竞争、挑战如此剧烈，所以不能交由技术、商业或一国政府独立构建，而应当广泛纳入历史学、人类学、社会学、心理学等学科的专家，确保能够以多样化、包容性的视角来思考不同群体的价值体系，在重构过程中满足全人类的共同利益。

按照书中的观点，要应对上述挑战、解决上述问题，应当为此筹建类似于联合国的联合机构，避免人工智能的发展走向黑暗化的“赢家通吃”（一国或少数富国的垄断），要确保各个国家和地区的各个阶层的人士都能加入其中发声。这种合作当前看上去十分艰难，几近不可能，但也必须竭力向着这一方向推进，从而为规范政治、商业、技术、社会各层面在新技术应用背景下的权利和义务搭建框架。这终将有助于人类命运共同体意识的广泛深化、强化。

文/郑渝川

来源/北京晚报