学术活动 | “人工智能与解析社会的数据化生存”讲座对谈纪要
记录供稿：司湘云
2019年6月6日上午，中国社会科学院段伟文研究员应邀到武汉大学信息管理学院进行学术交流。王晓光教授主持本次学术交流活动，武汉大学社会学系罗教讲教授和信息资源研究中心李纲教授作为对谈人参加本次活动，武汉大学资深教授马费成老师出席活动并进行了总结，多名师生参与了本次学术交流活动。
第一阶段：专题讲座
段伟文研究员首先带来了题目为“人工智能与解析社会的数据化生存”的专题讲座。讲座主要从人工智能体的拟主体性、数字技术与机器智能的兴起、机器智能的认识论分析、世界的数据化与解析社会、数据智能及其非人格权力、可能性的政治与时间线治理和数据化生活时代的生活策略七个方面展开。
（1）人工智能体的拟主体性
如果从技术角度来讲，人工智能具有非常宽泛深远的融贯性，是一种具有深远影响的开放性技术，并与很多技术的发展相关联。1942年阿西莫夫（Isaac Asimov）在其科幻小说《转圈》（Runaround）中提出“机器人三定律”（图1），更确切的称谓是“机器人学三定律”（Three Laws of Robotics），其无疑已成为机器人和人工智能的社会、伦理和法律研究的原点。阿西莫夫的创新之处在于科技文化的创新，即表明在技术上可以让机器人遵循一种定律，从文化心理上让人们认为机器人是可以控制的。之后又出现了机器人第四定律、第五定律、元定律、繁殖定律、人工智能关系定律等。
图1 阿西莫夫“机器人三定律”
目前所讲的人工智能体并未独立地成为一种能动的主体，即无法通过技术将意识、道德或者伦理植入机器人的大脑。智能体的拟主体性是模拟主体，即通过程序和算法赋予智能体相关功能，使人工智能系统更为明晰地呈现为可以模拟和替代人类的理性行为。现在所讲的智能体是在行动者网络中的智能体，例如车站的人脸识别系统，在界面背后是巨大的社会的行动者网络。社会的行动者网络大多数出于商业利益，也有部分是出于治理的体制。每个人作为个体而存在，但是个体化的过程在网络中才有意义。人工智能的背后也有巨大的社会的行动者网络，伴随着巨大的资源和能源的耗费。
（2）数字技术与机器智能的兴起
20世纪中叶以来，世界从信息化，发展到网络化，然后是数字化，数字化之前是模拟化时代，其基本定义是世界是连续的，而数字化时代的重要假定是世界最根本的单元是离散的。数字化时代用软件定义世界，用数据记录一切。
段伟文研究员认为，人工智能可以有两种隐喻，一种是实体化的隐喻，将智能体想象成机器人；一种是虚拟化的隐喻，将智能体想象成一种算法或程序。不论哪种隐喻，人工智能都是处于数据环境和数据生态之中。人工智能带来的偏见主要是训练数据集或者数据生态的不合理造成的。
从人文角度来看，我们可能会批判机器智能让人难以拒绝的自动化所带来的盲从、退位、生活状况的恶化、情绪上的憎恶等问题，但实际上其中隐含的是机器智能和人类智能相互关系的问题。段伟文研究员认为现在面临三个挑战：①全面监控的挑战，即，治理是否一定要建立在全面监控的基础上？全面监控是否需要一定的限度？②技能退化的挑战，人的技能的获得不仅仅是为了生存，在更大程度上体现了奋斗的精神价值和生命的意义，那么人工智能的出现导致的去技能化是否是我们可以接受的？虚拟体验的挑战，是否会有一代人沉迷于虚拟和增强现实游戏？
（3）机器智能的认识论分析
段伟文研究员从知识与分类、人类行为的生态学和通过溯因法对目的性行为进行揣测三方面展开论述。
机器重要的工作之一是分类。从传统的知识树状分类到数据/人工智能的大众分类，知识的分类方法发生了很大的变化。自然科学里面分为自然类和互动类，互动类是一种闭环效应、作为意向性行为的分类。数据和元数据的界限也逐渐消失。我们日常生活中的大多数分类是由模糊的认知模型决定的，而非由客观规律决定。每种标准和每种分类都存在厚此薄彼的现象。这不是一件坏事，也不可避免。然而，观点的选择是一种道德选择，虽然不一定是坏事，但却可能是危险的。在通过机器来帮助我们自动化的认识世界的时候，我们应注意我们对于世界的认识不是在于存在着什么，而在于我们要让它成为什么。
人的行为具有统一性和多样性的均衡，例如齐夫定律、最省力原则、心智符号过程的经济等。在庞大知识体系中隐藏着“未知的已知”，例如数据的折旧、对知识的操作等。我们可以打造一种能够通过探究我们集体知识中的意义和潜在的联系，对知识本身进行直接的操作。但目前我们多是以数据画像为目的的知识表征，即某算法的设计者D为了目的P而用数据画像表征某人I。
我们对于数据的研究，实际上是研究人的行为，也即研究人的能动性。如图2，能动性一般指有预期目标的智能体即能动者自觉地自由实践的能力。能动性与主体的意欲密不可分。通过数据研究人的行为时，一般通过溯因法（具体见图3）考察人类有目的的行动的理由，即能动实用主义（Volitional Pragmatism）。
图2 能动性与意欲
图3 溯因法
主体能动性的前提是个人知道他们要干什么，能动者的“认知-行动”模式是“欲念——信念——行动”。通过溯因法对目的性行为进行揣测，即从“欲念——信念——行为”到“行为——信念——欲念”。溯因法推断的结果具有一定的武断性，其结果还需要进一步的验证。
（4）世界的数据化与解析社会
在测量的基础上，世界即数据，数据即世界，即数据量足够多的时候，数据空间和世界存在平行关系，但能否做到这一点也是很大的问题。世界的数据化起源于早期的政治算术，整个社会在概率的基础上进行管控。近现代社会以来出现了工业化，与熟人社会不同，出现了陌生人的社会，世界由此产生了控制危机。为了克服控制危机，各种信息技术和管理技术相继出现，即信息技术的发展是一种控制革命。
数据智能实际上是在用数据重构我们的世界。数据智能也出现了新的隐喻，隐喻之一是数据透镜，即数据像13世纪的透镜一样，我们通过测量人的行为，将有关人行为的事实和事件的描述变成数据流，进而能够通过数据观察整个世界。
目前的社会称之为解析社会，但只是刚刚开始，因为目前使用的数据依旧是以前的静态数据。但是目前的数据采集，不再是单向度的数据采集，而是交互式的数据采集。那么社会未来会出现一种新的形态吗？我们如何看待社会的新形态？新形态会发现人们循环的模式吗？还是能够根据人们以往的行为断定未来？其中有很多可以思考的问题，目前讨论较多的是深度学习的不透明性与偏向性、深度学习的潜在路径及无限可塑性等可能的算法黑箱。而更重要的问题是当我们通过自动化的机器智能或者数据智能识别和判断事物或者人的行为等对象时，并不是在对事物或行为等进行客观的描述，因为并不存在那样一种客观的描述，而是机器智能在有目的性地识别和判断，因此我们应该更加关注人们出于什么目的使用这项技术而做这件事情以及它的意义。
我们每个人，不再是我们，不再是档案上的记录，而是变成了各种单体，或者是碎片化的存在。也许自己对自己知道的不是最多，而是其他人更加知道自己，但是这个他人的知道是通过溯因法推测而来。那么相伴而来的隐私问题，其概念也需要创新。
数据的意义在于关联，通过关联比较差异，凸显意义。在关联社会中，通过量化展示自我。如何去解释记录成为了关键。数据智能的研究不再去关注因果性，而更关注相关性，通过数据去寻找观点。世界的本体论从实体实在论到关系实在论再到关联本体论（ontology of association)，更加关注其相关性。每一个人的行为变成了数据向量空间的微细预控，社会异常成为了数据阈值的调控。
（5）数据智能及其非人格权力
人格指通过他人认同而获得角色的社会身份，最开始个体通过面具而获得角色和社会身份，之后发展到面部的测量、指纹系统、虹膜等。人们经历了从人格化到去人格化的过程。
图4 身份：从面具到数据
技术有两种：权力技术和自我技术，权力技术是通过大数据识别来进行社会治理，自我技术即量化自我。其中涉及到能动力和反动力的问题（具体见图5）。
图5 能动力与反动力
算法是为解决特定的问题或做出某种选择或决定而通过机器执行的具有特定的认知与决策功能的一系列计算程序，其基础是计算能力和数据。算法在各个领域中的大规模应用使其影响日益普遍，大数据分析和机器学习的发展使算法的应用日益广泛，正在对人们生活产生极大的影响力，例如从保险费率的计算到机场的航班起降计划都涉及到各种算法。从世界的数据化到算法生活需要一系列的过程（如图6所示）。
图6 从数据化到算法生活的过程
算法可以比人的思考和计算更快、更全面、更准确，大数据与人工智能时代出现了算法权力。算法权力主要体现为算法建立在自动化的数据处理之上的“自主决策”。图7显示了从算法权力到算法统治的重要问题。
图7 算法权力到算法统治
从算法权力到算法统治中，很重要的问题是监控问题。作为主体，我们究竟是被知的对象（known）还是知道别人的对象（knowing）？目前存在三种模式：全景监控、反向监控、宜家式监控。段伟文研究员给出了生动比喻，全景监控像水晶球，通过水晶球可以看到全景；反向监控像透明天花板，天花板下方的人可以通过天花板看到上方的人；宜家式监控像面镜子，人们通过镜子可以调整自己的行为等。
（6）可能性的政治与时间线治理
现在的治理方式是将世界变成了数据流，使时间空间化，即将数据存储到空间中，将时间外在化，由此对时间进行操作。其中重要的应用之一是预测性警务，包括热点事件和热点人物列表两类方式（见图8）。
图8 预测性警务
预测性警务实际上是一种基于分布式网络的时间线治理（图9），为了克服不可预见的风险，采取先发制人的策略，将未来的可能性转变为一种时间上的必然性，以便在未来的可能性最终展开之前采取行动，即通过抢占事件在现在的展开来封闭未来的开放可能性，可能会形成社会或者种族偏见等。
图9 时间线治理
（7）数据化生活时代的生活策略
段伟文研究员在最后简要介绍了算法生活的伦理构建策略、人与智能算法关系的再平衡、超越数据拟像的“人-机-数”共生网络、知识与自由之间的关系等问题（图10-13）。
图10 算法生活的伦理构建策略
图11 人与智能算法关系的再平衡
图12 超越数据拟像的“人-机-数”共生网络
图13 知识与自由之间的关系
第二阶段：对谈交流
专题讲座之后，由对谈人罗教讲教授和李纲教授分别就段伟文研究员的讲座内容讨论了自己的看法，并提出了各自的问题和困惑，这些问题主要涉及人与机器、人与智能之间是怎样的关系？数据的测量是否影响人类社会的进程和个体行为方式的变化？人工智能可能对人价值实现和价值认知造成什么样的影响？人工智能是会监控未来还是管理未来？等方面。段伟文研究员一一做了回应。
罗教讲教授：任何一个理论的大厦的建构必须要建立在基本的假定的基础上，例如经济学的发展基于人是理性人和资源是稀缺的这两大假设。人工智能突破性的发展可能会造成关于人性的假设发生变化，那么相关学科的理论体系都需要调整，例如人工智能的技术也许能够计算出人有限理性的程度。那么在人工智能领域，在理论上应该如何定义人性、诚信等德性？人工智能是否会超越人类？人和机器的关系该如何？
段伟文研究员：从抽象的世界的复杂性和涌现的角度来讲，也就是说世界如果完全是一个物理过程的层面能够呈现出来的意识程度的话，人工智能有可能出现一种超越的超智能的现象。但是另一方面，人类文明在发展过程中具有其特殊性，“神造人”表达了一种唯一的可能性，即我们是宇宙的主宰。人类社会文明的进程是十分复杂的，例如人复杂的情绪、社会化过程等。机器能否体现复杂的人类社会的文明进程？这也是存在疑问的。关于人工智能与人的关系的思考，我并未将人工智能当作一个实体来思考，而是将它放在社会行动者网络中进行思考，其背后是整个社会的建制/机制。人与机器的关系更多的是一种人与人（不同群体）之间以机器为中介的关系，例如谁使用了机器来研究我；谁使用机器来治理我；我是否可以使用机器进行自我调整或评价治理是否合理等。
李纲教授：数据的本质问题是可测量性的问题，通过测量获得数据。如果数据足够完备，人们会变成全知的；如果不够完备，就会产生某种偏见。那么测量在宏观上是否影响人类社会的进程？在微观上是否会影响个体行为方式的变化？此外，数据的完备性一方面使人无法隐藏自己、变得透明，另一方面人会刻意掩饰一些数据、表现出符合需要的数据，那么人的价值本身可能会被质疑。
段伟文研究员：关于数据完备性的问题，我很同意您的观点。测量存在强化和循环的问题。数据对人有这样一种认知：不是说人是一种什么样的存在，而是说希望人成为一种什么样的存在，其目的或在于创造，或在于管控。目前我们更侧重于管控，去治理负面的事情，而不是去激发更多的可能性、激发人的创造力。
人们发明了工具和装置，例如语言、叙事、机器和数据，这些工具和装置首先是带来一些好处，其次它们的一些可能性造成了一些问题。人具有能动性，我们需要思考人要不要在一定程度上介入其中，例如人不要完全被捕获。
人性是复杂的，人本身的一些东西都具有不确定性，我们要认识到这种不确定本身，认识到人性和人内在的心理，然后去思考如何去治理社会，包括如何认识自己和改变自己。人一直生活在自主和不自主状态之间，现代的智能体系在这之间进行调节，可能是引导，也可能是操纵，我们应该去思考我们的限度是什么。
李纲教授：监控未来还是管理未来？管理未来意味着放弃了若干可能性，我们也许会失去更开阔的视野。这实际上是人类道路路径选择的问题。
段伟文研究员：监控未来还是管理未来？这涉及到一种文明的选择，其中也存在悖论——监控未来是不可能的。人们一直在风险偏好和风险厌恶之间选择，因此对未来进行绝对的控制是不可能的。而管理未来最重要的一点是让人找到他的能动性。
罗教讲教授：随着人工智能的发展，很多工作会被取代，因此社会会面临大面积的失业。但是工作对于人的价值实现是很重要的一部分，如果未来人们不工作了或者没有工作了，人的价值会改变，应该怎么办？
李纲教授：知识共享的过程对于知识原本的主体而言，是去技能化的过程，可能会影响原有知识主体作为人存在的意义。
段伟文研究员：人们发明了工具和装置，这些工具和装置首先是带来一些好处，其次它们的一些可能性造成了一些问题。人具有能动性，我们需要思考人要不要在一定程度上介入其中。人的去技能化最重要的是涉及到人精神层面，我们需要进一步的思考。
第三阶段：总结
交流最后阶段，马费成教授谈了几点体会：
（1）人工智能的产生和运行是因为背后出现了一个庞大的建制，技术和数据的长期发展和积累的历史过程导致了今天这样一个建制的形成，它能够支持我们做很多的事情。
（2）我们经常讨论的是人工智能能不能比人更聪明，设计者能不能开发设计出比人更聪明的智能机器人？对此存在两种观点。一方认为是可能的，他们的观点是人们积累下来的数据、建制和环境不是个人形成的，而是由许许多多人共同完成的，集群体智慧可能设计出比人更聪明的智能机器人；另一方认为不可能，他们认为当前发明的机器人实质上是在效仿人去解决问题，机器人最大的缺陷是不能像人一样发现问题进而提出问题。也许随着技术和社会的发展，人们有可能设计出比人更聪明的机器人。
（3）数据时代，人的行为和特征能够被数据化，即数据使人客观化，而人又具有意识和能动性，二者之间的矛盾促使我们建立人-机-数据的机制，从而促进其良性发展。
（4）机器人智能可能会带来一些危害，例如增强现实中虚拟空间的问题。但人的聪明之处在于遇到问题时能够提出相应的解决方案和建立相应的建制，因此对于机器人可能带来的一些危害，我们不必太过悲观。
制版编辑 | 王小燕
-- END --