驯化数维坦：反数字支配的复合方案*

一、问题的提出

　　在以“一切皆数”为信条的时代，数字化生存、智慧生活、数字治理和数字兴国已成为不少国家的战略选择。当前，大数据、信息物理系统（cyber physical systems， CPS）、人联网（internet of humans， IoH）、“大蚂蚁”（BIGANT）和“4R”技术等①的迅猛发展，已经并将继续改变工业时代建立起来的社会结构、生活方式、政府与社会的关系、组织形态、政治观念、国家治理理念和治理结构。工业时代基于科层制的“中心-边缘”治理结构正在进行深度调整，数据与算法的作用日益突出，“数维坦”已经到来。

　　在《利维坦》一书中，霍布斯分析了原始丛林中“所有人对所有人”的战争状态，并用怪兽“利维坦”一词来指代人类为摆脱战争惨状，通过缔约让渡其权利而建立起来的强大机构（霍布斯，1985：94，131-132）。根据霍布斯的设想，利维坦的作用在于“通过其威慑组织大家的意志，对内谋求和平，对外互相帮助抗御外敌”（霍布斯，1985：132）。作为强势国家（政府）的代名词，利维坦在为人们提供安全、秩序和归属感的同时，也可能随时失控进而反噬人类，高度依赖利维坦的人们因此惶惶不安。

　　在数字技术迅猛发展的今天，基于算法的数字治理日益变得重要。数字治理在公共部门和私人部门大行其道，越来越多的新技术公司介入并接管部分原本由公共部门垄断的公共事务（樊鹏，2018）。数字技术进步与运用的后果，就是促成了新“利维坦”的诞生，同时也使传统利维坦改头换面——国家利维坦与巨型数字公司一起正以“数维坦”的面目出现在世人面前。

　　本文中的“数维坦”，亦可称作“迪维坦”，对应的英文单词为“deviathan”（取“digit”和“leviathan”两词的组合），或称作“赛维坦”（“ceviathan”的音译，由“cyber”和“leviathan”两词组合而来）。与利维坦一样，数维坦代表着人们既爱又恨的庞大数字机构：一方面，庞大的数字组织将人们带入数字化生存状态，没有庞大的数字组织和算法的持续开发，就没有所谓的自由、秩序和便利；另一方面，在人类数字化生存的四个特质②（Negroponte， 1995：229）之外，数字技术也可能对人们的生活产生消极影响，特别是在政治经济领域，如不加约束，数字技术极易演变成对权力和资本的定向赋能，产生权力集中或政治极权。一旦数字技术变成权力、技术占有者统治和支配他人的工具，人们身上便多了一副数字枷锁。因为在庞大的算法机器面前，个体显得渺小而无助，数字威权和数据独裁似乎成为大数据时代无法避免的厄运（唐皇凤，2018）。在此背景下，驯化数维坦，防止个体沦为算法的附庸（张爱军，2021）就成了数字时代人们必须面对和认真审视的重大议题。本文提出并界定“数维坦”这一概念，力图探讨隐藏在数维坦背后的深层结构以及由此带来的数字支配问题，以期寻求驯化数维坦的可能方案。

二、泛在数维坦失控的后果

　　（一）泛在数维坦

　　数字技术具有解放和压迫双重功能。数据和算法既可以为个体自由和社会发展赋智、赋能、赋权，实现分权，也可以为国家和商业机构赋能。新技术原本可以让生活更美好，但糟糕的是，数字技术与科层制这一传统治理术联姻以后，原本作为国家利维坦约束手段的数字技术开始其异化过程（郧彦辉，2015）。近年来的发展表明，作为“技术控制人类”的新型统治力量，数维坦因“无处不在”“无所不能”，以致其能够令人们“无所不从”（袁超，2021）。

　　与利维坦作为主权国家这一单一指涉不同，本文中的数维坦既包括主权国家（政治数维坦），也涵盖巨无霸数字公司（商业数维坦）。其中，当数维坦意指主权国家时，强调的是数字时代人们的安全、秩序与自由高度依赖数字化主权国家，但人们对数字化主权国家潜在的算法偏见和支配却又无能为力这一窘境；当数维坦用于巨型数字公司时，则重在强调人们为了获取生产生活便利、数字准入机会和参与数字活动，对无条件接受商业机构所提供的服务条款、自身数据被滥用、算法黑箱及对其他数字支配形式的无奈。近年来，政治数维坦与商业数维坦深度渗入日常公共和私人生活，并呈现融合互用之势。这一趋势带来的后果，就是被数据洪流裹挟的人们，无论身在公共部门还是在私人部门，都很难抛弃既有数据系统。人们对数字巨头（digital giant）爱恨交加，在国外是“GAFA”（谷歌［Google］、亚马逊［Amazon］、脸书［Facebook］和苹果［Apple］），在国内则是“ATM”（阿里巴巴［Alibaba］、腾讯［Tencent］和美团［Meituan］）或“BAT”（百度［Baidu］、阿里巴巴和腾讯），后浪三巨头“TMD”（今日头条［Toutiao］、美团和滴滴［DiDi］）。这些公司太大了（“GAFA”和“ATM”的市值都曾在万亿美元或万亿元人民币以上），并且掌握着全球的关键信息流及用户的习惯、兴趣偏好、搜索历史等，垄断了全球数字经济与互联网及其衍生市场，具有不容挑战的话语权。用户依附于这些公司生存，离开它们则有太多不便，甚至无法正常工作生活。设想一下，假如谷歌、百度、腾讯这样的数字巨头严重侵害用户权益，用户又能作何反应？用户很可能会寻求电子邮件收发、网络搜索、文档存储等的替代方案，但这些巨头的数字架构被整合到太多的系统当中，用户们至少需要一段时间才能逃离数字巨头的“掌控”（尤班克斯，2021）。所以，“如果所有算法都突然停止运行，世界末日也就到了”（Domingos， 2015：1）。

　　（二）去中心化表象之下的支配问题

　　1. 作为表象的去中心化

　　工业时代，科层制是国家治理的基石。科层制顶端的人们身处工业社会中心，是国家与社会发展的决策者，也是社会生活方式的引领者。科层制中的精英们，依凭科层组织体系，通过权力、资本、文化和传播机器操控着可见的物理世界和无形的精神世界，而处于结构边缘的普通百姓则是各类权力和政策的支配对象。进入数字社会以后，社会运行方式发生了重大转向，国家治理方式、治理结构乃至治理理念正经历重大调整。工业时代的权力、资本、文化和传播机制逐渐失去绝对主导力，以算法为基石的数字治理结构迅速发展成传统治理方式的补充性、竞争性甚至是替代性方案。

　　关于数字治理，理论界与实践界达成的共识是，数字时代的治理具有分布式（distributed）、开放性（open）、自治（autonomous）和去中心化（decentralized）的特征。人们发现，基于区块链与即时通讯技术，即时响应、突破物理限制的无界治理变为可能。运用算法，可以发展出一种全新的“岛”（decentralized autonomous organization， DAO，其缩写与“道”同音，也可以理解为一种治理之道），即去中心化自治组织，以应对复杂世界的不确定性和多样性。依靠智能合约和通证化（tokenization）激励机制，传统高度统合的权利束加速分离，所有权、治理权和收益权（分红权）相互分离并为进一步分享提供可能。从产权的角度看，工业时代的私有制正向数字世界的共享型公有制进化。

　　然而，这一切只是表象。人的自利本性，加上个体间差异的不可消除性，社会中的一部分人必然处于国家与社会运行的中心位置，另一部分人则处于边缘地带。换言之，工业时代的等级控制方式在“再中心化”后，改头换面重新出现在世人面前。长久以来，数字化技术一直被人们视为透明治理、去中心化、民主化的利器，被颂赞为传统治理的“颠覆者”（disruptor）和数字民主的孕育者。然而，数字技术本身具有自主性和自我强化的特征，拥有数字技术的数维坦同样有着自身独有的发展逻辑，它们的存在并非总是符合广大群众的利益，也并不总是给人们送来福音。

　　2. 泛在数维坦支配

　　数维坦本质上是以数字技术为基础的复杂组织机器，它们的前台是数字组织和各类应用，背后则是动机各异的个体。数维坦若被身处“中心”并为利益所驱使的人操纵，数字社会中的边缘人群就会沦为被支配的牺牲品。

　　面对数维坦的支配，个体对“数据霸权”“算法统治”和“技术支配”除了被动接受和深感无奈之外，常常无能为力。随着线上生活成为主流模式，个人数据的价值已经远超石油。在大数据时代，个人的欲望、喜好、价值观和恐惧心理都可以通过数据被精准刻画，并用于政治和商业活动，操控国家和支配社会。在数字社会中，奥威尔笔下的“老大哥”不只是在“看着你”，而且是在“看着”所有人。此外，虽然当前机器智能还未演化成具有独立意识的智慧生命，但数字技术已然控制了社会发展方向，决定着社会运行与生产消费过程，支配着个人的劳动与闲暇时间，意见被压制和操纵，人们不复为独立自主的个体。

　　在数维坦的世界里，人们身处“天狱”（hell ven）之中（Leonhard， 2016：14），这一天堂与地狱的混合体既是人们的极乐世界（nirvana），也是算法和机器人奴役人们的苦海。一方面，面对发展迅猛的数字技术，人们对其发展前景、内在规律及其可能后果所知仍然不多，为了尽可能地释放技术红利，抢占数字技术高地，当前各国对数字技术的发展基本上持开放、放任和包容的态度。由于数据收集、管理、使用、传输和处分制度建设滞后，缺乏“算法审计”（algorithm auditing），寄生于数维坦的权贵资本阶层，常常能够采取全球行动，操纵政治和支配大众，他们左手以民主为食，右手以自由为饵，享尽数字技术红利却又不需要承担传统责任。另一方面，由于数字资源的不对称分布、算法不完美以及固有的社会偏见，数字规制法律制度又不完善甚至缺失，使得政治数维坦和商业数维坦得以恣意支配公众和用户。数维坦施加在人们身上的各种支配，不仅限制了人们奉若圭臬的自由，也阻碍了社会正义的实现。

三、数字支配的类型学分析

　　结合韦伯及技术支配理论（theory of technology dominance， TTD）关于支配的论述（杨雨娇等，2020），数字世界中的支配乃是支配者旨在影响他人（单数或复数的“被支配者”）的行动，基于被支配者对自己的依赖而主导、掌控其认知和行为的状况。从另外一端看（被支配者），此种情况即可称为“服从”（韦伯，2004：8-9）。可见，支配赖以存在的基础是支配者与被支配者之间的利害关系，而这种利害关系又是基于权力独占（政治计较）、市场地位独占（商业计较）、技术独占（知识计较）而产生的。在传统社会里，支配的本质乃经营物质手段集中于支配者手中（韦伯，2004：54）；而在数字社会，支配的本质则是支配者在集中经营物质手段之外，还集中经营数字资源和数字技术手段。数字资源、数字技术这两种新要素的出现，不仅改变了支配者的类型、可用资源与支配资格的产生方式，也一改过去的支配关系与支配手段。根据支配结构的不同，可将数维坦带来的数字支配分为权力主导型、资本驱动型和合作共谋型三种类型（详见表1）。

　　（一）权力主导型数字支配

　　近年来，基于“权力＋”实践，国家管控治理能力迅速提升。这种能力提升产生了正反两方面后果：一方面，围绕“权力＋数字技术”，公权力日益与数据、算力资源、数字技术联姻，数字社会完成了对权力的数字化赋智、赋能、赋效。毫无疑问，政治数维坦有望加快政策工具创新，带来更高的组织决策能力，采取更敏捷的行动和提供更高品质的公共服务，最终加快公共部门组织形态的演变进程，实现更包容的治理。比如基于警务大数据及面部识别技术，改进警务算法可以快速锁定犯罪嫌疑人及预判可能的犯罪；运用医疗大数据可以更好地评估疾病风险。另一方面，迅速提升的国家控制力改变了国家对公众的支配实践，衍生出权力主导型数字支配形式。这一支配方式混合运用权力、数据与算力资源、算法等数字技术，以强制性（如经济性与社会规制、法律制裁等），诱导性（政治与政策宣传、政府奖励等），操纵性（公民画像与歧视、政治投喂）等支配手段，展开国家治理、公共服务供给与政治秩序构建。以权力这一稀缺性资源为中心，借算法规制权和主导权，通过算法确立、巩固和扩大自身的支配力，完成国家意志对公众认知和日常行为的彻底渗透，是权力主导型数字支配的基本特点。

　　1. 政治投喂与政治操纵

　　在政治领域，数字技术的运用大大提升了国家对社会的监控力，也大大改变了既有政治法则。通过数据“圈地”，抢夺数据资源可以实现数字寡头统治，操纵大众舆论，推行数字暴政，在国际关系中则可利用数字霸权干预他国内政（林爱珺、章梦天，2022）。2018年3月，总部位于伦敦的英国政治咨询机构剑桥分析公司（Cambridge Analytica）因不正当使用海量脸书用户隐私数据助选特朗普而深陷丑闻，随后宣布倒闭。根据《纽约时报》和英国《观察者报》的深度报道，这家在后来成为特朗普竞选团队高级顾问的史蒂夫·班农（Steve Bannon）主导下成立的公司，运用从剑桥大学教授亚历山大·科根（Aleksandr Kogan）手中买来的8700万份用户数据，如性格特征、价值取向、成长经历和行为模式等，在2016年美国总统大选中对目标受众精准推送广告，运用心理剖绘技术操纵广大选民的情感反应，最终帮助特朗普拿下摇摆州的选票，赢得2016年大选。剑桥分析公司可谓通过“微观行为目标锁定”（behavioural micro-targeting）推行心理战、操纵选举和精准投喂政治广告的先驱。其首席执行官亚历山大·尼克斯（Alexander Nix）透露，剑桥分析公司运用脸书和社交媒体调查数据剖绘了2.2亿人的性格特征，在特朗普与希拉里进入第三轮电视辩论期间，团队测试了17.5万种竞选广告语，以挑选最佳版本。此外，脸书上传播的“隐秘帖”（dark post）也只有指定用户才可以浏览。在数字战略师布拉德·帕斯凯尔（Brad Parscale）的精心策划下，超级用户画像（super profiling）、数据挖掘、机器学习等数字技术悉数登场，特朗普竞选团队为目标选民频繁推送只有其个人才能看到的政治隐秘帖，运用精准的广告投放和心理统计操控术、虚假信息战，重塑选民政治立场，最终成为赢家。

　　2. 数字治理歧视

　　当然，并非所有政治领域中的数字支配都是人们有意为之的。在政治与商业数字巨头不当采集和使用数据之外，内隐于算法设计者的社会偏见、劣质数据、数据训练不充分等先天缺陷，也会产生数字支配问题。

　　在公共部门，算法的渗透能力也越来越强，数字技术被嵌入社会的“毛细血管”中，基于“独特的分散和非个人化的现代权力形式”（芬伯格，2018：279），数维坦的支配力得以快速上升。“偏见进，则偏见出”（bias in， bias out）。数字技术的不当使用，为边缘群体带来了巨大风险。尤班克斯深入研究了美国印第安纳州福利资格自动认证系统、洛杉矶通过外包为无家可归者设计的协调入住系统、阿勒格尼县的家庭筛查系统三个典型案例，发现在公共部门引入数字技术会带来一些意想不到的后果。其中，印第安纳州的福利资格自动决策系统漏洞百出，加大了贫困阶层获取福利的难度，成百万人的福利申请遭到拒绝。而且，一旦自动认证指标出现错误，责任都被归于申请人，州政府和承包商的责任则撇得一干二净。同样，洛杉矶的无家可归信息管理系统以及基于“弱势指数”（VI-SPDAT）开发的匹配算法，同样造成2.15万人未能获得援助，并且模糊了贫困与犯罪之间的界限。阿勒格尼县则开发出风险预警模型，这一模型根据个人的历史行为及其关系网推测其将来可能采取的行动，而预测变量仅来自非常有限的数据。同时，贫困阶层使用公共资源的信息也被纳入其中。这样，穷人由公共服务、执法活动和社区监督共同织就的大网支配着，被打上“风险”和“问题父母”的标签，他们今天的举动将影响其自身及其孩子的未来，数字决定着系统中穷人们的命运。

　　这三个典型案例共同指向了全面数字时代算法带给贫困群体的影响，戳破了技术中立的谎言。尤班克斯指出，那些表面上看起来快速高效的自动化社会问题解决系统，不仅难以改善贫困家庭的境况，相反，数字技术之类高科技的运用，反而使弱势群体面临更为严格的数字追踪、监控甚至惩罚，牢牢困于数据哨兵、算法分析与算法监管网、不公正的信息反馈循环之中，无从逃离，并因此成为惩罚性公共政策的目标人群（Eubanks， 2017）。在算法支配下，穷人们只能小心翼翼地申请社会服务项目。相较于过去，数字济贫院固化而非将穷人们从“底层”拯救出来，服务变成了监督，救助变成了惩罚。

　　在一些公共服务领域，传统的种族歧视已经为数字歧视所取代。在这一意义上，数字济贫院是一套“甄选式”治理体系（a “gotcha” system of governance）（Eubanks， 2017），是一个锁定、管制和惩罚穷人的隐形恶霸，它强化了政府对贫困阶层数据的收集、存储和共享，并将这些数据用于识别不法行为和预防犯罪，既限制了目标群体的自由，也削弱了他们的自决权，即按照自身意愿发展的能力（尤班克斯，2021：162-169）。

　　当算法成为法官，经过精心设计、持续改进、开放审查的自动决策算法确实可带来比人类决策更公平的结果。但在训练数据数量不足、数据代表性不强、存在数据噪声与数据垃圾、数据过拟合与欠拟合、缺乏动态算法监测机制的条件下，开动数维坦这架巨型机器，人类现有的偏见就有可能加剧。尤为严重的是，相较于人类偏见产生的点状小范围后果，算法偏见带来的往往是面状的大规模负面影响。

　　（二）资本驱动型数字支配

　　与权力主导型数字支配一样，资本驱动型数字支配方式在可感知的“强制性”（coercion）支配或者可感知的“诱导”（inducement）之外，发展出难于感知的支配形式如信息操纵、数据画像、算法歧视与偏见。这些支配手段的混合使用，往往可以突破时间、空间限制，因而能取得传统支配手段所不能实现的效果。

　　1. 精准数字营销

　　数字权力来自数据。用户隐私，如手机号、通讯录、通话记录、短信以及网上购物记录、出行记录、地图导航、餐饮外卖、金融借贷、网上社交和上网偏好等数字足迹，已成为大型公司借以生财的“富矿”，商家将这些数据分析处理后，对用户画像，然后开展精准数字营销。为了占领数字高地，不少商家热衷于收集数据资源，超范围、强制性收集个人信息，过度索要权限，疯狂地数据“圈地”，俨然成了“监控型资本主义”（surveillance capitalism）（Zuboff，2019）。据报道，不少应用程序存在强制超范围索要权限的问题，2019年平均每个应用程序申请个人信息的权限数为10项，其中用户不同意则无法安装或运行的权限数为3项（翟永冠等，2019）。

　　在精准画像之外，一些不法分子通过非法收集个人信息和非法窃听个人谈话内容以转卖获取高额利益。随着工信部对非法收集个人信息行为的查处力度越来越大，这种“顶风作案”的情况少了很多。需要注意的是，由于手机软件开发运营公司与广告商之间存在各种合作，在获取了用户权限如语音权限、通话权限、定位权限之后，平台和商家就有可能录制用户音频，并将相关录音文件上传服务器，在没有得到用户同意的情况下，部分用户信息也会转给相关广告商，以提高广告投放的精准性，这也就有了前几年爆出的不少用户感觉日常聊天被偷听的手机软件“偷听门”事件，比如在某问答平台上，曾有用户发文称，自己与朋友在社交平台聊天时，提及一款扫地机，随后就收到了该平台推送的扫地机器人广告；有人和同事聊哪家蛋糕好，聊天中提及“85°C”（一家蛋糕西点餐厅），很快手机上就收到了“85°C”的加盟广告；还有人聊到要买某种品牌的商品，好几家购物平台马上发来该品牌的购物推送。

　　2. 差别化定价与算法操纵

　　互联网平台基于用户的经济、健康及信用水平、行为习惯等数据，运用算法对用户分类画像、自动分析和系统评估，精准把握用户偏好和信息敏感度，在平台看似越来越“懂”用户和信息精准推送的背后，隐藏的是捕获用户注意力、支配用户行为和“大数据杀熟”。自1994年第一个自动化推荐系统问世，各类社交平台、资讯公司、电商平台、短视频平台、搜索引擎、科技公司等，一直都在运用数据和算法推荐技术，通过支配用户而获利。运用算法推荐技术，人类社会的传播技术迅速从“人找信息”切换到“信息找人”模式，以低成本的方式解决了“人-信息”匹配的问题，实现了信息推送的个性化、定制化、智能化。比如，同一时间、同一地点使用苹果手机和安卓手机呼叫网约车的价格存在较大差距，通过平台预订酒店，存在会员等级越高价格越贵，以及“双十一”期间曾出现通过应用程序预订同一家酒店，在同一时间用不同手机下单，价格相差近千元的情况……诸如此类的“围猎”用户行为，不胜枚举。

　　早在1999年，“万维网之父”蒂姆·伯纳斯-李（Tim Berners-Lee）就已表达过其对互联网诸问题如隐私、网络中立性、审查和管制等的忧虑（Berners-Lee & Fischetti， 1999）。随后的发展证明了他的担忧不是没有道理的。的确，几乎所有政府和企业都试图控制互联网以及由此形成的数字世界，因为控制了互联网，就能够控制人们的言行，执政者将永远执政，商业寡头则可稳享高额利润。美国《哈泼斯杂志》（Harper’s Magazine）发布了一份名为《科技巨头的操控圈套：谷歌、亚马逊与脸书如何控制我们的生活》的报告，披露了谷歌、亚马逊、优步等数字公司如何运用算法操控买卖双方，引导乃至控制人们的欲望和恐惧。比如，优步设定了基于用户意愿的“峰时定价”（动态定价）方法；脸书建立了用户的“影子档案”（shadow profiles）；而谷歌则与万事达（Mastercard）联手，在信用卡用户不知情的情况下，追踪线上广告是否提升实体店的销售额（Foroohar， 2019）。2018年，爱尔兰技术专家迪伦·库兰（Dylan Curran）下载了谷歌从其身上收集的所有数据，这一数据总计5.5千兆字节，相当于300万个“Word”文档（Curran，2018）。事实上，“FAANG”（脸书、亚马逊、苹果、奈飞［Netflix］、谷歌）及“BAT”等科技巨头都热衷于搜集个人数据，其最终目的是通过诱导和操纵我们的日常生活而获利。

　　在算法泛滥的当下，垄断、假新闻、算法和数据操纵使网络变成了名副其实的不平等和分裂的世界。2011年，美国学者诺布尔（Safiya U. Noble）在谷歌上搜索“黑人女孩”（black girls）以安排晚辈们的活动与讨论话题时，发现搜索结果充斥着色情内容；而一年后再以同样的关键词进行搜索时，结果有了变化，色情内容有所减少。在诺布尔看来，谷歌是一种施加于人们身上的话语和霸权控制，搜索结果体现了社会对少数、边缘群体及受压迫群体的文化与身份偏见，这一系列经历引发了其对信息控制（control over the information）和算法压迫（algorithms of oppression）的思考（Noble， 2018：17，123）。在中国，让资本操控的百度医疗竞价排名黑幕逐渐暴露在世人面前的，则是2016年引起巨大网络反响的“魏则西事件”。人们发现，百度搜索竞价排名（付费越高则排名越靠前，审查与监督不力），医院虚假宣传（虚假承诺、虚假广告），部队医院对外承包乱象（外包给福建“莆田系”商人，监管缺位）共同制造了这起悲剧。通过这起事件，人们真切地感受到，“算法吃人”的时代其实早已到来。

　　3. 算法剥削

　　快速发展的数字技术，使资本和财富迅速向少数人集中，催生了一群拥有天文数字财富的数字资本家，同时，也制造了一群朝不保夕的无产者（precarious proletariat），瓦解了原有的社会结构，由此形成新的压榨方式和阶级压迫。算法时代的无产阶级没有全职工作，也没有相应的劳动保障，他们的就业形式灵活多样，多数属于按件或按时计酬，时时处于算法的监控与支配之中，是名副其实的算法奴隶（slave to algorithm）。2020年，一篇题为《外卖骑手，困在系统里》的深度报道，使外卖平台对骑手的时间压榨以及“算法之恶”为公众所知晓，令人不禁深思算法异化、资本与人性的深层问题。在“超脑”“方舟”等实时智能配送系统的支持下，外卖平台不断缩短订单的送达时间，令2016年至2019年中国外卖行业订单的单均配送时间减少了10分钟（赖祐萱，2020）。对消费者来说，配送时间缩短意味着更好的消费体验；对平台和开发者来说，这当然是值得称颂和炫耀的进步。然而，对于外卖骑手来说，这些进步既是算法盘剥，也是平台规训。超时与差评，让外卖工作看起来既疯狂又要命。为了避免超时，骑手们超速、逆行、闯红灯者比比皆是。

　　“平台＋骑手”的用工模式深刻改变了传统的劳资关系。凭借数据与信息优势，平台垄断了定价、奖惩、派单和评价规则的制定权。外卖骑手除了遵守这些规则和依赖平台外，并无任何讨价还价的能力。平台的集中化、数字化与远程监控，在有效实现对骑手的差异化管理的同时，弱化了骑手与平台的契约关系。虽然平台和外卖骑手之间的用工关系可以是专送模式、外包模式和众包模式中的任意一种，但无论采用哪一种用工模式，骑手们都困在由算法和数据打造的系统里，游离于社会保障之外，平台与骑手之间的不平等也因数字技术引发的信息革命大大强化了。在自由选择的表象下面，存在一个持续分配工作任务的“算法老板”，骑手们无时无刻不处在算法的“全景监视”之下，丧失了对自我时间的控制。

　　数字技术不仅用于捕获用户注意力，也被用于组织内部的人才识别与管理。基于海量数据、自动化分析与结果提醒系统，组织内部管理从入职时的简历分析、岗位匹配，到领导力培养和发掘、员工离职预测等各个环节都在走向智能化，员工的性格、能力缺陷、个人潜力及日常动态等在算法面前一览无余。据报道，为了“选对人”，百度、小米等数字公司都在使用人工智能和大数据为自己所需要的人才画像，并根据员工的背景信息、能力素质制定个性化的薪酬福利体系。此外，商业组织内部正盛行着一种全新的“数字全景敞视主义”（digital panopticism），员工的一举一动都处在算法、监控探头和后台监控之下。为防止上班“摸鱼”（网络语言，指上班时间偷懒，不认真工作）或防止泄露商业秘密，一些公司为员工提供智能坐垫以监测员工的心跳、呼吸等数据，也有一些公司建立了员工行为感知、业务专用管理系统及任务进程监控系统，用以监测员工的怠工情况、上网记录、登录软件及网站耗时量、文件拷贝情况和离职风险等。

　　（三）合作共谋型数字支配

　　作为第三种数字支配形式，合作共谋型数字支配的支配者包括一切权力、数字资源与技术的拥有者，权力、资本、技术三者汇流使数字支配方式更加多样，支配结构更为复杂。在主体方面，权力与资本所有者共同构成了合作共谋型数字支配的支配者。由于政治数维坦和商业数维坦有着高度互补的利益诉求，通过合作或共谋，政府得以从商业机构提取海量数据和公众行为特征，构建数字社会精英们所期望的政治社会秩序，而商业机构则得以开疆拓土，在扩展商业版图和获取丰厚利益的同时，持续巩固自身在数据资源与数字技术领域的市场地位。在可用资源方面，相较于其他两种支配类型，合作共谋型数字支配既可以调用政治资源，也可以调用数据资源与数字技术，因而可调用的资源更为丰富。

　　实践中，政治数维坦和商业数维坦常常相互支持，彼此渗透，有不少国家借助商业数维坦来监控本国甚至他国公民。根据2013年爱德华·斯诺登（Edward J. Snowden）泄密的文件，美国早在2007年就启动了代号为“棱镜”（Prism）的计划，通过微软、谷歌、苹果、雅虎等九大数字巨头的服务器，美国国家安全局和联邦调查局可以全面监控其锁定目标的一举一动。当然，美国不仅监控美国民众、恐怖分子和基地组织，也监控欧盟及盟国德国、法国等。而且，在“棱镜门事件”之后，美国并没有停止其监控计划。根据《华盛顿邮报》的消息，美国中央情报局直到2018年还利用瑞士“Crypto”公司窃听其对手和盟友。“9·11”事件之后，美国政府从“Torch Concepts”等公司购买了大量数据，包括飞机乘客信息、墨西哥选民数据库等。类似地，英国的“时代”（Tempora）计划实际上是英国政府向英国电信公司（British Telecom）和沃达丰公司（Vodafone）付费购买全球通讯数据的一大举措，法国、俄罗斯也有类似的计划。

　　传统的政治与市场竞争法则正在被改变，在数据和算法的加持下，政客和数字巨头们娴熟地利用人们的愤怒、欲望和恐惧情绪，或者固化用户观念，或者放大种族或群体间分歧，或者孤立某个群体，或者煽动仇恨，挑起内讧。当然，获取数据和采用数字技术的目的是为了实现更大的政治与商业利益。近年来，威力强大的算法成为战胜竞争对手的武器，政党、候选人、竞选团队、咨询公司、数据掮客（data broker）、算法服务公司、社交媒体平台等已形成新的选举联盟（王中原，2021），正在深度改变世界各国的政治生态。在缅甸，脸书甚至被用来支持种族灭绝（genocide）。在剑桥分析丑闻事件中，数据和算法被“武器化”（weaponize）和用于选民压制（voter repression）（王中原，2021），通过事前“筛选”信息，政客和数字巨头彼此利用，得以通过数字技术监控、操纵民众。历史上识别、追踪和寻找犹太人的何勒内斯（Hollerith）打孔卡系统，在数字时代换了一副更为隐蔽的面孔，赫胥黎笔下的“美丽新世界”正从想象中走进现实，民主制度在数字技术面前变得脆弱不堪，网络民主被迅速拉下神坛。在思想界，剑桥分析丑闻被普遍认为动摇了西方民主的根基，引发了外界对数字民主的担忧。剑桥分析公司宣布倒闭两年后，匿名推特账户“HindsightFiles”自2020年1月开始，陆续通过英国《卫报》公布了剑桥分析公司涉及68个国家和地区的业务文件，内容包括此前未公开的谈判、案例研究和项目计划。除了助选特朗普以外，剑桥分析公司还成功操纵了多个国家和地区的选举，其中包括深度卷入英国脱欧公投，为“脱离欧盟”开展数据分析工作，影响了脱欧公投的结果。更令人忧心的是，曾经出演奈飞纪录片《隐私大盗》（The Great Hack）的前剑桥分析公司业务总监布列塔尼·凯撒（Brittany Kaiser）声称，剑桥分析公司所掌握数据的广度和深度，远超剑桥分析丑闻的水平。

四、数维坦支配的结构条件

　　前述分析表明，数字技术具有解放和支配双重功能。支配仍然存在，只是支配的方式全然不同于工业时代。数维坦不仅强化了过去强制与控制导向的生命政治治理术，还发展出一种诱导性、渗透性更强的生活政治治理术。更重要的是，数字技术加持下的数维坦让这两种治理术变得更为隐秘。那么，数维坦是如何布控自身数字权力的呢？要回答这一问题，需要从数字治理的“中心-边缘”结构寻找答案。

　　（一）数字治理的“中心-边缘”结构

　　数字时代，工业社会的单向支配结构不再是主导性人际互动方式，新技术不仅催生了一个独立的数字世界，代码与权力的融合还发展出了全新的数字“中心-边缘”结构。在这一结构中，算法（algorithm）和数据（data）作为数字治权的重要来源，作用举足轻重。若停留在对数字治理的形式观察，就无法理解数字世界仍然存在“中心-边缘”结构这一重要特征。只有褪去数字世界“去中心化”的表层面纱，数字社会的“中心-边缘”结构才会清晰地呈现出来。在这一结构体系中，掌握着决策权和数字规制权的政府官员、企业高管、数字专家共同居于数字治理体系中心（见图1），这些居于中心的个体要么拥有政治权力，要么拥有数字资本和技术，他们共同制定数据存储、分析与使用规则，分享数字生态构建权，主导数字社会的发展方向。

　　数字社会再中心化的实质，是通过“多中心”结构实现“中心转移”，即传统社会由国家独占的信息权、话语权和支配权开始向商业机构流散，越来越多的商业组织脱颖而出，它们和政府组织一道，共享信息权、话语权和支配权，成为海量数据的拥有者、筛选者、需求研判者和数字生态的绝对主导者。不同于传统社会“一元中心”的单一性、集中性、少节点，数字时代再中心化后的社会呈现出多中心、离散性、多节点的特点。在数字社会中，商业组织不再是传统公司，而是数字社会重新中心化和封闭化的真正推动力量。它们不仅为个体服务，也为社区甚至国家制定政策，其所拥有的信息权、话语权和支配权，有很大一部分来自法律法规的授权，很明显具有马克斯·韦伯所定义的权力特征，是一种私权力而非传统意义上的私权利。

　　技术作为人类自身能力扩展的手段，反映的是人类利用、控制、改造自然与社会的企图与努力，是高度自我指涉的（self-referential），因此，决定技术发展方向的实际上还是技术的社会逻辑。也就是说，技术发展演变中始终存在技术专制-技术民主之间的内在张力。技术不只是提高效率和社会整合的价值中立工具，只要存在技术独占与封闭，中心化的技术专家治国（芬伯格，2003：26）就将压制而不是增进政治和商业自由。数字技术本身具有差异化赋能的倾向，身居中心的数字精英们基于算法和数据，可以左右普通民众的信息获取范围，大大强化了“信息茧房”（information cocoons）和“回音室”（echo chambers）效应（桑斯坦，2008）。而身处外围的公众、消费者及没有数据处理与计算权的组织，除了提供数据、让渡数据权利以外，没有能力为自己的权利发声，也没有机会影响数字社会的发展方向，属于实实在在的“哑群体”。

　　值得强调的是，数字社会本质上是“算法社会”（algorithmic society）（Schuilenburg & Peeters， 2021），相应地，数字治理本质上也就是算法和数据治理。在即时响应的大数据时代，谁掌握了算法和数据，谁就处于数字治理结构的中心，就能影响甚至决定数字边缘群体的观念和行为。掌握代码规则和算法原理的数字专家们既是数字世界的创造者，也是元数字治理的推动者和解释者。没有数字专家的参与，数字治理底层的代码逻辑便无从理解，为解决特定问题而设定的一系列清晰指令的算法以及围绕数据展开的一系列管理、组织、控制和计算活动便得不到优化。正因如此，数字专家一跃而成为社会中心不可或缺的三大主体之一。

　　（二）中心-边缘群体差异

　　个体差异是数字支配产生的基础，数字支配能力取决于数字社会的“中心-边缘”结构特征。数字关系结构中资源的不对称分布及使用情况，事关数字暴力的占有、使用及责任分配。其中，资源不对称分布属于数字支配的客观要件，主要与数字基础设施和数据占有等问题相关；而资源使用则是数字支配的主观要件，关注的是成员本身的知识、动机与能力诸向度，重在强调社会成员的数据思维、数据分析、资源调度与运用能力及利益、意图、目的。从主观条件来看，相较于传统方式，除了政治与管理智慧外，数字资源的有效利用还要求资源占有者具备相应数字化思维和掌握相应的数字技术。

　　在数字社会中，数字技术发展带来了数维坦与个体之间的不对等。位居中心的数维坦拥有权力、资本、数据与数字人才等数字资源与技术，拥有最完整、最先进的数字基础设施，掌握着关键数据流和数据链。那些助推数维坦壮大的权力与数字精英们，不仅可以使用最快速、最先进的网络及数字设备，往往还具备极强的数字化思维，因而在数字化转型与发展中常常是引领者与数字化商机的占有者。而且，各路精英们相互配合，自成一体，渐成闭锁、独占的自我封闭型群体。相反，作为边缘群体的公众和消费者则身陷数据牢笼（data cage）之中，他们要么缺乏数字设备、数据获取机会和数据处理能力，要么缺乏数字化思维，甚至连触网的设备和机会都没有。这样，在数维坦及数字精英与一般公众之间，产生了一道道难以跨越的数字鸿沟。正是数字资源分布不均衡，数字能力不对等，数字发展机会不均等，以及数字观念不同步，使数字支配得以产生并持续存在。

　　“中心-边缘”结构是数字支配产生和存在的基础。“中心-边缘”数字鸿沟的存在，一方面改变或强化了既有社会支配方式，另一方面也催生出各类数字支配形态。在缺乏第三方矫正和干预的条件下，数字化大潮中的公众和消费者在数字治理中处于绝对劣势，因此往往是被支配的对象。在这个意义上，数字社会的“中心-边缘”结构既是分析数字治理的切入点，也是理解数字支配、数字剥削和数字独裁的起点，更是人们开展技术批判和推进数字世界制度建设的突破口。

五、复合驯化方案

　　当外部约束缺乏或约束不力时，就职于各类数维坦中的数字精英们，必定为了攫取最大化数字红利而罔顾公众和消费者的意愿，迫使其服从相应的数字规则，接受数字时代算法的摆布。然而，一个民主的社会应该为发展人民的才能和力量提供机会（芬伯格，2003：10）。理论上，杜绝数字支配的根本路径是阻止数维坦获得独占地位，消解数字社会的“中心-边缘”结构，不过这一方案只适用于遏制政治数维坦与商业数维坦恶意开发、使用数字技术的行为。因此，唯有建立复合反数字支配体系，方能驯化数维坦。可行的思路是，基于“强边、限中、制衡”观念，实施边缘群体地位提升与帮扶计划，构建“技术内部”开放治理体系，完善“中心”内部自律机制，发展“中心-边缘”制衡机制，将包括算法在内的数字活动暴露在公众的监督与批评之下，尤其是暴露在具备一定数字素养的利益相关者的审视之下。

　　（一）反数字支配的强边方案

　　“强边”就是强化边缘群体的地位。产生数维坦支配的根本原因，是当前数字社会“中心-边缘”结构带来的技术、数据、信息与知识垄断。政治数维坦和商业数维坦因为拥有先进而完整的数字基础设施、数据收集与分析技术，垄断了数字权力的合法甚至非法使用权，加上法律等制度的缺失，数字社会中的个体受其支配却无法自救。但是，社会成员自救又是驯化和对抗数维坦的一个极为有用的方案。实际上，除了缺乏制度性救济手段及平台存在霸王条款外，当前边缘群体面临的诸种数字支配大多是由于人们对自身隐私保护意识不强，数字思维不够以及不了解数据价值造成的。因此，提升全体社会成员的数字素养，对于构建普惠包容、共建共享、全域全体的数字化治理格局显得迫切而重要。

　　顺应数字时代的要求，建立良好的数字社会生态，“强边”需要提升社会成员的数字素养：一是针对当前全民数字化思维不足，普及数字基础技术和数字化知识，以帮助人们尽快树立数据思维、产品思维、算法思维和场景思维，提升人们在数字生活中的否定、反对、批判与自主思考能力。二是有序推进数字培训和数字帮扶计划，在提升全民数据生产、存储、使用、传输、获取和处分等环节技能的同时，充分保障数字社会边缘弱势群体的权益。三是通过数字建设专项基金等，搭建欠发达地区数字素养提升和对口援助体系，用好用活中央与地方、政府与市场的各种资源。最后，加大数字乡村建设力度，在推进农村数字基础设施建设的同时，稳步改善乡村数字生活环境，提高全体居民数字素养。

　　此外，引入新数字权利观亦极为重要。实践中，监控摄像头、全球定位系统（global positioning system， GPS）、智能手机、射频识别（radio frequency identification， RFID）芯片、可穿戴设备、信用卡账单、社交网络、人脸识别……这些高科技将我们的言行一一记录在案，并与资本、政治联姻，共同打造了“流动性社会”中的巨型“监狱”。生活于其中的人们，被迫服从巨头们设定的规则，数字化规则已从日常生活渗透到个体的心理结构之中。因此，除了提升全民数字素养，“强边”还需要进一步发展与数字时代相适应的数字权利观念：一是要正视数字技术催生的新“权利”形态，保障“数字自决权”，比如数字资产权及数据的采集权、访问权、计算权、存储权、用益权和修改删除权等。以数据收集环节为例，数据收集必须遵守法律规定，要坚持正当性原则，即目的正当和手段正当，以及最小化原则，即非必要不收集。二是要积极构建数字时代的人权体系，比如保持自然生理状态的权利、可以效率低下的权利（可以比技术慢）、断网离线权、匿名权、优先雇佣人类或人类参与权等（莱昂哈德，2019：178-180）。三是要提升全民的隐私自我保护意识和隐私保护能力。在鼓励正常商业行为的同时，通过提高从不正当渠道获取个人信息的成本，从源头上杜绝非法收集数据。

　　（二）反数字支配的“限中”方案

　　要驯化数维坦，实现数字赋能，防范数字支配，健全完善的数字制度体系是重要保证。进一步完善数字制度体系，就是要承认技术日益渗透于政治，“消费者”正在取代“公民”，“消费者福利”而非“公民福利”正获得前所未有的正当性等现实，就是要在这些认识的基础上，通过立法等形式确保数字活动的开放透明，为数字权力设定边界：一是建立健全数据产权制度体系，明确数据利益相关方的权利义务。数据产权制度体系以数据所有权及相关衍生权利为核心内容，在数据分类的基础上完成数据确权和数据授权，解决数据要素的生产及其归属，以及随后的获取、加工、流通与使用等收益分配问题，目的是实现数据赋能和数据资产化，保证数字社会的数据配置效率。二是完善数据收集、加工、流通与处分制度。围绕数字技术、数据要素和新基建，建立科学合理的数据合规管理和数字权利、义务与责任体系，实现数据用前合规性自查和分类分级处置。三是建立数据流通追溯与监管体系。数据流通追溯系统是一套处理数据查询请求及数据存储、交换、分发与传输的规则，这些规则建立起来以后，就可以实现可信、透明、安全和可计量的数据共享与交换，打造可信数据空间生态。数字监管制度体系则由社会监督与政府监管两部分组成。其中，社会监督主要基于数字伦理与算法伦理、行业自律展开，借助社会力量保证数字实践合理合规。政府监管则是在数字治理法治化的基础上，建立数据收集与存储环节的分类预警机制、用户信息使用与传输管制机制，以及改变过去数字技术领域自由放任的做法，及时回应数字治理中的不正当支配问题，特别要重视对新数字风险的管理，如建立指纹、步态、虹膜、人脸、声纹等生物识别信息泄露防范机制等，通过全数字生命周期监管和建立数字技术滥用与算法操纵举报制度，实现数据流通与数字技术的规范有序发展。

　　在可行的情况下，技术的问题最好由技术来解决。面对数字技术发展中出现的服务提供商-用户权利的严重不对等问题，需要采取加快新型数字基础设施建设等一系列措施，在技术层面彻底扭转互联网的中心化趋势，以算法对抗算法。在实践中，为了实现网络去中心化，改善隐私保护和还数据所有权于用户，蒂姆·伯纳斯-李于2017年启动了社交链接数据（social linked data， SoliD）项目，随后又组建了“Inrupt”公司以推动该项目商业化。这一项目旨在通过模块化设计，让用户自由选择“SoliD”应用，而不会被某个服务提供商绑死，防止服务提供商随意锁定、删除用户数据，让用户拥有自由访问数据和选择数据存储位置的权利，真正实现用户创造、数据自有、用户控制和去中心化。遗憾的是，“SoliD”当前仍处于发展初期，还存在过于学术化、与一线开发者严重脱节、用户体验差、访问速度慢等问题，能否普及仍有待观察。

　　（三）反数字支配的制衡方案

　　如前所述，数字社会支配产生的根源在于各方占有的数字设备、数据持有量以及数据分析与运用能力等方面存在差异，数字专家、数字资本家、拥有数字规制权的政府官员身处社会中心，其他成员则处于社会边缘，接受过滤后的知识与信息。由此产生的后果，就是边缘群体被一张看似透明平等，实则模糊不公的“数字之帘”（digit curtain）遮蔽而与外界相隔离，导致严重的信念迟滞（belief stagnation）和智能隔离（intellectual isolation）（Nilsson， 2014：118）。

　　在解决驯化利维坦这一问题时，西方政治思想家们一方面将宪政法治作为驯服利维坦的良方，即以横向三权分立、纵向联邦主义双重分权制衡式制度架构驯服暴君，驾驭权力（王建勋，2017），另一方面基于国家-社会二分法，主张培育公民社会，倡导民主社会主义，走第三条道路。循此思路，要解决数字支配问题，需要两套反数字支配技术：其一，在社会构建层面，可借鉴哈贝马斯的思路，从技术外部入手推进制度建设，实现数字技术民主。其二，在技术建构与规制层面，可沿袭芬伯格的做法，从技术本身着手，基于技术非中性命题设计技术民主化方案（孙浔，2008）。

　　基于上述判断，在制度建设层面，要始终保留对数维坦的警惕态度，通过横向分权和纵向分权两种方式约束身居中心地位的个体行为。

　　横向分权是驯化数维坦的关键，主要涉及政治分权和技术-政治分立两个维度。政治分权指的是国家向社会分权，通过开放算法及数字治理过程，保障边缘群体的参与权和发声机会，赋权社会，打造有限政府，实现数字政府与社会的良性互动。而技术-政治分立则要尽量保持技术的中立性和客观性，将政治限定在决策制定和数字技术规制的范围内，防止技术-政治的深度联姻与共谋。

　　纵向分权则是在政治数维坦和商业数维坦内部进行分权，使数据收集、整合、分析、使用与监督等权力归于同一层级的不同部门或不同层级。如为确保算法透明，将算法设计与算法专业化审查、算法监管机构分开设立等，目的是要打破数字技术精英与资本家、政治权力拥有者对数字技术的单方垄断。

  *本文受国家自然科学基金面上项目“我国农村公共产品‘供给后管理’研究——以农田水利为例”（项目编号：71473126）资助。感谢匿名评审专家提出的修改意见。文责自负。

参考文献：

樊鹏，2018，《利维坦遭遇独角兽：新技术的政治影响》，载《文化纵横》第4期。

［加］安德鲁·芬伯格，2018，《技术体系：理性的社会生活》，上海社会科学院科学技术哲学创新团队译，上海社会科学院出版社。

［美］安德鲁·芬伯格，2003，《可选择的现代性》，陆俊等译，北京：中国社会科学出版社。

［英］霍布斯，1985，《利维坦》，黎思复、黎廷弼译，北京：商务印书馆。

［瑞士］戈尔德·莱昂哈德，2019，《人机冲突：人类与智能世界如何共处》，张尧然、高艳梅译，北京：机械工业出版社。

赖祐萱，2020，《外卖骑手，困在系统里》，载《人物》第8期。

林爱珺、章梦天，2022，《全球数据资源争夺与风险防范》，载《新闻爱好者》第6期。

［美］凯斯·R·桑斯坦，2008，《信息乌托邦：众人如何生产知识》，毕竞悦译，北京：法律出版社。

孙浔，2008，《技术民主的两条道路——哈贝马斯和芬伯格技术政治学比较研究》，载《兰州学刊》第9期。

唐皇凤，2018，《数字利维坦的内在风险与数据治理》，载《探索与争鸣》第5期。

王建勋，2017，《驯化利维坦：有限政府的一般理论》，北京：东方出版社。

王中原，2021，《算法瞄准如何重塑西方选举——算法时代的选举异化及其治理》，载《探索与争鸣》第5期。

［德］马克斯·韦伯，2004，《支配社会学》，康乐、简惠美译，桂林：广西师范大学出版社。

杨雨娇等，2020，《技术支配理论及其在信息系统研究中的应用与展望》，载《现代情报》第6期。

［美］弗吉尼亚·尤班克斯，2021，《自动不平等：高科技如何锁定、管制和惩罚穷人》，李明倩译，北京：商务印书馆。

袁超，2021，《“技术利维坦”的傲慢与偏见——以“社会化技术权力”为中心的讨论》，载《人文杂志》第8期。

郧彦辉，2015，《数字利维坦：信息社会的新型危机》，载《中共中央党校学报》第3期。

翟永冠等，2019，《中央网信办等部门治理App超范围收集信息、强制收集信息、过度索权》，中国网信网，http://www.cac.gov.cn/2019-09/21/c_1570598126711527.htm，2022年7月7日访问。

张爱军，2021，《“算法利维坦”的风险及其规制》，载《探索与争鸣》第1期。

Berners-Lee, Tim & Mark Fischetti, 1999, Weaving the Web: The Original Design and Ultimate Destiny of the World Wide Web by Its Inventor, New York: Harper San Francisco Press.

Curran, Dylan, 2018, “Are You Ready? Here is All the Data Facebook and Google Have on You,” The Guardian, Mar. 28.

Domingos, Pedro, 2015, The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World, New York: Basic Books Press.

Eubanks, Virginia, 2017, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor, New York: St. Martin’s Press.

Foroohar, Rana, 2019, “How Big Tech is Dragging Us Towards the Next Financial Crash,” The Guardian, Nov. 8.

Leonhard, Gerd, 2016, Technology VS. Humanity: The Coming Clash Between Man and Machine, UK: Future Scapes Press.

Negroponte, Nicholas, 1995, Being Digital, London: Hodder & Stoughton Press.

Nilsson, Nils J., 2014, Understanding Beliefs, Cambridge, MA: MIT Press.

Noble, Safiya Umoja, 2018, Algorithms of Oppression: How Search Engines Reinforce Racism, New York University Press.

Schuilenburg, Marc & Rik Peeters, 2021, The Algorithmic Society, New York: Routledge Press.

Zuboff, Shoshana, 2019, The Age of Surveillance Capitalism: The Fight for A Human Future at the New Frontier of Power, New York: Public Affairs Press.