第10章全球数字规则的改变
互联网对个人隐私形成了严重侵犯，欧盟对谷歌开出了巨额罚单，全球范围内的跨国超级公司掌控了许多个人数据，个人、公司、国家之间，一场数据权利的博弈正在上演。而每一次的互联网升级，都会有超级企业破产、衰败，都会有新的企业适应、崛起。
随着人工智能的发展，社会上出现了从音频到图片、视频的以假乱真现象。如何避免人工智能对个人及社会造成危害，如何确立边界，将是未来需要长期讨论的一个问题。
10.1全球数字监控风暴
除了中国加大了互联网对个人隐私的侵权监督力度外，近两年来，世界上的许多国家及地区也都开始对互联网企业进行约束。这一方面是由于互联网企业对个人隐私的侵犯、数据潜力的利用及滥用、信息骚扰及利益搜索引导问题；另一方面是由于大企业存在垄断，阻止新企业的创新，各个互联网巨头对中小企业、传统企业进行剥削及压榨。
在欧洲，2019年3月21日，谷歌因为涉嫌在在线广告领域实施垄断，欧盟对其处以14.9亿欧元的巨额罚款。这是自2017年以来，欧盟对谷歌开出的第三张罚单。三张罚单的总金额已超过80亿欧元。2018年7月，欧盟以谷歌违反反垄断法为由对其处以高达43.4亿欧元的罚款。谷歌已提起上诉，并宣布将改变手机操作系统（安卓）的许可政策，欧盟的安卓设备制造商如果使用谷歌开发的移动程序，必须支付额外的费用。
与苹果公司手机等移动设备的操作系统不同，谷歌的安卓操作系统向消费者和生产企业免费开放，但需要捆绑谷歌搜索等软件。谷歌正是利用其强大的搜索能力与几乎垄断的地位来获得颇丰的广告收益的。使用谷歌安卓操作系统的手机上一般需要加载谷歌移动服务（GMS），其内含谷歌一些程序及服务，如Google搜索、Chrome浏览器、YouTube、Gmail、谷歌地图、谷歌相册、谷歌云端硬盘等。
而欧盟指控谷歌涉嫌垄断的理由是，谷歌强迫使用其操作系统的制造商安装谷歌搜索与Chrome浏览器，并把谷歌搜索设为默认搜索引擎；强制规定安装GMS的制造商不得使用未经谷歌授权的安卓版本（Android分支）。
谷歌对此的回应是：一方面，未来欧洲经济区安卓制造商也可以通过安卓分支设备分销谷歌移动应用程序；另一方面，需要授权安装谷歌移动程序的欧洲经济区设备制造商可以不安装谷
歌搜索或Chrome浏览器，谷歌将宣布对欧洲经济区的操作系统收取费用，并为谷歌搜索和Chrome浏览器提供单独的授权。
2019年4月7日新浪财经消息，欧盟反垄断机构将于2019年10月前对亚马逊启动全面调查，欧盟委员会反竞争专员玛格丽特·维斯特格（MargretheVestager）向媒体表示，欧盟可能就亚马逊的数据操作行为在未来几个月内启动全面调查，并表示调查已进入“高级”阶段。她说：“很多企业都花了大量时间和精力给我们提供数据，以便回答我们的问题。因此，我们非常仔细地讨论这个问题。但是，正如我所说的那样，我们已经取得了进展，我希望能在我任期结束前完成第一阶段的工作。”维斯特格的任期将于2019年10月份结束，这意味着在2019年10月份之前，欧盟就可能启动对亚马逊公司的全面调查。在维斯特格发言之后，亚马逊为了避嫌，很快就在自家官网上移除了一些显眼的自有品牌产品广告。在美国，有关加强监管甚至拆分亚马逊和科技巨头谷歌的讨论已经成为热点。
2019年3月初，美国民主党总统候选人伊丽莎白·沃伦(ElizabethWarren)的一篇文章受到广泛关注与讨论。沃伦认为亚马逊、谷歌和脸书已经积累起足够巨大的力量，主张对科技行业进行结构性改革。
北京时间2019年3月19日，据美国财经媒体CNBC报道，密西西比检察长吉姆·胡德（JimHood）表示，因为谷歌掌握了“大量”数据，要对谷歌发起类似20世纪90年代针对微软的反垄断诉讼。胡德希望大型科技公司在处理用户数据时，可以采取类似于欧盟数据政策的最佳惯例。胡德说：“根据消费者保护法，我们检察长有权对谷歌发起诉讼并质疑其隐私惯例。未来的某一天，最终审判终将到来，要么在国会上，要么在法庭上。这将是一起多方面的诉讼，希望我们可以与他们达成一定的协议，争取和解。”
胡德还提到了密西西比州在2017年针对谷歌挖掘公立学校学生数据的未决诉讼。他认为，谷歌对学生信息进行剖析，以获得竞争性广告优势。除了胡德，还有几名州检察长在接受《华盛顿邮报》采访时，也提到他们有意向对脸书、谷歌和其他科技巨头采取行动。
2019年9月10日，得克萨斯州总检察官肯·帕克斯顿(KenPaxton)宣布，美国的50名总检察官正在参与对谷歌涉嫌从事反垄断行为的调查。帕克斯顿召开新闻发布会称
，谷歌在广告市场和消费者数据使用方面占据着主导地位。
“当不再有自由市场或竞争时，即使某些东西被宣传为免费的，其价格也会被抬高，从而损害消费者的利益。”共和党人、佛罗里达州总检察官阿什利·穆迪（AshleyMoody）说道。如果我们提供越来越多的隐私信息，那么那些东西真的还是免费的吗？如果在线广告被一家公司控制而导致其价格上涨，那么真的还会有免费的东西吗？
亚利桑那州检察长马克·布尔诺维奇（MarkBrnovich）在接受采访时表示，他将这些公司比作旧时的垄断企业，认为这些企业控制着渠道，就有责任保护这些信息及其他较小的公司。
20世纪90年代末期，微软涉嫌垄断，美国联邦政府曾经对其发起诉讼。微软曾经把Windows98操作系统和InternetExplorer浏览器捆绑在一起，限制浏览器竞争对手的发展，最后微软通过降低自己网页浏览器的优势地位，进行了妥协。
谷歌在发送给CNBC的声明邮件中表示：“隐私和安全根植于公司的一切产品，我们将继续与州检察长就政策问题进行建设性讨论。”
2018年3月，社交媒体巨头脸书因8700万用户数据泄露一事，引发全球舆论关注。美、英媒体曝光，英国剑桥分析公司曾利用脸书平台的一个程序，获取脸书大量用户的隐私数据，用于有针对性地向选民投放政治广告，涉嫌干预2016年美国总统选举及英国“脱欧公投”等事件。除此之外，洲际酒店集团旗下超过1000家酒店发生支付卡信息泄露，全球11个国家的41家凯悦酒店支付系统被黑客入侵等。随着近年来国内外爆发的大量个人数据及个人信息泄密事件被揭露，个人信息安全问题正成为全球关注的重点。2019年7月12日《纽约时报》报道，因剑桥分析公司(CambridgeAnalytica)获取了脸书社交网站用户的个人信息，美国联邦贸易委员会(FTC)已批准对脸书处以约50亿美元的罚款。这是迄今为止美国联邦政府对科技公司开出的最高罚单。不过，仍有批评人士对此表示不满，认为这只是一次“轻微的惩罚”，甚至讽刺其为提前送给脸书公司的“圣诞礼物”。
为了应对危机，2019年3月6日，扎克伯格宣布了脸书的下一个发展重点。除了在其公共社交网络上销售定向广告这项现有的盈利业务之外，脸书正在围绕WhatsApp、Instagram和Messenger
建立一个“专注隐私安全的平台”。扎克伯格说：“脸书将整合这三个应用，并为三方之间发送的消息提供端到端加密，就连脸书自己也无法读取。”他虽然没有明确说明，但这个大平台将采用的商业模式显而易见。扎克伯格希望各类企业都能利用脸书的消息传递网络来获取服务并付款，脸书则从中抽成。
2012—2014年，脸书收购了两个快速发展的通信应用WhatsApp和Instagram。随着智能手机的普及，脸书市值从2012年底的大约600亿美元一路飙升到2019年底的5000多亿美元。
因为信息是加密的，所以脸书无法看到内容。但是元数据，也就是说，谁和谁交谈、在什么时间、交谈了多长时间，脸书是知道的，应用软件仍然允许脸书精确地投放广告，这意味着它的广告模式仍然有效。
端对端加密将使脸书的业务运行成本更低。因为从数学上说，加密的通信是不可能的，所以公司将有借口对应用程序中的内容承担更少的责任，从而限制其成本。
脸书在印度的计划为为最常用的即时通信应用WhatsApp建立了一个支付系统，该系统正在等待监管机构的批准。有媒体认为，脸书的这些改革可能会因为便利性增强而吸引更多的用户。如果它能够做出改变，脸书在消息传递方面的统治地位可能会更稳固。更加一体化的脸书带来了新的用户利益，这可能会让监管机构更难拆分扎克伯格的公司。
虽然脸书此前被罚款50亿美元，但在各州总检察官对谷歌发起调查之际，脸书也同样面临着由纽约州总检察官莱蒂夏·詹姆斯（LetitiaJames）领导的反垄断调查。该调查的参与者为7个州的总检察官及哥伦比亚特区的总检察官。华盛顿特区总检察官、民主党人卡尔·拉辛（KarlRacine）在一次新闻发布会上表示，这两项调查是否会“协同扩张还有待观察”。
10.2欧盟《通用数据保护条例》（GDPR）经过几年的酝酿，2018年5月25日，欧盟《通用数据保护条例》（GDPR）正式生效。这项法律涉及知情权、访问权、被遗忘权、数据可携带权、拒绝权和限制处理权等。
GDPR一方面扩大了个人数据的范围，另一方面强化了个人数据保护及使用权利。GDPR重新定义了个人数据：个人数据是指任何指向一个已识别或可识别的自然人（数据主体）的信息。该自然人能够被直接或间接地识别，尤其是通过诸如姓名、身份证号码、定位数据
这类标识，或者通过该自然人一个或多个如物理、生理、心理、经济、文化或社会身份要素。
对揭示种族或民族、政治观点、宗教或哲学信仰、工会成员的个人数据，以及以唯一识别自然人为目的的基因数据、生物特征数据、健康数据、性生活或性取向数据的处理应当被禁止。
适用于GDPR的个人数据包括姓名、身份证号码、电话号码、导航定位数据、在线身份识别数据，以及个人敏感数据，包括种族、性别、性取向、政治倾向、宗教信仰、基因数据、生物识别数据（如人脸图像或指纹识别数据）、有关健康的数据（如医疗状况、犯罪记录）。
对于互联网企业及其控制者来说，应当采用标准化的图标，以简洁明了、清晰可视、流畅易读的方式向数据主体提供信息。这些图标以电子方式呈现，这样就可以以机读的方式进行信息读取。
GDPR增强了个人对数据的控制权，明确了特殊类型数据的禁用原则，包括个人对数据的知情权、访问权、限制处理权、拒绝权、可携带权、被遗忘权等规定。其中，可携带权和被遗忘权是两种创新性权利。
被遗忘权也称删除权。根据GDPR的规定，该权利是指用户有权要求互联网企业及使用个人数据的企业删除个人数据的权利。一旦用户要求删除个人数据，收集个人数据的企业，有义务告知其他正在利用该数据的企业用户。另外，针对出于公益的目的或者基于法律规定不宜删除的个人数据，用户要求删除的请求并不会被满足。
GDPR强调数据主体的数据可携带权。数据可携带权是指数据主体（个人或者企业等）有权将一个数据控制主体中的个人数据转移到另一个数据控制主体中。比如，推特、脸书的用户有权把其账号中的文字、照片及其他资料转移到其他社交平台上。该权利还涵盖云计算、手机应用等自动数据处理系统。数据可携带权本质上允许用户做出多种选择，甚至把能获得收益的权益提供给多家企业，在扩大自己权益的同时，也容易让新数据企业获得机会。
针对互联网等企业用户画像的限制如下。用户画像不等同于简单地收集信息，而是利用个人身份、工作、购物、搜索等信息，综合运算的结果。掌握了大量个人数据的互联网企业可以借助大数据，利用人工智能来完成用户画像，并实现自主决策。当然，用户行使反对权后，企业就应当停止用户画像。针对机构依据用户画像进行以营销为目的的数据利用，个人同样有权提出反对。这对于企业来说，需要向用户解释
其人工智能和其他算法的目的，人工智能算法的“黑箱”需要在一定程度上透明化。个人数据因为直接营销的目的被处理的，数据主体应当有权利拒绝任何时间下的有商业目的的个人数据访问申请。
GDPR还为企业的人力提供了建议，不管是否为欧盟成员国的企业，如果在欧盟区的雇员超过了250人，企业团体就可以在企业指派数据保护人员的情况下任命一个独立的数据保护人员。欧盟成员国均已设立监管机构——数据保护局，这个机构将对各国GDPR的执行状况进行监督。
政府也受到了GDPR的约束。政府作为处理欧盟地区个人数据的“公共当局”，属于GDPR规范的行为主体之一。在GDPR的主要目标中，也包括限制政府对个人数据的搜集和使用。
GDPR引起了世界各国的热切关注，频频出现在互联网数据保护方面的讨论中，代表了全球在个人数据及企业数据使用规范立法方面的潮流、趋势。美国也在向欧盟靠拢。在脸书CEO扎克伯格现身美国国会接受数据泄露丑闻事件质询时，美国民主党领袖弗兰克·帕隆（FrankPallone）就曾建议进行“全面的隐私和数据安全立法”，将其作为在社交网络上出现外国干扰时“保护我们的民主”的步骤，国会议员们也反复提及GDPR。
电信与互联网分析师马继华认为，就如欧盟绿色环保标准逐渐被其他国家接受并推广一样，GDPR的出台也会为世界其他国家和地区提供参考和借鉴。我国于2019年5月1日实施的推荐性国家标准《个人信息安全规范》就参照了GDPR，如其中“数据控制者”的概念。
据欧盟的消息，GDPR的全球示范效应正在显现。日本、韩国、印度和泰国已着手基于该条例构建本国的互联网数据保护规范。
10.3人工智能的伦理问题
科学家们有个令人震惊的发现，在安第斯山脉一个偏远的未被开发过的山谷里，生活着一群独角兽。更加让人讶异的是，这些独角兽说着完美的英语。
这些生物长着独特的角，科学家们就以此为它们命名，叫Ovid’sUnicorn。长着四只角的银白色生物，在这之前并不为科学界所知。
现在，过了近两个世纪，这个奇异的现象到底是怎么被发现的，谜底终于解开了。
来自拉巴斯大学的进化生物学教授JorgePérez和他的几个伙伴，在探索安第斯山脉的时候发现了一个小山谷，这里没有其他动物，
也没有人类。
Pérez注意到，这山谷看上去曾是喷泉的所在，旁边是两座石峰，上面有银白的雪。
Pérez认为，这些独角兽起源于阿根廷。在那里，人们相信这些动物是一个消失种族的后裔，在人类到达之前，这个种族就生活在那里。
虽然，科学家对这些生物的起源还不清楚，但有些人相信，它们是一个人类和一个独角兽相交而诞生的，那时人类文明还不存在。Pérez说：“在南美洲，这样的事情是很常见的。”
然而，Pérez也指出，要确认它们是不是那个消失种族的后裔，DNA检测可能是唯一的方法。“不过，它们看上去能用英语交流，我相信这也是一种进化的信号，或者至少也是社会组织的一种变化。”他说①[①资料来自公众号“量子位”。
]。
这是一则假新闻，开头的第一段是人类写作的，而后写作的是人工智能。这是由OpenAI发布的名叫GPT-2的语言AI写手编写的新闻，整个模型包含15亿个参数。
这个AI写手不仅能写文章，而且无需针对性训练就能完成特定领域的语言建模任务，还具有阅读理解、问答、生成文章摘要、翻译等能力。因为这则假新闻实在编得太真实，OpenAI都不敢放出完整模型。研究者们还发现，GPT-2竟然还学会了好几种编程语言。纽约大学工程学院的助理教授BrendanDolan-Gavitt发现，GPT-2在学会写英文的同时，还悄悄学会了一些JS脚本语言(目前还不太成熟）。AI正在创造一个独特的虚拟（虚假）信息世界。除了编写故事，AI还能合成声音，替换视频中的人脸，随机生成现实中不存在的人脸图像。2019年2月，有人在一个著名武侠剧片段里，用一个明星人脸图像替换了原来的人脸图像，真假让人无法分辨。
这引起了网友们的讨论，有人认为有侵权的嫌疑，也有人对技术被滥用表现出恐慌。前不久，一个名为“ThisPersonDoesNot”的网站，因为创建虚拟人脸图像而引起媒体及网友的关注。这个网站的创建者PhilipWang是一名Uber的软件工程师，他利用英伟达2018年发表的研究成果，基于大规模真实数据，创建了无穷尽的假肖像图集，然后使用生成对抗网络（GAN）来制造新的图像。人们每次刷新网站时，只需大约2秒，网络就可从512维向量中从头开始生成新的人脸图像。英伟达的数据库中还包含了猫
、汽车和卧室的预训练模型。同时，研究人员还尝试生成了动漫人物、字体及涂鸦。
继假猫、假人生成网站后，一个假的租房网站又在Reddit上火了。网站上的房间图片、文字描述、发布人头像全由计算机自动生成，虽然目前图像质量和文字逻辑仍显粗糙，但无疑再次展示了生成模型的无限可能。
2018年1月之前，英伟达就在芬兰的一个实验室里建立了一个系统，通过分析成千上万的真实的名人照片来创造类似的新图像。该系统还能生成动物、植物、公交、自行车等常见物体的逼真图像。
谷歌和脸书这样的公司及许多人工智能实验室，通过分析海量数据来学习任务的算法，已经建立了能够识别人脸和普通物体的系统。虽然英伟达的图像暂时无法与顶级相机的图像分辨率相媲美，可能还存在模拟漏洞，但这些图像的清晰度已经很容易把大部分人欺骗。
2016年3月15日，谷歌人工智能“阿尔法狗”（AlphaGo）打败围棋世界冠军李世石。2017年5月27日，其又打败围棋世界冠军、中国天才围棋选手柯洁。
2017年10月18日，升级版的AlphaGoZero在自学三天完成了近500万盘的自我博弈后，已经可以超越人类，并击败了此前所有版本的AlphaGo。AlphaGoZero系统一开始不具有围棋技能，只是通过神经网络强大的搜索算法进行自我博弈。随着自我博弈的训练增加，神经网络逐渐升级并提升了预测下一步的能力，最终赢得比赛。更厉害的是，随着训练的深入，AlphaGoZero还独立发现了新的游戏规则，采用了新策略，对围棋产生了新的见解。
AI系统可以语音合成播音，逼真模仿电视台主持人，生成假人脸图片，生成假新闻故事，制作音乐，生成假的房屋及家居照片。如果AI学会编程语言，并通过自己的方式交流进化，那么它有可能会创造一个属于自己的“信息世界”。
霍金曾警告过人类：“人工智能的全面发展将宣告人类的灭亡。”人们担心人工智能奇点的到来，这让人们充满焦虑：生产过剩是否会导致贫穷？工业自动化是否会导致失业？AI机器是否会导致人类灭亡？
未来是否充满善意，人类是否能够掌握自己的命运，人类是否会与自然生态环境互相适应，工业化、高科技是否会给人们带来舒适的生活，而不是剥夺人们的生活自主权、就业与生存权等都是未知数。
第11章数字权
利趋势及共生经济原理人工智能带来超级生产力，大部分人可能面临新的就业危机。传统的经济学只有经过修改，才能适应未来数字经济时代的要求，而全场景数字化涉及整个经济领域的理论重新塑造问题，如个人隐私伦理、互联网公司数据权利、个体参与权等。
11.1个人隐私的未来趋势
欧盟《通用数据保护条例》（GDPR）正式生效意味着对未来数字权利的重塑。对于互联网企业来说，数据即财富，世界各国开始纷纷将其作为参照应对国内外互联网数据治理的问题。
这也是华为认识到国际发展趋势后，呼吁全球应该加快实行统一数据标准的原因，并鼓励推动建设第三方数据监管机构，让隐私安全与道德的遵从有法可依。
在个人隐私方面，本书提出与超级账户和万维网之父、麻省理工学院教授蒂姆·伯纳斯-李一样的理念，就是开发个人掌握的App，把个人数据掌握在自己手中。
其核心概念是一个个人数据存储系统，用户可以将其在网上产生的数据储存在自己的App中，而不是互联网公司的服务器上。这样包含身份证、联系人、照片和评论等在内的所有数据都由个人掌握，用户可以随时新增或删除数据，授予或取消他人读取或写入数据的权利。这样一来，用户不再需要以牺牲个人隐私、数据自主权的方式来交换互联网公司提供的免费服务。
用户可以将个人App数据储存在自家的计算机或者专门的服务供应商那里。而每个人或者公司都可以通过App开源接口，成为个人服务供应商。
当然可以按照伯纳斯-李教授的方法，选择个人数据存储系统SolidPOD，也可以根据本书建议，比如采用华为的芯片与软件相结合的技术，甚至从鸿蒙OS操作系统底层构建超级个人App账户体系，做出专业级别的芯片与软件操作系统安全体系。
对于其数据有自己的存储系统，或者专业第三方哪个更加安全方便，需要共同讨论与确定互联网技术标准。
11.2互联网企业数据权利的未来趋势按照欧盟《通用数据保护条例》（GDPR）及美国政府对互联网巨头的约束，互联网企业的数据权利将成为未来的核心焦点，面临以下问题。
（1）具有垄断性质的互联网企业依据个人消费、生活、隐私、存储的数据及平台是否属于公共性权益问题，是否由第三方专业数据公司负责，或者有第三方监督。
（2）大型互联网企业是否涉嫌垄断