物联网会物化我们吗？
如今，我们已经体验到了互联网的很多副作用。假设因为物联网的监视，导致我们丧失隐私，变得“数字透明”，那肯定不是我们想要的结果。面对全球蔓延的物联网，人们必须开始思考，我们需要赋予这些解决方案、工具、引擎、平台的提供商多少（访问我们的数据，并让人工智能处理这些数据的）权力。我们还必须思考，在没有全球协议和有效约束的情况下，光靠各方的自我规范和独立监管，能在多大程度上保护我们。
美国的平台、云服务提供商，以及其他技术公司似乎无法阻止美国国家安全局（NSA）、联邦调查局（FBI）等政府机构扫描我们的所有设备和数据。那么，在五到七年以后，当我们有2000亿以上个设备相互连接时，情况又会如何呢？
在最坏的假设下，物联网可能成为机械思维的顶峰——有史以来最完美的间谍控操作系统，最大的实时监控网络，迫使全人类顺从，并消灭所有面露怨怒的人。
只要想想在不远的将来，就可能出现一个这样的世界：
? 你的汽车会上传它的所有实时数据，包括它的位置信息和你在驾驶室的所有动作。
? 你的所有支付操作都与智能钱包相连，而现金、钱包、信用卡都会成为过去式。
? 你的医生可以轻松查询你本周在椅子上坐了多久，做了多少运动，以及你坐飞机打盹时的心跳是多少。
? 你的外脑（例如智能移动设备）可以通过可穿戴脑机接口或植入设备，直接与你的大脑相连接。
? 每一个人、每一个物品都将成为一个数据发射机，每天产生无数的数据，然后被云端的IBM沃森和谷歌深度思维集群采集、过滤、分析，用于它们如饥似渴的自学习全球人工智能大脑。
人类总是拒绝不了效率的诱惑，我们终将被到一个巨大的机器操作系统支配，这个操作系统不断地自我学习，并把输出反馈给我们，直到它不再需要我们贡献的输入。届时，我们的价值将低于我们创造和训练的技术。
千万年来天然定义的人类主权终将受到损害，这损害不是来自其他生物或天外来客，而是来自技术倡导者和他们的超机械化进程。
如果我们现在都无法就人类的互联网和计算设备达成一致的规则与伦理，那怎能指望全人类能对千倍规模的物联网达成一致规范呢？仅仅因为我们能做到，就不停前行发展，是不是更值得担心？
谁主沉浮？
现在，我们在生物科技与生物工程领域有很多标准、指南、协议、条约，规定了可以做哪些事，不能做哪些事，例如有关重组DNA的1975年阿西洛马尔指南（Asilomar guidelines）。我们还有防止核扩散条约。但是，我们在数据和信息方面还没有类似的规范，而它们是数字时代的石油。尽管数据已经快速成为驱动经济发展的最强动力，我们依然没有一个全球性的条约来规范对34亿网民个人数据的使用，也没有规范认知计算或人工智能的条约。在人类历史上，除了核武器以外，还没有哪项技术如此不受控制的突飞猛进。当然，对数据和人工智能的大量使用，其影响很快就会超过核武器，然而人工智能领域依然是一片不受约束的空白。
谁能保证领先的数据和人工智能公司在做正确的事情？谁能保证运营新一代物联网的组织在做正确的事情？什么才是正确的事情？它又由谁来定义？我们真能区分对与错吗？
大脑算法与预防规则
新的宇宙之主不但会把硬件变成数据，还有可能把“人”变为“物”，不论它是有意还是无意，问题是谁能阻止它呢？尽管技术界都在欢迎物联网的到来，享受它的好处，但我们必须高度警惕与之俱来的副作用。
我们需要加入一种平衡机制，确保人类进步发展的方向，在每一次技术跨越的时节，都要在它主导我们的生活之前，在一开始就做出像人猿相揖别的那样的选择，我诚恳的建议，对于那些努力发展物联网的人们，我们应该运用更新版本的预防措施（参见第8章）：证明并确保物联网无害于他人的责任，应该交给那些控制物联网发展的人，也只有在这样的保证下，才能继续发展它。与此同时，我们也应该考虑采取循序渐进的方法，这样就不会扼杀创新。
现在，这已经不是一道简单的选择题，也无法和稀泥。在人类释放出核能量70年以后，核问题在军事实验和政治决策中依然是一项充满争议的事情，人类也依然处于一个未知领域。如今并没有新的世界大战来证明我们进入“大数据王国”是对的，但我们正在一路前行，好像我们依然拥有所有选择。非人类的物联网会包围我们的人性，并改变它的本质——就像上帝一样无所不能的影响它的主人。所以，我们既要采取预防措施，也要保持积极主动——但这两件事不再是两个分离的议程，也无法由两个相互独立的人群来完成，谨慎前行的，必然是同一伙人。
