专访政治学者高奇琦：如何“驯服”人工智能（下）

依法应对“数据失重”

澎湃新闻：人工智能技术的发展，存在怎样的信息安全隐患？

高奇琦：人工智能时代，信息保护会变得更为困难，“数据失重”会成为常态。所谓“数据失重”，指的是人在进入大数据时代后，没有意识到自己的生活已经被数据所包围，也没有警惕到数据增多可能带来的不利影响。

在进入信息时代之前，与个人相关的数据没有现在那么多，也很难轻易泄露出去。但是，脸书“剑桥分析”事件的曝光、以及越来越普遍的大数据“杀熟”，暴露出了在当今时代个人数据权利保护的问题。

无论在互联网时代，还是未来智能家居主导的物联网时代，传感器等智能设备只会越来越多。这些设备24小时不停地搜集我们个人信息，生成数据，在为我们提供更为个性化服务的同时，也将大量与我们个体息息相关的数据信息上传至网络。

但是，这些数据到底是归大数据公司所有，还是我们自己呢？如果是归个人所有，那么数据公司只享有保管权，其使用必须经得数据所有人的同意；如果是归数据公司所有，那么个人数据安全也理应得到相关保护。这个问题还没有形成明确的共识，数据权属的问题还需要好好思考。

澎湃新闻：您认为，数据权应当归谁所有？

高奇琦：我认为，这些数据根本上还应该归个人所有。在人工智能时代，数据信息是核心资源，商业公司掌握这些数据后，如何利用这些数据也是一个未知数。它们可以造福消费者，也可能去做不好的事情，比如“剑桥分析”就依据脸书用户的在线行为，分析其性格、喜好与立场，使用户近乎“透明”。

再如现在智能手机App和某些搜索引擎强推的各种信息，以及频繁出现的绑定需求。我们上网搜索并不意味着同意其搜集分析我们的需求信息并做相关推送，这些推送本应经过我们的同意。

实际上，很多软件或功能是否需要读取那么多数据，是存疑的。但是，数据公司几乎毫无例外地希望尽可能地多地读取数据，因为数据是未来的“石油”，是关键的资产。更多的数据，就意味着对个人更精准的描述与定位，也就意味着更多的融资。以阿里投资ofo为例，虽然两者相关性不大，但企业达到一定的量级后，是会产生需要占有和使用更多数据的需求的。

数据权属现在还属于拉锯战。因为新技术产生时，人们主要考虑使用便利性的问题。比如人们着急使用某个软件或某项功能时，出于应急的需要，大概率会同意提供通讯录或进行捆绑的要求，把数据所有权或使用权拱手让出——这实际上是一种霸王条款。

权属的界定是规范许多行为的基础，例如其他行为体（如管理方、黑客等）是否有权利登录我们的邮箱、查询我们的聊天记录？一旦产生损失，又该由谁来负责？这些问题，在进入人工智能时代时都是要深入思考的。

澎湃新闻：对于个人的数据权利，不同文明的认知程度也存在差别，您怎么看？

高奇琦：一般意义上而言，对个人来说，更多的传感器、更为了解自己需求的服务商的存在，是容易让人产生一种不安全感。虽然相比之下，中国公民数据权利的意识虽然还不够强，但这是一个持续被唤醒的进程。

相对于普通公民而言，数据公司凭借自己的技术地位和政商资源，在数据使用规则的制定上占有明显的优势，如5G规则的制定就是世界几家技术巨头之间的交易。这使公民个体和数据公司在权利上产生了结构性的不对称。单个公民是难以挑战这种结构的，唯有尽可能提高全民的数据意识，才能在规则制定中形成相当的影响力。

正如不少科幻作品所反映的，人们对于一个数据“利维坦”的出现是有不安的。但面对这种不安，中国与西方世界的应对方式是不同的。西方偏好公民运动，然而在西方政治结构中，这种方式是很难抵抗大公司大企业的影响的——后者具备更强的游说能力，它们对定义规则的影响力远非普通民众能比，美国的控枪之难就是很好的例证。

中国的方式则不同，面对这些由数据组成的巨无霸，政府首先会出面关切，对企业的这种“垄断”表达担忧。例如，现在若要在全国范围内征集民众对某个事件的看法，由政府出面采集民意可能是一项需要几个月时间且耗资巨大的工作，需要层层动员；但如果交给大公司，比如腾讯，使用微信平台作为民意调查的介质，整个工作可能会大大简化——可能只需要将调研问卷推送给每一个用户，并在用户做完调研后给其人均一角钱的红包，微信至少一半以上的活跃用户都可能参与其中。

这种现象的出现意味着，在网络时代，某些大公司掌握的权力，在某种意义上可能比政府部门还大。如芝麻信用的出现，使一家企业就具备了对公民诚信进行评估的方式。而微信“朋友圈”的问世，使腾讯理论上具备了根据某个用户的行为特征，勾勒出其几乎所有信息特征的能力。这种现象的出现，会使政府感到需要加强对这些大公司的监管，因为任何一种垄断都可能导致不公正或商业欺诈的出现，就如之前的魏则西事件等。

国际规范不可缺失

澎湃新闻：中美两国在人工智能产业的发展上走在世界前列，两国各自的优势是什么？两国在这一领域的竞争对于两国关系有何影响？

高奇琦：美国的优势是掌握先进技术的大公司众多，且占据产业链的最高端，如智能芯片、操作系统等硬件与软件。此外，以特斯拉为代表的企业在应用领域，如无人驾驶上占据领先地位。

中国的优势是市场大，数据量大（数据是最大资产），人才可以快速转化（虽然人工智能专业的人才储备较少，但计算机等专业的人才可以快速转化）。此外，中国政府的重视还赋予了产业发展的政策优势。

中国人工智能产业的发展进步明显，国际科技论文发表量和发明专利授权量已居世界第二，但劣势也比较明显。这主要是原发性创新不足，在国际上缺乏足够的话语权——中国企业更愿意做垂直应用，但在高端芯片、操作系统等原始技术上积累不足，而这恰恰是话语权的关键。

在人工智能时代，也会像智能手机一样出现多种操作系统。这些基础性的规则由谁来定义，将会是各国和各家企业博弈的关键。只有有能力定义这些，掌握核心技术，国家才算是走到产业的最前列。

幸运的是，中国人工智能产业发展适逢比较好的节点。如果规划合理，发力准确，我相信能够像5G国际规则的制定时那样，逐渐改变缺乏话语权的处境。总之，中国应重视原发性创新，不能只将重点放在以改进为主的微创新。

澎湃新闻：各国都力争人工智能产业链的前沿，怎样规范这一竞争呢？

高奇琦：在初始阶段，各国肯定会以竞争为主，因为这涉及到国际政治权力更替等现实问题，美国也不希望中国等国家会在未来核心技术上挑战或取代自己。

但是，气候变化、恐怖主义、核扩散等问题是中美等世界国家共同面临的问题，而人工智能可以为全球治理提供新的技术手段。这会成为各国合作的一个新领域。

不过，在这一进程中会有许多复杂的干扰因素，除了大国政治博弈外，还有诸如美国国内民粹主义抬头等因素的影响。

澎湃新闻：如何看待人工智能在军事领域的使用？

高奇琦：人工智能一个争议比较大的领域是其军事化。我认为，无人技术的广泛运用可能难以扭转，但是应当限制人工智能在决策领域的运用。

军用人工智能在战场的分析决策上可能有其优势，但关键问题是，机器没有恐惧。如果人工智能越来越多地参与决策，有可能使人类冲突失控升级的风险加大。因此，各国应竭力避免由人工智能决策发起的小规模行动引发大型冲突的可能。

所以，在军事安全领域，重要的决策仍应掌握在人的手里，不能让机器把握关键决策，决定人类的命运。

大国之间虽然会进行人工智能的竞争，但仍有必要进行战略合作，特别是防止技术竞争失控，或者无人装备被恐怖主义或网络黑客利用。

澎湃新闻：总体而言，我们需要对人工智能感到恐惧吗？

高奇琦：我在研究这一飞速发展的技术时，有时会陷于一种自我矛盾——本质上我是以一个相对乐观的态度来审视人工智能的，但有时也会感到先进技术莫名的震撼与强大的冲击。

不过，我仍相信人脑的智力具有机器不具有的优势，比如弹性。人的一大优点是会遗忘，懂得根据实际情况调整权重；人也会有情感，但机器很难做到这一点。机器可能会通过越来越复杂的算法去接近人、了解人，但能否理解人，可能仍是一个未知数。

此外，我们也不要忽视了人工智能革命性的变化所带来的积极意义，比如其强大的赋权功能。以关爱残疾人为例，语音阅读功能的发明在理论上可以让视力残疾者“阅读”人类文明所有的文献经典，而此前他们只能依靠盲文，这需要复杂且耗时的学习与转化。再比如脑机接口的出现，可以让人们获得治疗肢体损伤的新方法，使人脑对假肢的操控几乎可以与真实肢体相媲美，宛如科幻作品一样。

有时，我们会沉浸在对由现代工业社会造就的疲惫的反思，或是对乌尔里希·贝克阐述的由各种全球化风险酝酿的“风险社会”的恐惧。但人们不要忘记，人类的平均寿命从30余岁提升至现今的70多岁，本质上就是依靠技术一次次取得的进步。

总之，人工智能技术的突破可能很快，而且越来越快，但技术突破后产生的社会冲击，我们需要在全球范围内有较好的政策、法律法规及心理准备。这需要社会大众，特别是社会科学的学者们站出来，与产业大咖、技术超人们展开对话，一起讨论哪些东西可以做，哪些东西碰不得。

《道德经》说，“持古之道，以御今之有。”我对人工智能产业持谨慎乐观的看法。