自19世纪以来，人工超等智能的发现一向是科幻小说的中心主题。从E.M.福斯特(E.M. Forster)的短篇小说《机械住手》(The Machine Stops, 1909)到HBO比来的电视剧《西部世界》(Westworld)，作家们往往把这种或者性描画成一场彻头彻尾的灾难，但这个问题不再是捏造的。现代卓越的科学家和工程师如今也担心，超等人工智能有一天或者会超越人类智能(这一事件被称为“奇点”)，成为人类“最糟糕的错误”。
今朝的趋势表明，我们将为这种手艺进入一场国际军备角逐。无论哪个高科技公司或当局实验室成功地发现了第一个超等人工智能，都将获得潜在的世界主导手艺。这是一个赢者通吃的奖品。是以，对于那些想要阻止此类事件发生的人来说，问题是若何阻止这种军备角逐，或许至少激励参赛团队不要在人工智能平安方面偷工减料。
正如哲学家尼克•博斯特罗姆(Nick Bostrom)等人所指出的，超等人工智能给它的发现者提出了两个基本挑战。一个是掌握问题，即若何确保超等人工智能具有与人类沟通的方针。若是没有这些，人工智能或者会有意、不测或疏忽地风险人类，这将是一场“人工智能灾难”。
第二个问题是一个政治问题，即若何确保超等聪明的优点不光属于少数精英，还会造成伟大的社会和财富不屈等。若是超等人工智能军备角逐发生，它或者会导致竞争敌手轻忽这些平安问题，以便更快地斥地本身的手艺。这或者导致一个低质量或不友好的超等人工智能。
今朝研究者给出的解决方案是，行使民众政策，加大介入竞争的难度，以削减竞争群体的数量，提高介入竞争的群体的能力。竞争敌手越少，为了获胜而偷工减料的压力就越小。但当局若何才能以这种体式削减竞争呢?
研究者首先展示了在一个典型的赢者通吃的竞赛中，例如构建第一个超等人工智能的竞赛中，只有最具竞争力的团队才会介入。这是因为真正发现超等人工智能的或者性非常小，并且因为需要在研究和斥地方面投入大量资金，介入竞争的成本非常奋发。
切实，这似乎是今朝成长较为简洁的“狭义”人工智能的近况。这类人工智能的专利申请由少数几家公司主导，而大部门人工智能研究只在三个区域(美国、中国和欧洲)完成。今朝似乎也很少(若是有的话)有集体投资建造超等人工智能。
这表明，削减竞争群体的数量今朝不是最主要的优先事项。但即使参赛选手人数较少，激烈的竞争也或者导致上述问题。是以，为了降低打造超等人工智能的企业之间的竞争强度，并提高它们的能力，当局能够转向民众采购和税收。
民众采购是指当局付钱给私营公司供应的所有器材，从当局机构使用的软件到运行办事的合同。当局能够对任何需要它们解决潜在问题的超等人工智能供给商施加限制，并支撑互补手艺，以增加人类智能并将其与人工智能集成。
但当局也能够供应购置一个不太好的超等人工智能版本，有效地在军备角逐中缔造一个“二等奖”，阻止它成为赢家通吃的竞争。有了一个中央奖，它或者是发现某种接近(但不完满是)超等人工智能的器材，竞争整体将有动力进行更多的投资和合作，从而降低竞争的强度。第二名还将降低失败的风险，并为更多的投资供应来由，匡助提高参赛团队的能力。
至于税收，当局能够凭据人工智能的友好水平或不友好水平，对发现超等人工智能的群体设定税率。一个充沛高的税率将意味着超等人工智能的..。这将强烈地阻止私营企业偷工减料，因为它们担心本身的产物会被当局抢走。
民众产物而不是私人垄断
这一设法或者需要全球更好地协调税收和超等人工智能的监管。但这并不需要所有当局都介入个中。理论上，一个国度或区域(如欧盟)就能够承担解决超等人工智能问题和伦理问题的成本和起劲。但所有国度都将从中受益，超等人工智能将成为一种民众产物，而不是弗成反对的私人垄断。
当然，这一切都取决于超等人工智能对人类的威胁。一些科学家认为人工智能并不会威胁人类，跟着时间的推移，我们或者会天然而然地消弭超等人工智能的风险。一些人认为人类甚至或者与人工智能融合。
无论若何，我们的星球和它的居民将从确保我们从人工智能中获得最好的器材中受益匪浅，人工智能手艺仍处于起步阶段。为此，我们需要更好地舆解当局能够施展什么感化。
