人工智能巨风险研究：形成机制、路径及未来治理

在西方社会风险相关理论的基础上，提出“人工智能巨风险(AI巨风险)”概念，认为在关注AI伦理及散发风险等问题的基础上，应对人工智能应用与传播过程中所可能引发的大范围、高强度、规模化社会风险问题给予足够关注，即人工智能在应用与传播过程中所引发的“巨风险”。主要类型如机器自涉式AI巨风险、社会系统侵入式AI巨风险、非对称破坏式AI巨风险等。“AI巨风险”的形成往往是多个密相关因素的共振式耦合作用，如技术能力强度、技术稳健度、技术应用向度、社会粘合度、政治/社会对抗强度、社会心理因素等。为防止AI所可能带来的大范围危害、遏制AI巨风险的形成，应积极构建“机器风险学”,从学理层面更深入分析AI巨风险形成的动力学机制，并在未来的社会治理实践中，坚持预防治理原则、技治管理原则、强约束原则、备份原则、协商原则。