人工智能23条原则

    第一，研究的目的并不仅仅是创造智能，而应该产生造福人类的智能。

    第二，研究的资助不仅要投资于开发，还要投资于相应的研究项目，才能保证人工智能研究顺利发展。

    第三，科学和政策相连接，科学家和政策制定者要互相沟通、充分理解。

    第四，在人工智能研究领域要鼓励合作，不鼓励产生军备竞赛，不能为了超越对手而研究。

    第五，强调团队合作和协同，避免互相竞争。

    第六，人工智能系统开发必须保证安全性。

    第七，失败过程透明，向第三方公开人工智能失误的原因。

    第八，判断透明，人要了解人工智能内部发展，从而自主决定何时接管人工智能，掌控人工智能。

    第九，充分评估道德风险，要对所建立的人工智能系统全面负责。

    第十，人工智能系统的价值观判断应与人类一致。

    第十一，人类价值优先。

    第十二，尊重个人隐私。

    第十三，强调自由和隐私，数据属于人。

    第十四，共享利益，人工智能应尽可能造福更多人。

    第十五，共享繁荣，人工智能给经济带来的繁荣也应造福全社会。

    第十六，人类控制，人工智能要被人完全掌控。

    第十七，不能利用人工智能颠覆现有系统或利用人工智能转变社会行为。

    第十八，禁止人工智能军备竞赛。

    第十九，对人工智能未来能力要有充分的关注与评估，不能对它的潜力设限。

    第二十，对人工智能要给予同等重要的关注，提供同等重要的资源。

    第二十一，分配相关资源、提供相关努力，将风险置于可控范围之内。

    第二十二，充分关注重复性的自我改进，防止指数级增长带来预想不到的结果。

    第二十三，共同利益，人工智能（尤其超级人工智能）要符合所有人类的道德价值观，符合人类共同利益。