人类
描述
有些观点坚持认为“人类是人工智能的创建者，再强大也肯定能够被人类控制”，并且提出“发展优先，让子弹飞一会儿”。
文章
分类
自身
完备性、一致性、可判定性的失守，叠加超级人工智能的强大能力与人类自身的局限和脆弱，会急剧放大失控概率。
文章
生存
AI对人类的生存风险，可以划分为远期与近期两个维度。
文章
倘若广泛部署和使用，并自主性日益增强，极有可能威胁到人类的生存。
文章
当某种操作会威胁到人类生存时，人工智能既无法深刻理解何为人类、何为生死，也不真正理解什么是生存风险，作出危及人类生存的行为时甚至不自知。
文章
有观点提出，超级人工智能将与人类争夺资源，甚至危及人类生存，这并非危言耸听。
文章
控制
推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用，确保人工智能始终处于人类控制之下。
文章
有些观点坚持认为“人类是人工智能的创建者，再强大也肯定能够被人类控制”，并且提出“发展优先，让子弹飞一会儿”。
文章
这意味着“它”可能会产生“自主意识”，由于其超越人类智能，很多想法和行动将难以被人类理解，更难以被人类控制。
文章
安全
对于自我改进提案、架构实质性变更等，人类安全团队要做到严格审核监督，保证任何情形下人类手握最终控制权。
文章
其它
如此，才能回答“当机器开始思考，人类如何与之相处？
文章
