奥特曼发公开信：AI将远超蒸汽机和电力革命
4月27日消息，OpenAI CEO奥特曼发布公开信，谈到了人工智能对社会的改变，以及OpenAI在此过程中将进行的一些调整和遵循五大原则，以下为全文：
人工智能有潜力显著改善社会的许多方面。
这项技术与之前的其他技术一样，将赋予人们更大的能力和自主权；人们利用人工智能所能做的事情，将远远超过人们利用蒸汽机或电力所能做的事情。
我们憧憬着一个普遍繁荣的世界，其繁荣程度远超我们目前的想象；在这个世界里，个人的潜能、自主性和成就感都将显著提升。许多我们只能在科幻小说中梦想的事物都可能成为现实，大多数人都能过上比现在更有意义的生活。
但这种结果并非必然。未来的权力要么掌握在少数几家使用和控制超级智能的公司手中，要么以去中心化的方式掌握在人民手中。我们相信后者要好得多，我们的目标是让尽可能多的人掌握真正通用的人工智能。就像现在一样，未来不会只有好或坏，但我们现在做出的决定可以帮助我们最大限度地发挥其积极作用。
我们的使命是确保通用人工智能造福全人类。以下是我们工作遵循的原则。
1.民主化。我们将抵制这项技术可能将权力集中在少数人手中的可能性。
这意味着，除了让每个人都能接触到人工智能之外，我们还需要确保有关人工智能的关键决策是通过民主程序和平等原则做出的，而不仅仅是由人工智能实验室做出的。
2.赋能。我们相信人工智能可以赋能每个人，帮助他们实现目标、学习更多知识、获得更幸福和更充实的生活，并追求梦想，整个社会也将从中受益。
要实现这一目标，就需要让人们探索摆在我们面前的巨大潜力，而我们需要打造能够实现这一点的产品。用户应该能够可靠地利用我们的服务完成越来越有价值的任务。
世界多元，人们的需求各不相同。我们希望给予用户所需的自主权，并在合理范围内尽可能地允许他们这样做。
尽管我们希望赋予用户极大的自主权来使用我们的服务，并且坚信人工智能总体上将带来巨大的益处，但我们也有责任以尽可能减少危害的方式构建和部署人工智能。这当然包括防止灾难性后果，同时也包括最大限度地减少局部危害，并避免潜在的社会腐蚀性影响。这意味着在不确定性面前，我们将采取更为谨慎的态度，并在获得更多证据后逐步放宽限制。
3.全民繁荣。我们希望未来每个人都能过上美好的生活。
我们相信，通过让每个人都能使用计算能力强大的易用型人工智能系统，人们将找到创造价值的新方法，并大幅提高每个人的生活质量，尤其是在发现新科学方面。
为了充分实现繁荣并广泛共享，我们认为：1）各国政府可能需要考虑新的经济模式，以确保每个人都能参与到我们面前的价值创造中；2）我们需要建设大量的AI基础设施，并开发新技术，以大幅降低AI基础设施的成本。
我们做的很多事情看起来很奇怪——比如在收入相对较小的情况下购买大量的计算资源，通过垂直整合来降低成本，使我们的技术更容易使用，努力在世界各地建设数据中心等等——都是出于我们对未来普遍繁荣的根本信念。
4.韧性。人工智能会带来新的风险，我们将与其他公司、生态系统、政府和社会各界合作，共同应对这些风险。我们将充分利用基金会的资源来支持这项工作。
任何人工智能实验室都无法独自确保美好的未来。一个显而易见的例子是，某些功能极其强大的模型可能会使制造新型病原体变得更加容易，因此我们需要全社会共同努力，采取与病原体无关的防御措施来抵御这种威胁。再举一例，随着模型网络安全能力的提升，我们需要迅速利用这些模型来保护开源软件和关键基础设施，同时训练这些模型，帮助所有人创建更安全的软件。
这是我们长期以来奉行的迭代部署战略的延伸；我们认为，社会需要应对人工智能能力的每一个发展阶段，理解它，整合它，并共同探索最佳发展路径。这并非一蹴而就；社会与技术共同演进，而这需要时间。
我们并非将此作为我们唯一的安全策略；我们还需要建立安全的系统，并继续在技术协调方面做出巨大努力。
我们预计，在继续开展工作之前，我们将需要与各国政府、国际机构和其他 AGI 组织合作，以确保我们充分解决严重的轨道对准、安全或社会问题。
5. 适应性。我们始终认为，应对充满变数的未来挑战的唯一途径，是随时准备根据所掌握的信息更新我们的立场。我们也意识到，OpenAI 的影响力远超几年前，我们将公开透明地说明我们的运营原则何时、如何以及为何发生变化。举例来说，尽管我们坚信普惠繁荣仍然至关重要，但我们也能预见到未来某些时期，我们可能需要在增强韧性方面做出一些取舍，例如牺牲部分赋权。
人工智能的发展带来了诸多惊喜，未来还将有更多惊喜涌现。随着技术的进步，其涌现行为将变得越来越难以预测。我们欣然接受这种不确定性，谨慎地推进各项能力的提升，迭代地部署系统，并从系统与世界的互动中不断学习。
不久前，我们还对发布 GPT-2 的权重感到担忧，因为我们不确定这会对社会产生什么影响。显然，现在看来，这种担忧是多余的，但它促使我们发现了迭代部署策略，而这正是我们迄今为止最重要的发现之一。
__
随着技术的不断进步，我们正步入一个影响深远的阶段。大家对我们的每一个决定都提出批评是完全合理的；鉴于我们所做工作的重要性，我们理应受到严格的审视。我们不可能事事完美，但我们会迅速吸取教训并纠正方向。
我们致力于为创造一个比过去更美好的未来贡献一份力量；我们很幸运能够承担如此重要的工作。（鞭牛士、AI普瑞斯编译）
马斯克与OpenAI今日将对簿公堂
奥特曼发公开信：AI将远超蒸汽机和电力革命
腾讯出牌方式变了
欧盟施压谷歌开放安卓AI入口，ChatGPT与Claude或将获系统级权限
甲骨文160亿美元数据中心融资落定，OpenAI算力扩张再获资金支撑
国产芯片，能否解决智谱和MiniMax的算力荒问题