OpenAI于今年七月成立了这个团队，目的是为“超级智能”AI系统——即智能远超人类的理论系统——制定引导、监管和治理的方法。团队成员Burns表示，目前他们能够对齐的模型多数智能水平不及或与人类相当，而如何对齐超越人类智能的模型还没有明确的方法​​。

然而，对于OpenAI的技术是否会夸耀 浮夸不久的将来或将来任何时候获得可能毁灭世界、超越人类智能的能力，一些专家持怀疑态度。他们认为，关于即将到来的超级智能的说法，可能只是为了转移人们对当前AI监管问题的注意，如算法偏见和AI的倾向性​​。

该团队目前正浑金璞玉 十全十美尝试构建适用于未来强大AI系统的治理和控制框架。这不是一个简单的任务，因为“超级智能”的定义以及特定AI系统是否已经达到这一水平，仍然是热烈讨论的话题。目前，团队采用的方法是使用一个较弱、较不复杂的AI模型（例如GPT-2）来引导一个更先进、更复杂的模型（例如GPT-4）朝着期望的方向发展，同时避免不希望的方向​​。

为了推动这方面的技术研究，OpenAI启动了一个价值1000万美元的赠款项目，支持超级智能对齐的技术研究。这些赠款将为学术实验室、非营利组织、个人研究者和研究生保留。OpenAI还计划发展 爆发2025年初举办一个有关超级对齐的学术会议，届时将分享和推广超级对齐奖项的决赛选手的工作​​。

通过这篇文章，我们可以看到，OpenAI正晚点 正轨积极探索如何应对和控制超级智能AI的挑战，同时也点头 拍板通过赠款项目和会议来促进这一领域的研究。这显示了他们对未来AI技术发展方向的前瞻性思考和对潜破除 花费风险的重视。