OpenAI正在解散其“AGI Readiness”團隊，據該團隊負責人稱，該團隊負責就OpenAI處理日益強大的人工智能（AI）的能力以及世界管理該技術的準備情況向公司提供建議。

近期，AGI Readiness高級顧問Miles Brundage通過Substack發文宣布離職。他寫道，他離職的主要原因是機會成本太高，他認為自己的研究對外界更有影響力，他希望減少偏見，而且他已經完成了在OpenAI的初衷。

通用人工智能（Artificial General Intelligence，簡稱AGI）是人工智能的一個分支，追求在各種任務上與人類智力相當或超越人類智力的技術。AGI是一個備受爭議的話題，一些領導者認為即將實現它，而一些人則認為它根本不可能實現。

Brundage在帖子中還寫道：“無論是OpenAI還是其他前沿實驗室都沒有準備好，世界也沒有準備好。”

Brundage說，他計劃創辦自己的非營利組織，或者加入現有的非營利組織，專注于人工智能政策研究和宣傳。他說：“如果不齊心協力，人工智能就不可能盡可能地安全和有益。

根據Brundage的帖子，前AGI Readiness團隊成員將被重新分配到其他團隊。

今年5月，OpenAI解散了其Superalignment團隊——OpenAI稱該團隊專注于“科學和技術突破，以引導和控制比我們聰明得多的人工智能系統”，防止它們“失控”，這距離宣布成立該團隊僅一年時間。

OpenAI的Superalignment團隊于去年宣布成立，當時OpenAI表示將在四年內為該計劃投入20%的計算能力。

今年5月，Superalignment團隊負責人、OpenAI聯合創始人Ilya Sutskever和Jan Leike宣布從這家初創公司離職后，該團隊隨即解散。

“我之所以加入，是因為我認為OpenAI將是世界上進行這項研究的最佳場所，”Leike在5月份在X上發布的帖子中寫道，“然而，我與OpenAI領導層在公司核心優先事項上的分歧已經持續了相當長的一段時間，直到我們最終達到了一個爆發點。”

Leike寫道，他認為公司更多的帶寬應該集中在安全、監控、準備、安全和社會影響方面。

他當時寫道：“這些問題相當難以解決，我擔心我們并不在實現目標的軌道上。在過去的幾個月里，我的團隊一直在逆風航行。有時我們為計算資源而苦苦掙扎，要完成這項至關重要的研究越來越難。”

Leike還說，OpenAI必須成為一家“安全第一的AGI公司”。

AGI Readiness團隊解散的消息傳出之前，OpenAI董事會可能計劃將公司重組為營利性企業，首席技術官Mira Murati、首席研究官Bob McGrew和研究副總裁Barret Zoph三位高管在9月份同一天宣布離職。

10月初，OpenAI以1570億美元的估值完成了一輪融資，其中包括該公司從眾多投資公司和大型科技公司籌集的66億美元。它還獲得了40億美元的循環信貸額度，使其流動資金總額超過100億美元。一位熟悉情況的人士稱，該公司預計今年營收為37億美元，虧損約50億美元。

今年9月，OpenAI宣布其安全與安保委員會將成為獨立的董事會監督委員會，該委員會于今年5月成立，負責處理有關安全流程的爭議。該委員會最近結束了為期90天的審查，對OpenAI的流程和保障措施進行了評估，然后向董事會提出了建議。

高管離職和董事會變動的消息也是繼今年夏天圍繞OpenAI的安全問題和爭議日益增多之后傳出的，此時OpenAI與谷歌、微軟、Meta和其他公司正處于生成式人工智能軍備競賽的風口浪尖——據預測，這個市場將在十年內達到1萬億美元的營收規模——因為各行各業的公司似乎都急于增加人工智能聊天機器人和代理，以避免被競爭對手甩在身后。

知情人士當時證實，今年7月，OpenAI將其最高安全主管之一Aleksander Madry調任到一個專注于人工智能推理的崗位。

根據Madry的簡歷，Madry曾是OpenAI的準備工作負責人，該團隊的“任務是跟蹤、評估、預測和幫助防范與前沿人工智能模型相關的災難性風險”。OpenAI當時表示，Madry在新崗位上仍將從事核心的人工智能安全工作。