文章版本：v1.0.1
OpenAI 於 2015 年 12 月成立。僅一個月後，我於 2016 年 1 月創立了 Libgirl 公司。儘管 OpenAI 與 Libgirl 幾乎同時開始，但 OpenAI 騰飛，而 Libgirl 則失敗了。反思 Libgirl 失敗的原因，並將其與 Numenta、DeepMind 以及 Ben Goertzel 博士的企業進行比較，我獲得了一些見解，這揭示了 OpenAI 成功的關鍵差異。本文將以一名前人工通用智慧（AGI）創業者的視角，探討 OpenAI 的成功與其當前所面臨的挑戰。
關鍵轉折點
OpenAI 的決定性時刻發生在 2019 年 2 月，當時他們發佈了一篇具有突破性的論文《Language Models are Unsupervised Multitask Learners》（也稱為 GPT-2 論文）。這篇論文揭示了大型語言模型（LLMs）在處理各種任務時能夠生成連貫且相關回應的潛力，這標誌著邁向泛用 AI 的一大步。
僅一個月後，Sam Altman 離開 Y Combinator 總裁的職位，成為 OpenAI 的全職 CEO。與此同時，OpenAI 轉型為營利性子公司。從那時起，OpenAI 展開了迅速的崛起，相繼推出了 GPT-3、GPT-3.5、ChatGPT 和 GPT-4，讓 AGI 的願景逐漸變得更加具體。
2023 年 3 月，微軟發佈了《Sparks of Artificial General Intelligence: Early Experiments with GPT-4》，表明 AGI ——即具有人類級別認知能力的 AI—— 不再是一個遙不可及的夢想。此時，OpenAI 已成為 AI 領域的主導力量，超越了許多競爭對手。
OpenAI 成功背後的策略
OpenAI 早期的成功可以歸因於兩個關鍵策略：
- 專注於高影響力、低複雜度的任務
- 快速迭代週期
通過優先考慮那些可擴展且具大影響力的任務，OpenAI 透過大量投資擴展了 LLMs。這種擴展策略雖然資源密集，但它是一種低複雜度的策略，相較於深層技術創新，所需的研究突破要少得多。專注於擴展而非複雜的基礎研究，讓 OpenAI 能夠快速實現可衡量的性能提升。此外，他們的快速迭代過程，使得 OpenAI 能迅速推出產品、收集反饋並持續改進模型。這還提升了公眾的關注度與知名度。
這些策略與 Y Combinator 的原則高度一致，後者強調有效的優先排序與快速執行。作為 OpenAI 的 CEO，Sam Altman 將這些原則應用於公司的運營模式，促進了其快速崛起。然而，這一方法也埋下了 OpenAI 當前面臨挑戰的種子。
OpenAI 當前挑戰的根源
在早期，OpenAI 的首要任務是展示 AI 技術和實際應用的進展，特別是在外界對 AGI 持懷疑態度的時候。這種進步不僅保持了工程師的動力，也鞏固了內部對 AGI 願景的信念。
然而，隨著 ChatGPT 在全球吸引了數百萬用戶，圍繞安全性和與人類價值觀的一致性（human value alignment）的擔憂已成為焦點。OpenAI 早期「快速迭代」的模式，類似於 Facebook 的「快速行動，不懼錯誤」哲學，當 AI 模型還較為簡單且處於實驗階段時，這種模式行之有效。但如今，隨著 ChatGPT 進入商業市場並廣泛應用，這種「快速行動，不懼錯誤」的方式已不再適用，因為涉及的風險變得更高。
此外，OpenAI 的內部研究人員曾因 LLMs 的快速進展而感到振奮，但隨著僅依賴擴展模型與更多數據，這已無法滿足他們的需求。他們希望推動 AI 技術的深層次創新，超越目前的技術邊界。然而，由於公眾監督日益嚴格，OpenAI 必須更加謹慎地前行。安全性、隱私性、以及與人類價值觀的對齊，必須成為最高優先事項，才能保持其在 AGI 開發中的領導地位。這種轉變引發了內部的挫折感，導致重要人物如首席科學家 Ilya Sutskever、頂尖研究員 Jan Leike 和 John Schulman 的離職。最近，前首席技術官 Mira Murati、前首席研究官 Bob McGrew 以及 前研究副總裁 Barret Zoph 也相繼辭職。
展望未來：OpenAI 的前進之路
OpenAI 已經在商業 AI 市場中站穩腳跟，新的優秀人才將繼續加入公司，並且它在泛用 AI 的市場中，尤其是像 ChatGPT 這樣的產品領域，仍將保持競爭力。然而，通往真正 AGI 的道路——即具有人類級別認知能力的 AI——需要突破那些主要依賴於擴展現有模型的策略。雖然 OpenAI 已取得一些技術進展，但要實現真正的 AGI，必須進行更深層的創新和在 AI 研究上的基礎性突破。
如果 OpenAI 無法在商業產品需求與 AGI 理想之間取得平衡，它可能會在通往 AGI 的競賽中失去領先地位。內部推動深層次創新與外部應對安全性和價值觀對齊的需求之間的矛盾，可能會進一步削弱其創新能力。
對於像我這樣的 AGI 創業者來說，OpenAI 當前的挑戰提醒我們，通往 AGI 的旅程只有無止盡的一波三折。未來的創新者仍然有機會做出重要貢獻，而這個領域的競爭才剛剛開始。