這份來自 OpenAI 實驗室的論文提出了一個非凡的想法 - 使用 AI 系統來評論另一個 AI 系統生成的代碼。這個概念真的是突破性的,因為它開啟了提高 AI 生成代碼質量和可靠性的新可能性。

研究人員首先通過有意地在現有應用程式中引入錯誤,並讓系統學習如何識別和描述這些問題,來訓練 AI 評論系統。這種方法不僅提供了大量的訓練數據,而且也模擬了現實世界中錯誤可能意外出現的情況。

這個實驗的結果令人驚嘆。AI 評論系統能夠比人類審查員發現更多的錯誤,而且在超過 60% 的情況下,AI 生成的評論被優先於人類撰寫的評論。這表明這些 AI 系統可以在提高 AI 生成代碼的質量方面非常有效,有助於使現有的代碼庫更加健壯,甚至可能保護它們免受攻擊。

然而,論文也突出了當前系統的一些局限性。幻覺,即 AI 生成關於錯誤的虛假信息,仍然是一個問題,而且這些系統在處理跨越代碼庫多個部分的更複雜、相互關聯的問題時也會遇到困難。在這些情況下,仍需要人類專家仔細審查結果。

儘管存在這些挑戰,這項技術的潛力是不可否認的。隨著研究人員不斷完善和改進這些 AI 系統,我們可以期待看到更加令人印象深刻的功能,可能會導致一個未來,在這個未來中,AI 生成的代碼將seamlessly融入我們的軟體開發工作流程,而 AI 評論員將作為警惕的守護者,防範錯誤和漏洞。