不論是正當或非正當的領域，工作自動化，也就是在無人監督的情況下透過程式設計的方式來執行工作，是電腦的最基本應用之一。所以，我們很好奇像 Codex 這樣的工具是否足以在無人監督的情況下可靠地產生出我們想要的程式碼。

作者：趨勢科技前瞻威脅研究團隊

2020 年 6 月，非營利人工智慧研究機構 OpenAI 推出了第三版的  Generative Pre-trained Transformer (GPT-3) (生成式預先訓練轉換器) 自然語言轉換器，在科技界掀起了一番波瀾，因為它具備神奇的能力，可產生足以讓人誤認為是真人撰寫的文字內容。不過，GPT-3 也曾針對電腦程式碼來做訓練，因此最近 OpenAI 釋出了一套專為協助程式設計師 (或者可能取代程式設計師) 的特殊引擎版本叫作「  Codex」。.

我們藉由一系列的部落格文章，從多個面向探討 Codex 的功能在資安上可能影響一般開發人員和駭客的特點，本文是該系列文章的第三篇。(前兩篇在這裡：第一篇、 第二篇)

不論是正當或非正當的領域，工作自動化，也就是在無人監督的情況下透過程式設計的方式來執行工作，是電腦的最基本應用之一。所以，我們很好奇像 Codex 這樣的工具是否足以在無人監督的情況下可靠地產生出我們想要的程式碼。

答案是，我們無法得到兩次相同的結果：我們很快就發現 Codex 是一個「不具備」確定性的系統，同時也不具備可預期性。這意味著，結果不一定能夠重複。GPT-3 (以及 Codex) 背後的大型神經網路基本上是個黑盒子，其內部的運作方式要靠餵入大量的訓練文字來加以調校，讓它自己「學會」文字和符號之間的統計關係，希望它最終能夠忠實地模仿使用者的自然語言。而這會導致使用者在與 GPT-3 (或 Codex) 互動時有一些事情必須牢記在心，例如：

本文是探討以 GPT-3 引擎為基礎的 Codex 程式產生器相關資安問題一系列文章的第一篇。

2020 年 6 月，非營利人工智慧研究機構 OpenAI 推出了第三版的  Generative Pre-trained Transformer (GPT-3) (生成式預先訓練轉換器) 自然語言轉換器，在科技界掀起了一番波瀾，因為它具備神奇的能力，可產生足以讓人誤認為是真人撰寫的文字內容。不過，GPT-3 也曾針對電腦程式碼來做訓練，因此最近 OpenAI 釋出了一套專為協助程式設計師 (或者可能取代程式設計師) 的特殊引擎版本叫作「 Codex」。身為一套生成式語言模型，這套新的系統可讓您輸入一句自然語言來表達您想要做的動作，然後系統就會使用您選定的程式語言幫您產生一段程式碼來執行您想要的動作。

早在 Codex 出現之前，大家就已經知道 GPT-3 可以做到這點，而且之前已經有許多早期採用者做出了各種概念驗證，包括將一段描述網頁排版動作的英文敘述轉成正確的 HTML 碼，或是根據使用者的描述從選取的資料集產生對應的圖表，除此之外，還有許許多多其他早期採用者不費吹灰之力就製作出來的各種知名範例。