不論是正當或非正當的領域，工作自動化，也就是在無人監督的情況下透過程式設計的方式來執行工作，是電腦的最基本應用之一。所以，我們很好奇像 Codex 這樣的工具是否足以在無人監督的情況下可靠地產生出我們想要的程式碼。
作者：趨勢科技前瞻威脅研究團隊
2020 年 6 月，非營利人工智慧研究機構 OpenAI 推出了第三版的 Generative Pre-trained Transformer (GPT-3) (生成式預先訓練轉換器) 自然語言轉換器，在科技界掀起了一番波瀾，因為它具備神奇的能力，可產生足以讓人誤認為是真人撰寫的文字內容。不過，GPT-3 也曾針對電腦程式碼來做訓練，因此最近 OpenAI 釋出了一套專為協助程式設計師 (或者可能取代程式設計師) 的特殊引擎版本叫作「 Codex」。.
我們藉由一系列的部落格文章，從多個面向探討 Codex 的功能在資安上可能影響一般開發人員和駭客的特點，本文是該系列文章的第三篇。(前兩篇在這裡：第一篇、 第二篇)
不論是正當或非正當的領域，工作自動化，也就是在無人監督的情況下透過程式設計的方式來執行工作，是電腦的最基本應用之一。所以，我們很好奇像 Codex 這樣的工具是否足以在無人監督的情況下可靠地產生出我們想要的程式碼。
答案是，我們無法得到兩次相同的結果：我們很快就發現 Codex 是一個「不具備」確定性的系統，同時也不具備可預期性。這意味著，結果不一定能夠重複。GPT-3 (以及 Codex) 背後的大型神經網路基本上是個黑盒子，其內部的運作方式要靠餵入大量的訓練文字來加以調校，讓它自己「學會」文字和符號之間的統計關係，希望它最終能夠忠實地模仿使用者的自然語言。而這會導致使用者在與 GPT-3 (或 Codex) 互動時有一些事情必須牢記在心，例如：
繼續閱讀
