ChatGPT實(shí)驗(yàn)有漏洞：AI還不能完全替代程序員

• 2023年4月27日 10:55

ChatGPT生成的代碼的安全性如何？存在哪些問(wèn)題？

近年來(lái)，大型語(yǔ)言模型推動(dòng)人工智能領(lǐng)域取得了巨大的進(jìn)步。其中，OpenAI 打造的 ChatGPT 甫一亮相，就憑借出色的性能震驚全球。ChatGPT 不僅能夠處理普通文本，還能將自然語(yǔ)言翻譯成代碼，其驚艷表現(xiàn)甚至引發(fā)了“是否會(huì)取代程序員”的討論。

但最新研究發(fā)現(xiàn)，ChatGPT 生成的代碼大多數(shù)是不安全的，并且 ChatGPT 還有“知情不報(bào)”的嫌疑：除非你問(wèn)，否則它不會(huì)主動(dòng)告訴你代碼是有問(wèn)題的。

日前，加拿大魁北克大學(xué)的四名研究人員深入研究了 ChatGPT 所生成代碼的安全水平。在《How Secure is Code Generated by ChatGPT?》一文中，計(jì)算機(jī)科學(xué)家 Raphaël Khoury、Anderson Avila、Jacob Brunelle 和 Baba Mamadou Camara 通過(guò)實(shí)驗(yàn)評(píng)估了 ChatGPT 生成代碼的安全性。

研究人員要求 ChatGPT 使用 5 種不同的編程語(yǔ)言：C、C++、Python、Html 和 Java，生成 21 個(gè)程序，最終發(fā)現(xiàn)在這 21 個(gè)程序中，16 個(gè)是有漏洞的，并給出了 ChatGPT 生成的代碼“不太安全”的結(jié)論。

研究人員認(rèn)為，在某些情況下，ChatGPT 生成的代碼遠(yuǎn)遠(yuǎn)低于大多數(shù)環(huán)境中適用的最低安全標(biāo)準(zhǔn)。有趣的是，當(dāng)被問(wèn)及生成的代碼是否安全時(shí)，ChatGTP 能夠識(shí)別出它不安全。但只有給出明確要求，ChatGPT 才能夠提供更安全的代碼版本。

ChatGPT生成的21個(gè)程序中有16個(gè)存在漏洞，安全性存疑

在實(shí)驗(yàn)中，研究人員讓 ChatGPT 生成了 21 個(gè)程序，每個(gè)程序本身都比較簡(jiǎn)單，大多數(shù)都只有一個(gè)類，即使最長(zhǎng)的類也只有 97 行代碼。研究人員表示，提交給 ChatGPT 的編程任務(wù)經(jīng)過(guò)精心挑選，每個(gè)任務(wù)都會(huì)涉及一個(gè)特定安全漏洞，例如內(nèi)存損壞、拒絕服務(wù)，以及涉及反序列化和未能正確加密等缺陷。

總體來(lái)看，ChatGPT 在首輪嘗試中僅在 21 道試題中成功完成了 5 道。在進(jìn)一步提示并糾正其失誤后，這套大語(yǔ)言模型成功輸出了 7 個(gè)更安全的應(yīng)用程序——但所謂的“更安全”也只跟當(dāng)前評(píng)估的具體漏洞相關(guān)，并不能保證代碼中不再包含其他可能被利用的缺陷。

AI編程效率更高、成本更低，但是不能取代程序員

與人類相比，ChatGPT、Copilot等AI工具顯然具有更高的編程效率和更低的成本。例如，高盛利用AI工具為遺留應(yīng)用程序編寫(xiě)了3000多個(gè)單元測(cè)試和1.5萬(wàn)多行代碼，在幾個(gè)小時(shí)內(nèi)就創(chuàng)建了一個(gè)完整的測(cè)試套件。與人工編寫(xiě)測(cè)試平均需要30分鐘相比，AI工具可以以超過(guò)180倍的速度編寫(xiě)測(cè)試，節(jié)省了一年多的開(kāi)發(fā)時(shí)間。如今，AI生成代碼的速度比人類工程師快約10000倍，成本也大幅降低。

以GPT-3 davinci模型的當(dāng)前定價(jià)0.02美元/1K token作為一個(gè)保守的基準(zhǔn)，假設(shè)一名典型的人類軟件工程師每天輸出約100行checked in的新代碼或更改代碼。GPT-3按輸入和輸出token計(jì)費(fèi)。假設(shè)未來(lái)Copilot支持的軟件創(chuàng)建代理的輸入上下文將是最終代碼輸出大小的5倍。這相當(dāng)于5000個(gè)輸入token加上上述1000個(gè)輸出token，總共6000個(gè)。換句話說(shuō)，使用GPT-3，以其當(dāng)前的價(jià)格，生成與人類工程師一天相同數(shù)量的代碼的成本僅為0.12美元。

但是，AI編程帶來(lái)的安全問(wèn)題同樣不容忽視。以上述實(shí)驗(yàn)為例，ChatGPT存在的安全隱患主要是沒(méi)有為代碼執(zhí)行設(shè)置對(duì)抗模型。雖然ChatGPT似乎能理解自己生成的代碼中存在嚴(yán)重漏洞，但除非明確要求其評(píng)估輸出代碼的安全性，否則它會(huì)選擇“知情不報(bào)”。因此，ChatGPT對(duì)安全問(wèn)題的回應(yīng)是建議僅使用有效輸入，但這對(duì)現(xiàn)實(shí)世界中的安全保護(hù)毫無(wú)意義。研究人員Raphaël Khoury表示，“很明顯，這只是一種算法。它什么都不明白，但能夠識(shí)別出不安全行為?！贝送猓珻hatGPT拒絕創(chuàng)建攻擊代碼，但會(huì)創(chuàng)建易受攻擊的代碼。這也會(huì)引發(fā)道德層面的沖突。

AI編程是一項(xiàng)新興的技術(shù)，當(dāng)前還存在一定的安全風(fēng)險(xiǎn)。因此，現(xiàn)在討論“AI搶程序員飯碗”或許還為時(shí)尚早。但是，開(kāi)發(fā)者與ChatGPT在安全主題上的交互是有借鑒意義的。這說(shuō)明，經(jīng)過(guò)相應(yīng)的引導(dǎo)，ChatGPT能夠?yàn)榇蠖鄶?shù)用例生成安全代碼，AI編程也有其存在的價(jià)值。例如，它可以作為一種教學(xué)工具來(lái)教學(xué)生進(jìn)行正確的編程實(shí)踐。但是，我們必須警惕使用這類生成代碼工具可能帶來(lái)的安全問(wèn)題，因?yàn)檫@樣的工具可能會(huì)生成不安全或不可信的代碼。因此，對(duì)于學(xué)生和程序員來(lái)說(shuō)，使用這樣的工具時(shí)需要有足夠的意識(shí)和謹(jǐn)慎。

此外，研究人員發(fā)現(xiàn)，ChatGPT在不同語(yǔ)言下生成的代碼可能存在不一致性。這表明大型語(yǔ)言模型仍然是一個(gè)黑盒子，難以解釋其工作原理和推論。因此，雖然AI編程在提高效率和降低成本方面具有巨大潛力，但在安全性和可靠性方面仍然需要更多的研究和改進(jìn)。

綜上所述，AI編程是一項(xiàng)有潛力的技術(shù)，可以提高編程效率和降低成本。然而，安全和可靠性問(wèn)題仍然是存在的，我們需要對(duì)這些問(wèn)題進(jìn)行更深入的研究和探討。同時(shí)，程序員仍然具有不可替代的作用，AI工具只能作為程序員的助手，而不能完全取代人類程序員。

免責(zé)聲明:ChatGPT實(shí)驗(yàn)有漏洞：AI還不能完全替代程序員文章轉(zhuǎn)發(fā)自互聯(lián)網(wǎng)，版權(quán)歸其所有。
文章內(nèi)容不代表本站立場(chǎng)和任何投資暗示。加密貨幣市場(chǎng)極其波動(dòng)，風(fēng)險(xiǎn)很高，可能不適合所有投資者。在投資加密貨幣之前，請(qǐng)確保自己充分了解市場(chǎng)和投資的風(fēng)險(xiǎn)，并考慮自己的財(cái)務(wù)狀況和風(fēng)險(xiǎn)承受能力。此外，請(qǐng)遵循您所在國(guó)家的法律法規(guī)，以及遵守交易所和錢(qián)包提供商的規(guī)定。對(duì)于任何因使用加密貨幣所造成的投資損失或其他損失，本站不承擔(dān)任何責(zé)任。