合作媒體

AI代理商賦予駭客「租賃優勢」 企業資安防禦亟需調整

商傳媒|何映辰/台北報導

人工智慧(AI)代理商的快速發展,正為網路攻擊者帶來「租賃優勢」,大幅降低攻擊門檻,使得企業資安防禦面臨前所未有的挑戰。資安專家警告,這項新趨勢要求企業必須徹底翻新其傳統威脅模型。

根據《StartupHub.ai》報導,資安專家近日在一集《Security Intelligence》Podcast中深入探討,指出惡意行為者正利用AI代理商發動更複雜的攻擊。討論焦點已從過去單純的「提示詞注入」(prompt injection),轉向更精密的「提示軟體」(promptware)策略,亦即透過自主運行的AI代理商執行多階段網路攻擊。

這些AI代理商能以遠超越人類攻擊者的速度和規模,完成從情報偵察、資料外洩到指揮與控制的整個攻擊鏈。專家將此現象稱為駭客的「租賃優勢」,意即攻擊者無需投入資源開發底層技術,即可利用預先訓練或可調適的AI模型,顯著降低發動複雜攻擊的技術與經濟門檻。目前,駭客已廣泛利用AI生成幾可亂真的網路釣魚郵件、編寫惡意程式碼,並自動識別與利用系統漏洞。

面對此一變局,專家強調傳統資安威脅模型必須與時俱進。Ian Molloy指出:「我們需要將AI代理商視為威脅模型的第一步,假設初始入侵必然發生,並據此強化環境安全。」AI驅動的攻擊因其高度複雜性和潛在的自主性,使得歸因工作變得更加艱鉅。AI代理商還能透過濫用合法的雲端服務和應用程式介面(API),放大「利用合法管道進行攻擊」(living off the land)的策略,進一步提高偵測難度。

Kimmie Farrington也提到,防禦者必須更深入理解AI代理商與系統的互動方式,因為AI模型可能在無意間接收並執行非預期的指令。為此,資安防禦者應採取的關鍵措施包括:假設系統可能已被入侵、充分理解AI代理商的攻擊能力、強化身分與存取管理(IAM)、不斷演進威脅模型,以及全面導入零信任(Zero Trust)原則。