【資安大小事|威脅趨勢】AI 服務也會被盜用?認識 LLMJacking 與雲端資源遭冒用的風險

作者 : 資訊組   發布日期 : 2026-11-17

來源: 數位發展部資通安全署、Google Threat Intelligence Group(GTIG)、Mandiant、Sysdig Threat Research Team
提醒對象: 一般民眾、學校教職員、資訊管理人員,以及使用雲端 AI 服務的企業與組織

主題面向簡介

人工智慧(AI)服務已逐漸融入日常生活與工作,從撰寫文件、整理資料,到學校行政系統及企業內部應用,都可能使用 AI 協助處理工作。部分雲端 AI 服務依照實際使用量收費,因此除了帳戶安全,使用權限及費用管理也值得注意。

假設一間學校透過付費 AI 服務建立線上問答系統,每當有人使用,系統就會向雲端 AI 模型提出請求,並依服務方案計算費用。如果攻擊者偷走系統的使用金鑰,就可能冒用學校的身分大量使用 AI,最後卻由學校承擔這些費用。

這類未經授權使用他人 AI 模型與雲端資源的攻擊,被稱為 LLMJacking(大型語言模型資源劫持)。

2026 年 11 月,Google 威脅情報團隊與 Mandiant 公布多起實際調查案例,發現部分受害組織因 AI 服務遭冒用,在短時間內產生大量異常費用,甚至有攻擊者將盜用的使用權限轉售牟利。

LLMJacking 的影響不只限於費用增加,還可能涉及帳戶權限遭濫用、雲端資源被占用及正常服務受到影響。了解這類攻擊的運作方式,有助於個人、學校與企業及早發現異常並降低損失。

1151117_下午新聞_LLMJacking_雲端AI資源遭冒用

什麼是 LLMJacking?為什麼 AI 服務會被盜用?

目前許多生成式 AI 服務使用大型語言模型(Large Language Model,LLM),這類模型可以理解及產生文字,協助完成摘要、翻譯、問答及程式撰寫等工作。

一般民眾通常透過官方網站或應用程式使用 AI;學校與企業則可能將 AI 功能整合到自己的網站或系統,讓使用者不必另外開啟 AI 網站,就能直接使用相關功能。

這類系統通常會透過**應用程式介面(Application Programming Interface,API)**連接雲端 AI 服務。API 可以理解為不同程式之間的溝通管道,讓學校或企業的系統能夠將問題傳送給 AI 模型,再取得回應。

為了確認使用者或系統具有使用權限,雲端平台通常會提供專用的授權憑證,其中常見的是 API Key(應用程式介面金鑰)。

API Key 的作用類似一張專用通行證。系統使用這張通行證向 AI 服務提出請求,平台便能辨識使用者或應用程式,並依照相關服務規則計算使用量。

如果這張通行證遭到竊取,攻擊者就可能冒用原本的使用身分,持續呼叫付費 AI 模型。

部分攻擊者也會竊取雲端存取憑證(Cloud Credentials),也就是讓使用者或程式取得雲端資源使用權限的授權資訊。若遭竊憑證具有較高權限,攻擊者甚至可能啟用其他付費服務或建立新的存取金鑰。

因此,LLMJacking 並不代表 AI 模型本身一定遭到破解。攻擊者可能只是取得了原本合法的使用權限,再利用這些權限消耗他人的付費資源。

真實案例:AI 服務遭盜用,可能產生多少費用?

2024 年 5 月 6 日,雲端安全公司 Sysdig 公開 LLMJacking 攻擊研究。

研究人員發現,攻擊者利用存在安全弱點的網頁應用程式取得雲端憑證,接著嘗試存取受害帳戶可使用的大型語言模型服務。攻擊者的目的之一,是將取得的 AI 使用權限提供給其他犯罪者,讓原本的帳戶持有人承擔費用。

Sysdig 當時估算,在特定模型及大量使用的情況下,受害者一天可能面臨超過 4.6 萬美元的 AI 服務成本。這是研究中的潛在費用估算,並非已確認發生的實際帳單金額。

2026 年 11 月 2 日,Google Threat Intelligence Group(Google 威脅情報團隊,GTIG)與資安事件調查團隊 Mandiant 公布更多實際案例。

調查指出,2026 年已有北美、南美及亞太地區的多個組織遭遇 LLMJacking,涉及金融、零售、科技及運輸等產業。

研究團隊觀察到:

  1. 部分個別事件一天內產生的未授權雲端資源費用超過 10 萬美元。

  2. 部分受害組織在遭盜用的存取權限被撤銷前,累計異常費用達到 100 萬美元。

  3. 攻擊者曾大量呼叫付費 AI 模型,也曾啟用額外服務及建立新的使用金鑰,以增加可使用的資源。

這些金額來自特定事件的調查結果,不能推論每個 AI 帳戶遭盜用後都會產生相同損失。

但相關案例已顯示,當攻擊者使用自動化程式大量呼叫付費 AI 服務時,異常費用可能在短時間內迅速累積。

攻擊者通常透過哪些方式盜用 AI 服務?

根據 Sysdig、GTIG 與 Mandiant 的研究,LLMJacking 的攻擊途徑不只一種,但多數案例都與憑證外洩、帳戶權限遭竊或服務安全設定不當有關。

(一)取得外洩的 AI 服務金鑰

開發人員在建立網站或測試系統時,可能不慎將 API Key 放入公開的程式碼或設定檔。

GTIG 曾發現攻擊者從公開程式碼儲存庫蒐集企業外洩的 AI 服務金鑰,再測試這些金鑰是否仍然有效。

只要金鑰尚未失效,而且具有使用付費模型的權限,攻擊者就可能利用它冒用原本的系統。

(二)竊取雲端帳戶的使用權限

部分攻擊者取得企業的雲端帳戶憑證後,會利用原有權限存取 AI 服務,甚至啟用其他雲端功能、建立新的金鑰或服務帳戶。

研究也曾觀察到攻擊者透過假冒網站,誘騙使用者交出有效的登入授權資訊,再冒用原本的登入狀態。

這類授權資訊包括工作階段權杖(Session Token),它是系統用來辨識使用者已完成登入的一種資訊。若有效權杖遭竊,攻擊者可能在特定條件下利用既有登入身分進行操作。

因此,即使已經啟用多因素驗證,也不能隨意將登入授權資訊交給其他網站或工具。

(三)利用未妥善保護的 AI 服務

部分學校或企業自行架設 AI 模型,或由廠商協助建立相關服務。如果這些系統可以從網際網路直接連線,卻缺少適當的身分驗證及存取限制,就可能被未經授權者使用。

GTIG 的研究指出,攻擊者確實會尋找這類公開暴露的 AI 服務,測試是否能直接呼叫模型或使用相關資源。

這些案例也提醒使用 AI 的組織,除了保管帳戶密碼,還需要了解系統使用哪些憑證、開放哪些服務,以及是否有不必要的存取權限。

AI 服務遭盜用後,可能造成哪些影響?

攻擊者取得 AI 使用權限後,可能自行大量使用付費模型,也可能將這些權限轉售給其他人。

GTIG 在 2026 年的調查中發現,部分攻擊者建立非法的 AI 服務中介系統,將其他使用者提出的請求轉送到遭盜用的企業雲端資源,再把 AI 模型產生的結果提供給下游客戶。

研究人員將這類非法中介服務稱為 LLM Mixers(大型語言模型存取混合中介服務)。

例如,攻擊者取得某企業的 AI 服務使用權限後,可能利用這些權限替其他人處理 AI 請求,並向使用者收取費用。真正提供運算資源的卻是受害企業的雲端帳戶,因此使用成本仍可能由受害者負擔。

這類攻擊可能造成三方面的影響:

  1. 產生異常費用: 大量付費模型請求、額外啟用的服務或運算資源,可能讓雲端帳單在短時間內明顯增加。

  2. 影響正常服務: 未經授權的使用可能占用原有服務配額,或觸發平台的使用限制,使合法使用者無法正常使用部分功能。

  3. 帳戶權限持續遭濫用: 攻擊者可能建立額外金鑰或服務帳戶。即使原本的密碼已經更換,仍需要檢查是否存在其他未經授權的存取方式。

至於事件是否同時涉及資料外洩、其他系統遭入侵或更大範圍的損害,仍須根據實際調查結果判斷,不能因為發生 LLMJacking 就直接認定所有資料都已外洩。

數位發展部資通安全署怎麼提醒?一般使用者與組織應注意哪些事項?

數位發展部資通安全署在《115 年 9 月資通安全網路月報》中,公布一起應用程式介面(API)存取控制缺失案例,並提出身分驗證、權限管理及 API 金鑰保護等建議。

該案例涉及 API 存取資料時未落實身分驗證與權限檢查,並非 LLMJacking 事件,但其中的 API 安全管理原則,同樣可用於降低雲端 AI 服務遭冒用的風險。

資安署建議,API 金鑰應依最小權限原則設定使用範圍,不應直接放在公開程式碼或容易被取得的位置;也應建立金鑰更換、停用及撤銷機制,並依業務需求限制 API 的請求頻率及流量。

結合國內官方建議與國外實際案例,不同使用者可以採取以下措施。

(一)一般民眾、學生:注意 AI 帳戶與付費服務安全

  1. 使用官方服務: 優先透過 AI 服務的官方網站或可信任應用程式登入,避免將帳號密碼或登入授權資訊提供給來路不明的網站。

  2. 啟用額外登入保護: 帳戶支援多因素驗證時,應啟用相關功能,降低部分帳戶入侵風險。

  3. 留意付費紀錄: 若有使用付費 AI API 或雲端平台,應定期查看使用量、帳單及異常通知。

  4. 檢查第三方授權: 若曾授權其他應用程式使用 AI 帳戶,應了解授權範圍,並移除不再需要或可疑的授權。

一般民眾若只是透過官方網站使用 AI 聊天功能,通常不需要自行管理 API Key。一般 AI 聊天訂閱服務與開發者使用的依量計費 API,兩者的帳務及存取方式可能不同,不應將 LLMJacking 的企業案例直接套用到所有個人訂閱帳戶。

如果發現不明登入、異常扣款或可疑的使用紀錄,應儘速檢查帳戶安全設定,並聯繫服務提供者確認。

(二)學校教職員、行政人員:注意單位導入的 AI 服務

學校若使用 AI 問答系統、自動化文件處理服務,或由委外廠商提供 AI 功能,應確認相關服務是否具有適當的管理措施。

例如,行政單位可以了解:

  1. 單位使用的 AI 功能由誰負責管理,是否透過學校帳戶或廠商帳戶付費。

  2. AI 服務的使用金鑰及權限由誰保管,是否有適當的使用限制。

  3. 使用費用是否有人定期檢查,發生異常時由誰負責處理。

  4. 系統委外建置時,是否已釐清帳戶管理、費用監控及資安事件通報的責任。

教職員與行政人員不一定需要自行操作 API 或管理雲端系統,但應知道單位使用哪些 AI 服務,以及發現異常時可以向誰反映。

(三)資訊管理人員:落實權限、金鑰與使用紀錄管理

對於負責建置或維護 AI 服務的資訊人員,GTIG、Mandiant 與資通安全署的建議可作為檢查方向:

  1. 限制存取權限: 使用者、程式及服務帳戶只取得工作所需權限,避免一般應用程式持有不必要的雲端管理權限。

  2. 妥善管理金鑰: 避免將 API Key 放入公開程式碼、前端程式或容易被任意取得的設定檔,並建立必要的更換與撤銷程序。

  3. 監控異常使用: 定期查看 AI 模型呼叫量、服務啟用紀錄、新增金鑰及帳單變化,必要時建立告警機制。

  4. 設定使用限制: 依平台支援功能配置 API 使用配額、請求速率限制及費用警示。預算通知不一定會自動停止計費,須確認平台實際的限制方式。

  5. 定期檢查服務設定: 清查閒置金鑰、不再使用的服務帳戶,以及不必要的外部存取權限。

(四)發現遭盜用時,應如何處理?

若發現 AI 服務出現異常使用量、不明費用或可疑登入紀錄,應儘速確認受影響的帳戶與服務,撤銷可能遭竊的金鑰及憑證。

資訊管理人員也應檢查是否存在未經授權建立的帳戶、金鑰或服務,並保留必要的登入、API 呼叫及服務異動紀錄,以利確認事件發生時間與影響範圍。

若已產生異常費用,應聯繫雲端服務提供者,依其帳務與資安事件處理程序進行後續確認。

AI 服務也應納入資訊資產與安全管理

從 Sysdig 2024 年公布的研究,到 Google 與 Mandiant 2026 年調查的實際事件,可以看到付費 AI 模型、雲端運算資源及相關使用權限,已成為攻擊者覬覦的目標。

當學校與企業逐漸導入 AI 功能,除了了解這些服務能協助完成哪些工作,也應確認背後的帳戶、金鑰、使用權限及費用是否受到適當管理。

資訊管理人員可從既有的資訊資產盤點與權限管理制度著手,確認哪些系統正在使用 AI 服務、由誰負責管理,以及是否有異常監控及事件處理機制。

對一般使用者而言,則應留意自己的 AI 帳戶授權、付費方案及使用紀錄,不隨意交出登入資訊,也不要忽略服務平台發出的異常通知。

AI 服務的使用權限與雲端運算資源,同樣是需要保護的資訊資產。

只要涉及帳戶授權與付費資源,就有必要了解使用方式、管理責任及異常處理途徑,減少服務遭冒用後未能及時發現的風險。


引用連結

數位發展部資通安全署(115 年 9 月)
《資通安全網路月報(115 年 9 月)》

說明 API 身分驗證、存取權限、金鑰管理及請求頻率限制等安全措施。該月報所列案例不是 LLMJacking 事件。

https://moda.gov.tw/ACS/press/report/21106

Sysdig Threat Research Team(2024/05/06)
LLMjacking: Stolen Cloud Credentials Used in New AI Attack

記錄早期 LLMJacking 攻擊案例,說明遭竊雲端憑證如何被用於未經授權存取 AI 模型,以及潛在費用估算。

https://sysdig.com/blog/llmjacking-stolen-cloud-credentials-used-in-new-ai-attack/