Cross-Site Scripting: DOM AI

傳送未經驗證的資料至網路瀏覽器，會導致瀏覽器執行惡意的程式碼。

Cross-Site Scripting (XSS) 弱點會在以下情況中出現：

1.資料從一個不可信賴的來源進入 Web 應用程式。在以 DOM 為基礎的人工智慧 (AI) XSS 案例中，來自 AI 提示回應的資料會透過用戶端程式碼寫回頁面。在 Reflected XSS 案例中，不可信賴的來源通常為網頁要求，而在 Persisted XSS (也可稱為 Stored XSS) 案例中，來源通常為資料庫或其他後端資料存放區。


2.未經驗證且包含在動態內容中的資料將傳送給某個網頁使用者。在基於 DOM 的 XSS 案例中，一旦受害者的瀏覽器開始剖析 HTML 頁面，就會開始執行惡意內容，且成為建立 DOM (Document Object Model，文件物件模型) 的一部分。

傳送到網頁瀏覽器的惡意內容經常是以 JavaScript 片段的形式出現，但是也可能包含 HTML、Flash 或者瀏覽器執行的任何其他程式碼類型。以 XSS 為基礎的攻擊手段花樣百出且幾乎無窮無盡，但是它們通常會傳輸 Cookie 或其他階段作業資訊之類的私人資料給攻擊者、將受害者重新導向到攻擊者控制的網頁內容，或者利用易受攻擊的網站，在使用者的機器上執行其他惡意操作。

範例 1：以下 JavaScript 程式碼片段會從大型語言模型 (LLM) 擷取回應並顯示給使用者。

<SCRIPT>
var response = llm.invoke(user_prompt);
...
document.write(response);
</SCRIPT>

當攻擊者可以修改瀏覽器的 DOM，使用戶端程式碼將以非預期且潛在危險的方式執行時，就會發生以 DOM 為基礎的 XSS。

LLM 的輸出無法預料，這使得攻擊者能夠利用即時工程技術產生意外的輸出，並繞過原本用於防止 LLM 產生危險回應的開發人員指令。

如同範例中所示，XSS 弱點是由包含 LLM 未經驗證回應的程式碼所引起的。XSS 攻擊有三種途徑可攻擊受害者：

- 直接從 HTTP 要求讀取資料，並直接回傳至 HTTP 回應。當攻擊者誘使使用者提供危險內容給易受攻擊的 Web 應用程式，接著這些危險內容就會回傳給使用者並由在網路瀏覽器中執行，這時就會出現 Reflected XSS 攻擊行為。傳遞惡意內容最常用的機制就是，將惡意內容當作參數隱藏在公開發表的 URL 中，或者以電子郵件方式直接傳送給受害者。以這種方法建立的 URL 會構成許多網路釣魚 (phishing) 架構的核心，攻擊者可以藉此誘使受害者去造訪一個指向到易受攻擊網站的 URL。網站將攻擊者的內容回傳給使用者之後，就會執行這些內容，並接著從使用者的電腦將可能包含階段作業資訊的 Cookie 之類的私人資訊傳給攻擊者，或者執行其他惡意活動。

- 應用程式會將危險資料儲存到資料庫或其他可信任的資料存放區中。這些危險資料隨後會被回讀到應用程式，並包含在動態內容中。Persistent XSS 攻擊會在以下情況出現：攻擊者把危險內容插入到之後會讀取的資料儲存區中，並包含在動態內容中。從攻擊者的角度來看，插入惡意內容的最佳位置莫過於一個會對很多使用者或特別感興趣的使用者顯示的區域。感興趣的使用者通常會在應用程式中擁有較高的權限，或者會與敏感資料進行互動，且這些資料對攻擊者而言很有利用價值。如果其中一個使用者執行了惡意內容，攻擊者可能會代替使用者執行需要權限許可的操作，或者取得存取使用者專屬敏感資料的權限。

- 應用程式的外部來源會產生潛在的危險資料 (例如 LLM)，將危險資料儲存在資料庫中，或從另一個資料存放區擷取資料。這些危險資料隨後會作為可信任的資料被回讀到應用程式，並包含在動態內容中。