Insecure Compiler Optimization

若清除記憶體上的敏感資料操作有誤，就會危及安全性。

出現以下情況時，就會發生編譯器最佳化錯誤：

1. 機密資料儲存在記憶體中。

2. 藉由覆寫記憶體內容的方式，來從記憶體清除機密資料。



3. 來源程式碼藉由使用最佳化編譯器來編譯，其會將覆蓋相關內容的函數做為一個無效儲存識別出來並進行移除，因為記憶體之後不會使用這個儲存。
範例 1：以下程式碼會從使用者讀取密碼、使用此密碼連線到後端主機，然後嘗試使用 memset() 來清除記憶體中的密碼。

  void GetData(char *MFAddr) {
  char pwd[64];
  if (GetPasswordFromUser(pwd, sizeof(pwd))) {
   if (ConnectToMainframe(MFAddr, pwd)) {
		 // Interaction with mainframe
	 }
  }
  memset(pwd, 0, sizeof(pwd));
}

如果範例中的程式碼被逐字地執行，那麼它就能正確地執行；但如果程式碼是使用最佳化編譯器進行編譯 (如 Microsoft Visual C++(R) .NET 或者 GCC 3.x)，那麼 memset() 的呼叫會被當作一個無效儲存清除，因為 pwd 的緩衝區在它的數值被覆蓋之後不會再次被使用 [2]。因為緩衝區 pwd 包含一個敏感值，所以如果資料經常被留在記憶體中，應用程式就會容易受到攻擊。如果攻擊者能夠存取記憶體正確的區域，他們就能使用復原後的密碼來取得對系統的控制。

為了防止攻擊者得到系統的機密，覆蓋記憶體中操作的敏感資料 (如密碼或密鑰) 是種常見的作法。然而，隨著最佳化編譯器的到來，程式不會一直如指示的那樣僅僅按照來源程式碼執行。在此範例中，因為 memset() 的呼叫被寫入記憶體之後不會被使用，所以編譯器將這個呼叫解譯為一段 Dead Code；而這樣做實際上很顯然會引起一個安全問題。這裏的問題是，許多編譯器和許多程式語言並沒有在其提高效率時考慮到此問題和其他安全問題。

攻擊者通常會使用核心傾印或執行期間機制來利用這種類型的弱點，藉此存取某個特定的應用程式所使用的記憶體，並恢復機密資訊。一旦攻擊者存取到機密資訊，盜取更多的系統資訊就相對簡單了，並有可能危及到這個應用程式涉及到的其他資源。