技術文章

在 Delphi 中的平行 XLSX 解析:記憶體管理員瓶頸

用八條工作者執行緒解析八張工作表的 XLSX 封裝,CPU 圖表卻幾乎貼著單核不動;把執行緒數從 2 掃到 8,碼錶數字也幾乎原地踏步。兩條執行緒時甚至可能比純序列迴圈更慢。解析程式碼自己不加鎖,工作表之間也不共享資料,等待發生在原始碼從未提及的地方:記憶體管理員內部——每個元素名稱、屬性值和儲存格,工作者都要向它伸手

執行緒數是大家第一個去轉的旋鈕。對配置繫身的程式碼,它幾乎轉不動什麼。真正搬動曲線的,是每個儲存格要付出的堆積配置次數

HotXLS 如何把 Open 拆成三個階段

HotXLS 預設就在工作者執行緒上解析多工作表 XLSX 封裝。TXLSXWorkbook.ParallelParse 初始為 True,ParallelParseThreads 初始為 0,意思是作業系統回報的每個邏輯處理器各派一名工作者,且永不超過待解析的工作表數。Open 的三個階段只有一個跑在那些工作者上。階段 A 是序列的:讀取活頁簿部件、共用字串和樣式,以名稱與可見性建立每張工作表,並解析每張表的關聯檔,讓超連結與表格目標預先定位。等工作者開工時,它查閱的每張查找表都已完備,而且只會被讀取

階段 B 把每張工作表交給工作者。工作者以 interlocked 遞增從共用計數器認領工作表索引,所以一份「一大七小」工作表的活頁簿不需要排程器就能自我平衡:誰先做完小表,就順手領下一個索引。ZIP 容器是無法天真共享的部分,因為 deflate 串流的狀態會從一個區塊延續到下一個,兩條執行緒無法共同推進同一個解壓縮器。因此每個工作者對自己負責的 sheet 條目各自開啟解壓縮器,把 XML 直接串流進自己的讀取器。檔案控制代碼是唯一共用資源,圍繞它的鎖一次只涵蓋一次壓縮位元組的 seek-and-read。解壓與解析都平行進行,任何工作表的 XML 都不會完整膨脹在記憶體裡。解析結束時,工作者會把條目讀到尾,讓 ZIP 的大小與 CRC 檢查照常執行

階段 C 回到單執行緒,處理掛在每張工作表上的部分:註解與對話式註解、繪圖與圖表、表格、列印設定。在多數活頁簿裡,這些相對儲存格 XML 都很小

HotXLS 在 Delphi 中三階段載入 XLSX 的示意圖:序列建立工作表與關聯,工作者池平衡分擔工作表解析、每個工作者自行解壓並解析自己的 sheet 條目,最後序列讀取註解、繪圖、圖表與表格
只有中間階段跑在工作者上;每個工作者解壓並解析自己的 sheet 條目,僅有來自共用檔案的原始讀取需要輪流

錯誤回到呼叫執行緒上。某張工作表在解析中拋出例外時,池子停止發放新索引,等還在跑的工作者收工,然後從 Open 重新拋出編號最小那張失敗工作表的例外,回報因此遵循工作表順序,呼叫端也不必應付從工作者執行緒逃逸的例外。RecoveryMode 設為 True 時,解析失敗的工作表改為跳過,警告記進 Diagnostics,其餘工作表照常載入。把 ParallelParse 設為 False 則用同一套解析器逐張處理,結果與平行版完全一致

var
  Book: TXLSXWorkbook;
begin
  Book := TXLSXWorkbook.Create;
  try
    // 兩個值都是預設;寫明出來讓這個選擇
    // 在 code review 時看得見
    Book.ParallelParse := True;
    Book.ParallelParseThreads := 0;  // 0 = 每個邏輯 CPU 一名工作者,上限為工作表數
    Book.RecoveryMode := False;      // 解析失敗的工作表會從 Open 拋出例外
    if Book.Open('quarterly-ledger.xlsx') <> 1 then
      raise Exception.Create('open failed');
    // 每張工作表在此已完整載入;照平常方式讀取儲存格
  finally
    Book.Free;
  end;
end;

為什麼多開執行緒反而讓配置密集的解析器變慢?

工作表解析大都是小型配置,而 Delphi 預設記憶體管理員讓執行緒在這些配置上輪流排隊。天真的 XML 讀取器會為每個元素名稱產生一個字串、為每個屬性名稱與值各產生一個、為儲存格產生一個 Variant、再為其文字產生一個字串。預設記憶體管理員把小型區塊按大小分池保管,每個池配一把鎖。發現鎖被占用的執行緒會退讓、睡一覺再重試。八個工作者都在伸手要同樣幾種小尺寸時,它們不斷撞上同一批池,在原始碼裡看似彼此獨立的執行緒,最後變成一個接一個跑

這解釋了開頭的兩個症狀。CPU 時間貼近牆鐘時間,因為睡覺的執行緒不燒 CPU;執行緒掃描曲線持平,因為定節奏的是池鎖而不是核心。兩條執行緒甚至可能直接輸給一條:每次配置都要付跨核心來回傳鎖的成本,而序列迴圈根本無競爭

平行 XLSX 解析時 Delphi 工作者執行緒在記憶體管理員共用小型區塊鎖上排隊的示意圖,佐證方塊顯示執行緒掃描持平、配置沖刷反向擴展、CPU 時間貼近牆鐘時間
每筆小型配置都要經過記憶體管理員的共用記帳,原始碼裡看似獨立的工作者,大把時間都花在互相等待

在 Windows 上有一種字串型別置身事外。WideString 是 COM BSTR,由系統的 OLE 字串配置器配置,而非 Delphi 記憶體管理員,所以 WideString 的流量永遠不會在 Delphi 池上排隊。HotXLS 把儲存格文字存成 WideString,這一點對平行載入的意義比當年對序列路徑更大

在自己的活頁簿上實測競爭

兩個數字能判斷載入是否配置繫身:工作者數上升時牆鐘時間怎麼變,以及同一時段處理程序吃掉多少 CPU。八個工作者名義上都在忙,CPU 時間除以牆鐘時間卻停在 1.0 附近,代表它們在排隊而不是在解析。下面的掃描用 1 到 8 個工作者開啟同一個檔案,印出兩項數字。它是給你自己測試專案用的量測治具;只有 TXLSXWorkbook 的成員來自 HotXLS

uses
  Winapi.Windows, System.SysUtils, System.Math, System.Diagnostics;

// 你自己的輔助函式:本處理程序的使用者 + 核心 CPU 時間,單位毫秒
function ProcessCpuMs: Int64;
var
  Created, Exited, Kernel, User: TFileTime;
begin
  GetProcessTimes(GetCurrentProcess, Created, Exited, Kernel, User);
  Result := (Int64(Kernel) + Int64(User)) div 10000;  // 100 奈秒刻度換算毫秒
end;

procedure SweepThreads(const FileName: string);
var
  N: Integer;
  Book: TXLSXWorkbook;
  SW: TStopwatch;
  Cpu0, Cpu: Int64;
begin
  for N := 1 to 8 do
  begin
    Book := TXLSXWorkbook.Create;
    try
      Book.ParallelParseThreads := N;  // 1 跑純序列迴圈
      Cpu0 := ProcessCpuMs;
      SW := TStopwatch.StartNew;
      if Book.Open(FileName) <> 1 then
        raise Exception.CreateFmt('open failed: %s', [FileName]);
      SW.Stop;
      Cpu := ProcessCpuMs - Cpu0;
      Writeln(Format('%d workers: %d ms wall, CPU/wall %.2f',
        [N, SW.ElapsedMilliseconds, Cpu / Max(Int64(1), SW.ElapsedMilliseconds)]));
    finally
      Book.Free;
    end;
  end;
end;

多跑幾次掃描,每個工作者數取最佳值,因為第一輪還要付冷磁碟快取的成本。牆鐘曲線持平且 CPU/wall 接近 1,代表天花板是記憶體管理員。牆鐘持續下降、CPU/wall 向工作者數爬升,則檔案是解析繫身,多出來的工作者正在賺回自己

曲線持平就帶出下一個問題:哪些配置該負責?一個按大小統計呼叫次數的記憶體管理員包裝器,幾分鐘就能回答,不必動用效能分析器。下面的版本只統計 GetMem,FreeMem 和 ReallocMem 原樣轉交原本的管理員,已足夠看清流量來源

// 加到你自己的測試治具裡的診斷碼;不是 HotXLS 的一部分
var
  OldMM, NewMM: TMemoryManagerEx;
  AllocCount, TinyCount: Int64;

function CountingGetMem(Size: NativeInt): Pointer;
begin
  AtomicIncrement(AllocCount);
  if Size <= 32 then
    AtomicIncrement(TinyCount);  // 值得盯著看的小區塊沖刷
  Result := OldMM.GetMem(Size);
end;

procedure InstallCounter;
begin
  GetMemoryManager(OldMM);
  NewMM := OldMM;
  NewMM.GetMem := CountingGetMem;
  SetMemoryManager(NewMM);
end;

procedure RemoveCounter;
begin
  SetMemoryManager(OldMM);
end;

在 Open 前一刻裝上計數器,結束後立刻移除,把 AllocCount 除以檔案裡的儲存格數。這個每儲存格數字才是該逐版追蹤的指標,32 位元組以下區塊的佔比則顯示短字串是否當家。寫儲存格物件池之前先看它:每個儲存格物件是一次配置,而解析該儲存格時產生的短命字串,數量輕鬆超過它好幾倍

配置藏在工作表 XML 的哪些角落

像 <c r="B7" s="3" t="s"><v>42</v></c> 這樣的儲存格在磁碟上看起來很小。直接的讀取器仍會把它換成一連串新字串:元素名稱 c 和 v、三個屬性名稱、三個屬性值、文字內容。每個 UTF-8 記號都過一次 RTL 轉換,在最終的 WideString 出現前又多出一個中繼 UnicodeString。這些字串沒有一個活得過儲存格本身,而每一個都是一趟記憶體管理員之旅

HotXLS 的 XML 讀取器專攻兩個最大的來源。工作表 XML 裡的元素名稱來自極小的字彙表(row、c、v、f、is),所以讀取器維護一份已遇名稱的短快取,把新名稱的原始位元組對著快取比對,命中就回傳快取字串。快取副本刻意用 AnsiString。AnsiString 有參照計數,發放快取實例只花一次計數器遞增,完全不配置。WideString 名稱快取則毫無好處:WideString 沒有參照計數,每次指派都是一次新的系統配置

屬性名稱、屬性值和儲存格文字走另一條路。讀取器從掃描緩衝直接兩趟解碼 UTF-8:第一趟數出 UTF-16 碼元數量,第二趟填入一次配置到位的 WideString。每個記號一次配置,而且落在系統字串配置器上,不進 Delphi 池。&#x41; 這類字元參照和預先定義實體都在解碼開始前由掃描器解析,解碼器只看得到純 UTF-8。對不是合法 UTF-8 的位元組序列,解碼器把問題位元組逐一原樣複製,而 RTL 轉換會丟棄或替換它們,受損檔案在壞點附近仍可讀出 ASCII。合法輸入兩種方式解碼結果相同

這兩招都能搬進你自己的 Delphi 解析程式碼。快取字串只有在字串型別有參照計數時才省得到配置;直接解碼進目標型別,則免掉便利的 RTL 轉換函式每次呼叫都製造的暫時物件

哪些活頁簿受益,該選哪些設定

平行解析以工作表為粒度,所以活頁簿的形狀決定大半結果。數張大小相近的工作表是最佳情境,包括按地區或按月份複製範本工作表產生的檔案。只有一張巨表的活頁簿無論 ParallelParseThreads 怎麼設都只在一名工作者上解析;這種形狀更適合串流直接讀取器,它根本不會在記憶體裡建出整本活頁簿。花在註解、圖表與繪圖的時間留在序列的階段 C。待解析工作表為零或一張的檔案直接跳過池子,跑純序列迴圈

只有部分工作表重要時,呼叫 Open 前把它們的名稱列進 SelectedSheets。其餘工作表仍會以名稱與可見性建立,只是沒有儲存格;工作者掠過它們,之後使用者開啟時再用 LoadSheet 補載

HotXLS 藉快取元素名稱與直接解碼 UTF-8 降低配置的示意圖,旁列平行解析仍幫不上的活頁簿形狀:單張巨表、序列衛星部件與小型檔案
每儲存格配置次數下降,多開工作者才開始划算;單表活頁簿與序列衛星部件則守著各自的上限

一次開一本活頁簿的桌面工具和批次作業,讓 ParallelParse 保持開啟。這個預設比較安全:結果與序列路徑一致,真有執行緒疑慮時一個屬性就能關掉。已經在並發開啟多本活頁簿的伺服器則不同。每條請求執行緒都在配置,多一名解析工作者就多一個搶同一批記憶體管理員池的競爭者;在伺服器上把 ParallelParseThreads 設為 2,並在該伺服器正常負載下跑過上面的掃描、確認多餘工作者確實有賺頭之後才上調。每儲存格配置次數下降能抬高天花板,但拿不掉天花板。儲存格物件與容器成長仍走 Delphi 池,這就是八個工作者的增益遠低於八倍的原因。載入與存檔工具鏈的其餘部分,從樣式重用到整列回呼,請見 Delphi 大型活頁簿效能指南

工作者池、ParallelParse 與 ParallelParseThreads 開關、以及省配置的 XML 讀取器,都隨 HotXLS Delphi Excel Component 出貨,它直接從 Delphi 與 C++Builder 程式碼讀寫 XLS、XLSX 和 ODS,機器上不必安裝 Excel