[問題] frame-pointer 與 performance

看板CompilerDev作者 (陽光大肥宅)時間4年前 (2021/11/08 22:11), 4年前編輯推噓1(1推 0噓 13→)
留言14則, 2人參與, 4年前最新討論串1/1
大家好， 最近發現 llvm ir 有一個 attribute 叫做 frame-pointer， 它會影響 performance 目前 O3 預設是 none 的， 而如果是用 clang -emit-llvm -Xclang -disable-O0-optnone 這樣的方式取得沒有優化過的 llvm ir，則會是 all 據我說知，他會消除 frame pointer 的儲存（如果是 none 的話）， "理論上"會讓程式的 performance 好一點，畢竟會減少 register 的使用 經過測試，確實如果同是使用 O3 sequence，frame-pointer=none performance確實比較好 但是！！ 我用我自己的優化順序， frame-pointer=none 得到的 runtime = 8 sec 左右 frame-pointer=all 得到的 runtime = 3.8 sec 差非常多！ 然後我把他們轉成 Assembly code，確實不太一樣， 但 none 程式碼比較短，而且減少很多存取 卻讓 performance 更差勁 可以明白指令的多寡與 performance 無關， 但據我說知，frame-pointer 不去儲存與使用，應該會更快吧？ 甚至我自己有些 IR 從 all 改 none 會更好 唯獨某幾個 IR code 會更差。 我測試的 source code 的是 insertion sort https://imgur.com/nqexaZb
https://imgur.com/hKigtrh
https://imgur.com/FR3qETS
https://imgur.com/5119ek8
https://imgur.com/g3RHx98
這些是 Assembly code 的差異， 感覺與 insertion sort 本身的邏輯無關 補上 perf 之後的結果： frame-pointer=all Performance counter stats for './190_all' (10 runs): 142666 cache-misses # 0.020 % of all cache refs ( +- 5.01% ) 698701320 cache-references ( +- 0.71% ) 234781 branch-misses ( +- 0.44% ) 13059296783 cycles ( +- 0.16% ) 59991967735 instructions # 4.59 insn per cycle ( +- 0.05% ) 3.417880975 seconds time elapsed ( +- 0.26% ) frame-pointer=none Performance counter stats for './190_none' (10 runs): 352932 cache-misses # 0.046 % of all cache refs ( +- 2.58% ) 770977710 cache-references ( +- 0.81% ) 260282 branch-misses ( +- 0.33% ) 30052057516 cycles ( +- 0.05% ) 60037013675 instructions # 2.00 insn per cycle ( +- 0.05% ) 7.921856465 seconds time elapsed ( +- 0.05% ) 看起來branch-misses 高大概10% Insn per cycle 直接慢一半.. -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.43.59.118 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/CompilerDev/M.1636380668.A.B00.html
推
11/09 00:50, 4年前 , 1F
runetime 比較短performance 比較差？我漏看了什麼嗎 ?
11/09 00:50, 1F
抱歉，我秒數弄錯了
→
11/09 01:55, 4年前 , 2F
Assembly 都在你眼前了，再加點油分析一下。
11/09 01:55, 2F
→
11/09 01:55, 4年前 , 3F
LLVM 可以在每個 pass 跑完後 dump IR / machine IR，
11/09 01:55, 3F
→
11/09 01:55, 4年前 , 4F
對了解優化、為什麼生出這樣的 pattern 很有幫助。
11/09 01:55, 4F
→
11/09 01:55, 4年前 , 5F
另外就是不太確定你有沒有讀過 System V ABI，如果要做
11/09 01:55, 5F
→
11/09 01:55, 4年前 , 6F
的這麼深的優化的話熟悉 ABI 是很重要的！
11/09 01:55, 6F
→
11/09 02:04, 4年前 , 7F
啊...好像講了些不太相干的東西，回到你的問題，雖然給
11/09 02:04, 7F
→
11/09 02:04, 4年前 , 8F
的資訊有點少，不過從執行時間的差距、codegen 結果的
11/09 02:04, 8F
→
11/09 02:04, 4年前 , 9F
差異來看，我會覺得有可能是由於 cache 所造成的。
11/09 02:04, 9F
剛剛使用 Linux 的工具 perf 分析兩者差異， 在 cache misses, cache reference 上沒有差異， 但在 instrcutions per cycle 上有著顯著的差異： frame-pointer=all 的 有 4.56 instruction num per cycles, frame-pointer=none 的則只有 1.99 instruction num per cycles. ※ 編輯: shane87123 (114.43.59.118 臺灣), 11/09/2021 02:17:11 ※ 編輯: shane87123 (114.43.59.118 臺灣), 11/09/2021 02:32:19
→
11/09 09:19, 4年前 , 10F
Branch miss 呢？
11/09 09:19, 10F
補上了！謝謝大大 ※ 編輯: shane87123 (101.12.89.21 臺灣), 11/09/2021 13:28:27 ※ 編輯: shane87123 (101.12.89.21 臺灣), 11/09/2021 13:28:51
→
11/09 16:50, 4年前 , 11F
有開 frame-pointer 的版本因為有多的 push、move 個關
11/09 16:50, 11F
→
11/09 16:50, 4年前 , 12F
係，因此不建議直接對 instruction num per cycles 下
11/09 16:50, 12F
→
11/09 16:50, 4年前 , 13F
定論。然後我注意到一個地方，all、none 的 instructio
11/09 16:50, 13F
→
11/09 16:50, 4年前 , 14F
n 數量是差不多的，可以看看是為什麼 :)
11/09 16:50, 14F
‣ 更多 shane87123 的文章
文章代碼(AID): #1XYI_yi0 (CompilerDev)