Re: [問題] 逐行處理大檔有更快的方法嗎
: 我需要用perl對大檔做典型的每行比對擷取處理工作,
^^^^^
不知道您的資料有多大,常常處理 100GB-200GB 的檔案
逐行處理這種資料 I/O threshold 很重要
另外 在 loop 裡面的東西 能精簡則精簡.
my $i;
while .. {
$i=...
}
和 while .. { my $i=.... }
就是不一樣
建議您看看 loop 裡的內容
chomp 可能不需要
字串比對與擷取部分資訊可能可以合併用 RE 解決
: 可是效能似乎不佳,是逐行處理的工作本身就一定很慢?或是有沒有更快的寫法呢?
: 感恩!
: ps. 我有拿掉處理資訊的部分,效能還是很慢,確認瓶頸不是在那邊
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 61.217.209.180
→
04/27 00:40, , 1F
04/27 00:40, 1F
→
04/27 00:43, , 2F
04/27 00:43, 2F
討論串 (同標題文章)
本文引述了以下文章的的內容:
完整討論串 (本文為第 5 之 5 篇):