[問題] 在不同csv檔管理重複資料的方法
Hi 大家好 想問一個觀念題
我有一個其他程式每天會固定輸出一個固定格式的csv到固定的資料夾
我目前已經實現用dataframe把當日新的csv內重複的資料刪除並保留最新的 並將每天處
理過的csv
另存到其他資料夾並自動上傳到雲端
ex:
人名,穿著,時間
小明,黃色衣服,17:50 6/18
小明,紅色衣服,18:50 6/18
根據同樣的人名小明 只保留最新時間的資料的小明紅色衣服資料 刪除舊的小明黃色衣服
的資料
但我現在遇到的問題是如果有跨csv的重複人名資料 ex小明可能會出現在前天6/16的跟今
天6/18的csv 我要刪除舊的重複資料就會有難度 請問有沒有比較好的方法來去做管理?
for loop把所有csv read到同一個df感覺沒有有點不切實際?因為我有非常多csv檔
謝謝
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.135.236.153 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Python/M.1655512267.A.127.html
※ 編輯: leog123456 (111.243.105.216 臺灣), 06/18/2022 08:37:29
※ 編輯: leog123456 (220.135.236.153 臺灣), 06/18/2022 08:39:38
推
06/18 08:39,
1年前
, 1F
06/18 08:39, 1F
※ 編輯: leog123456 (220.135.236.153 臺灣), 06/18/2022 08:40:15
→
06/18 08:41,
1年前
, 2F
06/18 08:41, 2F
謝謝 目前已經是用類似的方式處理單筆csv內的重複資料 但是我的問題是跨不同csv的重
複資料
推
06/18 09:33,
1年前
, 3F
06/18 09:33, 3F
→
06/18 09:38,
1年前
, 4F
06/18 09:38, 4F
推
06/18 09:40,
1年前
, 5F
06/18 09:40, 5F
謝謝 已經會處理單個csv的 想要討論如果我有非常多csv有什麼好辦法嗎?全部import
到一個df的話我還有辦法照原本csv output 出來嗎?ex. 10個進去 10個出來 這樣
※ 編輯: leog123456 (220.135.236.153 臺灣), 06/18/2022 10:23:12
推
06/18 11:16,
1年前
, 6F
06/18 11:16, 6F
→
06/18 11:18,
1年前
, 7F
06/18 11:18, 7F
→
06/18 11:19,
1年前
, 8F
06/18 11:19, 8F
好的 來試試看 謝謝!
※ 編輯: leog123456 (220.135.236.153 臺灣), 06/18/2022 12:14:31
推
06/18 16:13,
1年前
, 9F
06/18 16:13, 9F
→
06/18 16:13,
1年前
, 10F
06/18 16:13, 10F
謝謝!會研究看看
※ 編輯: leog123456 (220.135.236.153 臺灣), 06/18/2022 16:25:40
※ 編輯: leog123456 (220.135.236.153 臺灣), 06/18/2022 16:26:54
→
06/19 03:07,
1年前
, 11F
06/19 03:07, 11F
→
06/19 03:08,
1年前
, 12F
06/19 03:08, 12F
→
06/19 03:10,
1年前
, 13F
06/19 03:10, 13F
謝謝 的確有一點麻煩 每天都會有一個csv產出 然後我有程式每天自動去修改當日(datet
ime==today)產出的csv
然後上傳到server再做圖 但難處就在今天新建的csv內有跟先前上傳過的csv內有重複的
資料(小明) 所以造成那麼矛盾的問題 不好意思
※ 編輯: leog123456 (220.135.236.153 臺灣), 06/19/2022 23:31:43
※ 編輯: leog123456 (111.243.141.44 臺灣), 06/19/2022 23:34:58
推
06/20 11:04,
1年前
, 14F
06/20 11:04, 14F