[討論] 優化詠唱的感覺？

看板Soft_Job作者 (慕尼黑林志穎)時間1年前 (2023/04/15 08:32), 1年前編輯推噓3(3推 0噓 8→)
留言11則, 4人參與, 1年前最新討論串1/1
手機排版請見諒 小弟大約在去年 12 月開始跟風 ChatGPT 從此開始了自己的詠唱之旅 雖然有刻苦地修過 DL 但對于 Prompt 也沒有多高深的認知 目前是把 Prompt Engineering Guide 給嗑了一遍（還沒計畫深入去看論文 了解了一些詠唱的相關小知識 如明確指令、正確範例、規避誤導等等 進階技巧如 Few-Shot、COT、Self-Cobsistency 等也有都去理解 但實際上我沒有真正去優化過自己的詠唱 （官方文件有說，建議去 playground，從簡單的 instruction + example 開始，再慢慢 加入其他的 context、Input Data 或 Output Indicator 以進行優化） 我常常覺得自己隨便詠唱出來的就很夠用了 夠解決一些工作上不熟悉語言的問題 也夠我產出技術文件與 proofread 想請教有大大的使用場景是真的去優化了詠唱嗎？ 也想請教這種優化下實際體驗與感想！ P.S. 目前還使用 Telegram Bot 作為私人快速助手（可以產出 code block 格式很愛） ，但不知板上大大們有沒有其他私房推薦平台？也分享一下吧！ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 138.246.3.10 (德國) ※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1681518766.A.A28.html ※ 編輯: leviliang (138.246.3.10 德國), 04/15/2023 08:35:27
推
04/15 08:40, 1年前 , 1F
夠用就好了，我比較喜歡模糊地提問，廣度是 ChatGPT 最有價
04/15 08:40, 1F
→
04/15 08:40, 1年前 , 2F
值的地方 XD
04/15 08:40, 2F
推
04/15 20:06, 1年前 , 3F
不用優化了，AutoGPT出了，AI詠唱師要失業了
04/15 20:06, 3F
推
04/16 01:33, 1年前 , 4F
AutoGPT目前用的token過多，詠唱代價還太高
04/16 01:33, 4F
→
04/16 01:33, 1年前 , 5F
一次要14美元誰受得了
04/16 01:33, 5F
→
04/16 16:53, 1年前 , 6F
調參數（temperature ），給規則，task break down.
04/16 16:53, 6F
→
04/16 16:54, 1年前 , 7F
多給example
04/16 16:54, 7F
→
04/16 16:56, 1年前 , 8F
但prompt 越多就越容易超過token 上限，規則越多或
04/16 16:56, 8F
→
04/16 16:56, 1年前 , 9F
是降低temperature 倒不如直接brute force 直接把所
04/16 16:56, 9F
→
04/16 16:56, 1年前 , 10F
有規則寫死
04/16 16:56, 10F
→
04/16 16:58, 1年前 , 11F
可以去研究langchain 把task丟到不同model 去
04/16 16:58, 11F
‣ 更多 leviliang 的文章
文章代碼(AID): #1aEV2kee (Soft_Job)