[LLMs] SillyTavernAI API密鑰與反向代理

看板AI_Art作者 (GIW)時間10月前 (2023/06/13 17:35), 10月前編輯推噓0(002)
留言2則, 1人參與, 10月前最新討論串1/1
看完前篇相信你已經將ST安裝完成 要使用它就必須連接上AI 這時候就需要API密鑰 我在此做幾個簡單示範 1.OAI https://platform.openai.com/account/api-keys 你必需註冊OAI帳號 並登入此頁選 + Create new secret key 保存好你的密鑰 開頭會是 sk-後面一串亂碼 然後填入框中按連接 https://imgur.com/s5bC6m1
如果連不上 請到剛才OAI的頁面選 Usage 有99%的可能是免費額度過期或用完 https://imgur.com/ttTdstO
你可以選擇付費或找其他方法 目前申請新帳號應該會獲得5鎂試用額度 p.s.一般情況下OAI模型要選GPT3.5 除非你有特別申請GPT4的密鑰來用 OAI有過濾器 可越獄 2.NAI https://novelai.net/stories 說明頁 https://docs.sillytavern.app/usage/api-connections/novelai/ 同樣先去註冊NAI帳號會獲得免費試用50次回文 在NAI頁面按F12 跟他對話一下應該能找到你的API密鑰 https://imgur.com/0ks1LCy
免費試用的模型要選克里歐(Clio) 有訂閱的話可以選其他模型 https://imgur.com/EcgO3ew
NAI主要支援英日語 沒有過濾器 3.POE https://poe.com/ 說明頁 https://docs.sillytavern.app/usage/api-connections/poe/ 同樣請先註冊POE 按F12開始對話 尋找你的餅乾 詳細請見說明頁 https://imgur.com/naaQeKA
https://imgur.com/G79vZJA
POE可以選擇你想使用的AI 或其他人建立並分享的BOT 有些BOT已經越獄完成 https://imgur.com/dPuc4ZP
根據你選擇的AI來設置上下文大小 POE有過濾器 可越獄 關於越獄的問題 我建議可以去 SillyTavern 的 Discord 有專門頻道討論 或者去一些相關的論壇尋找資訊 例如 4chan 2ch.hk arca.live 關於反向代理 它是為了保護分享者而設立的機制 而使用者的資訊有可能被暴露 一開始的時候大家都是直接分享API密鑰的 當時的論壇簡直就是一群毒蟲在等開飯 因為AI聊天的中毒成癮性真的很高 但有些人拿到密鑰就在亂搞耍廚 比如把餘額設成0元讓大家不能玩 盜賣API 或者攻擊分享者(因為廚來晚了玩不到) 後來在 https://huggingface.co/ 上才有人搞出反向代理來保護分享者 https://navigatethecoom.github.io/navigate/ 此網頁收集了一些反向代理的伺服器 我不確定網頁會維持多久 請在使用前仔細閱讀每個伺服器的設定與說明 任何風險將由你自行承擔 他會說明目前提供哪些AI供使用 turbo=GPT3.5turbo anthropic=克勞德 我拿其中一個來做示範 https://imgur.com/MSDjrw0
先把插頭設定改為OAI 模型選GPT4 https://imgur.com/3S1wxo9
首先可以看到這行 請複製起來 不包含" 反向代理的網址 請在最後面加上 /v1 然後填入反向代理框內 https://imgur.com/0VX6oeW
然後把密碼填入API密鑰框內 而我將密碼放在標題 https://imgur.com/LRbSdqa
一般來說你必須常逛他們論壇才會知道密碼 總之反向代理就是個半開放的分享方式 必須知道他的分享網址,密碼(有些不需要),有些需要排隊 有些會公布聊天訊息,可能有語言過濾器禁中日韓文 曾經有個叫Todd的反向代理AI會隨機觸發內建提示 突然離題說出Bethesda遊戲相關話題 最後我要介紹的是我自己正在使用的Slack https://app.slack.com/ 首先還是先註冊 進入工作區後的畫面大致如此 https://imgur.com/qOw1vN7
然後新增頻道 記得勾選邀請外部人員PRO 然後會問是否同意免費試用30天 當然同意 https://imgur.com/ohyYbQM
在應用程式這邊新增克勞德 https://imgur.com/Q7QFuAl
在頻道內@Claude 把克勞德邀請進頻道 https://imgur.com/K5ADQ88
跟克勞德第一次對話 選同意 https://imgur.com/FcEr977
下載Slaude https://github.com/bfs15/slaude 點開Slaude的config.js const config = { TOKEN: "xoxc-xxxx", COOKIE: "xoxd-xxxx", TEAM_ID: "workspacename", CHANNEL: "C1234D4567S", CLAUDE_USER: "U1234A568BC", 我們要編輯這幾行的值 回到SLACK網頁 點F12 在SLACK網頁的應用程式跟克勞德對話 查看F12的"網路" https://imgur.com/khbwW5W
可以找到 TOKEN 填入 config.js 然後在F12的"應用程式" https://imgur.com/YvLi4gQ
可以找到 COOKIE 填入 config.js 現在可以把F12關閉了 SLACK左上 你的工作空間名稱點擊兩次 https://imgur.com/yFnumnC
可以找到 TEAM_ID 填入 config.js 在你邀請克勞德加入的頻道 點擊上方頻道名稱 https://imgur.com/NYN2f2n
可以找到 CHANNEL 填入 config.js 在克勞德應用程式上方 點擊克勞德名稱 https://imgur.com/KnflwDq
可以找到 CLAUDE_USER 填入 config.js 把config.js存檔 在Slaude資料夾內雙擊start.bat https://imgur.com/aG8QH6q
把網址填入反向代理 https://imgur.com/fejtDh6
在插頭頁面點連接即可使用 在運行時 ST跟Slaude的小黑窗必須維持開啟 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 122.116.1.190 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/AI_Art/M.1686648933.A.7F4.html ※ 編輯: ixvjlv (122.116.1.190 臺灣), 06/13/2023 17:37:10 ※ 編輯: ixvjlv (122.116.1.190 臺灣), 06/13/2023 17:37:44

06/13 20:18, 10月前 , 1F
後半段那個..等於是把slack免費試用的claude轉接過去
06/13 20:18, 1F

06/13 20:18, 10月前 , 2F
給sillyTavernm用?..
06/13 20:18, 2F
文章代碼(AID): #1aY3XbVq (AI_Art)