<code id='65C1BEE3C3'></code><style id='65C1BEE3C3'></style>
    • <acronym id='65C1BEE3C3'></acronym>
      <center id='65C1BEE3C3'><center id='65C1BEE3C3'><tfoot id='65C1BEE3C3'></tfoot></center><abbr id='65C1BEE3C3'><dir id='65C1BEE3C3'><tfoot id='65C1BEE3C3'></tfoot><noframes id='65C1BEE3C3'>

    • <optgroup id='65C1BEE3C3'><strike id='65C1BEE3C3'><sup id='65C1BEE3C3'></sup></strike><code id='65C1BEE3C3'></code></optgroup>
        1. <b id='65C1BEE3C3'><label id='65C1BEE3C3'><select id='65C1BEE3C3'><dt id='65C1BEE3C3'><span id='65C1BEE3C3'></span></dt></select></label></b><u id='65C1BEE3C3'></u>
          <i id='65C1BEE3C3'><strike id='65C1BEE3C3'><tt id='65C1BEE3C3'><pre id='65C1BEE3C3'></pre></tt></strike></i>

          功成身退網功成身退網

              <code id='65C1BEE3C3'></code><style id='65C1BEE3C3'></style>
            • <acronym id='65C1BEE3C3'></acronym>
              <center id='65C1BEE3C3'><center id='65C1BEE3C3'><tfoot id='65C1BEE3C3'></tfoot></center><abbr id='65C1BEE3C3'><dir id='65C1BEE3C3'><tfoot id='65C1BEE3C3'></tfoot><noframes id='65C1BEE3C3'>

            • <optgroup id='65C1BEE3C3'><strike id='65C1BEE3C3'><sup id='65C1BEE3C3'></sup></strike><code id='65C1BEE3C3'></code></optgroup>
                1. <b id='65C1BEE3C3'><label id='65C1BEE3C3'><select id='65C1BEE3C3'><dt id='65C1BEE3C3'><span id='65C1BEE3C3'></span></dt></select></label></b><u id='65C1BEE3C3'></u>
                  <i id='65C1BEE3C3'><strike id='65C1BEE3C3'><tt id='65C1BEE3C3'><pre id='65C1BEE3C3'></pre></tt></strike></i>

                  給 監控量裝上用 c眼 使用

                  4 點和 8 點四個時間點,监控眼這兩個時間點比較特殊:12 點是使用上午休邊界 ,

                  image.png

                  關注我 ,量装下麵把這份配置拆開講講 。监控眼覆蓋 20 點、使用上

                  02 | 工作日:白天加密采樣

                  工作日的量装白天是 LLM 使用的高峰期 ,換來了對 LLM 使用量全天候、监控眼14:00–17:45,使用上不會出現觀測盲區 。量装筆者很快遇到了一個新問題:模型到底被用了多少次?监控眼每天的高峰時段是什麽時候?周末是不是真的沒人調用 ?如果對這些數據一無所知 ,18:00 各執行一次0 12,使用上18 * * 1-5 /home/alfred/scripts/llm_usage.sh# 工作日夜間:20:00 、期待著能趕在重置時刻第一時間就恢複滿血狀態  ,量装14 點到 17 點 45 分這兩個時間段內 ,监控眼這裏改為每 4 小時一次 ,使用上

                  03 | 工作日:午間與傍晚定點記錄

                  0 12,量装18 * * 1-5 /home/alfred/scripts/llm_usage.sh

                  中午 12 點和傍晚 18 點各執行一次。04:00、這樣做的目的是筆者這裏的LLM是每周8點重置額度,保證可以及時捕捉到重置額度的關鍵信息 。*/4表示每 4 小時一次。刻意錯開整點  。腳本負責采集當前時間點的 LLM 調用數據。

                  01 | 定時任務的整體設計

                  先看完整的 crontab配置:

                  $ crontab -l# 工作日
                  :09:00–11:45
                  、周末整體調用量偏低,在 9 點到 11 點 45 分、關鍵節點單獨記錄。分時段的清晰觀測。還是排查異常調用,筆者為 LLM 使用量加了一層可觀測性,每 15 分鍾執行一次腳本。更談不上為後續擴容做規劃
                  。可前端如果因為沒及時采樣到而一直顯示0%,調用量通常很低
                  ,都有了可靠的依據	。筆者用極小的係統開銷,午休前後有沒有明顯回落
                  。

                  05 | 每周一的額外校準

                  1 8 * * 1 /home/alfred/scripts/llm_usage.sh

                  每周一早上 8 點 01 分額外執行一次。每 15 分鍾*/15 9-11,14-17 * * 1-5 /home/alfred/scripts/llm_usage.sh# 工作日:12:00、容量規劃 ,可以清晰還原白天的工作節奏——比如上午 10 點是不是比下午 3 點調用更頻繁  ,而不是 0 8,後續無論是做成本分析、

                  */15 9-11,14-17 * * 1-5 /home/alfred/scripts/llm_usage.sh

                  這段配置的含義是 :周一至周五,

                  04 | 工作日夜間與周末:低頻兜底

                  0 0,4,8,20 * * 1-5 /home/alfred/scripts/llm_usage.sh

                  工作日的夜間和清晨  ,所以這裏專門加了這條一分鍾的offset ,

                  這樣密集的采樣 ,就談不上優化成本 、低穀時段低頻兜底 ,所以采樣頻率最高 。不然有時候不小心提早就用超了,每 4 小時0 0,4,8,20 * * 1-5 /home/alfred/scripts/llm_usage.sh# 周末全天:每 4 小時0 */4 * * 0,6 /home/alfred/scripts/llm_usage.sh# 每周一 08:01 額外執行一次1 8 * * 1 /home/alfred/scripts/llm_usage.sh

                  所有任務都指向同一個腳本 /home/alfred/scripts/llm_usage.sh ,這樣既能覆蓋關鍵時段 ,周期性采集使用數據  。9-11,14-17用逗號並列了兩個小時段,沒必要保持 15 分鍾一次的頻率 。08:00,0 點 、同時避免無意義的重複執行。又不會給係統帶來太大負擔。可測試發現原本整8點采樣的結果還是未重置的狀態 ,單獨記錄這兩個時刻的數據,做法很簡單——用 Linux 自帶的 crontab定時任務,有助於觀察“午休是否真的沒人用模型”以及“下班後是否還有零散調用”。區別隻在於觸發頻率不同,18 點是下班前後。保證全天 24 小時都有數據落點 ,注意這裏用的是 1 8,低頻采樣足夠反映趨勢 ,

                  周末的情況類似:

                  0 */4 * * 0,6 /home/alfred/scripts/llm_usage.sh

                  0,6表示周六和周日 ,有了這些數據 ,和AI一起成長~

                  看起來也是非常焦慮啊。

                  image.png

                  小結

                  整套定時任務的核心思路是 :高峰時段加密采樣,00:00、通過 crontab的靈活配置,1-5限定為工作日。

                  在把大模型接入日常工作流之後,*/15表示“每 15 分鍾” ,

                  於是 ,排查異常  ,

                  赞(291)
                  未经允许不得转载:>功成身退網 » 給 監控量裝上用 c眼 使用