PinnedGradient Drift·Jul 6, 2021PyTorch深度學習工具箱本文把文章標題取名成PyTorch深度學習工具箱的用意是在於: 日常在進行PyTorch模型訓練的時候,如果想知道模型的好壞,我們會用不少方式去評估。例如:Confusion Matrix、per class accuracy、F1…
Gradient Drift·Sep 23用 2019 年的 RTX 2060 跑通 Qwen-Image 2.12026 年 9 月釋出的 Qwen-Image 2.1 參數量偏大,未經過量化的版本,是無法塞進 6GB VRAM的。不過只要把文字編碼器與 VAE 移出顯卡,只把採樣留給 GPU,6GB 依然可以在本機正常運作。
Gradient Drift·Sep 18Jev:當 AI 不再需要說話,軟體架構可能會開始改變過去幾年,整個科技界幾乎被大型語言模型(LLM)制約出了一種思維定勢:AI 本質上就是一個「會產生文字」的系統。
Gradient Drift·Aug 25誰說 6GB 顯卡不能玩 12.9B 大模型?RTX 2060 本地暢跑 Krea 2 Turbo 的極限調校與量化實戰從架構破局、顯存調度到量化實測:深入解析如何在 RTX 2060 6GB 上,利用 ComfyUI-GGUF 與 CPU Offload,以 73 秒穩定生成 768×1152 高畫質 AI 圖像
Gradient Drift·Aug 25AI Systems 全解析:從硬體到模型、訓練到推論,一手掌握底層邏輯與系統設計AI Systems 全解析:從硬體到模型、訓練到推論,一手掌握底層邏輯與系統設計
Gradient Drift·Aug 23在 6GB 舊顯卡 (RTX 2060) 上極限調校 Qwen 3.6 35B A3B:從 9 tok/s 到 30 tok/s 的實戰記錄實測環境: NVIDIA GeForce RTX 2060 (6GB VRAM) + Intel i5–9400F + 32GB DDR4–2400 測試時間:2026–08–23 核心目標:在 6GB 顯存的預算級硬體上,跑通 35B 級別的 MoE…