本地GPU短缺和高成本
對AI能力的需求增長
雲計算的數據安全問題
成本效益的AI解決方案
定制化和靈活性
現階段AI發展所遭遇的瓶頸

服務目標
- 使AI開發更經濟、高效、安全。
- 支持中小企業輕鬆採用AI技術。

軟體定位
- 作為多功能AI開發平台,提供本地化模型訓練和部署。
- 介面用戶友好,適應各種業務需求。

目的
- 促進AI技術的普及和應用。
- 幫助企業提升效率,增強競爭力。
低成本的地端訓練
易於使用
數據隱私
可客製的生態系
規格&基準測試
本地化的解決方案。在私有環境中處理數據以增強數據安全性。

微調策略: LoRA with FP16 | 數據集: Alpaca_data_en_52k
與適用於 Linux 的 Windows 子系統(WSL)和 Windows 兼容。性能可能會有所不同。
236B模型微調
模型微調
80%+節省成本
節省成本
∞
用於集群計算的節點
用於集群計算的節點
2 x 22-tiers Offloading * 2-tiers Cluster
2-tiers Offloading * 2-tiers Cluster
2024 年 8 月
Mod2 1.0
2024 年 11 月
Mod2 2.0
推理
多節點集群
Multi-Datasets + LMM
Mod2 2.1
YOLO, ImageNet, CIFAR
DC-GAN, 穩定擴散
K-FOLD
RL
邏輯迴歸
線性回歸
未來
Mod2 3.0
追蹤系統 Web/App:
訓練狀態追蹤
實驗配置
遠程操作
Window:輕量版
Mod2
236B
/LLM Backbone
- 卸載策略:
VRAM Only / VRAM + DRAM / VRAM + DRAM + SSD - GPU類型:NVIDIA / AMD
- 微調類型:Full / Freeze / Lora / QLora
- 支持 GPU:NVIDIA / AMD
- 時間安排:
- Resume_from_checkpoint:
- 專家模式:
Others
70B
/LLM Backbone
- 卸載策略:
VRAM + DRAM + SSD (N-N only) - GPU類型:NVIDIA
- 微調類型:Full
- 支持 GPU:NVIDIA
- 時間安排:
- Resume_from_checkpoint:
- 專家模式:
- 進度條:
Pre-Trained 模型



