本地GPU短缺与高成本
人工智能能力需求增加
云计算中的数据安全问题
经济实惠的 AI 解决方案
定制化与灵活性
现阶段人工智能开发所遇到的瓶颈
服务目标
- 我们的服务宗旨是让人工智能开发更加经济、高效且安全。
- 支持中小企业轻松采用AI技术。
软件定位
- 作为一个多功能的人工智能开发平台，它提供本地化的模型训练和部署功能。
- 界面用户友好且适应多种业务需求。
目的
- 促进人工智能技术的普及和应用。
- 帮助企业提高效率并增强竞争力。
低成本本地训练
易用的用户界面
数据隐私
可定制生态系统
规格 & 基准测试
本地化解决方案，在私有环境中处理数据以增强数据安全性。
微调策略：使用FP16的LoRA | 数据集：Alpaca_data_en_52k
兼容 Windows 子系统 for Linux（WSL）和 Windows。性能可能有所不同
236B
微调模型
80%+
节省成本
∞
集群计算节点
2 x 2
双层卸载与双层集群
Aug，2024
Mod2 1.0
Nov，2024
Mod2 2.0
推理
多节点集群
多数据集+LMM
Mod2 2.1
YOLO, ImageNet, CIFAR
DC-GAN, stable diffusion
K-FOLD
RL
Logistic Regression
Linear Regression
未来
Mod2 3.0
Tracking System Web/App:
Training status tracking
Experiment configs
Remote Operation
Window: Light version
Mod2
236B
LLM Backbone
- Offloading strategies：
VRAM Only / VRAM + DRAM / VRAM + DRAM + SSD - GPU Type：NVIDIA / AMD
- Fine-tuning type：Full / Freeze / Lora / QLora
- Support GPU：NVIDIA / AMD
- Time scheduling：
- Resume_from_checkpoint：
- Expert mode：
Others
70B
LLM Backbone
- Offloading strategies：
VRAM + DRAM + SSD (N-N only) - GPU Type：NVIDIA
- Fine-tuning type：Full
- Support GPU：NVIDIA
- Time scheduling：
- Resume_from_checkpoint：
- Expert mode：
- Progress bar：
预训练模型
