挑戰(zhàn)

1本地資源有限，需要給研究員合理分配GPU資源；

2使用工作站無法滿足一些規(guī)模較大的模型訓(xùn)練的算力需求；

3實(shí)驗(yàn)室沒有專人負(fù)責(zé)基礎(chǔ)架構(gòu)，需要進(jìn)行管理并提供基本的運(yùn)維監(jiān)控；

4研究員希望保持GPU資源的接入方式不變。

場景

機(jī)器人控制

應(yīng)用

Pytorch、TensorFlow、MXNet

效果

1平臺(tái)可統(tǒng)一管理所有算力資源，并根據(jù)管理員配置和用戶申請分配資源；

2用戶可在算力集群中申請多機(jī)多卡資源以滿足大規(guī)模模型訓(xùn)練需求；

3速石將平臺(tái)的管理運(yùn)維操作進(jìn)行了大幅簡化，絕大部分操作可通過平臺(tái)界面完成，簡單易用；

4在GPU資源的接入上，速石提供了開箱即用的SSH和Jupyter接入，最大程度保證用戶像使用工作站一樣使用集群算力資源。

價(jià)值

1對計(jì)算資源進(jìn)行統(tǒng)一管理、監(jiān)控和調(diào)度；

2平臺(tái)在GPU調(diào)度上提供了非常完善的資源隔離機(jī)制和豐富的調(diào)度策略，滿足了不同場景下的資源分配需求；

3在MLOps領(lǐng)域提供的開箱即用的環(huán)境接入能夠大幅提高研究效率；

4專業(yè)服務(wù)幫助用戶解決從基礎(chǔ)架構(gòu)到中間件到應(yīng)用框架層的使用問題。