科技日報記者 吳純新 通訊員 劉荊刈
近日，國產(chǎn)開源大模型DeepSeek火速“出圈”，成為關(guān)注焦點。2月18日，武漢云基于華為昇騰 910B，成功部署上線DeepSeek-R1（671B版），為武漢市市區(qū)兩級政務(wù)用戶提供快速訪問服務(wù)。
本次部署基于兩臺華為Atlas800服務(wù)器，共計使用16塊910B顯卡（5p算力），集成CANN、FrameworkPTAdapter、MindIE等組件，實現(xiàn)DeepSeek大模型高效落地應(yīng)用，搭建了安全的私域環(huán)境，全面保障模型完整、知識安全和應(yīng)用合規(guī)，為開發(fā)者和客戶提供彈性、充足的算力。同時，武漢云還針對大模型場景提供多維并行優(yōu)化技術(shù)，實現(xiàn)性能端到端提升，加速智能業(yè)務(wù)快速部署落地。
武漢云基于DeepSeek構(gòu)建了AIGC應(yīng)用開發(fā)平臺，具備知識庫管理、定制化應(yīng)用、高便捷開發(fā)等功能。平臺支持用戶快速搭建不同行業(yè)、不同場景的大模型應(yīng)用，引入AI AGENT與Workflow高效工作流編排技術(shù)，進一步提高工作效率，降低運營成本。基于此平臺，已開發(fā)上線智能公文寫作、問答助手等場景應(yīng)用。
安全保障方面，武漢云依托國產(chǎn)技術(shù)自主可控的優(yōu)勢，滿足國內(nèi)合規(guī)標準，適用于對數(shù)據(jù)安全性要求極高的用戶，全面保障數(shù)據(jù)隱私與安全。
據(jù)了解，未來，武漢云將基于DeepSeek及其他商業(yè)大模型，開展語料采集、清洗、整合與訓練，打造自主、可控、開放、具有武漢特色的江豚大模型。
