近日，DeepSeek憑借其低成本、高性能的大模型研發(fā)成果，迅速引發(fā)了全球科技界的關注。浪潮云聯合沐曦股份、銓興科技等生態(tài)伙伴，發(fā)布預置DeepSeek-R1和DeepSeek-V3模型的海若一體機，率先實現671B DeepSeek大模型國產GPU單機推理服務，為行業(yè)客戶提供大模型智能應用落地的一體化解決方案。
一站式大模型交付，開啟行業(yè)智能新篇
為解決行業(yè)大模型落地面臨的算力多樣適配難、數據不出域、模型微調效率低、推理服務性能差、模型服務交付慢等問題，海若一體機通過優(yōu)化算法框架和加速庫、軟硬全棧調優(yōu)等方式，提供模型微調、模型推理、智能體編排、智能體應用等服務，以完備的方案為行業(yè)客戶提供大模型場景化應用一站式交付。
開箱即用：海若一體機提供從算力、平臺、大模型到應用的一體化交付方案，能夠實現1－３天完成整體交付，開箱即用。
推理優(yōu)化：海若一體機量身定制了極致優(yōu)化的推理加速方案,基于軟硬件融合調優(yōu)，大模型的推理性能可大幅提升，解碼生成速度提升185.7%，平均首字時延降低55.9%。
安全增強：具備知識庫細粒度權限管控能力，提供私有化部署方案，防止數據泄露，支持模型輸入輸出安全檢測，保證內容合法合規(guī)。
開放兼容：支持浪潮海若、DeepSeek、GPT-4、通義千問等主流大模型；支持EmBedding、ReRanker、ASR、TTS多類型；內置模型池適配沐曦、昇騰等多種芯片，根據場景、性能、預算靈活選擇。
規(guī)格多樣：啟航版、進階版、旗艦版等多種規(guī)格，可根據模型參數和應用規(guī)模靈活選擇。
全棧產品矩陣，精準匹配算力需求
面向行業(yè)客戶的多樣場景需求，海若一體機推出三種規(guī)格，提供DeepSeek從671B到1.5B多種參數的預置大模型，用戶可根據業(yè)務場景靈活選型，實現精度與效率的最佳平衡。浪潮云聯合銓興科技研發(fā)高顯存的海若一體機，支持單機部署DeepSeek 671B參數大模型，釋放極致性能。
接入DeepSeek系列模型，賦能智能體開發(fā)
目前，海若AgentOS已正式上架DeepSeek-R1和DeepSeek-V3模型。此次接入的模型已全面融合海若推理鏈路，集成海若獨家內容安全模塊，實現模型安全增強與企業(yè)級高可用保障，同時支持完善的日志分析和告警，助力用戶安全穩(wěn)定地構建智能體應用。AgentOS平臺致力于為用戶提供全流程、一站式的智能體開發(fā)服務，平臺支持接入各類大語言模型，支持模型的一鍵部署，并具備模型管理和監(jiān)控能力，大大降低了用戶在模型管理上的技術門檻和時間成本。同時，平臺提供知識庫管理、可視化工作流編排和豐富的工具組件，結合模型實現生產級智能體開發(fā)，簡化模型開發(fā)流程，將為開發(fā)者和行業(yè)用戶帶來更快、更高效、更便捷的智能體開發(fā)和應用體驗。
當前，智能體已成為新型應用生態(tài)的關鍵入口。海若一體機作為大模型生產力平臺，將助力客戶管理模型、智能體、私域知識庫等大模型資產，推動行業(yè)智能化升級，重塑大模型落地行業(yè)格局，引領智能經濟新時代。
業(yè)界動態(tài)
中國操作系統(tǒng)銀河麒麟V11正式發(fā)布
皖公網安備34150102000370號
在線咨詢