开云电子

根據Scaling laws（尺寸基本定律），有限的资源算率供應很有可能成為制約大模型发展的關鍵瓶頸，而摩爾線程多功能GPU能提高大模型的迭代速度和自主研发水准，推动中国大模型更强发展。

測試所使用的相關大模型，來开云电子自智譜AI底座大模型以及開源版本开云电子号。

測試结果说明，在逻辑推理层面，摩爾線程自主研发多功能GPU顯著優於基準對比产品开云电子RTX 3090和RTX 4090，在其中所有測試测试用例中優於RTX 3090，有多batch下優於RTX 4090。

－ 进行憨猴集團70億、340億。700億參數量級大模型的分佈式訓練

近期，摩爾線程陸續公佈瞭與國產AI企业在实体模型訓練、逻辑推理方面的合作，主要包含：

快科技6月14日信息，摩爾線程官方网宣佈，2024年5月份與智譜AI開展瞭新一輪GPU大模型適配、特性測試开云电子，包括大模型推理、基於誇娥（KUAE）大卡智算集群式大实体模型預訓練。

值得一提的是，早就在2022年8月，智譜AI就開源瞭GLM-130B实体模型，2023年又推出瞭千億底座對話实体模型ChatGLM，及其開源版本ChatGLM-6B。

三是開拓創新空間。

－ 第一傢连接無問芯穹，適配無穹Infini-AI大模型開發與服务平臺，进行LLama2 700億參數大模型訓練測試、MT-infini-3B 3B(30億參數)規模大模型實訓

摩爾線程憑進的AGI算率基座，不僅能够适配適配全世界流行AI軟件生態，節約遷移成本费，并且在單位算率總體擁有价格上擁有較為明顯優勢，能夠进一步降低大模型产品研發成本费。

在訓練层面，摩爾線程誇娥大卡智算集群式的訓練精密度與A100集群式对比，誤差在1％以內，而集群式特性擴开云电子展系數超過90％，实体模型算率使用率（MFU）與A100集群式相當。

這一结果，對於中国大模型产品技術生態具有重要意義：

一是技術独立重大突破。

四是减少運營成本费。

－ 进行師者AI 70億參數全學科文化教育大模型高強度訓練測試

摩爾線程大卡智算集群式取得成功應用ChatGLM預訓練，標志著摩爾線程有水平讓大模型訓練與逻辑推理在整个國產可控算率底座上運行，可增強技術主体性，保障数据安全。

二是助推摆脱算率瓶頸。

－ 进行羽人高新科技70億參數大语言实体模型YuRen-7b的訓練測試

摩爾線程與智譜AI行之有效的適配與測試协作，有利於推動實現軟硬件配置的深度融合與協同創新。

－ 进行與滴普企业大模型Deepexi v1.0的訓練、逻辑推理適配