上新！長城科技推出長城AIGC一體機(jī)
近日，中國長城旗下長城科技推出長城AIGC一體機(jī)。該款一體機(jī)基于長城擎天GF7280 V5 AI服務(wù)器和國產(chǎn)GPU，可應(yīng)用于大模型和傳統(tǒng)AI等場景，具有設(shè)計性能優(yōu)異、性價比高的特點。
大模型場景
01
技術(shù)創(chuàng)新
單臺支持70B-180B開源大模型FP16精度的私有數(shù)據(jù)微調(diào)，常規(guī)70B以上模型微調(diào)需要2-3臺8卡滿配80G顯存的GPU才能完成，長城通過顯存擴(kuò)容方案，解決模型“放不下”問題，微調(diào)成本降低60%。
本地私有微調(diào)后，即可在原配置上推理，真正做到訓(xùn)推一體，在金融、新聞、政務(wù)、醫(yī)療、工業(yè)等專業(yè)性要求高的垂直領(lǐng)域，模型性能要求高（70B以上規(guī)模模型效果好），且對專業(yè)知識理解能力強(qiáng)（私有數(shù)據(jù)微調(diào)），長城訓(xùn)推一體給出了完美解決方案。
02
兼容主流生態(tài)
支持主流框架（Pytorch、Tensorflow、PaddlePaddle、ONNX Runtime、DeepSpeed、Colossal-AI），支持主流開源模型（LLama2、LLama-3、Qwen、Mistral等50+開源大模型），集成國產(chǎn)GPU最優(yōu)實踐訓(xùn)推鏡像，開箱即用。
03
功能全面
提供大模型全功能訓(xùn)練工具、評估測試、大模型Prompt開發(fā)、大模型PEFT(參數(shù)高效微調(diào))、大模型推理服務(wù)、大模型應(yīng)用開發(fā)等功能。
覆蓋對話問答、內(nèi)容生成、智能助理、知識庫、數(shù)字人等多種應(yīng)用場景，簡單配置后即可使用。
集成適配主流開源AI應(yīng)用，包括Agent工作流和RAG（LangChain、Dify）、模型管理（Ollama）、生圖（ConfyUI）、音頻（GPT-SoVITS），具有開箱即用的能力，加速業(yè)務(wù)智能化落地。
傳統(tǒng)AI場景
OCR場景
1.應(yīng)用廣泛
數(shù)字英文識別率≥99.9%，中文字識別率≥99.5%，字體、字號適應(yīng)性強(qiáng)。支持合同等文檔、手寫掃描、證照、各類型票據(jù)的識別。
2.抗干擾能力強(qiáng)
兼容更低的分辨率 50dpi，支持模糊失真的圖像文字。支持圖像傾斜、梯形等變形，支持任意形狀和任意方向的文本行識別。支持傳真、手機(jī)拍照片、截屏、自然場景、抗蓋章干擾、底紋干擾。
視頻處理
1.成熟生態(tài)
支持20以上傳統(tǒng)視頻檢測及行為分析算法。支持多模態(tài)CV大模型，基于大模型語義理解能力，解決傳統(tǒng)算法難應(yīng)對場景碎片化的問題。
2.高規(guī)格
單卡支持256路1080P@30FPS視頻解碼，整機(jī)支持3072路。單卡支持16路1080P@30FPS視頻編碼，整機(jī)支持192路。單卡支持7000FPS@1080P JEPG編解碼，整機(jī)支持84000FPS@1080P JEPG編解碼。
