大型語言模型 (LLMs) 在生成式AI中迅速發(fā)展，通過轉(zhuǎn)變數(shù)據(jù)組織、檢索和分析，徹底改變企業(yè)知識管理方式。LLM微調(diào)增強了特定任務或領域，研華邊緣人工智能服務器解決方案通過1-4個GPU卡、AI SSD和開發(fā)工具包提供支持，使企業(yè)能夠經(jīng)濟高效地進行LLMs的訓練，同時在邊緣處理以保證敏感數(shù)據(jù)的安全。

研華本地大型語言模型邊緣AI服務器AIR-520專為企業(yè)和獨立軟件開發(fā)商設計，實施和微調(diào)內(nèi)部部署的大語言模型，預先保護敏感數(shù)據(jù)安全，同時對于獨立軟件供應商來說，可以節(jié)省云計算成本提供更多的解決方案和服務。

首先，本款AI系統(tǒng)可支持新款Llama-3 70B和10+型號，并內(nèi)置了fine-tuning GUI和開發(fā)工具包，以此達到提前預備部署；其次，創(chuàng)新型混合GenAI解決方案，可在同一服務器上對LLM進行微調(diào)和推理，使得效率最大化；再次，本地微調(diào)可保護您寶貴的專利知識，在無網(wǎng)情況下保持優(yōu)勢，保護客戶的技術安全；

在滿足以上優(yōu)勢的同時，以傳統(tǒng)LLM訓練服務器的1/10的投入，即可獲取同等收益。

目前該款產(chǎn)品常見于智慧醫(yī)療、智慧企業(yè)管理、智慧工廠、智慧政務等多應用場景。例如，在醫(yī)療場景中，協(xié)助提供病例和報告分析；在企業(yè)中，協(xié)助公司進行客戶分類管理、會議協(xié)助；在工廠生產(chǎn)過程中，監(jiān)控和診斷預警，優(yōu)化SOP流程維護及培訓；24小時全天候在線的市民熱線機器人等等。

作為AI大模型一體機，本地大型語言模型(LLM)邊緣AI服務器AIR-520 ，是一款“硬件+軟件+服務”一體式的AIGC解決方案。集成了SQ ai100 AI SSD、NVIDIA RTX GPU卡、Edge AI SDK和NVAIE，可實現(xiàn)強大的微調(diào)和推理能力，幫助客戶實現(xiàn)私有化部署。