北京2023年7月3日 /美通社/ -- 當前,以大模型為代表的生成式AI技術正在加速發展并革新各行業智能轉型路徑,"千模百態"帶動"千行百業"走向新一輪發展浪潮,數實相融迎來了新紀元。新型智算產業變革之下,日趨豐富的人工智能應用對多元化算力的需求激增,驅動人工智能計算系統向多元算力計算架構轉化。日前,浪潮信息元腦伙伴北京傳奇天地,通過元腦生態AIStation資源平臺,助力某創新軟件技術有限公司構建高性能、高可靠、可擴展的軟硬件系統架構,實現AI訓練場景下算力資源的統一管理與智能化調度。
AI視頻分析意為利用技術對視頻片段進行數字化分析,通過檢測精度和分類能力的提升進而來增加對于關鍵事件和可疑活動的識別。基于技術層面,大致可分為"物體檢測"、"物體識別"、"目標跟蹤"、"實時視頻分析",面向交通、旅游、生產制造、城市管理、環保等領域場景,提供"車牌自動識別、交通監控、車流量統計"等預警識別。基于此,相較于圖像識別,視頻識別則面向于一個分布范圍更廣、應用場景更多的任務。
近年來,得益于人工智能與深度學習技術的進步與飛躍式的產業變革,基于視頻識別的算法與精度調優取得了較佳提升,如 TSM、SlowFast、I3D 等,由此一來,則對底層算力系統提出了更高的要求。以及,當模型與應用走向真正的場景部署時,用戶使用多元AI芯片系統時則會碰到系統適配、芯片驅動、互聯互通、功耗管理、安全傳輸、易用性等各類瓶頸問題,利用軟件平臺對算力實現更精細的調度,成為滿足算力增長需求的另一個關鍵要素:通過構建高性能、高可靠、可擴展的軟硬件系統架構,實現AI訓練場景下算力資源的統一管理與智能化調度。
浪潮信息元腦生態平臺,旨在通過連接左右手伙伴的能力協同,盡己所長,形成優勢互補,面向生態復雜離散、產業AI落地困難的行業挑戰,以持續共贏的主張,聚合具備AI開發核心能力的左手伙伴和具備行業AI整體方案交付能力的右手伙伴,提供"AI算力平臺、AI資源平臺、AI算法平臺"全面融合的生態全棧能力,加速行業智能的構建,助力最終用戶實現業務的智能轉型升級。
基于AI資源平臺層面,浪潮信息AIStation通過訓練與推理兩大平臺,實現異構算力集群的統一池化管理和多策略調度,進而保證客戶"視頻識別分析、目標檢測與跟蹤"等模型應用場景的算力資源使用和調度,提升整體利用率;在保障全生命周期管理方面,提升故障容錯、集群監控運維等一體化能力,實現大規模分布式訓練任務的健壯性、穩定性要求,降低大模型訓練門檻和成本。
作為元腦生態的左手伙伴,北京傳奇天地深耕于云計算領域多年,立足于元腦生態的全棧協同優勢,為某創新軟件技術公司提供"一站式智能識別監控 "解決方案,針對視頻識別的業務端海量數據處理、模型訓練、模型應用等環節實現全鏈條全面提速,通過多種資源的高效管理和調度策略,幫助某創新軟件技術有限公司實現資源使用率與分配效率的全線提升,實現萬卡集群的毫秒級調度,整體資源利用率提升至75%以上。
基于視頻識別"高實時、高準確、高擴展、高安全"的多方面屬性需求,要求平臺系統在實現數據安全與隱私并行的原則之下,實現大量數據的實時處理與數據的準確識別及信息提取。從擴展性看,平臺也需隨著監控系統的規模和需求變化而變化。方案基于AIStation平臺,通過有效的數據緩存機制為模型后續訓練鋪平道路,實現200%-300%的效率提升,利用視覺算法庫對視頻進行編解碼處理、圖像去噪、增強等預處理,并打標簽形成訓練樣本庫。
在模型訓練方面,保障"健壯性"與"穩定性"是模型定制開發時的首要強要求。對此,針對模型定制訓練當中所遇算力網絡搭建、數據加速、網絡通信優化等瓶頸,AIStation通過提供TensorFlow,Caffe,MXnet等深度學習框架鏡像,實現鏡像分發加速與資源動態彈性伸縮,在提高計算資源利用率的同時加速整個訓練過程。
千模聚集的"百團大戰"仍在繼續,語音、圖像和視頻識別與分析仍亟需算力作為基底,智能算力市場龐大,人工智能應用的高效落地將成為智能算力產業發展的重要推手,驅動智能算力規模高速增長。"在場景中創新,在創新中再謀新",浪潮信息始終致力于與合作伙伴攜手,共同推動多元算力的融合及新興市場的開拓,構建融合開放的基礎架構,實現計算產業發展方式的轉型,開創智算產業新格局。