北京2024年4月26日 /美通社/ -- "談到當下人工智能的發展形勢,現在有一個詞叫‘怕錯過',每個人都怕錯過,我們的客戶也怕錯過,所以我們都在加速學習。"
"這是一個人工智能的新時代,我們不僅是這個時代的見證者,我們更是這個時代的建設者"
……
百模的戰場依舊硝煙四起,AI Agents順勢風起云涌,人工智能技術與應用依然在一路狂奔。今年政府工作報告中提出要開展"人工智能+"行動,成為推動產業升級和經濟增長的重要助力。2024年浪潮信息生態伙伴大會(IPF2024)高峰論壇匯聚了應用開發、數據服務、算力系統、算法領域的領軍企業。"人工智能+"應該"+"什么、怎么"+"?如何攜生態之力,落地"人工智能+",這些話題被激烈討論。
觀風之所起,度風之所向。中科軟董事長左春,拓爾思董事長施水才,榮聯科技首席科學家王向東,潞晨科技創始人兼董事長尤洋,銜遠科技COO、創始合伙人王曉波,浪潮信息高級副總裁劉軍等行業大咖在這場高峰對話中交鋒交流,每一位與會嘉賓既是AI變革的見證者,更是推動者,他們分享洞見,探討如何利用AI技術賦能千行百業、如何讓"人工智能+"的愿景成為現實。
高峰對話由浪潮信息高級副總裁陳昌浩主持。在不改變原意的基礎上,本文對內容進行了編輯整理,希望能夠給您帶來更多的啟發與思考。
話題要點:
嘉賓精彩觀點
中科軟董事長 左春:
面向垂直領域的大模型應用,第一步是選擇基座,第二步是訓練模型,第三步是整合解決方案,這三步都要在企業端建立起來,進行技術遷移、搭建、運行,以實用為標準,真正能夠實用好用。
拓爾思董事長 施水才:
大模型的落地需要三個"實",實在、實用和實效。實在是指 AI落地的時候工程化交付;實用是和用戶的業務吻合;實效是需要降本增效。
榮聯科技首席科學家 王向東:
只解決了算力的調度問題是不行的,面對生物醫療、生命科學等領域高算力、海量數據的存儲及管理需求,必須與生態伙伴協同才能滿足客戶要求。
潞晨科技創始人兼董事長 尤洋:
通過極致的算力軟件和內存優化來提升算力的附加值,用同樣的設備訓出更大的模型,幫助企業盡可能降低關鍵領域大模型的門檻。
銜遠科技COO、創始合伙人 王曉波:
對于技術的商業化路徑,我們傾向于先改變模式,利用行業認知和模型能力選擇一個閉環場景,形成數據飛輪,不斷打磨自己的模型和產品,與客戶一起成長。
浪潮信息高級副總裁 劉軍:
針對算力多元化、模型多樣化及場景多樣化,浪潮信息希望連接和聚集生態力量,助力每個元腦生態伙伴利用自身場景和數據,通過企業大模型開發平臺先行先試,有了錘子再去找釘子,快速入局AI+市場。
IPF2024,你怎么看?
浪潮信息陳昌浩:
再次感謝各位來到IPF2024!今年IPF的主題是"智能元啟 創見?共行"。首先想聽聽各位對今天大會的感受,哪個觀點是你們印象最為深刻的?
中科軟左春:談到人工智能的發展,現在有一個詞叫"怕錯過",每個人都怕錯過,我們的客戶也怕錯過,所以我們都在加速學習。今天看到浪潮信息在系統軟件平臺的努力,以及算力、算法等方面的成果,我對此印象尤為深刻。
拓爾思施水才:第一,我感受到了浪潮信息正在集全棧AI系統創新之力,全面擁抱AI。第二個印象比較深的是浪潮信息的伙伴生態體系非常健全。第三,大模型應用開發的一體化端到端的開發平臺EPAI平臺也是亮點,跟我們的拓天LLMOps 有著相似的路徑。
榮聯科技王向東:兩個詞,第一個詞是信心,彭總講的以應用為導向,以系統為核心。應用為導向點破了我們所處的時代特點,從技術競爭變成應用的競爭。浪潮信息倡導以系統為核心,以平臺帶動應用創新,是以生態模式在競爭。對于未來我們與浪潮信息的合作,我們信心十足。第二個詞是心動,看著EPAI,很心動,正琢磨著怎么回去跟用戶的應用結合。
潞晨科技尤洋:我的第一點感受是,浪潮信息今天所發布的產品、工具有助于合作伙伴們更便捷、高效地去做自己的業務,特別是在AI方面。第二點是,浪潮信息對整個技術,大趨勢的理解是比較深的,有利于進一步鞏固生態的力量。
銜遠科技王曉波:生態兩個字就足以熱血沸騰了。在大模型賽道,中國領先的是豐富的消費場景和應用場景,以及非常好的數據基建。在生態方面,我們很希望擁抱生態,也希望我們自己的產品也有SaaS、MaaS各種服務。
產業鏈各方,在戰略布局上,會選擇如何擁抱"AI+" ?
浪潮信息陳昌浩:首先,浪潮信息作為系統廠商,面向算力多元化、場景差異化、大模型多樣化的產業現狀,會如何加速AI+落地?
浪潮信息劉軍:如果從生態模式思考,針對算力多元化、模型多樣化及場景多樣化問題,浪潮信息期待通過元腦生態來提高整個產業在AI創新落地的效率,我們非常愿意成為這樣的平臺生態承載者。
元腦生態聚合鏈接600+算法廠商、8000+系統集成商。對于具備AI開發核心能力的左手伙伴,我們在元腦企智EPAI平臺實現對多元算力、多模算法的支持。對于右手伙伴,ISV可針對行業落地的解決方案,落地到各個場景客戶這一端,我們希望通過EPAI工具化平臺,使右手伙伴能夠快速高效的面向領域大模型進行開發并落地。
生態的快速發展和繁榮需要有一個能夠連接、聚集力量的產品,這就是今天我們推出企業大模型開發平臺(EPAI)的思考。我們希望通過EPAI開發平臺,為上萬家合作伙伴提供工具箱,提供方法論,凝聚并激發生態的活力、伙伴的創新力,加速賦能千行百業的智能化轉型。
浪潮信息陳昌浩:中科軟當前面向保險、醫療等領域進行AIGC研究和生態建設。請左總分享一下中科軟的經驗和體會?
中科軟左春:當客戶想要建立垂直領域的應用時,他需要選擇基座,這個基座是初始化的基座,需要帶著通用知識,也需要低能耗;另外它的技術要開放,這個也涉及到開源。為什么要開源呢?因為開源要解決流行性問題,即需要有大量的人來用,很多更新、很多人活躍的維護,流行的開源軟件具備重大價值。我們看到客戶的第一個環節即是選擇基座,在初始化的階段,需要確定模型參數,參數量與token數并不是越大越好,應該有一個合理的度。
當我們選擇基座以后,第二步是訓練模型,目標是基于已有的領域知識進行訓練實現精準化。在訓練過程中,廠家提供的是基座和工具,ISV提供了重要的知識梳理和知識的訓練,客戶也會根據應用需求來提出自己的方向或者重點。最后,現在AIGC主要的方法是神經網絡和向量數據庫,都是歸納推斷,存在一定誤差。人工智能的成果往往是升級版的搜索功能,需要和已有應用軟件的經驗和能力相結合,把二者合在一起作為一個解決方案,最終以實用效果為衡量標準。
這三步都要在企業端建立起來,在建立的過程中,首先基礎技術在于廠家,我們要學習并結合客戶需求,把技術做遷移,再搭建、運行,并和已有系統集成。
浪潮信息陳昌浩:AI和大模型發展離不開高質量的數據。請施董分享下,在企業級大模型應用落地時,數據層面所遇到的最核心挑戰是什么,該如何更好地將數據轉化為"生產力"?
拓爾思施水才:首先,從數據層面,ISV有五種類型。第一種是做是做通用軟件產品的,隨著開源和云服務的發展,受到很大的沖擊。第二類是做行業應用軟件,但是行業應用軟件未來有一個重大的挑戰,用戶可能會成為我們的競爭者,這在銀行業已經非常明顯了。第三個是做人力外包型服務的,也面臨著碼農被AI取代的風險,人效越來越高,收益越來越低。第四條路是硬件帶動軟件,要做軟硬一體化的東西,要做一體機。第五條路就是拓爾思想做的數據和服務。我認為,未來應該從軟件到數件,數據這一塊非常有前途。
其次,我們認為數據是大模型最重要的因素之一。因為大模型的大就是參數大,但是大家發現大力出奇跡,蠻力不可續,大模型有能力,沒有智力,一味地在用戶端搞算力競賽,成本首先不靠譜,也沒有產出。
所以,我認為現在大模型的落地需要三個"實",第一個是實在,第二個是實用,第三個實效。實在是指 AI落地的時候工程化交付非常重要;實用是需要與業務高度相關,需要和用戶的業務吻合;實效是需要降本增效。解決這三個問題,是目前大模型應用非常重要的挑戰。
浪潮信息陳昌浩:榮聯科技正在發力深耕生物醫療、生命科學等領域,請王總談談,面向這類強算力、大數據需求的場景領域,如何實現以應用為導向,發揮出"高算效"?
榮聯科技王向東:榮聯科技把領域的業務需求轉變IT需求,然后利用IT技術和業務進行深度融合,協助這個領域的客戶做數字化轉型。我們將生物醫療、生命科學等領域的特點總結為"兩高、兩多","兩高"是指高算力、高IO迭代并發;"兩多"是指多樣性的計算需求,多維度數據交叉并存。生命科學領域正利用AI先進技術實現數據的價值化,并驅動自己的業務往前走。從技術角度來看,實質上就是AI的算力服務。
所謂"高算效"是實測性能與資源利用率的雙重提升。過去談到算力,是站在資源角度上描述有多少能力。但實質上經常遇到,客戶買的都是最好的東西,但是實測的性能沒有發揮出來,效力是不對等的。榮聯的優勢是將用戶的算力需求轉為技術支撐,為用戶提供高效的算力服務。隨著AI技術的不斷引入,生命醫療領域呈現通過場景化應用開發,帶動多學科的交叉創新研究的趨勢。針對高算力、高IO迭代并發、多維度海量數據交叉并存的特點,利用機器學習技術,識別出可并行處理的任務和關鍵"瓶頸"任務,有針對性的提供不同的算力供給,將多節點并發執行和對瓶頸進行集中算力供給相結合, 最大限度的釋放算力,進而提高業務處理效率。
但只解決了算力的調度問題是不行的,面對高算力、海量數據的存儲及管理必須與廠商相結合才能滿足客戶全部要求。因此,榮聯和浪潮信息在該領域開展了諸多的合作,譬如研究所的冷凍電鏡系統、醫院的生命科學實驗室平臺建設等,當然這也有“元腦生態”的發力作用。
浪潮信息陳昌浩:潞晨科技所推出的開源AI大模型開發系統可顯著降低大模型落地成本,請尤洋教授從AI Infra層面分享如何更高效地用好算力,開發大模型的經驗?
潞晨科技尤洋:潞晨科技的核心價值是提升算力的附加值。比如說同樣的四五臺機器,本來它只能訓練10億參數模型,現在能不能訓練出百億參數模型?通過極致的算力軟件,內存的優化,把同樣的設備訓出更大的模型。還有一個角度就是,當機器資源有限時,能不能訓練速度快2倍,幫助合作伙伴和客戶在有限的資源內,通過優化提升更大的算力價值?
為了實現上述目標,潞晨科技主要往兩個點發力,第一點是構造了Colossal-AI Platform系統,并且開源了Open-Sora、ColossalChat等AI大模型解決方案,通過在Colossal-AI把訓練速度提升了2-7倍。第二點,我們專注于對算力要求較高的垂直模型或者垂直行業,目前最明顯的是視頻生成場景,通過我們的技術,幫企業盡可能降低關鍵領域視頻大模型的門檻。
浪潮信息陳昌浩:銜遠科技是大模型在B端落地的先行者。請曉波總談談大模型發展如何實現技術與應用的協同?在推動大模型落地過程中有哪些挑戰?
銜遠科技王曉波:如果把技術比作化學,應用就是化工,一項技術的發現或者發展,無論它是偶發的還是突發的,除了技術本身要解決的難點之外,它都逃避不了一個經濟的問題。商業化的價值是支撐一項技術能夠更好發展的終極動力。
技術以一個什么樣的方式、在什么樣的階段去切入商業化,是所有技術在發展過程中都面臨的問題。中美發展方向各有不同,目前國內業者有一種思路是追著OpenAI,或者在它的延長線上做事情。另一種思路,站在當下的產業業態當中、價值鏈各個環節中,優先提升效率,或者先改變模式。銜遠科技選擇了第二種思路,利用行業的認知和模型能力先選擇一個閉環的場景,在這個閉環場景里跟客戶一起去成長,形成數據飛輪,并不斷打磨自己的模型和產品,以應用倒推模型技術的發展。
產業鏈各方,該如何攜生態之力共推"AI+" ?
浪潮信息陳昌浩:我們知道各領域差異很大,"千行百業、千行千面",當AI+走向落地,離不開生態伙伴的合力推動。請各位用一句話來總結,未來生態該如何協同,各自將在AI產業鏈中發揮怎樣的作用去協力推"AI+"?
中科軟左春:"價值與交付是關鍵"
我用兩個關健詞來總結,一是價值,要區分自己的價值,一般看領域知識,有的企業是強領域知識,有些相對比較通用。二是交付,交付越通用的產品周期越短,越領域性的交付時間越長。在這兩個指標基礎上找到了自己的定位,然后利用生態之力協同發展。
拓爾思施才水:"ALL in AI,以數據筑基,智拓未來"
作為ISV來說,全面擁抱AI,我們確定一條規矩:如果這個產品沒有AI的基因和元素,停止開發。在生態方面,我認為讓伙伴賺到更多的錢,比自己多賺一點更是正路。
榮聯科技王向東:"元腦生態,新質生產力落地的最佳實踐"
在元腦生態,榮聯是右手合作伙伴,是受益者。加入元腦生態是業務決定的,我們的期待做成的事情僅靠一家公司是無法完成的,場景設計出來以后涉及到算法,每投放一批數據和場景,算法都需要優化,基礎算力也要調優,這是三個類型角色,是ISV+左手+浪潮信息。
同時,這樣的合作的成果,在領域內是可復制的,在成本不斷降低的同時,也將極大的促進領域應用的發展。因此,元腦生態也是創造力萃取的平臺,是推動新質生產力落地的最佳實踐。
潞晨科技尤洋:"我們希望,與浪潮信息一起去解放AI生產力,賦能千行百業"
銜遠科技王曉波:"生態就是開放的,行業和人都需要做專業的事情,大家一起協同把專業的事情做大,整個生態就繁榮起來了"
大模型的落地跟一個企業能不能把貨賣到消費者是完全一樣的,但大模型更加沒有邊界。我認為生態就是開放的,行業和人都需要做專業的事情,大家一起協同把專業的事情做大,整個生態就繁榮起來了。
浪潮信息陳昌浩:最后再請劉總用一句話總結,浪潮信息對于打造生態共同體,推動AI+落地有怎樣的策略和思考?
浪潮信息劉軍:"紙上得來終覺淺,絕知此事要躬行。這是一個人工智能的新時代,我們不僅是這個時代的見證者,我們更是這個時代的建設者。"
元腦生態伙伴是一個具有學習成長能力的組織,是業界唯一一個實現AI服務器分銷的生態,實現AI調度平臺分銷和渠道的生態,是把元腦聯合解決方案復制落地的生態。
從浪潮信息自身實踐來看,目前,EPAI已全面賦能浪潮信息,面向運營、服務、研發等環節,快速孵化出智能客服、智能編程、智能投標助手等應用。以智能投標助手為例,可實現招標參數自動識別,識別準確率達85%有余。而這樣的場景落地,是每一個元腦生態伙伴都可以做到的,從自己的場景、自己的數據,采用EPAI工具先把它做起來。就好像我們手里有了錘子,我們就去找釘子,這是特別好的入局方法。