《連場取勝－連敬涵》商湯端側大模型－－邁向商業化之路（二）

　　港股連升第十日，科技股表現突出，當中，近期倍升的商湯(00020)繼續受到市場追捧，大家可以繼續關注。
　　在「日日新5.0」發布會上，我們聽到商湯CEO徐立表示，「今年是端側大模型爆發的一年」。商湯的運算力大幅提升，投放在「雲、邊、端」全棧大模型中，產生了「雲端模型」及「端邊模型」。
　　雲端模型，主要是指經過電訊商的網絡，來進行雲上與端機上的接觸。由於商湯千億大模型SenseChat（商量）已升級到5.0，達到6000億參數，支持混合專家架構MoE大幅提升創意寫作能力、推理能力及總結能力等，在端機輸入相同的中文知識注入後，可獲得更好的理解總結及問答，達到業內領先水平。在多模態能力上，支持高清長圖的解析和理解以及文生圖交互式生成，實現複雜的跨文檔知識抽取及總結問答展示，並具備豐富的多模態交互能力。
　　而隨著大模型技術的快速發展，不同應用場景的需求日益顯現，人工智能大模型在智能手機、電腦、VR眼鏡等終端設備領域的應用也成為一大趨勢，因此公司推出1.8B（18億）參數規模的SenseChat-Lite版本端側大模型，是為端邊模型。而商量端側模型SenseChat-Lite亦成為了此次發布的亮點，不但全面領先所有開源2B的同級別模型，並在測評上部分超越Llama-2 7B模型的效果。
　　事實上，自去年以來，端側大模型一直是消費電子行業和AI行業共同關注的熱點。端側大模型是運行在設備端的大模型，通常比我們熟悉的GPT等大模型參數量更小，只有18億參數，對比雲端模型的6000億參數，因此可以使用端側算力直接運行。端側大模型有著在任何網絡條件下都可以生成回答、隱私不必離開設備、無需雲端算力使成本更低等種種優勢。
　　有著更強的端側AI能力，意味著原本做不到的用戶場景將被進一步打開，如工作文件也可以直接用手機大模型進行處理，保存最高的私隱權；在沒有網絡的飛機上，亦能流暢聊天；也可以讓孩子在斷網的情況下學習知識。而端側模型使用的算力和電力是由設備本身提供，用戶不需要額外付費，就能得到體驗提升，而廠家則能夠省下雲端的成本，是雙贏局面。由於成本更低，對消費電子產業本身也將產生影響，端側模型將使包括汽車（如小米SU7上的小愛同學設備）、XR在內的種種終端設備，尤其是平價的電子設備如小愛智能音箱等，能夠有機會接入智能體驗，而毋須過多考慮算力成本。
　　商湯從上一個AI時代就為手機提供底層能力，而在大模型時代，再次抓住了相關機遇，不但推出能力媲美GPT-4的雲端大模型，此次又推出了速度最快的端側模型。公司的端側模型，目前用戶還無法直接在手機上體驗到，需要智能硬件的廠商與商湯合作，共同部署。但可以想象到，端側模型市場潛力巨大，每年有數十億部手機及電腦出貨量，手握智能設備市場在過往的良好合作經驗，在端側未來的廣大市場，商湯大有可為，商業化變現能力將大為提升，為未來一年內達成收支平衡帶來基礎，大家應繼續留意此股。《香港股票分析師協會理事　連敬涵》
　
*筆者持有上述股份
　
*《經濟通》所刊的署名及/或不署名文章，相關內容屬作者個人意見，並不代表《經濟通》立場，《經濟通》所扮演的角色是提供一個自由言論平台。