AI應用落地，算力不足仍是擺在眾人面前的第一道檻。

這不，作為國產芯片設計公司，燧原科技成立時就碰上了這個老大難。

好在后來通過上云，其驗證、benchmark測試效率從2周準備環(huán)境縮短至30分鐘，算力充足加速了芯片研發(fā)。

△燧原科技副總裁任樹峰

當下，云+AI基礎設施已成為企業(yè)智能化轉型的關鍵支撐。

在以生成式AI為代表的技術驅動下，互聯(lián)網行業(yè)作為云+AI應用的先鋒，已經找到了新的增長點。

具體是如何做到的呢？？

9月6日，騰訊數(shù)字生態(tài)大會「互聯(lián)網AI應用專場」在深圳拉開序幕，現(xiàn)場人從人…（頭頂臺風摩羯）

整場大會只做一件事，講干貨、講干貨、講干貨。例如：

作為C端消費玩家，值得買科技如何讓AIGC內容點擊率是用戶生產內容的103% ？

作為國產算力先鋒，燧原科技最初如何擺脫峰值算力供給難題？

作為和技術沒那么近的文娛行業(yè)，貓眼娛樂如何完成幾十上百TB動畫渲染？

……

話不多說，這就挑重點為大家奉上。

關于用AI轉型升級，他們有話說

在大會現(xiàn)場，大家達成了一個基本共識：

技術方案的選擇將影響AI應用的效率。

至今為止，有3條技術路徑成為趨勢：

結合專業(yè)領域知識做RAG

Agent將成為應用落地的主要方式

云計算是夯實基礎的重要底座

引用騰訊云副總裁許華彬的話來解釋：

RAG結合企業(yè)自有知識，無需企業(yè)花費較多人力和算力，以及對大模型SFT精調，是當前企業(yè)級AI應用落地的成熟方案。

近期來多行業(yè)場景的AI Agent蓬勃發(fā)展，面向Ｃ端的原生應用，以及B端企業(yè)級業(yè)務流程自動化，將成為后續(xù)應用落地的主要方式。

云計算是夯實基礎的重要底座，云原生技術助力企業(yè)實現(xiàn)敏捷開發(fā)，以新技術、新市場的創(chuàng)新，實現(xiàn)增長突破。

那么問題來了，不同行業(yè)/企業(yè)如何根據自身情況做選擇？

下面有請幾位代表性玩家為我們“現(xiàn)身講案例”：

用戶更喜歡點擊AIGC內容了

作為聚焦消費領域的玩家，值得買科技分享了一個有意思的數(shù)據：

在最新內部測試中，通過AIGC生產的內容，它的點擊率已經是用戶生產內容的103%。

該公司CTO王云峰坦言，一般情況下，人們不太喜歡AI生產的內容（擔心虛假信息），而現(xiàn)在，這一點擊率已經打破了舊有印象。

why？？

復盤背后的原因，王云峰首先分享了值得買對AI的不同認知：

AI不僅僅是一個技術，其實它本身也是一個生態(tài)。

按他的話說，如果AI純粹是一個技術，那么AI應用落地可能意味著單純使用通用模型；而實際上，AI不僅僅是生產力，很多時候它在重塑我們的生產流程。

放到消費領域的AI生態(tài)，一個明顯特征讓它區(qū)別于金融、醫(yī)療等領域。

在消費領域，經驗遠大于知識。

也就是說，不同于金融、醫(yī)療等領域有很多確定性的知識可供模型訓練學習，用戶消費主要憑借經驗，個性化非常強。

概括下來，消費領域的特點主要包括：

內容場景靈活。用戶消費更多憑借個人經驗而非知識，且動態(tài)變化；

能力外延拓展。消費不單指買東西本身，還有之后的一系列體驗，邊界非常廣；

消費需求復雜。消費需求復雜多樣，個性化強；

認知有了，行業(yè)特點也理清了。

所以，AIGC內容之所以能逐漸贏得青睞，答案正式揭曉：

讓AI在更大程度上幫助用戶做功課。

值得買發(fā)現(xiàn)，讓AI幫用戶去做那些以前要做很多功課才能解決的問題，用戶點擊率和閱讀效率、閱讀時長都會比通過AI單純生成內容要好很多。

具體而言，值得買的做法是：推出一套AI解決方案。

包括1個“值得買消費大模型”（自研13B消費模型），“商品庫”和“內容庫”2大數(shù)據庫，AIUC分析引擎、AIGC生成引擎和AGENT調度引擎3個應用構建框架，以及提供針對性的AI解決方案的4類應用AI戰(zhàn)略。

在這一方案中，上云是值得買戰(zhàn)略的關鍵：

通過騰訊混元大模型等理解語音、視頻、圖像的多模態(tài)數(shù)據；

自購算力托管+多云算力，迅速進行模型訓練和推理部署；

通過騰訊云容器場景GPU虛擬化，實現(xiàn)對單個GPU的更細粒度劃分，提升資源利用率、減少資源和人力消耗；

實現(xiàn)10億+條商品庫與近百億條內容庫的數(shù)據處理；

芯片設計也能上云了

作為國產AI算力先行者，燧原科技副總裁任樹峰一上臺就回顧了創(chuàng)業(yè)初期面臨的痛點：

對一家芯片設計創(chuàng)業(yè)公司來說，如何保證峰值算力供給一直是個難題。

據他介紹，一個芯片設計項目的研發(fā)周期大概在1~2年，不同時間對算力的需求呈現(xiàn)波峰波谷狀態(tài)。

實際情況是，公司一般會集中在兩三個月內做很復雜、壓力很大的模擬仿真和各種運算。

與此同時，通常大家認為芯片設計就是寫IP或者寫代碼，但實際上，一家芯片公司還需要建機房、買服務器，以及管理服務器。

那么問題來了，對當時的燧原來說：

面對擴容需求，公司需要買服務器，這個過程需要工程師等待算力；而且，整個機房的建設也屬于一件很復雜的工程。

結果就是，千萬級IT開銷花出去了，工程師還是因為算力不夠需要等物理擴容、等算力。

后來的解決方案是：上云。

據任樹峰介紹，芯片設計上云在整個行業(yè)還不太常見，原因主要是相關數(shù)據過于敏感。

對此，燧原科技聯(lián)合騰訊云打造了本地+上云的存算分離式新架構。

效果上，通過騰訊云保障燧原的峰值算力供給，燧原驗證、benchmark測試效率從2周準備環(huán)境縮短至30分鐘，提升作業(yè)并發(fā)100%、縮短仿真周期30%。

動畫渲染更絲滑了

到了看似和技術沒那么近的文娛行業(yè)，貓眼娛樂副總裁徐曉也揭露了業(yè)內痛點：

在動畫電影制作時，涉及跨城市協(xié)作且數(shù)據量達到數(shù)十至上百TB時，使用傳統(tǒng)網絡進行傳輸非常緩慢。

這里要補充下，一般一個動畫項目的服務公司和工作人員可能分散在全國各地，需要將四散的工程文件進行匯總并統(tǒng)一渲染。

通常情形是，大家只能依賴快遞U盤或硬盤給對方，跨市傳輸至少需要1天，跨省則需2天，而跨國協(xié)作甚至可能拖延到十幾天。

經過試驗，貓眼基于騰訊云數(shù)據傳輸、數(shù)據存儲安全方面能力打造了貓眼渲染平臺。

讓工作者全部用遠程桌面登錄到集群，集群上安裝了常用工作軟件。

如此一來，工作者只需遠程在集群里制作，不僅省去了素材交換下載環(huán)節(jié)，還能更好保護版權方。

解決了這個大問題后，再用AI去做建模……

另外，關于貓眼AI轉型之路，徐曉在會中透露：

（我們）沒有基建建設能力，只能做一些垂類模型。

他重點分享了票房預測這一場景，當前，貓眼能夠根據單個影片特征和同期大盤預估票房。

這里依托了基于騰訊云打造的大數(shù)據平臺。具體包括：

基于騰訊云Wedata數(shù)據開發(fā)治理平臺，提供數(shù)據集成，數(shù)據開發(fā)、數(shù)據資產管理等；

基于騰訊云DLC數(shù)據湖產品，提供Serverless方式使用存儲計算資源，按需自動彈性擴縮容；

基于騰訊云DLC數(shù)據湖產品，提供統(tǒng)一湖格式存儲、實時寫入和更新數(shù)據入湖；

騰訊云BI提供查詢加速能力，聯(lián)合TCHouse-D提供的高性能查詢和加載報表數(shù)據到緩存，提供秒級交互式分析能力；

數(shù)據顯示，該平臺可實現(xiàn)日均3萬+離線數(shù)倉調度任務穩(wěn)定運行，核心任務執(zhí)行效率提升20%。

還有哪些看點

事實上，本次大會聚齊了SaaS、文娛、社交、營銷、電商、招聘等多個泛AI應用場景，到場分享的企業(yè)還有金蝶云、趣丸科技、智譜、獵聘、筷子科技……

篇幅有限，下面只能分享部分嘉賓看法。

作為LLM的頭部玩家，智譜企業(yè)商業(yè)技術中心總經理柴思遠分享了：

把大模型真正變成企業(yè)生產力，有幾件事值得思考。

具體而言，企業(yè)要選一個好的基座模型，同時內部最好也有類似業(yè)務BP的角色（懂模型價值、懂業(yè)務）。

更重要的是，最好發(fā)動全員去使用AI。

真正好的應用還是基于業(yè)務場景當中一些原生應用，而這些應用的創(chuàng)新肯定是來自于自下而上的組織內部的元素。

隨著數(shù)據資產的沉淀和變現(xiàn)，企業(yè)可以構筑自身競爭優(yōu)勢。

今天我們在大模型上落地應用，大家做的所有的指令工程和SRT的內容，隨著這個場景越來越深入的探索，這就會成為我們企業(yè)自身在大模型這個時代數(shù)據的資產或者是數(shù)據的壁壘。

最后是業(yè)務場景，前期可能適合將大模型嵌入已有工作流程；更長遠的，企業(yè)需要找到一些新的場景和業(yè)務模式，然后把模型的能力使用進去。

另外，趣丸技術保障負責人劉亞丹分享了：

應用AI賦能工具要回答的3個問題。

展開來說，劉亞丹首先提醒AI轉型也要講ROI，即“愿意為AI轉型花多少？想得到怎樣的成果？”。

然后還要尋找切入點。按他的說法：

提升3到5倍效率的事情，我們才投資去做。

同時，基于以往向客戶交付顛覆性東西的嘗試，他還分享了一條經驗教訓：

在切入點上，不要改變現(xiàn)有的流程。

最后，騰訊混元高級AI策略產品經理張漢策分享了如何構建AI角色。

他們構建的《長相思》AI角色獲得了成功：長相思AI角色對話總熱度超3.7億，“相柳” 單角色熱度超2億。

重點是，他詳細介紹了不同訓練方法踩過的坑，包括純prompt法、RAG法，以及Agent法。

并最終總結了長相思采用的方法。

騰訊云：讓企業(yè)更聚焦自身核心業(yè)務

相信大家也發(fā)現(xiàn)了一個華點：這些企業(yè)在AI轉型升級中都用上了騰訊云。

據了解，騰訊云擁有廣泛的全球基礎設施，覆蓋21個地區(qū)，運營58個可用區(qū)，全球服務器數(shù)量超過100萬臺，全球加速節(jié)點超過3200個，帶寬儲備達到200Tbps。

一直以來，騰訊云都以深厚的公有云實力和分布式云戰(zhàn)略，持續(xù)推動各行各業(yè)的數(shù)字化轉型。

截至目前，騰訊云AI產品已覆蓋超過400家互聯(lián)網頭部企業(yè)，累計服務超過12萬家互聯(lián)網客戶。

從AI應用落地面臨的挑戰(zhàn)出發(fā)，騰訊云行業(yè)架構副總監(jiān)邱浩分享了騰訊云AI全棧解決方案。

從基礎設施層、模型層、模型加速層、機器學習平臺層、應用平臺層和業(yè)務應用層闡述了騰訊云在計算、存儲、網絡，一站式AI開發(fā)平臺騰訊云TI-ONE以及云原生產品等方面的能力，并給出了對應不同階段AI應用開發(fā)的具體方案。

具體而言，騰訊云提供了如下開箱即用的產品：

騰訊混元大模型。企業(yè)和個人開發(fā)者，都可以通過API直接調用騰訊混元；

騰訊云TI平臺。打通從數(shù)據獲取到模型訓練部署、最后到AI應用開發(fā)的全流程鏈路；

數(shù)據庫TDSQL。涵蓋金融級分布式、云原生、分析型等多引擎融合的完整數(shù)據庫產品體系，支持數(shù)據庫遷移；

大數(shù)據處理套件TBDS?？稍诠性?、私有云、非云化環(huán)境，根據不同數(shù)據處理需求組合合適的存算分析組件；

……

總之，一句話概括騰訊云的作用，那就是可以讓企業(yè)更聚焦自身核心業(yè)務。

借用值得買科技王云峰的說法：

企業(yè)面臨的不確定性不會消失，但可以讓專業(yè)的人來解決。

BTW，就在大會前一天，騰訊混元發(fā)布了全新Turbo大模型，作為新一代的旗艦模型。

相比上一代混元pro，推理性能提升超過100%的情況下，成本降低了50%，效果對標GPT-4o。

此外，新模型也支持角色扮演、代碼生成FunctionCall，以及全新推出的支持騰訊生態(tài)整合的AI搜索聯(lián)網的能力。

對了，Turbo模型這一次的定價也降低了50%。

版權所有，未經授權不得以任何形式轉載及使用，違者必究。