欧美在线日韩-欧美在线区-欧美在线看欧美视频免费网站-欧美在线精品一区二区在线观看-www..com黄-vr专区日韩精品中文字幕

行業(yè)動態(tài)
應(yīng)用來了,百度云的企業(yè)級大模型應(yīng)用如何在產(chǎn)業(yè)落地?
2024-12-02

當(dāng) AI 賽道來到下半場,如何真正借助大模型引領(lǐng)各行各業(yè)發(fā)展創(chuàng)新,成為頭部互聯(lián)網(wǎng)企業(yè)的必爭之地。(雷峰網(wǎng)雷峰網(wǎng)雷峰網(wǎng))

放眼全球,企業(yè)對大模型的需求日益增加,這不僅因?yàn)槠鋸?qiáng)大的數(shù)據(jù)處理和分析能力,更因?yàn)槠湓趯?shí)際應(yīng)用中的出色表現(xiàn)。大模型通過預(yù)訓(xùn)練大量數(shù)據(jù),提升了模型對內(nèi)容的理解力和生成力,面向行業(yè),無論是在市場營銷、辦公提效,還是客戶服務(wù)等方面,如何將更好的將大模型進(jìn)行業(yè)務(wù)場景化落地,始終是企業(yè)關(guān)心的核心問題。

百度作為全球領(lǐng)先的技術(shù)公司,率先推出了文心大模型等系列大規(guī)模預(yù)訓(xùn)練模型,這些模型通過整合海量數(shù)據(jù)和知識,成為多個(gè)應(yīng)用場景的技術(shù)基礎(chǔ)。

今天,百度的文心大模型在金融、醫(yī)療健康、旅游、專業(yè)咨詢服務(wù)、內(nèi)容創(chuàng)作與 AI 作畫方面的應(yīng)用均展示了其在跨模態(tài)、跨語言情景下的深度語義理解與生成能力,以及在搜索問答、內(nèi)容創(chuàng)作生成、智能辦公等眾多領(lǐng)域的應(yīng)用潛力。

在其自主研發(fā)的百舸 AI 算力平臺,更是通過對底層硬件資源的優(yōu)化,提高了模型的運(yùn)行效率和資源利用率,幫助企業(yè)更高效地進(jìn)行大模型的開發(fā)和部署。

盡管 AI 大模型已經(jīng) B 端爆發(fā),為各行各業(yè)帶來巨大價(jià)值,但在下游行業(yè)的大模型落地中,仍面臨一系列相關(guān)場景挑戰(zhàn)。比如投入成本大于可見收益、應(yīng)用效果不達(dá)預(yù)期、以及后續(xù)模型效果退化等問題屢屢出現(xiàn)。

11 月 6 日,百度智能云舉辦百度世界大會 AI 應(yīng)用媒體沙龍,特此分享百度 TO B 市場的企業(yè)級應(yīng)用產(chǎn)品的落地效果,并邀請百度智能云技術(shù)委員會主席孫珂、百度智能云數(shù)字人產(chǎn)品部總經(jīng)理張?jiān)O琛俣戎悄茉浦悄芸头c智能內(nèi)容產(chǎn)品部總經(jīng)理張紅光等三位專業(yè)人士在現(xiàn)場做了分享和交流。

以下是媒體與三位嘉賓在會上的對談實(shí)錄,雷峰網(wǎng)在不改變原意的情況下做了編輯和調(diào)整:

01 用戶正向反饋,百度智能云 " 客悅 " 幫助企業(yè)節(jié)省運(yùn)營成本

Q:關(guān)于百度智能云客服客悅這款產(chǎn)品的用戶反饋如何?

張紅光:過去智能客服無法感知到用戶情緒,比如說復(fù)雜的多主語問題,但現(xiàn)在客悅有能力去解決這些問題,通過語音引擎(ASR/TTS)來識別和表達(dá)用戶語音,專門適配電話場景、定義溝通場景和回答方式,并對通話數(shù)據(jù)進(jìn)行結(jié)構(gòu)化分析和標(biāo)簽打標(biāo),提升業(yè)務(wù)洞察能力,最關(guān)鍵的是,能在一定程度上減少轉(zhuǎn)人工率,節(jié)省了企業(yè)的運(yùn)營成本。

張紅光:這次我們在世界大會推出的大模型智能外呼,還能夠幫助企業(yè)節(jié)省人力成本。這是因?yàn)橛泻芏嗥髽I(yè)在做線索篩查和聯(lián)系用戶時(shí),80% 時(shí)間都是在撥打一些無效電話,大模型智能外呼可以替代人工重復(fù)性工作進(jìn)行初篩,甚至還可以洞察出某些高意向用戶,轉(zhuǎn)人工跟進(jìn)進(jìn)一步溝通。并且與用戶溝通過程中能夠保持?jǐn)M人、友好的交互,這些都是大模型加持下的智能客服,給客戶帶來的新的產(chǎn)品體驗(yàn)。

Q:針對不同行業(yè)的落地應(yīng)用,百度有哪些定制化?如何降低定制化工作的成本以達(dá)到最優(yōu)狀態(tài)?

張紅光:以智能客服客悅的市場經(jīng)驗(yàn)來看,目前大部分應(yīng)用還是在一個(gè)場景里橫向滿足用戶需求,定制化主要體現(xiàn)在企業(yè)使用的過程當(dāng)中,比如作為一個(gè)客服,既要跟 CRM、銷售管理流程貫穿,還要在數(shù)據(jù)收集系統(tǒng)里,所以就需要對接不同的系統(tǒng),這就需要定制化的工作。

張?jiān)O瑁阂园俣戎悄茉频臄?shù)字人為例,提升它的應(yīng)用集成效率速度,就能降低數(shù)字人在不同端的訓(xùn)練能力和開發(fā)成本。比如過去最早做定制項(xiàng)目可能 30% 是數(shù)字人相關(guān),70% 和用戶相關(guān),關(guān)注的是系統(tǒng)要如何融合打通的問題。但現(xiàn)在轉(zhuǎn)變過來,整個(gè)業(yè)務(wù)里 70%-80% 都是跟數(shù)字人效果能力強(qiáng)相關(guān)的,比如怎么在一個(gè)視頻里去優(yōu)化數(shù)字人的動作等,這背后都是源于客戶對于大模型認(rèn)知的轉(zhuǎn)變,客戶開始更加關(guān)注應(yīng)用場景的落地價(jià)值。

目前百度智能云在標(biāo)準(zhǔn) SaaS 場景應(yīng)用中,也會更側(cè)重于大場景上的通用能力,比如數(shù)字人視頻,雖然很難將教師視頻、醫(yī)療視頻,甚至一些非常大的場景做的非常細(xì)致,但在整個(gè)數(shù)字人的生成合成層面是可以做到最優(yōu)的。

02 解析數(shù)字人的應(yīng)用場景,以及定制化解決方案

Q:站在數(shù)字人角度,現(xiàn)在更被大家所接受或者大家愿意應(yīng)用的是 2D 還是 3D?

張?jiān)O瑁赫w來看,頭部企業(yè)客戶喜歡用 3D,中小客戶和廣泛用戶喜歡用 2D,這也跟客戶的使用場景相關(guān)。

比如,在一些科技類企業(yè),要做金融報(bào)告的解讀和對外宣傳時(shí),會傾向于使用 3D 形象,包括在一些文旅、地方科技館的服務(wù)場景,也會使用 3D 形象多一些,因?yàn)?3D 形象更具備科技未來感,能夠從互動感受上帶來更新穎的體驗(yàn)。

Q:針對 SMB 客戶和 KA 客戶,如何定制化解決 2D 跟 3D 的數(shù)字人的產(chǎn)品形態(tài)?

張?jiān)O瑁浩鋵?shí)差別并不大,因?yàn)榛A(chǔ)應(yīng)用場景無非是視頻、對話、直播這三個(gè)場景,雖然從技術(shù)角度看,數(shù)字人視頻一對多異步渲染、數(shù)字人對話是一對一的實(shí)時(shí)渲染、數(shù)字人直播是一對多的實(shí)時(shí)渲染,但是其實(shí)從底層能力的角度來看是幾乎一樣的,無非是驅(qū)動人像技術(shù)及其算法模型應(yīng)用上略有差別。

比如要解決 2D 形象如何拍視頻的問題,讓動作呈現(xiàn)出更多樣性,突破原來的拍攝內(nèi)容。理想情況就是用自己的形象拍一張照片或者一個(gè)視頻,通過授權(quán)后,無論是在出席發(fā)布會或者做講解視頻等場景下,都可以把形象做出來,這就是未來理想化的一個(gè)狀態(tài)。

3D 層面則相對簡單一些,因?yàn)?3D 本身在游戲場景中就包含了動作系統(tǒng)和語言系統(tǒng),但問題在于,如何讓普通人以更低的成本,或者像企業(yè)級應(yīng)用那樣,實(shí)現(xiàn)高指向性和準(zhǔn)確性的驅(qū)動,這是目前正在解決的調(diào)優(yōu)問題。

03 解放雙手,文心快碼如何助力程序員

Q:文心快碼往外推的時(shí)候,程序員對文心快碼的信任度高嗎?

孫珂:其實(shí)從內(nèi)部的測試來看,一開始推廣的時(shí)候程序員也會有排斥心理,但隨著他的使用頻率增強(qiáng),逐漸會感受到對工具的依賴性也在慢慢變高,就會發(fā)現(xiàn)他的代碼生成量占比和采納率在往上漲。

整體來看,程序員群體對新技術(shù)接受度還蠻高,但他們關(guān)注的點(diǎn)不是信任與否,而是產(chǎn)品本身能否跟程序員做一些交互上設(shè)計(jì)。

Q:如果要將文心快碼推廣到市場,中間會不會經(jīng)歷所謂的教育用戶過程?

孫珂:其實(shí)這個(gè)過程我認(rèn)為不是教化邏輯,更多是互相成長,如果仔細(xì)觀察就能發(fā)現(xiàn),在市面上有非常多的代碼輔助類產(chǎn)品,但卻有三個(gè)不同的區(qū)別,一個(gè)是比較常見的用 IDE 加 plugin 的一種形態(tài),跟程序員進(jìn)行一個(gè)陪伴式的編程;另外是稍微接管多一些,在 IDE 里面會幫你嘗試做更自動化的編程嘗試;還有一些很激進(jìn)的廠商或創(chuàng)企,它會直接邁到所謂 Out coder 的過程,從 PRD 開始自動生成。

因此,整個(gè)過程其實(shí)是逐步根據(jù)當(dāng)前應(yīng)用基于大模型,針對程序員需求的一些解法逐漸進(jìn)步,而最終大家都會趨同都會走到那個(gè)平衡點(diǎn)上。

Q:文心快碼目前在哪些行業(yè)應(yīng)用成熟?

孫珂:首先是金融行業(yè),特別是銀行、證券等對代碼類的工具需求非常多,第二是泛科技或者泛互聯(lián)網(wǎng)行業(yè),這些新興企業(yè)也應(yīng)用比較廣泛。

第三是傳統(tǒng)的軟件開發(fā),最后一個(gè)則是制造業(yè),包括一些汽車行業(yè)、工業(yè)行業(yè)等。

Q:站在基礎(chǔ)設(shè)施角度,這次我們產(chǎn)品升級帶來哪些差異化優(yōu)勢?

孫珂:基于一個(gè)統(tǒng)一的底層架構(gòu)具有諸多優(yōu)勢,其中之一在于我們的模型服務(wù)。

無論是大模型還是傳統(tǒng)的 AI 模型,如何運(yùn)行這些模型并提供一個(gè)穩(wěn)定的接口,以保證其吞吐量,包括如何對這些模型進(jìn)行優(yōu)化是一個(gè)重要的問題。百度智能云千帆這樣一個(gè) PaaS 平臺在應(yīng)用之下為我們提供了完整的相關(guān)服務(wù),包括模型效果、推理性能等系列工作,千帆平臺都提前為我們做好了,這極大地提升了我們產(chǎn)品的研發(fā)效率。

其二,還需要適配底層的硬件資源和基礎(chǔ)中間件。目前可能有幾十種底層的硬件配置方案,要想讓應(yīng)用程序高效地適配所有這些配置,是一項(xiàng)非常復(fù)雜的工作。如果每個(gè)應(yīng)用程序都需要直接適配各種底層硬件配置,那么復(fù)雜度的數(shù)量將是一個(gè)天文數(shù)字。

但在我們的底層基礎(chǔ)設(shè)施百舸平臺上,無論是公有云還是私有化部署的環(huán)境下,都可以屏蔽底層硬件相關(guān)的適配工作,讓我們可以更聚焦產(chǎn)品本身的工作。因此,對于我們開發(fā)應(yīng)用而言,實(shí)際上只需要關(guān)注一個(gè)平臺即可,而且只需要關(guān)注一套效果。

這對我們整個(gè)上層應(yīng)用的蓬勃發(fā)展和提升效率都是非常有幫助的。

查看原文


1063568276