7月30日,2024京東云峰會上正式發(fā)布了新一代一站式 AI Agent 開發(fā)平臺——言犀智能體平臺。平臺已接入數(shù)十個大模型,無論用戶是否有編程基礎,從解決簡單的問答到處理復雜邏輯的業(yè)務問題,都可以低成本快速搭建基于 AI 模型的各類智能體。如今,活躍在京東內(nèi)部的智能體超3300個,平臺還沉淀了100多個行業(yè)解決方案模版,支持行業(yè)應用快速落地。
隨著AI技術(shù)的飛速發(fā)展,大模型技術(shù)已成為推動行業(yè)創(chuàng)新的引擎。零售、醫(yī)療、教育等行業(yè)都在積極探索用好大模型。盡管大模型充滿潛力,企業(yè)在實際應用過程中卻面臨諸多挑戰(zhàn):專業(yè)的AI人才匱乏,數(shù)據(jù)安全的擔憂,定制化應用的開發(fā)難題,以及集成到現(xiàn)有系統(tǒng)的高難度和應用效果的不確定性。這些問題成為了企業(yè)實現(xiàn)大模型快速應用落地的障礙。
在此背景下,言犀智能體平臺應運而生。如果說大模型像是可以思考的大腦,智能體就像把大腦和四肢結(jié)合,它是具有自主性、感知能力、決策能力的小助理,幫助用戶完成特定的工作任務。平臺通過完備的AI解決方案,流程編排、算法庫、工具庫、Advance RAG、數(shù)據(jù)分析、自動評測能力組合,即便是沒有深厚AI基礎的企業(yè)也能快速將LLM應用到實際業(yè)務場景中,解鎖新的價值潛力。
豐富的大模型能力:目前智能體平臺內(nèi)置了言犀大模型、GPT、GLM、Gemini等國內(nèi)外主流大模型,用戶可能根據(jù)實際的業(yè)務需求選擇不同的大模型能力。
Advance RAG添加內(nèi)部知識副腦:提供了簡單易用的知識接入能力,用戶通過簡單的配置即可實現(xiàn)結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)的接入,大模型會根據(jù)用戶輸入,自動調(diào)用本地知識進行回復。
算法庫及工具庫給智能體裝上雙手:通過插件能力平臺沉淀了上千種算法、工具能力,包括數(shù)據(jù)分析、NL2SQL、文檔內(nèi)容提取、sku信息查詢等,用戶可以直接將在智能體中運用這些能力,進而調(diào)度各類業(yè)務系統(tǒng)。例如,通過調(diào)用數(shù)據(jù)分析插件,直接查詢預算數(shù)據(jù)。
工作流指導LLM按照既定的路徑行動:通過工作流對插件和大模型能力進行編排組合,指導LLM按照既定思路行動,提高大模型應用執(zhí)行的確定性。例如通過流程編排對ASR、大模型能力、數(shù)據(jù)源管理、SQL執(zhí)行、RAG進行編排,實現(xiàn)自然語言對數(shù)據(jù)進行問答展示。
智能數(shù)據(jù)分析實現(xiàn)數(shù)據(jù)能力:完整的數(shù)據(jù)源管理、自然語言轉(zhuǎn)SQL、數(shù)據(jù)數(shù)據(jù)可視化能力實現(xiàn)人人都是數(shù)據(jù)分析師,每個人都能通過自然語言了解業(yè)務數(shù)據(jù),讓數(shù)據(jù)指導每位員工決策。
明確智能體定位:通過智能體編輯頁高級功能-變量模塊將問答人的身份、工作地等背景信息傳遞給智能體,作為對話過程中的基本信息。例如,當工作在北京的員工詢問差旅政策時,便自動使用北京的差旅政策回答用戶的詢問。
目前,言犀智能體平臺已在零售、物流、健康、工業(yè)、協(xié)同辦公、人力資源、財務、法務、營銷管理、數(shù)據(jù)分析、音視頻、物聯(lián)網(wǎng)、IT運維、研發(fā)效能、網(wǎng)絡安全、生活娛樂等領(lǐng)域積累形成了100多個解決方案,支持企業(yè)快速落地。
例如基于平臺構(gòu)建的AI搜索,用戶通過對話的方式對用戶私域知識、集團公共知識進行AI搜索;視頻分析智能體,針對企業(yè)內(nèi)部成千上萬的線下錄制課程,利用智能體將無用片段剔除,同時自動歸類主題,自動切分成多個視頻;電話營銷質(zhì)檢智能體,可以讀懂營銷電話,完成內(nèi)容梳理分析,精準定位目標,目前智能體每天處理超150000話單,采納率超90%。