<wbr id="bijqn"><pre id="bijqn"></pre></wbr>

      1. <wbr id="bijqn"></wbr>
        <em id="bijqn"></em>

        <sub id="bijqn"><listing id="bijqn"><nobr id="bijqn"></nobr></listing></sub>
        <sub id="bijqn"></sub>

        16個月后,中國大模型的最佳實踐是什么?

        新視界作者 產業家 / 砍柴網 / 2024-08-05 20:01
        "
        大模型要用起來,才能活起來。

        作為同時具備實體企業屬性和數字技術能力的新型實體企業,京東內部的供應鏈場景恰是大模型應用最好的“試驗田”。從實驗室到具體場景,從技術到供應鏈,AI應用的范例正在出現。 

        作者| 皮爺 

        出品|產業家 

        大模型已經成為一項時代技術。在基礎設施建設幾年后,人們的關注點轉向應用落地問題。而京東在國內技術企業中,擁有電商、物流、健康、科技等豐富的供應鏈場景,成為大模型技術落地應用的沃土 。 

        大模型在京東的落地實踐,也更在成為人們關注的話題點之一。 

        在2024京東云上海峰會上,京東就展示了大量大模型應用產品和落地案例。包括言犀數字人3.0平臺、智能編程助手JoyCoder、言犀智能體平臺,以及小哥終端智能助手、智能導購助手、OA助手、智能醫生助手等對應場景的智能體。 

        做大模型應用的企業不在少數。但能讓大模型應用在產業場景里真正跑起來,融入工作流程,產生實際價值,則對千行百業都有珍貴的借鑒意義。這些大模型應用從京東零售、物流、健康、金融等無數真實場景中“長出來”,打磨完善后又在以京東云為窗口,逐漸開放給外界。 

        實際上,對于京東,外界一直有所期許。在所有技術企業中,京東是少數具備豐富供應鏈場景和數據的,能夠為大模型應用生長提供土壤。京東以言犀大模型驅動的應用,具備“產業原生”得天獨厚的優勢。而近期,在去年JDD大會發布言犀大模型后,京東又階段性地交出了大模型應用的答卷。 

        “敢為人后,慢即是快。”京東沒有讓大模型頻繁刷榜,在新聞熱搜里爭第一,而是在內部供應鏈場景讓大模型應用持續生長。京東云宣布:大模型應用在內部超100個AI場景全面鋪開,已經有超35萬京東自有配送員、超23萬商家、超5萬副主任級別以上醫生、超2萬采銷運營、超1萬研發人員得到了大模型應用的支持。 

        “大模型 要用起來,才能活起來。” 京東集團技術委員會主席、京東云事業部總裁曹鵬表示,京東供應鏈是大模型應用的超級孵化器,京東云持續將孵化成熟的大模型應用打磨、沉淀成產品,為客戶提供服務。 

        “產業窗口”里的京東大模型 

        京東云言犀大模型落地應用、“撞線”大規模商業化的標志,就是言犀數字人直播的618戰績:首秀1小時,“采銷東哥”AI數字人直播間觀看量超過2000萬人次,帶貨GMV超5000萬元。這改變了直播電商的范式,幾乎成了電商觀察必談的話題。 

        數字人,是京東言犀大模型被看見的第一個窗口。 

        不僅在采銷直播間實現了傲人戰績,言犀數字人也已經開放給平臺商家,服務超5000家品牌,帶動GMV超過百億元。言犀數字人集成了京東言犀大模型、聲音處理和多模態交互等全方位能力,已經轉化為平臺商家們實實在在的銷售業績。 

        在最廣為人知的言犀數字人直播之外,其他場景下,大模型應用也在遍地開花。 

        去年12月,京東健康就與溫州醫科大學附屬第一醫院達成戰略合作,雙方將共建“未來醫院智慧服務”。而雙方合作的底座之一正是“京醫千詢”大模型。 

        “京醫千詢”是基于言犀大模型訓練,面向醫療場景專項訓練的行業垂直大模型。其可以幫助醫院完成AI前置處方審核、醫生輔助診療,以及面向患者的前端AI智能診療等等。其中,“AI前置處方審核系統”就于今年在北京海淀區全面落地,有近百家基層醫療衛生機構使用,日均審核處方超過2萬張。 

        服務于物流場景的“小哥智能終端助手”,則已經裝進了超過35萬京東自有配送員的手持設備。無論是查詢物流規范,還是輸入攬件信息生成訂單、派送時給顧客發去短信,都能極大提高快遞小哥的效率。 

        在零售營銷場景,AIGC營銷工具“京點點”就能幫助商家一鍵生成商品圖片,能撰寫商品文案、短視頻腳本等。在金融營銷場景,則用上了言犀大模型與部分專有場景營銷模型的“組合拳”。原本需要14天準備的營銷活動,現在1天就能上線。 

        在技術研發場景,智能編碼助手JoyCoder也能幫助研發工程師自動完成過去需要手動調試的代碼轉換,對源代碼的識別率達到90%以上,轉換的代碼可用率達到80%,生成代碼采納率超過35%,研發整體提效30%。 

        從京東云峰會我們能清晰地觀察到:不同于其它大模型頻繁刷榜、在底層技術指標“鉆牛角尖”,京東言犀大模型則扎向了企業內部場景,以及平臺伙伴的供應鏈流程上。 

        京東的大模型為何可以率先扎根產業場景,結出豐碩的果實? 

        二、產業為王:A I的第一性原則 

        大模型應該如何發展,不同企業有各自的思路。很多企業是卷技術研發、“拿著錘子找釘子”,希望強化通用大模型的能力,也能提升應用能力;而京東為代表的另一些企業,則本身擁有產業場景,能讓大模型技術進步與產業應用互相促進、形成飛輪。 

        京東的言犀大模型,在底層訓練時就融入了30%的供應鏈原生數據,這些數據來自于京東自營電商的商品SKU、5000萬工業品SKU、超800萬家活躍企業客戶以及全國超2000個產業帶的真實需求。這使得它能更好應對產業需求。 

        如果說言犀大模型是更適合產業應用的“大腦”,那么智能體就連接起靈活的四肢,讓人們構建大模型應用時更加低門檻和靈活。 

        這次京東云峰會發布的言犀智能體平臺就能幫助人們快速搭建智能體。和許多智能體平臺不同的是,在搭建環節,言犀智能體平臺不僅能調用底層的產業能力模塊,還會給出細分領域的行業知識增項,每個智能體都相當于一個行業專家。 

        舉例來說,人力資源部門員工制作培訓課程,原本需要剪輯視頻,在反復觀看、頻繁溝通下,輔以專業知識,每周最多剪輯完2個。而利用言犀智能體平臺,員工在2天內就能搭建起AI視頻剪輯應用,完成智能剪輯工作。 

        京東云表示,在言犀智能體平臺上,活躍的智能體已經超過3300個,沉淀的行業解決方案則更是超過100個。 

        同樣還有健康和物流。在對應產業數據的訓練和微調下,不論是其基于底層京東言犀大模型進行MaaS模型層面的深度開發(蒸餾、剪枝、拉升等),還是基于RAG或者智能體層面的調試,都可以達到更好的實用效果。 

        此外,不論是對內還是對外,基于不同的需求,京東往往基于“大模型+小模型”共用的靈活方式來解決最終產業問題,比如在健康場景,京東為客戶提供多款如2b、14b、22b以及80b等不同的模型來滿足AI處方、診療、患者服務等不同場景的需求,再比如在物流場景,在京東內部,采取的也更是“NLP+傳統大模型”的方式進行產品設計。 

        也可以說,從產業數據底層、產業需求底層發散出來的優勢也恰構成著如今京東交出具有靈活性、實戰性AI產業應用和服務模型的底層支撐。 

        三、京東云大模型的落地“啟示錄” 

        在京東這家既具備底層通用大模型能力,又涉足多元產業場景和復雜協同的企業里,AI已經成為被廣泛使用的底層能力。 

        “最開始發布言犀智能體平臺的時候,我們還有點擔心,是不是會有人使用、能否滿足集團同事們的需求。”言犀智能體平臺負責人告訴我們。但業務人員利用智能體輔助自己工 作 的熱情,以及調用智能體、構建工作流的次數,都大大超過預期。 

        這些智能體的數據來自真實的業務積累,應用在業務場景中磨練,工作流凝聚了業務人員的行業Know-How。可以說,智能體正將京東許多場景的產業知識汲取出來,固化到應用里,成為可以分享和組合的能力。 

        涌現的不僅是智能體層面的AI應用,在健康、物流、金融等場景之外的其它供應鏈細分節點,如今京東也建立了一套完備的AI模型應用體系。 

        “我們目前會根據業務的需求看是否要調整模型的權重,如果需要調整,我們就會采取MaaS的方式,對模型進行調整;如果不需要,我們就會用RAG等方式幫助業務滿足需求。” 京東基礎大模型相關負責人告訴我們。 

        如果把視角放大,則更能清晰感知到的是,在如今的京東內部,一系列包括C端Agent應用、B端模型產品和解決方案等近乎全部京東的業務模型和組織模型正在被AI重構。 

        而為這些提供支撐的則是京東如今以言犀大模型為底座的強AI平臺能力和云平臺能力。如今,在言犀AI開發計算平臺2.0內,已經內嵌了100多種優化工具,只需一鍵部署即可釋放90%的推理成本。 

        此外,言犀AI開發計算平臺2.0支持全部主流國產化AI算力,支持vGPU;同時,全面升級的云海3.0也更是無限支持千億級參數AI大模型,基于融合超低延時RDMA網絡及軟件架構優化,4K隨機寫IOPS達到1000萬級,平均延遲在100微秒級。 

        這些強底層能力在構成著如今京東在內部的無數業務重構的同時,也更在成為著京東云將內部的AI實踐產品向外部釋放的支撐和底氣。 

        如今,伴隨著越來越多的實踐,這些產品仍在進化。比如在這次峰會上京東云言犀數字人平臺3.0被重磅發布,在之前的AI數字人基礎上,引入直播中臺模式,同時上線多種行業專屬場景,幫助企業更好 地落地數字人。 

        可以說,京東作為同時具備實體企業屬性和數字技術能力的新型實體企業,內部的供應鏈場景成為大模型應用最好的“試驗田”。這些供應鏈場景,幫助大模型應用填補了從實驗室走向供應鏈的溝壑,讓大模型應用能夠扎實落地、持續進步。 

        這既是京東的大模型故事,對中國土壤上的無數正在探索大模型落地的企業,同樣是一筆寶貴的范例財富。 

        聲明:砍柴網尊重行業規范,任何轉載稿件皆標注作者和來源;砍柴網的原創文章,請轉載時務必注明文章作者和"來源:砍柴網",不尊重原創的行為將受到砍柴網的追責;轉載稿件或作者投稿可能會經編輯修改或者補充,有異議可投訴至:post@ikanchai.com
        您想第一時間獲取互聯網領域的資訊和商業分析,請在微信公眾號中搜索"砍柴網"或者"ikanchai",或用微信掃描左邊二維碼,即可添加關注,從此和砍柴網建立直接聯系。

        相關推薦

        熱文導讀

        1
        3
        免费观看性行为的视频网站