6月6日,京東云城市大會在成都順利舉行,大會全面展示了京東場景大模型應用效果、言犀大模型技術能力升級,支持大模型的新一代數字基礎設施,持續加速產業智能化變革。大模型落地應用的關鍵是在資源、性能、效果三者之間取得平衡。為了實現這一目標,京東云自研了推理引擎,通過利用推測解碼,用小模型輔助大模型進行推理,從而加速大模型的推理速度并降低成本。在大模型應用開發方面,京東云自研了大模型產品,以支持更高效的研發運維。其中,自研的輔助編碼助手 JoyCoder 幫助研發人員更高效地編寫、閱讀和優化代碼,目前京東上萬名研發人員在使用 JoyCoder,生成代碼采納率超過30%,助力開發周期縮短20%。在運維服務上,京東云自研了混合多云智能運維平臺,提供指標異常檢測、日志分析、故障定位等功能,在 QPS 達千萬級流量時,可用率仍達到99.9%,大幅提升了運維效率。
基于京東云的自研技術,大模型已經在京東的數百個應用場景中得到了應用,包括直播帶貨、店鋪運營、廣告投放等領域。例如,在內容生產方面,超過9萬商家借助大模型零成本制作店鋪營銷物料,AIGC 生成內容采納率超50%,實現了大幅度的降本提效。在數字人直播方面,大模型加持的京東云言犀數字人已在超過5000間品牌直播間開播,帶貨 GMV 總量近百億。
為了進一步推動大模型的應用,京東云還推出了一套支持大模型的完整工具,包括言犀 AI 開發計算平臺、向量數據庫、混合多云操作系統云艦、高性能存儲平臺云海、軟硬一體虛擬化引擎京剛等核心產品。其中,言犀 AI 開發計算平臺可以提供從基礎資源、模型服務到智能體構建的一站式大模型服務,支持 GPU 資源的統一管理,兼容國內外主流 AI 芯片,實現集群算力資源的充分利用。
未來,京東云將繼續與合作伙伴一道,以更豐富的應用場景和領先的技術能力,助推大模型抵達產業智能。 |