靈活應變 & 實時
AI 推斷加速

概述

從邊緣到雲的最佳人工智能推斷

Vitis™ AI 是 Xilinx 器件、板卡及 Alveo™ 數據中心加速卡上的一款綜合 AI 推斷開發平台。它包括一係列豐富的 AI 模型、優化的深度學習處理器單元 (DPU) 內核、工具、庫以及邊緣和數據中心端的 AI 示例設計。Vitis AI 以高效易用為設計理念,可在 Xilinx FPGA 和自適應 SoC 上充分發揮人工智能加速的潛力。

Vitis AI 部署特性

您的開發如何與 Vitis AI 協作

  • 支持業界流行框架和最新的模型,能夠執行不同的深度學習任務 - CNN、RNN 和 NLP
  • 提供一係列全麵的預先優化 AI 模型,這些模型現已就緒,可隨時部署在 Xilinx 器件上。您可以找到最相似的模型,開始針對您的應用重新訓練!
  • 提供功能強大的開源 AI Quantizer,支持剪枝和未剪枝的模型量化、校準和微調。
  • 提供用戶友好型編譯和部署流程,可滿足客戶定義的模型和運算符需求
  • 提供逐層分析,有助於通過 AI 剖析器解決瓶頸問題
  • AI 庫提供高層次 C++ 和 Python API,可實現從邊緣到雲端的最大可移植性。
  • 可通過全圖形優化器 (WeGO) 提供流暢的解決方案,以便通過在框架內整合 Vitis AI,在雲計算 DPU 上部署 Pytorch 和 Tensorflow 模型。
  • 提供高效率、可擴展、可定製的 DPU IP 核滿足不同的需求,如吞吐量、時延、功率和低精度等

使用 Vitis AI 探索一切可能性

Vitis AI Model Zoo

AI Model Zoo

向所有用戶開放一係列來自最流行框架 Pytorch、Tensorflow、Tensorflow 2 和 Caffe 的現成深度學習模型。AI Model Zoo 提供了優化且可重訓練的 AI 模型,借助它們,您可在所有 Xilinx 平台上實現更快的部署、性能加速和现金网博e百 化。


AI 優化器

有了世界領先的模型壓縮技術,AI Optimizer 可以在對精度影響極小的情況下,將模型的複雜性降低 5 至 50 倍。深度壓縮可將您的 AI 推斷性能提升到一個新的層次。

人工智能優化器方框圖

人工智能量化器方框圖

AI 量化器

通過將 32 位浮點權值和激活轉換為 INT8 等定點,AI 量化器可在不影響預測精度的情況下,降低計算複雜度。定點網絡模型需要的內存帶寬更少,因此比浮點網絡模型速度更快,電源效率更高。


AI 編譯器

AI 編譯器可將 AI 模型映射到高效的指令集和數據流。它還可盡可能執行複雜的優化操作,例如,層融合、指令調度和複用片上存儲器。

人工智能編譯器方框圖

AI 剖析器

性能剖析器有助於程序員深入分析 AI 推斷實現方案的效率和利用率。


AI 庫

Vitis AI 庫是一組高層次庫和 API,旨在通過 DPU 核進行有效的 AI 推斷。它基於帶有統一 API 的 Vitis AI Runtime (VART) 構建,並為 Xilinx 平台上的 AI 模型部署提供了易於使用的接口。

人工智能庫方框圖

全圖形優化器(WeGO)模塊圖

全圖形優化器 (WeGO)

框架推斷流程 WeGO 通過利用本地 Pytorch 和 Tensorflow 框架將 DPU 不支持的運算符部署到 CPU 中,提供了一條從訓練到推斷的直接路徑,從而可顯著加速通過雲計算 DPU 的模型部署和評估。


深度學習處理器

靈活應變的特定域架構 (DSA),將 CNN、RNN 和 NLP 快速發展的 AI 算法與 Xilinx Zynq® SoC、Zynq UltraScale+™ MPSoC、Alveo 數據中心加速卡以及 Versal® ACAP 上的工業領先性能進行匹配。

Xilinx DPU 模塊圖
部署
kria-board

邊緣部署

借助 Vitis AI,真人百家乐游戏开户 可以在物聯網、自動駕駛和 ADAS、醫學成像和視頻分析等邊緣應用上實現高效的 AI 計算。Vitis AI 可在保持部署靈活性和最佳功耗的同時,通過一流的算法為您的邊緣器件提供強大的計算性能。

實操使用Vitis AI,並選擇 Xilinx 邊緣平台和嵌入式合作夥伴:


alveo

本地部署

Xilinx Alveo™ 數據中心加速器卡由 Vitis AI 提供支持,能夠為您提供業界領先的 AI 推斷性能,充分滿足 CNN、RNN 和 NLP 的不同工作負載需求創造性的本地 AI 解決方案旨在滿足現代數據中心超低時延、更高吞吐量和高靈活性的需求,不僅可提高 CPU 和 GPU 的計算性能,而且還可降低總體擁有成本。

安裝Vitis AI並安裝您的 Alveo 加速卡:


1592258132635

雲部署

Xilinx FPGA 現在可通過公共雲服務提供商(如 Amazon AWS 和 Microsoft Azure)向所有真人百家乐游戏开户 開放。使用 Vitis AI,真人百家乐游戏开户 不僅可輕鬆獲得雲端 AI 加速帶來的更高性能,而且還可構建您自己的應用。

技術文檔

Vitis AI 文檔

Default Default 標題 文件類型 日期
解決方案

助力自動駕駛和 ADAS 技術

實時多類 3D 對象檢測

實時多類 3D 對象檢測

借助 Vitis™ AI,您可在嵌入式平台上使用 3D 感知 AI 算法實現實時處理。硬件和軟件加速的共同優化實現了 Zynq® UltraScale+™ MPSoC 上最新 PointPillars 模型的領先性能。

觀看視頻>


麵向自動駕駛的超低延時應用

延遲決定了自動駕駛汽車在高速行駛時和遇到障礙物時的決策。通過創新的領域特定加速器和軟件優化,Vitis AI 使自動駕駛汽車能夠以超低延遲和更高性能來處理深度學習算法。

百家乐游戏规则 >

麵向自主駕駛汽車的超低延時應用

對象檢測與分割

對象檢測與分割

Vitis AI 具有強大的可擴展性和自適應性,可適用於許多低端到高端的 ADAS 现金网博e百 ,提供業界領先的性能,支持流行的 AI 算法,用於前端 ADAS 中的對象檢測、車道檢測和分段以及車內或環繞聲查看係統。

百家乐群 >


使城市更智能、更安全

視頻分析

城市越來越多地在邊緣點和雲端采用基於智能的係統。每天生成的海量數據需要強大的端到端 AI 分析係統,以便快速檢測和處理對象、流量和麵部行為。這為從邊緣到雲的每個框架增加了寶貴的見解。

了解更多有關Xilinx 機器與計算機視覺的信息>

視頻分析

利用人工智能的強大力量以提升健康

加速 COVID-19 圖像檢測

影像、斷和臨床設備中的 AI

Vitis AI 提供強大的工具和 IP,以發現和識別醫學圖像數據中的隱藏模式,幫助抗擊疾病並改善健康狀況。

了解更多有關Xilinx 醫療 AI的信息 >


本地及數據中心中的 AI

數據中心加速

隨著互聯網應用的爆炸式增長,基於 AI 的複雜型现金网博e百 和服務(例如圖像和視頻處理、實時廣播、推薦引擎和自然語言處理器)越來越多,這對數據中心加速平台上的處理能力提出了更高的要求。Vitis AI 在 Xilinx Alveo 卡和客戶平台上以更高的吞吐量和效率提供了更高的 AI 推斷性能,滿足了用戶在數據中心和雲快速發展的 AI 的期望。

了解更多有關百家乐投注技巧 的信息 >
人工智能優化器方框圖
視頻