- 1、本文档共38页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
演讲人:付俊伟
胡宁馨,英特尔首席工程师,W3CWebNeuralNetwork(WebNN)标准的起草和主要编辑者,ChromiumcommitterandChromiumWebNN组件的主要拥有者
张敏,IntelWebNN团队的技术经理,ChromiumandONNXRuntimeWebNNEP的开发者,WebNNdeveloperpreview的作者
付俊伟,英特尔高级软件工程师,ChromiumcommitterandChromiumWebNN的
基础架构设计和ChromiumShapeDetectionAPI主要开发者
目录
01WebNN出现的背景
01WebNN出现的背景
02WebNN的架构设计
04
04WebNN的性能对比
03如何使用WebNN
https://microsoft.github.io/webnn-developer-preview/
WebNN
WebNNExecutionProviderofONNXRuntimeWebwithGPUaccelerationfromDirectML.RunningonIntel?CoreUltra7processor155HwithintegratedArcGPU.
Acatunderthesnow
Acatunder
thesnow
StableDiffusion
i
iImageDecoder
Text
TextEncoder
Unet
Step
1
ImageGeneration
Unet
Step
4
Unet
Step
2
Unet
Step
3
WebNNOperation
matMul
gather
sigmoid
softmax
DirectML
GEMM
GATHER
LOGISTIC
SOFTMAX
TFLite
BATH_MATMUL
GATHER
ACTIVATION_SIGMOID
ACTIVATION_SOFTMAX
CoreML
matmul
gather_along_axis
sigmoid
softmax
运用场景
ObjectDetectionNoise
ObjectDetection
Noise
Suppression
Image
Classification
NaturalLanguage
BackgroundSegmentation
TensorFlow.jsMediaPipeWebONNXRuntime
TensorFlow.js
MediaPipeWeb
ONNXRuntimeWeb
框架
Transformers.js
WebAPI
WebAssembly
WebAssembly
API
APIextensions
WebGPU
WebNN
Web引擎
WebBrowser
(e.g.,Chrome/Edge)
JavaScriptRuntime(e.g.,Electron/Node.js)
系统
MLAPIs
DirectMLTFLiteCoreMLWindowsStudio
DirectML
TFLite
CoreML
WindowsStudioEffects
OtherMLOSAPIs
硬件
CPUNPU
CPU
NPU
GPU
devicetype:cpu/gpu/npu
powerpreference:high-perf/low-power
MLGraphBuilder
MLGraphBuilder
InputBuffers(CPU/GPU)MLGraphcompilecomputeOutputBuffers(CPU/GPU)build↓
InputBuffers(CPU/GPU)
MLGraph
compile
compute
OutputBuffers(CPU/GPU)
inputconv2dreluaddtmptmpbiasComputationalGraph(Web)
input
conv2d
relu
add
tmp
tmp
bias
filter
output
inputoutputCompiledGraph(Native)
input
output
Fused
Fusedconv2d
WebNNAPI二OtherWebAPI
Callflow
Dataflow
MLContext↓create
MLContext
↓create
WebNN
WebN
文档评论(0)