据介绍,微软在 ONNX Runtime 1.8 版本中,首度为引擎推出了浏览器内推论功能,该功能利用 WebGL 和 WebGPU 进行推论,允许开发者调用浏览器跨平台部署机器学习模型。
而在最新的 ONNX Runtime 1.17 中,微软选择进一步强化浏览器在训练过程中起到的作用,允许开发者使用浏览器训练模型。
微软提到,相关基于浏览器的网页训练功能主要由 WebAssembly 和 JavaScript API 两部分组成,其中 WebAssembly 用于转换代码,JavaScript API 用于管理 WebAssembly 与缓冲区转换过程。
▲ 图源 微软官方新闻稿注意到,由于浏览器不能直接允许 C 语言代码,因此微软使用 WebAssembly 将代码转换为能够在浏览器中高效运行的.wasm 二进制文件,以便于开发者在浏览器中进行模型训练。
微软同时提到,目前基于浏览器的模型训练方式仅支持 CPU 单线程运算,开发者同时需要使用 ONNX 工具生成必要的运行环境,之后才能进行训练。
微软新闻推荐
win10系统推荐
系统教程推荐