AWS发布Neo-AI开源项目，可训练跨平台的机器学习模型

AWS发布新开源项目Neo-AI，该项目源自于Amazon SageMaker机器学习服务中的ML模型自动优化功能“ Amazon SageMaker Neo”，以协助处理器企业、设备制造商、深度学习开发人员打造可支持各种硬件平台的机器学习模型。

AWS所提供的Amazon SageMaker服务，能协助开发人员或数据科学家快速创建、训练与布署机器学习模型，而Amazon SageMaker Neo则是SageMaker服务的一项功能，只要训练一次就能以优化性能在云计算或其它硬件平台上运行。

AWS解释，平常要优化一个机器学习模型以让它适用于不同的硬件平台并不容易，开发人员必须针对每一个硬件平台与软件配置手动调整模型，对边缘设备而言则更具挑战性，因为这类设备不管是在运算能力或存储空间上都有所限制，开发人员可能需要深入了解硬件，或者具备罕见的专业知识，就算两者兼备，有鉴于好的工具并不容易取得，还必须经过大测量试才能达到良好性能。

而软件上的差异更让优化难上加难，假设设备上的软件与模型上的版本不同，模型与设备将不兼容，又再度限制了开发人员可进行优化的设备。

AWS宣称Neo-AI可减少调整机器学习模型以布署于不同平台的时间，借由自动优化TensorFlow、MXNet、PyTorch、ONNX与XGBoost等模型，在不丧失精确性的情况下，让其执行速度达到原始模型的两倍；此外，它还能将模型转换为高效通用格式，以解决软件兼容性问题。

Neo-AI也允许复杂的模型在资源有限的设备上执行，能释放自动驾驶汽车、家庭安全或异常检测等领域的创新能力，它目前支持来自英特尔、Nvidia与Arm的平台，并即将支持Xilinx、Cadence及Qualcomm。

Neo-AI的本质是个机器学习编译器，处理器制造商可将程序代码集成到编译器上以改善模型性能，设备制造商则能根据设备的软/硬件配置定制化Neo-AI的运行环境，Neo-AI项目将汲取不同来源的创新，打造一个通用的编译器与运行环境，以带来各种模型的最佳性能。

AWS已借由GitHub发布Neo-AI项目，将采Apache软件授权。