Nexa AI

Nexa AI - 在几分钟内在任何设备上运行任何 AI 模型

Nexa AI 简介

NexaSDK 是一个易于使用的开发者工具包，可在本地运行任意 AI 模型——支持 NPU、GPU 和 CPU——由我们的 NexaML 引擎驱动，从零构建，为每种硬件堆栈提供最佳性能。
与依赖现有运行时的封装不同，NexaML 是从内核级别构建的统一推理引擎。这使得 NexaSDK 能够在新模型架构发布的第一天就提供支持（LLM、VLM、CV、Embedding、Rerank、ASR、TTS）。NexaML 支持 3 种模型格式：GGUF、MLX，以及 Nexa AI 自研的 .nexa 格式。