Cortex｜AI 引擎

支持平台：#Windows #macOS #Linux

一个本地的 AI 服务器，支持多种引擎（如 llama.cpp、TensorRT-LLM 和 ONNX），并可以作为独立服务器运行或集成到其他应用中。

提供了一个类似 Docker 的命令行界面和客户端库，可以轻松部署和管理 AI 模型。

软件下载：https://github.com/janhq/cortex/releases