FreeLLMAPI es un proxy compatible con OpenAI que enruta solicitudes entre los planes gratis de varios proveedores LLM en un único endpoint /v1.
FreeLLMAPI es un proxy compatible con OpenAI para enrutar solicitudes entre los planes gratis de varios proveedores LLM detrás de un único endpoint /v1. El proyecto se presenta como una forma de combinar planes gratuitos individuales en una única superficie de inferencia compartida para experimentación personal.
Admite una larga lista de integraciones de proveedores, además de cualquier endpoint personalizado compatible con OpenAI, como llama.cpp, LM Studio, vLLM o una instancia local de Ollama. El proxy gestiona el enrutamiento de modelos, el failover automático, el almacenamiento cifrado de claves upstream y un panel para administrar claves y revisar el uso.
Agrega los planes gratis de proveedores como Google, Groq, Cerebras, NVIDIA, Mistral, OpenRouter, GitHub Models, Cohere, Cloudflare, HuggingFace, Z.ai, Ollama, Kilo, Pollinations, LLM7, OVH AI Endpoints y OpenCode Zen detrás de una sola superficie compatible con OpenAI.
Usa un enrutador que selecciona un modelo para cada solicitud, pasa al siguiente proveedor cuando uno está limitado por tasa, devuelve 429/5xx o agota el tiempo, y mantiene períodos de enfriamiento cortos para las claves fallidas.
Rastrea RPM, RPD, TPM y TPD por proveedor, modelo y clave, y mantiene sesiones persistentes en el mismo modelo durante unos 30 minutos en conversaciones de varios turnos.
Almacena las claves API de los proveedores cifradas con AES-256-GCM en SQLite, mientras que los clientes se autentican en el proxy con un único token bearer unificado.
Expone /v1/chat/completions, /v1/models, /v1/responses, /v1/embeddings, streaming, sin streaming y llamadas a herramientas al estilo de OpenAI para clientes compatibles.
Incluye un panel de administración en React + Vite para gestionar claves, ordenar cadenas de fallback, ver analíticas y ejecutar prompts en un entorno de prueba.
Apunta un SDK de OpenAI, LangChain, LlamaIndex, Continue o un cliente similar al proxy y mantén el mismo código de aplicación mientras cambias la ruta upstream a /v1.
Añade claves de proveedor para varios servicios de nivel gratuito y deja que el enrutador elija un modelo disponible; luego realiza failover automáticamente cuando un proveedor esté limitado o no disponible.
Ejecuta la configuración de Docker Compose localmente o en un servidor pequeño para mantener la API, el panel de control y los datos de SQLite en un único entorno autoalojado.
Usa el panel de administración para reordenar cadenas de fallback, inspeccionar la latencia y el uso de tokens, y probar prompts antes de conectar un cliente al proxy.
Conecta un backend personalizado compatible con OpenAI como LM Studio, llama.cpp, vLLM o Ollama local a través del mismo enrutador unificado.
FreeLLMAPI está diseñado para funcionar con clientes compatibles con OpenAI. El README dice que puedes apuntar cualquier SDK de OpenAI o cliente compatible como LangChain, LlamaIndex, Continue o Hermes al proxy cambiando la URL base.
La guía de Docker indica que Docker Compose es la forma recomendada de ejecutarlo para uso personal. Sirve la API y el panel de control desde un solo proceso en el puerto 3001, con SQLite persistido en un volumen con nombre.
El README dice que el proxy implementa /v1/chat/completions, /v1/models, /v1/responses, /v1/embeddings, respuestas en streaming y sin streaming, y llamadas a herramientas al estilo de OpenAI. No implementa generación de imágenes, audio, completions heredados, moderación, múltiples completions por solicitud ni facturación por usuario.
El proyecto está diseñado en torno a una configuración de un solo usuario. El README indica explícitamente que la facturación por usuario y la autenticación multiusuario no se admiten todavía.
AakarDev AI helps teams manage AI provider access, project-level setups, logs, and analytics from one dashboard. It supports BYOK workflows and lists providers including OpenAI, Google Gemini, Anthropic, Groq, Mistral AI, and Perplexity AI.
BookAI te permite chatear con tus libros usando IA simplemente proporcionando el título y el autor.
Skills Janitor is a GitHub-hosted set of slash commands for auditing, tracking, and managing Claude Code and OpenAI Codex skills. It helps users find duplicates, broken links, and unused skills, then clean them up with self-contained commands.
FeelFish is a PC client for AI-assisted novel writing, designed to help fiction writers plan characters and settings, draft and revise long-form content, and manage story context. It includes a free tier and paid plans, with support for multiple large-model providers.
Benchspan is an AI agent security platform that discovers agents, blocks prompt injection and data exfiltration in real time, and supports pre-launch red teaming. It is aimed at teams running agents in production and includes Python and TypeScript SDKs.
ChatBA is a generative AI product for creating slide decks from prompts. The public site emphasizes instant presentation generation and includes help content for templates, sharing, and data sources.
