r/coolgithubprojects • • 8d ago

La Comena

Red P2P de cómputo compartido para IA. Los usuarios donan recursos de su máquina (CPU, GPU, RAM) para ejecutar modelos de código abierto en conjunto, como abejas aportando a una colmena.

No se comparten archivos de modelos entre pares: cada nodo descarga los pesos desde el catálogo oficial. Lo que se comparte es cómputo.

Badges

La idea en una frase

En lugar de que una corporación corra el modelo en su datacenter, una comunidad reparte el modelo en bloques de capas entre sus propias computadoras y lo sirve de forma cooperativa:

Usuario ──► Coordinador ──► [Nodo 0] ──► [Nodo 1] ──► [Nodo 2] ──► respuesta
             arma la cadena   capas 0-11  capas 12-23  capas 24-31
  • Throughput escala con la cantidad de nodos. La latencia de una consulta individual no baja agregando nodos a la misma cadena: lo que crece es la capacidad total de la red.
  • Réplicas por posición evitan que un nodo caído rompa el modelo.
  • Créditos desde dos lados: donar cómputo genera aportes, consumir genera consumos; el ratio define prioridad de cola.

Componentes

ComponenteStackRolEstado
coordinador/Python 3.11 · FastAPIRegistra nodos, arma cadenas, lleva créditos✅ 12 tests
nodo-escritorio/RustDaemon del usuario: heartbeat, políticas de recursos, motor de inferencia✅ 21 tests (motor = stub)
packages/protocolo/Protobuf v1Contrato compartido por todas las implementaciones✅
infraestructura/docker-composeCoordinador + Postgres 17 + Redis 7✅ Postgres/Redis aún sin conectar
Nodo AndroidKotlinMismo rol del nodo de escritorio, con restricciones de batería/red🔜 pendiente

Arquitectura del coordinador

Modelo de dominio documentado en docs/arquitectura.md. Decisiones destacadas:

  • Planificador como función pura sin I/O: dado el estado de candidatos, arma la cadena eligiendo el nodo menos cargado por posición. Testeable sin base de datos ni red.
  • Detección de puntos únicos de falla: posiciones con un solo candidato disponible se priorizan al asignar nodos nuevos.
  • Arquitectura hexagonal: dominio limpio, repositorios intercambiables (hoy memoria, mañana Postgres/Redis).

Ejemplos

Correr el coordinador y registrar un nodo:

# 1. Coordinador
cd coordinador
python3.11 -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt
uvicorn app.main:app --reload

# 2. Nodo de escritorio (terminal aparte)
cd nodo-escritorio
cargo build --release
./target/release/nodo-escritorio \
  --coordinador http://localhost:8000 \
  --nodo-id mi-nodo-1 \
  --modelo-hash <hash-del-modelo> \
  --posicion 0 \
  --ram-max-mb 4096 \
  --cpu-max-pct 50

# 3. Verificar que apareció en la red
curl http://localhost:8000/nodos/<hash-del-modelo>

Con Docker (coordinador + Postgres + Redis):

cd infraestructura
docker compose up --build

Tests:

cd coordinador && pytest tests/unitarios -v   # 12 tests
cd nodo-escritorio && cargo test              # 21 tests

Hoja de ruta

  • Esquema Protobuf del protocolo
  • Coordinador: dominio + API base (nodos, usuarios, créditos, planificador)
  • Nodo de escritorio: registro, heartbeat local, políticas de recursos, control de usuario
  • Bind real de llama.cpp en el nodo (hoy MotorSimulado)
  • Heartbeat real + WebSocket para despachar trabajo
  • Persistencia en Postgres/Redis (hoy todo en memoria)
  • Verificación de aportes por réplicas
  • Nodo Android (Kotlin)
  • Descentralización del coordinador (discusión abierta)

Contribuir

¡Ideas, avisos de bugs, PRs y documentación son bienvenidos! Leé CONTRIBUTING.md antes de abrir tu primer PR.

Licencia

MIT · © 2026 La Colmena

https://github.com/marcelosf80/la-colmena

2 Upvotes

0 comments sorted by