← 최신 프로덕트

Kairo

Fail-closed LLM inference routing from RTX 5090 measurements.

오픈소스

1 스타 · GitHub외부 사이트

github.com 방문외부 사이트

반응 (1)

비슷한 프로덕트

설명이 비슷한 순

  1. ChainFactory

    github.com

    Run Structured LLM Inference with Easy Parallelism

    Hacker News8점

  2. LLMRouter

    github.com

    first LLM routing library with 300 stars in 24h

    Hacker News5점

  3. Open-source AMDGCN kernels for optimizing LLM inference

    github.com

    Hacker News5점

  4. Llmbridge

    github.com

    a C++ LLM gateway with sub-millisecond overhead

    Hacker News5점

  5. Gemma 3 inference in pure C++ with Metal acceleration

    github.com

    Pure C++23 LLM inference for Apple Silicon chips

    Hacker News6점