← 최신 프로덕트

Cachet

A drop-in semantic cache for LLM APIs, 100% local, in Rust. A transparent, 100%-local semantic cache for LLM APIs — drop-in proxy, one line to integrate, written in Rust.

오픈소스

3 스타 · GitHub외부 사이트

github.com 방문외부 사이트

반응 (1)

비슷한 프로덕트

설명이 비슷한 순

  1. Semcache

    github.com

    I built a semantic cache in Rust

    Hacker News5점

  2. Cachekit

    github.com

    High performance caching policies library in Rust

    Hacker News47점

  3. GPTCache

    github.com

    Redis for LLMs

    Hacker News7점

  4. LLM

    github.com

    a Rust Crate/CLI for CPU Inference of LLMs (LLaMA, GPT-NeoX, etc.)

    Hacker News45점

  5. Offeryn

    github.com

    Build Tools for LLMs in Rust, with Model Context Protocol

    Hacker News7점