← 트렌딩

Tangerine Index는 ChatGPT 이후 나온 프로덕트와 사람들의 반응을 싣습니다.

kvpress

github.com

LLM KV cache compression made easy

오픈소스

github.com 방문외부 사이트GitHub1,245 스타외부 사이트

반응 (1)

비슷한 프로덕트

설명이 비슷한 순

  1. KVBoost

    chunk-level KV cache reuse for HuggingFace, 5–48x faster TTFT

    pythongiant.github.io최근 반응

    Hacker News
    20점
    GitHub
    반응 없음

  2. Cachegrand

    a fast Redis-compatible KV-store, v0.2.1 released

    cachegrand.io최근 반응

    Hacker News
    12점
    GitHub
    반응 없음

  3. FlyDB

    The high-performance kv storage engine based on bitcask paper made in golang

    github.com오픈소스최근 반응

    Hacker News
    반응 없음
    GitHub
    스타 1,221

  4. Taliesin

    bit-exact KV-cache restore, 21x faster, cross-GPU verified

    medium.com최근 반응

    Hacker News
    10점
    GitHub
    반응 없음

  5. We Beat MLPerf

    Modern Storage for KV Offload and LLM Training

    theopenlake.com최근 반응

    Hacker News
    35점
    GitHub
    반응 없음