← 트렌딩

Tangerine Index는 ChatGPT 이후 나온 프로덕트와 사람들의 반응을 싣습니다.

kvcached

github.com

Virtualized Elastic KV Cache for Dynamic GPU Sharing and Beyond

오픈소스

github.com 방문외부 사이트GitHub2,032 스타외부 사이트

반응 (1)

비슷한 프로덕트

설명이 비슷한 순

  1. Taliesin

    bit-exact KV-cache restore, 21x faster, cross-GPU verified

    medium.com최근 반응

    Hacker News
    10점
    GitHub
    반응 없음

  2. KVBoost

    chunk-level KV cache reuse for HuggingFace, 5–48x faster TTFT

    pythongiant.github.io최근 반응

    Hacker News
    20점
    GitHub
    반응 없음

  3. kvpress

    LLM KV cache compression made easy

    github.com오픈소스최근 반응

    Hacker News
    반응 없음
    GitHub
    스타 1,245

  4. softgpu

    SW and HW accelerated GPU driver for Windows 9x Virtual Machines

    github.com오픈소스최근 반응

    Hacker News
    반응 없음
    GitHub
    스타 1,179

  5. Eyot

    A programming language where the GPU is just another thread

    cowleyforniastudios.com최근 반응

    Hacker News
    79점
    GitHub
    반응 없음