← 트렌딩

Tangerine Index는 ChatGPT 이후 나온 프로덕트와 사람들의 반응을 싣습니다.

rwkv.cpp

github.com

INT4/INT5/INT8 and FP16 inference on CPU for RWKV language model

오픈소스

github.com 방문외부 사이트GitHub1,590 스타외부 사이트

반응 (1)

비슷한 프로덕트

설명이 비슷한 순

  1. gemma.cpp

    lightweight, standalone C++ inference engine for Google's Gemma models.

    github.com오픈소스최근 반응

    Hacker News
    반응 없음
    GitHub
    스타 7,079

  2. Genie-TTS

    GPT-SoVITS ONNX Inference Engine & Model Converter

    github.com오픈소스최근 반응

    Hacker News
    반응 없음
    GitHub
    스타 1,840

  3. T-MAC

    Low-bit LLM inference on CPU/NPU with lookup table

    github.com오픈소스최근 반응

    Hacker News
    반응 없음
    GitHub
    스타 1,005

  4. cache-dit

    A PyTorch-native inference engine with cache, parallelism, quantization and cpu offload for 100+ DiTs.

    github.com오픈소스최근 반응

    Hacker News
    반응 없음
    GitHub
    스타 1,302

  5. Gemma 3 inference in pure C++ with Metal acceleration

    Pure C++23 LLM inference for Apple Silicon chips

    github.com데스크톱오픈소스반응 2개최근 반응

    Hacker News
    6점
    GitHub
    스타 23