← 트렌딩

Tangerine Index는 ChatGPT 이후 나온 프로덕트와 사람들의 반응을 싣습니다.

basalt

github.com

Local inference engine for Qwen3.8-Flash-Next on NVIDIA Blackwell

오픈소스

github.com 방문외부 사이트GitHub774 스타외부 사이트

반응 (1)

비슷한 프로덕트

설명이 비슷한 순

  1. exllamav2

    A fast inference library for running LLMs locally on modern consumer-class GPUs

    GitHub스타 4,652github.com라이브러리오픈소스최근 반응

  2. nixl

    NVIDIA Inference Xfer Library (NIXL)

    GitHub스타 1,360github.com라이브러리오픈소스최근 반응

  3. exllamav3

    An optimized quantization and inference library for running LLMs locally on modern consumer-class GPUs

    GitHub스타 1,802github.com라이브러리오픈소스최근 반응

  4. airllm

    AirLLM 2.8T LLM inference with single 4GB GPU

    GitHub스타 41,958github.com오픈소스최근 반응

  5. cache-dit

    A PyTorch-native inference engine with cache, parallelism, quantization and cpu offload for 100+ DiTs.

    GitHub스타 1,303github.com오픈소스최근 반응