← 트렌딩

Tangerine Index는 ChatGPT 이후 나온 프로덕트와 사람들의 반응을 싣습니다.

ZhiLight

github.com

A highly optimized LLM inference acceleration engine for Llama and its variants.

오픈소스

github.com 방문외부 사이트GitHub906 스타외부 사이트

반응 (1)

비슷한 프로덕트

설명이 비슷한 순

  1. swama

    High-performance MLX-based LLM inference engine for macOS with native Swift implementation

    GitHub스타 593github.com오픈소스최근 반응

  2. vllm

    A high-throughput and memory-efficient inference and serving engine for LLMs

    GitHub스타 96,543github.com오픈소스최근 반응

  3. 1Cat-vLLM

    V100 / SM70-focused vLLM engineering fork for modern LLM inference.

    GitHub스타 1,479github.com오픈소스최근 반응

  4. sonar

    Large-scale LLM inference engine

    GitHub스타 1,905github.com오픈소스최근 반응

  5. LlamaFactory

    Unified Efficient Fine-Tuning of 100+ LLMs & VLMs (ACL 2024)

    GitHub스타 75,935github.com오픈소스최근 반응