← 트렌딩

Tangerine Index는 ChatGPT 이후 나온 프로덕트와 사람들의 반응을 싣습니다.

web-llm

github.com

High-performance In-browser LLM Inference Engine

오픈소스

github.com 방문외부 사이트GitHub19,361 스타외부 사이트

반응 (1)

비슷한 프로덕트

설명이 비슷한 순

  1. BonzAI

    self-sovereign, local LLM inference in the browser

    bonzai.sh최근 반응

    Hacker News
    5점
    GitHub
    반응 없음

  2. sonar

    Large-scale LLM inference engine

    github.com오픈소스최근 반응

    Hacker News
    반응 없음
    GitHub
    스타 1,905

  3. vllm

    A high-throughput and memory-efficient inference and serving engine for LLMs

    github.com오픈소스최근 반응

    Hacker News
    반응 없음
    GitHub
    스타 96,511

  4. 1Cat-vLLM

    V100 / SM70-focused vLLM engineering fork for modern LLM inference.

    github.com오픈소스최근 반응

    Hacker News
    반응 없음
    GitHub
    스타 1,477

  5. rtp-llm

    RTP-LLM: Alibaba's high-performance LLM inference engine for diverse applications.

    github.com오픈소스최근 반응

    Hacker News
    반응 없음
    GitHub
    스타 1,394