← 트렌딩

Tangerine Index는 ChatGPT 이후 나온 프로덕트와 사람들의 반응을 싣습니다.

Llama-2-Open-Source-LLM-CPU-Inference

github.com

Running Llama 2 and other Open-Source LLMs on CPU Inference Locally for Document Q&A

오픈소스

github.com 방문외부 사이트GitHub971 스타외부 사이트

반응 (1)

비슷한 프로덕트

설명이 비슷한 순

  1. ZhiLight

    A highly optimized LLM inference acceleration engine for Llama and its variants.

    GitHub스타 906github.com오픈소스최근 반응

  2. wllama

    WebAssembly binding for llama.cpp - Enabling on-browser LLM inference

    GitHub스타 1,375github.com오픈소스최근 반응

  3. LLM

    a Rust Crate/CLI for CPU Inference of LLMs (LLaMA, GPT-NeoX, etc.)

    Hacker News45점GitHub스타 6,145github.comCLI오픈소스반응 2개최근 반응

  4. T-MAC

    Low-bit LLM inference on CPU/NPU with lookup table

    Hacker News5점GitHub스타 1,005github.com오픈소스반응 2개최근 반응

  5. dotLLM

    LLM inference engine written in .NET

    GitHub스타 528github.com오픈소스최근 반응