RedPajama-INCITE-7B-Base

RedPajama-INCITE-7B-Base ni modeli ya lugha iliyoundwa na Together (Marekani), iliyotolewa 6 Juni 2023.

Uzito wake (weights) uko wazi: mtu yeyote anaweza kuipakua, kuiendesha na kuitumia hata kibiashara.

Ina vigezo (parameters) bilioni 6.9.

Naweza kuiendesha mwenyewe?

Ndiyo, kwenye kompyuta mpakato au kifaa chenye uwezo mkubwa zaidi.

  1. SimuRAM ya GB 6–8
  2. Kompyuta mpakatoRAM ya GB 16
  3. Kompyuta yenye uwezo mkubwaGB 24 hadi 64 (kadi ya michoro au Mac yenye uwezo mkubwa)
  4. Sevazaidi ya GB 64

Inahitaji takriban GB 5.1 za kumbukumbu (RAM) ikibanwa hadi biti 4.

Programu kama Ollama au LM Studio zinapakua na kuendesha modeli kwenye kompyuta yako, bila intaneti.

Matokeo ya majaribio

58ECI

Nafasi ya 256 kati ya modeli 258 zilizopimwa.

Kipimo cha Uwezo cha Epoch (ECI) kinajumlisha matokeo ya majaribio mengi kuwa alama moja, kama alama ya mtihani mkuu. Alama ya juu zaidi ndiyo bora.

Maarifa ya jumla (MMLU)Maswali ya kuchagua jibu katika masomo 57, kutoka historia hadi sheria. Kipimo maarufu cha modeli za zamani.
26.3%

Modeli nyingine za Together

  1. Mamba-3 1.5BCarnegie Mellon University (CMU), Cartesia, Princeton University na TogetherSep 2025Lugha
    Wazi1.5BSimu
  2. Mamba-3 180MCarnegie Mellon University (CMU), Cartesia, Princeton University na TogetherSep 2025Lugha
    Wazi187MSimu
  3. Mamba-3 440MCarnegie Mellon University (CMU), Cartesia, Princeton University na TogetherSep 2025Lugha
    Wazi443MSimu
  4. Mamba-3 880MCarnegie Mellon University (CMU), Cartesia, Princeton University na TogetherSep 2025Lugha
    Wazi893MSimu
  5. EvoStanford University, Together na University of California (UC) BerkeleyFeb 2024Biolojia
    Wazi7B
  6. StripedHyena-Hessian-7BNous Research na TogetherNov 2023Lugha
    Wazi7BKompyuta mpakato