XGen-7B

XGen-7B ni modeli ya lugha iliyoundwa na Salesforce (Marekani), iliyotolewa 7 Septemba 2023.

Uzito wake (weights) uko wazi: mtu yeyote anaweza kuipakua, kuiendesha na kuitumia hata kibiashara.

Ina vigezo (parameters) bilioni 6.7.

Naweza kuiendesha mwenyewe?

Ndiyo, kwenye kompyuta mpakato au kifaa chenye uwezo mkubwa zaidi.

  1. SimuRAM ya GB 6–8
  2. Kompyuta mpakatoRAM ya GB 16
  3. Kompyuta yenye uwezo mkubwaGB 24 hadi 64 (kadi ya michoro au Mac yenye uwezo mkubwa)
  4. Sevazaidi ya GB 64

Inahitaji takriban GB 5 za kumbukumbu (RAM) ikibanwa hadi biti 4.

Programu kama Ollama au LM Studio zinapakua na kuendesha modeli kwenye kompyuta yako, bila intaneti.

Matokeo ya majaribio

70ECI

Nafasi ya 249 kati ya modeli 258 zilizopimwa.

Kipimo cha Uwezo cha Epoch (ECI) kinajumlisha matokeo ya majaribio mengi kuwa alama moja, kama alama ya mtihani mkuu. Alama ya juu zaidi ndiyo bora.

Maarifa ya jumla (MMLU)Maswali ya kuchagua jibu katika masomo 57, kutoka historia hadi sheria. Kipimo maarufu cha modeli za zamani.
36.3%

Modeli nyingine za Salesforce

  1. xLAM-8x22BSalesforceSep 2024Lugha
    Wazi, kwa masharti141BSeva
  2. CodeGen2.5SalesforceJul 2023Lugha
    Wazi7BKompyuta mpakato
  3. CodeT5+SalesforceMei 2023Lugha
    Wazi16BKompyuta yenye uwezo mkubwa
  4. CodeGen2SalesforceMei 2023Lugha
    Wazi16BKompyuta yenye uwezo mkubwa
  5. CodeGen-Mono 16.1BSalesforceFeb 2023Lugha
    Wazi16.1BKompyuta yenye uwezo mkubwa
  6. CodeT5-largeSalesforceJul 2022Lugha
    Wazi770MSimu