Mistral 7B
Mistral 7B ni modeli ya lugha iliyoundwa na Mistral AI (Ufaransa), iliyotolewa 10 Oktoba 2023.
Uzito wake (weights) uko wazi: mtu yeyote anaweza kuipakua, kuiendesha na kuitumia hata kibiashara.
Ina vigezo (parameters) bilioni 7.
Naweza kuiendesha mwenyewe?
Ndiyo, kwenye kompyuta mpakato au kifaa chenye uwezo mkubwa zaidi.
- SimuRAM ya GB 6–8
- Kompyuta mpakatoRAM ya GB 16
- Kompyuta yenye uwezo mkubwaGB 24 hadi 64 (kadi ya michoro au Mac yenye uwezo mkubwa)
- Sevazaidi ya GB 64
Inahitaji takriban GB 5.2 za kumbukumbu (RAM) ikibanwa hadi biti 4.
Programu kama Ollama au LM Studio zinapakua na kuendesha modeli kwenye kompyuta yako, bila intaneti.