CamemBERT

CamemBERT ni modeli ya lugha iliyoundwa na Facebook, INRIA na Sorbonne University (Marekani, Ufaransa), iliyotolewa 10 Novemba 2019.

Uzito wake (weights) uko wazi: mtu yeyote anaweza kuipakua, kuiendesha na kuitumia hata kibiashara.

Ina vigezo (parameters) milioni 335.

Ilipotoka, ilivunja rekodi katika kazi yake.

Naweza kuiendesha mwenyewe?

Ndiyo, kwenye simu janja au kifaa chenye uwezo mkubwa zaidi.

  1. SimuRAM ya GB 6–8
  2. Kompyuta mpakatoRAM ya GB 16
  3. Kompyuta yenye uwezo mkubwaGB 24 hadi 64 (kadi ya michoro au Mac yenye uwezo mkubwa)
  4. Sevazaidi ya GB 64

Inahitaji takriban GB 1.2 za kumbukumbu (RAM) ikibanwa hadi biti 4.

Programu za simu zinazoendesha modeli bila intaneti (kwa mfano PocketPal) zinapakua toleo lililobanwa.

Modeli nyingine za Facebook

  1. Idefics2Hugging Face na Sorbonne UniversityMei 2024Data mseto, Lugha
    Wazi8BKompyuta mpakato
  2. SeamlessM4TFacebook, INRIA na University of California (UC) BerkeleyDes 2023Usemi, Lugha
    Wazi2.3BSimu
  3. DINOv2Facebook AI Research na INRIAApr 2023Utambuzi wa picha
    Wazi1.1BSimu
  4. SEERFacebook AI Research na INRIAJul 2021Utambuzi wa picha
    Wazi, si kwa biashara1.3BSimu
  5. DeiT-BMeta AI na Sorbonne UniversityJan 2021Utambuzi wa picha
    Wazi86MSimu
  6. wave2vec 2.0 LARGEFacebookOkt 2020Usemi
    Wazi317MSimu