ufak AI’dan Türkçe modeller

ufakzeka

Türkçe için sıfırdan eğittiğimiz bir temel modelden küçük, açık modeller geliştiriyor ve karar modellerini bir benchmark’la ölçüyoruz.

Modeller32 model, 1 benchmark

Modeller ve benchmark

ufakzeka-1

Sohbet modeli

Türkçe için sıfırdan eğitilmiş 151M parametreli sohbet modeli.

  • 151Mparametre
  • 286 $toplam harcama

ufakzeka-karar

Karar modeli

Türkçe bir metni okur; seçim, derecelendirme ve evet/hayır sorularını cevaplarken her seçeneğe bir olasılık, her soruya bir “emin değilim” sinyali verir.

  • 182.494.466parametre, gömme matrisi dâhil
  • 102,5 mssoru başına medyan süre, Apple M1 işlemcide tek iş parçacığıyla

HakemBench

Benchmark

Türkçe metinler hakkında verilen kararları yedi kategoride ölçen, tamamen açık bir benchmark.

  • 4.275soru
  • 2.346metin
Ortak noktalaraynı temel model

Tek temel model

İki model de Türkçe için sıfırdan eğitilen ufakzeka-1-base temel modelinden gelmektedir. ufakzeka-1, bu temel modele ince ayar yapılarak elde edilen 151M parametreli sohbet modelidir; ufakzeka-karar ise aynı temel modelin ağırlıklarıyla başlatılıp üzerine bir karar katmanı eklenerek eğitilmiş bir karar modelidir. HakemBench, ufakzeka-karar’ı ve başka modelleri Türkçe karar sorularında aynı değerlendirme koduyla puanlamaktadır. ufakzeka-1 için verilen 151M parametre sayısına gömme matrisi dâhil değildir; ufakzeka-karar’ın 182.494.466 parametresi ise bu matrisi de içermektedir (gömme matrisi hariç 151.037.186).

  • 2açık model
  • 1benchmark
  • ufakzeka-1-baseortak temel model
  • Apache-2.0model lisansı