BPEmb: mhr

Eastern Mari (mhr) subword embeddings

Vocab size	vocab	model	25 dim	50 dim	100 dim	200 dim	300 dim
1000	vocab	model	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix
3000	vocab	model	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix
5000	vocab	model	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix
10000	vocab	model	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix
25000	vocab	model	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix	txt \| bin bokeh \| umap \| matrix

View Eastern Mari subword embeddings in TensorFlow Projector

2-D UMAP plots

Embedding matrix plots

Training corpus sample, encoded with different BPE vocabulary sizes

Vocab size	mhrwiki sample
original	веселан да пайдалын эртарышт манын, илья михайлович тÿрлö модыш-влакым наледен шоген. класслаште шахмат, шашке, домино, бильярд да тулеч моло модыш ли *000. марий литератур йылмын икымше периодышто вияҥме ойыртемже = особенности развития марийского литературного языка в первом периоде // марийская ф 0000 ийыште эрик сапаев лӱмеш опер да балет театрыште солистлан пашам ышташ тӱҥалын. спектакльлаште тӱҥ роль-влакым модын. тиде жапыште валентин сер
1000	▁в е се лан ▁да ▁пай д алын ▁эр тар ышт ▁манын , ▁и ль я ▁мих айл ович ▁т ÿ р л ö ▁мод ыш - влакым ▁нал ед ен ▁шо ген . ▁к лас с лаште ▁ш ах м ат , ▁ш аш ке , ▁д ом ино , ▁б иль яр д ▁да ▁ту л еч ▁моло ▁мод ыш ▁ли ▁** 000. ▁марий ▁литератур ▁йыл мын ▁икымше ▁пер и од ышто ▁в ия ҥ ме ▁ойыр тем же ▁ = ▁о со б ен но ст и ▁р аз в ит ия ▁марийско го ▁литератур ного ▁язык а ▁в ▁пер в ом ▁пер и о де ▁// ▁марий ская ▁ф ▁* ▁0000 ▁ийыште ▁эр ик ▁с ап аев ▁лӱмеш ▁о пер ▁да ▁б ал ет ▁театр ыште ▁с ол ист лан ▁пашам ▁ышт аш ▁тӱҥалын . ▁сп ект ак ль лаште ▁тӱҥ ▁р оль - влакым ▁мод ын . ▁тиде ▁жапыште ▁в ал ент ин ▁сер
3000	▁весе лан ▁да ▁пай д алын ▁эртар ышт ▁манын , ▁илья ▁михайлович ▁т ÿ рл ö ▁мод ыш - влакым ▁нал ед ен ▁шоген . ▁класс лаште ▁ш ах мат , ▁ш ашке , ▁дом ино , ▁б иль яр д ▁да ▁тул еч ▁моло ▁мод ыш ▁ли ▁*000. ▁марий ▁литератур ▁йылмын ▁икымше ▁пер и од ышто ▁вияҥ ме ▁ойыртем же ▁= ▁о соб ен ности ▁раз в ит ия ▁марийского ▁литератур ного ▁языка ▁в ▁перв ом ▁пер и о де ▁// ▁марийская ▁ф ▁ ▁0000 ▁ийыште ▁эр ик ▁сап аев ▁лӱмеш ▁опер ▁да ▁бал ет ▁театрыште ▁сол ист лан ▁пашам ▁ышташ ▁тӱҥалын . ▁спектакль лаште ▁тӱҥ ▁роль - влакым ▁модын . ▁тиде ▁жапыште ▁валентин ▁сер
5000	▁весе лан ▁да ▁пай д алын ▁эртар ышт ▁манын , ▁илья ▁михайлович ▁т ÿ рл ö ▁модыш - влакым ▁нал ед ен ▁шоген . ▁класс лаште ▁ш ах мат , ▁ш ашке , ▁дом ино , ▁б иль яр д ▁да ▁тул еч ▁моло ▁модыш ▁ли ▁*000. ▁марий ▁литератур ▁йылмын ▁икымше ▁период ышто ▁вияҥ ме ▁ойыртем же ▁= ▁о соб ен ности ▁развит ия ▁марийского ▁литератур ного ▁языка ▁в ▁перв ом ▁пер и оде ▁// ▁марийская ▁ф ▁ ▁0000 ▁ийыште ▁эрик ▁сапаев ▁лӱмеш ▁опер ▁да ▁балет ▁театрыште ▁солист лан ▁пашам ▁ышташ ▁тӱҥалын . ▁спектакль лаште ▁тӱҥ ▁роль - влакым ▁модын . ▁тиде ▁жапыште ▁валентин ▁сер
10000	▁весе лан ▁да ▁пайд алын ▁эртар ышт ▁манын , ▁илья ▁михайлович ▁т ÿ рл ö ▁модыш - влакым ▁нал еден ▁шоген . ▁класс лаште ▁шах мат , ▁ш ашке , ▁дом ино , ▁б иль яр д ▁да ▁тулеч ▁моло ▁модыш ▁ли ▁*000. ▁марий ▁литератур ▁йылмын ▁икымше ▁период ышто ▁вияҥме ▁ойыртемже ▁= ▁особенности ▁развития ▁марийского ▁литературного ▁языка ▁в ▁перв ом ▁пер и оде ▁// ▁марийская ▁ф ▁ ▁0000 ▁ийыште ▁эрик ▁сапаев ▁лӱмеш ▁опер ▁да ▁балет ▁театрыште ▁солист лан ▁пашам ▁ышташ ▁тӱҥалын . ▁спектакль лаште ▁тӱҥ ▁роль - влакым ▁модын . ▁тиде ▁жапыште ▁валентин ▁сер
25000	▁веселан ▁да ▁пайд алын ▁эртар ышт ▁манын , ▁илья ▁михайлович ▁т ÿ рл ö ▁модыш - влакым ▁нал еден ▁шоген . ▁класслаште ▁шахмат , ▁шашке , ▁дом ино , ▁биль ярд ▁да ▁тулеч ▁моло ▁модыш ▁ли ▁*000. ▁марий ▁литератур ▁йылмын ▁икымше ▁период ышто ▁вияҥме ▁ойыртемже ▁= ▁особенности ▁развития ▁марийского ▁литературного ▁языка ▁в ▁первом ▁пер и оде ▁// ▁марийская ▁ф ▁ ▁0000 ▁ийыште ▁эрик ▁сапаев ▁лӱмеш ▁опер ▁да ▁балет ▁театрыште ▁солист лан ▁пашам ▁ышташ ▁тӱҥалын . ▁спектакльлаште ▁тӱҥ ▁роль - влакым ▁модын . ▁тиде ▁жапыште ▁валентин ▁сер