Adyghe (ady) subword embeddings

Vocab size vocab model 25 dim 50 dim 100 dim 200 dim 300 dim
1000 vocab model txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
3000 vocab model txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
5000 vocab model txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix
txt | bin
bokeh | umap | matrix

Embedding matrix plots

Training corpus sample, encoded with different BPE vocabulary sizes

Vocab sizeadywiki sample
original китай — азием и тыгъэкъокiыпiэ щыiэ къэралыгъу. къэлэ шъхьаiэр – пекин. цiыфэу нэбгырэ млрд 0.0-м къехъу щэпсэу. хэгэгум чiырэу иiэр 0 000 000 км² . б
* шапсыгъ : кӏалэр адыгэбзэгьэ мэгущаӏэ ↔ кӏэмгуебзэ : кӏалэр адыгэбзэкӏэ мэгущаӏэ * шапсыгъ : къэлэмымгьэ сэтхэ ↔ кӏэмгуебзэ : къэлэмымкӏэ сэтхэ
азием и тыгъэкъохьэпiэ лъэныкъом щыi. исраилыр, палестинэр, сауд арабиер, иракыр, сириер игъунэгъух.
1000 ▁к и та й ▁— ▁азием ▁и ▁тыгъэ къок i ып i э ▁щы i э ▁къэралыгъу . ▁къэлэ ▁шъхьа i эр ▁– ▁п ек ин . ▁ц i ыфэу ▁нэбгырэ ▁м л р д ▁0. 0- м ▁къехъу ▁щэпсэу . ▁хэгэгум ▁ч i ырэу ▁и i эр ▁0 ▁000 ▁000 ▁км 2 ▁ . ▁б
▁* ▁ш апс ыгъ ▁: ▁кӏ ал эр ▁адыгэ бзэ гь э ▁м эгу ща ӏэ ▁ ↔ ▁к ӏэм гу е бзэ ▁: ▁кӏ ал эр ▁адыгэ бзэ кӏэ ▁м эгу ща ӏэ ▁* ▁ш апс ыгъ ▁: ▁къэ л эм ым гь э ▁с эт хэ ▁ ↔ ▁к ӏэм гу е бзэ ▁: ▁къэ л эм ым кӏэ ▁с эт хэ
▁азием ▁и ▁тыгъэ къо хьэ п i э ▁лъэныкъо м ▁щы i . ▁исра ил ыр , ▁п ал е ст ин эр , ▁сау д ▁ара б иер , ▁и рак ыр , ▁сир иер ▁и гъунэгъу х .
3000 ▁кита й ▁— ▁азием ▁и ▁тыгъэкъок i ып i э ▁щы i э ▁къэралыгъу . ▁къэлэ ▁шъхьа i эр ▁– ▁п ек ин . ▁ц i ыфэу ▁нэбгырэ ▁м л рд ▁0.0- м ▁къехъу ▁щэпсэу . ▁хэгэгум ▁ч i ырэу ▁и i эр ▁0 ▁000 ▁000 ▁км 2 ▁. ▁б
▁* ▁шапсыгъ ▁: ▁кӏ алэр ▁адыгэбзэ гьэ ▁мэгуща ӏэ ▁↔ ▁кӏэмгуе бзэ ▁: ▁кӏ алэр ▁адыгэбзэ кӏэ ▁мэгуща ӏэ ▁* ▁шапсыгъ ▁: ▁къэ лэм ым гьэ ▁с этхэ ▁↔ ▁кӏэмгуе бзэ ▁: ▁къэ лэм ымкӏэ ▁с этхэ
▁азием ▁и ▁тыгъэкъохьэп i э ▁лъэныкъом ▁щы i . ▁исраил ыр , ▁пале ст инэр , ▁сауд ▁арабиер , ▁ирак ыр , ▁сир иер ▁игъунэгъух .
5000 ▁китай ▁— ▁азием ▁и ▁тыгъэкъок i ып i э ▁щы i э ▁къэралыгъу . ▁къэлэ ▁шъхьа i эр ▁– ▁п екин . ▁ц i ыфэу ▁нэбгырэ ▁млрд ▁0.0- м ▁къехъу ▁щэпсэу . ▁хэгэгум ▁ч i ырэу ▁и i эр ▁0 ▁000 ▁000 ▁км 2 ▁. ▁б
▁* ▁шапсыгъ ▁: ▁кӏалэр ▁адыгэбзэ гьэ ▁мэгущаӏэ ▁↔ ▁кӏэмгуебзэ ▁: ▁кӏалэр ▁адыгэбзэ кӏэ ▁мэгущаӏэ ▁* ▁шапсыгъ ▁: ▁къэлэм ым гьэ ▁сэтхэ ▁↔ ▁кӏэмгуебзэ ▁: ▁къэлэм ымкӏэ ▁сэтхэ
▁азием ▁и ▁тыгъэкъохьэп i э ▁лъэныкъом ▁щы i . ▁исраил ыр , ▁палестинэр , ▁сауд ▁арабиер , ▁ирак ыр , ▁сириер ▁игъунэгъух .