license: odbl | |
language: | |
- ja | |
# 日本語コーパス | |
- mc4-jaなどのwebコーパスをクリーニング後、教師なし学習モデルでテキストを約1万件にクラスタリングしたコーパスです。 | |
- 著作権法で認められた情報解析目的で使用できます。 | |
- 一部のファイルしかparquet化されていないので、ご注意ください。ファイルリストは[out](https://huggingface.co/datasets/kanhatakeyama/japanese-corpus-categorized/tree/main/out)フォルダ内にあります | |
- git lfsなどでダウンロードください。 |