kanhatakeyama's picture
Update README.md
3f6056b verified
---
license: odbl
language:
- ja
---
# 日本語コーパス
- mc4-jaなどのwebコーパスをクリーニング後、教師なし学習モデルでテキストを約1万件にクラスタリングしたコーパスです。
- 著作権法で認められた情報解析目的で使用できます。
- 一部のファイルしかparquet化されていないので、ご注意ください。ファイルリストは[out](https://huggingface.co/datasets/kanhatakeyama/japanese-corpus-categorized/tree/main/out)フォルダ内にあります
- git lfsなどでダウンロードください。