wiki_interleave / README.md
lfsm's picture
Create README.md
5b20630
This is a interleaved wiki dataset.
Processed from wiki articles dump files:
ja: jawiki-20230301-pages-articles-multistream1.xml-p1p114794
With following format in parquet file
columns: 'xml', 'markdown', 'html', 'pairs'
example:
- 'xml':
- [[ 新潮社\u3000Foresight(フォーサイト)}}</ref>。\ ... [[シテ島]]のこと)とも呼ばれていた。\n\n== 地理 ==\n{{clear}}\n'],
- [ ###img#0### ],
- [''thumb|none|220px|フランスの道路の原点を象徴する ... 一級の収蔵物が並ぶ。\n\n→[[#主な観光名所]]\n\n=== 主な観光名所 ===\n',
- [ ###img#1### ],
- ...]
- 'markdown': [...]
- 'html': [...]
- 'pairs':
- [['###img#0###', 'https://upload.wikimedia.org/wikipedia/commons/e/e7/Revenus_%C3%A0_Paris_et_Petite_Couronne.JPG'],
- [['###img#1###', 'https://upload.wikimedia.org/wikipedia/commons/c/c1/Bois_de_Boulogne_%2880%29.jpg'],
- ...]