README.md

This is a interleaved wiki dataset. Processed from wiki articles dump files: ja: jawiki-20230301-pages-articles-multistream1.xml-p1p114794

With following format in parquet file

columns: 'xml', 'markdown', 'html', 'pairs'

example:

• 'xml':
  • [[ 新潮社\u3000Foresight(フォーサイト)}}。\ ... [[シテ島]]のこと）とも呼ばれていた。\n\n== 地理 ==\n{{clear}}\n'],
  • [ ###img#0### ],
  • [''thumb|none|220px|フランスの道路の原点を象徴する ... 一級の収蔵物が並ぶ。\n\n→[[#主な観光名所]]\n\n=== 主な観光名所 ===\n',
  • [ ###img#1### ],
  • ...]
• 'markdown': [...]
• 'html': [...]
• 'pairs':
  • [['###img#0###', 'https://upload.wikimedia.org/wikipedia/commons/e/e7/Revenus_%C3%A0_Paris_et_Petite_Couronne.JPG'],
  • [['###img#1###', 'https://upload.wikimedia.org/wikipedia/commons/c/c1/Bois_de_Boulogne_%2880%29.jpg'],
  • ...]