Datasets:
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
Error code: DatasetGenerationCastError Exception: DatasetGenerationCastError Message: An error occurred while generating the dataset All the data files must have the same columns, but at some point there are 3 new columns ({'1767', 'Regional-Gorakhpur-Bhojpuri-1730-2018121320913_15.wav', 'संसद के दुन्नो सदनन क आजु क कारवाई बिरोधी दलन के हंगामा के नाते बाधित हो गइल'}) and 3 missing columns ({'बिपक्षी दलन क मांगि हवे कि अगर कउनों मतदान केन्द्र पर कउनों गड़बड़ी पावल जाए त विधानसभा इलाका में आवे वाले सज्जो मतदान केन्द्रन क ईवीएम क मिलान वीपीपैट से करावल जाए', 'Regional-Gorakhpur-Bhojpuri-1730-2019521182147_4.wav', '10873'}). This happened while the csv dataset builder was generating data using hf://datasets/ankur02/bhojpuri/data/hi_in/dev.tsv (at revision 3705d45ead091672439b2ff1b4acbe5b2f29a516) Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations) Traceback: Traceback (most recent call last): File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 2011, in _prepare_split_single writer.write_table(table) File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/arrow_writer.py", line 585, in write_table pa_table = table_cast(pa_table, self._schema) File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2302, in table_cast return cast_table_to_schema(table, schema) File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/table.py", line 2256, in cast_table_to_schema raise CastError( datasets.table.CastError: Couldn't cast 1767: int64 Regional-Gorakhpur-Bhojpuri-1730-2018121320913_15.wav: string संसद के दुन्नो सदनन क आजु क कारवाई बिरोधी दलन के हंगामा के नाते बाधित हो गइल: string -- schema metadata -- pandas: '{"index_columns": [{"kind": "range", "name": null, "start": 0, "' + 1425 to {'10873': Value(dtype='int64', id=None), 'Regional-Gorakhpur-Bhojpuri-1730-2019521182147_4.wav': Value(dtype='string', id=None), 'बिपक्षी दलन क मांगि हवे कि अगर कउनों मतदान केन्द्र पर कउनों गड़बड़ी पावल जाए त विधानसभा इलाका में आवे वाले सज्जो मतदान केन्द्रन क ईवीएम क मिलान वीपीपैट से करावल जाए': Value(dtype='string', id=None)} because column names don't match During handling of the above exception, another exception occurred: Traceback (most recent call last): File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1321, in compute_config_parquet_and_info_response parquet_operations = convert_to_parquet(builder) File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 935, in convert_to_parquet builder.download_and_prepare( File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1027, in download_and_prepare self._download_and_prepare( File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1122, in _download_and_prepare self._prepare_split(split_generator, **prepare_split_kwargs) File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 1882, in _prepare_split for job_id, done, content in self._prepare_split_single( File "/src/services/worker/.venv/lib/python3.9/site-packages/datasets/builder.py", line 2013, in _prepare_split_single raise DatasetGenerationCastError.from_cast_error( datasets.exceptions.DatasetGenerationCastError: An error occurred while generating the dataset All the data files must have the same columns, but at some point there are 3 new columns ({'1767', 'Regional-Gorakhpur-Bhojpuri-1730-2018121320913_15.wav', 'संसद के दुन्नो सदनन क आजु क कारवाई बिरोधी दलन के हंगामा के नाते बाधित हो गइल'}) and 3 missing columns ({'बिपक्षी दलन क मांगि हवे कि अगर कउनों मतदान केन्द्र पर कउनों गड़बड़ी पावल जाए त विधानसभा इलाका में आवे वाले सज्जो मतदान केन्द्रन क ईवीएम क मिलान वीपीपैट से करावल जाए', 'Regional-Gorakhpur-Bhojpuri-1730-2019521182147_4.wav', '10873'}). This happened while the csv dataset builder was generating data using hf://datasets/ankur02/bhojpuri/data/hi_in/dev.tsv (at revision 3705d45ead091672439b2ff1b4acbe5b2f29a516) Please either edit the data files to have matching columns, or separate them into different configurations (see docs at https://hf.co/docs/hub/datasets-manual-configuration#multiple-configurations)
Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
10873
int64 | Regional-Gorakhpur-Bhojpuri-1730-2019521182147_4.wav
string | बिपक्षी दलन क मांगि हवे कि अगर कउनों मतदान केन्द्र पर कउनों गड़बड़ी पावल जाए त विधानसभा इलाका में आवे वाले सज्जो मतदान केन्द्रन क ईवीएम क मिलान वीपीपैट से करावल जाए
string |
---|---|---|
2,721 | Regional-Gorakhpur-Bhojpuri-1730-201866195018_25.wav | पुलिस सूत्र बतवलें कि ई जांचि अभियान दस जून ले चलत रही |
3,743 | Regional-Gorakhpur-Bhojpuri-1730-2018825184127_4.wav | जहवां कलस यात्रा के रस में अस्थि कलस कइ गो जगहिनि से होत राजेन्द्र प्रसाद घाट दौरान लोगि फूल बरसा के अटल जी के भावभीनी सरधाजंलि दिहलें |
10,286 | Regional-Gorakhpur-Bhojpuri-1730-2019411195623_8.wav | कुछु जगहिनि पर ईवीएम मसीनिनि में खराबी क सूचना मिलल जे के निर्वाचन अधिकारियन की ओरि से जुरते ठीक करा दिहल गइल |
10,660 | Regional-Gorakhpur-Bhojpuri-1730-2019511183040_17.wav | समाजवादी पारटी कै रास्ट्रीय अध्यक्ष अखिलेष यादव आजु गोरखपुर क पिपराइच के जीतपुर में आयोजित एगो जनसभा के सम्बोधित करत कहलें कि छठवां फेरा तक क चुनाव में भाजपा पूरा प्रदेस में हारि रहलि हौ |
4,451 | Regional-Gorakhpur-Bhojpuri-1730-201891919224_18.wav | धान क समरथन मूल्य सतरह सौ पचास रूपिया आ ग्रेडए धान क समरथन मूल्य सतरह सौ सत्तर रूपिया प्रति कुन्तल निरधारित कइल गइल हौ |
9,222 | Regional-Gorakhpur-Bhojpuri-1730-20192719258_14.wav | उहां के कहलीं कि प्रसार भारती अपने कार्यक्रमन में सुधार बदे हरदम्मे प्रयास कइ रहल हौ |
14,494 | Regional-Gorakhpur-Bhojpuri-1730-201997211410_7.wav | उहां के कहलीं कि दूरदर्षन सनसनीखेज नाही बलुक सही समाचार बतावे ला |
4,633 | Regional-Gorakhpur-Bhojpuri-1730-2018928194349_4.wav | मुख्यमंत्री योगी आदित्यनाथ कहले हउवें कि स्वच्छ भारत मिषन अउर सौभाग्य योजना से ढेरि संख्या में लोगिन क फायदा भइल हवे |
13,268 | Regional-Gorakhpur-Bhojpuri-1730-201982618313_15.wav | श्री योगी कहलें कि समयसमय पर अन्तर्राज्यीय समन्वय गोस्ठी कइ के सूचना क आदानप्रदान कइल जाला अउर सीमावर्ती इलाका में संयुक्त ऑपरेसनों कइल जाला |
5,800 | Regional-Gorakhpur-Bhojpuri-1730-201910719536_24.wav | सरधालु आजु माता भगउती के नौवें स्वरूप मॉं सिद्धिदात्री क पूजा कइलें |
15,070 | Regional-Gorakhpur-Bhojpuri-1730-2020102418553_10.wav | येह महामारी से मरे वालन क दर एक दसमलव पांच एक फीसदी हौ |
7,727 | Regional-Gorakhpur-Bhojpuri-1730-20191226183746_24.wav | ई गरहन बलयाकार रहे |
9,975 | Regional-Gorakhpur-Bhojpuri-1730-2019330192419_3.wav | टेलीविजन रेडियो अउर सोसल मीडिया पर सम्बोधन में प्रधानमंत्री ई जनकारी दिहले रहलें |
12,145 | Regional-Gorakhpur-Bhojpuri-1730-201971919453_34.wav | ऊहां के पछिला कुछु दिनन से बेमार चलति रहलीं अउर अस्पताले में भरती रहलीं |
9,446 | Regional-Gorakhpur-Bhojpuri-1730-2019313193149_6.wav | उहां के मतदान के जोग्य सज्जो नौजवानन से मतदाता पंजीकरण क अनुरोध कइले हईं |
5,137 | Regional-Gorakhpur-Bhojpuri-1730-20191015192832_1.wav | आजु नई दिल्ली में रक्षा अनुसंधान अउर विकास संगठन डी आर डी ओ के निदेसकन के सम्मेलन में श्री सिंह कहलें कि ई संगठन नया तकनीक के इस्तेमाल कई के देस के मजबूत बनउले हवे |
15,522 | Regional-Gorakhpur-Bhojpuri-1730-2020110195622_11.wav | उहां के अधिकारियन के चकबंदी प्रक्रिया में पुरहर पारदरसिता बरतले क निरदेस दिहले हवें |
1,789 | Regional-Gorakhpur-Bhojpuri-1730-2018121320913_5.wav | उच्च न्यायालय आजु ओन्नईस सौ चौरासी के दंगा मामिला में निचली अदालति के फैसिला के चुनौती देवे वाली सीबीआई दंगा पीड़ितन अउर दोसियन के अपीलि पर सुनवाई करत रहे |
6,695 | Regional-Gorakhpur-Bhojpuri-1730-2019113184928_11.wav | प्रधानमंत्री नरेन्द्र मोदी गुरू गोविंद सिंह जी के जयंती पर नई दिल्ली में साढ़े तीनि सौ रूपिया क स्मारक सिक्का जारी कइलें |
3,734 | Regional-Gorakhpur-Bhojpuri-1730-2018825184127_2.wav | जहवां कलस यात्रा के भारत रत्न पूर्व प्रधानमंत्री स्वर्गीय अटल बिहारी वाजपेई क अस्थि कलस प्रदेस के कई गो जिलन में ले जाइल गइल |
1,594 | Regional-Gorakhpur-Bhojpuri-1730-201811918271_16.wav | अजुवे भगवान चित्रगुप्तो क पूजा कइल गइल |
12,709 | Regional-Gorakhpur-Bhojpuri-1730-201977192529_28.wav | प्रदेस के कई गो जिलन में पछिला छत्तिस घंटा में हल्लुक से ले के मध्यम बरखा भइले से लोगिन के उमस भरलि गरमी से राहति मिललि हवे |
7,819 | Regional-Gorakhpur-Bhojpuri-1730-20191230192152_22.wav | उहां के कहलीं कि येह कानून से कउनों भारतीय नागरिक क नागरिकता नाही जाई |
5,440 | Regional-Gorakhpur-Bhojpuri-1730-2019102419563_32.wav | रामपुर सीटि से सपा क तंजीन फातिमा भाजपा के भारत भूशण गुप्ता के हरा दिहलिनि |
7,983 | Regional-Gorakhpur-Bhojpuri-1730-2019124192519_34.wav | उहां के अधिकारियन के येह योजना के व्यापक परचारपरसार कइ के जियादे से जियादे लोगिन के एकर फायदा पहुंचवले क निरदेस दिहलीं |
11,384 | Regional-Gorakhpur-Bhojpuri-1730-201962119486_15.wav | नई दिल्ली में लोकसभा अध्यक्ष ओम बिड़ला संसद भवन परिशद में सांसदन के साथे योगाभ्यास कइलें |
643 | Regional-Gorakhpur-Bhojpuri-1730-2018103194032_12.wav | क्लाइमेट की चिंता जबतक कल्चर का हिस्सा नहीं होती तब तक क्लेमिटी से बच पाना मुश्किल है |
6,623 | Regional-Gorakhpur-Bhojpuri-1730-2019112819353_6.wav | राश्ट्रपति विवेकानन्द के बिचार के यादि करत कहलें कि उन्हें बिस्वास बाटे कि नया जमाना क उपकरण के साथे मिसन क ई अस्पताल गरीब लोगिन क सेवा कइले में सक्षम होई |
8,721 | Regional-Gorakhpur-Bhojpuri-1730-201921620419_12.wav | महराजगंज में पंकज त्रिपाठी अउर कन्नौज में प्रदीप यादव के भावभीनी अन्तिम बिदाई दीहल गइल |
12,372 | Regional-Gorakhpur-Bhojpuri-1730-2019726192449_27.wav | प्रधानमंत्री लोगिन क सुझाव आमंत्रित कइले हवें |
8,783 | Regional-Gorakhpur-Bhojpuri-1730-2019219192952_11.wav | श्री मोदी ने बीएचयू कैम्पस में एक हजार एक सौ करोड़ रूपये की लागत से बने महामना मदन मोहन मालवीय कैंसर हॉस्पिटल तथा लहरतारा में भाभा कैंसर हॉस्पिटल का भी लोकार्पण किया |
4,585 | Regional-Gorakhpur-Bhojpuri-1730-201892419637_5.wav | बइठकी क उद्देस्य सम्बन्धित राज्यन के साझा समेस्या के समाधान निकारल अउर अन्तर्राज्यीय सीमा से जुड़ल मुद्दा क समाधान कइल रहे |
10,404 | Regional-Gorakhpur-Bhojpuri-1730-2019414184037_3.wav | प्रधानमंत्री नरेन्द्र मोदी कहले हवें कि भारतीय जनता पारटी कष्मीरी पण्डितन के कष्मीर के उनके मूल जगहिनि पर फेर से ं एगो रैली के सम्बोधित करत श्री बसावे खातिर प्रतिबद्ध हउवे अउर येह दिसा में कामों सुरू हो चुकल हवे |
8,827 | Regional-Gorakhpur-Bhojpuri-1730-201922019058_20.wav | एकरे अलावा मुजफ्फरपुर बागपत अउर मथुरा लोकसभा सीटि अउरियो सहजोगी दलन खातिर छोड़ल गइल हवे |
2,200 | Regional-Gorakhpur-Bhojpuri-1730-20181228195328_10.wav | भूटान क प्रधानमंत्री कहलें कि भारत भूटान के विकास सम्बंधी गतिविधियन में मददि देत रहल हवे |
3,285 | Regional-Gorakhpur-Bhojpuri-1730-2018810184110_14.wav | उत्पादन के ब्रांडिंग पर जोर देत श्री कोविंद कहलें कि घरेलू उत्पाद के अन्तर्राश्ट्रीय बजारि ले ले गइले मे ं सरकार क सहजोग जरूरी हौ |
11,295 | Regional-Gorakhpur-Bhojpuri-1730-2019618193814_18.wav | कॉग्रेस नेता अधीर रंजन चौधरी कहलें कि येह बइठकी मे लोकसभा में कॉग्रेस पारटी के नेता के नियुक्ति के मुद्दा पर कउनों चरचा नाही भइल |
5,438 | Regional-Gorakhpur-Bhojpuri-1730-2019102419563_30.wav | भाजपा ओम्मेदवार के छाछठि हजार दुइ सौ अठासी ओट मिलल ओहीं सपा ओम्मेदवार के तिरपन हजार चारि सौ सड़सठ ओट हासिल भइल |
10,927 | Regional-Gorakhpur-Bhojpuri-1730-201952420059_18.wav | बस्ती से हरीष द्विवेदी दुबारा चुनि लिहल गइल हवें |
7,645 | Regional-Gorakhpur-Bhojpuri-1730-20191223183554_27.wav | मुख्यमंत्री योगी आदित्यनाथ आजु लखनऊ में विधानसभा में चौधरी चरण सिंह के फोटो पर फूल चढ़ा के उन्हें भावभीनी सरधांजलि दिहलें |
7,963 | Regional-Gorakhpur-Bhojpuri-1730-2019124192519_13.wav | उहां के विद्यार्थियन से कहलीं कि चुनौती के अवसर मंे कवने तरह से बदलल जाए ई कला सीखे के चाहीं |
11,395 | Regional-Gorakhpur-Bhojpuri-1730-201962119486_28.wav | न्यायालय क अवकास पीठि देस के तेरह सौ से जियादा सिक्षा संस्थानन के पंजीकृत ग्रुप एजुकेसन प्रमोसन सोसाइटी ऑफ इण्डिया के याचिका पर सुनवाई के दौरान ई व्यवस्था दिहलस |
6,888 | Regional-Gorakhpur-Bhojpuri-1730-2019115192318_8.wav | विस्व क सबसे बड़हन धारमिक सांस्कृतिक कुंभ दुइ हजार ओन्नईस आजु प्रयागराज में पवित्र नहान के बादे सुरू हो गइल |
13,168 | Regional-Gorakhpur-Bhojpuri-1730-2019822184221_19.wav | मुख्यमंत्री योगी आदित्यनाथ प्रदेस के बाल श्रम के अभिसाप से मुक्त करावे बदे पंचायतीराज संस्थानन अउर स्थानीय निकायन के प्रतिनिधियन से सहजोग मंगले हवंे |
9,748 | Regional-Gorakhpur-Bhojpuri-1730-201932219286_21.wav | भाजपा क प्रदेस इकाई क महासचिव अउरि पच्छिमी इलाका क प्रभारी विजय बहादुर पाठक ई जनकारी देत बतलवें कि सहारनपुर में मुख्यमंत्री अउरि पारटी क अउरियो सिनियर नेता साकुंभरी देवी के दर्सन के बाद जनसभा करिहें |
881 | Regional-Gorakhpur-Bhojpuri-1730-20181111193216_20.wav | मौलाना अबुल कलाम आजाद के जयंती पर हर सालि इग्यारह नवम्बर के ई दिवस मनावल जाला |
15,149 | Regional-Gorakhpur-Bhojpuri-1730-2020102619720_27.wav | फिजिकल डिस्टेंस मेन्टेंड करिये |
647 | Regional-Gorakhpur-Bhojpuri-1730-2018103194032_16.wav | संयुक्त राश्ट्र महासचिव कहले प्रधानमंत्री मोदी जानते हैं कि जलवायु परिवर्तन दुनिया के अस्तित्व के समक्ष एक सीधी चुनौती है |
15,208 | Regional-Gorakhpur-Bhojpuri-1730-20201028183215_2.wav | राज्यपाल श्रीमती आनंदीबेन क अध्यक्षता में आजु राजभवन में इलाहाबाद संग्रहालय प्रयागराज के कार्यकारिणी समिति क बइठकी सम्पन्न भइल |
8,085 | Regional-Gorakhpur-Bhojpuri-1730-2019126194230_40.wav | येह बरखा के कृशि बिसेसज्ञ फसिलि खातिर खास तौर से गोहूंँ आ चाना क फसिलि बदे लाभकारी बतवले हवें |
6,883 | Regional-Gorakhpur-Bhojpuri-1730-2019115192318_41.wav | विज्ञान अउर टेक्नोलोजी मंत्री डाक्टर हर्षवर्धन आजु नई दिल्ली में दूरदर्शन के डीडीसाइंस अउर इंडिया साइंस नांव क नया चैनलन क सुरूआत कइलें |
6,392 | Regional-Gorakhpur-Bhojpuri-1730-201911219460_20.wav | श्री नकवी आजु प्रयागराज में हुनर हाट क उद्घाटन करत कहलें कि केन्द्र सरकार के रोजगार सृजन के अइसन योजना से देसभर में रोजगार क खूबे नया अवसर पैदा भइल हवें |
1,370 | Regional-Gorakhpur-Bhojpuri-1730-20181127195559_17.wav | प्रदेस में वर्तमान समय में हर सालि पेट्रोल अउर डीजल के मांगि में चारि से आठ प्रतिसत क बढ़ोत्तरी हो रहल हवे |
11,879 | Regional-Gorakhpur-Bhojpuri-1730-201969185050_29.wav | दुरघटना के बाद ट्रक डराइबर फरार हो गइल |
12,720 | Regional-Gorakhpur-Bhojpuri-1730-201977192529_7.wav | साथ ही अधिवासी और पूर्णता पत्र देने से पहले इसकी जांच भी की जाए |
3,477 | Regional-Gorakhpur-Bhojpuri-1730-201881518396_26.wav | हम लोगों ने प्रदेष की वर्तमान व्यवस्था को केवल सीमित क्षेत्रों तक कैद कर के नही रखा है विकास होगा सबका होगा |
8,235 | Regional-Gorakhpur-Bhojpuri-1730-2019128192746_20.wav | प्रधानमंत्री अग्निकाण्ड में गम्भीर रूप से घाही लोगिन के पचासपचास हजार रूपिया देवे क घोसणा कइले हवें |
14,319 | Regional-Gorakhpur-Bhojpuri-1730-2019930184353_4.wav | प्रधानमंत्री एगो ट्वीट में मानवता क प्रति महात्मा गांधी के जोगदान खातिर उनकर अभार जतवलें |
7,144 | Regional-Gorakhpur-Bhojpuri-1730-2019121191710_36.wav | हवाई से आये गुलाब सिंह ने कहा कि ये कुम्भ दिव्य है |
14,275 | Regional-Gorakhpur-Bhojpuri-1730-2019929184826_20.wav | प्रदेस भर के सक्तिपीठन अउर देवी मंदिरन में सरधालुअन क भारी भीड़ि लागलि बाटे |
571 | Regional-Gorakhpur-Bhojpuri-1730-2018102818389_33.wav | येह जगहिनि पर कुलि बत्तिस गो कैमरा |
13,694 | Regional-Gorakhpur-Bhojpuri-1730-201991184813_16.wav | जिलाधिकारी डॉक्टर अनिल कुमार सिंह पड़रौना नगर के लग्गे जंगल खिरकिया के मुसहर बस्ती में अभियान क सुरूआत कइलें |
6,906 | Regional-Gorakhpur-Bhojpuri-1730-2019117182630_28.wav | पंचकोसी पैकरमा क दायरा चउदह कोसी के तुलना में कम भइले से ढेरे भीड़ि होखले के मद्देनजर पैकरमा राहि पर सुरक्षा क पुरहर इंतिजाम कइल गइल हौ |
12,645 | Regional-Gorakhpur-Bhojpuri-1730-201975183935_17.wav | बजट में प्रधानमंत्री सहरी आवास योजना के जरिये एक्यासी लाख मकानिनि के निर्माण के सथहीं केराया के मकानि क संख्या बढ़ावे खातिर किरायेदारी कानून के अन्तिम रूप देवे क बाति कहल गइल हवे |
6,602 | Regional-Gorakhpur-Bhojpuri-1730-2019112819353_13.wav | बाद में कॉग्रेस डीएमके टीएमसी आ अउरियो सांसद लोगि येही मुद्दा पर लोकसभा से वॉकआउट कइ दिहलें |
3,537 | Regional-Gorakhpur-Bhojpuri-1730-201881818469_24.wav | इसके अलावा तकनीक के भविष्य विषय पर एक विचार गोष्ठी भी आयोजित की गई |
13,089 | Regional-Gorakhpur-Bhojpuri-1730-201981918309_10.wav | ब्यौपारिक प्रतिस्ठान रोजै के लेखा खुलल हउवें |
12,350 | Regional-Gorakhpur-Bhojpuri-1730-2019725181922_6.wav | भाजपा क मीनाक्षी लेखी ई कहत विधेयक क समरथन कइलिनि कि येहसे मुस्लिम मेहरारून के अधिकारन क संरक्षण होई |
127 | Regional-Gorakhpur-Bhojpuri-1730-20181014184225_17.wav | श्री मलिक श्राइन बोर्ड कै अध्यक्षो हईं |
7,905 | Regional-Gorakhpur-Bhojpuri-1730-201912320818_20.wav | बड़ी संख्या में प्रवासियों ने चर्चा पत्रों में हिस्सा लिया जिसकी अध्यक्षता विदेश राज्यमंत्री रिटायर्ड जनरल डॉ वी के सिंह ने की |
14,239 | Regional-Gorakhpur-Bhojpuri-1730-201992819557_13.wav | उहां के कहलीं कि का पाकिस्तान पुस्टि कइ सके ला कि ओकरे यहां संयुक्त राश्ट्र की ओरि से घोसित एक सौ तीस आतंकवादी अउर पचास आतंकवादी संगठन अजुओ मौजूद बाड़ें |
15,682 | Regional-Gorakhpur-Bhojpuri-1730-2020111205655_8.wav | नयेनये लोगों तक ये बात पहुंचाएगा कि हमारे लोकल प्रोडक्ट कितने अच्छे हैं कितने शानदार हैं किस तरह हमारी पहचान है तो यह बातें दूरदूर तक जायेगी |
15,487 | Regional-Gorakhpur-Bhojpuri-1730-202010919829_13.wav | प्रदेस सरकार आवे वाला सत्रह अक्टूबर से सुरू हो रहल नवरातर परब के दौरान मेहरारून अउर लइकनिनि के सुरक्षा पर खास अभियान सुरू करी |
14,295 | Regional-Gorakhpur-Bhojpuri-1730-2019930184353_12.wav | भाजपा अध्यक्ष अमित शाह महात्मा गांधी के जयंती के मौका पर आजु नई दिल्ली के सालीमार बाग में भारतीय जनता पारटी क देसव्यापी गांधी संकल्प यात्रा के रवाना कइलें |
5,255 | Regional-Gorakhpur-Bhojpuri-1730-20191019204218_20.wav | रेलवे स्टेसनन बस अड्डन सार्वजनिक जगहि अउर भीड़िभाड़ वाले इलाकन में गस्त बढ़ा दिहल गइल हवे |
484 | Regional-Gorakhpur-Bhojpuri-1730-20181026194711_36.wav | षि कुम्भ साकार करेगा और आने वाले तीन दिनों में षि कुम्भ साकार करेगा और आने वाले तीन दिनों में वेत मधु और नीली क्रांति की ओर बढ़ रहे हैं |
10,886 | Regional-Gorakhpur-Bhojpuri-1730-2019522191742_16.wav | येह बरिस क विसय हवे बच्चों को खेतो में नहीं बल्कि सपनों पर काम करना चाहिए |
6,743 | Regional-Gorakhpur-Bhojpuri-1730-2019113191533_29.wav | राष्ट्रपति रामनाथ कोविंद पूर्वोत्तर राज्य के नवजवानन से कला अउर खेलि में आपन उत्कृश्ट छवि के अउरियो निखरले के आह्वान कइलें |
6,901 | Regional-Gorakhpur-Bhojpuri-1730-2019117182630_23.wav | ग्राम सभा के पांच एकड़ से जियादा अनारक्षित जमीनि मिलले के बाद ओके अधिग्रहित कइ के मिनी औद्योगिक काम्प्लेक्स के रूप में तइयार कइल जाई |
7,296 | Regional-Gorakhpur-Bhojpuri-1730-2019121519424_26.wav | येह मौका पर उप मुख्यमंत्री कहलें कि प्रदेस सरकार विस्वविद्यालयन में समान पाठ्यक्रम के दिसा में काम कइ रहल हवे |
4,348 | Regional-Gorakhpur-Bhojpuri-1730-2018912185551_64.wav | सज्जो प्रतियोगि अधिकरियन के निरदेस दिहले हवें कि बान्हन के रखरखाव के काम में कउनों तरह प्रदेस कै सिंचाई मंत्री धर्मपाल सिंह विभागीय अधिकरियन के निरदेस दिहले हवें कि बान्हन के रखरखाव के काम में कउनों तरह प्रदेस कै सिंचाई मंत्री धर्मपाल सिंह विभागीय अधिकरियन के निरदेस दिहले हवें कि बान्हन के रखरखाव के काम में कउनों तरह अधिकरियन के निरदेस दिहले हवें कि बान्हन के रखरखाव के काम में कउनों तरह प्रदेस कै सिंचाई मंत्री धर्मपाल सिंह विभागीय प्रदेस कै सिंचाई मंत्री धर्मपाल सिंह विभागीय क कमी नाही होखे के चाही |
9,521 | Regional-Gorakhpur-Bhojpuri-1730-2019316183245_24.wav | इलाहाबाद उच्च न्यायालय उत्तर प्रदेस माध्यमिक सिक्षा परिशद के दुइ हजार बीस अउर ओकरे बाद आवे वाले सालि में हाईस्कूल अउर इण्टमीडिएट के परीक्षा के अंकपत्र में विद्यार्थियन क नांव अंगरेजी के साथेसाथे हिन्दियो में लिखे क निरदेस दिहले हौ |
15,559 | Regional-Gorakhpur-Bhojpuri-1730-20201110192049_13.wav | साथियों जब भी सैन्य कुशलता के इतिहास के बारे में लिखापड़ाजाएगा |
6,585 | Regional-Gorakhpur-Bhojpuri-1730-20191127192815_27.wav | गिनती में छौ सौ से सात सौ स्वचालित कैमरा प्रयोग कइल जाई |
8,500 | Regional-Gorakhpur-Bhojpuri-1730-20192101974_14.wav | संगत का असर ये है कि यहां के मुख्यमंत्री जी भी आंध्र प्रदेश के विकास के विजन को भूलकर मोदी को गाली देने की कॉम्पेटिशन में कूद गए हैं |
3,029 | Regional-Gorakhpur-Bhojpuri-1730-2018729192459_18.wav | श्री मोदी आसय के मौका पर उहां के कहलीं कि खाली पांच महिन्ना में साठि हजार करोड़ रूपिया क निवेस पावल एगो बड़हन उपलब्धी हौ |
1,641 | Regional-Gorakhpur-Bhojpuri-1730-20181211185049_30.wav | सहारनपुर में बड़गांव रामपुर मनिहारन राहि पर रेड़ा गांव के लग्गे काल्हि देर राति एगो तेज रफ्तार मोटरसाइकिलि सड़कि के किनारे खड़ा ट्रेक्टर ट्रॉली से टकरा गइल जेहसे तीनि गो नौजवानन क ओहिजुकवें मउति हो गइलि |
12,808 | Regional-Gorakhpur-Bhojpuri-1730-2019811185811_21.wav | प्रदेस के उप मुख्यमंत्री केषव प्रसाद मौर्य कहले कि पहिले ई अभियान एगारह अगस्त ले चले वाला रहे बाकिर अब ई अभियान बीस अगस्त ले चली |
4,087 | Regional-Gorakhpur-Bhojpuri-1730-201885191533_17.wav | कार्यक्रम के सम्बोधित करत प्रदेस कै नामकरण पंडित दीनदयाल उपाध्याय कइल एकात्म मानववाद के प्रणेता के प्रति सच्ची सरधांजलि हउवे |
7,133 | Regional-Gorakhpur-Bhojpuri-1730-2019121191710_26.wav | प्रधानमंत्री नरेन्द्र मोदी प्रवासी भारतीय दिवस क बिहने औपचारिक रूप से उद्घाटन करिहें |
3,443 | Regional-Gorakhpur-Bhojpuri-1730-20188131923_62.wav | ओरि से उपयोग करे के खातिर अधिसूचना जारी कइ दिहले हवे |
7,238 | Regional-Gorakhpur-Bhojpuri-1730-20191213182915_26.wav | तेज बरखा से किसानन के फसलिनि के नोकसानों क आगम हवे |
2,264 | Regional-Gorakhpur-Bhojpuri-1730-20181230184551_16.wav | एफएसएसएआई सेफ और हैल्दी डाइट हैबिट्स खाने की अच्छी आदतों को बढ़ावा देने में जुटा है |
13,558 | Regional-Gorakhpur-Bhojpuri-1730-201987192220_6.wav | राश्ट्रपति रामनाथ कोविंद उपराश्ट्रपति एम वेंकैया नायडू प्रधानमंत्री नरेन्द्र मोदी पूर्व विदेस मंत्री सुशमा स्वराज के घरे जा के उन्हें सरधांजलि दिहलें |
13,394 | Regional-Gorakhpur-Bhojpuri-1730-2019831183434_4.wav | आप जरूर इससे जुडिये जानकारी लिजिये कुछ नया जोडिये आप भी योगदान दीजिये |
8,190 | Regional-Gorakhpur-Bhojpuri-1730-2019128183530_1.wav | आजु नई दिल्ली में एनसीसी गणतंत्र दिवस सिविर के समापन परेड के सम्बोधित करत प्रधानमंत्री कहलें कि भारतीय सेना देस के दुस्मनन के करारा जबाब दे रहलि हौ |
4,463 | Regional-Gorakhpur-Bhojpuri-1730-201891919224_5.wav | ये मुद्दा है नारी न्याय नारी गरिमा नारी सम्मान |
12,124 | Regional-Gorakhpur-Bhojpuri-1730-201971919453_13.wav | प्रधानमंत्री नरेन्द्र मोदी येह महिन्ना के अट्ठाईस तारीख के आकाषवाणी से मन की बात कार्यक्रम में देसविदेस के लोगिन से आपन विचार साझा करिहें |
12,394 | Regional-Gorakhpur-Bhojpuri-1730-2019727183756_21.wav | सूचना अउर प्रसारण सचिव कहलें कि सिक्षा संस्थानन के सामुदायिक रेडियो केन्द्रन के स्थापना बदे प्रोत्साहित कइल जा रहल हवे |
7,356 | Regional-Gorakhpur-Bhojpuri-1730-20191217182853_24.wav | दिल्ली कै एगो अदालति दुइ हजार सतरह के उन्नाव दुस्कर्म मामिला में भाजपा कै पूर्व सदस्य अउर विधायक कुलदीप सिंह सेंगर के सजा देवे क सुनवाई बीस दिसम्बर तक ले स्थगित कइ दिहले हवे |
FLEURS
Fleurs is the speech version of the FLoRes machine translation benchmark. We use 2009 n-way parallel sentences from the FLoRes dev and devtest publicly available sets, in 102 languages.
Training sets have around 10 hours of supervision. Speakers of the train sets are different than speakers from the dev/test sets. Multilingual fine-tuning is used and ”unit error rate” (characters, signs) of all languages is averaged. Languages and results are also grouped into seven geographical areas:
- Western Europe: Asturian, Bosnian, Catalan, Croatian, Danish, Dutch, English, Finnish, French, Galician, German, Greek, Hungarian, Icelandic, Irish, Italian, Kabuverdianu, Luxembourgish, Maltese, Norwegian, Occitan, Portuguese, Spanish, Swedish, Welsh
- Eastern Europe: Armenian, Belarusian, Bulgarian, Czech, Estonian, Georgian, Latvian, Lithuanian, Macedonian, Polish, Romanian, Russian, Serbian, Slovak, Slovenian, Ukrainian
- Central-Asia/Middle-East/North-Africa: Arabic, Azerbaijani, Hebrew, Kazakh, Kyrgyz, Mongolian, Pashto, Persian, Sorani-Kurdish, Tajik, Turkish, Uzbek
- Sub-Saharan Africa: Afrikaans, Amharic, Fula, Ganda, Hausa, Igbo, Kamba, Lingala, Luo, Northern-Sotho, Nyanja, Oromo, Shona, Somali, Swahili, Umbundu, Wolof, Xhosa, Yoruba, Zulu
- South-Asia: Assamese, Bengali, Gujarati, Hindi, Kannada, Malayalam, Marathi, Nepali, Oriya, Punjabi, Sindhi, Tamil, Telugu, Urdu
- South-East Asia: Burmese, Cebuano, Filipino, Indonesian, Javanese, Khmer, Lao, Malay, Maori, Thai, Vietnamese
- CJK languages: Cantonese and Mandarin Chinese, Japanese, Korean
How to use & Supported Tasks
How to use
The datasets
library allows you to load and pre-process your dataset in pure Python, at scale. The dataset can be downloaded and prepared in one call to your local drive by using the load_dataset
function.
For example, to download the Hindi config, simply specify the corresponding language config name (i.e., "hi_in" for Hindi):
from datasets import load_dataset
fleurs = load_dataset("google/fleurs", "hi_in", split="train")
Using the datasets library, you can also stream the dataset on-the-fly by adding a streaming=True
argument to the load_dataset
function call. Loading a dataset in streaming mode loads individual samples of the dataset at a time, rather than downloading the entire dataset to disk.
from datasets import load_dataset
fleurs = load_dataset("google/fleurs", "hi_in", split="train", streaming=True)
print(next(iter(fleurs)))
Bonus: create a PyTorch dataloader directly with your own datasets (local/streamed).
Local:
from datasets import load_dataset
from torch.utils.data.sampler import BatchSampler, RandomSampler
fleurs = load_dataset("google/fleurs", "hi_in", split="train")
batch_sampler = BatchSampler(RandomSampler(fleurs), batch_size=32, drop_last=False)
dataloader = DataLoader(fleurs, batch_sampler=batch_sampler)
Streaming:
from datasets import load_dataset
from torch.utils.data import DataLoader
fleurs = load_dataset("google/fleurs", "hi_in", split="train")
dataloader = DataLoader(fleurs, batch_size=32)
To find out more about loading and preparing audio datasets, head over to hf.co/blog/audio-datasets.
Example scripts
Train your own CTC or Seq2Seq Automatic Speech Recognition models on FLEURS with transformers
- here.
Fine-tune your own Language Identification models on FLEURS with transformers
- here
1. Speech Recognition (ASR)
from datasets import load_dataset
fleurs_asr = load_dataset("google/fleurs", "af_za") # for Afrikaans
# to download all data for multi-lingual fine-tuning uncomment following line
# fleurs_asr = load_dataset("google/fleurs", "all")
# see structure
print(fleurs_asr)
# load audio sample on the fly
audio_input = fleurs_asr["train"][0]["audio"] # first decoded audio sample
transcription = fleurs_asr["train"][0]["transcription"] # first transcription
# use `audio_input` and `transcription` to fine-tune your model for ASR
# for analyses see language groups
all_language_groups = fleurs_asr["train"].features["lang_group_id"].names
lang_group_id = fleurs_asr["train"][0]["lang_group_id"]
all_language_groups[lang_group_id]
2. Language Identification
LangID can often be a domain classification, but in the case of FLEURS-LangID, recordings are done in a similar setting across languages and the utterances correspond to n-way parallel sentences, in the exact same domain, making this task particularly relevant for evaluating LangID. The setting is simple, FLEURS-LangID is splitted in train/valid/test for each language. We simply create a single train/valid/test for LangID by merging all.
from datasets import load_dataset
fleurs_langID = load_dataset("google/fleurs", "all") # to download all data
# see structure
print(fleurs_langID)
# load audio sample on the fly
audio_input = fleurs_langID["train"][0]["audio"] # first decoded audio sample
language_class = fleurs_langID["train"][0]["lang_id"] # first id class
language = fleurs_langID["train"].features["lang_id"].names[language_class]
# use audio_input and language_class to fine-tune your model for audio classification
3. Retrieval
Retrieval provides n-way parallel speech and text data. Similar to how XTREME for text leverages Tatoeba to evaluate bitext mining a.k.a sentence translation retrieval, we use Retrieval to evaluate the quality of fixed-size representations of speech utterances. Our goal is to incentivize the creation of fixed-size speech encoder for speech retrieval. The system has to retrieve the English "key" utterance corresponding to the speech translation of "queries" in 15 languages. Results have to be reported on the test sets of Retrieval whose utterances are used as queries (and keys for English). We augment the English keys with a large number of utterances to make the task more difficult.
from datasets import load_dataset
fleurs_retrieval = load_dataset("google/fleurs", "af_za") # for Afrikaans
# to download all data for multi-lingual fine-tuning uncomment following line
# fleurs_retrieval = load_dataset("google/fleurs", "all")
# see structure
print(fleurs_retrieval)
# load audio sample on the fly
audio_input = fleurs_retrieval["train"][0]["audio"] # decoded audio sample
text_sample_pos = fleurs_retrieval["train"][0]["transcription"] # positive text sample
text_sample_neg = fleurs_retrieval["train"][1:20]["transcription"] # negative text samples
# use `audio_input`, `text_sample_pos`, and `text_sample_neg` to fine-tune your model for retrieval
Users can leverage the training (and dev) sets of FLEURS-Retrieval with a ranking loss to build better cross-lingual fixed-size representations of speech.
Dataset Structure
We show detailed information the example configurations af_za
of the dataset.
All other configurations have the same structure.
Data Instances
af_za
- Size of downloaded dataset files: 1.47 GB
- Size of the generated dataset: 1 MB
- Total amount of disk used: 1.47 GB
An example of a data instance of the config af_za
looks as follows:
{'id': 91,
'num_samples': 385920,
'path': '/home/patrick/.cache/huggingface/datasets/downloads/extracted/310a663d52322700b3d3473cbc5af429bd92a23f9bc683594e70bc31232db39e/home/vaxelrod/FLEURS/oss2_obfuscated/af_za/audio/train/17797742076841560615.wav',
'audio': {'path': '/home/patrick/.cache/huggingface/datasets/downloads/extracted/310a663d52322700b3d3473cbc5af429bd92a23f9bc683594e70bc31232db39e/home/vaxelrod/FLEURS/oss2_obfuscated/af_za/audio/train/17797742076841560615.wav',
'array': array([ 0.0000000e+00, 0.0000000e+00, 0.0000000e+00, ...,
-1.1205673e-04, -8.4638596e-05, -1.2731552e-04], dtype=float32),
'sampling_rate': 16000},
'raw_transcription': 'Dit is nog nie huidiglik bekend watter aantygings gemaak sal word of wat owerhede na die seun gelei het nie maar jeugmisdaad-verrigtinge het in die federale hof begin',
'transcription': 'dit is nog nie huidiglik bekend watter aantygings gemaak sal word of wat owerhede na die seun gelei het nie maar jeugmisdaad-verrigtinge het in die federale hof begin',
'gender': 0,
'lang_id': 0,
'language': 'Afrikaans',
'lang_group_id': 3}
Data Fields
The data fields are the same among all splits.
- id (int): ID of audio sample
- num_samples (int): Number of float values
- path (str): Path to the audio file
- audio (dict): Audio object including loaded audio array, sampling rate and path ot audio
- raw_transcription (str): The non-normalized transcription of the audio file
- transcription (str): Transcription of the audio file
- gender (int): Class id of gender
- lang_id (int): Class id of language
- lang_group_id (int): Class id of language group
Data Splits
Every config only has the "train"
split containing of ca. 1000 examples, and a "validation"
and "test"
split each containing of ca. 400 examples.
Dataset Creation
We collect between one and three recordings for each sentence (2.3 on average), and buildnew train-dev-test splits with 1509, 150 and 350 sentences for train, dev and test respectively.
Considerations for Using the Data
Social Impact of Dataset
This dataset is meant to encourage the development of speech technology in a lot more languages of the world. One of the goal is to give equal access to technologies like speech recognition or speech translation to everyone, meaning better dubbing or better access to content from the internet (like podcasts, streaming or videos).
Discussion of Biases
Most datasets have a fair distribution of gender utterances (e.g. the newly introduced FLEURS dataset). While many languages are covered from various regions of the world, the benchmark misses many languages that are all equally important. We believe technology built through FLEURS should generalize to all languages.
Other Known Limitations
The dataset has a particular focus on read-speech because common evaluation benchmarks like CoVoST-2 or LibriSpeech evaluate on this type of speech. There is sometimes a known mismatch between performance obtained in a read-speech setting and a more noisy setting (in production for instance). Given the big progress that remains to be made on many languages, we believe better performance on FLEURS should still correlate well with actual progress made for speech understanding.
Additional Information
All datasets are licensed under the Creative Commons license (CC-BY).
Citation Information
You can access the FLEURS paper at https://arxiv.org/abs/2205.12446. Please cite the paper when referencing the FLEURS corpus as:
@article{fleurs2022arxiv,
title = {FLEURS: Few-shot Learning Evaluation of Universal Representations of Speech},
author = {Conneau, Alexis and Ma, Min and Khanuja, Simran and Zhang, Yu and Axelrod, Vera and Dalmia, Siddharth and Riesa, Jason and Rivera, Clara and Bapna, Ankur},
journal={arXiv preprint arXiv:2205.12446},
url = {https://arxiv.org/abs/2205.12446},
year = {2022},
Contributions
Thanks to @patrickvonplaten and @aconneau for adding this dataset.
- Downloads last month
- 0