Update README.md

README.md

@@ -135,6 +135,12 @@ For more documentation on downloading with `huggingface-cli`, please see: [HF ->
 
 # Example `colab` usage
 
+You can copy the notebook from here:
+
+https://colab.research.google.com/drive/1vH3V5kFn1mlhAUtH4E-diq-6DhWBCT3T?usp=sharing
+
+or use the codes below:
+
 ```shell
 %%shell
 # Update and install dependencies
@@ -149,9 +155,6 @@ source $HOME/.cargo/env
 
 # Cloning Candle from Huggingface
 git clone https://github.com/huggingface/candle.git
-
-# Use read CLI or a CLI that has read permissions
-huggingface-cli login
 ```
 
 ```shell
@@ -159,23 +162,49 @@ huggingface-cli login
 ```
 
 ```python
-def run_turna_gguf(prompt="Bir varmış bir yokmuş, ", temperature=1, quantization_method="Q8_1", config_file="config.json", model_id = "helizac/TURNA_GGUF"):
-  os.system(f'cargo run --example quantized-t5 --release -- --model-id "{model_id}" --prompt "[S2S]{prompt}<EOS>" --temperature {temperature} --weight-file "TURNA_{quantization_method}.gguf" --config-file "{config_file}"')
+import os
+os.environ['PATH'] += ':' + os.path.expanduser('~/.cargo/bin')
 ```
 
-```python
-run_turna_gguf("Bir varmış bir yokmuş") # test
-```
+```shell
+%%shell
 
-Sure, here's an explanation for the function `run_turna_gguf`:
+# Add CUDA Features to cargo
+cargo add --git https://github.com/huggingface/candle.git candle-core --features "cuda" --package candle-core
 
-### Function Explanation: `run_turna_gguf`
+# Use read CLI or a CLI that has read permissions
+huggingface-cli login
+```
 
 ```python
+import subprocess
+import os
+
 def run_turna_gguf(prompt="Bir varmış bir yokmuş, ", temperature=1, quantization_method="Q8_1", config_file="config.json", model_id = "helizac/TURNA_GGUF"):
-  os.system(f'cargo run --example quantized-t5 --release -- --model-id "{model_id}" --prompt "[S2S]{prompt}<EOS>" --temperature {temperature} --weight-file "TURNA_{quantization_method}.gguf" --config-file "{config_file}"')
+    cmd = (
+        f'cargo run --example quantized-t5 --release -- '
+        f'--model-id "{model_id}" '
+        f'--prompt "[S2S]{prompt}<EOS>" '
+        f'--temperature {temperature} '
+        f'--weight-file "TURNA_{quantization_method}.gguf" '
+        f'--config-file "{config_file}" '
+    )
+    process = subprocess.Popen(cmd, shell=True, stdout=subprocess.PIPE, stderr=subprocess.STDOUT, universal_newlines=True)
+    for line in process.stdout:
+        print(line, end='')  # Print each line of output from the command
+    process.stdout.close()
+    return_code = process.wait()
+    if return_code != 0:
+        print(f"Command '{cmd}' failed with error code {return_code}")
 ```
 
+```python
+run_turna_gguf("Bir varmış bir yokmuş") # shingaava’nın yöneticisi, kâhyası vs garip şeyler ihityacına göre Mudanya'nın ileri gelen köylerine kadar gitmiş, kâhya Uşak’a kadar gelmiş, yatacak yer dahi yoksa kışı bir Osmanlı zabitleri olarak geçirirmiş.Diğerleri falan bilmemnereye, efendi masiste yazlık, geçici işlerde de kışları olamıyormuş. Japonlar da gelmesini sabırsızlıkla beklermişiz. Oysa her köyde yaşamıyormuş. Sonra korsanlar Karamürsel’e her geldiğinde gelirmişiz, durmadan, her mayıstaki yataverememi diye şikayet ederlermiş. Her isteyen gemiyle gelirmiş, bazen birkaç sandık güruhla kaçırtırmış. Bir defasında bir arkadaşım seyahate muavin olarak İstanbul ve Adapazarı’ndan teyzesinin yanına baradan. Yazın sonu şöyle kara olan mahalleye geçer, oraya, annem gibi, bir başkasının yanına gidermiş tüm olarak. O da bütün herkese sormuş. Hac için gelirlermiş. Anlatmaktan vaz geçmiş, söylenerek işaretlemiş buradayan ülkeye. Bursa’nın neresine gidermiş anlayamadığımı söyler, biz çoktan kimsenin sırrını açıklamamışız. Dostumuz olan Emine Teyze’miz hükümet hesap evine, hatta yüzüne bile bakmayız. Artık memlekete yerlerini bulurmuş, “tatlı canınız oralardan geçiyormuşa. Annemin oradaki yataverenleri ziyareti, yapmam dediği fiil ayakta işnallah demişim. Bu arada Tiran-Japon’muş. Sohbet görene, şuursuz bir hergele nasıl merasim tanıda ilişkilerin zirvesine ulaşmış, sonra Hacettepe’yle kesişiriş ve dumanlar çıkar yengemden, hakkını isteriz, geç konuşmasının çok üstü kapalı söylemeleri, ocağında besenebiliy uşaklar, durumu öğrenmiş ben ayrı muamele görmüşüz. Ohooo gülmezsin tabi, paşa da andımıza saygısından bir sadakaya göndertir, efendim evlenmişiz. Senin gelin olamamış akrabalıkJagyok adı altında ölü gelirlermiş. Ben burada bestenasarya’daki balığın çekirgeleri de pek severim. Dede’ye böbreğini bile götürmek günlere getirirmiş. ( Taoyi ile akrabamızın). Sen beni tanımazsın, üreyin, bol bol türbeleri varmış. Yakala onu ve Tanman’a yatacak yer olmadığı için kimsenin haberini eksikmiş Tepe hanımın rahmetliye anlatmaya. bildiğiniz ölülermiş bunlar karılar ve insanlar MEfcan’ı yindeikmiş, alayında kalsınlar hep Remzi Görki kendisini o da lerine doğuranın ağına ihtiyacım var dermiş
+513 tokens generated (5.11 token/s)
+```
+
+### Function Explanation: `run_turna_gguf`
+
 #### Parameters:
 - **prompt** (`str`, default: "Bir varmış bir yokmuş, "):
   - The initial text provided as input to the model.