| ```python | |
| import torch | |
| from transformers import AutoTokenizer, AutoModelForCausalLM | |
| model_id = 'MLP-KTLim/llama-3.2-Korean-Bllossom-3B' | |
| tokenizer = AutoTokenizer.from_pretrained(model_id) | |
| model = AutoModelForCausalLM.from_pretrained( | |
| model_id, | |
| torch_dtype=torch.bfloat16, | |
| device_map="auto", | |
| ) | |
| instruction = "서울의 유명한 관광 코스를 만들어줄래?" | |
| messages = [ | |
| {"role": "user", "content": f"{instruction}"} | |
| ] | |
| chat_template = tokenizer.apply_chat_template( | |
| messages, tokenize=False | |
| ) | |
| tokend = tokenizer(chat_template, return_tensors='pt').to(model.device) | |
| terminators = [ | |
| tokenizer.convert_tokens_to_ids("<|end_of_text|>"), | |
| tokenizer.convert_tokens_to_ids("<|eot_id|>") | |
| ] | |
| outputs = model.generate( | |
| **tokend, | |
| max_new_tokens=2048, | |
| eos_token_id=terminators, | |
| do_sample=True, | |
| temperature=0.6, | |
| top_p=0.9 | |
| ) | |
| print(tokenizer.decode(outputs[0][tokend.input_ids.shape[-1]:], skip_special_tokens=True)) | |
| ``` | |
| ``` | |
| assistant로, 서울의 유명한 관광지와 함께 추천해 드릴게요. 서울은 다양한 문화, 역사, 음식, 예술 등 다양한 경험을 제공하는 도시입니다. 다음은 서울의 대표적인 관광 코스를 추천해 드리겠습니다. | |
| ### 서울 관광 코스: 문화와 역사, 현대와 전통을 한 곳에 | |
| #### 1. 인사동 | |
| - **가장 먼저 방문할 곳:** 인사동 | |
| - **추천 관광지:** | |
| - **인사동 상상공원:** 서울에서 가장 인기가 있는 상상공원 중 하나로, 다양한 상점과 식당들이 모여 있어 관광객에게 인기가 많습니다. | |
| - **인사동 가게:** 다양한 음식점과 카페, 전통 가게들이 모여 있어 다양한 맛을 즐길 수 있습니다. | |
| #### 2. 명동 | |
| - **가장 먼저 방문할 곳:** 명동 | |
| - **추천 관광지:** | |
| - **명동 광장:** 서울에서 가장 유명한 광장 중 하나로, 다양한 관광객들이 모여서 관광하기 좋습니다. | |
| - **명동 가게:** 전통 음식점, 카페, 전통 가게들이 모여 있어 다양한 맛을 즐길 수 있습니다. | |
| #### 3. 홍대 | |
| - **가장 먼저 방문할 곳:** 홍대 | |
| - **추천 관광지:** | |
| - **홍대 광장:** 홍대는 서울의 대표적인 청년 문화와 nightlife가 있는 지역으로, 다양한 관광객들이 모여서 관광하기 좋습니다. | |
| - **홍대 가게:** 다양한 음식점, 카페, 클럽, 카페가 모여 있어 다양한 경험을 즐길 수 있습니다. | |
| #### 4. 서울의 전통 district | |
| - **가장 먼저 방문할 곳:** 중동, 경복궁, 경복궁 광장 | |
| - **추천 관광지:** | |
| - **중동:** 전통의 재현을 통해 서울의 역사와 문화를 경험할 수 있는 곳으로, 다양한 전통 가게와 음식점이 모여 있습니다. | |
| - **경복궁:** 서울의 역사와 문화를 경험할 수 있는 곳으로, 다양한 관광객들이 모여서 관광하기 좋습니다. | |
| - **경복궁 광장:** 서울에서 가장 큰 광장 중 하나로, 다양한 관광객들이 모여서 관광하기 좋습니다. | |
| #### 5. 서울의 현대가 | |
| - **가장 먼저 방문할 곳:** 강남, 세종대도 | |
| - **추천 관광지:** | |
| - **강남:** 서울의 현대가로, 다양한 상업 거리와 관광지들이 모여 있습니다. | |
| - **세종대도:** 서울의 현대가로, 다양한 상업 거리와 관광지들이 모여 있습니다. | |
| ### 서울 관광 코스 요약 | |
| 1. **인사동:** 상상공원, 인사동 가게 | |
| 2. **명동:** 명동 광장, 명동 가게 | |
| 3. **홍대:** 홍대 광장, 홍대 가게 | |
| 4. **서울의 전통 district:** 중동, 경복궁, 경복궁 광장 | |
| 5. **서울의 현대가:** 강남, 세종대도 | |
| 이 관광 코스는 서울의 다양한 문화와 역사, 현대와 전통을 한 곳에 모아두고 있습니다. 다양한 경험을 즐길 수 있는 다양한 관광지들이 포함되어 있어, 서울을 방문하는 것을 추천합니다. | |
| ``` |