மெனுவில் தோன்றும், Staff details ஐ Click செய்யவும்.

ஒரு முதியவன் பாதாளங்களைத் தாண்டும் தன் மந்திரக்கோலால் சாய்த்தபடியிருக்கிறான் நாட்சத்திரங்களை. .............................................................................................................................................................................. இது எத்தனையாவது [...]

ஒரு முதியவன் பாதாளங்களைத் தாண்டும் தன் மந்திரக்கோலால் சாய்த்தபடியிருக்கிறான் நாட்சத்திரங்களை. .............................................................................................................................................................................. இது எத்தனையாவது [...]

இந்த கட்டுரையில், நாம் Microsoft-ன் Phi-3-mini-4k-instruct மாதிரி பயன்படுத்தி Python இல் அதை எப்படி செய்வது என்பதைப் பார்ப்போம்.We will use the Huggingface inference API for this, so you will not have to download a 7GB model locally.

நினைத்துப் பாருங்கள் இந்தmanipulatingஆங்கிலத்தில் இதை Single Orgasm, Multiple Orgasm என்றும் கூறுகிறார்கள்.

சூழ்நிலை அமைக்க

அனானி
• ஒரு Huggingface கணக்கை உருவாக்குங்கள் மற்றும் ஒரு API குறியீடு (உங்கள் சுயவிவரங்கள் > அணுகுமுறை டாக்டர்கள்) "write" அணுக.This is not a sponsored post.If you are working with LLMs, you will have to create a Huggingface account at some point; that is certain.
அனானி
• நீங்கள் உங்கள் கணினியில் Python 3.10+ நிறுவ மற்றும் ஒரு IDE நிறுவ வேண்டும் என்று உறுதி செய்யவும்.
அனானி
• 'pip install huggingface_hub' அல்லது மற்றொரு கட்டளை பயன்படுத்தி 'huggingface_hub' புத்தகத்தை அமைக்கவும்.
அனானி

Basics புரிந்து கொள்ள

குறியீட்டுக்கு செல்லும் முன், prompt engineering பற்றி சிறிது தெரிந்து கொள்ளலாம்.

நான் முன்னர் கூறியது போல், விரைவான தொழில்நுட்பம் உங்கள் தேவைகள் அடிப்படையில் மாதிரி வெளியீடுகளை கட்டுப்படுத்த பொருத்தமான உள்ளடக்கங்களை உருவாக்குகிறது.

வெப்பநிலை ஆட்சி 0 முதல் 40 டிகிரி செல்சியஸ் வரை இருக்க வேண்டும்; per month As its name suggests, a VPN is about privacy.

இதோ சில பிரபலமானவை:

அனானி
1. Zero-shot learning: Asking the model to perform a task without any examples: "I really this movie!"
அனானி

இது GPT-4, Claude 3 Opus மற்றும் Gemini Ultra போன்ற நன்கு பயிற்சி பெற்ற மாடல்களுடன் வேலை செய்கிறது.

என் அனுபவத்தில், Mistral-7B, ஒரு சிறிய LLM இருப்பினும், அறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகுறிகும்.

அனானி
2. ஆங்கிலத்தில் இதை Single Orgasm, Multiple Orgasm என்றும் கூறுகிறார்கள்.
அனானி

மாதிரி think different type விளம்பரங்கள் தான் add industriesla இப்போ Hot...

அனானி
3. ஒரு முதியவன் பாதாளங்களைத் தாண்டும் தன் மந்திரக்கோலால் சாய்த்தபடியிருக்கிறான் நாட்சத்திரங்களை. .............................................................................................................................................................................. இது எத்தனையாவது [...]
அனானி
4. ஆங்கிலத்தில் இதை Single Orgasm, Multiple Orgasm என்றும் கூறுகிறார்கள்.அதற்காக science fiction நாவல்கள் எல்லாம் science ஆகாது.Fictionஐ ஓரளவு இரசிக்கலாம்.
அனானி
5. ஒரு முதியவன் பாதாளங்களைத் தாண்டும் தன் மந்திரக்கோலால் சாய்த்தபடியிருக்கிறான் நாட்சத்திரங்களை. .............................................................................................................................................................................. இது எத்தனையாவது [...]
அனானி

அனைத்து மேற்பட்ட உபகரணங்கள் ChatGPT அல்லது மற்ற chatbot இன் UI இல் செய்ய முடியும், System prompt and chain-of-thoughts procedure தவிர (technically, we can do that too, but not really effective).

இந்த இரண்டு விஷயங்களை அடுத்த பகுதியில் பேசுவோம்.

நினைவுகள் Chain-of-Thoughts

பெரும்பாலான LLMs, நீங்கள் தங்கள் கருத்திற்கான பின்னணி நினைவுகளை பார்க்க முடியாது, ஆனால் நீங்கள் Python இல் விரைவில் உபயோகிக்க முடியும்.

பதிவிறக்கம் செய்வதற்கு முன், பதிவிறக்கம் செய்யவும், பதிவிறக்கம் செய்யவும், பதிவிறக்கம் செய்யவும்:

from huggingface_hub import InferenceClient

# Replace with your Hugging Face token
client = InferenceClient(token="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")

பின்னர் நாம் எப்படி நம்பிக்கை சலுகைகளை செயல்படுத்த முடியும் என்பதை உறுதி செய்ய வேண்டும்.

இப்போது LLMs தங்கள் உள்ளடக்க நினைவுகளை பார்வையிட ஒரு நேரடியான செயல்பாடு இல்லை - DeepSeek R1 தவிர, அது உருவாக்கப்பட்டுள்ளது.

ஒரு முதியவன் பாதாளங்களைத் தாண்டும் தன் மந்திரக்கோலால் சாய்த்தபடியிருக்கிறான் நாட்சத்திரங்களை. .............................................................................................................................................................................. இது எத்தனையாவது [...]

இவ்வாறு நாம் சொல்ல முடியும்:

Format your response as follows

1. THINKING: First, show all mental steps, considerations, and explorations. Include alternative hypotheses you consider and reject. Think about edge cases.
2. VERIFICATION: Double-check your logic and facts, identifying any potential errors.
3. ANSWER: Only after showing all thinking, provide your final answer.

இதோ நாம் ஒரு வெளியேற்றத்தை உருவாக்குவதற்கான செயல்பாட்டில் அதை சேர்க்க எப்படி முடியும்:

def generate_chain_of_thought_response(user_input):
    # System message defines personality and expectations
    system_prompt = (
        "Format your response as follows:"
"1. THINKING: First, show all mental steps, considerations, and explorations. Include alternative hypotheses you consider and reject. Think about edge cases."
"2. VERIFICATION: Double-check your logic and facts, identifying any potential errors."
"3. ANSWER: Only after showing all thinking, provide your final answer."
    )

    # Alternating user input to encourage visible reasoning
    formatted_user_input = f"{user_input}\nLet's think through this step by step."

    # Phi-style formatting
    prompt = (
        f"<|im_start|>system\n{system_prompt}<|im_end|>\n"
        f"<|im_start|>user\n{formatted_user_input}<|im_end|>\n"
        f"<|im_start|>assistant\n"
    )

    # Call the model
    response = client.text_generation(
        prompt,
        model="microsoft/Phi-3-mini-4k-instruct",  
        max_new_tokens=500,
        temperature=0.7,
        top_p=0.95,
        repetition_penalty=1.1,
        stop_sequences=["<|im_end|>"]
    )

    # Cleanup
    answer = response.strip().split("<|im_end|>")[0].strip()

    return answer

இந்த மாதிரி think different type விளம்பரங்கள் தான் add industriesla இப்போ Hot...

அனானி
• இந்த மாதிரி think different type விளம்பரங்கள் தான் add industriesla இப்போ Hot...
அனானி
• ஒரு முதியவன் பாதாளங்களைத் தாண்டும் தன் மந்திரக்கோலால் சாய்த்தபடியிருக்கிறான் நாட்சத்திரங்களை. .............................................................................................................................................................................. இது எத்தனையாவது [...]
அனானி

அனானி
• Top_p=0.95: top_p parameter uses nucleus sampling to select the smallest set of tokens whose cumulative probability is at least 95%. top_k, which limits choices to a fixed number, top_p dynamically adjusts the token pool based on probability.
அனானி
• repetition_penalty=1.1: இதன் மூலம் முன்பே மீண்டும் எழுதப்பட்ட டாக்டர்களை ஒரு "கடவுள்" பயன்படுத்துகிறது, அதனால் அவர்கள் உருவாக்கப்பட்ட உரையில் மீண்டும் மீண்டும் மீண்டும் காணப்படுவதற்கான வாய்ப்பு குறைகிறது.
அனானி

மேலும், இங்கு நாம் எவ்வாறு prompt format செய்வது என்பதை கவனியுங்கள்:

 f"<|im_start|>system\n{system_prompt}<|im_end|>\n"
        f"<|im_start|>user\n{formatted_user_input}<|im_end|>\n"
        f"<|im_start|>assistant\n"

இந்த வடிவமைப்பு, '<ḳim_starţ>' மற்றும் '<ḳim_enḑ>' ஐ சேர்க்கும், LLM வகையைப் பொறுத்துள்ளது.

இறுதியாக, interactive chat experience ஐ பயன்படுத்தி இந்த loop ஐ செயல்படுத்தவும்:

print("Chain-of-Thought Phi (type 'exit' to quit)")
while True:
    user_input = input("\nYou: ")
    if user_input.lower().strip() in {"exit", "quit"}:
        break
    output = generate_chain_of_thought_response(user_input)
    print("\nAssistant:\n", output)

ஒரு விரைவான சோதனை நேரம். ஸ்கிரிப்டை இயக்கவும், "என்ன 7 x 9 + 100?" போன்ற ஒரு கேள்வி கேட்கலாம் நீங்கள் கீழே ஒரு வெளியீடு எதிர்பார்க்கலாம்:

Firstly, let us break down the expression into two parts according to the order of operations (PEMDAS/BODMAS): parentheses first then exponents or powers, followed by multiplication and division from left to right, and finally addition and subtraction from left to right. There are no parentheses or exponents in our case; so we move on to multiplication before dealing with addition. Here’s how it breaks down:

Step 1 – Multiplication part: We need to multiply 7 times 9 which gives us \(7 \times 9 = 63\).

Next Step - Addition part: Now take that result and add 100 to it (\(63 + 100\)).

Adding these together yields \(63 + 100 = 163\).

So, when calculating \(7 \times 9 + 100\), following the correct arithmetic sequence will give us a total of 163.

இது ஒரு பெரிய விஷயமாக இருக்க முடியாது, ஆனால் நீங்கள் Phi-3-mini-4k-Instruct பயன்படுத்தினால் எந்த விரைவான தொழில்நுட்பம் இல்லாமல், வெளியீடு மிகவும் எளிதாக இருக்கும்.

இதற்குப் பதிலாக, நாங்கள் System Message Prompts-ஐப் பயன்படுத்துகிறோம்.

விரைவான அமைப்பு

ஆங்கிலத்தில் இதை Single Orgasm, Multiple Orgasm என்றும் கூறுகிறார்கள்.அதற்காக science fiction நாவல்கள் எல்லாம் science ஆகாது.Fictionஐ ஓரளவு இரசிக்கலாம்.

ஆங்கிலத்தில் இதை Single Orgasm, Multiple Orgasm என்றும் கூறுகிறார்கள்.அதற்காக science fiction நாவல்கள் எல்லாம் science ஆகாது.Fictionஐ ஓரளவு இரசிக்கலாம்.

குறியீட்டைப் பற்றி, முன்னர் செய்தது போலவே, அதிகாரப்பூர்வமாக தொடங்கலாம்:

from huggingface_hub import InferenceClient

# Replace 'YOUR_HF_API_TOKEN' with your actual Hugging Face API token
client = InferenceClient(token="YOUR_HF_API_TOKEN")

இந்த நேரத்தில், நான் ஒரு அமைதியான மற்றும் அமைதியான மாதிரி மாதிரி செய்ய ஒரு அமைதியான பதிலை எழுதுவேன், ஜென் பாஜகத்தில் போன்ற. கவனியுங்கள் Phi மாதிரிகள் உள்ளடக்க அமைதியை திறக்கப்பட்டுள்ளது (நல்ல வேலை, மைக்ரோசாப்ட்), மற்றும் நீங்கள் தீவிரமாக கருதப்படும் எதையும் மாற்ற முடியாது.

இங்கே நாம் பயன்படுத்த முடியும் குறியீடு:

def generate_response(user_input):
    system_message = (
       "Use words often used in Zen buddhism"
       "Act like you are a monk, staying calm and peaceful"
       "Encourage the user to be calm and follow Zen practices too"
    )

    prompt = (
        f"<|im_start|>system\n{system_message}<|im_end|>\n"
        f"<|im_start|>user\n{user_input}<|im_end|>\n"
        f"<|im_start|>assistant\n"

    )

ஏனெனில், இந்த மாடலின் வெளிப்புறம் <̧im_enḑ> என்று முடிகிறது. இது மாடலின் செயல்திறனை பாதிக்காது, ஆனால் நாங்கள் அதை எப்படியோ வடிவமைக்க முடியும்.

    # Clean up the result
    answer = response.strip()

    if answer.endswith("<|im_end|>"):
        answer = answer.replace("<|im_end|>", "").strip()

    formatted_answer = '\n'.join(answer[i:i + 190] for i in range(0, len(answer), 100))
    return formatted_answer

பின்னர், ஒரு user-input loop ஐ பயன்படுத்தி இந்த குறியீட்டை நிறைவேற்றுங்கள்:

print("Zen AI (type 'quit' to exit)")
while True:
    user_input = input("\nYou: ")
    if user_input.lower() in ["quit", "exit"]:
        break
    response = generate_response(user_input)
    print("Assistant:", response)

ஒரு விரைவான சோதனை ஓட்டம் இயக்க, மற்றும் மாதிரி வெளியீடு அமைப்பு அறிவிப்பு அழகாக பிடிக்கும் எப்படி பாருங்கள்.

அனானி

நீ : ஹலோ

அனானி

உங்களுடைய நாட்களை அமைதியாகவும், கவனமாகவும் நடத்துங்கள்.

அனானி

நீ : ஹலோ

உங்களுடைய நாட்களை அமைதியாகவும், கவனமாகவும் நடத்துங்கள்.

நீங்கள் max_new_tokens அல்லது உங்கள் தேவைகளுக்கு மற்ற மதிப்புகளை மாற்ற அனுமதிக்கலாம்.

நாம் Phi-3-mini மாதிரி ஒரு மனதின் ஒரு குறுகிய வடிவத்தைக் காட்டுவதற்கும், பின்னர் ஒரு ஜின் மாநகரனாக மாறியுள்ளோம்.

ஒலிப்பதிவுகள்

ஒரு முதியவன் பாதாளங்களைத் தாண்டும் தன் மந்திரக்கோலால் சாய்த்தபடியிருக்கிறான் நாட்சத்திரங்களை. .............................................................................................................................................................................. இது எத்தனையாவது [...]

ஒரு முதியவன் பாதாளங்களைத் தாண்டும் தன் மந்திரக்கோலால் சாய்த்தபடியிருக்கிறான் நாட்சத்திரங்களை. .............................................................................................................................................................................. இது எத்தனையாவது [...]

இப்போதைய பதிவுக்கு நன்றி.இரண்டு நாட்களில் சந்திப்போம்.