இது தொடர்ச்சியான தொடரின் ஒரு பகுதி: முதல் இடுகையை இங்கே காண்க.
AI கொள்கை II: (உண்மையிலேயே தேவைப்பட்டால்) அறிவுறுத்தல்களைப் பாதுகாப்பாக ஏற்றவும்.
உங்கள் சாட்பாட் தொழில்நுட்ப ஆதரவை வழங்குவதற்குப் பதிலாக டெய்லர் ஸ்விஃப்ட் பாடல் வரிகளைப் பற்றி விவாதிக்கத் தொடங்க வேண்டுமா? மேலே உள்ள கொள்கையை நாங்கள் மீறியபோது எங்கள் சாட்பாட் அதைத்தான் செய்தது. உங்கள் பயன்பாட்டை ஸ்விஃப்ட் நீக்கி உங்கள் AI கட்டமைப்பைப் பாதுகாப்பானதாக்க விரும்பினால், தொடர்ந்து படியுங்கள். (டெய்லர் ரசிகர்கள் மன்னிக்கவும்!)
அறிவிப்புகளை எங்கே சேமிப்பது
மீதமுள்ள குறியீட்டுடன் உங்கள் ப்ராம்ட்களைச் சேமிக்கிறீர்களா? அல்லது வேறு மூலத்திலிருந்து அவற்றை ஏற்றுகிறீர்களா? இரண்டின் கலவையாக இருக்கலாம்? இந்த முடிவைப் பற்றி யோசிப்பதற்கான கட்டமைப்பு கீழே உள்ளது.
விருப்பம் A - Git இல் ஸ்டோர் ப்ராம்ட்கள்
நீங்கள் கேட்க வேண்டிய முதல் கேள்வி: உங்கள் குறியீட்டிலிருந்து தனித்தனியாக ப்ராம்ட்களை சேமிப்பதற்கு உடனடி காரணம் உள்ளதா? இல்லையென்றால், ப்ராம்ட்களை மீதமுள்ள கோட்பேஸுடன் Git இல் விட்டு விடுங்கள், அவை எங்கிருந்தாலும். இது பராமரிக்க மிகவும் எளிதான மற்றும் பாதுகாப்பான அமைப்பாகும். இது இயல்புநிலை விருப்பமாகும்.
கொள்கை #1 க்குத் திரும்பச் செல்லுங்கள்: தூண்டுதல்கள் குறியீடு . உங்கள் குறியீட்டுத் தளத்தின் சில பகுதிகளை Git க்கு வெளியே சேமிப்பது சாத்தியம் மற்றும் சில நேரங்களில் அவசியமானது, ஆனால் அற்பமானது அல்ல. தூண்டுதல்களை நகர்த்துவதற்கான முடிவை லேசாக எடுத்துக்கொள்ளாதீர்கள்.
விருப்பம் B - பதிப்பு-கட்டுப்படுத்தப்பட்ட தளத்திலிருந்து ப்ராம்ட்களை ஏற்றவும்
உங்கள் சில ப்ராம்ட்களை பொறியாளர்கள் அல்லாதவர்களால் திருத்த வேண்டியிருந்தால் என்ன செய்வது? ஒரு பகுதியில் ஆழமான டொமைன் நிபுணத்துவம் தேவைப்பட்டால் இது நிகழலாம். அல்லது ஒரு ப்ராம்ட்டை அடிக்கடி மாற்றியமைக்க வேண்டியிருக்கும், மேலும் நீங்கள் பொறியியல் துறைக்காக காத்திருக்க முடியாது.
இந்த நிலையில், பதிப்பு கட்டுப்படுத்தப்பட்ட மூலத்திலிருந்து இயக்க நேரத்தில் நீங்கள் ப்ராம்ட்டை ஏற்ற வேண்டும். இந்த நோக்கத்திற்காக Confluence மற்றும் Google Docs வெற்றிகரமாகப் பயன்படுத்தப்படுவதை நான் கண்டிருக்கிறேன். பல பதிப்பு கட்டுப்படுத்தப்பட்ட, API அணுகக்கூடிய தளங்களும் கிடைக்கின்றன.
உடனடி ஏற்றுதல் தர்க்கத்தைத் திட்டமிடும்போது, இந்த ஒருங்கிணைப்பைச் சேர்ப்பதில் உள்ள முயற்சியின் அளவைக் குறைத்து மதிப்பிடாதீர்கள். உங்கள் பயன்பாட்டில் நம்பிக்கையைப் பெற, நீங்கள் பல்வேறு பிழை நிலைமைகள் மற்றும் சூழ்நிலைகளைக் கையாள வேண்டும். அணுகல் அனுமதிகளை உள்ளமைத்து பராமரிக்க வேண்டும், மேலும் பிழைகளை விரைவில் கண்டறிய தானியங்கி சோதனை மற்றும் கூடுதல் கண்காணிப்பு நீட்டிக்கப்பட வேண்டும்.
நீங்கள் திட்டமிட வேண்டிய சில சூழ்நிலைகள் இங்கே:
- இயக்க நேரத்தில் பயன்பாட்டால் ப்ராம்ட்களை ஏற்ற முடியவில்லை. நீங்கள் ப்ராம்ப்ட்டை நிறுத்துகிறீர்களா? ப்ராம்ட்டின் காப்புப் பிரதி பதிப்பிற்கு மாறவா?
- ஒரு மாற்றத்திற்குப் பிறகு உடனடி தொடரியல் செல்லாததாகி, பயன்படுத்த முடியாத தரவு கட்டமைப்புகளைத் தருகிறது. சோதனைச் செயல்பாட்டின் போது அறிவுறுத்தல்கள் ஏற்றப்படாததால், தானியங்கி சோதனைகள் சிக்கலைக் கண்டறியத் தவறிவிட்டன. இதைக் கண்டறிந்து வாடிக்கையாளர் தாக்கத்தைக் குறைக்க என்ன வகையான கூடுதல் சோதனை உள்கட்டமைப்பு மற்றும் கண்காணிப்பு சேர்க்கப்பட வேண்டும்?
- ப்ராம்ட்டை அவசரமாகத் திரும்பப் பெற வேண்டும். இதற்குப் புதிய குறியீடு பயன்படுத்தல் தேவையா? அல்லது ப்ராம்ட் பயன்படுத்தலுக்காக ஒரு தனி UI ஐ உருவாக்குகிறீர்களா?
- Confluence போன்ற தளங்களால் ஆவணத்தில் சேர்க்கப்படும் தொடரியல், இயக்க நேர தூண்டுதலில் ஊடுருவி, அதன் செயல்திறனை எதிர்மறையாக பாதிக்கும். Beautiful Soup போன்ற கருவிகளைப் பயன்படுத்தி குழப்பத்தை வடிகட்டுவதை உறுதிசெய்யவும்.
இந்தச் சிக்கல்கள் அனைத்தும் 100% தீர்க்கக்கூடியவை. ஆனால் கூகிள் ஆவணத்திலிருந்து ஒரு ப்ராம்ட்டை ஏற்றுவது என்பது பயன்பாட்டு கட்டமைப்பை ஆழமாகப் பாதிக்காத ஒரு அற்பமான செயல் என்று நினைக்கும் முறைக்குள் விழுவது எளிது. நான் மேலே காட்டியபடி, வெளிப்புற ப்ராம்ட்டை ஏற்றுவது என்பது அதிக நம்பகத்தன்மை கொண்ட பயன்பாடுகளுக்கு கவனமாக அணுக வேண்டிய ஒரு தீவிரமான வணிகமாகும்.
விருப்பம் C - பதிப்பு-கட்டுப்படுத்தப்படாத தளத்திலிருந்து அறிவிப்புகளை ஏற்றவும்.
இது ஒரு மோசமான யோசனை, நீங்கள் வருத்தப்படுவீர்கள். தூண்டுதல்களுக்கான உண்மையின் மூலமானது பதிப்பு-கட்டுப்படுத்தப்பட்டதாக இருக்க வேண்டும், சரியான API மற்றும் அணுகல் கட்டுப்பாடுகளைக் கொண்டிருக்க வேண்டும். இது மூலைகளை வெட்டுவதற்கான பகுதி அல்ல.
விருப்பம் D - கலப்பின அணுகுமுறை
கலப்பின அணுகுமுறை, சில தூண்டுதல்களை உங்கள் குறியீட்டுத் தளத்திற்குள் நேரடியாகச் சேமித்து, மற்றவற்றை வெளிப்புற, பதிப்பு-கட்டுப்படுத்தப்பட்ட மூலங்களிலிருந்து ஏற்றுவதை ஒருங்கிணைக்கிறது. அனைத்து தூண்டுதல்களுக்கும் ஒருங்கிணைந்த இடத்தைப் பராமரிப்பது பெரும்பாலும் எளிமையானது மற்றும் நம்பகமானது என்றாலும், ஒரு கலப்பின உத்தி நன்மைகளை வழங்கக்கூடிய சூழ்நிலைகள் உள்ளன.
இது போன்ற நிலைமைகளின் கீழ் ஒரு கலப்பின அணுகுமுறையை ஏற்றுக்கொள்வதைக் கருத்தில் கொள்ளுங்கள்:
- கலப்பு பயன்பாடு : சில குறிப்பிட்ட குறிப்புகளுக்கு குறியீட்டு முறை அல்லாத டொமைன் நிபுணர்களால் அடிக்கடி புதுப்பிப்புகள் தேவைப்படுகின்றன, இது வெளிப்புற ஏற்றுதலை நடைமுறைக்குக் கொண்டுவருகிறது, மற்றவை பொறியாளர்களால் மட்டுமே மாற்றப்படுகின்றன.
- இடர் மேலாண்மை : அதிகபட்ச நம்பகத்தன்மைக்காக முக்கியமான தூண்டுதல்கள் (எ.கா., பாதுகாப்புத் தண்டவாளங்கள்) பிரதான களஞ்சியத்தில் இருக்க வேண்டும். குறைவான முக்கியமான தூண்டுதல்கள், குறிப்பாக அடிக்கடி சரிசெய்தல்களுக்கு உட்படுபவர்கள், பாதுகாப்பாக வெளிப்புறமாக வாழ முடியும்.
- மதிப்பீட்டு நெகிழ்வுத்தன்மை : ML-பாணி மதிப்பீட்டிற்காக வடிவமைக்கப்பட்ட அறிவுறுத்தல்களை, மதிப்பீட்டு கட்டமைப்புடன் ஒருங்கிணைப்பதை எளிதாக்க வெளிப்புறமாக நிர்வகிக்கலாம்.
பாதுகாப்புத் தண்டவாளத் தூண்டுதல்கள்
பயனர்களைச் சென்றடைவதற்கு முன்பு பதில்களைத் திரையிடுவதற்கும், பொருத்தமான, பாதுகாப்பான மற்றும் இணக்கமான வெளியீடுகளை உறுதி செய்வதற்கும் கார்ட்ரெயில்கள் (சென்சார் ப்ராம்ட்கள் என்றும் அழைக்கப்படுகின்றன) நிபுணத்துவம் பெற்றவை. குறிப்பாக பயனர் தொடர்புகள் குறிப்பிடத்தக்க சட்ட அல்லது நெறிமுறை அபாயங்களைக் கொண்ட பயன்பாடுகளில், கார்ட்ரெயில்கள் ஒரு பாதுகாப்பு பொறிமுறையாகச் செயல்படுகின்றன. அவை இரண்டாவது வரிசை பாதுகாப்பை வழங்குகின்றன, பொருத்தமற்ற வெளியீடுகளைப் பிடிக்கின்றன.
வெளிப்புற ஆவணத்திலிருந்து guardrail prompts-களை ஏற்ற வேண்டாம் - இது குறிப்பிடத்தக்க தேவையற்ற ஆபத்தை சேர்க்கிறது. அவற்றை உங்கள் குறியீட்டுடன் Git-இல் வைத்திருங்கள் அல்லது Fiddle Guardrails போன்ற பிரத்யேக மூன்றாம் தரப்பு கருவியைப் பயன்படுத்தவும். Guardrail தர்க்கம் அடிக்கடி மாறாது, எனவே இந்த அணுகுமுறை உங்களை அவ்வளவு மெதுவாக்காது.
பாதுகாப்புத் தண்டவாளங்களைப் பயன்படுத்துவது அதன் சொந்தக் கொள்கையாகும், இது எதிர்கால இடுகையில் இன்னும் விரிவாக விவாதிக்கப்படும். இது உங்கள் பயன்பாட்டின் பாதுகாப்பை மேம்படுத்தும் மற்றும் இரவில் நீங்கள் நன்றாக தூங்க உதவும் ஒரு சிறந்த வடிவமாகும். அவற்றை Google டாக்ஸிலிருந்து ஏற்ற வேண்டாம்.
எளிதான மதிப்பீட்டிற்கான அறிவிப்புகளை ஏற்றுகிறது.
ML Flow போன்ற மதிப்பீட்டு இயந்திரங்களுடன் ஒருங்கிணைக்க, குழுக்கள் பெரும்பாலும் வெளிப்புறமாக ப்ராம்ட்களை ஏற்றுகின்றன. இந்த நடைமுறைக்குப் பின்னால் உள்ள அடிப்படை அனுமானம் என்னவென்றால், ப்ராம்ட்கள் ML மாதிரிகளைப் போலவே இருக்கும், மேலும் அவை தனித்தனி, புள்ளிவிவர மதிப்பீடு தேவை. நீங்கள் ஒரு ப்ராம்ட்டைச் செருகி, வெளியீட்டில் F1 மதிப்பெண்ணை (அல்லது நீங்கள் விரும்பும் எந்த அளவீட்டை) அளந்து மீண்டும் செய்யவும்.
இந்த அணுகுமுறை சில நேரங்களில் செல்லுபடியாகும் - எடுத்துக்காட்டாக, ML மாதிரிகளாக செயல்பட வடிவமைக்கப்பட்ட வகைப்பாடு தூண்டுதல்களில். ஆனால் பெரும்பாலான தூண்டுதல்கள் அடிப்படையில் வேறுபட்டவை: கொள்கை #1 இல் கோடிட்டுக் காட்டப்பட்டுள்ளன: LLM தூண்டுதல்கள் குறியீடு . வழக்கமான தூண்டுதல்கள் ML மாதிரிகளை விட பயன்பாட்டு தர்க்கத்திற்கு மிகவும் ஒத்தவை. அவை புள்ளிவிவர மதிப்பீட்டு அணுகுமுறையை விட, சுற்றியுள்ள குறியீட்டுடன் சேர்ந்து பாஸ்-ஃபெயில் வகை மதிப்பீட்டிற்கு மிகவும் பொருத்தமானவை.
வெளிப்புற மதிப்பீட்டு இயந்திரங்கள் பெரும்பாலான தூண்டுதல்களுக்கு உங்களுக்கு உதவாது. அதற்கு பதிலாக, பாரம்பரிய அலகு சோதனைகளைப் போலவே தானியங்கி AI-இயக்கப்படும் சோதனைகளைப் பயன்படுத்த வேண்டும். இவை அடுத்தடுத்த இடுகைகளின் மையமாக இருக்கும்.
பின்வரும் நடைமுறைகளைக் கவனியுங்கள்:
- இயந்திர கற்றல் மாதிரிகளை (எ.கா. வகைப்பாடு அல்லது மதிப்பெண் பணிகள்) வெளிப்படையாகப் பிரதிபலிக்கும் செயல்பாட்டைக் கொண்ட குறிப்புகள் மட்டுமே வெளிப்புறமாக மதிப்பீடு செய்யப்பட வேண்டும்.
- ML சரிபார்ப்பு நுட்பங்களை விட அலகு சோதனையைப் போன்ற பாரம்பரிய தானியங்கி சோதனை அணுகுமுறைகளைப் பயன்படுத்தி, பிரதான குறியீட்டுத் தளத்திற்குள் பெரும்பாலான வணிக தர்க்கத் தூண்டுதல்களைப் பராமரிக்கவும்.
- வெளிப்புற மதிப்பீடு தேவைப்படுகிற இடங்களில், முடிந்தால், அந்தத் தூண்டுதல்களை மட்டும் தனிமைப்படுத்தவும்.
வழக்கு ஆய்வு
ப்ராம்ட்களை ஏற்றுவதில் உள்ள மையப் பிரச்சினை கிடைக்கும் தன்மை - நீங்கள் எதிர்பார்க்கும் நேரத்தில் ப்ராம்ட் ஏற்றப்படவில்லை என்றால் நீங்கள் என்ன செய்ய வேண்டும்.
டெய்லர் ஸ்விஃப்ட் உதாரணத்தில் எங்களுக்கு இதுதான் நடந்தது. கன்ஃப்ளூயன்ஸ் நற்சான்றிதழ் சிக்கலின் விளைவாக ஏற்றப்பட்ட தொழில்நுட்ப ஆதரவு பயன்பாட்டிற்கான எந்த அறிவுறுத்தல்களும், கார்ட்ரெயில் ப்ராம்ட் உட்பட. இது எப்படியோ எந்த இயக்க நேரப் பிழைகளையும் தூண்டவில்லை, மேலும் பாட் எந்த வழிமுறைகள் அல்லது உள்ளீடு இல்லாமல் பதிலளிக்கத் தொடங்கியது (உள்ளீட்டு வடிவமைப்பு சரம் ப்ராம்ட்டின் ஒரு பகுதியாக இருந்ததால்). உள்ளீடு இல்லாத நிலையில் OpenAI இன் LLM எதனுடன் பேச விரும்புகிறது? மாறிவிடும் - குயின் எழுதிய 'ஐ வான்ட் டு பிரேக் ஃப்ரீ' பாடல் வரிகள் மற்றும் பல்வேறு டெய்லர் ஸ்விஃப்ட் பாடல்கள். அதிர்ஷ்டவசமாக, இது உடனடியாகப் பிடிக்கப்பட்டு சரிசெய்யப்பட்டது, மேலும் பயனர்கள் இசை விவாதத்தை ரசித்தனர் - குறைந்தபட்சம் அதைத்தான் நான் எனக்குள் சொல்லிக் கொள்கிறேன்.
இந்த சம்பவம் ஏன் நிகழ்ந்தது? இரண்டு தவறுகள் செய்யப்பட்டன:
- ப்ராம்ட்கள் வெற்றிகரமாக ஏற்றப்பட்டதா என்பதை சரிபார்க்க எந்த சோதனையும் செய்யப்படவில்லை. ப்ராம்ட்கள் ஏற்றப்படாமல் செயலி செயல்பட முடியாது என்பதால், ப்ராம்ட் ஏற்ற நேரத்தில் பிழை ஏற்பட்டிருக்க வேண்டும்.
- மற்ற தூண்டுதல்களுடன் கார்ட்ரெயில் தூண்டுதல் வெளிப்புறமாக ஏற்றப்பட்டது. அது இந்த வழியில் ஏற்றப்படக்கூடாத ஒரு தூண்டுதலாகும். இது கடைசி பாதுகாப்பு வரியாக Git இல் வைக்கப்பட்டிருக்க வேண்டும்.
சம்பவத்திற்குப் பிறகு, பாதுகாப்புத் தண்டவாள ப்ராம்ட் மீண்டும் Git-க்கு மாற்றப்பட்டது, மேலும் ஒரு ப்ராம்ட் ஏற்றப்படத் தவறினாலோ அல்லது செல்லாததாக இருந்தாலோ பயன்படுத்தப்படுவதைத் தடுக்க விதிவிலக்கு தர்க்கம் சேர்க்கப்பட்டது. இந்தப் பரிந்துரைகளை முன்கூட்டியே பின்பற்றுவதன் மூலம் நீங்கள் உங்களைப் பிரேத பரிசோதனையிலிருந்து காப்பாற்றிக் கொள்ளலாம்.
முடிவுரை
இந்தப் பதிவில், AI பயன்பாடுகளுக்குள் உடனடி சேமிப்பு மற்றும் ஏற்றுதல் தொடர்பான முக்கியக் கருத்தாய்வுகளை நான் ஆராய்ந்தேன். பதிப்பு-கட்டுப்படுத்தப்பட்ட களஞ்சியங்களில் உங்கள் குறியீட்டுடன் உங்கள் தூண்டுதல்களைச் சேமிப்பதே இயல்புநிலை நடைமுறையாகும். பொறியாளர்கள் அல்லாதவர்களால் அடிக்கடி திருத்துதல் அல்லது குறிப்பிட்ட மதிப்பீட்டுத் தேவைகள் போன்ற ஒரு கட்டாயக் காரணம் இருக்கும்போது மட்டுமே இதிலிருந்து விலக வேண்டும்.
வெளிப்புறமாக ப்ராம்ட்கள் ஏற்றப்பட வேண்டியிருக்கும் போது, நம்பகமான மற்றும் கண்டிப்பாக பதிப்பு-கட்டுப்படுத்தப்பட்ட மூலங்களைத் தேர்வுசெய்து, மீள்தன்மைக்கான சோதனை மற்றும் கண்காணிப்பைச் சேர்க்கவும். பயன்பாட்டுப் பாதுகாப்பில் அவற்றின் முக்கிய பங்கைக் கருத்தில் கொண்டு, கடுமையான நம்பகத்தன்மை அபாயங்களைத் தவிர்க்க, கார்ட்ரெயில் ப்ராம்ட்கள் உங்கள் குறியீட்டுத் தளத்தில் இருக்க வேண்டும்.
பெரும்பாலான தூண்டுதல்கள் ML மாதிரிகளை விட குறியீட்டிற்கு மிகவும் நெருக்கமானவை, எனவே உங்களுக்குத் தேவையான இடங்களில் மட்டுமே ML பாணி கருவிகளைப் பயன்படுத்தவும். ஒரு சிலவற்றிற்கான மதிப்பீட்டு கருவியுடன் ஒருங்கிணைப்பை எளிதாக்குவதற்காக உங்கள் எல்லா தூண்டுதல்களையும் வெளிப்புறமாக சேமிக்க வேண்டாம்.
இந்தப் பதிவு உங்களுக்குப் பிடித்திருந்தால், மேலும் நுண்ணறிவுகளுக்குத் தொடரைப் பின்தொடருங்கள்.
