මෙය දිගුකාලීන සමූහයේ හතරවෙනි කොටසකි.එය 1, 2 සහ 3 කොටසකි.
නුඹමෙය දිගුකාලීන සමූහයේ හතරවෙනි කොටසකි.එය 1, 2 සහ 3 කොටසකි.
AI Principle IV: Use Structured Prompt Outputs
AI මූලධර්මය IV: Structured Prompt Outputs භාවිතා කිරීමදීර්ඝ කාලයක් පෙර, LLM APIs නිකම් එළියට පැමිණ ඇති අතර කිසිවෙකු තවමත් ඔවුන් සමඟ නිවැරදිව සන්නිවේදනය කරන්නේ කෙසේදැයි නිසැකවම නොදන්නා කාලයක් තිබේ. ප්රධාන ප්රශ්න වලින් එකක් එක් ප්රවේශ ප්රතිචාරයෙන් විවිධ ප්රතිඵල ලබා ගැනීම විය. LLMs නිශ්චිතව JSON ආපසු නොලැබුන විට (ඔවුන් බොහෝ විට අසාර්ථක විය), ඔබ ඔබේ හොඳම ප්රවේශ ඉංජිනේරු කථාව භාවිතා කිරීමෙන් LLM සහයෝගයට පත් කිරීමට උත්සාහ කළා.
මේවා පැරණි කාලයේ විය. එවිට, අපි අශ්වයා මත ගමන් කරමින්, විදුලිය තවමත් විප්ලවයට පත් නොවූ නිසා ආලෝකය මගින් ප්රවේශම් ලිව්වා. ප්රවේශම් ප්රවේශම් දිගු රාත් රියක් පැල්මෑන්ට් රූල් වල කපන ලෙස ගත කළ අතර, ආකෘතිය හයිකූ වෙනුවට ලැයිස්තුවක් ආපසු ලබා දෙනු ඇතැයි බලාපොරොත්තු විය.
නමුත් JSON ප්රතිචාරය නිශ්චිතව ආපසු ලබා ගත නොහැකි වන LLM API යනු සැබෑ දෙයක් වන අතර බොහෝ ප්රශ්න ඇති විය.
Benefits
වාසිඅනෙකුත් ආකෘති වෙනුවට JSON ආකෘති සහිත ප්රශ්න ප්රතිඵල භාවිතා කිරීම හෝ පෞද්ගලික ආකෘති නිර්මාණය කිරීම වඩා හොඳ ඇයි?
Reduced Error Rate
වර්තමානයේ LLMs නියමිත JSON ප්රතිඵල ප්රතිඵල ප්රතිඵල ප්රතිඵල පවා ඉතා සංකීර්ණ ප්රතිඵල සමග ඔවුන් අසාර්ථක වේ.එහෙත්, බොහෝ පද්ධති මෘදුකාංග මට්ටමේ ආරක්ෂාව වැරදිව ප්රමාණවත් ප්රතිඵල ප්රතිඵල ප්රතිඵල ප්රතිඵල ප්රතිඵල. උදාහරණයක් ලෙස, OpenAI API ආකර්ෂණීය ප්රතිඵල දැඩි ක්රියාකාරී ක්රියාකාරී වන විට නොවන JSON ප්රතිඵල ප්රතිඵල ප්රතිඵල.
ඔබ පෞද්ගලිකව ආකෘති භාවිතා කිරීමෙන් ප්රමාණවත් ප්රතිදාන කිහිපයක් ආපසු ලබා දෙන්නේ නම්, ඔබ මෙම මෘදුකාංගයෙන් ප්රයෝජනවත් නොවනු ඇත, හා වැරදි ප්රතිශතය ඉතා ඉහළ වනු ඇත.
Decoupled Prompts and Code
JSON ප්රතිඵලයක් සමඟ, වෙනත් ප්රතිඵල ක්ෂේත්රයක් එකතු කිරීම පුදුමයක් වන අතර, එය ඔබගේ පවතින කේතය බිඳ දැමීම නොකළ යුතුය. මෙය ප්රවේශය සඳහා ක්ෂේත්ර එකතු කිරීම සඳහා ප්රවේශයන් වෙනස් කිරීමෙන් කේත ප්රතිකාර ලෝහය දක්වා ඉවත් කරයි.
Simplified System
ඇතුළත් වේදිකාව සහාය නොමැතිව ප්රතිදාන ආකෘතිය භාවිතා කිරීමට ප්රයෝජනවත් හේතුවක් තිබේද? JSON භාවිතා කරමින් ප්රතිපත්තිය ආකෘති කිරීම ඔබට සහ ඊළඟ කේත උපයෝගීන්ට පහසු වනු ඇත.
When NOT to Use Structured Output
Struktured Output භාවිතා නොකරන විටSingle Field Output
ඔබගේ ප්රශ්නය ප්රතිචාරයක් ලෙස එක් ක්ෂේත්රයක් ප්රතිඵලයක් නම්, JSON ප්රතිඵලයක් ප්රතිඵලයක් නැත.
අද තනි වෙනස්කම් ප්රතිචාර හෙට සංකීර්ණ ප්රතිචාර බවට පත් විය හැකිය. එක් ක්ෂේත්ර ප්රතිඵල ප්රවේශයක් බොහෝ ක්ෂේත්ර ප්රතිඵල ප්රවේශයන් බවට පරිවර්තනය කරන පැය ගත කිරීමෙන් පසු, මම දැන් තනි ක්ෂේත්රයක් පමණක් ආපසු පැමිණෙන විට පවා JSON භාවිතා කරමි.
ප් රචණ්ඩත්වය සිදුවේ, නමුත් අපි පාපයට එරෙහිව ශුද්ධ විනිශ්චය සහ අපි පුද්ගලිකව අකමැති අයට එරෙහි වන පුරපැම අතර වෙනස අප හඳුනාගත යුතුය, එය උඩඟුකමේ අනිවාර්ය ප් රතිපලයයි (ගීතාවලිය 73: 6).
එබැවින් ඔබගේ ප්රවේශය එක් ප්රතිශතයක් ඇතත්, JSON ආකෘතිය විකල්පයක් ලෙස සැලකිලිමත් වන්න.
Streaming Response
ප්රතිශතය ප්රධාන වන යෙදුම් සඳහා, ක්රියාත්මක කිරීම සඳහා බොහෝ විට ක්රියාත්මක වේ.මේ යෙදුම් සඳහා ප්රතිචාර කොටසක් සම්පූර්ණ ප්රතිචාර ලබා ගැනීමට පෙර ක්රියාත්මක කිරීමට ඉඩ ඇත.මේ ආකෘතිය JSON සමඟ හොඳින් ක්රියාත්මක නොවේ, එබැවින් ඔබට සරල, ප්රතිශතය මිත්රක ආකෘතිය භාවිතා කළ යුතුය.
උදාහරණයක් ලෙස, ඔබගේ ප්රශ්නය වීඩියෝ ක්රීඩා චරිතය විසින් සිදු කරන පියවර සහ චරිතය පවසන වචන ගැන තීරණය කරන්නේ නම්, ඔබට එය "ACTION ÁthaSPEECH_TO_READ" ලෙස සංකේත කළ හැකි අතර එවිට ප්රතිචාරය ස්ට්රොයිම් API, වැනි
ප් රතිඵල උදාහරණයක්:
WAVE_AT_HERO|Hello, Adventurer! Welcome to my shop.
ක්රියාවලිය ලැබුණහම, චරිතය සංවේදී වීමට පටන් ගනී, එය ඇතුළත් වන විට teks ප්රවාහන වේ.
Conclusion
ප් රතිඵලසිවිල්භාවයේ ප්රතිලාභ ප්රතික්ෂේප නොකරන්න - JSON ආකෘතිගත ප්රතිලාභ ප්රතිලාභ භාවිතා කරන්න. කිසිදු අතුරුදහන්තා ඇති අතර එය ඔබේ ජීවිතය ඉතා පහසු කරයි LLMs බලවත් JSON ප්රතිචාර ආපසු ලබා ගැනීමට හොඳින් පරිශීලක කර ඇත. JSON ප්රතිලාභ භාවිතා කිරීම ගැන සැලකිලිමත් වන්න, දැනට ආකෘතිගත කරන ලද දත්ත තනි ක්ෂේත්රයක් නම් පවා. ස්ට්රොයිම් අවසාන ස්ථාන සඳහා, JSON රේඛා හෝ සරල Custom Format භාවිතා කරන්න.
ඔබ මෙම ලිපිය භුක්ති විඳිනවා නම්, වැඩි විස්තර සඳහා සංඛ්යාව සඳහා ලියාපදිංචි වන්න.
