የ LLM ጋር ምርጥ ውጤቶች ለማግኘት, JSON Prompt Outputs ይጠቀሙ

ይህ ተከታታይ አራት ክፍሎች ነው. በ 1, 2 እና 3 ክፍሎች ይመልከቱ.

1 መግቢያ1 መግቢያ2 ን2 ን3 ን3 ን

AI Principle IV: Use Structured Prompt Outputs

የ AI Principle IV: Structured Prompt Outputs ይጠቀሙ

አንድ ጊዜ, ብዙ ጊዜ, ብዙ ጊዜ በፊት, LLM APIs ብቻ ነበሩ, እና ምንም ሰው ደግሞ በእርግጥ ከእነርሱ ጋር እንዴት እንደሚገናኙ እንዴት እንደሚታወቁ ነበር. ከፍተኛ ችግሮች መካከል አንዱ አንድ አንድ ቀጥተኛ መልስ ከ ብዙ ውፅዓት ማውረድ ነበር. የ LLMs በተመሳሳይ ጊዜ JSON (እነዚህም ብዙ ጊዜ ተለዋዋዋዋጭ ነበር) አይደለም ጊዜ, የእርስዎን ምርጥ ቀጥተኛ ኢንጂነሪንግ ቅርጸት በመጠቀም የ LLM ለመገናኘት ይሞክሩ.

በዚህ ጊዜ, የእኛን ሞዴሎች በባቡር ላይ ይመዝገቡ እና በባቡር ብርሃን በባቡር ብርሃን በባቡር ብርሃን በባቡር ብርሃን በባቡር ብርሃን በባቡር ብርሃን በባቡር ብርሃን በባቡር ብርሃን በባቡር ብርሃን በባቡር ብርሃን በባቡር ብርሃን በባቡር ብርሃን ብርሃን በባቡር ብርሃን በባቡር ብርሃን በባቡር ብርሃን ብርሃን በባቡር ብርሃን ብርሃን ብርሃን በባቡር ብርሃን ብርሃን ብርሃን በባቡር ብርሃን ብርሃን ብርሃን ብርሃን በባቡር ብርሃን ብርሃን ብርሃን በባቡር ብርሃን ብርሃን ብርሃን

ነገር ግን አንድ JSON መልስ በተመሳሳይ ጊዜ መውሰድ አይችልም የ LLM APIs አንድ እውነተኛ ነገር ነበር እና ብዙ ችግሮች ተጽዕኖ ነበር.የተመሠረተ ውፅዓትበ 2024 ውስጥ, OpenAI ደግሞ በ JSON መልዕክትን ሙሉ በሙሉ ያረጋግጣል. ተመሳሳይ መተግበሪያዎች ደግሞ በ JSON መልዕክትን ያካትታል.የቴክኖሎጂእናየ Googleለስላሳ ውፅዓት ለስላሳ ውፅዓት ጊዜ ተለዋዋጭ ነው, እና እኛም ምንም ጊዜ ተመልከት አይችሉም.

የተመሠረተ ውፅዓትየቴክኖሎጂየ Google

Benefits

አጠቃቀም

የ JSON-Structured Prompt Outputs ከሌሎች ቅርጸቶች ወይም ብጁ ቅርጸት ለመፍጠር እንዴት ይጠቀማል?

Reduced Error Rate

የቅርብ ጊዜ የ LLMs በእርግጠኝነት ተስማሚ JSON ውፅዓት ለመፍጠር የተመሠረተ ናቸው—እነርሱም በጣም ተስማሚ መልስ በዚያም ተስማሚ ሊሆን አይችልም. በተጨማሪም, ብዙ የፕሮፕላስቲኮች በሶፍትዌር ደረጃ ውፅዓት መከላከያ አላቸው. ለምሳሌ, የ OpenAI API በ strukturated output strict mode ውስጥ ጊዜ የ non-JSON ውፅዓት ተስማሚ ነው.

አንድ ብጁ ቅርጸት ይጠቀሙ ከሆነ በርካታ ውፅዓት ተለዋዋዋጭዎችን ለመርዳት, ይህ የተመሠረተ መተግበሪያዎን ይጠቀማል, እና ፍለጋ ደረጃ በጣም ከፍተኛ ይሆናል.

Decoupled Prompts and Code

አንድ JSON ውፅዓት ጋር, አንድ ሌላ ውፅዓት መስኮት ያካትታሉ, እና ይህን ማድረግ የክፍያ ኮድዎን መቁረጥ አይችልም. ይህ የክፍያ መተግበሪያ መጋቢት ላይ የጎማዎች ያካትታሉ. Decoupling ጊዜ እና ፍላጎት ማከማቻ ይችላሉ, በተለይ በጎማዎች ከ Git ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊ ውስጣዊዘፍጥረት II: LLM ደህንነቱ የተጠበቀ ይጫወታል (እርስዎ በእርግጥ አለብዎት ከሆነ)ያግኙ

ዘፍጥረት II: LLM ደህንነቱ የተጠበቀ ይጫወታል (እርስዎ በእርግጥ አለብዎት ከሆነ)

Simplified System

የፕላስቲክ ድጋፍ አጠቃቀም ያለ አንድ ውፅዓት ቅርጸት መጠቀም የሚፈልጉት አስፈላጊ ምክንያት ነው? እርስዎ እና ቀጣይ ኮድ ተስማሚዎች በ JSON በመጠቀም መልዕክቶችን ቅርጸት ለመፍጠር ቀላል ይሆናል. እርስዎ ሊሆን አይችልም ከሆነ ሩሌት መተግበሪያ ይቀየዳል.

When NOT to Use Structured Output

የ struktured output መጠቀም አይችልም ጊዜ

Single Field Output

እርስዎ ትዕዛዞች እንደ መልስ አንድ አጠቃቀም ገጽ ማውረድ ከሆነ, አንድ JSON ማውረድ ምንም ፍላጎቶች አሉ. ወይም አሉ?

ዛሬ አንድ ተለዋዋጭ መልዕክቶች ከባድ መልዕክቶች ሊሆን ይችላል. አንድ የፋይበር ውፅዓት ትዕዛዞችን ብዙ የፋይበር ውፅዓት ትዕዛዞች ውስጥ ለመቀየር ሰዓታት በመጠቀም በኋላ, እኔም ብቻ አንድ የፋይበር ተንቀሳቃሽ ጊዜ ቢሆንም አሁን ከባድ ውፅዓት ትዕዛዞች በርካታ ይጠቀማል. ይህ ከባድ ከባድ ከባድ ከባድ ከባድ ከባድ ከባድ ከባድ ከባድ ያካትታል.

የፕሮግራም ልውውጥ አጠቃቀም አጠቃቀም አጠቃቀም አጠቃቀም አጠቃቀም አጠቃቀም አጠቃቀም አጠቃቀም አጠቃቀም አጠቃቀም አጠቃቀም (1 መግቢያ). ይህ ደግሞ ሞዴልው ያለውን መፍትሔዎች ለማሳየት አንድ ትዕዛዞች ሊሆን ይችላል. መልስ ከጀመር ከ JSON ሊሆን ይችላል, እንደዚህ ገጽ ለማሳየት ይበልጥ ቀላል ነው.

1 መግቢያ

ስለዚህ, እርስዎ ትዕዛዞች ብቻ አንድ ውፅዓት ተለዋዋዋጭ አለው ከሆነ, አንድ አማራጭ እንደ JSON ቅርጸት ይመልከቱ.

Streaming Response

ለተግበሪያዎች, በይፋነት አስፈላጊ ነው, የመስመር ላይ LLM መጨረሻ ገጽዎች በአብዛኛው ጊዜ ጥቅም ላይ ይጠቀማሉ. እነዚህ መልስ ክፍሎች ሙሉ መልስ ለማግኘት በፊት ይሰራሉ. ይህ ሞዴል JSON ጋር ጥሩ አይደለም, ስለዚህ በቀላሉ ቀላል, የመስመር ላይ ተስማሚ ቅርጸት ይጠቀማሉ.

ለምሳሌ, የእርስዎን ትዕዛዞች የቪዲዮ ጨዋታ ምልክት እና የኮምፒውተር ምልክት የሚከተሉትን ጥያቄዎችን ያውቃል ከሆነ, እርስዎ "ACTION ÁthaSPEECH_TO_READ" እንደ መክተቻ ይችላሉ እና ከዚያም መልስ በ streaming API, ለምሳሌ:የ OpenAI ስሪሚንግ APIይህ በጣም የተሻለ የላቁነት ይሰጣል.

የ OpenAI ስሪሚንግ API

ምሳሌ ምርት:

አግኙንጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛአግኙን

ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ ጓደኛ

WAVE_AT_HERO|Hello, Adventurer! Welcome to my shop.

መተግበሪያው መውሰድ በኋላ, የጽሑፍ መውሰድ ይጀምራል, እና የጽሑፍ መውሰድ ይጀምራል.

JSON መስመርእና ሌሎች stream-friendly ቅርጸቶች ደግሞ ውጤታማ ሊጠቀሙ ይችላሉ.

JSON መስመር

Conclusion

መጨረሻው

በ JSON-structured prompt outputs ይጠቀሙ. በ JSON-structured prompt outputs ይጠቀሙ. በ JSON-structured prompt outputs ይጠቀሙ. በ JSON-structured prompt outputs ይጠቀሙ. በ JSON-structured prompt outputs ይጠቀሙ. በ JSON-structured prompt outputs ይጠቀሙ.

አንተ ይህን ልጥፍ ይደሰቱ ከሆነ, ተጨማሪ ለማግኘት ተከታታይ ያግኙ.