OpenAI ukax jichhakiw mä ch’aman luraw uñt’ayi, ukax Predicted Outputs satawa , ukax amukiw uñstawayi jan medios técnicos ukanakat jan sinti uñjata —mä uñjañaw chiqañchañax wakisi. Nayax uñjtwa jupanakax X ukan uka tuqit arsupxi cuenta desarrolladora ukan , ukampis janiw sinti publicidad ukar puriwaykiti. Nayax ukaruw uñt’ayañ amtawayta kunatix chiqpachans mä suma ukat wali askiwa.
Salidas Predecidas ukax modelo ukan jaysawinakapatakix latencia ukax wali jisk’achatawa, juk’ampirus kunapachatix walja mistuwinakax nayratpach uñt’atäki ukhaxa. Aka lurawix juk’amp askiwa aplicaciones ukanakataki, ukax qillqat qillqatanaka jan ukax código archivonakar jisk’a mayjt’äwinakamp wasitat uñstayañatakiw.
Predicted Outputs ukax lurayirinakarux Chat Completions ukan API jaysawinak jank’ak puriyañapatakiw jayti, kunawsatix suyt’at mistuwix jilpach yatiyatäki ukhaxa. Mä yatiyaw suyt’at jaysawi churasaxa parámetro prediction
ukampi Chat Completions ukanxa, modelo ukaxa wakisiri mistuwi juk’ampi suma uñstayaspa. Aka lurawix jichhax qhipa gpt-4o ukat gpt-4o-mini modelos ukanakampiw utji.
Kunawsatix mä jaysäwix utjki kawkhantix jilpach contenido ukax nayratpach uñt’atäki ukhax uka suyt’at contenido ukax modelo ukar mä predicción ukhamaw suministraspa. Ukatx modelo ukax uka yatiyaw apnaqi, jank’ak generación de respuesta, latencia ukar jisk’achañataki ukhamarak rendimiento ukar juk’amp askinchañataki.
Amuyt’añäni, mä JSON configuración archivo ukax mä jisk’a machaqar tukuyañaw wakisi. Akax mä uñacht’äwiwa ukham archivo tuqita:
{ "appName": "MyApp", "version": "1.0.0", "settings": { "enableFeatureX": false, "maxUsers": 100 } }
"enableFeatureX"
ukax true
sañ muni . Taqi qillqat zero ukhat lurañat sipansa, nayrïr qillqatx mä yatiyawjamaw churasma ukatx modelo ukarux wakiskir mayjt’äwinak lurañapatakiw yatichasma.
import OpenAI from "openai"; const config = ` { "appName": "MyApp", "version": "1.0.0", "settings": { "enableFeatureX": false, "maxUsers": 100 } } `.trim(); const openai = new OpenAI(); const updatePrompt = ` Change "enableFeatureX" to true in the following JSON configuration. Respond only with the updated JSON, without any additional text. `; const completion = await openai.chat.completions.create({ model: "gpt-4o", messages: [ { role: "user", content: updatePrompt }, { role: "user", content: config } ], prediction: { type: "content", content: config } }); // Output the updated configuration console.log(completion.choices[0].message.content);
Aka uñacht’awina, modelo ukax jank’akiw archivo de configuración actualizada ukax lurasi, aprovechando la predicción ukhamat jaysañ pachax juk’amp jisk’achañataki.
Aplicaciones ukatakix streaming jaysawinak munapxi, Salidas Predicidas ukax juk’amp jach’a latencia jisk’achawinak uñacht’ayi. Akax kunjams nayrïr uñacht’äwix streaming apnaqañamp phuqhasispa:
import OpenAI from "openai"; const config = `...`; // Original JSON configuration const openai = new OpenAI(); const updatePrompt = `...`; // Prompt as before const completion = await openai.chat.completions.create({ model: "gpt-4o", messages: [ /* ... */ ], prediction: { type: "content", content: config }, stream: true }); for await (const chunk of completion) { process.stdout.write(chunk.choices[0]?.delta?.content || ""); }
Aka qillqt’aña pachanx janiw kuna alternativas uka solución ukarux competidores ukanakat utjkiti. OpenAI ukax Predicted Outputs ukax mä sapa uñacht’äwiw uñsti, ukax latencia ukar jisk’achañatakix específico necesidad ukaruw uñji, kunawsatix uñt’at contenido ukar jisk’a mayjt’äwinakamp wasitat uñstayaski ukhaxa.
Ukax wali sumawa, apnaqañ qalltañatakix niyas janiw kunas wakiskiti. Ukhamakiwa apsuña ukatxa apnaqaña mä machaq parámetro ukampi API mayiwiru. Ukax lurayirinakatakix wali jasakiw aka lurawix utjki uka apnaqawinakapan phuqhañataki.
Salidas Predicidas ukax jach’a ventajas ukanakaw utji, ukampirus wali wakiskir amuyunakax utjiwa:
rejected_prediction_tokens
ukax apnaqañ yatiyawinx qullqinak apnaqañataki.n
(1 ukjat jila valores) .logprobs
presence_penalty
(0 ukjat jila valores) .frequency_penalty
(0 ukjat jila valores) .max_completion_tokens
tools
(función jawsañax janiw yanapt’atäkiti) .
OpenAI ukax Predicted Outputs ukax mä uraqpachan lurawiwa, ukax mä común jan walt’awiruw AI ukan apnaqawipanx askichi: latencia ukar jisk’achaña kunawsatix jaysawix jilpach yatiyatäki ukhaxa. Desarrolladores ukanakar suyt’at mistuwinak churañapatak jaysasa, ukax jaysañ pachanak jank’ak puriyi ukatx apnaqirinakan experienciap jach’anchayi.
Nayan amuyujax OpenAI ukan modelonakapax janiw Anthropic ukan modelonakapjam ch’amanïkiti. Ukampirus OpenAI ukax walja thaya ukat chiqpachan wakiskir solucionanak yaqha chiqanakan luraraki. Predicted Outputs ukham lurawinakax OpenAI ukarux yaqha AI ukankirinakat sipan mayjawa, ukax jan uñt’at solucionanak uñacht’ayi, ukax desarrolladores ukan comunidadan específicos munañanakaparuw phuqhi.