paint-brush
解释快速工程经过@docligot
2,932 讀數
2,932 讀數

解释快速工程

经过 Dominic Ligot5m2024/11/14
Read on Terminal Reader
Read this story w/o Javascript

太長; 讀書

速效工程究竟如何以及为何起作用。

Companies Mentioned

Mention Thumbnail
Mention Thumbnail
featured image - 解释快速工程
Dominic Ligot HackerNoon profile picture
0-item
1-item

随着人工智能的不断发展,快速工程的艺术正成为有效利用人工智能潜力的一项关键技能。然而,尽管快速工程非常重要,但它往往被简化为简单的建议——诸如“具体化”之类的提示或诸如“让我们一步一步思考”之类的快速技巧。


虽然这些提示对初学者很有帮助,但它们只是触及了皮毛。真正的提示工程需要对人工智能响应背后的机制有更深入的了解,远远超出通常只是零次谷歌搜索的范围。在这里,我们将通过一些基本原则来解释为什么好的提示实际上是有效的。


嵌入:快速理解的基础

有效提示的基本概念之一是理解嵌入。当我们将提示输入模型时,它不会像我们一样处理语言;相反,每个单词或短语都会转换为嵌入, 即一种数字表示,可以捕捉语言的含义和上下文。这些嵌入充当模型的内部映射,帮助模型解释单词之间的关系、细微差别和关联。


来源:Tensorflow Embedding Projector


对于提示工程师来说,理解嵌入对于提示直觉至关重要。单词在嵌入空间中的表示方式决定了模型如何解释它,从而影响响应的内容和重点。例如,如果提示请求有关“制造”的信息,则模型将根据与这些术语相关的嵌入来提取内容,可能从生产流程、供应链物流或技术进步等领域提取内容。提示工程师可以通过巧妙地措辞来影响这些响应,从而提高输出的相关性和深度。


理解嵌入还可以让提示工程师更好地链接提示,其中每个响应都建立在之前的交互之上。通过在设计序列时考虑嵌入关系,提示工程师可以创建复杂的、上下文感知的对话,以适应特定需求,从而产生详细的、响应迅速的输出。


注意力的作用:引导模型焦点

提示工程的另一个核心组件是注意力。与可以在不同主题之间动态切换的人类注意力不同,人工智能注意力会为提示和响应文本中的单词之间的关系分配权重。注意力可帮助模型优先考虑输入的某些部分,而精心设计的提示会利用这一点来塑造模型的焦点。例如,一个提示要求对一只坐在垫子上的猫进行细致入微的观察。


来源:Bertviz 交互式教程


提示工程师可以引导模型强调提示主题的相关方面,例如猫的姿势、垫子的质地和颜色,或整个场景的氛围,从而做出更详细和生动的回应。这种提示方法被称为定向刺激,可以从模型中提取更丰富、更相关的答案。

RAG:增强响应的检索增强生成

检索增强生成 (RAG) 将生成式 AI 与检索系统相结合,以提高响应的准确性和相关性。传统的提示工程依赖于模型的内部知识,而这些知识可能已经过时或不完整。RAG 通过添加检索层来解决这个问题,该检索层从数据库或搜索引擎等外部来源提取当前、上下文相关的信息,使模型能够提供更准确、最新的答案。


典型的 RAG 工艺


RAG 是提示工程的变革性技术。它允许工程师构建提示,引导检索和生成组件协同工作,这对于复杂或快速发展的主题尤其有用。例如,关于“数据隐私法的近期变化”的提示可以触发模型获取最新的法律文件或新闻,然后通过 RAG 将其与内部信息相结合,合成连贯的响应。这种双重功能可以减少幻觉并使模型以实时、可靠的信息为基础。


因此,在 RAG 框架内工作的及时工程师可以创建既创新又基于当前知识的交互,为 AI 的输出增加额外的复杂性。

图像提示和传播过程

在图像生成中,提示工程又增加了一层复杂性。在这里,提示不仅仅是文字,而是引导模型完成扩散过程——这是一种将随机噪声迭代转换为连贯图像的技术。扩散过程依赖于迭代调整,每个循环都建立在前一个循环的基础上,根据提示的指导来完善图像。


来源:Midjourney - cat <prompt>



在设计图像生成提示时,了解扩散至关重要。诸如“获奖摄影”或“时尚摄影”之类的描述可能会产生不同的结果,具体取决于模型如何解释“获奖”或“时尚”。提示工程师必须了解模型对空间关系、颜色和构图的解释,才能产生理想的结果。这不仅仅是美学问题;而是引导模型完成每个步骤,以与预期的视觉概念保持一致。


幻觉和不良提示的陷阱

人工智能提示最具挑战性的方面之一是管理幻觉——当模型产生听起来合理但完全是虚构的内容时。幻觉通常由模糊或结构不良的提示引起,这给模型留下了太多的解释空间。在医疗保健或金融等领域,准确性至关重要,即使是轻微的幻觉也可能造成严重后果。


熟练的提示工程师通过构建最小化歧义的提示、用事实核查提示来验证输出以及保持严格的清晰度和重点来防止这种情况。


为什么快速工程是一项真正的技能

归根结底,提示工程是一项真正的技能,它将语言直觉与对 AI 机制的深入技术理解相结合。与简单的搜索查询不同,具备嵌入、注意力机制和模型限制知识的提示工程师能够制作出更好的提示。掌握这些元素使提示工程师能够形成精确、可靠且通常具有惊人创意的响应。


随着人工智能技术不断融入教育、娱乐等行业,对熟练的即时工程师的需求只会越来越大。他们不仅对于生成内容至关重要,而且对于改进人工智能应用程序、排除输出故障和优化各个领域的模型性能也至关重要。即时工程远非一时兴起,而是正在成为人工智能时代的决定性技能之一——建立人机之间沟通的重要工具。



关于我:25 年 IT 经验,集数据、AI、风险管理、战略和教育于一体。4 次全球黑客马拉松冠军,数据倡导者的社会影响力。目前致力于启动菲律宾的 AI 劳动力。在此处详细了解我。