智能科学与技术学报 ›› 2024, Vol. 6 ›› Issue (2): 115-133.doi: 10.11959/j.issn.2096-6652.202424

• 综述与展望 • 上一篇    

生成式AI的大模型提示工程:方法、现状与展望

黄峻1,2, 林飞1, 杨静3,4,5, 王兴霞3,4,5, 倪清桦1,2, 王雨桐3,4, 田永林3,4, 李娟娟3,4, 王飞跃1,3,5()   

  1. 1.澳门科技大学创新工程学院工程科学系,澳门 999078
    2.青岛智能产业技术研究院,山东 青岛 266109
    3.中国科学院自动化研究所复杂系统管理与控制国家重点实验室,北京 100190
    4.中国科学院自动化研究所多模态人工智能系统全国重点实验室,北京 100190
    5.中国科学院大学人工智能学院,北京 100049
  • 收稿日期:2024-04-07 修回日期:2024-05-26 出版日期:2024-06-15 发布日期:2024-07-31
  • 通讯作者: 王飞跃 E-mail:feiyue.wang@ia.ac.cn
  • 作者简介:黄峻(1998- ),男,澳门科技大学博士生,主要研究方向为平行智能、自动驾驶轨迹预测规划、提示工程、大语言模型等。
    林飞(1994- ),男,澳门科技大学博士生,主要研究方向为平行系统、人工智能药物研发、大语言模型、多模态感知、生成式人工智能。
    杨静(1998- ),女,中国科学院自动化研究所多模态人工智能系统全国重点实验室博士生,主要研究方向为众包、平行制造、社会制造、人工智能和社会物理信息系统。
    王兴霞(1996- ),女,中国科学院自动化研究所多模态人工智能系统全国重点实验室博士生,主要研究方向为平行智能、平行油田、故障诊断等。
    倪清桦(1999- ),女,澳门科技大学博士生,主要研究方向为平行智能、区块链、数字孪生、智能系统等。
    王雨桐(1994- ),女,中国科学院自动化研究所复杂系统管理与控制国家重点实验室助理研究员,主要研究方向为计算机视觉、图像异常检测。
    田永林(1994- ),男,中国科学院自动化研究所博士后,主要研究方向为平行系统、自动驾驶、场景工程。
    李娟娟(1986- ),女,博士,中国科学院自动化研究所多模态人工智能系统全国重点实验室副研究员,主要研究方向为区块链智能、Web3.0与平行管理。
    王飞跃(1961- ),男,博士,中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任,澳门科技大学特聘教授,主要研究方向为平行系统的方法与应用、社会计算、平行智能、知识自动化。
  • 基金资助:
    澳门特别行政区科学技术发展基金项目(0145/2023/RIA3);北京市自然科学基金-怀柔创新联合基金项目(L245025)

From prompt engineering to generative artificial intelligence for large models: the state of the art and perspective

Jun HUANG1,2, Fei LIN1, Jing YANG3,4,5, Xingxia WANG3,4,5, Qinghua NI1,2, Yutong WANG3,4, Yonglin TIAN3,4, Juanjuan LI3,4, Fei-Yue WANG1,3,5()   

  1. 1.Department of Engineering Science, Faculty of Innovation Engineering, Macau University of Science and Technology, Macao, 999078, China
    2.Qingdao Academy of Intelligent Industries, Qingdao 266109, China
    3.State Key Laboratory for Management and Control of Complex Systems, Institute of Automation, Chinese Academy of Sciences, Beijing 100190, China
    4.State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation, Chinese Academy of Sciences, Beijing 100190, China
    5.School of Artificial Intelligence, University of Chinese Academy of Sciences, Beijing 100049, China
  • Received:2024-04-07 Revised:2024-05-26 Online:2024-06-15 Published:2024-07-31
  • Contact: Fei-Yue WANG E-mail:feiyue.wang@ia.ac.cn
  • Supported by:
    The Science and Technology Development Fund of Macao Special Administrative Region(0145/2023/RIA3);Beijing Natural Science Foundation Huairou Innovation Joint Fund Project(L245025)

摘要:

大语言模型和视觉语言模型在各领域的应用中展示出巨大潜力,成为研究热点。然而,幻觉、知识迁移、与人类意图对齐等问题仍然影响着大模型的性能。首先,探讨了提示工程与对齐技术基本原理,提出基于提示优化、专家反馈机制及实时调整机制的引导概念,提升了大语言模型在跨领域应用中的性能;其次,深入分析提示工程的核心技术,如多步推理处理复杂任务的原理;然后,针对各领域的实际应用,讨论提示工程的发展现状;最后,总结提示工程面临的挑战并展望其未来发展方向。提示工程在理论与应用方面的发展,为提升大模型在实际应用中的性能提供了全面的解决方案。

关键词: 提示工程, 对齐技术, 生成式AI, 大语言模型, 视觉语言模型

Abstract:

Large language models and vision-language models have demonstrated significant potential in various downstream applications, making it become a research hotspot. However, the issues such as hallucinations and knowledge transfer impact the performance of these models. Firstly, this paper explores the fundamental principles of prompt engineering and alignment techniques, and proposes the concept of "prescriptive", which is based on optimizing prompts and expert feedback verification and can be adjusted in real-time. This aims to further enhance the performance of large language models in cross-domain applications. Secondly, the core technologies of prompt engineering, such as the principles of multi-step reasoning for handling complex tasks, are analyzed in depth. Additionally, the development status of prompt engineering is discussed based on practical applications in various fields. Finally, this paper summarizes the challenges faced by prompt engineering and looks into its future development directions. The development of prompt engineering in theory and application, provide comprehensive solutions for improving the performance of large models in practical applications.

Key words: prompt engineering, alignment technology, generative artificial intelligence, large language models, vision-language models

中图分类号: 

No Suggested Reading articles found!