大模型“在線求鼓勵”大模型的“涌現(xiàn)能力”o語言模型參數(shù)達到一定規(guī)模時，某些能力表現(xiàn)（語言推理）會突然大幅提升o定義：在小模型中未觀察到但在大模型中體現(xiàn)出來的能力4提示學習（Prompting）零樣本提示5思維鏈推理（Chain-of-Thought）o思維鏈推理：模擬人類的思考過程，將多步驟推理問題分解成一系列中間步驟，進而實現(xiàn)問題分解和逐步求解l分配給更多的計算量，生成更長的上下文，實現(xiàn)復雜問題的精細求解l提升了模型推理的可解釋性、可控性、靈活性，有效發(fā)揮了大模型在規(guī)劃、決策、推理等方面的潛力l2022年經(jīng)Google正式提出后，發(fā)展成為大模型最具代表性的技術(shù)之一6思維鏈推理技術(shù)（Chain-of-Thought）o思維鏈推理：引導模型生成中間思維步驟，進而推導答案7思維鏈推理技術(shù)（Chain-of-Thought）大模型最具代表性的“涌現(xiàn)能力”常規(guī)提示常規(guī)提示思維鏈提示以往最強微調(diào)模型8思維鏈推理技術(shù)（Chain-of-Thought）l零樣本思維鏈：在問題后添加特殊提示引導模型逐步推理9思維鏈推理技術(shù)（Chain-of-Thought）l零樣本思維鏈：在問題后添加特殊提示引導模型逐步推理上下?學習/推理練習1:零樣本推理練習2:少樣本推理練習3:PoT少樣本編程（TMLR）/wenhuchen/Program-of-Though觀察&思考），高階:Auto-CoT自動思維鏈（ICLR2023）oAuto-CoT：自動思維鏈提示學習l引導大模型自主編寫與任務(wù)有關(guān)的推理范例，克服對人類標注提示范例的依賴性l有效推動思維鏈技術(shù)的規(guī)?；?、實用化/amazon-science/auto-cot高階:Sum-CoT摘要思維鏈（ACL2023）o“讓我們一步一步思考，來提煉復雜摘要”o在SumCoT技術(shù)的加持下，GPT-3.5僅通過零樣本學習，遠超精調(diào)后的BART、T5等常用模型/Alsace08/Sum高階:Critic結(jié)合工具使用（ICLR2024）l規(guī)劃&求解：對問題求解過程進行規(guī)劃，結(jié)合Gou,Zhibin,etal."Critic:Largelanguagemodelscanself-correctwithtool-interactivecritiquing."arXivpreprintarXiv:2305.11738(2023).高階:ReAct機器人操控（ICLR2023）ObstReasoningActtObst+1Actt+1Youarecookingadishandseeingsaltisout…“The“Thedishshouldbesavory,andsincesaltisout,Ishouldfindthesoysauceinstead.Itisinthecabinettomyright…”TurnrightYouseeacabinetandatable…Opencabinet“VerbalReasoning”asAugmentedActionSpace!https://react-lm.github.i/p/659102小結(jié)通過Prompting我們可以：o1.獲得可解釋的過程o2.控制輸出的格式o3.融入上下文知識思維鏈推理的前沿發(fā)展o從人工編寫提示到自動提示構(gòu)造o從自然語言思維鏈到結(jié)構(gòu)化思維鏈o從自我校驗到結(jié)合外部工具校驗o從常規(guī)語言任務(wù)到更廣泛的任務(wù)l多模態(tài)l多語言l智能體l科學領(lǐng)域l安全領(lǐng)域相關(guān)材料與工具o實驗文檔：https://sjtullm.gitbook.io/dive-into-llms/2.tuningoLlaMa:/Meta-Llama/llamao智譜AI:/o通義千問：/zh/dashscope/developer-r