在大模型訓(xùn)練領(lǐng)域，獲取高質(zhì)量訓(xùn)練數(shù)據(jù)始終是一道難以跨越的門檻。盡管相關(guān)數(shù)據(jù)可能大量存在，但受合約條款或其他條件限制，難以自由使用。即便不考慮這些限制因素，對(duì)數(shù)據(jù)進(jìn)行清洗、驗(yàn)證和標(biāo)準(zhǔn)化處理，也是一項(xiàng)成本高昂的工作，否則無法保證訓(xùn)練結(jié)果的一致性。在此背景下，合成數(shù)據(jù)逐漸成為眾多大模型訓(xùn)練團(tuán)隊(duì)的重要選擇。

如今，合成數(shù)據(jù)已從曾經(jīng)的“錦上添花”角色，轉(zhuǎn)變?yōu)榇竽Ｐ陀?xùn)練不可或缺的基礎(chǔ)設(shè)施。市場(chǎng)研究機(jī)構(gòu)預(yù)測(cè)，到2030年，全球合成數(shù)據(jù)生成市場(chǎng)總規(guī)模將達(dá)到17.881億美元，2024年至2030年間的年復(fù)合增長(zhǎng)率高達(dá)35.3%。這一數(shù)據(jù)充分顯示出合成數(shù)據(jù)市場(chǎng)的巨大潛力和快速發(fā)展態(tài)勢(shì)。

Gartner分析指出，企業(yè)若想獲取滿足AI應(yīng)用需求的數(shù)據(jù)，往往面臨諸多困難，而合成數(shù)據(jù)管線為此提供了解決方案。通過AI算法，合成數(shù)據(jù)管線能夠生成海量用于大模型訓(xùn)練的數(shù)據(jù)，并且具備完備的控制、審核與可追溯機(jī)制，有效填補(bǔ)了企業(yè)在數(shù)據(jù)獲取方面的缺口。

在大模型訓(xùn)練中，合成數(shù)據(jù)的擴(kuò)展策略至關(guān)重要，應(yīng)以最終目標(biāo)為導(dǎo)向，先明確與下游任務(wù)相契合的目標(biāo)，再據(jù)此設(shè)計(jì)生成方式。其中，為特定任務(wù)制定合成數(shù)據(jù)目標(biāo)是首要策略。不同類型的訓(xùn)練任務(wù)對(duì)數(shù)據(jù)有不同要求，如檢索型訓(xùn)練注重查詢與證據(jù)的一致性；推理型訓(xùn)練需校準(zhǔn)復(fù)雜度水平，讓模型學(xué)會(huì)判斷何時(shí)需處理更多信息、何時(shí)可直接給出答案；領(lǐng)域特定訓(xùn)練則要求數(shù)據(jù)匹配特定領(lǐng)域的語(yǔ)言、約束條件和語(yǔ)氣。同時(shí)，要清晰區(qū)分預(yù)訓(xùn)練數(shù)據(jù)增強(qiáng)與微調(diào)數(shù)據(jù)生成，二者雖有交集，但目的不同，預(yù)訓(xùn)練可接受更廣泛的變異性，而微調(diào)需要更嚴(yán)格的模式、評(píng)分標(biāo)準(zhǔn)與輸出約束。

控制數(shù)據(jù)分布也是關(guān)鍵策略之一。構(gòu)建合成語(yǔ)料庫(kù)時(shí)，容易產(chǎn)生“路徑依賴”問題，即生成的數(shù)據(jù)高度適配大模型固有模式，導(dǎo)致模型在評(píng)估環(huán)境表現(xiàn)良好，但在現(xiàn)實(shí)應(yīng)用中面對(duì)復(fù)雜提示時(shí)表現(xiàn)不佳。為解決這一問題，可采用領(lǐng)域感知提示詞工程，在常見意圖、現(xiàn)實(shí)變體與極端因素之間平衡數(shù)據(jù)分布。通過分類法與受控詞匯表減少術(shù)語(yǔ)漂移，還可使用結(jié)構(gòu)化生成模式，使合成文本更貼合領(lǐng)域現(xiàn)實(shí)，滿足高合規(guī)環(huán)境需求。

大規(guī)模采用“人機(jī)協(xié)同”驗(yàn)證同樣不可或缺。自動(dòng)化管線易發(fā)生漂移，自動(dòng)生成器也傾向于重復(fù)固定模式，自動(dòng)化檢查難以捕捉細(xì)微差別，看似合理的樣本可能使模型訓(xùn)練出錯(cuò)誤行為。因此，需通過“人機(jī)協(xié)同”驗(yàn)證防止漂移，確保管線一致性。具體可通過戰(zhàn)略性采樣，讓專家重點(diǎn)驗(yàn)證風(fēng)險(xiǎn)高的環(huán)節(jié)和新模板，以抽查方式及早發(fā)現(xiàn)漂移，再依靠自動(dòng)反饋循環(huán)糾正錯(cuò)誤。選擇質(zhì)量指標(biāo)時(shí)，應(yīng)優(yōu)先關(guān)注語(yǔ)義準(zhǔn)確性、模式保真度及任務(wù)合規(guī)性。

為避免生成的合成數(shù)據(jù)過度同質(zhì)化，削弱模型泛化能力，還需最大化語(yǔ)言與語(yǔ)義多樣性。可通過采樣變體，讓模型接觸同一事物的多種表達(dá)方式；使用多種生成器模型，避免單一主導(dǎo)模式；在不違反任務(wù)約束的前提下，擴(kuò)大對(duì)各種句式結(jié)構(gòu)、推理深度及意圖框架的覆蓋范圍。這樣既能拓展模型適用范圍，又不會(huì)引入不必要噪聲。

設(shè)計(jì)合成數(shù)據(jù)時(shí)，還應(yīng)設(shè)定極端案例與故障場(chǎng)景。真實(shí)世界語(yǔ)料庫(kù)中較少體現(xiàn)極端案例與故障場(chǎng)景，但它們往往是引發(fā)模型不穩(wěn)定行為的根源。通過模擬這些場(chǎng)景，可測(cè)試模型處理此類行為的能力，如測(cè)試模型推理能力及指令層次結(jié)構(gòu)理解能力的沖突極限、在模型策略邊界上測(cè)試對(duì)抗性提示、在低資源場(chǎng)景下進(jìn)行測(cè)試等。這對(duì)于增強(qiáng)模型在長(zhǎng)尾場(chǎng)景中的穩(wěn)健性尤為重要，因?yàn)殚L(zhǎng)尾場(chǎng)景中的故障可能導(dǎo)致信任流失、支持成本增加，甚至影響商業(yè)收入。

將合成數(shù)據(jù)與真實(shí)數(shù)據(jù)相結(jié)合也是有效策略。通過加權(quán)聚合方法混合兩種數(shù)據(jù)，可填補(bǔ)覆蓋范圍空白，識(shí)別合成數(shù)據(jù)中的自然語(yǔ)言模式基本特征，并確定各層級(jí)中兩種數(shù)據(jù)的比例。這種方法有助于控制預(yù)訓(xùn)練過程中數(shù)據(jù)的重復(fù)程度，防止數(shù)據(jù)過擬合，但在微調(diào)階段需應(yīng)用額外過濾和模式檢查。教材式混合數(shù)據(jù)集通常優(yōu)于隨機(jī)采樣數(shù)據(jù)集，因?yàn)樗芸刂迫蝿?wù)難度級(jí)別，防止意外轉(zhuǎn)變。

隨著數(shù)據(jù)量增長(zhǎng)，實(shí)施強(qiáng)有力的數(shù)據(jù)治理與可追溯性機(jī)制至關(guān)重要。數(shù)據(jù)治理可通過創(chuàng)建版本化數(shù)據(jù)集和切片，認(rèn)真記錄生成參數(shù)和模板，明確生成器模型名稱、修訂歷史及所應(yīng)用的過濾器等方式實(shí)現(xiàn)。建立穩(wěn)健的可追溯性可確保審計(jì)工作順利進(jìn)行，保障回歸問題可調(diào)試，使數(shù)據(jù)管線具備可重復(fù)性。若缺乏數(shù)據(jù)治理，合成數(shù)據(jù)擴(kuò)展將只是缺乏責(zé)任歸屬的一次性操作。

自動(dòng)化質(zhì)量評(píng)分與過濾機(jī)制同樣必不可少。內(nèi)容自動(dòng)化質(zhì)量指標(biāo)對(duì)實(shí)現(xiàn)人工審核流程的可擴(kuò)展應(yīng)用至關(guān)重要，應(yīng)包括基于規(guī)則的架構(gòu)和格式評(píng)估、基于模型的指令遵循性評(píng)估和語(yǔ)義噪聲評(píng)估等。同時(shí)，要納入重復(fù)和近重復(fù)檢測(cè)以消除冗余，并持續(xù)進(jìn)行過濾，防止合成數(shù)據(jù)生成過程中引入的幻覺和細(xì)微偏差導(dǎo)致訓(xùn)練過程及其相關(guān)評(píng)估持續(xù)退化，維持較高的信噪比。

合成數(shù)據(jù)管線的本地化與多語(yǔ)言化也不容忽視。許多管線傾向于英語(yǔ)，但本地化比翻譯更重要，僅依賴英語(yǔ)可能限制產(chǎn)品擴(kuò)展能力，在多語(yǔ)言環(huán)境中導(dǎo)致性能下降。合成數(shù)據(jù)有助于拓展資源匱乏的語(yǔ)言，在此過程中，領(lǐng)域術(shù)語(yǔ)必須準(zhǔn)確，語(yǔ)氣要符合當(dāng)?shù)貥?biāo)準(zhǔn)，語(yǔ)境要自然，專家的審核對(duì)于降低文本錯(cuò)誤風(fēng)險(xiǎn)至關(guān)重要。

設(shè)計(jì)適合模型迭代反饋的合成數(shù)據(jù)管線能提升其耐久性。閉環(huán)系統(tǒng)是合成數(shù)據(jù)管線的最佳形式，即從評(píng)估和生產(chǎn)信號(hào)中推導(dǎo)誤差，生成有針對(duì)性的合成修正數(shù)據(jù)，再進(jìn)行重新訓(xùn)練與重新測(cè)試。這種方式可減少對(duì)真實(shí)世界數(shù)據(jù)的依賴，隨著模型更新，開發(fā)能力也將得到提升，還能在漂移現(xiàn)象影響大量合成樣本前及時(shí)遏制。

對(duì)于“合成數(shù)據(jù)集工具”，大多數(shù)團(tuán)隊(duì)需采用混合方案，涵蓋提示詞編排、數(shù)據(jù)集版本控制和評(píng)估框架，以及基于提示詞的合成、知識(shí)蒸餾和自我指導(dǎo)模式等生成方法。由于涉及多個(gè)復(fù)雜環(huán)節(jié)和上述多項(xiàng)策略要求，企業(yè)往往需要借助專業(yè)合作伙伴的力量來實(shí)現(xiàn)合成數(shù)據(jù)的有效應(yīng)用。合成數(shù)據(jù)正從大模型的輔助技術(shù)轉(zhuǎn)變?yōu)殚L(zhǎng)期開發(fā)、管理和持續(xù)改進(jìn)模型的核心要素，團(tuán)隊(duì)若能構(gòu)建并維護(hù)設(shè)計(jì)精良的合成數(shù)據(jù)管道，便能充分發(fā)揮其價(jià)值，在現(xiàn)實(shí)壓力下實(shí)現(xiàn)更安全的規(guī)模擴(kuò)展、快速迭代以及訓(xùn)練數(shù)據(jù)的可靠性保障。