論文復現前先做這一步:復現可行性評估與計劃提示詞(列出論文沒說清的細節、所需資源和分階段驗收點)

導師讓你復現一篇論文,或想拿它當基線,動手之前用:把論文的方法和實驗部分貼給 AI,它整理出復現所需的全部要素,標出哪些論文寫明瞭、哪些含糊、哪些完全沒提,評估數據和算力是否夠得着,再排出由小到大的復現步驟和每一步的驗收標準。

NNathaniel bigo··原創首發·AI 輔助撰寫
通用大模型 對話模型通用
【角色】你是實驗室裏最常被分配復現任務的高年級博士生,經驗是:復現失敗多半不是代碼寫錯,而是論文漏說的細節沒有對上。
【輸入】
- 論文的方法、實驗設定與附錄相關內容(粘貼原文):[論文方法與實驗原文]
- 要復現的目標(某張表的某個數字、某張圖的趨勢、整套方法):[復現目標]
- 是否有官方代碼、數據或模型權重,以及我看到的情況:[官方資源情況]
- 我的資源(算力、時間、數據獲取權限、熟悉的框架):[我的資源]
- 可接受的誤差範圍:[可接受誤差]
【任務】
1. 復現要素清單:把復現所需的資訊分項列出(數據與劃分、預處理、模型或方法的結構細節、超參數、訓練或求解過程、隨機性控制、評測流程、軟硬件環境)。每一項標註:
   - 論文已明確(引用原文位置);
   - 論文含糊(存在多種合理理解,列出這些理解);
   - 論文未提及。
2. 對含糊與未提及的項目,給出獲取資訊的途徑,按成本從低到高排:查附錄與補充材料、看官方代碼與配置文件、查作者引用的前作、看代碼倉庫的問題區、給作者寫信;並為每項給出一個「暫定預設做法」及其理由。
3. 資源評估:按論文報告的規模估計我需要的算力與時間(寫出估算過程,論文沒給的量寫「無法估計」);數據是否可獲得;資源不足時可以做的縮小版(更小的數據子集、更少的訓練步數)及其對結論可信度的影響。
4. 分階段計劃,由小到大,每階段給出驗收點:
   - 階段一:跑通數據流程,核對樣本數、統計量與論文一致;
   - 階段二:復現論文中最簡單的基線數字;
   - 階段三:復現目標方法的主要結果;
   - 階段四(可選):消融或趨勢。
   每階段寫:做什麼、與論文哪個數字或圖對照、偏差多大算通過、不通過時優先排查什麼。
5. 列出復現日誌應記錄的內容(每次運行的配置、隨機種子、環境版本、結果與論文的差值)。
6. 說明結果對不上時應該怎樣表述:區分「我的實現可能有誤」「論文資訊不足」「結果對設定敏感」三種情況。
【約束】
- 只依據我粘貼的原文判斷「已明確」與否;不要用你記憶中該論文或同類方法的常見設定去填空,暫定預設做法必須標明是推測。
- 不對原論文的正確性下結論。
【輸出格式】復現要素清單表 → 缺失資訊的獲取途徑與暫定做法 → 資源評估 → 分階段計劃與驗收點 → 日誌模板 → 結果表述建議。

高亮處換成你自己的內容:[論文方法與實驗原文]、[復現目標]、[官方資源情況]、[我的資源]、[可接受誤差]

ChatGPT Plus 充值

已被複製 1 次

使用說明

怎麼填變量:[論文方法與實驗原文] 把 Method、Experimental Setup、Implementation Details 以及附錄裏的超參數表都貼上,很多關鍵設定只出現在附錄。[復現目標] 要具體到「表 2 第 4 行的數字」,目標越小越容易判斷成敗。[官方資源情況] 寫你實際看到的,例如「有代碼倉庫,但沒有預處理腳本,配置文件裏學習率和論文正文不一致」。

常見失敗與調整:

  • 一上來就跑完整實驗,三天後發現數字差很多卻不知道差在哪。按階段走,先核對數據統計量,再復現最簡單的基線。
  • 模型用「這類方法通常這樣設定」把缺失的細節補上,還沒標明是推測。要求每個暫定做法都寫明依據和不確定性。
  • 論文正文與官方代碼不一致。讓模型把不一致點單獨列表,以代碼為準跑一版、以論文為準跑一版,都記錄下來。

追問:「幫我起草一封向作者詢問缺失細節的英文電郵,問題按重要性排序、每個問題一句話」「把復現日誌模板做成表格」。

示例輸出

示例,僅供參考(虛構論文)
要素狀態說明
數據劃分已明確第 4.1 節:「採用官方訓練集與測試集」
文本截斷長度含糊正文寫「截斷到最大長度」,未給數值;可能是 256 或 512
學習率已明確附錄表 5:2e-5
學習率預熱未提及暫定預設:前 10% 步數線性預熱(推測,依據是其引用的前作這樣做)
隨機種子與運行次數未提及暫定跑 3 個種子取平均,並在報告中說明

階段二驗收點:復現表 2 第 1 行的基線(論文報告 82.4)。三次運行的平均值與論文相差 1 個點以內算通過;不通過時先排查截斷長度與評測腳本,再考慮其他因素。

同款作品

用這條提示詞做出來的作品;原作者會因此獲得積分

做同款

還沒有同款,來做第一個。

Nathaniel 的更多內容

同主題

同模型

0 條評論

登入 後參與評論

還沒有評論,來搶沙發~