
6.1倍數學正確率較未修改模型 · MIT CSAIL 作者報告
Astra 改寫權重,減少 Qwen 答題循環
MIT CSAIL 團隊測試了「權重空間程式設計」(Weight-Space Programming),讓大型語言模型直接讀寫另一個網路的權重。研究人員報告,Qwen 在數學測試 MATH-500 的正確率從 7.9% 升至 48.1%。團隊發布了研究部落格文章,並在 GitHub 釋出實驗紀錄、最終網路及確切的權重修改內容。
來源
程式碼RikiyaT/lm_understand-logs: Complete logs of the experiments in the blog post 'LLMs can understand and write neural network weights'官方發布Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights由 AI 依據原文撰寫