最佳運輸理論如何改善生成模型

東京大學的Vosok進行的聯合研究表明，非平衡熱力學（一個從事不斷變化的系統的物理學的分支）解釋了為什麼最佳運輸理論（一種最佳分佈的數學結構）可以降低成本，從而使生成模型成為最佳模型。由於尚未在生成模型的開發中充分使用非平衡熱力學，因此該發現為機器學習提供了一種新的熱力學方法。結果是 出版 在雜誌中 物理評論x場地

近年來，一代圖像在跳躍和邊界上有所改善：一段有關名人的視頻，他吃了一個意大利麵碗，他幾年前代表了最先進的碗，即使今天也沒有資格。功率圖像產生的算法稱為擴散模型，它們包含一個稱為“噪聲”的事故。

在教育過程中，使用擴散動力學將噪聲輸入到初始數據中。在生成過程中，該模型應消除噪聲以從嘈雜數據創建新內容。這是通過考慮及時反轉的動態來實現的，好像是在相反的方向上重現視頻。關於建立產生高質量內容的模型的藝術和科學作品之一是何時以及在數據中添加多少噪聲。

ITO的主要研究人員ITO說：“自創建以來，擴散動力學的選擇，也稱為噪聲表，在擴散模型中是矛盾的。” “如經驗在擴散模型中所顯示的最佳運輸動力學，但從理論上講並未證明為什麼會這樣。”

儘管擴散模型最初是受熱力學非平衡熱力學的啟發，並且最佳運輸理論與該區域密切相關，但先前的研究忽略了該化合物。因此，出現了一個問題：非軍事熱力學能否確保理論基礎為何最佳運輸動力學在擴散模型中效果很好？

熱力學妥協的最新進展是一種描述熱力學散射與系統變化速度之間關係的方法，這是非常有用的。使用這種方法，研究人員推斷了熱力學散射與擴散模型中數據生成的可靠性之間的不平等。他們使用最近獲得的不等式表明，最佳傳輸動力學提供了最可靠的數據生成。

結果解釋說：“令人驚奇的結果之一是，我們的邊界在一定順序的情況下密集地構成了現實世界的圖像。” “這表明我們的不平等不僅有助於理解擴散模型中的最佳協議，還可以分析圖像數據的生成的實際應用。”

此外，該項目還有另一個驚人的方面。這些事件澄清了：“本文的第一和第二作者是學生，這項研究部分是作為他們所學的班級的一部分進行的。特別是，第一作者Kotaro Iked對這項研究做出了巨大的貢獻，從數值計算到理論分析。

“我們希望我們的結果將提高人們對機器學習社區中非平衡熱力學重要性的認識，而包括下一代在內，我們繼續研究其在理解信息的生物學和人工處理方面的有用性。”