انهيار النموذج

في عام 2024، ^{[ 9 ]} تم بذل محاولة أولى لتوضيح الانهيار لأبسط نموذج ممكن - وهو نموذج توزيع طبيعي أحادي البعد باستخدام مقدرات غير متحيزة للمتوسط ​​والتباين، محسوبة على عينات من الجيل السابق.

ولتوضيح ذلك بشكل أدق، نقول إن البيانات الأصلية تتبع التوزيع الطبيعي${\displaystyle X^{0}\sim {\mathcal {N}}(\mu ,\sigma ^{2})}$ونحن نمتلك${\displaystyle M_{0}}$عينات${\displaystyle X_{j}^{0}}$ل${\displaystyle j\in {\{\,1,\dots ,M_{0}\,{}\}}}$. للدلالة على عينة عامة${\displaystyle X_{j}^{i}}$كعينة${\displaystyle j\in {\{\,1,\dots ,M_{i}\,{}\}}}$في جيل${\displaystyle i}$ثم يتم تقدير نموذج الجيل التالي باستخدام متوسط ​​العينة والتباين:

$\displaystyle \mu _{i+1}={\frac {1}{M_{i}}}\sum _{j}X_{j}^{i};\quad \sigma _{i+1}^{2}={\frac {1}{M_{i}-1}}\sum _{j}(X_{j}^{i}-\mu _{i+1})^{2}.}$

مما يؤدي إلى نموذج الجيل التالي الطبيعي المشروط${\displaystyle X_{j}^{i+1}|\mu _{i+1},\;\sigma _{i+1}\sim {\mathcal {N}}(\mu _{i+1},\sigma _{i+1}^{2})}$نظرياً، هذا يكفي لحساب التوزيع الكامل لـ${\displaystyle X_{j}^{i}}$ومع ذلك، حتى بعد الجيل الأول، لم يعد التوزيع الكامل طبيعيًا: بل يتبع توزيع جاما التباين .

لمواصلة التحليل، بدلاً من كتابة دالة كثافة الاحتمال في كل جيل، من الممكن بناؤها صراحةً بدلالة المتغيرات العشوائية المستقلة باستخدام نظرية كوكران . وبالتحديد،${\displaystyle \mu _{1}}$و${\displaystyle \sigma _{1}}$مستقلون، مع${\displaystyle \mu _{1}\sim {\mathcal {N}}\left(\mu ,{\frac {\sigma ^{2}}{M_{0}}}\right)}$و${\displaystyle (M_{0}-1)\,\sigma _{1}^{2}\sim \sigma ^{2}\,\Gamma \left({\frac {M_{0}-1}{2}},{\frac {1}{2}}\right)}$، وفقًا لتوزيع جاما . بالرمز إلى${\displaystyle Z}$المتغيرات العشوائية الغاوسية موزعة وفقًا لـ${\displaystyle {\mathcal {N}}(0,1)}$ومع${\displaystyle S^{i}}$المتغيرات العشوائية موزعة وفقًا لـ${\displaystyle {\frac {1}{M_{i-1}-1}}\Gamma \left({\frac {M_{i-1}-1}{2}},{\frac {1}{2}}\right)}$اتضح أنه من الممكن كتابة عينات في كل جيل على النحو التالي:

${\textstyle X_{j}^{0}=\mu +\sigma Z_{j}^{0},}$

${\textstyle X_{j}^{1}=\mu +{\frac {\sigma }{\sqrt {M_{0}}}}Z^{1}+\sigma {\sqrt {S^{1}}}Z_{j}^{1},}$

وبشكل أعم

$${\displaystyle X_{j}^{n}=\mu +{\frac {\sigma }{\sqrt {M_{0}}}}Z^{1}+{\frac {\sigma }{\sqrt {M_{1}}}}{\sqrt {S^{1}}}Z^{2}+\dots +{\frac {\sigma }{\sqrt {M_{n-1}}}}{\sqrt {S^{1}\times \dots \times S^{n-1}}}Z^{n}+\sigma {\sqrt {S^{1}\times \dots \times S^{n}}}Z_{j}^{n}.}$$

لاحظ أن هذه ليست توزيعات مشتركة، كما${\displaystyle Z^{n}}$و${\displaystyle S^{n}}$يعتمد بشكل مباشر على${\displaystyle Z_{j}^{n-1}}$لكن عند النظر${\displaystyle X_{j}^{n}}$توفر الصيغة المذكورة أعلاه، بمفردها، جميع المعلومات المتعلقة بالتوزيع الكامل.

To analyse the model collapse, we can first calculate variance and mean of samples at generation ${\displaystyle n}$. This would tell us what kind of distributions we expect to arrive at after ${\displaystyle n}$ generations. It is possible to find its exact value in closed form, but the mean and variance of the square root of gamma distribution are expressed in terms of gamma functions, making the result quite clunky. Following,^[9] it is possible to expand all results to second order in each of ${\displaystyle 1/M_{i}}$, assuming each sample size to be large. It is then possible to show that

${\displaystyle {\frac {1}{\sigma ^{2}}}\operatorname {Var} (X_{j}^{n})={\frac {1}{M_{0}}}+{\frac {1}{M_{1}}}+\dots +{\frac {1}{M_{n-1}}}+1+{\mathcal {O}}\left(M_{i}^{-2}\right).}$

And if all sample sizes ${\displaystyle M_{i}=M}$ are constant, this diverges linearly as ${\displaystyle n\to \infty }$:

${\displaystyle \operatorname {Var} (X_{j}^{n})=\sigma ^{2}\left(1+{\frac {n}{M}}\right);\quad \mathbb {E} (X_{j}^{n})=\mu .}$

This is the same scaling as for a single dimensional Gaussian random walk. However, divergence of the variance of ${\displaystyle X_{j}^{n}}$ does not directly provide any information about the corresponding estimates of ${\displaystyle \mu _{n+1}}$ and ${\displaystyle \sigma _{n+1}}$, particularly how different they are from the original ${\displaystyle \mu }$ and ${\displaystyle \sigma }$. It turns out to be possible to calculate the distance between the true distribution and the approximated distribution at step ${\displaystyle n+1}$, using the Wasserstein-2 distance (which is also sometimes referred to as risk):

${\displaystyle \mathbb {E} \left[\mathbb {W} _{2}^{2}\left({\mathcal {N}}(\mu ,\sigma ^{2}),{\mathcal {N}}(\mu _{n+1},\sigma _{n+1}^{2})\right)\right]={\frac {3}{2}}\sigma ^{2}\left({\frac {1}{M_{0}}}+{\frac {1}{M_{1}}}+\dots +{\frac {1}{M_{n}}}\right)+{\mathcal {O}}\left(M_{i}^{-2}\right),}$

${\displaystyle \operatorname {Var} \left[\mathbb {W} _{2}^{2}\left({\mathcal {N}}(\mu ,\sigma ^{2}),{\mathcal {N}}(\mu _{n+1},\sigma _{n+1}^{2})\right)\right]={\frac {1}{2}}\sigma ^{4}\left({\frac {3}{M_{0}^{2}}}+{\frac {3}{M_{1}^{2}}}+\dots +{\frac {3}{M_{n}^{2}}}+\sum _{i\neq j}{\frac {4}{M_{i}M_{j}}}\right)+{\mathcal {O}}\left(M_{i}^{-3}\right).}$

This directly shows why model collapse occurs in this simple model. Due to errors from re-sampling the approximated distribution, each generation ends up corresponding to a new step in a random walk of model parameters. For a constant sample size at each generation, the average distance from the starting point diverges, and in order for the end distribution approximation to be accurate, or for the distance to be finite, the sampling rate ${\displaystyle M_{i}}$ needs to increase superlinearly, i.e. one needs to collect increasingly more samples over time, perhaps quadratically. However, even in that case the expected distance after ${\displaystyle n}$ steps remains non-zero and the only case in which it does in fact end up being zero is when sampling is infinite at each step. Overall, this only shows us how far on average one ends up from the original distribution, but the process can only "terminate", if the estimated variance at a certain generation becomes small enough, effectively turning the distribution into a delta function. This is shown to occur for a general gaussian model^[13] in the subsection below. Empirical investigation has confirmed this theoretical analysis.^[20]

Furthermore, in the case of multidimensional model with fully synthetic data, exact collapse can be shown.^[13][9]

In the case of a linear regression model,^[21][22]scaling laws and bounds on learning can be obtained.

في حالة مصنف softmax الخطي للتنبؤ بالرمز التالي، ^{[ 23 ]} يمكن الحصول على حدود دقيقة للتعلم حتى مع مجموعة بيانات اصطناعية جزئيًا.

مع إعادة تدريب النماذج على مخرجات مأخوذة بشكل غير متناسب من مركز التوزيع ذي الاحتمالية الأعلى، تُعد الكلمات النادرة والتراكيب النحوية غير الشائعة من بين أولى السمات التي تختفي. ^{[ 25 ]} وقد أظهر التحليل الإحصائي لتدريب التنبؤ المتكرر بالرمز التالي أنه عند تدريب نماذج اللغة بشكل متكرر على بيانات اصطناعية، فإن التوزيعات الشرطية المُتعلمة تُركز كتلة الاحتمالية على مجموعة فرعية صغيرة من التتابعات عالية التنبؤ (وهي ظاهرة تُوصف بأنها "انهيار تام"). ^{[ 26 ]}