قياس أداء ذاكرة التخزين المؤقت ومعاييره

ذاكرة التخزين المؤقت لوحدة المعالجة المركزية هي قطعة من الأجهزة تعمل على تقليل وقت الوصول إلى البيانات في الذاكرة عن طريق الاحتفاظ بجزء من البيانات المستخدمة بشكل متكرر في الذاكرة الرئيسية في "ذاكرة تخزين مؤقت" أصغر وأسرع.

يعتمد أداء نظام الحاسوب على أداء جميع وحداته الفردية، بما في ذلك وحدات التنفيذ مثل وحدات الأعداد الصحيحة ، ووحدات التفرع، ووحدات الفاصلة العائمة، ووحدات الإدخال/الإخراج، وناقل البيانات، وذاكرة التخزين المؤقت، وأنظمة الذاكرة. وقد اتسعت الفجوة بين سرعة المعالج وسرعة الذاكرة الرئيسية بشكلٍ كبير. فقبل عامي 2001-2005، كانت سرعة وحدة المعالجة المركزية، مقاسةً بتردد الساعة، تنمو سنويًا بنسبة 55%، بينما لم تتجاوز سرعة الذاكرة 7%. ^{[ 1 ]} تُعرف هذه المشكلة بـ"حاجز الذاكرة". ويكمن الدافع وراء استخدام ذاكرة التخزين المؤقت وهيكلها الهرمي في سد هذه الفجوة في السرعة وتجاوز حاجز الذاكرة.

يُعدّ التخزين المؤقت (الذاكرة المخبئية) عنصرًا أساسيًا في معظم الحواسيب عالية الأداء. ونظرًا لوجوده لسدّ فجوة السرعة، فإنّ قياس أدائه ومؤشراته مهمة في تصميم واختيار مختلف المعايير، مثل حجم الذاكرة المخبئية، والترابطية، وسياسة الاستبدال، وغيرها. يعتمد أداء الذاكرة المخبئية على عدد مرات الوصول الناجحة (Hatts) وعدد مرات الوصول الفاشلة (Fases)، وهما العاملان اللذان يُحدّدان أداء النظام. يُشير الوصول الناجح إلى عدد مرات الوصول إلى الذاكرة المخبئية التي تُؤدّي إلى العثور على البيانات المطلوبة، بينما يُشير الوصول الفاشل إلى مرات الوصول التي لا تُؤدّي إلى العثور على البيانات المطلوبة. تُساهم هذه النتائج في حساب متوسط ​​زمن الوصول (AAT)، المعروف أيضًا باسم متوسط ​​زمن الوصول إلى الذاكرة (AMAT )، وهو، كما يوحي الاسم، متوسط ​​الوقت المُستغرق للوصول إلى الذاكرة. يُعدّ هذا أحد أهمّ مؤشرات قياس أداء الذاكرة المخبئية، لأنّ هذا الرقم يُصبح بالغ الأهمية مع زيادة سرعة المعالج.

يُعدّ قانون القوة لحالات عدم العثور على البيانات في ذاكرة التخزين المؤقت مقياسًا مفيدًا آخر لاختبار الأداء . فهو يُبيّن عدد حالات عدم العثور على البيانات عند تغيير حجم ذاكرة التخزين المؤقت، علمًا بأن عدد حالات عدم العثور على البيانات معروف عند أحد أحجام ذاكرة التخزين المؤقت. وبالمثل، عند الرغبة في اختبار أداء ذاكرة التخزين المؤقت من حيث حالات عدم العثور على البيانات عبر مستويات ارتباط مختلفة، يُستخدم تحليل مسافة المكدس .

يعتمد تحسن أداء المعالج الناتج عن تسلسل الذاكرة المخبئية على عدد عمليات الوصول الناجحة إلى الذاكرة المخبئية التي تُلبّي طلبات الوصول إلى الكتل (الوصول الناجح) مقابل عمليات الوصول الفاشلة. وتؤدي محاولات قراءة أو كتابة البيانات من الذاكرة المخبئية غير الناجحة (الوصول الفاشل) إلى الوصول إلى الذاكرة الرئيسية، مما يزيد من زمن الاستجابة. وهناك ثلاثة أنواع أساسية من الوصول الفاشل تُعرف باسم 3Cs ^{[ 2 ]} ، بالإضافة إلى أنواع أخرى أقل شيوعًا.

السعة غير كافية

يحدث خطأ في سعة الذاكرة المؤقتة (Cache) نتيجةً لصغر حجمها، وليس بسبب خلل في وظيفة تعيين البيانات فيها. عندما تكون مجموعة البيانات العاملة ، أي البيانات المهمة للبرنامج حاليًا، أكبر من سعة الذاكرة المؤقتة، يتكرر حدوث أخطاء السعة. من بين أخطاء الذاكرة المؤقتة الثلاثة (3Cs) ، يُعدّ خطأ السعة الأصعب في التحديد، ويمكن اعتباره خطأً غير إلزامي في ذاكرة مؤقتة ترابطية بالكامل. في نظام معالج واحد، يمكن تصنيف الأخطاء المتبقية بعد طرح عدد الأخطاء الإلزامية وأخطاء التعارض على أنها أخطاء في السعة.

بما أن أخطاء السعة قد تُعزى إلى محدودية حجم ذاكرة التخزين المؤقت، فإن إحدى الطرق البسيطة لتقليل عدد هذه الأخطاء هي زيادة حجمها. مع أن هذه الطريقة بديهية، إلا أنها تؤدي إلى زيادة وقت الوصول، وزيادة مساحة ذاكرة التخزين المؤقت، وبالتالي زيادة استهلاكها للطاقة. كما أن عدد الأخطاء يصل إلى حد أقصى بعد حجم معين لذاكرة التخزين المؤقت، ولا ينخفض ​​حتى مع زيادة حجمها.

تأثير التلاعب بمعلمات التخزين المؤقت الأساسية على حالات عدم العثور على البيانات في ذاكرة التخزين المؤقت. ^{[ 2 ]}

حدود	غيابات إجبارية	يفشل الصراع	السعة غير كافية
حجم ذاكرة تخزين مؤقت أكبر	لا يوجد تأثير	لا يوجد تأثير	ينقص
حجم كتلة أكبر	ينقص	تأثير غير مؤكد	تأثير غير مؤكد
ترابط أكبر	لا يوجد تأثير	ينقص	لا يوجد تأثير

إن الأنواع الثلاثة المذكورة أعلاه من الأخطاء لا تعالج إلا أخطاء المعالج الأحادي.

ترتبط حالات عدم العثور على البيانات في ذاكرة التخزين المؤقت ارتباطًا مباشرًا بزيادة عدد الدورات لكل تعليمة (CPI). ومع ذلك، يعتمد مقدار تأثير هذه الحالات على عدد الدورات لكل تعليمة على مدى إمكانية تداخلها مع العمليات الحسابية نتيجةً للتوازي على مستوى التعليمات (ILP)، ومدى إمكانية تداخلها مع حالات عدم العثور الأخرى في ذاكرة التخزين المؤقت نتيجةً للتوازي على مستوى الذاكرة . ^{[ 2 ]} إذا تجاهلنا هذين التأثيرين، يصبح متوسط ​​زمن الوصول إلى الذاكرة مقياسًا مهمًا. فهو يوفر مؤشرًا على أداء أنظمة الذاكرة وهياكلها. ويشير إلى متوسط ​​الوقت اللازم لإجراء عملية وصول إلى الذاكرة، وهو مجموع وقت تنفيذ تعليمات الذاكرة ودورات توقف الذاكرة. وقت التنفيذ هو وقت الوصول إلى ذاكرة التخزين المؤقت، بينما تشمل دورات توقف الذاكرة الوقت اللازم لمعالجة حالة عدم العثور على البيانات في ذاكرة التخزين المؤقت والوصول إلى مستويات أدنى من الذاكرة. إذا كانت زمن الوصول ومعدل عدم العثور على البيانات وعقوبة عدم العثور عليها معروفة، فيمكن حساب متوسط ​​زمن الوصول إلى الذاكرة باستخدام:

$${\displaystyle \mathrm {AMAT} =T_{L1}+MR_{L1}\cdot MP_{L1}}$$

أين${\displaystyle T_{L1}}$يمثل زمن الوصول إلى ذاكرة التخزين المؤقت من المستوى الأول،${\displaystyle MR_{L1}}$معدل الخطأ في ذاكرة التخزين المؤقت من المستوى الأول و${\displaystyle MP_{L1}}$هي الدورات الإضافية التي يتطلبها إصلاح خطأ في مستوى أعلى مقارنةً بإصلاح إصابة في مستوى أعلى، ويتم حسابها باستخدام:

$${\displaystyle MP_{L1}=T_{L2}+MR_{L2}\cdot MP_{L2}}$$

يمكن توسيع هذه الصيغة واستخدامها بشكل متكرر لجميع المستويات اللاحقة في التسلسل الهرمي للذاكرة للحصول على AMAT . ^{[ 6 ]}

يُظهر قانون القوة لحالات عدم الوصول إلى الذاكرة المؤقتة اتجاهًا في حالات عدم الوصول إلى السعة في تطبيق معين للبرنامج، متأثرًا بحجم الذاكرة المؤقتة. وقد أدت هذه الملاحظة التجريبية إلى الصيغة الرياضية لقانون القوة، الذي يوضح العلاقة بين معدل عدم الوصول وحجم الذاكرة المؤقتة. ويمكن التعبير عنه كما يلي:

${\displaystyle M=M_{0}*C^{-\alpha }}$

حيث M هو معدل الخطأ لذاكرة تخزين مؤقتة بحجم C، _و M₀ هو معدل الخطأ لذاكرة تخزين مؤقتة أساسية. يختلف الأس α باختلاف حجم العمل، ويتراوح عادةً بين 0.3 و0.7، بمتوسط ​​0.5. وقد تم التحقق من صحة قانون القوة على عدد كبير من المعايير العملية. ^{[ 7 ]}

تُظهر هذه العلاقة أنه لا يمكن التخلص إلا من نسبة ضئيلة من حالات عدم العثور على البيانات في الذاكرة المؤقتة مع زيادة حجمها باستمرار. ولا يصح هذا القانون إلا ضمن نطاق محدود من أحجام الذاكرة المؤقتة، حيث لا يستقر معدل عدم العثور على البيانات حتى هذا النطاق. ثم يستقر معدل عدم العثور على البيانات عند حجم معين وكبير بما يكفي للذاكرة المؤقتة، وبعد ذلك لا تُعطي العلاقة تقديرات دقيقة.

يُعدّ منحنى مسافة المكدس تمثيلاً أفضل لكيفية تأثر حالات عدم الوصول إلى الذاكرة المؤقتة بحجمها. بينما يُقدّم قانون القوة لحالات عدم الوصول إلى الذاكرة المؤقتة تقريبًا تقريبيًا لذلك. يُجسّد منحنى مسافة المكدس سلوك إعادة استخدام البيانات مؤقتًا في ذاكرة مؤقتة ذات ترابط كامل أو ترابط جزئي. ^{[ 8 ]}

عادةً ما تصل التطبيقات التي تُظهر سلوك إعادة استخدام مؤقت إلى البيانات التي تم استخدامها مؤخرًا. لنفترض أن خاصية الترابط في ذاكرة التخزين المؤقت هي${\displaystyle A}$لجمع معلومات ملف تعريف مسافة المكدس لهذه الذاكرة المؤقتة، بافتراض أنها تتبع سياسة استبدال LRU،${\displaystyle A+1}$تُستخدم العدادات بدءًا من${\displaystyle C_{0}}$ل${\displaystyle C_{A}}$وعداد إضافي واحد${\displaystyle C_{<}A}$وهو الذي يحصي عدد المحاولات الفاشلة. العداد${\displaystyle C_{i}}$تزداد الزيادة عند حدوث إصابة في${\displaystyle i^{th}}$الطريق والعداد${\displaystyle C_{<}A}$يتم زيادة قيمة العداد مع كل خطأ. يُظهر ملف تعريف مسافة المكدس اتجاه الوصول، حيث يتناقص من البيانات الأكثر استخدامًا إلى الأقل استخدامًا. باستخدام معلومات ملف تعريف مسافة المكدس هذه، يتم حساب خطأ ذاكرة التخزين المؤقت لذاكرة تخزين مؤقت ذات خاصية التجميع.${\displaystyle A{'}}$وسياسة استبدال وحدات الاستبدال الأقل استهلاكاً، حيث${\displaystyle A{'}<A}$يمكن حسابها على النحو التالي

${\displaystyle miss=C_{<}A+\sum _{i=A{'}+1}^{A}C_{i}}$

تقتصر هذه المعلومات التحليلية على رصد إعادة الاستخدام الزمني عبر مختلف أنواع الارتباطات. ولأغراض أخرى، يجب دراسة إعادة الاستخدام الزمني بمزيد من التفصيل.

• التسلسل الهرمي لذاكرة التخزين المؤقت