تحميل البيانات

تحميل البيانات ، أو ببساطة التحميل ، هو جزء من معالجة البيانات حيث يتم نقل البيانات بين نظامين بحيث ينتهي بها المطاف في منطقة تخزين مؤقتة على النظام المستهدف.

في طريقة الاستخراج والتحويل والتحميل التقليدية (ETL)، تُعدّ عملية التحميل الخطوة الأخيرة، حيث تكون البيانات المُحمّلة قد خضعت للتحويل مسبقًا. أما في طريقة الاستخراج والتحميل والتحويل البديلة (ELT)، فتُعدّ عملية التحميل الخطوة الوسطى، حيث تُحمّل البيانات المُحوّلة بصيغتها الأصلية لإعادة تحويلها في النظام المستهدف.

تقليديًا، كانت عمليات تحميل البيانات على الأنظمة الكبيرة تستغرق وقتًا طويلاً، وعادة ما يتم تشغيلها ليلاً خارج ساعات عمل الشركة.

غاية

يتمثل الهدفان الرئيسيان لتحميل البيانات في الحصول على بيانات أحدث في الأنظمة بعد التحميل، وسرعة التحميل لضمان تحديث البيانات بشكل متكرر. ولتحديث البيانات بالكامل، يمكن تسريع التحميل عن طريق تعطيل التكامل المرجعي والفهارس الثانوية والتسجيل ، ولكن هذا غير مسموح به عادةً مع التحديث التزايدي أو التغذية التدريجية.

الأنواع

يمكن تحميل البيانات إما عن طريق التحديث الكامل (الفوري)، أو التحميل والتحديث التدريجي (الفوري)، أو التغذية التدريجية (المؤجلة). يعتمد اختيار الأسلوب على كمية البيانات المراد تحديثها أو تغييرها أو إضافتها، ومدى حداثة البيانات المطلوبة. كما يُعد نوع البيانات المُقدمة من النظام المصدر، ومدى موثوقية البيانات التاريخية المُقدمة منه، من العوامل المهمة.

تحديث كامل

تعني عملية تحديث البيانات الكاملة حذف البيانات الموجودة في الجدول الهدف أولاً. ثم يتم تحميل جميع البيانات من المصدر إلى الجدول الهدف، وإنشاء فهارس جديدة فيه، وحساب مقاييس جديدة للجدول المُحدَّث.

يُعد التحديث الكامل سهل التنفيذ، ولكنه يتطلب نقل كمية كبيرة من البيانات، الأمر الذي قد يستغرق وقتاً طويلاً، وقد يجعل من الصعب الاحتفاظ بالبيانات التاريخية. [ 1 ]

تحديث تدريجي

التحديث التزايدي يعني استرجاع البيانات الجديدة أو المُحدَّثة فقط من النظام المصدر. [ 2 ] [ 3 ] تُضاف البيانات المُحدَّثة إلى البيانات الموجودة في النظام الهدف، ويتم تحديث البيانات الموجودة في النظام الهدف. تُحدَّث المؤشرات والإحصائيات تبعًا لذلك. يُسرِّع التحديث التزايدي عملية التحميل ويُسهِّل تتبُّع سجل البيانات، ولكنه قد يكون مُرهِقًا في الإعداد والصيانة. [ 1 ]

تغذية ثلاثية

يعني التحديث التدريجي أو التحميل المتقطع أنه عند تحديث النظام المصدر، ستحدث التغييرات في النظام الهدف على الفور تقريبًا. [ 4 ] [ 5 ]

التحميل إلى الأنظمة قيد الاستخدام

عند تحميل البيانات إلى نظام قيد الاستخدام حاليًا من قِبل المستخدمين أو أنظمة أخرى، يجب تحديد وقت تحديث النظام وما سيحدث للجداول المستخدمة في نفس وقت التحديث. أحد الحلول الممكنة هو استخدام الجداول الظلية . [ 6 ] [ 7 ]

انظر أيضاً

مراجع

  1. 1 2 "التحميل التزايدي للبيانات مقابل التحميل الكامل في عمليات استخراج البيانات وتحويلها وتحميلها: 4 اختلافات جوهرية - تعلّم | هيفو" . 14 أبريل 2022. تم الاطلاع عليه بتاريخ 18 فبراير 2023 .
  2. "التحميل التدريجي" . تم الاطلاع عليه بتاريخ 18-02-2023 .
  3. ميتشل، تيم (23 يوليو 2020). "ما هي الأحمال التزايدية، ولماذا، ومتى، وكيف" . تم الاسترجاع في 18 فبراير 2023 .
  4. زوتيرز، يانيس (2011). "مستودعات البيانات شبه الآنية بتقنية التسريب والتقليب متعددة المراحل" . في: جرابيس، يانيس؛ كيريكوفا، ماريت (محرران). آفاق في بحوث معلوماتية الأعمال . سلسلة محاضرات في معالجة معلومات الأعمال. المجلد 90. سبرينغر برلين هايدلبرغ. الصفحات 73-82 . doi : 10.1007/978-3-642-24511-4_6 . ISBN   978-3-642-24510-7عادةً ما يكون مستودع البيانات عبارة عن مجموعة من البيانات التاريخية المصممة لدعم اتخاذ القرارات، لذا يتم تحديثه دوريًا من مصادره، وغالبًا بشكل يومي. إلا أن متطلبات الأعمال اليوم تستلزم بيانات أحدث. يُعد التخزين في الوقت الفعلي أحد الاتجاهات السائدة لتحقيق ذلك، ولكن ثمة تحديات عديدة تعترض سبيل الوصول إلى التحديث الفوري الحقيقي. تقترح هذه الورقة البحثية منهجية "التحديث التدريجي متعدد المراحل" لتحديث مستودع البيانات. تستند هذه المنهجية إلى مبدأ "التحديث التدريجي" وتم تطويرها لتعزيز عزل عمليات التحميل والاستعلام، مما يُحسّن كفاءة كليهما.
  5. "تحميل البيانات التدريجي" . تم الاطلاع عليه بتاريخ 18-02-2023 .
  6. "إنشاء جداول ظل للمزامنة - إدارة البيانات - مركز توثيق Alibaba Cloud" . تم الاطلاع عليه بتاريخ 18 فبراير 2023 .
  7. "جداول الظل" . شركة آي بي إم . 10 أغسطس 2015. تم الاطلاع عليه بتاريخ 18 فبراير 2023 .