وظيفة هارتلي

دالة هارتلي هي مقياس للشك ، قدمها رالف هارتلي عام 1928. إذا تم اختيار عينة عشوائية منتظمة من مجموعة محدودة A ، فإن كمية المعلومات التي يتم الكشف عنها بعد معرفة النتيجة تُعطى بواسطة دالة هارتلي.

${\displaystyle H_{0}(A):=\mathrm {log} _{b}\vert A\vert ,}$

حيث | A | تشير إلى عدد عناصر A.

إذا كان أساس اللوغاريتم 2، فإن وحدة عدم اليقين هي الشانون (المعروفة أيضًا باسم البت ). أما إذا كان اللوغاريتم الطبيعي ، فإن الوحدة هي النات . استخدم هارتلي لوغاريتمًا أساسه عشرة ، ولذلك تُسمى وحدة المعلومات في هذا الأساس هارتلي (وتُعرف أيضًا باسم بان أو ديت ) تكريمًا له. وتُعرف أيضًا باسم إنتروبيا هارتلي أو الإنتروبيا القصوى.

تتطابق دالة هارتلي مع إنتروبيا شانون (وكذلك مع إنتروبيات ريني من جميع الرتب) في حالة التوزيع الاحتمالي المنتظم . وهي حالة خاصة من إنتروبيا ريني للأسباب التالية:

${\displaystyle H_{0}(X)={\frac {1}{1-0}}\log \sum _{i=1}^{|{\mathcal {X}}|}p_{i}^{0}=\log |{\mathcal {X}}|.}$

لكن يمكن أيضًا اعتبارها بناءً بدائيًا، لأنه كما أكد كولموغوروف وريني، يمكن تعريف دالة هارتلي دون إدخال أي مفاهيم للاحتمالية (انظر عدم اليقين والمعلومات لجورج ج. كلير ، ص  423).

تعتمد دالة هارتلي فقط على عدد عناصر المجموعة، وبالتالي يمكن اعتبارها دالة على الأعداد الطبيعية. وقد أثبت ريني أن دالة هارتلي في النظام الثنائي هي الدالة الوحيدة التي تربط الأعداد الطبيعية بالأعداد الحقيقية والتي تحقق الشرط التالي:

1. ${\displaystyle H(mn)=H(m)+H(n)}$(الجمعية)
2. ${\displaystyle H(m)\leq H(m+1)}$(الرتابة)
3. ${\displaystyle H(2)=1}$(تطبيع)

ينص الشرط الأول على أن عدم اليقين في حاصل الضرب الديكارتي لمجموعتين منتهيتين A و B هو مجموع عدم اليقين في A و B. وينص الشرط الثاني على أن المجموعة الأكبر حجماً يكون عدم اليقين فيها أكبر.

نريد أن نبين أن دالة هارتلي، log ₂ ( n )، هي الدالة الوحيدة التي تربط الأعداد الطبيعية بالأعداد الحقيقية والتي تحقق الشرط التالي:

1. ${\displaystyle H(mn)=H(m)+H(n)\,}$(الجمعية)
2. ${\displaystyle H(m)\leq H(m+1)\,}$(الرتابة)
3. ${\displaystyle H(2)=1\,}$(تطبيع)

لتكن f دالة على مجموعة الأعداد الصحيحة الموجبةs التي تحقق الخصائص الثلاث المذكورة أعلاه. من خاصية الجمع، يمكننا أن نبين أنه لأي عددين صحيحين n و k ،

${\displaystyle f(n^{k})=kf(n).\,}$

ليكن a و b و t أي أعداد صحيحة موجبة. يوجد عدد صحيح وحيد s يتم تحديده بواسطة

${\displaystyle a^{s}\leq b^{t}\leq a^{s+1}.\qquad (1)}$

لذلك،

${\displaystyle s\log _{2}a\leq t\log _{2}b\leq (s+1)\log _{2}a\,}$

و

${\displaystyle {\frac {s}{t}}\leq {\frac {\log _{2}b}{\log _{2}a}}\leq {\frac {s+1}{t}}.}$

من ناحية أخرى، من خلال الرتابة،

${\displaystyle f(a^{s})\leq f(b^{t})\leq f(a^{s+1}).\,}$

باستخدام المعادلة (1)، نحصل على

${\displaystyle sf(a)\leq tf(b)\leq (s+1)f(a),\,}$

و

${\displaystyle {\frac {s}{t}}\leq {\frac {f(b)}{f(a)}}\leq {\frac {s+1}{t}}.}$

لذلك،

${\displaystyle \left\vert {\frac {f(b)}{f(a)}}-{\frac {\log _{2}(b)}{\log _{2}(a)}}\right\vert \leq {\frac {1}{t}}.}$

بما أن قيمة t يمكن أن تكون كبيرة بشكل تعسفي، فإن الفرق على الجانب الأيسر من المتباينة أعلاه يجب أن يكون صفراً.

${\displaystyle {\frac {f(b)}{f(a)}}={\frac {\log _{2}(b)}{\log _{2}(a)}}.}$

لذا،

${\displaystyle f(a)=\mu \log _{2}(a)\,}$

بالنسبة لثابت ما μ ، والذي يجب أن يساوي 1 وفقًا لخاصية التوحيد.

• إنتروبيا ريني
• الحد الأدنى من الإنتروبيا

• تتضمن هذه المقالة مواد من دالة هارتلي على موقع PlanetMath ، وهي مرخصة بموجب رخصة Creative Commons Attribution/Share-Alike .
• تتضمن هذه المقالة مواد من اشتقاق دالة هارتلي على موقع PlanetMath ، وهو مرخص بموجب رخصة Creative Commons Attribution/Share-Alike .