ترميز شانون

في مجال ضغط البيانات ، يُعدّ ترميز شانون ، نسبةً إلى مُبتكره كلود شانون ، تقنيةً لضغط البيانات دون فقدان البيانات ، تعتمد على إنشاء رمز بادئة بناءً على مجموعة من الرموز واحتمالاتها (المُقدّرة أو المقاسة). وهو ليس الأمثل لأنه لا يُحقق أقصر طول مُتوقع لكلمة الرمز كما يفعل ترميز هوفمان ، ولا يتفوق أبدًا على ترميز شانون-فانو (طريقة فانو)، ولكنه يُساويه أحيانًا.

كانت هذه الطريقة الأولى من نوعها، وقد تم استخدام هذه التقنية لإثبات نظرية شانون للترميز الخالي من الضوضاء في مقالته عام 1948 بعنوان "نظرية رياضية للاتصالات"، ^{[ 1 ]} وبالتالي فهي عنصر أساسي في عصر المعلومات.

أدت أساليب ترميز شانون-فانو إلى نشأة مجال نظرية المعلومات، ولولا إسهاماتها لما عرف العالم أيًا من الأساليب اللاحقة العديدة؛ مثل ترميز هوفمان أو الترميز الحسابي . وتتأثر جوانب كثيرة من حياتنا اليومية بشكل كبير بالبيانات الرقمية ، وهذا ما كان ليتحقق لولا ترميز شانون-فانو والتطور المستمر لأساليبه. ^{[ 2 ]}

في ترميز شانون، يتم ترتيب الرموز من الأكثر احتمالاً إلى الأقل احتمالاً، ويتم تعيين كلمات الترميز عن طريق أخذ أول ${\displaystyle l_{i}=\left\lceil -\log _{2}p_{i}\right\rceil }$بتات من التوسعات الثنائية للاحتمالات التراكمية${\displaystyle \sum \limits _{k=0}^{i-1}p_{k}.}$هنا${\displaystyle \lceil x\rceil }$يرمز إلى دالة السقف (التي تقرب${\displaystyle x}$(حتى قيمة العدد الصحيح التالية).

يوضح الجدول أدناه مثالاً على إنشاء نظام ترميز للرموز من _a1 إلى a6 . تمثل قيمة l _i عدد البتات المستخدمة لتمثيل الرمز a _{i . أما} العمود الأخير فيمثل رمز البت لكل رمز.

أنا	باي​	لي​	${\displaystyle \sum _{n=0}^{i-1}p_{n}}$	القيمة السابقة بالصيغة الثنائية	كلمة سرية لـ i
1	0.36	2	0.0	0.0000	٠٠
2	0.18	3	0.36	0.0101...	010
3	0.18	3	0.54	0.1000...	100
4	0.12	4	0.72	0.1011...	1011
5	0.09	4	0.84	0.1101...	1101
6	0.07	4	0.93	0.1110...	1110

شانون، كلود إلوود. "نظرية رياضية للاتصالات." مراجعة الحوسبة والاتصالات المتنقلة ACM SIGMOBILE 5.1 ​​(2001): 3-55.