Задача 5




НазваЗадача 5
Сторінка2/5
Дата конвертації10.07.2013
Розмір0.63 Mb.
ТипЗадача
skaz.com.ua > Інформатика > Задача
1   2   3   4   5

Задача 1.5.27. Число символів алфавіту джерела N = 4 (i = 1..N). Ймовірності появи символів джерела

p (x1) = 0,5; p (x2) = 0,25; p (x3) = 0,125; p (x4) = 0,125.

Між сусідніми символами є кореляційні зв’язки, які описані матрицею умовних ймовірностей p (xj / xi) вигляду

.

Визначити ентропію джерела.

Відповідь. Н (Х / Х) = 1,0161 біт/символ.

Задача 1.5.28. Два статистично незалежних джерела А та В визначаються матрицею сумісних ймовірностей

.

Визначити безумовну ентропію цих джерел та ентропію об’єднання.

Відповідь. Н (A) = 1,4855 біт/пов;

Н (В) = 1,571 біт/пов;

Н (АВ) = 2,122 біт/пов.

Задача 1.5.29. Два статистично незалежних джерела А та В визначаються матрицею сумісних ймовірностей

.

Визначити безумовну ентропію цих джерел, часткову та загальну умовну ентропію, ентропію об’єднання, а також кількість інформації, що припадає на пару повідомлень аі, bj.

Відповідь. Н (A) = 1,3367 біт/пов;

Н (В) = 1,5589 біт/пов;

Н (А В) = 0,9693 біт/пов; Н (В А) = 1,1931 біт/пов;

Н (АВ) = 2,5282 біт/пов; І (АВ) = 0,3674 біт.

Задача 1.5.30. Два статистично незалежних джерела А та В визначаються матрицею сумісних ймовірностей

.

Визначити безумовну ентропію цих джерел, часткову та загальну умовну ентропію, ентропію об’єднання, а також кількість інформації, що припадає на пару повідомлень аі, bj.

Відповідь. Н (A) = 1,57095 біт/пов;

Н (В) = 1,57095 біт/пов;

Н (А В) = 1,15097 біт/пов; Н (В А) = 1,15097 біт/пов;

Н (АВ) = 2,72192 біт/пов; І (АВ) = 0,41998 біт.

Задача 1.5.31. Два статистично незалежних джерела X та Y визначаються матрицею сумісних ймовірностей

.

Визначити безумовну ентропію цих джерел, загальну умовну ентропію, ентропію об’єднання.

Відповідь. Н (X) = 1,513 біт/пов; Н (Y) = 0,994 біт/пов;

Н (X Y) = 1,234 біт/пов; Н (Y X) = 0,715 біт/пов;

Н (XY) = 2,228 біт/пов.

Задача 1.5.32. Задано три дискретних джерела інформації X (x1x2x3), Y (y1y2) та Z (z1z2). Ймовірність появи повідомлень p (xi), p (yi) та p (zi) кожного джерела задані векторами

, ,

.

Визначити середню невизначеність кожного джерела та встановити зв’язок між їх ентропіями?

Відповідь. Н (Х) = 1,457 біт/пов; Н (Y) = 0,722 біт/пов;

Н (Z) = 0,918 біт/пов.

Зв’язок між ентропія джерел визначається виразом:

Н (Х) = Н (Y) + [p(x2) + p(x3)]·Н (Z).

Задача 1.5.33. Дискретне джерело інформації X має ентропію Н (Х) = 16 біт/пов, а джерело Y – ентропію Н (Y) = 8 біт/пов.

Визначити умовну ентропію Н (Х / Y), якщо умовна ентропія Н (Y / Х) = 4 біт/пов.

Відповідь. Н (Х Y) = 12 біт/пов.

Задача 1.5.34. Два статистично незалежних джерела X та Y визначаються матрицею сумісних ймовірностей

.

Визначити безумовну ентропію цих джерел, загальну умовну ентропію, ентропію об’єднання.

Відповідь. Н (Х) = 1,561 біт/пов; Н (Y) = 1,561 біт/пов;

Н (X / Y) = 1,439 біт/пов; Н (Y / X) = 1,439 біт/пов;

Н (ХY) = 3 біт/пов.

Задача 1.5.35. Два статистично незалежних джерела А та С визначаються матрицею сумісних ймовірностей

.

Визначити безумовну ентропію цих джерел, загальну умовну ентропію, ентропію об’єднання.

Відповідь. Н (А) = 1,57 біт/пов; Н (С) = 1,36 біт/пов;

Н (А / С) = 1,48 біт/пов; Н (С / А) = 1,21 біт/пов;

Н (АС) = 2,84 біт/пов.

Задача 1.5.36. Повідомлення передаються двійковим кодом. У першому випадку ймовірності появи 0 та 1 дорівнюють відповідно p0 = 0,8 та p1 = 0,2. Завади в каналі зв’язку відсутні, тобто умовні ймовірності переходів 0 в 1 та 1 в 0 дорівнюють нулю. У другому випадку символи передаються рівноймовірно p0 = p1 = 0,5 та в результаті дії завад умовні ймовірності переходів дорівнюють p (1/1) = 0,8; p (1/0) = 0,2; p (0/0) = 0,8; p (0/1) = 0,2. Визначити ентропію повідомлень в обох випадках.

Відповідь. Н1 = 0,7219 біт/символ;

Н2 = 0,3609 біт/символ.

Задача 1.5.37. Два статистично незалежних джерела А та В визначаються матрицею сумісних ймовірностей

.

Визначити безумовну ентропію цих джерел, загальну умовну ентропію, ентропію об’єднання, кількість інформації, що припадає на пару повідомлень аі, bj.

Відповідь. Н (А) = 1,928 біт/пов; Н (В) = 1,993 біт/пов;

Н (А / В) = 1,614 біт/пов; Н (В / А) = 1,679 біт/пов;

Н (АВ) = 3,6069 біт/пов; І (АВ) = 0,3145 біт.

Задача 1.5.38. Який вигляд має матриця ймовірностей об’єднаної системи p (аіbj), якщо умовні ймовірності станів системи А відносно системи B: , безумовні ймовірності системи A: p (a1) = 0,2; p (a2) = 0,3; p (a3) = 0,5?

Відповідь. 

Задача 1.5.39. Визначити загальну умовну ентропію повідомлень, що передаються по каналу зв’язку, який заданий наступною канальною матрицею:

,

символи алфавіту, із яких складені повідомлення, − рівноймовірні.

Відповідь. Н = 0,508 біт/символ.

Задача 1.5.40. Визначити ентропію джерела повідомлень H ( A ), якщо ймовірності появи сигналів на вході приймача p (b1) = 0,1; p (b2) = 0,3; p (b3) = 0,4; p (b4) = 0,2, а канальна матриця має вигляд:

.

Відповідь. H ( A ) = 1,856 біт/символ.
3.5. Контрольні задачі

Задача 3.5.15. Побудувати ОНК методом Шеннона-Фано та визначити середню довжину кодового слова для первинного алфавіту з наступним розподілом ймовірностей: p (аі) = {0,13; 0,16; 0,02; 0,03; 0,6; 0,01; 0,05}.

Відповідь.  = 1,86 біт.

Задача 3.5.16. Побудувати ОНК методом Шеннона-Фано для передачі повідомлень, складених із алфавіту з наступним розподілом ймовірностей букв у повідомленні: A = 0,49; B = 0,14; C = 0,14; D = 0,07; E = 0,07; F = 0,04; G = 0,02; H = 0,02; I = 0,01. Визначити коефіцієнт стиснення та коефіцієнт відносної ефективності.

Відповідь.  = 2,34 біт; Kc.c = 1,355; Ke ≈ 0,989.

Задача 3.5.17. Порівняти середню довжину кодового слова оптимального коду та ентропію первинного алфавіту з наступним розподілом ймовірностей: p (аі ) = {0,18; 0,16; 0,15; 0,13; 0,13; 0,11; 0,07; 0,03; 0,02; 0,02}. Визначити коефіцієнт відносної ефективності.

Відповідь.  = 3,07 біт; H = 3,04; Ke ≈ 0,99.
Задача 3.5.18. Побудувати ОНК Шеннона-Фано для передачі 16 повідомлень за допомогою четвіркового коду з алфавітом q = 4, якщо повідомлення на виході джерела з’являються з ймовірностями p (xi) = {0,22; 0,1; 0,1; 0,08; 0,07; 0,07; 0,06; 0,06; 0,05; 0,05; 0,04; 0,03; 0,02; 0,02; 0,02; 0,01}.

Відповідь.  = 1,92 біт.

Таблиця кодування:

Повідом­лення

0,22

0,1

0,1

0,08

0,07

0,07

0,06

0,06

Код

0

10

11

12

20

21

22

23

Повідом­лення

0,05

0,05

0,04

0,03

0,02

0,02

0,02

0,01

Код

30

31

320

321

330

331

332

333

Задача 3.5.19. Побудувати двійковий ОНК Шеннона-Фано для 8 повідомлень джерела з (xi) = {0,3; 0,2; 0,15; 0,12; 0,1; 0,08; 0,03; 0,02}.

Відповідь.  = 2,68 біт.

Таблиця кодування:

Повідом­лення

0,3

0,2

0,15

0,12

0,1

0,08

0,03

0,02

Код

00

01

100

101

110

1110

11110

11111

Задача 3.5.20. Побудувати двійковий ОНК Шеннона-Фано для ансамблю повідомлень з ймовірностями: 0,16; 0,2; 0,14; 0,4; 0,02; 0,03; 0,05 та визначити ефективність ОНК.

Відповідь.  = 2,39 біт; H = 2,294; Ke ≈ 0,96.

Таблиця кодування:


Повідом­лення

0,4

0,2

0,16

0,14

0,05

0,03

0,02

Код

00

01

10

110

1110

11110

11111
1   2   3   4   5

Схожі:

Задача 5 iconЗадача 1
Задача Розрахувати цехову технологічну собівартість на основі даних практичної
Задача 5 iconЗадача №2
Задача №2. Задано функцію І вектор. Знайти І похідну цієї функціїв точці а за напрямком вектора
Задача 5 iconЗавдання до лабораторної роботи №5: Варіант №1: Задача №1
Задача № Скласти програму для підрахунку кількості цифр у рядку символів, що вводиться з клавіатури
Задача 5 iconЗавдання до лабораторної роботи №2: Варіант №1: Задача №1
Задача №1. Написати програму, що буде друкувати ваше ім.’я, прізвище І з нового рядка – домашню адресу
Задача 5 iconЗадача №1
Задача № Скласти програму, що виводить таблицю значень функції y=2,4x2 + 5x – 3 в діапазоні від -2 до 2 з кроком 0 Вигляд екрану...
Задача 5 icon3. Задача. Збірник різнорівневих задач під ред. І. М. Гельфгат
Основна задача механіки. Матеріальна точка. Система відліку. Прямолінійний рух. Швидкість та прискорення. Криволінійний рух: тангенціальне...
Задача 5 iconЗадача Для особи у віці 42 років розрахувати
Задача При лікуванні свиней ветеринар отримав ушкодження, внаслідок чого йому встановлено першу групу інвалідності. Заробітна плата...
Задача 5 iconЗадача Матеріальну точку масою
Задача Матеріальну точку масою т кинули під кутом  до горизонту з початковою швидкістю V. Нехтуючи опором повітря, знайдіть залежність...
Задача 5 iconЗадача максимально використовувати можливості PowerPoint самостійно обрати: «вид слайдов»
Моя задача максимально використовувати можливості PowerPoint (самостійно обрати: «вид слайдов», «настройку презентации», «настройку...
Задача 5 icon3. Задача. Затверджено на засіданні кафедри: Менеджменту

Додайте кнопку на своєму сайті:
Школьные материалы


База даних захищена авторським правом © 2015
звернутися до адміністрації
skaz.com.ua
Головна сторінка