энтропия и избыточность информации



Автор Stacey задал вопрос в разделе Наука, Техника, Языки

Что такое энтропия избыточности и с чем ее едят?)) и получил лучший ответ

Ответ от Инженер[гуру]
Предполагаю, что слова через запятую идти должны (энтропия, избыточность (информации) .
В информатике энтропия характеризует способность источника
отдавать информацию. Энтропия равна нулю, когда одно из событий достоверно, а другие невозможны. Энтропия максимальна, когда все возможные события равновероятны, и растет с увеличением числа равновероятных состояний. Энтропию независимых систем можно складывать.
Мера возможного сокращения сообщения без потери информации за счет
статистических взаимосвязей между его элементами определяется
избыточностью.
Избыточностью кода называют разность между средней длинной слова и
энтропией.
Источник: http://ref.net.ua/work/det-13119.html

Ответ от Walther karl[гуру]
энтропия - это мера неопределенности, мера незнания. Пример - в розетке 220 вольт, но сколько именно - 219.9999999999997 или 220.0000000000003 вы не знаете.
Избыточность - часть информации, в которой нет необходимости. Пример: "электричество" и "элект-во". В последнем меньше букв, а смысл ясен. Вот и думайте применительно к контексту, что это значит.

Ответ от Junk[гуру]
Это почти как волновая теория света, только не похожа совсем

Ответ от Даниленко Екатерина[гуру]
Энтропия - это термодинамическая функция, которая характеризует неупорядоченность системы.
Вся фишка в том, что все в мире стремится к беспорядку! Вот скажем так эта функция и характеризует этот беспорядок.

Ответ от 3 ответа[гуру]
Привет! Вот подборка тем с ответами на Ваш вопрос: Что такое энтропия избыточности и с чем ее едят?))

Что такое теория информации и какие задачи она решает?
Согласен с Владимиром Т. Добавлю от себя:

Теория информации предназначена в первую
подробнее...
спросили в Байт код
что такое равномерный и неравномерный код в информатике?
В качестве примера равномерного кода можно назвать ASCII-таблицу, где каждому из 256 символов
подробнее...

В чем плюсы и минусы рынка?
на рынке +больше выбора, -больше
подробнее...
спросили в Другое
что вы понимаете под текстовым документом
Текстовый файл — компьютерный файл, содержащий текстовые данные, как правило, организованные в виде
подробнее...
спросили в Кстово
Что вы понимаете под текстовым документом?
Уже спрашивали
Те́кстовый файл — компьютерный файл, содержащий текстовые данные, как правило,
подробнее...
Информационная энтропия на Википедии
Посмотрите статью на википедии про Информационная энтропия
 

Ответить на вопрос:

Имя*

E-mail:*

Текст ответа:*
Проверочный код(введите 22):*