Знаймо

Додати знання

приховати рекламу

Цей текст може містити помилки.

Теорія інформації



План:


Введення

Теорія інформації (математична теорія зв'язку) - розділ прикладної математики, аксіоматично визначає поняття інформації [1], її властивості і встановлює граничні співвідношення для систем передачі даних. Як і будь-яка математична теорія, оперує з математичними моделями, а не з реальними фізичними об'єктами (джерелами і каналами зв'язку). Використовує, головним чином, математичний апарат теорії ймовірностей та математичної статистики.

Основні розділи теорії інформації - кодування джерела ( стискуюче кодування) і канальне ( завадостійке) кодування. Теорія інформації тісно пов'язана з криптографією та іншими суміжними дисциплінами.


1. Історія

Клода Шеннона ( 1916 - 2001) називають [2] "батьком теорії інформації". Розроблена ним теорія дала інженерам-розробникам систем передачі даних можливість визначення ємності комунікаційного каналу. Частина теорії, що вивчає передачу інформації, не займається значенням ( семантикою) переданого повідомлення, однак доповнює частина теорії інформації звертає увагу на вміст через стиснення з втратами суб'єкта повідомлення, використовуючи критерій точності.

Розроблені Шенноном в 40-х роках основи теорії інформації в наступні роки були істотно доповнені і розширені роботами Н. Вінера, В. А. Котельникова і А. Н. Колмогорова.


2. Застосування

Досягнення та методи теорії інформації широко використовуються в

Примітки

4. Бібліографія

  • Claude E. Shannon, Warren Weaver. The Mathematical Theory of Communication. Univ of Illinois Press, 1963. ISBN 0-252-72548-4
  • Thomas M. Cover, Joy A. Thomas. Elements of information theory New York: Wiley, 1991. ISBN 0-471-06259-6
  • R. Landauer, Information is Physical Proc. Workshop on Physics and Computation PhysComp'92 (IEEE Comp. Sci.Press, Los Alamitos, 1993) pp. 1-4.
  • Maxwell's Demon: Entropy, Information, Computing, HS Leff and AF Rex, Editors, Princeton University Press, Princeton, NJ (1990). ISBN 0-691-08727-X
  • Шеннон К. Роботи по теорії інформації і кібернетики. - М.: Изд. иностр. лит., 1963. - 830 с.
  • Колмогоров А. Н. Три підходи до визначення поняття "Кількість інформації" Нове у житті, науці, техніці. Сер. "Математика, кібернетика", N1, 1991, С.24-29. Передрук з "Проблеми передачі інформації", N1, 1965, С.1-7.
  • MacKay, David. Information Theory, Inference, and Learning Algorithms - www.inference.phy.cam.ac.uk/mackay/itila/ - Cambridge University Press, 2003. - ISBN 9780521642989.

Цей текст може містити помилки.

Схожі роботи | скачати

Схожі роботи:
Алгоритмічна теорія інформації
Нат (теорія інформації)
Надмірність інформації
Цілісність інформації
Розкриття інформації
Витяг інформації
Кількість інформації
Асиметричність інформації
Свобода інформації
© Усі права захищені
написати до нас