Теория на информацията

Основните понятия на тази теория бяха въведени през 40-те години на двадесети век от К. Шанън. Информационната теория е науката за процесите на предаване, съхранение и извличане на данни в естествени, технически и социални системи. В много приложения на научни области като компютърни науки, лингвистиката, криптографията, теория на управлението, обработка на изображения, генетика, психология, икономика, организация на производствени методи се използват тази наука.

В съвременните условия с информация теория много плътно свързан с теория кодиране това, най-общия проблем на съвпадение между сигнала и съобщението и теорията на обработка на сигнали, при квантуването проучен и сигнали за възстановяване и Спектрален и корелационен анализ за това.

Информационната теория разглежда основната концепция за "информация" в по-голямата си част от количествената страна, като не отчита стойността си и понякога значението. При този подход на страница текст ще съдържа приблизително същото количество данни, определени от редица знаци и символи, и не зависи от факта, че, строго погледнато, не се отпечатва, дори и ако това е абсолютно безсмислено и хаотичен набор от някои символи.

Този подход е легитимен, но само за моделиране на комуникационни системи, тъй като те трябва да предават точно информацията комуникационни канали, който може да бъде представен от всякакъв набор от знаци и символи. В същото време, когато е необходимо да се вземе предвид стойността и значението на данните, количественият подход е неприемлив. Такива обстоятелства налагат значителни ограничения върху областите на възможно прилагане на тази теория.

Основите на теорията на информацията включват разглеждането на различни въпроси, включително тези, които са пряко свързани с предаването и приемането на данни. Основната схема на комуникация, която се разглежда в учението, е както следва. Теорията на информацията и кодирането смята, че данните се създават от източник на съобщение, който е дума или набор от думи, написани в буквите на определена азбука. Източникът на съобщението може да бъде текст на всяка естествена или изкуствени езици, човешки реч, бази данни и някои математически модели, създаване на последователност от букви. Предавателят преобразува съобщението в сигнал, съответстващ на физическата природа на комуникационния канал - средата за предаване на сигнала. По време на преминаването на такава намеса, която въвежда изкривявания в стойностите на информационните параметри, може да действа върху нея. Приемникът възстановява първоначалното съобщение съобразно получения сигнал с изкривяване. Посланието в възстановената форма се отнася до получателя - някой човек или техническо устройство.

Един от важните проблеми на теорията на информацията е координацията на комуникационния канал и информационните свойства на източника на съобщенията. капацитет се определя от измервателна единица от 1 бита в секунда.

Един от проблемите на комуникационните системи е намесата в пътя на полезен сигнал. Теоремата на Шанън, за съжаление, не ни дава конкретен метод за справяне с такива. Най-простият метод за елиминиране, който се състои в повтаряне на съобщенията, не е много ефективен, тъй като отнема много време предаване на информация. Много по-ефективно е използването на кодове, които могат да откриват и коригират грешки при предаването на информация.