Поредната алабаланица / Наука / Природни науки / Физика

Бъркаш нещата.
The entropy, H, of a discrete random variable X intuitively is a measure of the amount of uncertainty associated with the value of X when only its distribution is known.
От същия източник.
Това именно интуитивно тук не е случайно. Това просто е същото, което и аз казах - за информацията няма точна дефиниция и определение. Тя е понятие, което се възприема интуитивно, и се обяснява с примери.

Най-напред трябва да разберете, че понятието ентропия в теорията на информацията не е идентично с понятието ентропия във физиката. Според мен от тук идват проблемите.
Мярката за информация е бит, съответно кратни и т.н. кило, мега, гига, като особеност тук е, че кило и т.н. не са по 10 на степен 3, а са по степените на 2, т.е. килобит или kbit е 1024 бита. Съответно по-късно във времето е въведена и мярката байт, която в началото не е била същата като сега, а сега 1 байт = 8 бита.

Ентропията в информационната технология е мярка за намаляване неопределеността в знанията ни за даден обект, която се случва с получаването на дадено съобщение, или със осъществяването на някакво събитие. Т.е. свързана е с априорната и апостериорната вероятности.
Тъй че ентропията отново се измерва със същите мерни единици - бит, байт и т.н.
Но това, че знаеш с какво се мери информация, не значи, че знаеш какво е информация.

Мярката за енергия, е излишно тук да я обяснявам. Енергията не е идентична с информация. Толкова е абсурдно, че чак ме е срам, че трябва да го обяснявам, на уж интелигентни и начетени хора.

Мда. не знаете какво е информация. Нямате определение.