Вариация

Здравейте!
Може ли някой да ми каже определение за понятието "вариация"?
Имам предвид, не определение за измерителите на вариацията (дисперсия, стандартно отклонение и др.), а за това какво трябва да разбираме под вариация на една променлива?
Правилно и достатъчно прецизно ли е следното определение:
"Казваме, че една променлива X варира около стойността Xср, ако при достатъчно на брой проявления, получава стойности Xi, чиято средна е Xср?
Благодаря ви!

Очевидно, въпросът за вариацията не предизвиква интерес. Навярно защото понятието "вариация" се смята за толкова добре познато, че не си струва да се дискутира. И наистина, където и да потърсиш обяснение за вариацията, срещаш едно и също - отклоненията на стойностите на случайната величина от тяхната средна.
Това обаче, съвсем не винаги е вярно и за да го докажа, ще дам един прост пример:
Представете си, че от една урна, в която има сто топки с номера от 1 до 100, сте извадили 5 топки - с номера 9, 32, 46, 77 и 91. Средната аритметична на тези пет номера е 51 и можем да кажем, че номерата на извадените топки варират около това число, като вариацията, измерена с дисперсията е еди-колко си (не ми се смята сега).
Така...
Сега си представете, че петте топки със същите номера са извадени не от една, а от пет урни, в които има различен брой топки с различни номера. Например, в първата - от 1 до 20, във втората - от 5 до 45, в третата - от 32 до 71, в четвъртата - от 70 до 80, и в петата - от 60 до 100.
Във втория случай, номерата на петте извадени топки имат същата средна аритметична 51 и същата дисперсия, както и в първия.
Означава ли обаче, че тези номера варират около числото 51?
Как мислите?

От 1 до 100 варират около (1+100)/2 = 50.5.
По другия начин варират около (1+20+5+45+32+71+70+80+60+100)/10 = 48.4.

Това средната на номерата на всички топки ли е? Това ли се получава?
Обаче мисля, че не си права.
Мисля, че номерът на всяка топка варира около средната аритметична на номерата на топките в кутията, от която е извадена.
Първата - около 10,5, втората - около 25, третата - около 51,5 и т.н.
Просто имаме не една случайна величина, а пет независими една от друга случайни величини.
И ако направим не един, а няколко последователни експеримента с вадене на пет топки от петте урни, ще се убедим в това.
Ще се убедим също, че не винаги когато имаме група числа, те варират около средната си аритметична.
Съгласна ли си с това?

А не избираш ли урната случайно измежду 5-те? Във втория случай pdf (probability density function) може да ти е "накъдрена", но mean-а си е към средата.

Това, за което вероятно говориш е "mode", който по принцип е "global", но може да се разгледа и в "local" вариант.

В отговор на:

---

Slightly confusingly, when a probability density function has multiple local maxima it is common to refer to all of the local maxima as modes of the distribution. Such a continuous distribution is called multimodal (as opposed to unimodal).

---

[линк]
[линк]

Вариацията се изчислява около mean-а, а не около мода. Също не съм жена.

Извинявай, тогава.
Не, не избирам урна от петте.
Всеки път вадя по една топка от петте урни.
И след няколко опита ще стане горе-долу ясно около какви средни варират номерата на топките.
Обаче, аз давам този пример с друга идея.
Според мен, много пъти числата се разглеждат като вариация на една променлива, а те би трябвало да са на много променливи.
Ето един пример, който може и да съм показвал по друг повод.

[линк]

Тук изчисляват зависимостта между два признака за няколко държави, като приемат, че двата признака варират около една двойка средни. Т.е., че става въпрос за сравняване на вариациите на две променливи.
Според теб обаче, това две променливи ли са или две групи променливи - колкото са държавите?
Това ми е мисълта?

Вярно е, че варират около 1 набор от средни (mean), но може да са "мултимодални", което е нещо различно.

За дадения пример стигат две променливи - по x и по y. Друг е въпросът, че с 2 променливи може да имаш някаква сложна зависимост, докато с 3-4 променливи може да докараш нещо по-опростено. Обаче примерно ако имаш нещо като X в [0, 1/2) е 3x, а в [1/2, 1] e 2x^2, за това нямаш нужа от 2 променливи, защото и така си е достатъчно просто дефинирано. Иначе всяка random variable като Х може да репрезентира произволно сложна вероятностна функция.

Всъщност можеш да разгледаш две групи променливи, но каква статистическа теория ще използваш за изводи?

Коефициента на вариация е стандартното отклонение върху математическото очакване. Коефициента на вариация има t-разпределение (ако не ме лъже паметта).

Няма никакъв проблем да извадиш каквито и да е топки от каквито и да е урни. Както няма проблем и при 100 хвърляния на монета да се падне 100 пъти ези.

Ами и на мен не ми е известно да има такава теория.
Обаче ако наистина са групи променливи, това че няма такава теория, не е оправдание да се използват грешни теории.
Може да прозвучи нескромно, но мисля, че измислих една теория за зависимости между групи променливи.
И в нея се получи така, че традиционните коефициенти на регресия и корелация се оказаха частни случаи на моите.
Пратих една статия с тази теория в две реномирани списания, но я отхвърлиха - нямало научен принос в нея.
Забележи - не защото ми е грешна теорията или защото вече някой друг я е измислил, а защото нямала научен принос.
Това е тъпо, защото статия, която ревизира една 130-годишна теория може да има много недостатъци, но не и този, че няма научен принос.
Показах я на един професор по математика и той изглежда я хареса, защото ми предложи да я публикува в списание на Руската академия на науките, но преди това искаше да я оправи някои неща в нея и да станем съавтори.
Аз, естествено не се съгласих.
Сега ми хрумна да вмъкна в статията примера с топките и да я пратя на трето списание.
Дано да вдянат за какво става въпрос.

"Няма никакъв проблем да извадиш каквито и да е топки от каквито и да е урни."

Ами няма проблем, и аз това казвам.
Въпросът е обаче, че ако са извадени от различни урни, не варират около средната си аритметична.
И ако изчисляваш дисперсията им около тази средна аритметична и я използваш за нещо (например да измерваш зависимости), значи си в голяма грешка.
Ето, в примера с графиката, измерват зависимостта между двата признака, като изхождат от презумпцията, че стойностите на тези два признака варират около средните за държавите стойности.
Това според мен е напълно погрешно.
Да варират стойностите на БВП на различните държави около средния БВП за всички държави означава, че ако вемем данните за няколко поредни години (т.е. ако проведем опита не веднъж, а няколко пъти), БВП на всяка от държавите да е ту по-висок, ту по-нисък от средния.
Същото се отнася и за другия признак.
Значи, ако нанесем на координатите точките на държавите не за една, а за няколко години, точката на Пакистан да е ту в долния ляв ъгъл, където и в момента, ту в горния десен, където сега е Норвегия, ту някъде по средата, където сега са Чехия и Унгария.
Същото се отнася и за точките на останалите държави - трябва да се местят ту в единия край на графиката, ту в другия.
Има ли смисъл, да казвам, че това е пълен абсурд?

Приложи нагледно твоята теория към примера с топките и урните, да видим какъв научен принос дава? Аз лично не видях нищо парадоксално или противоречиво в това, че средната аритметична и дисперсията са еднакви в двата случая.

Аз не съм казвал, че е парадоксално или противоречиво.
Казвам, че в примера с много урни, средната аритметична не е център на разпределението и номерата на извадените топки не варират около нея.

Статистическите оценки се дават с вероятност за грешка. Ако от 100 хвърляния се паднат 100 ези статистическият извод ще е, че монетата е фалшива, а тя всъщност да не е фалшива.

Това твърдение няма особен смисъл преди да дефинираш прецизно какво според теб означава "център на разпределението" и това номерата да "варират" около средно-аритметичното.

За бимодални разпределения има дефинирани множество алтернативни статистически параметри, които дават по-добро описание на въпросните разпределения:
[линк]

От там може и да се генерализира за мултимодални разпределения, например това с 5-те различни урни. Това, че mean и standard deviation не дават оптимална информация за мултимодални разпределения не е нищо ново.

Ти може и да си дефинирал някакъв нов параметър, който дава по-добро описание за мултимодални разпределения, може и да не си - тва няма как да стане ясно, без да дадеш подробно описание. Иначе идеята, заложена в примера с урните, че средно-аритметичното и дисперсията са недостатъчни, или дори подвеждащи, за пълно описание на някои разпределения, е напълно позната и подробно разисквана в литературата.

"Това твърдение няма особен смисъл преди да дефинираш прецизно какво според теб означава "център на разпределението" и това номерата да "варират" около средно-аритметичното."

Ами аз затова започнах с въпроса някой дали може да обясни какво е вариация, но без да използва понятия като дисперсия и т.н.

Ето какво казва уикито за случайната променлива:

In probability and statistics, a random variable, aleatory variable or stochastic variable is a variable whose value is subject to variations due to chance (i.e. randomness, in a mathematical sense).[1]:391 A random variable can take on a set of possible different values (similarly to other mathematical variables), each with an associated probability (if discrete) or a probability density function (if continuous), in contrast to other mathematical variables.

Значи, под случайна величина разбираме такава величина, която може да приема различни стойности. Тези стойности се разпределят около някаква стойност, която наричаме център на разпределението на случайната величина.
Положителните и отрицателните отклонения на стойностите на величината от центъра на разпределението, наричаме вариране или вариация на тези стойности, а оттам - и на случайната величина.
Това обаче, не означава, че като имаме i броя стойности на случайни величини, те са разпределени около тяхната средна. Защото може да не са на една случайна величина, а на i броя случайни величини.
Казано по друг начин, ако имаме една случайна величина Х, при i броя нейни проявления, ще имаме i броя стойности на величината - Хi.
Ако обаче имаме i броя различни случайни величини с по едно-единствено проявление, пак ще имаме i броя стойности Хi.
Тогава, когато разполагаме с данни само за стойностите Хi, какво ни дава право да смятаме, че те са стойности на една случайна променлива, а не на много такива променливи?
Особено пък, както е в примера с двата показателя за държавите, където стойностите на тези показатели са в един и същ момент.
И тук не става въпрос за многомодално разпределение, защото то пак е разпределение на една променлива, а за множество разпределения на различни променливи. 130-модално разпределение ли трябва да разглеждаме в този пример?

Затова, за да разберем дали става въпрос за една променлива или за много променливи, трябва да я оставим (или да ги оставим), те да се проявят многократно. Тогава ще разберем около какви центрове на разпределение варират тези стойности.

Както е казал Джордано Бруно: "Time is the father of truth…"

"Приложи нагледно твоята теория към примера с топките и урните, да видим какъв научен принос дава?"

Ето ти един пример:

2010г. 2011г. 2012г. 2013г.
Ст. Пр. Ст. Пр. Ст. Пр. Ст. Пр.
10 145 11 130 12 115 13 100
12 165 13 150 14 135 15 120
14 185 15 170 16 155 17 140
16 205 17 190 18 175 19 160

В тази таблица са дадени продължителността на трудовия стаж и производителността на труда на четирима работници в четири последователни години.
Според теб, каква е зависимостта на производителността от стажа на четиримата работници? Няма нужда да изчисляваш коефициенти, само ми кажи дали е положителна или отрицателна?

Извинявай за лошия вид на таблицата.

"Тогава, когато разполагаме с данни само за стойностите Хi, какво ни дава право да смятаме, че те са стойности на една случайна променлива, а не на много такива променливи?"

Не е необходимо да приемем, че това са стойности на една случайна променлива. Най-често приемаме, че това сa стойности на i различни променливи, като тези променливи са независими и с идентично разпределение (i.i.d. - independent and identically distributed). Това е необходимо условие за Central Limit Theorem, и тази теорема естествено е в основата на тия статистически теории, които се опитваш да ревизираш.

Първо, условието променливите да са i.i.d. не винаги е толкова абсурдно, колкото май ти се опитваш да го представиш, и много често е напълно приемливо от практическа гледна точка.

Второ, има редица статистически тестове които могат да проверят дали данните, с които работиш, отговарят на условията на CLT: non-parametric tests for independence & autocorrelation, Kolmogorov-Smirnov tests for identical distributions. Не е нужно да "приемем" условията на CLT без проверка.

Трето, дори и след проверката да установим, че едно (или повече) от условията не са изпълнени, съществуват генерализации на CLT: например, CLT с променливи които са идентично разпределени, но не са независими. Или - което изглежда е близко до твоя пример с урните - CLT за променливи, които са независими, но имат различни (не-идентични) разпределения (виж Lindeberg-Feller Central Limit Theorem).

[линк]

Въпросите, които задаваш, имат смисъл в основата си, но не мисля, че си достатъчно запознат със съществуващата теория по темата - доста хора преди теб са задавали подобни въпроси и са развивали теорията задълбочено в тази насока. Най-вероятно затова ти отговарят от разни списания, че вижданията ти, дори и да са правилната посока, не представляват "научен принос."

"Не е необходимо да приемем, че това са стойности на една случайна променлива. Най-често приемаме, че това сa стойности на i различни променливи, като тези променливи са независими и с идентично разпределение (i.i.d. - independent and identically distributed)."

Идентични, идентични... Колко да са идентични тези разпределения?
В графиката с различните държави, идентични ли са разпределенията на техните БВП на човек от населението?
И ако са идентични, означава ли това, че тези БВП варират около еднакви или близки по стойности средни?
Щото горе вдясно на графиката е изчислен коефициента на детерминацията и е изчислен от една обща средна.
Значи, тоя който го е изчислявал е приел, че тази обща средна е валидна за всички държави.
Според теб, БВП на Пакистан и Швейцария около еднакви средни ли варират? Според мен - не. Ако не вярваш, опитай с някой от тестовете, дето си ги изброил.


"Въпросите, които задаваш, имат смисъл в основата си, но не мисля, че си достатъчно запознат със съществуващата теория по темата - доста хора преди теб са задавали подобни въпроси и са развивали теорията задълбочено в тази насока."

Е добре тогава, ти като си по-запознат от мен, отговори ми на въпроса за зависимостта на производителността от стажа в таблицата - положителна ли е или отрицателна?

Може би най-съществената грешка на регресионния и корелационен анализ се вижда много добре от следния текст в уикито:

[линк]

"Когато R е с положителен знак има права зависимост между двете променливи. При нарастване на X, нараства и Y. Когато знакът е отрицателен, има обратна зависимост. С нарастване на X, намалява Y."

Корелационният коефициент, поне както се прилага в регресионния и корелационен анализ, не може да покаже дали с нарастването на X, нараства и Y, или обратно, защото се прилага за стойностите на X и Y в един-единствен момент и това, че в този момент на по-високите стойности на X, съответстват по-високи стойности на Y, и обратно, изобщо не означава, че ако стойностите на X се увеличат, ще се увеличат и стойностите на Y, и обратно.
Примерът със стажа и производителността на работниците показва точно това.

Така стигаме до фундаменталния въпрос, на който регресионният и корелационен анализ не само не отговарят, ами - както личи от цитата, изобщо не си го и задават:
Какво трябва да разбираме под зависимост между два признака - съответствието между техните стойности или съответствието между измененията на тези стойности?
Защото в 99,9% от случаите, при едни и същи признаци, тези две съответствия са различни, а понякога - диаметрално противоположни.