В большинстве случаев, как Вы правильно заметили, такое чередование происходит в безударной позиции (напр., рог-руги), но в некоторых случаях такое -о- стоит и под ударением.

В приведенных Вами примерах таких случаев нет. Но на самом деле есть.

Раньше краткая форма "го" (его) личного местоимения была всегда безударной и в восточных болгарских диалектах изменилась в "гу". Потом в отрицательных выражениях она стала ударной. Пример: вост-болг. диал "ни гУ виждъм", по норме "не гО виждам".

Не могло ли это отражать древнее болгарское произношение или такое чередование свойственно только в восточных областях? К примеру, как объясняется чередование Болгария/Булгария в письменных источниках средневековья?

Редукция безударных гласных является инновацией (новшеством). Она свойственна русскому языку и восточным диалектам болгарского. В нормированном болгарском языке, в западных его диалектах, в диалектах сербохорватского языка такое явление не было характерно никогда. Так что древнее произношение - без редукции безударных гласных.

Если форма "Булгария" встречается в текстах на болгарском, то более вероятно влияние других языков (турецкого, румынского, польского, греческого и т.д.).