Проблемът ти вероятно не е в липсата на памет, а на адресно пространство.
Не знам как е написана програмата и дали по принцип може да се възползва от по-голямо адресно пространство, но в общи линии нещата опират до следното:

С едно 32 битово число могат да се адресират 4 GB памет (4096 MB). Това е виртуалното адресно пространство на програмата и ако по дефиниция тая програма се очаква да гълта толкова памет, значи вероятно е написана така че да може да се възползва ако операционната система може да предостави повече. Та пробвай я или на 64 битова операционна система (предполагам има 64 битова версия), или на някоя от по-скъпите 32-битови (2003 сървър, примерно), които с разни техники успяват да адресират повече памет.

Често ако човек не може да се събере в няколко гигабайта памет това е симптом, че или програмата нещо й куца, или задачата която й е дадена няма да се събере и в значително повече памет. Та мисълта ми е виж да оптимизираш самата симулация от към разход на памет.

System Doctor Error:
Your girlfriend is pregnant.
(A)bort, (M)arry, (I)gnore?_