Първо провери обичайните заподозрени. Предполагам, че си сторил и все пак.

1. С PerfMon виж дали все пак наистина не ядеш мемори или ханделс.
2. Знаеш ли точно на кой ред гърми?
3. Ако ти виси съпорта на главата можеш превантивно се рестартираш в удобен момент.
4. Това число 500 000 можеш ли да постигнеш в тестова обстновка?
5. Моите подозрения са върху 3рд парти компоненти, ако е истина => т.3,

Моя опит е по различен - при мен наистина си беше валиден оутофмемори. Имах Windows Service - вътре много тредове. Лимита на процес е 1.7 гб при нормални условия. Също има проблеми когато свърши РАМ и почнеш да ползваш виртуална памет. За това преди да почна нов итем си проверявам праметрите на системата и стартирам нов процес със съответните параметри.
Нестата са по предвидими