update rdb$database set RDB$CHARACTER_SET_NAME='WIN1251'

Но това не се отнася към проблема ти "че сега търсенето е чувствително на малки и главни букви"
За него трябва да ползваш COLLATE при създаването на полетата (домейните) или в селекта. Напр.:
select ID, VarcharField from MyTable order by VarcharField collate WIN1251