Имеем сервер HP Proliant ML370G5

На нем 4 планки памяти по 1Гб. - работает.

Имеем еще 2 планки по 4 Гб. - вынимаем все планки по 1 Гб, вставляем планки по 4 Гб - работает.

Устанавливаем все планки по 4 Гб и все планки по 1 Гб. - не запускается пищит.

Есть какой-нибудь способ скормить ему планки с разным объемом памяти?

(1) Наверное соблюсти порядок установки планок в систему, на крышке у серверов HP обычно есть схема порядка подключения. В QuickSpecs на сервер есть детальные инструкции по установке памяти, совместимости и какие конфигурации поддерживаются и на что они влияют.

Ставить надо в определенной последовательности парами:
http://h18000.www1.hp.com/products/quickspecs/12478_div/12478_div.pdf
Вначале 1-5, затем 2-6 и т.д.
Ещё посмотреть что именно не устраивает сервер по ошибкам:
http://h20565.www2.hp.com/portal/site/hpsc/template.PAGE/public/psi/mostViewedDisplay/?sp4ts.oid=1121474&spf_p.tpst=psiContentDisplay&spf_p.prp_psiContentDisplay=wsrp-navigationalState%3DdocId%253Dmmr_kc-0100556-8%257CdocLocale%253Den_US&javax.portlet.begCacheTok=com.vignette.cachetoken&javax.portlet.endCacheTok=com.vignette.cachetoken
Часто помогает понять проблема в памяти или схеме установки.