Ciao Luca,
sul sito vmware sono elencati solo componenti "server" testati da vmware, ma con le schede madri desktop non ci dovrebbero essere molti problemi.
mi sento di consigliarti gli Intel NUC, piccoli e potenti, adeguati al tuo scopo, supportano anche ssd nvm su slot m.2... DDR4, i5 ecc...
Comunque poi cercare su google "esxi white box" per avere qualche altro consiglio.