Герберт вырос в большой семье — у него было 12 братьев и сестер. Большая часть детства прошла в Оук-Парке. Еще в 1880-х отец основал компанию, которая занималась производством торговых автоматов. Чуть позже он получил патент на модернизацию устройства для продажи сигарет. В 1890-х появилась компания MBM Cigar Vending Company.
Почти все Миллсы принимали участие в семейном бизнесе. Больше всего усилий проявлял Герберт. В 1898-м 26-летний предприниматель выкупил у отца контрольный пакет акций. После этого изменил название компании на Mills Novelty Company, Inc.
К этому моменту она успела выпустить первый игровой автомат — Mills Owl. Помимо больших размеров слот отличался музыкальным сопровождением. Достаточно было бросить монетку и повернуть ручку, чтобы запустить колесо с совами. Принцип работы был похож на рулетку — если указатель останавливался на определенном цвете, игрок получал выплату.