Os irmãos Mack (John, Augustus e William) começaram a construir carroças por volta de 1893, mas logo receberia encomendas de veículos motorizados e em 1900 fariam o seu primeiro ônibus e, pouco tempo depois, fariam seu primeiro caminhão.
O primeiro produto de sucesso foi a linha Manhattan, mas o que fez a companhia crescer de fato foram os caminhões AB que fizeram muito sucesso tanto no uso civil, quanto no militar, onde muitos serviriam na Europa durante a Primeira Guerra Mundial.
Devido ao formato de sua frente, os soldados apelidaram os caminhões AB de “buldogue” e a companhia acabaria adotando o animal como mascote nos anos 20, sendo que ele adorna o logo da companhia até hoje!
A partir dos anos 30, a companhia se interessou em desenvolver motores Diesel para seus produtos, porém o desenvolvimento foi interrompido com o início da Segunda Guerra Mundial, já que passaram a fornecer modelos para uso militar para as forças armadas.
No pós-guerra, a companhia continuou o desenvolvimento de seus motores e ganharia mais força após firmar aliança com a companhia sueca Scania-Vabis ao final dos anos 40. Nos anos 50, a Série B faria muito sucesso, principalmente os modelos com motores feitos em conjunto com a Scania-Vabis.
Dentre todas as companhias, a Mack era uma das únicas que fabricava seus próprios motores Diesel nos Estados Unidos (porém a empresa também oferecia modelos terceirizados). Em 1960, a companhia encerrou a produção de ônibus e passou a focar somente na produção de caminhões.
Em 1965 lançam a bem sucedida Série R que seria produzida por muitas décadas e também surge o primeiro motor V8 a Diesel que a Scania-Vabis adotaria só no final da década.
Nos anos 80, a companhia francesa Renault comprou a empresa, porém não interferiu nas atividades da mesma, sendo que nessa época já comercializava a linha Super-Liner (frente recuada) e Ultra-Liner (cabine avançada).
No ano 2000, a Renault foi comprada pela Volvo e com isso, a filial dos Estados Unidos da empresa sueca assumiu a Mack. A partir da metade dos anos 2000, os motores da Mack passariam a ter projetos de origem Volvo.
Atualmente, a Mack é uma das mais tradicionais fabricantes de caminhões dos Estados Unidos, tendo uma grande legião de fãs e clientes fiéis a companhia.