Sent på 1800-tallet holdt Daniel Best og Benjamin Holt på med utvikling av damptraktorer for landbruket. I 1904 hadde damptraktorer vært i bruk på åkrene i California i 14 år, og noen ganger ble disse sittende fast i det bløte jordsmonnet, spesielt etter regn. De svære maskinene var vanskelig å få løs, selv med store hestespann. Holt hadde en idé – hvorfor ikke la kjøretøyet ta med seg veien? Den 24. november 1904 la han et belte med treklosser på rundt hjulene på Holt No. 77, testtraktoren sin. Resultatet var oppløftende, og den moderne beltetraktoren var født.
Selskapet Caterpillar ble stiftet 15. april 1925 da Holt Manufacturing Company fra Stockton, California og C. L. Best Gas Traction Company fra San Leandro, California slo seg sammen og dannet Caterpillar Tractor Co. Salget det første året kom opp i USD 13 millioner, og i 1929 hadde det klatret opp til USD 52,8 millioner. Salget fortsatte å gå opp selv gjennom depresjonen på 1930-tallet.
Etter sammenslåingen var selskapet tidlig ute i å ta i bruk dieselmotorer. Caterpillar-produkter ble tatt med verden rundt under andre verdenskrig av den amerikanske marinen, som bygget flyplasser rundt i Stillehavet. Etter krigen økte selskapets størrelse raskt, og det første utenlandskontoret ble startet i 1950, noe som markerte Caterpillars utvikling til å bli et multinasjonalt selskap.
På 1980-tallet gikk selskapet nesten konkurs da etterspørselen dabbet av. Caterpillar var også involvert i store konflikter mellom arbeidere og ledelse på 1980- og 1990-tallet. Mot slutten av 1990-tallet tok økonomien seg opp igjen og selskapet gikk bedre.
Caterpillar har også vært involvert i flere kontroverser. Én er leveranse av utstyr til den israelske hæren, som har brukt dette i konflikter med palestinerne. En annen er bruk av Caterpillar-utstyr i skogbruk i sårbare områder eller i rovdrift på naturen.
Caterpillars produkter går fra diesel- og gassmotorer og gassturbiner til strømaggregater/generatorsett, beltetraktorer, hydrauliske gravemaskiner, veihøvler, tunge terrenggående lastebiler, jordbrukstraktorer. De brukes i byggebransjen, til vegbygging, gruvedrift, skogbruk, i energibransjen og til transport. Caterpillars beltetraktorer ga inspirasjon til de første stridsvognene som kom under første verdenskrig.