Como o objetivo inicial da CP era ligar Jundiaí a Campinas, a designação original da ferrovia era Companhia Paulista da Estrada de Ferro de Jundiahy e Campinas. As obras foram iniciadas em 1870, adotando-se sabiamente a mesma bitola de 1.60 m utilizada pela São Paulo Railway. A linha, com cerca de 45 km, foi inaugurada em 11 de agosto de 1872, gozando das mesmas garantias de juros e privilégios de zona estabelecidos na concessão de SRP. Já no segundo trecho, no entanto, até Rio Claro, a oferta da Paulista abria mão das garantias de juros trocando-a por maior liberdade tarifária, “princípio este de mais justa eqüidade – segundo um comentarista de época – por fazer pesar exclusivamente sobre os que deviam gozar as vantagens da estrada os ônus porventura decorrentes da empresa”.

A ousada visão empresarial da CP manifestava-se desde a época de sua construção, e passou a ser uma das suas características mais marcantes de toda a sua história como empresa privada independente. O traçado de suas linhas mantinha raio de curva mínimo de 300 m e rampa máxima de 2%, o que pode parecer muito para os trens pesados de hoje, mas era estado da arte na virada do século. Havia também visão logística. Quando os trilhos chegaram às margens do Mogi-Guaçu a CP organizou um extenso sistema de navegação fluvial, dando uma demonstração pioneira (depois de Mauá) de integração de transporte intermodal.

Todo o empreendimento na construção da Paulista foi feito sem um único empréstimo estrangeiro, sendo financiado apenas pela emissão de ações da própria companhia. Seus incorporadores eram todos abridores e proprietários de terras no oeste paulista, tinham ali os seus interesses e tudo fazia parte do processo da estrada de ferro. Foi o casamento perfeito entre os usuários e a estrada de ferro, e ninguém na época se lembrou de falar em centro de custo.

“A quem, senão os agricultores, capitalistas e negociantes da província, cabe a iniciativa disso? (o prolongamento da ferrovia) perguntava-se Saldanha Marinho em 1868 (Odilon de Nogueira Matos, op. Cit.). E procederá contra essa idéia o capcioso argumento de se achar a lavoura onerada de grande dívida? Basta refletir com calma, desprezando razoavelmente, quer os sofismas do credor, cuja fortuna pode aumentar com a continuação do atual estado de coisas, que os temores do devedor, que se desviará ao peso de seus presentes empenhos, para bem compreender que esse argumento produz em contrário. Se a lavoura está orneada só poderá salvar-se procurando aumentar o valor líquido de seus produtos e isto só o conseguirá obtendo mais fácil e mais barato transporte dos mesmos produtos para o mercado. E se para consegui-lo, um sacrifício mais é indispensável, deixar de faze-lo é menosprezar os próprios e mais variados interesses.

Fase de expansão

A Companhia Paulista foi desde o início uma empresa bastante lucrativa, continuando a expandir suas linhas por Mogi-Guaçu, Porto Ferreira, Araraquara, Bebedouro, Barretos, Piracicaba, Jaú, e Baurú, quer fosse construindo suas próprias linhas, quer através da compra de pequenas ferrovias já estabelecidas na região. Inclusive a The Rio Claro São Paulo Railway Company, incorporada em Londres, adquirida em 1892, tornando-se um raro exemplo de ferrovia privada nacional.

A eficiência da CP não tardou no entanto a atrair o investimento estrangeiro, e 38% de suas ações foram adquiridas por Percival Farquhar em 1908. A Paulista, então sob a sólida administração do lendário Conselheiro Antonio Prado, foi considerada por Farquhar como a ferrovia brasileira mais bem administrada.

Ao final da Primeira Guerra Mundial, a Paulista como as demais ferrovias brasileiras sofria seriamente os efeitos da retração econômica. Foi nesta época, que o engenheiro Francisco de Monlevade - outra lendária figura da história da Paulista - fez um dos investimentos mais ousados e bem sucedidos de toda a história das ferrovias brasileiras, contratando a eletrificação da linha tronco entre Jundiaí e Campinas. Esta eletrificação, inaugurada em 23 de julho de 1922, e que foi posteriormente expandida em mais 286 km até Rincão em dezembro de 1928, garatiu a manutenção da eficiência e economia que tornaram a CP o padrão de referência dentre as ferrovias no Brasil e a última delas a resistir ao avanço do estado.