Ballagi Mór fia Kecskeméten látta meg a napvilágot 1853. október 24-én. Egyetemi tanulmányait Budapesten és Heidelbergben folytatta. 1875-76 között a budapesti református gimnáziumban, 1876-77 között a sárospataki akadémián tanított. A budapesti egyetemen a XVII-XVIII. századi egyetemes történettel, külföldi magyar vonatkozásokkal, magyar művelődéstörténettel és nyelvészettel foglalkozott. 1904-ben az MTA rendes tagjává választotta, 1905-1910 között függetlenségi párti képviselő volt.