L'isola deve il suo nome a Kefalos, il primo re della regione durante il Paleolitico. Secondo la gente del posto, questo re fondò le quattro città principali dell'isola, che erano Sami, Pachli, Krani e Pronoi, e le diede il nome dei suoi figli. Questo spiega perché l'isola fu chiamata Tetrapolis (cioè quattro città) durante questo periodo. Nell'antichità, Cefalonia ha partecipato alla guerra persiana e del Peloponneso insieme ad Atene e Sparta. I romani occuparono l'isola nel 187 aC dopo mesi di combattimenti contro la resistenza degli abitanti dell'isola. A quel tempo l'antica Acropoli di Sami fu distrutta. I romani usarono l'isola come punto strategico che li avrebbe aiutati a conquistare la terraferma. In questo periodo Cefalonia subì molto e spesso le invasioni e le incursioni dei pirati. La minaccia dei pirati continuò ad aumentare durante il periodo bizantino mentre nell'XI secolo l'isola passò sotto il dominio dei Veneziani e degli Spagnoli. La capitale si trasferì ad Argostoli che lo è ancora oggi. Il dominio veneziano terminò nel 1797 con l'arrivo dei francesi. Dopo il Trattato di Parigi, nel 1809, le Isole Ionie passarono sotto il dominio degli Inglesi e fu fondato lo Stato Ionico. Nonostante Cefalonia, come le altre isole ioniche, sia rimasta sotto il dominio britannico e sia sfuggita al dominio turco, i suoi abitanti hanno aiutato finanziariamente la rivoluzione greca per l'indipendenza dagli ottomani che dominavano il resto della Grecia. Cefalonia fu unita al resto della Grecia indipendente nel 1864, contemporaneamente al resto delle altre Isole Ionie.