Selon la mythologie grecque, le premier habitant de Karpathos était Titan Iapetos, fils du Ciel et de Gaïa. Cependant, les découvertes archéologiques ont prouvé que l'île était habitée pendant la période néolithique et que les Minoens ont eu une grande influence sur la culture et l'histoire de Karpathos. L'Acropole d'Arkasa a été construite par les Mycéniens après leur arrivée sur l'île au 14ème siècle avant JC. Puis vinrent les Phéniciens, suivis des Doriens, qui s'installèrent à Karpathos vers 1000 av. J.-C. et apportèrent une grande prospérité à l'île. En 478 avant JC, Karpathos a participé à la première alliance athénienne. L'île était une alliée d'Athènes pendant les guerres du Péloponnèse qui ont eu lieu de 431 à 404 avant JC, mais après la défaite des Athéniens, l'île a succombé aux Spartiates. Elle est redevenue membre de l'Alliance athénienne en 397 avant JC et est devenue indépendante. Karpathos a connu divers envahisseurs, tels que les Romains, les Arabes, les Vénitiens, les Ottomans et autres. Karpathos a participé à la Révolution grecque de 1821, est devenue indépendante en 1823, a été donnée aux Turcs en 1830, a subi une invasion italienne en 1912, une invasion allemande en 1943 et a finalement rejoint l'État grec indépendant en 1948.