Secondo la mitologia greca, il primo abitante di Karpathos fu Titan Iapetos, figlio del Cielo e di Gaia. Tuttavia, i ritrovamenti archeologici hanno dimostrato che l'isola era abitata durante il periodo neolitico e che i Minoici hanno avuto una grande influenza sulla cultura e la storia di Karpathos. L'Acropoli di Arkasa fu costruita dai Micenei dopo il loro arrivo sull'isola nel XIV secolo a.C. Poi arrivarono i Fenici, seguiti dai Dori, che si stabilirono a Karpathos intorno al 1000 aC e portarono grande prosperità all'isola. Nel 478 a.C. Karpathos partecipò alla prima alleanza ateniese. Fu alleato di Atene durante le guerre del Peloponneso che ebbero luogo dal 431 al 404 a.C., ma dopo la sconfitta degli Ateniesi, l'isola soccombette agli Spartani. Divenne nuovamente parte dell'Alleanza ateniese nel 397 aC e divenne indipendente. Karpathos passò dopo vari invasori, come romani, arabi, veneziani, ottomani ed altri. Karpathos partecipò alla rivoluzione greca del 1821, divenne indipendente nel 1823, fu data ai turchi nel 1830, subì un'invasione italiana nel 1912, un'invasione tedesca nel 1943 e infine si unì allo Stato greco indipendente nel 1948.