Kalarrites ist, wie das nahegelegene Bergdorf Syrrako, vollständig aus Stein erbaut. Diese beiden Bergdörfer werden oft in einem Atemzug genannt. Kalarrites liegt 1200 Meter höher als Syrrako, ist aber mit nur 130 Einwohnern deutlich kleiner.
Antike Funde belegen, dass das Dorf bereits in der Bronzezeit besiedelt war. Die Blütezeit von Kalarrites erlebte es im 18. Jahrhundert, als zahlreiche Silberschmiede und bedeutende Kaufleute dort lebten. Die Einwohner handelten mit Wolle, die in großen Mengen in Länder rund um das Mittelmeer und das Schwarze Meer exportiert wurde. Während des griechischen Unabhängigkeitskrieges wurde ein Großteil von Kalarrites zerstört, um die Straße zwischen Thessalien und Ioannina zu blockieren. Die Bewohner flohen und kehrten erst 1913 zurück, um das Dorf wieder aufzubauen. Bis zum Ausbruch des Zweiten Weltkriegs wuchs Kalarrites stetig.
Eine der Hauptattraktionen von Kalarrites ist das alte Kaffeehaus, das sich mittlerweile in fünfter Generation im Besitz der Familie befindet. Man sagt, Napoleons Urgroßvater habe dieses Café gegründet, und seitdem habe sich nichts verändert.