В греческой мифилогии указывается, что остров Кимолос получил свое название по имени первого жителя Кимолоса. Позднее его называли Эхинуса.

Остров заселен, по крайней мере, со времен микенского периода, а в затонувшей цитадели и некрополе в регионе Эллиника найдены предметы микенского, геометрического, архаичного, а также классического периодов. Видимо, город был заселен местными жителями вплоть до начала христианского периода.

Со времен античности Кимолос известен тем, что здесь добывали мел - важный источник богатства острова - и выращивали исключительный инжир. В 3 веке до н.э. здесь в ходу были свои собственные деньги.

В средние века Кимолос находился в руках венецианцев и носил название Арзантьера. Во времена венецианского и турецкого владычества остров сильно страдал от пиратов, поэтому в 18 столетии он обезлюдел.