Ένα από τα ισχυρότερα φρούρια της Μακεδονίας την περίοδο της βυζαντινής αυτοκρατορίας ήταν το Κάστρο που βρίσκεται στο Παλαιό Γυναικόκαστρο, 15 περίπου χιλιόμετρα νοτιοδυτικά του Κιλκίς. Ιδρύθηκε από τον αυτοκράτορα Ανδρόνικο Γ’ τον Παλαιολόγο, ο οποίος το επισκέφθηκε το 1350, ενώ στη συνέχεια πέρασε στην κατοχή του αυτοκράτορα των Σέρβων, Στέφανου Δουσάν. Σύμφωνα με την παράδοση, το κάστρο παραδόθηκε στον Οθωμανό Εβρενό, ύστερα από πολιορκία πολλών μηνών. Ονομάστηκε Γυναικόκαστρο (ΑβρέτΧισάρ) επειδή ήταν τόσο ισχυρό, ώστε μπορούσε να το υπερασπιστεί ακόμα και μια γυναίκα.

Είχε έκταση 25 στρεμμάτων και περικλείονταν από λίθινα τείχη μήκους 1.600 μ. Στη περιοχή ανακαλύφθηκε νεκροταφείο με δεκάδες τεφροδόχα αγγεία, χάλκινα κτερίσματα (βραχιόλια, δακτυλίδια, περιλαίμια) κι επίχρυσα αντικείμενα όπως ένα μοναδικό μικρό δακτυλίδι. Βρέθηκαν επίσης όπλα, και μεταξύ αυτών χάλκινοι διπλοί πέλεκυς που θυμίζουν αντίστοιχους απ’ τη μινωική Κρήτη