En la zona más alta de la villa se asientan el castillo y la parroquia, que ofrecen una bella visión de conjunto desde la Cruz de San Pedro.
El castillo musulmán era una antigua fortaleza de época musulmana que comenzó a erigirse en el siglo VIII (probablemente por pobladores hispanogodos).
Los muros de sillería que lo delimitan llevan torres cuadradas en las esquinas, y entre ellas destaca la del homenaje.
En torno a la fortaleza discurre el recinto amurallado de la primitiva villa, obra del siglo XI que incorporó también varias torres cuadradas.
En el S. XVIII se transformó para adaptarlo como vivienda del administrador del Duque de Sesa, función que mantuvo hasta principios del S.XX.
Tras largos años de abandono, fue adquirido a sus últimos propietarios (el Conde de la Revilla y hermanos) por el Ayuntamiento de Iznájar en el año 1991.