
L'edifici actual va ser construït entre 1275 i 1300, substituint una església anterior que s'esmenta en documents medievals des del 1082. La construcció fou a petició dels senyors de Castelloló, potser enterrats a la zona del presbiteri.
L'església estava integrada amb les estructures del castell i formava part de les seves construccions defensives. La coberta superior culmina en un ampli terrat envoltat d'un mur fortificat, des del que s'accedeix a una torre-campanar situada a l'angle sud-oest.
L'Església de Santa Maria de Rubió és un temple d'estil gòtic. La planta rectangular té una única nau coberta amb doble volta de creueria, i presenta als vèrtexs dues claus de volta esculpides amb l'Anyell Pasqual i un petit Pantocràtor. Els arcs arrenquen de mènsules esculpides: Sant Joaquim i Santa Anna al presbiteri, escuts heràldics dels Castellolí a l'arc total central i l'àliga de Sant Joan amb un escut, a la zona del cor. La nau central té a banda i banda sengles capelles laterals de volta ogival i coberta de creueria.
Situades a l'angle nord-est hi ha la sagristia i una capella, també d'estil gòtic. La resta de capelles van ser obertes entre els contraforts en els segles XVI i XVII, coincidint amb la construcció del tercer pis, el campanar i el cor. Al llarg dels segles XVI i XVIII, i al segle XX, l'església sofrí diverses restauracions. L'última va ser duta a terme entre 1985 i 1989 sota la direcció de J. Asarta.