卡鲁因大学实际上由清真寺和古兰经学校部分构成，于859年由富商穆罕默德·菲里Mohammed Al-Fihri的女儿法蒂玛·阿尔·菲里Fatima Al-Fihri建造。他们家族是9世纪初从突尼斯的凯鲁万Kairouan到菲斯的移民。法蒂玛和她的姐姐都受过良好的教育，并继承了父亲丰厚的遗产，但是她并没有胡乱挥霍，而是发誓倾尽所有为她爱的这个社区建造一座清真寺。在这位高学历又意志坚定的女性带领下，这里从一个小小的朝圣地发展成宗教教育机构和政治讨论场所，一路发展壮大至今。1957年国王穆罕默德五世还增加了化学，物理，数学和外语科目。卡鲁因大学一直是世界著名的宗教和政治中心，也是摩洛哥著名的旅游景点之一。
有意思的是，由于上千年来未曾停止扩建，这座原来长30米的清真寺逐渐发展成为非洲最大的清真寺，能容纳2万明穆斯林同时朝拜。这么长的建筑历史也意味着它的建筑风格混合了不同世纪的不同风格