الازهر در ابتدا مسجد بود که ساخت آن در سال 359 هجری (970 میلادی) کمی بعد از ورود فاطمیان به مصر شروع شد و سال 361 هجری به پایان رسید.

معز‌الدین اولین خلیفه فاطمی موسس مسجد بود و اسم آن را "القاهره" همنام با پایتخت مصر و به نشانه سروری و بزرگی فاطمیان بر مصر انتخاب کرد و مستندات مورخان این عصر گواه بر این است که طول حکومت فاطمیان بر مصر به همین نام خوانده می‌شده است.

در ابتدا هدف از تاسیس این مسجد این نبود که مکتب علوم اسلامی و مرکز علمی باشد بلکه مسجدی برای خلافت فاطمیان و مرکزی بود برای نشر مذهب اسماعیلی - یکی از مذاهب شیعه- که مذهب رسمی حکومت فاطمیان بود.

بیشتر مورخان معتقدند اسم الازهر در زمان عزیز بالله فاطمی، پنجمین خلیفه فاطمی که بین سال‌های 364 و 386 هجری قمری حاکم بوده است بر این مسجد نهاده شده است. ولی مورخان در اصل نام‌گذاری مسجد به "الازهر" اختلاف نظر دارند که کم‌کم بر مسجد اطلاق شده تا جایی که جز در کتب تاریخی در جای دیگری نام "القاهره" ذکر نشده است.

عده‌ای از مورخان می‌گویند این نام نشانی از شان والای دینی و علمی مسجد است و امید می‌رفته که مکانی رفیع در عالم اسلامی پیدا کند. نظر دوم اینکه چون فاطمیان قصرهایشان را الزاهره می‌نامیدند مسجد را نیز الازهر نامیدند تا نشانه‌ای از حاکمیت فاطمیان باشد، نظر سوم این است که فاطمیان اسم مسجد را از نام مبارک حضرت زهرا(س) برای برکت و میمنت جستن از آن انتخاب کرده‌اند.

تا 17 سال بعد از تاسیس، همواره این مسجد مرکز خلافت فاطمیان و نشر مذهب اسماعیلی بود، اما سال 378 دانشگاه الازهر نامیده شد. زمانی که صلاح‌الدین ایوبی دولت فاطمیان را برکنار کرد و مصر را تحت سیطره حکومت عباسی درآورد.

در دوران ممالیک مصر الازهر شاهد دوران طلایی خود بود و بهره فراوانی از این دوره برده و پیشرفت بسیاری کرده و مدارس متعددی به آن پیوستند. در قرن نوزدهم الازهر یکی از بارزترین و مهمترین مدارس و مکاتب قاهره بود تا جایی که مدرسه مادر و دانشگاه بزرگ اسلامی محسوب می‌شد که هیچ دانشگاهی توان رقابت با آن را نداشت. علما از شرق و غرب عالم به آنجا می‌آمدند تا از دریای علم آنجا بهره‌مند شوند از جمله ابن‌خلدون فیلسوف و مورخ بزرگ جهان که کرسی فلسفه‌ در این دانشگاه داشت و از پیشگامان علم فلسفه تاریخ در دانشگاه الازهر و در جهان بود و علمای بسیاری چون مقریزی و ابن حجر‌عسقلانی و سیوطی در محضر وی کسب علم کردند و از شاگردان وی بودند.

الازهر جایگاه خاصی در میان مردم مصر و امت اسلامی دارد بخصوص در زمان حمله ناپلئون بناپارت بر مصر در سال 1213 هجری قمری مرکز مقاومت و صیانت از مصر و اسلام و زبان عربی بود.

در زمان محمدعلی پاشا توجه به الازهر کاهش یافت و به دلایل سیاسی به حاشیه رانده شد و نقش دینی و علمی آن نادیده گرفته شد. در زمان اسماعیل پاشا، شیخ محمد عبده یکی از رهبران نهضت دینی علمی معاصر مصر اقداماتی جهت پیشرفت و اصلاح الازهر از جمله تشکیل کمیته اداره الازهر، قانون تدریس و امتحان و اقدامات دیگری انجام داد.

بعد از وفات شیخ محمد عبده حکومت مصر دانشگاه‌های دیگری در رقابت با الازهر ساخت، اما علمای الازهر سال 1329 هجری قمری قانونی مبنی بر تشکیل مجلس اعلای الازهر را صادر کردند و به موجب آن نظام الازهر آکادمیک شد و علوم دیگری در کنار علوم دینی مثل تاریخ و جغرافی و .. در آن تدریس شد. و هر ساله نظام تدریسی در الازهر به سیستم جدید تحصیلی نزدیک‌تر شد تا جایی که با وجود گذشت هزار سال از تاسیس آن همواره مرکز فعالیت‌های علمی - سیاسی بوده است و در تثبیت فضای سیاسی مصر نقش موثر و چشم‌گیری داشته است.