افتتحت المكتبة في الثالث عشر من صفر عام 1404هـ ، الموافق السابع عشر من نوفمبر/تشرين الثاني 1983م .

 تحت رعاية وحضور صاحب السمو الشيخ الدكتور سلطان بن محمد القاسمي عضو المجلس الأعلى ، حاكم الشارقة ، وصاحب السمو الشيخ حميد بن راشد النعيمي عضو المجلس الأعلى ، حاكم عجمان ، وسماحة الشيخ أبي الحسن الندوي رئيس رابطة ندوة العلماء بالهند ، ومعالي الدكتور عبدالله عمر نصيف أمين عام رابطة العالم الإسلامي ، ومجموعة كبيرة من كبار المسئولين .

وقد قام أبناء الشيخ عبدالله بن علي المحمود رحمه الله بعد وفاته مباشرة بتأسيس المكتبة عام 1402هـ الموافق 1982م ، تخليداً لذكراه ، وسيراً على نهجه في نشر العلم والتعليم والوعي والاصلاح ، وانطلاقا من رؤيته ونظرته الى الثقافة الاسلامية كأساس في الدعوة.

وتواصلاً مع جهود والده الشيخ علي بن محمد المحمود رحمه الله (1844 - 1935) الذي سخر فكره وماله لإرساء أول مؤسسة علمية قامت عليها نهضة ثقافية لم تشهدها امارات الساحل من قبل ، حيث شهد عام 1907 قيام اول مدرسة داخلية مجانية أسسها على نفقته الخاصة ، وهي المدرسة التيمية المحمودية، تلاها انشاء المكتبة التيمية في العام 1909 التي مثلت في ذلك الوقت نقطة انطلاق حقيقية لحركة ثقافية وحضارية سبقت عصرها وهزمت معوقات الظرف والمكان.