Η βιβλιοθήκη του Μουσείου οργανώθηκε από τα πρώτα χρόνια της λειτουργίας του και σταδιακά μεγάλωσε, καθώς αυξανόταν ο αριθμός των διαθέσιμων τίτλων χάρη σε δωρεές ιδιωτών και εκδοτικών οίκων από την Ελλάδα και το εξωτερικό, αλλά και αγορά βιβλίων ελληνοεβραϊκού ενδιαφέροντος. Σήμερα διαθέτει περίπου 4.500 τίτλους, που έχουν ταξινομηθεί σε 31 θεματικές κατηγορίες. Στις ίδιες κατηγορίες εντάσσονται, ανάλογα με το θέμα τους και οι βιντεοταινίες και DVD, που αποτελούν το οπτικοακουστικό αρχείο της βιβλιοθήκης. Η θεματική κατηγορία της Μουσικής, τέλος, πλαισιώνεται από συλλογή κασετών και CD, όπου καταγράφεται η μουσική παράδοση και παραγωγή των Εβραίων της Ελλάδας. Ακόμη, η βιβλιοθήκη του Ε.Μ.Ε. διαθέτει περισσότερους από 30 τίτλους περιοδικών εκδόσεων, κυρίως εβραϊκού και μουσειολογικού ενδιαφέροντος, οι οποίοι ενημερώνονται διαρκώς με τα νέα τεύχη που εκδίδονται.
Ένα άλλο σκέλος της βιβλιοθήκης απαρτίζεται από αρχειακό υλικό που αφορά σε συγκεκριμένα θέματα, όπως οι εβραϊκές κοινότητες του ελλαδικού χώρου, ο Β’ Παγκόσμιος Πόλεμος και το Ολοκαύτωμα. Το υλικό αυτό (άρθρα, εργασίες, δημοσιεύσεις, επιστολές, σύγχρονες φωτογραφίες κ.ά.) είναι οργανωμένο σε μεγάλους φακέλους, εμπλουτίζεται συνεχώς και βρίσκεται στη διάθεση του ενδιαφερόμενου κοινού.
Η καταγραφή του υλικού της βιβλιοθήκης και η διαχείρισή της οφείλεται στην επιμέλεια και αφοσίωση εθελοντών. Η βιβλιοθήκη του Ε.Μ.Ε. δεν είναι δανειστική, αλλά προσφέρεται για ανάγνωση και έρευνα, κατόπιν συνεννόησης με τις υπηρεσίες του Μουσείου. Οι περισσότεροι επισκέπτες της βιβλιοθήκης είναι φοιτητές και ερευνητές από την Ελλάδα και το εξωτερικό, που αναζητούν υλικό για δημοσιεύσεις, εργασίες και διδακτορικές διατριβές. Επίσης, μαθητές πρωτοβάθμιας και δευτεροβάθμιας εκπαίδευσης χρησιμοποιούν συχνά βιβλία και αρχειακό υλικό για τις σχολικές εργασίες τους. Συχνά, απόγονοι Ελλήνων Εβραίων που κατοικούν στο εξωτερικό, αναζητούν εδώ πληροφορίες για την παλιά τους πατρίδα ή την οικογένειά τους. Στα άμεσα σχέδια του Ε.Μ.Ε. περιλαμβάνεται η ηλεκτρονική καταγραφή της βιβλιοθήκης από αποφοίτους Πανεπιστημιακών Σχολών Βιβλιοθηκονομίας και η επιλεκτική ένταξη του υλικού στο διαδικτυακό τόπο του Μουσείου.
