Η Εβραϊκή Κοινότητα της πόλης ιδρύθηκε τον 8o μ.Χ αιώνα. Είναι η μεγαλύτερη και πιο αντιπροσωπευτική Ρωμανιώτικη εβραϊκή κοινότητα της Ελλάδας, τα μέλη της οποίας είναι απόγονοι των Ελλήνων Εβραίων του Βυζαντίου. Η εβραϊκή συνοικία της πόλης ονομαζόταν «Μεγάλη Ρούγα».
Προπολεμικά, η Εβραϊκή Κοινότητα των Ιωαννίνων αριθμούσε 1850 μέλη, τα οποία συνελήφθησαν από τους Γερμανούς και μεταφέρθηκαν στα στρατόπεδα. Από τους Γιαννιώτες Εβραίους επέστρεψαν μόλις 163, ενώ οι κοινότητες που ανθούσαν στις γύρω πόλεις, στην Άρτα, την Πρέβεζα, την Πάργα και το Αγρίνιο, σήμερα δεν υπάρχουν πια.
Από την κάποτε ακμάζουσα κοινότητα σήμερα σώζονται κάποια διατηρητέα σπίτια και η ωραιότερη ίσως συναγωγή του Ελληνικού χώρου, πρώιμου 19ου αιώνα, η οποία όμως, λόγω έλλειψης μόνιμου ραββίνου, λειτουργεί μόνο στις μεγάλες γιορτές.
