Wenn man wirklich in das Thema einsteigen will kann ich das Buch hier empfehlen (Gut ich saß in der Vorlesung bei dem Prof. und da hat das gut dazu gepasst, aber ich finde das Buch trotzdem gut und nutze es gerne als Nachschlagewerk)
https://www.amazon.de/Signale-System.../dp/3486597485

Ist allerdings erst mal recht allgemein Signal und Systemtheorie, die braucht man aber wenn man das Thema Filter verstehen will. Wenn es konkret um die Auslegung der Filter geht würde ich zu anderen Werken raten.