Das piepen klingt auch eher ungesund, leicht kratzig, wie ein schlechtes Steckernetzteil.
Klingt nicht gut ...

Nebenbei: Der I2C-Bustakt hat mit deinem Problem nichts zu tun. Einen Elko würde ich dem CMPS03 gönnen.

Gruß Dirk

P.S.: Was mir noch einfällt: Du hast keine Abstandhalter aus Metall zu Befestigung des Moduls genommen? Oder?
Erklärung: Es gibt Lötpunkte direkt neben den Befestigungslöchern, die einen Kurzschluss machen könnten.