Alles dreimal auf unterschiedlicher HW und SW ist mir der Aufwandt dann doch zu groß.
Kann ich mir vorstellen. Das wäre wahrscheinlich etwa das Sicherheitsniveau das für den Autopilot in der Verkehrsfliegerei gefordert wird.

Ansonsten: Überlegen, an welchen Stellen und durch welche Mechanismen Fehler auftreten können. Bei einer Kabelverbindung z.B. durch Leiterbruch. So etwas kann man mit einer Ruhestromüberwachung sofort feststellen und ggf. auf ein Backupsystem umschalten. Außerdem kann man feindrähtige Litzen und hochwertige Steckverbindungen verwenden, damit es erst gar nicht passiert. Bei Software Überwachung mit watchdog nutzen. Spätestens bei den Aktoren wirst du Schwierigkeiten bekommen alles doppelt (oder gar dreifach) auszulegen, weil es sonst zu mechanischen Verklemmungen käme. Da wird man auf bekanntermaßen zuverlässige Systeme vertrauen müssen. Bei längerer Nutzung wäre auch ein Wartungsplan sinnvoll, bei der Komponenten, die Verschleiß unterliegen, nach einer festgesetzten Betriebszeit ersetzt werden.
Generell gilt, dass der Aufwand schneller gegen unendlich geht als die Sicherheit gegen 100%.