Hallo,
Vom Prinzip ist der Rechenweg richtig, nur im Detail ist er fehlerhaft. Wähle zunächst ein eindeutiges Koordinatensystem. Angenommen die X-Richtung ist horizontal und verläuft nach rechts positiv und die Y-Richtung liegt vertikal und positiv nach oben. Dann sind der Hebelarm \(\vec{r}\) und die Kraft \(\vec{F}\)
$$\vec{r} = \begin{pmatrix} 2a\\ -\frac{a}{2}\end{pmatrix}; \quad \vec{F} = \begin{pmatrix} 2F\\ 0\end{pmatrix}$$
und das Moment \(M_b\)
$$M_b = \vec{r} \times \vec{F}= aF$$
Der negative Wert, den Du erhalten hast, kann nicht richtig sein, da das Moment doch offensichtlich mathematisch positiv dreht.
Widerstandsmoment und Normalspannung hast Du richtig berechnet. Die Gesamtspannung aus beiden für oben und unten ist dann
$$\sigma_{o} = \frac{2F}{bh}\left( 1 - 3\frac{a}{h}\right)$$ $$\sigma_{u} = \frac{2F}{bh}\left( 1 + 3\frac{a}{h}\right)$$ Achte darauf, dass Du Deine eigenen Terme immer richtig abschreibst. Bei \(\sigma_M\) ist z.B. einfach ein \(F\) und ein Quadrat von \(h^2\) verschwunden. Am Ende hätte Dir das wieder auffallen müssen - das \((F-6a)\) ist kein sinnvoller Ausdruck, da Kraft minus Länge gerechnet wird!
Gruß Werner