Ich bin gerade auch an der Aufgabe und glaube eine Lösung gefunden zu haben:
Dein Ansatz stimmt, allerdings kann man den Zahlenwert für die Gravitationskraft nicht berechnen, da ja der Abstand r zwischen den Kugeln gesucht ist.
Stattdessen habe ich über die Kleinwinkelnäherung mit tan(α) ≈ sin(α) dann FG/Fg ≈ s/l gesetzt, also (G*m)/(g*r2) = s/l.
Setzt man nun für r = x und s = (d-x)/2 erhält man: (G*m)/(g*x2) = (d-x)/(2*l) ⇒ gx3-gdx2+2Gml = 0.
Wenn man die Gleichung nun nach x auflöst (Ich habe es einfach in den Taschenrechner eingegeben) sollte der gewünschte Wert herauskommen.
Ich hoffe ich konnte helfen und meine Erklärung ist verständlich, bin nämlich neu hier. :)