Ich hatte dasselbe Problem,

erst im Java Control Panel unter Sicherheit die Website https://www.stellwerksim.de als Ausnahme Hinzufügen. Anschließend die STS-JNLP Datei über "öffnen mit" mit dem Java (TM) Web Launcher öffnen. So hat es bei mir funktioniert

LG