Időközben megtaláltam a megoldást, és hogy mi volt a hiba a vhost-fájlban.
A backend címet elírtam, nem http kellett, hanem https.
És ki kellett egészíteni két paraméterrel.
SSLEngine On
ProxyPreserveHost On
SSLProxyEngine on
SSLProxyVerify none
ProxyPass / https://localhost:5601/
ProxyPassReverse / https://localhost:5601/