Så jeg fandt den kørende proces for mysqld af sudo lsof -i tcp:3306 så dræbte jeg den ved at bruge sudo kill -9 <PID> .
Efter dette prøvede jeg mysql_secure_installation igen, men løb ind i en ny fejl :
Efter at have prøvet et par rettelser for at få mysql.sock til at virke, startede jeg MySQL-serveren med sudo mysql.server start gik derefter videre med mysql_secure_installation for at indstille adgangskoden til root-brugeren.
Dette virkede endelig for mig.