И така, намерих изпълнявания процес на mysqld от sudo lsof -i tcp:3306
след това го убих с sudo kill -9 <PID>
.
След това опитах mysql_secure_installation
отново, но попаднах на нова грешка :
След като опитах няколко поправки, за да накарам mysql.sock да работи, стартирах MySQL сървъра с sudo mysql.server start
след това продължи с mysql_secure_installation
за да зададете парола за root потребителя.
Това най-накрая ми проработи.