Le couple est devenu inséparable depuis le début des déboires de l'artiste