Du gehst mit dem Personalausweis zum Amt oder zum Gericht, erklärst das Du austreten willst, unterschreibst ein Formular und bekommtst einige Wochen später die offizielle Austrittserklärung zugeschickt. Kostet hier keine Cent, aber das variiert wohl in den Bundesländern.