Weil es in letzter Zeit häufiger zu Nachfragen kam:

Mal den Gesetzestext (§ 13 KonsG) zur Legalisation :


Zitat:

§ 13 Legalisation ausländischer öffentlicher Urkunden (1) Die Konsularbeamten sind befugt, die in ihrem Amtsbezirk ausgestellten öffentlichen Urkunden zu legalisieren. (2) Die Legalisation bestätigt die Echtheit der Unterschrift, die Eigenschaft, in welcher der Unterzeichner der Urkunde gehandelt hat, und gegebenenfalls die Echtheit des Siegels, mit dem die Urkunde versehen ist (Legalisation im engeren Sinn). (3) Die Legalisation wird durch einen auf die Urkunde zu setzenden Vermerk vollzogen. Der Vermerk soll den Namen und die Amts- oder Dienstbezeichnung des Unterzeichners der Urkunde enthalten. Er soll den Ort und den Tag seiner Ausstellung angeben und ist mit Unterschrift und Präge- oder Farbdrucksiegel zu versehen. (4) Auf Antrag kann, sofern über die Rechtslage kein Zweifel besteht, in dem Vermerk auch bestätigt werden, daß der Aussteller zur Aufnahme der Urkunde zuständig war und daß die Urkunde in der den Gesetzen des Ausstellungsorts entsprechenden Form aufgenommen worden ist (Legalisation im weiteren Sinn). (5) Urkunden, die gemäß zwei- oder mehrseitiger völkerrechtlicher Übereinkunft von der Legalisation befreit sind, sollen nicht legalisiert werden.

Legalisation ist also die Bestätigung der Echtheit einer Unterschrift und ggf. eines Dienstsiegels auf einer Urkunde durch einen Konsularbeamten in der deutschen Vertretung im Ausstellungsstaat der Urkunde.

Umgekehrt werden deutsche Urkunden durch die ausländischen Vertretungen im Inland ebenfalls legalisiert, d.h. die Legalisation einer deutschen Urkunde zur Verwendung im Ausland erfolgt durch die jeweilige Vertretung des ausländischen Staates, ob mit oder ohne  Vorbeglaubigung der Unterschrift durch deutsche Behörden, müssen die Mitarbeiter der Botschaft selbst entscheiden.

Deutsche Urkunden aus der inneren Verwaltung (Standesamt, Meldeamt Passamt) werden im Normalfall von der nächsthöheren Behörde (Kreisebene) vor - und von der darüberliegenden Ebene (Regierungspräsidium, Bezirksregierung oder Innenministerium je nach Bundesland) überbeglaubigt, danach von der Botschaft legalisiert.

Bei Urkunden aus der Justizverwaltung (Scheidungsurteil z.B.) erfolgt die Überbeglaubigung im Regelfall beim Präsidenten des Landgerichts.

Führungszeugnisse werden im Normalfall nicht unterschrieben, also können sie auch nicht legalisiert weden. Soll ein Führungszeugnis ausdrücklich unterschrieben und überbeglaubigt werden, damit die Botschaft die Unterschrift legalisieren kann, dann muß dieser Umstand bereits bei der Bestellung des FZ mit erwähnt werden. Die Unterschrift des Generalbundesanwalts unter dem FZ wird durch das Bundesverwaltungsamt überbeglaubigt.  

Apostillen werden nur für die Staaten erteilt, die Mitgliedsstaat des Haager Übereinkommens zur Befreiung öffentlicher Urkunden von der Legalisation vom 05.10.1961 sind.
Apostille ist die Echtheitsbestätigung einer Unterschrift durch eine deutsche Behörde; meist durch die  Stelle, die bei einer Legalisation  für die Überbeglaubigung zuständig wäre.

Mitgliedsstaaten des Abkommens kann man aktuell hier nachlesen:

http://hcch.e-vision.nl/index_en.php?act=conventions.status&cid=41

Zu den Staaten mit unsicherem Urkundenwesen sind noch weitere Informationen bei den FAQ