Eine COBOL-Übersetzungsgruppe kann eine oder mehrere Übersetzungseinheiten enthalten.
Mit Ausnahme der Anweisungen für Quelltextmanipulation sowie der END-Einträge werden alle Anweisungen, Einträge, Paragrafen und Kapitel einer COBOL-Übersetzungseinheit in vier Programmteile geschrieben, die wie folgt angeordnet sind:
IDENTIFICATION DIVISION
ENVIRONMENT DIVISION
DATA DIVISION
PROCEDURE DIVISION
Das Ende einer COBOL-Übersetzungseinheit wird entweder bezeichnet durch den entsprechenden END-Eintrag oder durch das Fehlen weiterer Programmzeilen.
Der Beginn eines Programmteils wird bezeichnet durch die entsprechende ProgrammteilÜberschrift bzw. den entsprechenden ID-Namen oder FACTORY bzw. OBJECT. Das Ende eines Programmteils ist gekennzeichnet
durch eine Programmteil-Überschrift bzw. einen ID-Namen oder FACTORY bzw. OBJECT eines im Programm nachfolgenden Programmteils oder
durch einen END-Eintrag oder
durch das Fehlen weiterer Programmzeilen.
Die Anzahl der Zeilen eines COBOL-Gesamtprogramms ist unbeschränkt; eine eindeutige Nummerierung der Programmzeilen durch den Compiler ist aber nur bis zum Wert 65536 gegeben.