Will man Systeme in einem kritischen, diskriminierenden Sinne als rational bezeichnen, dann genügt es nicht, sich auf den Bestand oder die Erhaltung des Bestandes zu beziehen. Bestand ist nur einfach negierbar. Das reicht für Rationalität nicht aus – weder als Negation noch als Negation der Negation, als Beharrung, Erhaltung, Reproduktion. Ähnlich wie im Falle der Handlung nicht schon das bloße Vorkommen oder Nichtvorkommen, sondern erst die relationale Rekonstruktion dieser Kontingenz Rationalität möglich macht, kann auch ein System Rationalität nur gewinnen bzw. auf seine Rationalität hin nur analysiert werden, wenn und soweit es in seiner relationalen Struktur kontingent gesetzt wird. Dies leistet der Begriff der Komplexität.
Insofern waren die Analysen des Begriffs der Komplexität, mit denen wir unsere Untersuchungen eingeleitet hatten, eine Vorstudie zum Begriff der Rationalität in Anwendung auf Systeme. Mit dem Begriff der Komplexität hatten wir, wie erinnerlich, die Beziehung zwischen den rein quantitativ möglichen und den strukturell seligierten Relationen zwischen Elementen bezeichnet. Komplexität selbst ist danach eine Relation, die Größe und Struktur aufeinander bezieht (oder genauer formuliert: die die größenmäßig und die strukturell möglichen Relationen aufeinander bezieht). Stellt man sich Größe und Struktur als Variablen vor, handelt es sich also auch hier um eine Relation, die keinerlei a priori feststehenden Anhaltspunkte, sondern Kontingentes miteinander verknüpft. Die dafür geltenden Regeln der Nichtbeliebigkeit müssen in einer anderen Beziehung gesucht werden, und zwar in der Beziehung zwischen System und Umwelt.
Vor dem Hintergrund dieses allgemeinen Modells (das für Systeme etwa den Stellenwert hat, der in der Theorie des Handelns der Relation von Mittel und Zweck zufällt) kann man sehen, daß von Systemrationalität nur sinnvoll gesprochen werden kann unter der Voraussetzung, daß die Umwelt das System nicht festlegt. Ergäbe sich aus der Relation zwischen System und Umwelt zwangsläufig, welche Relationen im System aktualisiert werden, wäre die Realität des Systems rational; der Begriff der Rationalität verlöre seine diskriminierende Funktion, er verschmölze mit dem Bestandsbegriff und könnte weggelassen werden.
Begreift man dagegen die Relation zwischen System und Umwelt selbst als auf beiden Seiten kontingent, kann ein Begriff der Rationalität formuliert werden, der an diese Relation und, davon abhängig, an das System bestimmte Forderungen stellt. Nicht alle Zustände, die die Relation annehmen kann, können dann als rational gelten. Ein solcher Rationalitätsbegriff muß in jedem Falle anschließbar sein an das oben in diesem Kapitel unter Abschnitt 1 skizzierte Problem der sinnkonstituierenden Negativität, und er muß ferner die unter Abschnitt 2 gewonnene Einsicht verwerten, daß über Relationierung und Relationierung von Relationen Kontingenz (und damit auch Negierbarkeit) erweitert und reduziert werden kann. Alles Weitere hängt davon ab, wie man die Kontingenz in System/Umwelt-Relationen begreift.
Ähnlich wie im Falle der Handlungsrationalität und aus den gleichen formalen Gründen gibt es hierfür zwei Modelle. Ihre Unterscheidung hängt davon ab, ob man die Unterscheidung von abhängigen und unabhängigen Variablen als fixiert oder als selbst variierbar voraussetzt. Handeln kann, wie oben gezeigt, entweder Maximierungs- bzw. Minimierungsstrategien (Ausbeutungs- bzw. Sparsamkeitsstrategien) verfolgen oder Optimierungsstrategien. Im ersteren Falle wird die Zweckerreichnung maximiert bzw. der Mittelaufwand minimiert, also die eine Seite der Relation fixiert und die andere danach eingerichtet; im anderen Falle wird die Relation selbst in Richtung auf ein Optimum im Vergleich zu anderen Möglichkeiten der Relationierung variiert – was typisch weder einen minimalen Aufwand noch einen maximalen Ertrag einbringt. Diese Alternative läßt sich mutatis mutandis auf die Relation zwischen System und Umwelt übertragen. Wir nennen die beiden Formen der Rationalität, die sich daraus ergeben, Systemrationalität und Weltrationalität.
Systemrationalität besagt natürlich nicht: maximale Ausbeutung der Umwelt. Und ebensowenig ist Weltrationalität eine optimale Auspendelung der Beziehungen zwischen System und Umwelt. Diese Art Analogie würde einfach das Konzept der Handlungsrationalität auf Systeme als Akteure übertragen und damit die Differenz zwischen Handlung und System überspringen. Systemtheoretisch muß vielmehr die Relation zwischen System und Umwelt als Relation zwischen Komplexen begriffen werden, als Komplexitätsgefälle. Das Rationalitätsproblem liegt hier nicht, sonst käme man mit den Formen der Handlungsrationalität aus, im Bewirken geschätzter Wirkungen, sondern in der Relationierung von in sich relationalen Komplexitätsverhältnissen. Auch hierfür gilt die allgemeine Regel: daß Relationen geringere Kontingenz haben als die Elemente, die sie aufeinander beziehen.
Von Systemrationalität können wir nur dann sprechen, wenn die Komplexität der Umwelt als gegeben vorausgesetzt wird und das System darauf mit Wachstums- und/oder Strukturierungsleistungen zu reagieren versucht. Systemrationalität ist adäquate oder umweltentsprechende Eigenkomplexität. Als Komplexität ist sie strukturelle Selbstbeschränkung, da auf Größenzunahme durch strukturelle Selektivität reagiert werden muß. Im Komplexitätsbegriff liegt auch die Erklärung dafür, daß erzwungene Selektivität Freiheit erzeugt mit der Chance, rationalere Lösungen für das Komplexitätsgefälle zwischen Umwelt und System zu finden. Dabei sind für das System diejenigen Lösungen rationaler, die höhere Eigenkomplexität ermöglichen und in ihren Folgeproblemen kontrollieren können. Auf der operativen Ebene des Handelns erlaubt hohe Eigenkomplexität sowohl Eingriffe in die Umwelt als auch selektive Änderung eigener Zustände und beides auf der Ebene der Elemente und Relationen als auch auf der Ebene der Strukturen. Der Fixpunkt liegt in der Voraussetzung der Umweltkomplexität und die Strategie in der Anpassung an sie. Die höhere Eigenkomplexität vermittelt Anpassungsüberlegenheit in der Form eines größeren Reservoirs an Relationierungsmöglichkeiten, über die selektiv entschieden werden kann. Dies meint vermutlich Parsons mit dem Begriff des »Adaptive Upgrading«.
Erhöhung der Eigenkomplexität ist nicht deshalb rational, weil sie die Chancen der Bestandserhaltung vermehrt; sie ist weder ein Bestandserfordernis noch eine Bestandsgarantie. Es gibt seit alters existierende sehr wenig komplexe Systeme und umgekehrt hochkomplexe Systeme, die längst vergangen sind, weil ihre Komplexität die Abhängigkeiten von der Umwelt überproportional gesteigert hatte. Aber natürlich ist Bestandserhaltung oder Reproduktionsfähigkeit, evolutionär gesehen, Voraussetzung für den Aufbau hochkomplexer Systeme. Stabilität ist einer der erforderlichen evolutionären Mechanismen, der zusammen mit anderen den Aufbau sehr komplexer Systeme ermöglicht. Rationalität ist dagegen der Begriff für die Ausnutzung des evolutionär entstandenen Negationspotentials auf Arten und Weisen, die mit Stabilität nur kompatibel sein müssen, sollen sie möglich sein. Theoretisch gesehen, ist diese Begriffswahl also nicht durch eine Präferenz für die Erhaltung alles Entstandenen bestimmt, sondern letztlich durch den auf Sinn und Negation zugeschnittenen Begriff der Weltrationalität gesteuert.
Schon eine Theorie der Systemerhaltung oder der Systemrationalisierung verwendet den Umweltbegriff nicht schlicht ökologisch (im Sinne einer objektiven Gesamtheit von Umständen), sondern systemrelativ. Wir benutzen den Begriff der Form, um diese Systemrelativität zu bezeichnen. Formen sind Relationen, die unter dem Gesichtspunkt der Relevanz für ein anderes System kombiniert sind und sich gegen den Hintergrund anderer Möglichkeiten profilieren, sozusagen Selektionen aus den möglichen Selektionen der Umwelt oder Reduktionen der Umweltkomplexität. Die Komplexität der Umwelt erscheint einem System als Gesamtheit von Formen, die speziell für das Bezugssystem Bedeutung haben. Im Umgang mit kontingent erscheinenden Formen orientiert sich und bewährt sich Systemrationalität. Die Formanalyse, das heißt die Analyse von Formen als Formen, leitet jedoch zu einem anderen Typus der Rationalität über, den wir Weltrationalität nennen.
Formanalyse ist nicht schon geleistet (sondern allenfalls vorbereitet), wenn Formen als allgemeine benannt typisiert und auf ihre Formidee reduziert werden, wie immer «hintergründig« diese Ideen formuliert sein mögen. Über Form als Form kann analytisch erst disponiert werden, wenn die Systemrelativität jeder Umwelt bewußt wird. Das erfordert eine Rekonstruktion der Kontingenz in der Relation von System und Umwelt. Die Relation selbst wird kontingent gesetzt, nämlich als abhängig von der Wahl einer Systemreferenz. Als systemrelativ reduzierte, auf Formen gebrachte Komplexität ist die Umwelt jeweils Umwelt-eines-Systems; sie ist für das System, dessen Umwelt sie ist, daher nur selbstreferentiell bestimmbar. Eines der Relata, das System, bestimmt das andere dadurch, daß es die Relation bestimmt, in der es zum anderen steht. Nur dadurch erscheint dem System die Umwelt als formierte Komplexität. In der jetzt zur Diskussion stehenden Fassung ist die Kontingenz der System/Umwelt-Relation mit hin durch Selbstbezüglichkeit ihrer Bestimmungen bestimmt. Ihre Kontingenz ist in der Weise totalisiert, daß die Reduktion der Komplexität in System und Umwelt wechselseitig voneinander abhängen; daß also die Formverdichtungen der Umwelt selbst bedingt sind durch die Art, wie das System seine Eigenkomplexität ordnet. Auf Seiten der Systeme setzt das einen für sie selbst verfügbaren Begriff ihrer Identität, also Fähigkeit zur Selbstthematisierung voraus.
Weltrationalität kann sich danach nur auf das Problem beziehen, wie Systeme ihre Umweltbeziehungen ordnen, unter der Voraussetzung, daß Systemkomplexität und formierte Umweltkomplexität kontingente und variable Zustände sind. Kriterien der Weltrationalität müßten danach wiederum Kriterien für die Relationierung von Relationen sein, und zwar Kriterien für die Relationierung von Komplexitätsrelationen (nicht einfach: Input/Output-Relationen!) zwischen System und Umwelt. Kriterien dafür lassen sich, und das ist das spezifische, auszeichnende Problem der Weltrationalität, nicht mehr in Nichtnegierbarkeiten festmachen – weder in einer formalen mathesis universalis noch in einer Subjekt genannten Systemreferenz, der man (wer?) sozusagen den hermeneutischen Primat zusprechen könnte. Jeder Versuch dieser Art würde den Prämissen widersprechen, daß Sinn durch Negation und Welt durch Systeme-in-der-Welt konstituiert werden und daß selbstreferentielle Strukturen und Prozesse auch außerhalb der Wissenschaft vorkommen; er würde also in einer Theorie des hier gesuchten Typs nicht unterzubringen sein.
Gleichwohl muß ein Rationalitatsbegriff, soll er überhaupt einen eigenen Sinn haben, auch im Hinblick auf die nur selbstreferentiell bestimmbare Doppelkontingenz von System/Umwelt-Relationen diskriminieren. Er diskriminiert in diesem Fall gegen nur historische Bestimmungen. In selbstreferentiell erfahrenen, also logisch offenen und unabschließbaren Relationen wird zunächst der Zufall, das historische Faktum, zum Bestimmungsfaktor. Eine Gesellschaft, die sich selbstreferentiell thematisiert, erfährt sich eben dadurch zugleich als historisch bedingt. Sie begreift sich als Phase eines Prozesses, der immer schon angefangen hat und insofern Unabänderlichkeiten schon gesetzt, Kontingenzen schon limitiert hat. Nicht logisch, aber faktisch ist dadurch ausgeschlossen, daß jede Möglichkeit aktualisiert wird. Die Gesellschaft hat sich in einer schon vor ihr vorhandenen, durch frühere Evolution eingerichteten Umwelt zu plazieren. Ihre eigene Historizität besteht darin, daß ihr Vermögen, Erleben und Handeln sozial zu kombinieren und auf Umwelt zu beziehen, in evolutionären Sequenzen aufgebaut worden ist, die weder wiederholt noch neu begonnen werden können. Umwelt und System können allenfalls geändert werden. So wird verständlich, daß die neuzeitliche Gesellschaft bei gesteigert selbstreferentieller Reflexion zunächst dazu tendiert, Kontingenz als historische Faktizität und im Kontrast dazu Änderungsbedarf zu erleben und sich selbst als welthistorischen Prozeß zu begreifen.
Ein gegen dieses Syndrom opponierender Begriff der Rationalität steht nicht zur Verfügung. Die universelle Positivwertung von Kritik scheint eine Art Ersatzbefriedigung zu gewähren. Kritik richtet sich nur gegen Systemgeschichte und befreit gerade deshalb nicht von nur historischen Bindungen. Gerade die potentesten Kritiker der bürgerlichen Gesellschaft bleiben daher bürgerliche Theoretiker. Ihre Kritik leistet nicht etwa jene Umorientierung des Gesellschaftssystems von Geschichte auf Umwelt, die wir oben erörtert hatten; sie bringt vielmehr jenes Syndrom von Reflexion, Historizität und Änderungsintention nur zum Ausdruck.
Weltrationalität ist etwas anderes als dieses Kritik generierende und reproduzierende Syndrom. Sie müßte aus historischen Bedingtheiten und Änderungsintentionen in Umwelten und Systemen seligieren können. Dafür müßte ein Begriff und ein Verfahren gefunden werden, mit dem man selbstreferentielle Relationen des gekennzeichneten Typs wiederum relationiert. Dieses Desiderat sprengt zugleich die bisher benutzte Form systemtheoretischer Analyse, die die Vorentscheidung über die Wahl einer Systemreferenz voraus setzte als Entscheidung über den Standpunkt totalisierender Reflexion. Auch der Rückgriff auf die Weltperspektive des umfassendsten Sozialsystems Gesellschaft würde nicht ausreichen, wenn gerade diese Perspektive auf Rationalität hin befragt werden soll. Totalisierende Perspektiven dieser Art müßten ihrerseits relationiert werden, und zwar, da es sich bereits um sich selbst und alles erschließende Weltperspektiven handelt, aufeinander relationiert werden. Das erfordert Denkmodelle, die eine Mehrheit von Systemreferenzen berücksichtigen können.
~
Niklas Luhmann, Theorie der Gesellschaft (1975)
(Suhrkamp-Titel: Systemtheorie der Gesellschaft. Berlin, 2017) pdf 
pdf books , p. 1079–1087.