Tannhäuser Tor

Joseph Weizenbaum (1923 - 2008)

bei wwikipedia

Joseph Weizenbaum

Die Macht der Computer und die Ohnmacht der Vernunft

Frankfurt a.M.1978

Infolge dessen ist jede empirische Wissenschaft eine kunstvolle Struktur, die auf Pfeilern ruht, die nicht etwa in Fakten verankert sind, wie gemeinhin vermutet wird, sondern im Treibsand fehlbarer menschlicher Urteile, Vermutungen und Intuitionen.

Weizenbaum Seite 30

Der Wissenschaftler muss auf seine Arbeitshypothesen vertrauen, einschliesslich der riesigen, dahinter stehenden Strukturen von Theorien und Annahmen, und wenn sie auch nur sein Argument retten soll. Oft hält sich das "Argument" zeit seines Lebens durch. Mit der Zeit wird er zu dem, was er zunächst nur kurzfristig sein wollte: ein echter Gläubiger. Ich habe das Wort "Argument" mit Bedacht gewählt, denn alle naturwissenschaftlichen Beweise, selbst alle mathematischen Beweise, sind im Grunde Akte der Überredung.

Weizenbaum Seite 31f

... die amerikanischen Manager und Techniker waren sich einig, dass der Computer gerade zur rechten Zeit kam, um katastrophale Krisen abzuwenden: wäre der Computer nicht rechtzeitig erfunden worden, so wurde argumentiert, dann hätten die Banken zu wenig Personal gehabt, die ständig wachsenden Kommunikations- und Logistikprobleme der überall in der Welt stationierten amerikanischen Streitkräfte hätten nicht gelöst werden können, der Handel an den Aktien- und Warenbörsen wäre zusammengebrochen. ... In Wirklichkeit waren umfangreiche Probleme im Management, in der Technik und der Naturwissenschaft in den Jahren vor dem Zweiten Weltkrieg und vor allem während des Krieges selbst ohne Mitwirkung elektronischer Computer gelöst worden. Man hatte einen Grossteil der Industrieanlagen der USA koordiniert, um das erforderliche Kriegsmaterial – Lebensmittel, Kleidung etc. - bereitzustellen und den notwendigen Transport zu dem grossen Armeen zu sichern, die sich auf dem gesamten Globus verstreut befanden. Das Manhattan Project stellte die Atombombe ohne den Einsatz von elektronischen Computern her, obgleich die technischen und wissenschaftlichen Probleme, die dabei zu lösen waren, wahrscheinlich einen höheren Rechenaufwand erforderten als für sämtliche astronomischen Berechnungen, die bis dahin jemals vorgenommen worden waren. Die Managementprobleme, die dabei auftraten, standen standen mit Sicherheit denen des des Apollo-Projekts der sechziger Jahre in nichts nach. Möglicherweise glauben glauben heute die meisten Leute, dass das Apollo-Project ohne Computer gar nicht hätte bewältigt werden können. Die Geschichte des Manhattan-Projekts widerlegt wahrscheinlich ihre Ansicht

Weizenbaum Seite 48f

Nun ist es keineswegs so, dass der Glaube an die Unentbehrlichkeit des Computers völlig aus der Luft gegriffen ist. Der Computer wird zum unentbehrlichen Bestandteil jeder Struktur, sobald er so total in die Struktur integriert ist, so eingesponnen in die verschiedenen lebenswichtigen Substrukturen, dass er nicht mehr herausgenommen werden kann, ohne unweigerlich die Gesamtstruktur zu schädigen. Das ist im Grunde eine Tautologie. Ihr Nutzen besteht darin, dass sie uns die Möglichkeit ins Bewusstsein ruft, dass bestimmte menschliche Handlungen, z.B. die Einführung von Computern in irgendwelche komplexen menschlichen Unternehmungen eine Abhängigkeit schaffen können, die nicht mehr rückgängig zu machen ist.

Weizenbaum Seite 49f

...... Wenn aus einer schlechten Idee eine gute werden soll, so ist die Ursache ihrer Schwächen zu suchen und zu beseitigen. Jemandem, der durch in offenes Kanalloch fällt, kann man kaum dadurch helfen, dass man ihm ermöglicht, schneller oder effizienter zu fallen. Es mag seltsam oder sogar paradox erscheinen, dass die Verbesserung einer Technik zugleich deren Schwächen und Grenzen bloßlegen kann, aber das dürfte kaum überraschen. Die Fähigkeit des Menschen, schlampig zu denken und zu rationalisieren, d.h., die Konsequenzen seines schlampigen Denkens weg zu erklären, ist sehr ausgeprägt.

Weizenbaum Seite 59f

Ein Ingenieur ist der materiellen Welt unauflöslich verhaftet. Seine Kreativität findet ihre Schranken in deren Grenzen; er kann schliesslich nur das tun, was sich diesen Gesetzen entsprechend tun lässt. Aber er ist dazu verurteilt, sein Metier in einem kafkaesken Schloss zu betreiben, aus dem – selbst im Prinzip – kein Weg herausführt. Denn er kann unmöglich den ganzen Plan kennen, in dem festgelegt ist, welche Räume in dieser Welt existieren und welche Türen zwischen ihnen geöffnet werden können.

Weizenbaum Seite 159f

[In fast allen Industrieländern dieser Welt ] ... kann man aufgeweckte junge Männer mit zerzaustem Haar beobachten, die oft mit tief eingesunkenen, brennenden Augen vor dem Bedienungspult sitzen; ihre Aurme sind angewinkelt, und die warten nur darauf, dass ihre Finger – zum Losschlagen bereit – auf die Knöpfe und Tasten zuschiessen können, auf die sie genau so gebannt starren wie ein Spieler auf die rollenden Würfel. Nicht ganz so erstarrt sitzen sie oft an Tischen, die mit Computerausdrucken übersät sind, und brüten darüber wie Gelehrte, die von kabbalistischen Schriften besessen sind. Sie arbeiten bis zum Umfallen, zwanzig, dreissig Stunden an einem Stück. [ ... ] Zumindest sie derart gefangen sind, existieren sie nur mit und durch den Computer. Das sind Computerfetischisten, zwanghafte Programmierer. Sie sind ein internationales Phänomen.

Weizenbaum Seite 160f

Wie kann man einen zwanghaften von einem schwer arbeitenden Berufsprogrammierer unterscheiden, der lediglich hoch motiviert ist? [ ... ] Der Fachmann betrachtet das Programmieren als Mittel und nicht als Selbstzweck. Seine Befriedigung bezieht er aus der Lösung eines inhaltlichen Problems und nicht daraus, dem Computer senen Willen aufgezwungen zu haben.

Weizenbaum Seite 162

Der zwanghafte Programmierer ist gewöhnlich ein brillanter Techniker, der außerdem jedes Detail des Computers kennt, mit dem er arbeitet, dessen periphere Ausstattung, sein Operationssystem etc. In Rechenzentren wird er gern gesehen, da er das System kennt und in der Lage ist, binnen kurzem kleine Unterprogramme zu schreiben; er schafft das in ein oder zwei Sitzungen von jeweils etwa 20 Stunden. Es kann vorkommen, dass das Rechenzentrum mit der Zeit einige seiner Systeme verwendet. Aber da man den zwanghaften Programmierern unter keinen Umständen dazu bringen kann, etwas anderes zu tun als zu programmieren, schreibt er seine Programme fast nie auf, sobald er nicht mehr mit ihnen arbeitet. Deshalb kann es soweit kommen, dass ein Rechenzentrum sich auf ihn verlassen muss, wenn es um die Erklärung der Zweckmässigkeit und der Beibehaltung der Systeme geht, die er geschrieben hat und deren Struktur er allein versteht. Seine Stellung gleicht der eines Bankangestellten, der zwar nicht viel für die Bank tut, aber als einziger die Kombination des Tresorschlosses kennt und nur deshalb nicht entlassen wird.

Weizenbaum Seite 162

Sein [des zwanghaften Programmierers] Hauptinteresse gilt deshalb nicht kleinen Programmen, sondern riesigen, ehrgeizigen Programmsystemen. In den meisten Fällen haben die Systeme, die er aufbauen will und an denen er fieberhaft einen, zwei oder drei Monate arbeitet, grandiose, aber äusserst ungenau formulierte Ziele. Einige Beispiele für diese ehrgeizigen Pläne sind: neue Computersprachen zur Verbesserung der Kommunikation zwischen Mensch und Maschine, ein generelles System, dem man beibringen kann, jede Art von Brettspiel zu spielen, oder ein System, das es Computerfachleuten erleichtern soll, Supersysteme zu entwerfen. (Letzteres ist sein Lieblingsprojekt). Es ist für viele dieser Vorhaben charakteristisch, dass der Programmierer lange Zeit die Überzeugung aufrecht erhalten kann, dass dazu kein anderes Wissen als das über Computer, Programmiersprachen etc. Erforderlich sei. Und über dieses Wissen verfügt er natürlich im Überfluss. Tatsächlich ist der Zeitpunkt, an dem das ganze Projekt aufgegeben wird, oft genau dann erreicht, wenn es aufhört, Nabelschau zu sein, d,h., wenn man das Programmieren unterbrechen und Wissen von ausserhalb der Computerwelt heranziehen müsste-

Weizenbaum Seite 162f

Programmsysteme können selbstverständlich ohne Plan und ohne jedes Wissen und Verständnis der dabei weit verzweigten Probleme erstellt werden, genau so, wie man auf diese Weise auch Häuser, Städte Staudämme und nationale Volkswirtschaften zurechthacken kann. Wenn ein derart zustande gekommenes System jedoch zu wachsen beginnt, wird es auch zunehmend instabil. Wenn eine seiner Subfunktionen unvorhergesehenerweise ausfällt, ausfällt, kann der sichtbare Schaden vielleicht behoben werden. Aber da es keine allgemeine Theorie des Gesamtsystems gibt, kann das System nur ein mehr oder weniger chaotisches System von Subsystemen sein, deren gegenseitiger Einfluss auf das Verhalten nur Stück für Stück und experimentell herausgefunden werden kann.

Weizenbaum Seite 164

Dann unterhält er [der manische Programmierer] sich nur noch mit dem Computer. Wir werden noch sehen, worüber sie sich unterhalten. ... Der Hacker verbringt einen Teil seiner Zeit am Schaltpult damit, die von ihm entwickelte Struktur mit neuen Subsystemen zu pflastern – er nennt sie "neue Eigenschaften" - und den Rest der Zeit mit Versuchen herauszufinden, in welcher Weise sich bereits installierte Substrukturen falsch verhalten Das ist es, worüber er sich mit dem Computer unterhält.

Weizenbaum Seite 164f

Ein Polizist stösst mitten in der Nacht auf einen Betrunkenen. Dieser rutscht auf allen Vieren unter einer Laterne und sucht offensichtlich irgend etwas. Er erklärt dem Wachtmeister, er habe seine Schlüssel verloren, "irgendwo da drüben"; dabei zeigt er auf eine Stelle, die ausserhalb des Lichtkreises der Laterne liegt. Natürlich fragt ihn der Polizist, warum der den Schlüssel unter der Laterne sucht und nicht da, wo er ihn verloren habe, und bekommt zur Antwort: "Weil man unter der Laterne besser sieht!"

Weizenbaum Seite 174

Eine Theorie ist in erster Linie ein Text, also eine Verkettung der Zeichen eines Alphabets. Aber in einem tieferen Sinne ist sie auch eine symbolische Konstruktion; bereits die Begriffe, mit denen eine Theorie arbeitet, sind Symbole, die nach einem Wort von Abraham Kaplan nach ihrer Bedeutung in der realen Welt tasten, andernfalls hören sie auf, symbolisch zu sein. Die Worte "tasten nach" stammen von Kaplan, und er hat sie glücklich gewählt – denn wen man sagte, Symbole "fänden" ihre Bedeutung in der realen Welt, so würde man die Tatsache leugnen oder zumindest verschleiern, dass die symbolischen Begriffe einer Theorie niemals ihren letzten Grund in der Realität finden können.

Weizenbaum Seite 190f

Eine Theorie ist natürlich nicht nur ein grammatikalisch korrekter Text, der sich einer Menge von Begriffen bedient, die in irgend einer symbolischen Beziehung zur Realität stehen. Sie ist eine systematische Menge von Aussagen über Gesetze. Ihr Gehalt, ihr echter Wert als Theorie liegt mindestens eben so sehr in der Struktur ihrer Zwischenverbindungen, durch die ihre Gesetze aufeinander bezogen werden, als in den Gesetzen selbst. (Studenten bereiten sich manchmal auf Physikprüfungen vor, indem sie seitenweise Gleichungen auswendig lernen. Sie werden ihr Examen mit derartigen Gedächtnisleistungen zwar bestehen, aber man wird wohl kaum sagen dürfen, dass sie etwas von Physik verstünden, d.h.mit anderen Worten, dass sie über eine Theorie verfügten)

Weizenbaum Seite 192

Eine Theorie, wenigstens eine gute, ist also nicht nur eine Datenbank, in der man "nachsehen" kann, was sich unter den und den Bedingungen ereignen wird. Sie gleicht eher einer Landkarte (auch Kaplan verwendet diese Analogie) eines teilweise erforschten Geländes. Sie hat eine heuristische Funktion, nämlich den Forscher bei seinen weiteren Entdeckungen anzuleiten. Die Art und Weise, in Theorien der Welt ein andere Gesicht geben, besteht nicht in der Antwort auf Fragen, sondern in ihrer Führung und ihrem Anreiz zu intelligentem Forschen. Und es gibt (wiederum) keine einzelne "richtige" Karte eines Geländes. ... Ein Nutzen der Theorie besteht also darin, dass er die die begrifflichen Kategorien vorbereitet, innerhalb derer der Theoretiker und der Praktiker ihre Fragen formulieren bzw. ihre Experimente planen. Normalerweise meinen wir natürlich mit der Umsetzung einer Theorie in die Praxis, dass wir aus ihre Konsequenzen ziehen. Und damit ist wiederum gemeint, dass dass wir bestimmte Umstände voraussetzen, die sich auf bestimmte Begriffe der Theorie beziehen und uns dann die Frage stellen, welche Implikationen diese besonderen Umstände nach der Theorie für andere Begriffe mit sich bringen.

Weizenbaum Seite 192f

Die Beziehung zwischen einem Modell und einer Theorie ist die, dass ein Modell einer Theorie genügt, d.h. ein Modell gehorcht den Verhaltensgesetzen, die von einer entsprechenden Theorie explizit formuliertt worden sind oder aus ihr abgeleitet werden können.

Weizenbaum Seite 195

Computer schaffen die Möglichkeit einer völlig neuartigen Beziehungen zwischen Modellen und Theorien.

Weizenbaum Seite 196

Wir wählen für unser Modell Merkmale der Realität aus, die wir für unsere Zwecke als wesentlich betrachten. In komplexen Situationen ... muss bereits der Akt der Auswahl dessen, was wesentlich ist und was nicht, mindestens zum Teil ein Akt des Beurteilens sein, oft des politischen und kulturellen Urteils. Und dieser Akt muss dann notwendig auf dem intuitivem Modell Denkmodell des Modellbauers beruhen. Beim Text eines Modells kann sich zeigen, dass etwas Wesentliches vergessen worden ist. Aber auch hier muss ein Urteil gefällt werden, um zu entscheiden, was dieses "etwas" sein könnte, und ob es für den Zweck "wesentlich" ist, den das Modell erfüllen soll. Die schliesslichen Kriterien, die notwendig auf Absichten und Zwecken beruhen, werden letztlich vom einzelnen, d.h.menschlichen Modellbauer bestimmt.

Weizenbaum Seite 202

Ich hatte früher gesagt, dass der Wert einer Theorie nicht so sehr in der Anhäufung der von ihr formulierten Gesetze liegt als vielmehr in der Struktur, die diese miteinander verbindet.

Weizenbaum Seite 205

Es wird oft gesagt, der Computer sei nur ein Werkzeug. Die Funktion des Wörtchens "nur" in dieser Aussage soll zu dem Schluss verleiten, dass der Computer in keinem fundamentalen Sinne sehr wichtig sein kann, da Werkzeuge an sich nicht sehr wichtig sind.

Weizenbaum Seite 213

Software Programmiertechniken Die Summe aller zu einem Computersystem gehörenden Programme, Programmiertechniken, Systemunterlagen, - anweisungen und sonstigen Dienstleistungen, die mit der Anwendung des Systems zusammenhängen. Gegenteil von Hardware. (s.Fussnote auf S.226. A.d.Ü)

Weizenbaum Seite 247

Weizenbaum Seite 270

[Aber die meisten gegenwärtig verfügbaren Programme, vor allem die umfangreichsten und wichtigsten unter ihnen, sind in diesem Sinne nicht theoretisch fundiert. ... ] Diese gigantischen Computersysteme sind in der Regel von Programmierteams zusammengestoppelt worden (man kann wohl kaum sagen; konstruiert), deren Arbeit sich oft über einen Zeitraum von mehreren Jahren erstreckt. Wenn das System dann endlich gebrauchsfähig ist, haben die meisten der ursprünglichen Programmierer gekündigt oder ihr Interesse anderen Projekten zugewandt, so dass, wenn diese gigantischen Systeme benutzt werden, ihr innerer Ablauf von einem einzelnen oder einem kleinen Team nicht mehr verstanden werden kann.

Weizenbaum Seite 306

Dass unsere Gesellschaft sich zunehmend auf Computersysteme verlässt, die ursprünglich Menschen beim Erstellen von Analysen und Treffen von Entscheidungen "helfen" sollten, die jedoch seit langem das Verständnis derjenigen übersteigen, die mit ihnen arbeiten und ihnen dabei immer unentbehrlicher werden, das ist eine sehr ernste Entwicklung. Sie hat zwei wichtige Konsequenzen. Erstens werden mit zum Teil ausschließlicher Unterstützung durch Computer Entscheidungen getroffen, deren Programme kein Mensch mehr explizit kennt oder versteht. Somit ist es ausgeschlossen, dass jemand die Regeln oder Kriterien kennt die durch diese Computersysteme verkörpert sind, gegenüber einer Änderung immun, da angesichts des Fehlens eines eingehenden Verständnisses der inneren Abläufe eines Computersystems jede Modifikation aller Wahrscheinlichkeit nach das ganze System lahmlegt, ohne dass eine Reparatur möglich ist. Aus diesem Grund können solche Computersysteme nur noch wachsen. Und ihr Wachstum samt der damit verbundene gesteigerten Abhängigkeit wird begleitet von einer zunehmenden Legitimation ihrer "Wissensgrundlage".

Weizenbaum Seite 311

In der Rhetorik der technischen Elite ist die korrumpierende Sprache fest verankert.

Weizenbaum Seite 328

Die instrumentelle Vernunft hat aus Worten einen Fetisch gemacht, der von schwarzer Magie umgeben ist. Und nur die Magier haben die Rechte der Eingeweihten. Nur sie können sagen, was die Worte bedeuten. Und die spielen mit Worten und betrügen uns. Wenn Skinner die Naturwissenschaften dem "common sense" gegenüberstellt und behauptet, die erstere sei diesem weit überlegen, dann meint er seine "Verhaltenswissenschaft", und das Wort "common" in "common sense" hat bei ihm eine abwertende Bedeutung. Er meint keinen "common sense", dem eine gemeinsame kulturelle Perspektive einigt, noch einen, der ohne "vernünftigen" Grund bei dem Gedanken erschrickt, Freiheit und Würde seien absurde und überholte Begriffe. Der Technologe behauptet immer wieder, Ansichten wie die hier vorgetragenen seien anti-technisch, anti-wissenschaftlich und schließlich anti-intellektuell. Er wird versuchen, alle Argumente gegen seine größenwahnsinnigen Visionen als Argumente für die Abkehr von Vernunft, Rationalität Naturwissenschaft und Technik auszugeben, als Plädoyer für pure Intuition, Gefühl, drogen-induziertes Bewusstsein usw. In Wirklichkeit spreche ich für eine Rationalität. Aber ich behaupte, dass man Rationalität nicht von Intuition trennen kann. Ich plädiere für den rationalen Einsatz von Naturwissenschaft und Technik, nicht für deren Mystifikation und erst recht nicht für deren Aufgabe. Ich fordere die Einführung eine ethischen Denkens in die naturwissenschaftliche Planung. Ich bekämpfe den Imperialismus der instrumentellen Vernunft, nicht die Vernunft an sich.

Weizenbaum Seite 334

Ein Individuum wird überall enthumanisiert, wo es nicht als ganze Person behandelt wird.

Weizenbaum Seite 347

Was für viele Dilemmata zutrifft, trifft auch hier zu: die Lösung liegt im Verwerfen der Spielregel, die es hervorgebracht haben.

Weizenbaum Seite 348

Ausserdem spricht es [] in hohem Masse gerade solche Personen an, die noch nicht über genügend Reife verfügen, eine lange Zeitspanne zu ertragen, die zwischen einem bestimmten Aufwand zum Erreichen eines Ziels und dem Auftreten konkreter Erfolgsanzeichen liegt. Unreife Studenten werden deshalb leicht zu dem Glauben verführt, sie hätten wirklich eine Fähigkeit erwaorben, die mit immenser Macht und hoher Bedeutung verbunden ist, während sie tatsächlich nur die Anfangsgründe beherrschen und noch gar nicht zum Wesentlichen vorgedrungen sind.

Weizenbaum Seite 150

Es wäre erstaunlich, wenn Lord Actons Beobachtung, dass Macht korrumpiert, nicht in einer Umwelt gelten würde, in der Omnipotenz so leicht zu erringen ist. Sie gilt auch hier. Und die Form, in der sich die Korruption – durch die Omnipotent des Programmierers hervorgerufen – äussert, ist für einen weit grösseren Bereich lehrreich als den, der sich nur auf den Computer bezieht.

Weizenbaum Seite 160