Computerwissenschaftler und Philosoph. Zum 100. Geburtstag
Nur wenigen wird der Name Weizenbaum auf Anhieb etwas sagen; noch am ehesten eingefleischten Computer-Freaks oder aber ausgeprägten Skeptikern der gesamten „Informationstechnologie“.
Dabei gibt es sogar einen nach ihm benannten Preis, der vom Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FifF) gestiftet wird.
Und seit einigen Jahren existiert schließlich ein Weizenbaum-Institut mit Sitz in Berlin. Zweck dieser speziellen Forschungseinrichtung (dort als „Mission“ bezeichnet): das kritische Hinterfragen des digitalen Wandels und mittels interdisziplinärer Zusammenarbeit wissenschaftliche Erkenntnisse sammeln. (1)
Besonderer Grund, Joseph Weizenbaum an dieser Stelle ein ehrendes Andenken zu widmen, ist einerseits, dass er im Januar dieses Jahres einhundert Jahre alt geworden wäre; andererseits die Tatsache, dass er seinen Lebensabend (von Ruhestand wird man nur schlecht sprechen können) wieder in Deutschland – in seinem geliebten Berlin verbracht hat, wo er dann auch im Jahre 2008 mit knapp über 85 Jahren verstorben ist. Soweit zur Einleitung.
I) Äußerer Werdegang
Im Wikipedia-Artikel zu Weizenbaum wird er als deutsch-US-amerikanischer Informatiker sowie Wissenschafts- und Gesellschaftskritiker beschrieben; formal alles richtig, aber doch sehr blass.
Geboren am 8. Januar 1923 in Berlin, besuchte er dort die üblichen Schulen und verlebte die ersten zehn Jahre eine ganz normale Kindheit (die politischen Verwerfungen in Deutschland seit der Septemberwahl 1930 dürften Kinder noch nicht vollständig registriert haben und auch die erste Zeit nach dem 30. Januar 1933 blieb zunächst trügerisch).
Ab 1933 war für die Familie Weizenbaum die glückliche Zeit im Deutschen Reich vorbei, als Juden mussten auch sie sich den verschärften gesellschaftlichen Bedingungen unterwerfen.
1936 gelang es ihnen, noch rechtzeitig vor den Nationalsozialisten zu fliehen; sie verließen Deutschland in Richtung der Vereinigten Staaten.
Im Zweiten Weltkrieg diente Joseph Weizenbaum bei der US-Luftwaffe.
Nach seinem Mathematikstudium arbeitete er zunächst als Nachwuchswissenschaftler u.a. am Bau eines Großrechners, bevor er dann Anfang der 1960er Jahre an das Massachusetts Institute of Technology (MIT) in Boston wechselte und dann auch Professor wurde; weitere Details s. u.
Ab 1996 – sechzig Jahre nach der Flucht aus Nazi-Deutschland – lebte Weizenbaum wieder in Berlin-Mitte, in der Nähe einer seiner Töchter, unweit der früheren elterlichen Wohnung aus Kindheitstagen.
Auf Vorschlag des Bundesministers des Auswärtigen wurde Joseph Weizenbaum am 25. Juli 2001 das Große Verdienstkreuz des Verdienstordens der Bundesrepublik Deutschland verliehen
In einem Interview zu seinem 85. Geburtstag wurde Weizenbaum auch nach den Gründen gefragt, warum er im Alter wieder in seine Geburtsstadt Berlin bzw. überhaupt nach Deutschland zurückkehrte; seine Antwort verdient, vollständig zitiert zu werden:
„Ach, es war, man könnte fast sagen, ein Zufall. Ich habe einen Humboldtpreis bekommen, der mich zu der Universität in Freiburg gebracht hat. Und da war ich für ein Jahr. Und viele Jahre vorher war ich mal Gastprofessor für ein ganzes Jahr in der TU in Berlin, und da habe ich Freundschaften hier entwickelt. Und als ich da in Freiburg fertig war, dachte ich: Na, da gehe ich für ein Jahr nach Berlin. Ja, es war sehr angenehm. Und ich hatte eine Gesellschaft. Ich hatte Freunde. Ich hatte Leute, mit denen ich sprechen konnte. Und ich habe mich eingelebt. Es stellt sich heraus, MIT ist ein richtiger Druckkessel, und da gibt es sehr wenig soziales Leben. Und wirklich, es ist fast zum ersten Mal in einer ganz, ganz langen Zeit. Wenn ich wirklich Freundschaften hatte und so was, da bin ich einfach geblieben. Es war keine Entscheidung, jetzt kehre ich zurück zu meiner Heimat. Das Wort Heimat, das ist mir sowieso sehr fremd. Und wenn es überhaupt eine Heimat gibt im Sinne Deutschland, dann ist es die Sprache. Es ist nicht das Land. Es ist die Sprache, die mich nicht loslässt. Es ist die deutsche Sprache.“ (2)
Von der familiären Bindung abgesehen (auf eine ebenfalls in Berlin lebende Tochter wurde bereits kurz hingewiesen), waren es also zwei entscheidende Beweggründe für Weizenbaums Rückkehr: Der tiefe Wert von Freundschaften und seine Verbundenheit zur deutschen Sprache (er hat seine „Muttersprache“ niemals abgelegt oder auch seinen „deutschen“ Nachnamen geändert). Er war der, als der er geboren worden war – er hatte nichts zu verleugnen.
Joseph Weizenbaum starb wenige Wochen nach seinem 85. Geburtstag und wurde auf dem Jüdischen Friedhof Berlin-Weißensee begraben.
Neben seinem beruflichen Wirken, auf das weiter unten eingegangen wird, zeichnete Joseph Weizenbaum auch einen sehr menschlichen Charakterzug aus: sein ausgeprägter Sinn für Humor. (3)
II) Der Weg vom Computerspezialisten zum Kritiker der modernen Informationstechnologie
Wie viele frühe Pioniere der Informatik/Robotik etc. war auch Weizenbaum neugierig und experimentierfreudig.
Neben seiner langjährigen Tätigkeit in den 60er Jahren am legendären Massachusetts Institute of Technology, dem „MIT“, wo er grundlegende „Basics“ der Computerwissenschaften erwerben konnte, die er immer wieder fortentwickelte und auch weiterzugeben suchte, strebte Weizenbaum danach, auch Hintergründe zu erfahren und über die Wirkungen seines Tuns nachzudenken.
So war er z.B. bereits 1950 an der Wayne State University an Planung und Bau eines Computers beteiligt, für ihn „eine herrliche Zeit“, wie er sogar noch an seinem 85. Geburtstag schwärmte: Alle Funktionalität dieser Maschine (damals noch raumfüllend) lag offen und klar erkennbar vor den am Bau Beteiligten; und das ca. zwanzig Jahre vor Erfindung des ersten Mikrochips. (4)
Am MIT in Boston wurde er seit den 1960er-Jahren ein renommierter KI-Forscher. Er ist bis heute nicht nur als ein Pionier der Forschung zur Künstlichen Intelligenz anerkannt, sondern vor allem als ein streitbarer Kritiker der Computerkultur.
Sein Buch »Computer Power and Human Reason. From Judgement to Calculation« ist ein Klassiker der Technik- und Wissenschaftskritik, ja der Kritik an der technischen und naturwissenschaftlichen Moderne überhaupt (siehe hierzu weiter unten).
Zuvor veröffentlichte Weizenbaum 1966 das Computer-Programm »ELIZA«, mit dem er die Verarbeitung natürlicher Sprache durch einen Computer demonstrieren wollte. Eliza wurde als Meilenstein der „künstlichen Intelligenz“ gefeiert, seine Variante Doctor simulierte das Gespräch mit einem Psychologen. Es schien den Turing-Test zu bestehen, da viele Benutzer nicht merkten, dass sie mit einer Maschine kommunizierten. Weizenbaum war entsetzt, wie ernst viele Menschen dieses relativ einfache Programm nahmen, indem sie im Dialog intimste Details von sich preisgaben. Dabei war das Programm nie daraufhin konzipiert, einen menschlichen Therapeuten zu ersetzen. Durch dieses Schlüsselerlebnis wurde Weizenbaum zum Kritiker der gedankenlosen Computergläubigkeit. Heute gilt Eliza als Prototyp für moderne Chatbots. (5)
Anlässlich des bereits erwähnten Interviews zu seinem 85. Geburtstag wurden auch Fragen zu „Eliza“ aufgeworfen (da Weizenbaum knapp zwei Monate später verstarb, kann man wohl von einer seiner letzten Stellungnahmen zu diesem Thema sprechen):
„Sie haben in den 60er Jahren selber dazu beigetragen, diese Fragen aufzuwerfen, auch mit Ihren Computerentwicklungen. Sie haben ein Sprachverarbeitungsprogramm ELIZA entwickelt, das als ein Meilenstein in der Entwicklung von künstlicher Intelligenz galt. Es ging darum, eine Kommunikation zwischen einem Computer und Menschen zu ermöglichen, die wie eine menschliche Kommunikation anmutet. Wie hat das damals funktioniert?
[Antwort Joseph Weizenbaum:] Zum Beispiel die Idee, der Computer versteht mich. Und was bedeutet Verstehen? Der Computer bearbeitet Symbole, die für den Computer absolut bedeutungslos sind. Und der Computer spuckt dann Signale aus in natürlicher Sprache, also Englisch zum Beispiel. Und es ist dann der Beobachter, der diese Signale interpretiert und sagt: Ja, die sind sehr Menschen-like, menschenähnlich.
Ich bin beeindruckt. Aber das bedeutet nicht, dass der Computer das geringste Verständnis hat über das, was gesagt wird. Zum Beispiel, wenn ich dem Computer sage: Gestern hat mich dieses Mädchen, in das ich, ich denke, so fast verliebt bin, hat ihre Hand auf meine Schulter gelegt. Was ich da erlebt habe, das kann ich dir gar nicht sagen. Und der Computer sagt: I understand. Ich verstehe. Na, dann ist es eine Lüge. Da ist doch niemand da in dem Computer. Der Computer ist doch nicht sozialisiert. Er hat doch nie in der Welt gelebt zum Beispiel.“ (6)
Diesen Satz Weizenbaums, „das bedeutet nicht, dass der Computer das geringste Verständnis hat“, muss man sich auf der Zunge zergehen lassen; er sollte jede Einführungsvorlesung im Fach „Informatik“ etc. eröffnen.
Weizenbaum war nach den Anwendungen von „Eliza“ erschüttert über die Reaktionen auf sein Programm, vor allem, dass praktizierende Psychotherapeuten ernsthaft daran glaubten, damit zu einer automatisierten Form der Psychotherapie gelangen zu können und er entwickelte sich nicht zuletzt aufgrund dieser Erfahrungen zu einem überzeugten Kritiker der modernen Gesellschaft – bezeichnete sich selbst sogar als „Ketzer“.
Ähnlich wie Albert Einstein seine Arbeit an den theoretischen Grundlagen für die (spätere) Technik der Kernspaltung und damit auch den Bau der ersten Atombomben im Nachhinein bitter bereute, hat auch Weizenbaum seine eigenen Beiträge zur Grundlagenforschung dessen, was heute im Deutschen eher verharmlosend als „Künstliche Intelligenz“ bezeichnet wird (die englische Form „artificial intelligence“ besitzt durch den Bezug auf das Lateinische „ars“ eine größere Sachlichkeit bzw. Seriosität), sehr selbstkritisch gesehen. Gerade an diesem Charakterzug erkennt man die große Persönlichkeit eines Menschen.
Aus dieser ab etwa Ende der 1960er Jahre einsetzenden Phase des kritischen Beobachtens der Auswüchse der sog. Computerwissenschaften entstand als Reaktion bzw. eine Art Weckruf Weizenbaums bekannteste Publikation. (7)
III) Ausgewählte Bezüge aus Weizenbaums „Computer Power“
Bereits im Einleitungssatz des Vorworts zu seinem bekanntesten Werk ist es Weizenbaum wichtig, darauf hinzuweisen, dass es in seinem Buch bloß „vordergründig um Computer“ gehen werde; – tatsächlich aber soll die Ideologie hinter dem physischen Gegenstand beleuchtet werden. Eine Ideologie, die (so Weizenbaums feste Überzeugung) zur Mystifikation einer ganzen Naturwissenschaft geführte habe.
Beinahe fünfzig Jahre nach der Erstausgabe ließe sich dieses Anliegen pointiert formulieren: Auf die Gefahren hinweisen, die entstehen, wenn aus ideeller Mystifizierung ein kommerzieller Fetisch namens „Digitalisierung“ geworden ist (zu diesem Aspekt siehe weiter unten).
„Die Auswüchse der Computerwissenschaften“ dienen Weizenbaum „als Parabel“ (so im Klappentext).
Er möchte vor allem darauf hinweisen, „daß erstens der Mensch keine Maschine ist und zweitens, daß es bestimmte Aufgaben gibt, zu deren Lösung keine Computer eingesetzt werden sollten, ungeachtet der Frage, ob sie zu deren Lösung eingesetzt werden können.“ (8)
Weizenbaum war ganz sicher ein Freigeist, der den Gedanken vom selbstbewussten, dem autonomen Menschen verfocht. Bei Kant wird dies als „Urteilskraft“ thematisiert.
„Eine Gesellschaft, die sich auf eine Technik einlässt, braucht eine starke innere Kraft, um von den Zielen nicht verführt, nicht zu gierig zu werden.“ (9)
Er stieß natürlich nicht überall auf Gegenliebe. Manche Kritiker beschränkten sich auf (vermeintlich) nicht bewiesene Annahmen zu rein technischen Entwicklungen oder warfen ihm vor, veraltete Thesen bzw. Theorien zu vertreten (zu kulturkritisch und „rückwärtsgewandt“).
Anderen ging Weizenbaum mit seinen gesellschaftspolitischen Seitenhieben gehörig auf den Wecker, da er sich damit bewusst in Fragen des politischen Zeitgeschehens einmischte, was nicht jedermann passte.
Ein Beispiel, wenn Weizenbaum auf Entwicklungen während des Vietnamkrieges Bezug nimmt:
„Im Krieg der USA gegen Vietnam wurden Computer von Offizieren bedient, die nicht die geringste Ahnung davon hatten, was in diesen Maschinen eigentlich vorging, und die Computer trafen die Entscheidung, welche Dörfer bombardiert werden sollten und welche Gebiete eine genügend hohe Dichte von Vietkongs aufwiesen, daß sie »legitimerweise« zu Zonen erklärt werden konnten, in denen »Feuer frei« gegeben wurde, d.h. weite geographische Gebiete, über denen Piloten das »Recht« hatten, auf alles zu schießen, was sich bewegte. (…) Und als der amerikanische Präsident beschloß, Kambodscha zu bombardieren und diese Entscheidung vor dem Kongreß geheim zu halten, da wurden die Computer des Pentagon darauf »getrimmt«, die ursprünglichen Einsatzberichte, die aus dem Kampfgebiet hereinkamen, in die falschen Berichte umzuformulieren (…). Man hatte die Geschichte nicht nur zerstört, sondern sogar neu geschrieben. (…) Schließlich hatte der Computer selbst gesprochen.“ (10)
Diese politischen Manipulationen bezüglich des verbotenen Militäreinsatzes gegen Kambodscha fand über dreißig Jahre später eine Fortsetzung, als die damalige US-Regierung unter Präsident Bush jr. fast schon verzweifelt nach Gründen für den sog. Irak-Krieg suchte, um den inzwischen missliebigen Diktator Hussein stürzen und das Land unter eigene Kontrolle bringen zu können; die Resultate sind bekannt.
Und dabei sind, was unbedingt betont werden sollte, die „Amis“ seit Gründung der Vereinigten Staaten 1776 kulturell, zivilisatorisch, ja sogar was verwandtschaftliche Beziehungen angeht, in unserer DNA verwurzelt.
Trotzdem gab und gibt es politische Führer in den USA, die die manipulative Kraft der Computer ausnutzen oder aber sich in den manipulativen Dienst dieser Technik stellen (für eine Handvoll Dollars).
Jetzt stelle man sich nur einmal für wenige Augenblicke vor, ein analfixierter Zwangscharakter wie Adolf Eichmann oder ein völlig skrupelloser und amoralischer Mensch wie Reinhard Heydrich bzw. das „Oberkommando der Wehrmacht“ hätten Anfang der 1940er Jahre in ausreichendem Umfang Anlagen der elektronischen Datenverarbeitung (die späteren Computer) für ihre „tägliche Arbeit“ zur Verfügung gehabt: Konrad Zuses Entwicklungen auf diesem Gebiet waren ja bekannt und auch das technische Know-how eines Wernher von Braun war ja bereits vorhanden (das US-Militär hat ihn auch gleich 1945 mit Kusshand übernommen).
Weizenbaum hat diese Gefahren und Zusammenhänge der Abhängigkeit des Menschen von technischen Systemen, aber auch ideologischen Verführungen beschrieben:
„Kein Wunder, daß Menschen, die tagaus, tagein mit Maschinen leben und sich nach und nach als deren Sklaven empfinden, schließlich glauben, auch Menschen seien bloße Maschinen (…).
Man sollte annehmen, daß eine große Anzahl von Individuen, die in einer Gesellschaft leben, in der anonyme, d.h. nicht verantwortliche Kräfte die drängenden Fragen der Zeit stellen und den Bereich der möglichen Antworten umgrenzen, ein Gefühl der Machtlosigkeit empfindet und einer sinnlosen Wut zum Opfer fällt. Und ohne Zweifel wird diese Erwartung von unserer Umwelt stets aufs Neue bestätigt (…).
Aber es gibt noch eine zweite Reaktion, die ebenfalls weit verbreitet ist; von der einen Seite betrachtet wirkt sie wie eine Resignation, aber von der anderen Seite erscheint sie als das, was Erich Fromm vor längerer Zeit einmal die »Furcht vor der Freiheit« genannt hat.
Die »guten Deutschen« unter Hitler konnten ruhiger schlafen, weil sie von Dachau »nichts wußten«. Sie wußten es deshalb nicht, wie sie später erzählt haben, weil das hochorganisierte Nazisystem ihnen das Wissen vorenthalten hatte. (Seltsam genug, daß ich als Heranwachsender im selben Deutschland von Dachau Kenntnis hatte. Ich hatte wohl Grund genug, mich davor zu fürchten.) Natürlich ist der wahre Grund dafür, daß die guten Deutschen von nichts wußten, daß sie sich nie für die Frage verantwortlich fühlten, was mit ihren jüdischen Nachbarn passiert war, deren Wohnungen plötzlich leer standen. Der Universitätsdozent, dessen Traum von einer Beförderung zum ordentlichen Professor sich unvermittelt erfüllte fragte nicht danach, wieso sein wertvoller Lehrstuhl so schnell frei geworden war. Schließlich wurden alle Deutsche Opfer dessen, wovon sie befallen waren.
Heute stellen sich selbst die höchsten Spitzenmanager als unschuldige Opfer einer Technik dar, für die sie sich nicht verantwortlich fühlen und die sie angeblich nicht einmal verstehen. (…)
Der Mythos von der technischen, politischen und gesellschaftlichen Zwangsläufigkeit ist ein wirksames Beruhigungsmittel für das Bewußtsein. Seine Funktion besteht darin, die Verantwortung jedem von den Schultern zu nehmen, der an ihn glaubt. Aber in Wirklichkeit gibt es handelnde Personen!“ (11)
Nicht zuletzt geht ein Teil der wie auch immer gearteten Kritik an Weizenbaums Buch auch auf die deutsche Übersetzung des englisch-amerikanischen Originaltitels: Aus „Computer Power and Human Reason. From Judgement to Calculation“ der 1976er Erstausgabe wurde in der deutschen Übersetzung von 1978: „Die Macht der Computer und die Ohnmacht der Vernunft“.
Wer hieraus herausliest, die Ohnmacht der menschlichen Vernunft sei erst die eigentliche Voraussetzung und notwendige Bedingung für die Macht der Computer, verengt bewusst die Perspektive auf eine rein mechanische Betrachtung. Dass diese angesichts der realen Auswirkungen der „KI“ im Jahr 2023 – man nehme bloß das Phänomen ChatGPT – zu kurz greift, sollte auch Technik-Freaks einleuchten.
Wenn nunmehr – im Gegensatz zur Zeit als ELIZA entwickelt und erprobt wurde – nahezu keine Unterscheidbarkeit echt-humaner von künstlich-digitaler Textaussagen und den mit dieser speziellen Technik erzielten Ergebnissen (z.B. in der bildenden Kunst oder im Bereich der Musik) mehr vorhanden ist, hat sich im Verhältnis von Mensch und Maschine eine eklatante Verschiebung in Richtung „Oberhand“ für die Maschinen ergeben.
Ursache für diese Verschiebung kann aber nicht nur eine bloße technische Verfeinerung oder Weiterentwicklung sein, sondern eine bedenkliche Veränderung im menschlichen Bewusstsein überhaupt.
Viele Menschen können gar nicht mehr realisieren, in welchem soziokulturellen Abhängigkeitsverhältnis sie von Maschinen geraten sind. Und noch eklatanter sind die damit verbundenen ökonomischen Auswirkungen und die ganz neu entstandenen Strukturen (Daten als „das Öl des 21. Jahrhunderts“).
Eine Auswirkung zum Beispiel ist die „Selbstaufgabe“ autonomen Denkens, indem es zum Alltag gehört, dass der Mensch sich selbst bei trivialen Dingen, wie der Wetterauskunft oder dem TV-Programm, an sprachgesteuerte Computerprogramme wendet; damit jedes Mal ein Stück mehr von seiner Autonomie abgibt: Gut für die Werbeindustrie und bestimmte Großkonzerne, schlecht für das menschliche Bewusstsein. (12)
Dabei ist nicht die „Technik an sich“ zu verteufeln, sondern der unreflektierte Umgang mit ihr und die von interessierter Seite manipulativ-gesteuerte Vorstellung, sich doch etwas Gutes zu tun, wenn man die (vermeintlich) innovativen Möglichkeiten der schönen, neuen Digitalwelt nutzt.
Oder, um es mit einem Zitat auf der Umschlagrückseite von Weizenbaums Buch pointiert auszudrücken:
»Ich bekämpfe den Imperialismus der instrumentellen Vernunft, nicht die Vernunft an sich.«
Diese Aussage gilt als Verweis auf die sog. Kritische Theorie Max Horkheimers, auf den Weizenbaum sich explizit bezogen hat; diese grundsätzliche Haltung zieht sich durch sein ganzes Werk – vielleicht auch sein ganzes Leben.
Diese wurde auch geprägt durch Weizenbaums Erfahrungen und Erlebnissen im NS-Unrechtsstaat und sogar ansatzweise in der extrem technikaffinen US-Nachkriegsgesellschaft:
„Auch darin liegt eine Parabel: die Macht, die der Mensch durch seine Naturwissenschaft und Technik erworben hat, hat sich in Ohnmacht verkehrt.“ (13)
Philosophisch betrachtet, kann man Weizenbaums Ansichten und Erkenntnisse, ja sein ganzes Leben sowohl unter idealistischen, materialistischen (zumindest „gegenständlichen“), aber auch humanistischen Gesichtspunkten kategorisieren und bewerten. In jedem Fall war er authentisch, couragiert und seinen Mitmenschen zugewandt: ein Freigeist bis zum Tod.
Daher ist es schon sehr schade, dass Weizenbaum die letzten 15 Jahre der technischen Entwicklungen auf dem Gebiet der „KI“ und noch mehr der digitalen Kommunikationsmöglichkeiten nicht mehr miterleben konnte.
Der Hang zur Beschleunigung, Perfektionierung und auch Ästhetisierung im Bereich „digitaler Anwendungen“ erreicht immer mehr einen totalitären Umfang, zumindest den allumfassenden Anspruch auf totale Kontrolle bzw. eine perfide Form der „Selbstunterwerfung“.
Gab es in der alten Bundesrepublik in den frühen 1980er Jahren noch heftigste Widerstände gegen die damals geplante „Volkszählung“ (eine Folge war die Klage vor dem Bundesverfassungsgericht mit dem Resultat, dass praktisch ein neues Grundrecht kreiert wurde: das Recht auf informationelle Selbstbestimmung), hat sich bei den 2011 und 2022 durchgeführten „Zensus“-Befragungen das Blatt beinahe total gewendet: In Zeiten, in denen sogar schon Kinder/Jugendliche Stars in den sog. Sozialen Medien sind, weil sie jeden gedankenlosen Schwachsinn „posten“ und damit teilweise jede Kleinigkeit ihrer Privatsphäre einem Milliarden-Publikum preisgeben, muss von einer Art digitalgetriebenen Gehirnwäsche gesprochen werden.
Joseph Weizenbaum würde sich in Anbetracht dieses „Imperialismus der instrumentellen Vernunft“, der sogar zu einer perfiden, aber perfekten Kontroll- und Überwachungsmaschinerie führte, nur noch verwundert die Augen reiben. (14)
Von all den schnelllebigen, bloß auf kurzfristige Effekte abzielenden Entwicklungen abgesehen, gibt es natürlich auch langfristige und dauerhafte Auswirkungen bzw. Resultate: Zwei davon, nämlich „das Militär“ und die „Arbeitswelt“ hatte Weizenbaum ganz besonders im Blick. (15)
Dies kennzeichnet Weizenbaum auch noch lange über seinen Tod hinaus als wahren Humanisten.
Thomas Fuchs, Assessor iur., Rechtshistoriker
Anmerkungen
1) Internet-Präsenz: https://www.weizenbaum-institut.de/
Zum Weizenbaum-Preis: https://www.fiff.de/studienpreis/fiff-stiftet-weizenbaum-preis.html
Daneben gibt es noch diverse weitere Ehrungen etc. Joseph Weizenbaum war in beiden Welten ein bekannter und geachteter Wissenschaftler.
2) Siehe Interview: https://www.deutschlandfunkkultur.de/der-computer-hat-das-geringste-verstaendnis-100.html
3) Selbstironie und „Chuzpe“ kennzeichnen den oft hintergründigen Witz von Joseph Weizenbaum.
4) Siehe bei Baierer, veröffentlicht unter https://edoc.hu-berlin.de/handle/18452/9619
5) In Weizenbaums Buch (Macht der Computer) wird die Funktionsweise des „Sprach-Analyse-Programms“ namens Eliza vom Entwickler selbst dargestellt, also aus erster Hand, siehe dort S. 15 ff.
Bedenkt man, dass die erste Probandin wohl eine psychisch labile junge Frau war, die glaubte, Hilfe bei einem Therapeuten („doctor“) suchen zu können, zeigt sich bereits in diesem frühen Stadium der Forschung zur sog. KI, wie missbrauchsanfällig und damit gefährlich diese Technologie sein kann.
Daher ein großes Dankeschön an alle Bildungs- u. KultusministerInnen für ihr selbstloses Engagement, den grenzenlosen Einsatz von KI bereits an den Grundschulen zu propagieren!
6) Interview, wie in Anmerkung 2).
7) Auch in gewisser Weise als Reflex auf den Vietnamkrieg und die Bürgerrechtsbewegung in den USA.
8) Weizenbaum, S. 10.
9) J. Weizenbaum, zit. nach Editorial des Weizenbaum-Instituts, Jahresbericht 2018/19, S. 9.
10) Weizenbaum, S. 313f.
11) Ders., S. 315 ff.
12) Die mit diesen Fragen angerissene Gesamtthematik ist eigentlich viel zu komplex, um sie in einem Halbsatz oder gar Fußnote abhandeln zu können. Aus Platzgründen muss dies dennoch unterbleiben. Lediglich ein Hinweis z.B. auf die Arbeiten von Frau Prof. Shoshana Zuboff (dt. Das Zeitalter des Überwachungskapitalismus) u.a. kritische Stimmen zu Fragen des „digitalen Kapitalismus“ muss erlaubt sein, s. Literaturhinweis.
13) Weizenbaum, S. 337.
14) Insoweit gibt es unmittelbare Bezüge zwischen Weizenbaums Kritik an den Auswirkungen ungehemmter „Computergläubigkeit“ und z. B. Zuboffs Beschreibungen des „Überwachungskapitalismus“.
Ihre Kritik betrifft in Deutschland u.a. ganz besondere „Datenkraken“, wie z. B. eine formal privatwirtschaftlich gestaltete „Auskunftei“ (mit Sitz in Wiesbaden), die aber faktisch über Eingriffsmöglichkeiten bzw. technische Innovationen zur Verhaltenssteuerung verfügt, welche sogar dem totalitären Überwachungsstaat der sog. Volksrepublik China große Ehre machen. Wenn seit kurzem das Bundesamt für Verfassungsschutz einen neuen Phänomenbereich „Verfassungsschutzrelevante Delegitimierung des Staates“ erstellt hat, wie sieht es dann mit dem Phänomen dieser „Datenkraken“ aus, deren versteckt faschistoides Streben ebenfalls großes Gefahrenpotential beinhaltet; denn was passiert, wenn eines Tages kein „Datenschützer“ mehr imstande sein wird, das „Geschäftsgebaren“ dieser „Schatten-Mächte“, die sich zu „Scoring-Ungeheuern“ entwickeln, zu kontrollieren?
15) Zum Militär z.B. auf S. 318: „Die entscheidende Rolle des Computers läßt sich eher am Beispiel seiner militärischen Anwendungen verdeutlichen“; zum Thema „Arbeit“ siehe z.B. S. 337 ff.
Gerade in Deutschland, dessen sozialer Standard insgesamt und wo auch der „gesellschaftliche Rang“ des einzelnen stets nach der beruflichen Position festgemacht wird, fallen sämtliche Bemühungen zur Effektivierung menschlichen Arbeitseinsatzes bis hin zu möglichst niedrigen „Lohnstückkosten“ auf sehr fruchtbaren Boden; immerhin wurde bereits 1924 in der Weimarer Republik die sog. REFA gegründet: Reichsausschuss für Arbeitszeitermittlung (ab 1936 für Arbeitsstudien); heute hauptsächlich mit der Entwicklung von Methoden zur betrieblichen Datenermittlung befasst (während der NS-Zeit wurden mit REFA-Methoden ermittelte „Bummelanten“ in letzter Konsequenz sogar ins KZ gebracht).
In den USA wurde mit der von Henry Ford (einem Bewunderer des Faschismus) eingeführten Kfz-Produktion die Fließbandarbeit revolutioniert und damit jede Erwerbstätigkeit in kleinste Einheiten zerstückelt, die dann wunderbar „getaktet“ werden konnten, so dass bereits Charly Chaplin vor fast 90 Jahren eine tiefsinnige Parodie auf die „modernen Zeiten“ präsentieren konnte.
Ein moderner Kritiker wie der US-Amerikaner David Graeber hat für die Fortentwicklung in der US-amerikanischen Arbeitswelt den wenig schmeichelhaften Begriff „Bullshit Jobs“ gewählt.
Und bei uns? Zwar garantiert das Grundgesetz gleich zu Beginn die Würde des Menschen; doch wie sieht es mit der „Würde der Arbeit“ aus? Unabhängig von Gewerkschaftsforderungen nachsteigenden Löhnen, welches Bewusstsein beherrscht die Vorstände der Großkonzerne, aber auch die „zuständigen Fachpolitiker“ bei Fragen nach der Zukunft sinnvoller menschlicher Tätigkeit?
Wenig optimistisch ließe sich orakeln, dass der „Wunsch“ (oder ist eine Art Hilfeschrei?) verantwortlicher „Entscheidungsträger“ in Politik und Wirtschaft, mit Hilfe allumfassender Digitalisierung – gleichsam per Knopfdruck – die Probleme der Welt zu lösen, als eine Art „Lebenslüge“ in der BRD seit weit mehr als einem Jahrzehnt bezeichnet werden kann: Statt Probleme wirklich zu lösen, wird höchstens die Illusion von Lösungskompetenz erweckt; technisch betrachtet, eine bloße Simulation, auf das reale Leben der betroffenen Menschen bezogen, eine tiefgreifende Manipulation.
Literaturhinweise
Baierer, Konstantin: Erinnerungen an Joseph Weizenbaum, Link nebst PDF:
https://edoc.hu-berlin.de/handle/18452/9619
Coy, Wolfgang: Joseph Weizenbaum zum 100.: „Please go on“ – Joes Computer spricht Englisch, in: https://netzpolitik.org/2023/joseph-weizenbaum-zum-100-please-go-on-joes-computer-spricht-englisch/
Weizenbaum, Joseph: Die Macht der Computer und die Ohnmacht der Vernunft, 1. Aufl., Frankfurt/M. 1978.
Weizenbaum-Institut (Hrsg.), Forschung für die vernetzte Gesellschaft – Das Deutsche Internet-Institut, Jahresbericht 2018 – 2019.
Zuboff, Shoshana: Surveillance Capitalism – Überwachungskapitalismus, in: Aus Politik und Zeitgeschichte Heft 24 – 26/2019, S. 4 – 9. In dieser Ausgabe mit dem Titel „Datenökonomie“ werden sehr viele Aspekte der heutigen Digitalisierung behandelt (zu beziehen über die Bundeszentrale für politische Bildung).
Eine Weizenbaum-kritische Stimme soll ebenfalls nicht fehlen: Sarasin, Philipp: Schlecht gealtert. Joseph Weizenbaums »Die Macht der Computer und die Ohnmacht der Vernunft« (1976/78), in: Zeithistorische Forschungen/Studies in Contemporary History, Online Ausgabe, 19 (2022), H. 2, S. 402 – 410. URL: https://zeithistorische-forschungen.de/2-2022/6063, DOI: https://doi.org/10.14765/zzf.dok-2429,
