Optimiert

„Normalerweise funktioniert das so: Der Aufsichtsrat sagt, dass der Umsatz steigen muss. Was hält das Management-Team für am geeignetsten? Die Verweildauer zu steigern. Also geben sie die Marschroute aus, die dann durchsickert. Schließlich arbeiten alle daran, die Verweildauer zu steigern. Das bedeutet, dem Produkt einen höheren Suchtfaktor zu geben, es packender und aufdringlicher zu machen. Und es funktioniert: Der Nutzer verbringt mehr Zeit mit dem Produkt.

Aber jeder, der das umsetzt, weiß: Das ist schlecht. Jeder Entwickler und Designer weiß, dass das furchtbar ist. Sie sind nicht glücklich, solche Features umzusetzen. Aber sie können nichts gegen die Daten sagen. Entwickler und Designer, denen Nutzer am Herzen liegen, wollen solche Funktionen nicht in die Welt setzen. Aber die Daten sagen, dass solche Features die Verweildauer vergrößern – das heißt, sie sind gut. Denn längere Verweildauer bedeutet mehr verkaufte Werbung, was mehr verdientes Geld bedeutet. (…)

Es wäre möglich, dass Firmen in anderen Strukturen dieses Problem vermeiden können. Eine Welt ist vorstellbar, in der diese Firmen der Basis der Belegschaft die Möglichkeit gibt, bestimmte Entscheidungen selbst zu treffen und Nutzern ein Mitspracherecht zu geben. Mitarbeiter und Nutzer könnten zusammen entscheiden, nach welchen Maßzahlen optimiert wird und welche Art von Technologie sie bauen wollen.“

Life Aboard the Rocket Ship: An Interview with an Anonymous Engineer

Siehe auch: Das dunkle Geheimnis deines Data Scientists

Amerikas Adorno

Kein amerikanischer Denker ist mir in den vergangenen Jahren näher gekommen als Christopher Lasch (1932-1994). Vielleicht, weil sein kritischer Blick auf das Verhältnis von Moderne und Demokratie und der westlichen Conditio Humana noch heute der Realität standhält. Oder weil er in der Tradition des Populismus aus dem Mittleren Westen sowohl Konservative, als auch Progressive heftig kritisierte (und die daraus folgende Isolation in Kauf nahm).

Die völlige Ausrichtung des Menschen auf die Produktions- und Konsumgesellschaft hat er detailliert beschrieben, unseren Fortschrittsglauben als den naiven Wunsch nach Veränderung durch Vorbestimmung entlarvt. Und wenn er an die Kraft des Wissens glaubte, so erkannte er doch den Wesenswandel: aus dem Werkzeug zur Emanzipation wurde vor allem ein Werkzeug zur Beherrschung.

Um aus seinem Hauptwerk “The True and Only Heaven: Progress and Its Critics” (1991) zu zitieren:

“Der Glaube an den ‘Fortschritt’ entspringt keiner uramerikanischen Weltsicht, sondern ist schlicht Jahrzehnten von niemals endenden Verbesserungen in der ‘Lebensqualität’ geschuldet. Diese Verbesserungen sind zwar nur materiell, aber sie wurden erfolgreich erkauft. Der Triumph des industriellen Kapitalismus ist nicht der Sieg eines Ideals, sondern einer Verführung. Wir funktionieren für die Wirtschaft, schamlos zufrieden, entwürdigend schwach, auf den Fortschritt vertrauend und gleichzeitig verloren in der Nostalgie; die Welt verbrennend, um den prekären Status des Gewärmtseins beizubehalten.”

Auch wenn Lasch als Kulturkritiker bekannt wurde, ist seine Haltung nicht unidealistisch. Er lehnt aber moralische und technologische Hybris genauso ab wie den unhinterfragten und oft vorgeschobenen Traditionalismus der Konservativen. Ein Wunder, schreibt er, sei “die Bejahung des Lebens in den Zähnen seiner Grenzen.” Hoffnung bedeute, ein tiefsitzendes Vertrauen in das Leben zu haben, ohne dessen tragischen Charakter zu leugnen. Ein couragiertes Ja zur “Natur der Dinge”, auch während des größten Verlusts und des schlimmsten Herzschmerzes. Und Gerechtigkeit leitet sich schließlich aus der Überzeugung ab, dass die Bösen leiden, die Ungerechtigkeiten berichtigt werden – und dass die unter allem liegende Ordnung der Dinge nicht straflos verspottet werden kann.

Wenn ich Lasch “Amerikas Adorno” nenne, stimmt das nur teilweise. Es passt eher die Parallele zu Horkheimer, der gegen Ende seines Lebens kritisiert wurde, weil er die Modernisierung unseres Familienbilds als Zeichen des kapitalistischen Triumphs deutete, der Marktbarmachung aller menschlichen Institutionen. Solche Konflikte hatte Lasch, der ein ähnliches Familienkonzept vertrat.

Die antimodernen Züge seines Werks sind andere als die der Kritischen Theorie; ähnlich wie diese ist aber auch Laschs Lösung nur eine Denkskizze – ein verantwortungsbewusster Mensch, der sich Gier und übermäßigem Selbstbezug verweigert und nach den ausgearbeiteten und überlieferten Idealen der gemeinschaftlichen Praxis handelt (siehe: populistische Tradition des Mittleren Westens). Und als Fundament könnte ein Satz von Walter Benjamin dienen: “Nur um der Hoffnungslosen willen ist uns die Hoffnung gegeben.”

Mehr Nutzen aus Technologien

 The blitzscaling illusion

Anders als in manchen Pitch Decks propagiert sind unsere besten und wichtigsten Fortschritte und Technologien nicht per se kostenlos und ein Produkt schneller linearer Entwicklungen. Edward Tenner mit einer historischen Parallele:

„Im 20. Jahrhundert beschleunigten Kriegszeiten oft die Lösung der schwierigsten technischen Probleme: Kunstdünger, Antibiotika, Radar, Kryptographie, Atomenergie, Jet-Antriebe. Aber trotz der Alarmsignale in Sachen Klimawandel und Cybersicherheit existiert heute keine verbreitetes Gefühl der Dringlichkeit, das vergleichbar wäre. (…) Wenn wir zurück an den akuten Druck des zweiten Weltkriegs denken und wie Regierungsabteilungen damals der privaten Wirtschaft halfen, ihre Skepsis zu überwinden und zusammmenzuarbeiten, sollten wir ein vorrangiges Ziel verfolgen: Die systematischere Untersuchung all jener Ideen, die von den Tech-Medien als transformativ identifiziert worden sind. Danach sollten wir bessere Anreize für harte Technologien schaffen, die dem Gemeinwesen Nutzen bringen (zum Beispiel über Preise und bevorzugte steuerliche Behandlung). Was nutzen uns selbstfahrende Autos, wenn unsere Straßen – aus Mangel an langlebigeren Materialien und Straßenpflaster-Techniken – voller Schlaglöcher sind, die von den Autos noch nicht erkannt werden können?“

In der jüngeren Vergangenheit stoße ich häufiger auf Projekte, die Technologie gesellschaftlich denken wollen. Wenige davon denken in so großen Kategorien wie Tenner oben, sondern eher in Software. Und auch interdisziplinär beginnt gerade erst eine tiefere Vernetzung, so etwas wie fächerübergreifende R&D ist mir noch nicht oft untergekommen. Aber ich habe gerade erst begonnen, das zu sammeln – und freue mich auf Projekt-Hinweise in den Kommentaren!

Kommunikative Empathie

I have not been oppressed

„Die wichtigste Sache ist Empathie, kommunikative Empathie. Das bedeutet nicht, Ideen Verständnis entgegen zu bringen, die du widerwärtig findest. Sondern zu untersuchen, ob sie überhaupt wirklich abstoßend sind. Keine falsche Höflichkeit, die auf Bullshit-Normen fußt, sondern eine Verpflichtung, sorgsam zu lesen und im Gegenzug sorgsam zu antworten. Ein Diskurs ist dann einfühlsam, wenn Gedanken erst einmal vollständig gehört werden, bevor wir auf sie antworten. Nicht aus einer ritualisierten Verpflichtung, ‚beide Seiten zu hören‘. Sondern aus dem Wissen heraus, dass keine Antwort – auch nicht völlige Ablehnung – Bedeutung haben kann, bevor sich echtes Verstehen vollzogen hat. (…) Es gibt ein besseres Gespräch zu führen, aber du kannst es nur führen, wenn du es führst. Übe eine einfühlsamere Form der Rede als deine Gegner, und vielleicht ändern sich die Dinge. Oder, wenn es dir wie mir geht und du feststellst, dass deine Teilnahme unergiebig ist, kannst du das Feld räumen. Milliarden von Menschen verbringen jeden Tag, ohne darüber nachzudenken, was Leute im Internet sagen.“

Form erzeugt Form

„Es gibt drei Phasen im modernen Design. Eine der Phasen, oder Ansätze, ist ein Blick auf Design als formale Beziehung, auf die formale Logik des Objekts. Der Akt, etwas eine Form zu geben. Form erzeugt Form. Der zweite Ansatz ist die Perspektive auf die Symbolik und den Inhalt, mit dem du es zu tun hast. Die kleinen Rituale, aus denen das Kaffeekochen besteht. Oder das Verwenden von Messer und Gabel. Oder der kulturelle Symbolismus eines bestimmten Objekts. Diese Dinge kehren wieder, um eine Form zu bewohnen oder sie entstehen zu lassen; um den Designer dahin zu führen, wie diese Form beschaffen sein oder aussehen sollte. Die dritte Phase bedeutet, Design in seinem Kontext zu betrachten, in einem viel größeren Rahmen. Auf den technologischen Zusammenhang zu blicken, auf das Verhältnis des Menschen zum Objekt.“

Andrew Blauvelt in „Objectified“ (2009)

Die große AI-Vereinfachung

‚The discourse is unhinged‘: how the media gets AI alarmingly wrong

Warum wir über völlig falsche Fragen zu lernender Software diskutieren. Die Autorin Joanne McNeil dazu:

„‚Wenn du das Gehalt eines Journalisten mit dem eines AI-Forschers vergleichst, ist ziemlich schnell klar, warum es für Journalisten unmöglich ist, die gut recherchierten Stücke zu schreiben, die Forscher gerne über ihre Arbeit lesen würden.‘ Sie ergänzt, dass viele Forscher von dem Hype profitieren, sie als Autorin aber Probleme hat, wenn sie diese Technologien kritisch unter die Lupe nehmen möchte. ‚Es gibt nur wenige Publikationen, die an nuancierten Stücken interessiert sind und nur wenige Redakteure, die genügend Expertise haben, um Thema zu redigieren. Wenn AI-Forscher wirklich hintergründige und kritische Berichterstattung wollen, sollten sie sich zusammenschließen und eine Publikation finanzieren, bei der die Zeit der Autoren angemessen bezahlt wird, die sie für tieferes Verständnis brauchen.'“

Die Diagnose, dass sich Journalisten oft nur oberflächliches Wissen aneignen können, trifft für viele Technologie-Themen zu. Und nicht nur dort. Und zur Wahrheit gehört auch, dass Stücke über die „Killer-AI-Debatte“ oder Spekulationen über das Ende der Demokratie durch Algorithmen ein größeres Publikum finden als solche über Sachfragen wie z.B. die Nachvollziehbarkeit von Entscheidungen lernender Software.

Twitter: Zurück in der Schule

 The High School We Can’t Log Off From

„Das Problem ist, dass Twitter uns für unsere Fehler belohnt. Es ist nicht dafür ausgelegt, uns erwachsen werden zu lassen. Die Zeit in unseren Leben, die wir so gerne hinter uns gelassen hätten, erleben wir nun nochmal von vorne – eine Zeit, in der Gemeinheiten mit einer besonderen Intensität empfunden werden. Unsere Erfahrung lehrt uns, dass die Folgen dieser neuen Erbarmungslosigkeit, die wir gesät haben, ähnlich schwer zu verarbeiten sein werden.“