<?xml version="1.0" encoding="UTF-8"?><rss xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:content="http://purl.org/rss/1.0/modules/content/" xmlns:atom="http://www.w3.org/2005/Atom" version="2.0" xmlns:cc="http://cyber.law.harvard.edu/rss/creativeCommonsRssModule.html">
    <channel>
        <title><![CDATA[Stories by Tobias Knobloch on Medium]]></title>
        <description><![CDATA[Stories by Tobias Knobloch on Medium]]></description>
        <link>https://medium.com/@tobiasknobloch?source=rss-1617cc7d49ec------2</link>
        <image>
            <url>https://cdn-images-1.medium.com/fit/c/150/150/0*6PEO3ojjE9A2JQkC.jpeg</url>
            <title>Stories by Tobias Knobloch on Medium</title>
            <link>https://medium.com/@tobiasknobloch?source=rss-1617cc7d49ec------2</link>
        </image>
        <generator>Medium</generator>
        <lastBuildDate>Sat, 21 Nov 2026 14:44:39 GMT</lastBuildDate>
        <atom:link href="https://medium.com/@tobiasknobloch/feed" rel="self" type="application/rss+xml"/>
        <webMaster><![CDATA[yourfriends@medium.com]]></webMaster>
        <atom:link href="http://medium.superfeedr.com/" rel="hub"/>
        <item>
            <title><![CDATA[Warum Krieg bescheuert ist #1]]></title>
            <link>https://medium.com/@tobiasknobloch/warum-krieg-bescheuert-ist-1-57048a984d67?source=rss-1617cc7d49ec------2</link>
            <guid isPermaLink="false">https://medium.com/p/57048a984d67</guid>
            <category><![CDATA[war]]></category>
            <category><![CDATA[pazifismus]]></category>
            <category><![CDATA[pacfism]]></category>
            <category><![CDATA[krieg]]></category>
            <dc:creator><![CDATA[Tobias Knobloch]]></dc:creator>
            <pubDate>Sun, 22 May 2022 16:38:05 GMT</pubDate>
            <atom:updated>2022-05-22T16:44:01.024Z</atom:updated>
            <content:encoded><![CDATA[<h4>Die Beherrschung der Erde durch Homo Sapiens beruht auf echten Genoziden</h4><p>Im Gefolge von Darwins Evolutionstheorie ging man eine Zeitlang davon aus, dass die Evolution verästelte Aufstiege hervorbringt. Also von weniger hoch entwickelten zu höher entwickelten Arten und von weniger fitten zu den behauptungsstärksten. In der Folge haben die Wissenschaften, allen voran Evolutionsbiologen und Anthropologen, jedoch überzeugende Indizien dafür gesammelt, dass das nicht stimmt. Es hat immer Arten gegeben, die zumindest eine Zeitlang nebeneinander existiert und sich auch gemischt haben. Ein bekanntes Beispiel ist der Neanderthaler (<em>Homo neanderthalensis</em>). Noch heute muss er als Schmimpfwortlieferant herhalten, obwohl er sowohl kräftiger als auch mit einem mindestens gleich großen (eher einem größeren) Gehirn ausgestattet war als <em>Homo sapiens</em>. Weil sich beide gemischt haben, bevor <em>Homo neanderthalensis</em> ausgestorben ist, steckt in jedem von uns heute noch zu etwa einem Prozent Neanderthaler-DNA.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/630/1*R4jGaug6_1V_frIiMbtMpg.jpeg" /><figcaption>Chris Stringer, CC BY-SA 3.0 DE <a href="https://upload.wikimedia.org/wikipedia/commons/1/15/Homo-Stammbaum%2C_Version_Stringer.jpg">https://upload.wikimedia.org/wikipedia/commons/1/15/Homo-Stammbaum%2C_Version_Stringer.jpg</a></figcaption></figure><p>Noch weiter zurück hat es unterschiedliche Hominidengattungen nebeneinander gegeben, neben Homo beispielsweise <em>Paranthropus</em>, der vor ca. 1,5 Millionen Jahren im südlichen Afrika lebte und sich von Pflanzen ernährte. Die Gattung Paranthropus gibt es heute ebenso wenig noch wie sämtliche Arten der Gattung Homo — bis auf uns, <em>Homo sapiens</em>.</p><p>Gerne schmeicheln wir uns selbst, indem wir die Geschickte so erzählen, dass wir uns einfach als am schlauesten, geschicktesten und kooperationsfreudigsten angestellt und deshalb als einzige nicht nur überlebt haben, sondern den Planeten inzwischen beherrschen. Ein einmaliger evolutionärer Fitnessfaktor hat uns demnach dorthin geführt, wo wir sind, nämlich an die Spitze. Zwar haben die soziale und kulturelle Evolution (anders ausgedrückt: die Kooperation und die Sublimierung von Ausdrucksformen) tatsächlich maßgeblichen Anteil an unserem Siegeszug, aber das ist nur die halbe Wahrheit, ihr positiver Teil, wenn man so will.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/720/1*mAApezfmj8v-3g04HE3qWQ.jpeg" /><figcaption>Eines der ältesten menschlichen Kunstwerke aus der Höhle von Lasceaux (ca. 20.000 v. Chr.) Quelle: Prof saxx — Eigenes Werk, Gemeinfrei, <a href="https://commons.wikimedia.org/w/index.php?curid=2846254">https://commons.wikimedia.org/w/index.php?curid=2846254</a></figcaption></figure><p>Die andere Hälfte ist diese: Die wahrscheinlichste Erklärung dafür, dass wir die einzigen Hominiden auf der Erde sind, ist die, dass wir alle anderen uns ähnlichen Gattungen und Arten ausgerottet haben. In die Zukunft blickend (die wir vielleicht auf einem anderen Planeten zubringen müssen, weil wir diesen für uns unbewohnbar gemacht haben werden) fragen wir uns ja manchmal, wie es wohl wäre, einer Art zu begegnen, die ähnlich intelligent ist wie wir. Die traurige Antwort ist, dass das längst geschehen ist, vor sehr langer Zeit schon. Wir haben diesen Arten aufgelauert und ihr unsere Äxte zwischen die Augen geschlagen, bis sie getilgt waren. Das ist unser blutiges Erbe, dessen traurige Fortsetzung in jenen gerade angesagten <a href="https://www.imdb.com/title/tt11138512/">filmischen Mittelalterkampfspektakeln</a> ausgiebig betrachten kann, wer auf spritzendes Blut und umherfliegende Köperteile steht. Oder eben ganz aktuell 1000 Kilometer östlich von Berlin. Der Soundtrack unserer Art ist der einer umherziehenden, mordenden Räuberbande:</p><iframe src="https://cdn.embedly.com/widgets/media.html?src=https%3A%2F%2Fwww.youtube.com%2Fembed%2FWY1EDBNSOpU%3Ffeature%3Doembed&amp;display_name=YouTube&amp;url=https%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3DWY1EDBNSOpU&amp;image=https%3A%2F%2Fi.ytimg.com%2Fvi%2FWY1EDBNSOpU%2Fhqdefault.jpg&amp;key=a19fcc184b9711e1b4764040d3dc5c07&amp;type=text%2Fhtml&amp;schema=youtube" width="854" height="480" frameborder="0" scrolling="no"><a href="https://medium.com/media/a388b089c99679fa1c40af723fc97e63/href">https://medium.com/media/a388b089c99679fa1c40af723fc97e63/href</a></iframe><p>Heute leben Krokodile von vor der Zeit der Dinosaurier und andere, viel jüngere Reptilien parallel. Aber es gibt nur noch eine Hominidengattung und nur noch eine Art der Gattung Homo — den Sapiens. Zu Anfang unserer Bemächtigung des Planeten standen also sehr wahrscheinlich mehrere Genozide. <em>Homo sapiens</em> duldet keine anderen Götter neben sich. Und nicht nur die nicht. Im Zuge der Ausbreitung von <em>Homo sapiens</em> über die Erde sind überall dort, wo wir sesshaft wurden, in den darauffolgenden zehntausend Jahren große Säugetiere regelmäßig stark dezimiert oder ganz ausgerottet worden. Das Mammut ist nur ein prominent gewordener Ausweis dafür.</p><p><strong><em>FAZIT: Schon aufgrund unserer gattungsgeschichtlichen Schuld sollten wir in Sack und Asche gehen, Waffen nur noch zum Schneiden von Früchten, die uns die Natur schenkt, benutzen und immer recht freundlich zu allen Lebewesen sein — zu Menschentieren ebenso wie zu Tieren, die nicht der Gattung Homo angehören.</em></strong></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=57048a984d67" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Warum Krieg bescheuert ist]]></title>
            <link>https://medium.com/@tobiasknobloch/warum-krieg-bescheuert-ist-bb1022ab93a3?source=rss-1617cc7d49ec------2</link>
            <guid isPermaLink="false">https://medium.com/p/bb1022ab93a3</guid>
            <category><![CDATA[pazifismus]]></category>
            <category><![CDATA[krieg]]></category>
            <category><![CDATA[war]]></category>
            <category><![CDATA[pacifism]]></category>
            <dc:creator><![CDATA[Tobias Knobloch]]></dc:creator>
            <pubDate>Sun, 22 May 2022 16:16:26 GMT</pubDate>
            <atom:updated>2022-05-22T16:47:15.681Z</atom:updated>
            <content:encoded><![CDATA[<h4>Eine mehrteilige Begründung</h4><p>Nach Genderzeug und Wokeness haben die Ereignisse der realen Welt erzwungen, dass wieder über Handfestes gesprochen wird. Dazu kann sich selbst ein in die Jahre kommender weißer Mann äußern. Aufgrund meiner Ausbildung als Philosoph und meines Hobbys, der Beschäftigung mit evolutionärer Anthropologie, sind mir etliche Gründe dafür eingefallen, warum jede Form der organisierten, systematischen Gewaltausübung sinnlos, unvernünftig, geschmacklos und verwerflich ist. Meine Schlussfolgerung und Forderung an uns alle lautet: <strong>Wir müssen damit aufhören und nach rund 200.000 Jahren endlich friedfertige Tiere werden.</strong> Vielleicht können wir dann auch den Planeten noch retten. Das wäre ein echter Kollateralnutzen.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*qjl2pPWBAnnp6FAGDH9DEA.jpeg" /><figcaption>Photo by <a href="https://unsplash.com/@we_the_royal?utm_source=unsplash&amp;utm_medium=referral&amp;utm_content=creditCopyText">Duncan Kidd</a> on <a href="https://unsplash.com/s/photos/war?utm_source=unsplash&amp;utm_medium=referral&amp;utm_content=creditCopyText">Unsplash</a></figcaption></figure><p>Da mich die rituellen und meistens symbolischen Handlungen der Politik bestenfalls langweilen, meistens jedoch anwidern, sind meine Gründe alles außer politisch (oder politikwissenschaftlich oder soziologisch), nämlich anthropologisch, historisch, philosophisch, sozialpsychologisch und so weiter. In der Natur dieser Disziplinen liegt es, dass der Gedankengang häufig beim sprichwörtlichen Ei der Leda (also historisch ziemlich weit zurück) beginnt. Ich versuche aber jeweils schnell auf den Punkt zu kommen.</p><p>In unregelmäßigen Abständen werde ich hier eine neue Argumentation für Friedfertigkeit bringen — bis mir keine mehr einfällt.</p><p><a href="https://medium.com/@tobiasknobloch/warum-krieg-bescheuert-ist-1-57048a984d67">Teil 1: Die Beherrschung der Erde durch Homo Sapiens beruht auf echten Genoziden</a></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=bb1022ab93a3" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[DER MASCHINELLE WEG ZUM PASSENDEN PERSONAL]]></title>
            <link>https://medium.com/@tobiasknobloch/der-maschinelle-weg-zum-passenden-personal-eb9e290fdd3e?source=rss-1617cc7d49ec------2</link>
            <guid isPermaLink="false">https://medium.com/p/eb9e290fdd3e</guid>
            <category><![CDATA[automation]]></category>
            <category><![CDATA[hr]]></category>
            <category><![CDATA[recruiting]]></category>
            <dc:creator><![CDATA[Tobias Knobloch]]></dc:creator>
            <pubDate>Thu, 10 Oct 2019 11:10:12 GMT</pubDate>
            <atom:updated>2019-10-10T12:27:57.749Z</atom:updated>
            <content:encoded><![CDATA[<h4>Zur Rolle algorithmischer Systeme in der Personalauswahl*</h4><p><strong>Algorithmische Systeme werden Rekrutierungsprozesse, den gesamten Personalsektor und das Berufsbild der Personaler:innen stark verändern. Die Bedeutung klassischer Ausschreibungen und Einstellungsverfahren, wie wir sie seit langer Zeit kennen, wird abnehmen. </strong>Bereits heute ist das Softwareangebot in diesem Bereich groß und vielfältig. Es reicht von Systemen zur Analyse des Arbeitsmarktes und seiner Entwicklung über Tools, die die Wechselwilligkeit von potenziellen Mitarbeiter:innen berechnen, bis hin zu automatisierten Lösungen, die Bewerbungen filtern oder gar Auswahlgespräche führen. Für Arbeitgeber:innen bieten Algorithmen die Chance, passendere Mitarbeiter:innen zu finden, Bewerbungsprozesse fairer zu gestalten und Personaler:innen wertvolle Zeit zu verschaffen, sich auf die persönliche Interaktion mit Kandidat:innen zu konzentrieren.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*904l986ZsQK_iJf0_inTbw.jpeg" /><figcaption>Photo by <a href="https://unsplash.com/@brett_jordan?utm_source=unsplash&amp;utm_medium=referral&amp;utm_content=creditCopyText">Brett Jordan</a> on <a href="https://unsplash.com/s/photos/robot?utm_source=unsplash&amp;utm_medium=referral&amp;utm_content=creditCopyText">Unsplash</a></figcaption></figure><p><strong>Für Unternehmen ist kaum etwas so kostspielig wie die Einstellung unpassender, schnell wieder ausscheidender Mitarbeiter:innen. Das Thema Passung (Matching) ist daher eine zentrale Herausforderung für Personaler:innen.</strong> „Wie finde ich potenziell geeignete Mitarbeiter:innen? Wie prüfe ich ihre Eignung in mehreren Dimensionen?“ Daran schließen sich weitere Fragen an, die nicht mehr zur Passung im engeren Sinne gehören, aber ebenfalls durch algorithmische Systeme unterstützt werden können: „Wie beurteile ich die Wechselwilligkeit von Kandidaten? Und wie überzeuge ich sie schließlich von meinem Unternehmen?“</p><p><strong>Über Anstellungsverhältnisse werden Lebenschancen verteilt. Technische Systeme, die bei dieser Zuteilung als Schranken fungieren, können weitreichende gesellschaftliche Konsequenzen haben, und zwar positive wie negative.</strong> Fragen wie „Was macht eine:n guten Mitarbeiter:in aus?“ oder „Für welche Werte steht mein Unternehmen?“ müssen für den Einsatz algorithmischer Systeme neu und sehr viel genauer beantwortet werden, als dies bislang nötig war. Diese für maschinelle Prozesse nötige Präzision lässt sich auch als Chance für mehr Menschlichkeit im Personalwesen begreifen.</p><p><strong>In einigen, durchaus sehr unterschiedlichen Branchen verschärft sich der Kampf um Talente zurzeit deutlich. </strong>Das hat strukturelle Gründe, deren Ursachen weit über das hinausgehen, was Gegenstand technischer Hilfsmittel sein könnte. Dennoch wird der Einsatz neuer Technologien in Zukunft zunehmend über den Erfolg von Rekrutierungsstrategien (und damit auch über den unternehmerischen Erfolg) entscheiden.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*RNqoZeq0TUVd1jSIST1PBg.jpeg" /><figcaption>Photo by <a href="https://unsplash.com/@markusspiske?utm_source=unsplash&amp;utm_medium=referral&amp;utm_content=creditCopyText">Markus Spiske</a> on <a href="https://unsplash.com/s/photos/robot?utm_source=unsplash&amp;utm_medium=referral&amp;utm_content=creditCopyText">Unsplash</a></figcaption></figure><p><strong>Daher ist es wenig überraschend, dass algorithmische Systeme im Personalbereich überdurchschnittlich bekannt sind.</strong> Die Absicht, in der Zukunft solche Systeme in der Personalbeschaffung einzusetzen, ist insbesondere unter den Top-Unternehmen und in der IT-Branche stark ausgeprägt. Allerdings hinkt der tatsächliche Einsatz derzeit noch hinterher. Die große Offenheit von Arbeitgeber:innen gegenüber der Technologie steht im Kontrast zur Bekanntheit und Akzeptanz algorithmischer Systeme beim Recruiting innerhalb der breiten Bevölkerung. Laut einer repräsentativen Umfrage, der Bertelsmann Stiftung von 2018, wissen überhaupt nur 35% der Bevölkerung, dass Algorithmen bei der Personalauswahl eingesetzt werden. Mehr als die Hälfte der Befragten lehnt diese Form des Einsatzes ab und präferiert stattdessen menschliche Entscheidungen.</p><p><strong>Aufgrund der Tragweite sollten beim Einsatz algorithmischer Systeme in der Personalgewinnung neben Fragen von Recht und Gesetz und ökonomisch-unternehmerischen Erwägungen auch ethische Aspekte berücksichtigt werden.</strong> Um eine gemeinwohlorientierte Nutzung der Systeme zu fördern, ist es essenziell, dass wir auch die Grenzen der Technologie erkennen, Software komplementär zu den menschlichen Stärken bzw. Schwächen einsetzen und sie als Anlass nutzen, um festgefahrene Strukturen und Prozesse zu hinterfragen.</p><p><strong>Algorithmen sind effizienter als Menschen und skalieren im Guten wie im Schlechten. Das Schadenspotential automatisierter Prozesse ist grundsätzlich höher als bei analogen Prozessen.</strong> Diskriminierende Muster können durch algorithmische Systeme reproduziert und skaliert werden. Algorithmische Systeme spiegeln Wertevorstellungen der Personen wider, die über ihren Einsatz entscheiden, Daten sammeln, Systeme programmieren und anwenden. Durch den Einsatz von Software in der Personalgewinnung und -entwicklung kann sich daher eine verdeckte (Gruppen-)Diskriminierung einstellen, am Ende gar eine schleichende Homogenisierung von Belegschaftsteilen oder gar ganzer Belegschaften.</p><p><strong>Dadurch, dass sowohl die Bewerber- als auch die Anbieterseite algorithmische Systeme einsetzt, könnte es zu einer Art „Wettrüsten“ von Bewerber:innen und Recruiter:innen kommen.</strong> Das beginnt schon dann, wenn Bewerber:innen ihre Lebensläufe mithilfe von Algorithmen für maschinelle (Vor-)Auswahlsysteme optimieren, was tatsächlich zunehmend der Fall ist. Aus diesem Grund wird die vielfach geforderte Nachvollziehbarkeit algorithmischer Entscheidungen auch kritisch gesehen. So wird befürchtet, dass die Erklärung der Funktionsweise oder des Zustandekommens von Entscheidungen dazu führt, dass sich Bewerber:innen auf die Logik der Systeme einstellen, statt ihre individuelle Eignung für die betreffenden Stellen in den Vordergrund zu rücken.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*fBfuG581NglgMSSw7x1MZg.jpeg" /><figcaption>Foto von Mahdis Mousavi bei unsplash.com</figcaption></figure><p><strong>Qualitätssiegel für Recruiting-Algorithmen könnten ein geeignetes Mittel sein, um Qualität und Ethik als Wettbewerbsvorteil zu fördern, Diskriminierung durch Software und inadäquater Automatisierung von Personalentscheidungsprozessen entgegenzuwirken.</strong> Für Arbeitgeber:innen könnte ein solches Siegel die Auswahl passender algorithmischer Systeme erleichtern. Für Aufsichtsbehörden und Betroffene könnte es dabei helfen, Rechtsverletzungen aufzudecken. Die Herausforderung, lernende und sich somit ständig verändernde Systeme zu beurteilen, ließen sich bewältigen, indem ein Siegel nicht die Qualität des technischen Systems (Fehlerquoten und Genauigkeitsrate), sondern die des Entwicklungs- und Einsatzprozesses bewertet: Wurde eine Technikfolgenabschätzung durchgeführt und veröffentlicht? Wurden Beschwerdemechanismen eingerichtet? Wurde externe Überprüfbarkeit ermöglicht? Völlig offen ist zum jetzigen Zeitpunkt — nicht nur in Bezug auf den Personalbereich — die Frage, wie solche Siegel in die Welt kommen sollen und welche Instanz sie vergeben sollte. Manches spricht dafür, dass dazu bereits bestehende Gremien, wie der Deutsche Ethikrat, der Sachverständigenrat für Verbraucherfragen oder einschlägige Fachorganisationen wie die Deutsche Gesellschaft für Personalführung, einbezogen werden sollten. Neue Einzelgesetze oder gar ein sektorübergreifendes „Algorithmengesetz“ brauchen wir für die Regulierung vorerst nicht. Vielmehr müssen bestehende Regelungen zum Schutz von Arbeitnehmer:innen konsequent umgesetzt und gegebenenfalls konkretisiert werden.</p><p><strong>In Zukunft werden Personaler:innen nicht umhinkommen, sich zusätzlich zu ihrem Domänenwissen auch technisches Fachwissen hinsichtlich der Funktionsweise sowie der Stärken und Schwächen algorithmischer Personalauswahlsysteme anzueignen.</strong> Personaler:innen müssen in zweifacher Weise Kompetenz aufbauen: Erstens müssen sie nicht nur die rechtliche Zulässigkeit der Systeme, sondern auch ihre sozialen, gesellschaftlichen Folgen und deren Vertretbarkeit einschätzen und kommunizieren können. Zweitens müssen Personaler:innen in die Lage versetzt werden, algorithmische Systeme angemessen und versiert anzuwenden. Sie müssen sich deshalb nicht unbedingt zu Data-Analytics-Expert:innen ausbilden lassen, aber zumindest Kenntnisse über algorithmische Rekrutierungsunterstützung und einen guten Überblick über die auf dem Markt angebotenen Tools verschaffen. Arbeitgeber- und Berufsverbände tun gut daran, dies nach Kräften zu unterstützen.</p><p>Die Hauptherausforderung eines jeden Rekrutierungsprozesses ist die Frage, was eine:n gute:n Mitarbeiter:in ausmacht und über welche Indikatoren sich benötigte Kompetenzen messen lassen. Hier kann Software beispielsweise dazu beitragen, dass formal gering qualifizierte Menschen besser in den Arbeitsmarkt integriert werden, indem abschluss- und zertifikatsunabhängige Fähigkeiten gemessen und mit Bedarfen abgeglichen werden. Vor dem Hintergrund anhaltender Migrationsbewegungen und des Fachkräftemangels ist das eine von mehreren großen Chancen. Zugleich werden algorithmische Systeme leider, auch im Personalsektor, immer wieder in der Hoffnung eingesetzt, schnell technische Abhilfe für komplexe soziale Probleme zu schaffen. Von diesem Techno-Fix-Ansatz gilt es sich zu lösen. <strong>Unsere natürlichen Fähigkeiten können wir technisch nur erweitern, ohne uns zu schaden, wenn wir Mensch und Maschine zusammen denken und uns als den Teil dieser Einheit begreifen, der sie steuert und die Richtung ihrer Entwicklung bestimmt. Bestimmte Faktoren werden sich aber auch künftig nicht messen und ausrechnen lassen. Mit einiger Sicherheit kann man daher sagen, dass das persönliche Gespräch und der menschliche Eindruck im Personalbereich auf absehbare Zeit unverzichtbar bleiben werden.</strong></p><p><em>*E</em>x<em>ecutive Summary des gleichnamigen Policy Papiers, das ich mit Carla Hustedt geschrieben habe; herausgegeben im Juni 2019 von der Stiftung Neue Verantwortung und der Bertelsmann Stiftung. Das gesamte Papier findet sich </em><a href="https://www.bertelsmann-stiftung.de/fileadmin/files/BSt/Publikationen/GrauePublikationen/SNV_Robo_Recruiting_final.pdf"><em>hier</em></a><em>.</em></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=eb9e290fdd3e" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[PRE-CRIME SOCIETY?]]></title>
            <link>https://medium.com/@tobiasknobloch/pre-crime-society-a5dc95ced0a2?source=rss-1617cc7d49ec------2</link>
            <guid isPermaLink="false">https://medium.com/p/a5dc95ced0a2</guid>
            <category><![CDATA[policing]]></category>
            <category><![CDATA[predictive-analytics]]></category>
            <category><![CDATA[algorithms]]></category>
            <category><![CDATA[ethics]]></category>
            <dc:creator><![CDATA[Tobias Knobloch]]></dc:creator>
            <pubDate>Mon, 01 Jul 2019 09:02:23 GMT</pubDate>
            <atom:updated>2019-07-01T09:02:23.601Z</atom:updated>
            <content:encoded><![CDATA[<h4>Interview mit Matthias Heeder (Hamburg), Autor und Macher des Films „Pre-Crime“</h4><p><em>Das Interview fand am ersten Tag des 48. Symposiums des Instituts für Konfliktforschung („Gefährder im Rechtsstaat — Gefährdungen des Rechtsstaats”) am Abend des 6.4.2019 in Maria Laach im Anschluss an die Ausstrahlung des Films statt.</em></p><iframe src="https://cdn.embedly.com/widgets/media.html?src=https%3A%2F%2Fwww.youtube.com%2Fembed%2FDXoSMmlLtWU%3Ffeature%3Doembed&amp;url=http%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3DDXoSMmlLtWU&amp;image=https%3A%2F%2Fi.ytimg.com%2Fvi%2FDXoSMmlLtWU%2Fhqdefault.jpg&amp;key=a19fcc184b9711e1b4764040d3dc5c07&amp;type=text%2Fhtml&amp;schema=youtube" width="854" height="480" frameborder="0" scrolling="no"><a href="https://medium.com/media/82c533fc76a0b09e42d7b93ae3e7724b/href">https://medium.com/media/82c533fc76a0b09e42d7b93ae3e7724b/href</a></iframe><p><strong>Tobias Knobloch (TK):</strong></p><p><em>Schönen guten Abend allerseits. Damit Sie auch noch zu Wort kommen, habe ich mir lediglich drei, vier Fragen aufgeschrieben zu diesem Film, den ich beeindruckend finde. Ich habe ihn schon mehrfach gesehen und entdecke jedes Mal wieder Details, die ich bisher übersehen oder wieder vergessen habe. Ende 2017 wurde ich von der Verleihfirma gefragt, ob ich eine Vorabausstrahlung in Berlin mit anschließender Diskussion moderieren möchte. Obwohl ich viel zu tun hatte, habe ich das zugesagt und es nicht bereut. Nicht nur deshalb, weil ich — was ich damals noch nicht wusste — im Frühjahr 2018 ein Forschungsprojekt zum Thema Predictive Policing durchführen sollte, sondern auch weil ich den Film sehr gelungen finde: Er ist toll fotografiert, stellt die richtigen Fragen, findet eine gute Balance aus Tiefe und Verständlichkeit und präsentiert eine sehr gute Auswahl an Zeugen zum Thema. Ich glaube daher, dass es für lange Zeit schwierig sein wird, etwas ähnlich Gelungenes zu diesem Thema zu produzieren.</em></p><p><strong>starker APPLAUS aus dem Publikum</strong></p><p><em>Allerdings wird die Technologie ja stetig weiterentwickelt und vielleicht ergibt sich deswegen bald die Möglichkeit zu einem neuen Film zum Thema — vielleicht sogar für Sie, Herr Heeder, wer weiß.</em></p><p><em>Meine erste Frage bezieht sich auf die Entstehungsgeschichte des Films: Herr Heeder, wie lange haben die Vorrecherchen gedauert, wie lange haben Sie gebraucht, um einen roten Faden zu haben und alle Gesprächspartner ausfindig zu machen?</em></p><p><strong>Matthias Heeder (MH):</strong></p><p>Zunächst einmal schönen guten Abend und herzlichen Dank für den Applaus, das erwärmt das Herz! Was die Geschichte des Films angeht: Eines Tages sitze ich mit meiner Frau, Monika Hielscher, morgens beim Frühstück zusammen, und Monika schiebt mir einen Artikel aus der Kolumne „Netzwelt“ der Süddeutschen Zeitung zu, in dem des um Predictive Policing geht. Darin sind wir darauf gestoßen, dass es so etwas wie die „Heat List“ gibt, dass es also Computerprogramme gibt, die Bürger regelrecht scoren. Da hat es bei uns „Klick“ gemacht und von dem wir wussten, dass das etwas ist, was uns interessiert, zumal wir schon länger nach einem Aufhänger gesucht haben, um als Künstler zu dem digitalen Umbruch, in dem wir uns befinden, Stellung nehmen können. Dabei sind wir nie auf etwas wirklich Nachhaltiges gestoßen, was uns angesprochen hätte. Aber hier war es so, dass dass sich plötzlich Hollywood mit Polizeiarbeit verbindet und eine neue Realität geschaffen wird. Davon konnten wir gedanklich unseren Ausgang nehmen, um mal durchzudeklinieren, wo wir heute eigentlich stehen. Von da an ist dann vieles Handwerk: Recherche, Leute finden und gucken, wie man das Ganze strukturiert. Das Schwierigste war eigentlich, jemanden wie Robert McDaniel zu finden, der in Chicago als Einziger bereit war, sich zu den Vorgängen dort zu äußern. Das sind halt arme Jungs, die leben mal hier, mal dort, dementsprechend schwierig ist es, einen Kontakt zu ihnen zu etablieren. In diesem Fall hatte ich eine Deutsche, die vor Ort lebt und für mich Recherche gemacht hat, und glücklicherweise hat Robert sich sofort in sie verliebt. Das war dann für uns der Türöffner.</p><p><em>TK: Wir lang muss man sich diesen Prozess vorstellen, also von dem geschilderten Moment am Küchentisch bis zum fertigen Film?</em></p><p>MH: Drei Jahre.</p><p><em>TK: Das ist eine ordentliche Zeit.</em></p><p>MH: Ja, das ist hart, aber so ist das Geschäft. Es ist schwierig, sowas auf die Leinwände und ins Fernsehen zu bringen, Slots dafür zu bekommen. Wenn wir nicht diesen Produzenten für das Projekt gefunden hätten, dann hätten wir das auch nicht stemmen können. Wir alleine, als Kleinproduktion, hätten das nicht geschafft.</p><p><em>TK: Als nächstes möchte ich Ihnen die Frage stellen, wohin wir uns als Gesellschaft Ihrer Einschätzung nach bewegen. Dazu möchte ich mal drei Entwicklungen zusammennehmen: Über eine Entwicklung haben wir heute hier bei der Tagung intensiv gesprochen, das ist die Entwicklung hin zur Prävention, zur Gefahrenabwehr, zumindest im normativen Recht. Dann eine Entwicklung, mit der ich mich intensiv auseinandergesetzt habe, das ist die „Datafizierung“, die Tatsache, dass immer mehr Prozesse digital ablaufen, entsprechende Daten abwerfen, was wiederum zahlreiche neue Möglichkeiten der Datenauswertung zur Folge hat. Und schließlich die Tatsache, dass es der Traum von Sicherheitsbehörden und erst recht von Politikern ist, ständig und überall gewissermaßen den „sozialen Puls“ fühlen zu können (es gibt beispielsweise den Begriff „social listening“), also mittels Technik jederzeit möglichst genau darüber Bescheid zu wissen, was in der Gesellschaft los ist. Wenn Sie diese drei Vektoren zusammen betrachten: Wohin führt uns das Ihrer Meinung nach?</em></p><p>MH: Na, genau dorthin, wohin diese Vektoren zeigen, so einfach ist das.</p><p><em>TK: Aber ist diese Entwicklung unaufhaltsam, findet sie zwangsläufig so statt?</em></p><p>MH: Es gibt definitiv keinen Weg zurück ins Analoge. Genauso, wie es keinen Weg zurück in die alte Bundesrepublik gibt. Das ist eben vorbei. Deshalb haben wir den Film auch so angelegt. Das ist ja kein Gejammer über den bösen Überwachungsstaat und auch keine Anklage der bösen Kriminellen. Das versucht einfach nur mal die Augen zu öffnen dafür, wo wir stehen, was wir machen und was unser eigener Anteil daran ist: Wir lieben unsere Handys, unsere Computer, und wir füttern die ständig, deshalb kommen wir da nicht mehr raus. Was bedeutet das im Hinblick auf liberale Demokratie? Das erleben wir gerade. Die Probleme, die genau dadurch entstehen. Cambridge Analytica ist nur ein Beispiel dafür, die haben ganz maßgeblich den Brexit beeinflusst. Wir wissen auch um die Facebook-Kontakte, 147 Millionen für Trump, und Twitter, über 220 Millionen — also da sind massive Beeinflussungen politischen Willens und politischer Realität. Wie wir uns dem stellen, wie man das verhindern kann? Ich habe nicht die geringste Idee. Im bewundere jeden, der in diesem Kontext arbeitet und an Gesetzen tüftelt, denn das sind Pflöcke, die wir als Demokratie einschlagen, um das überhaupt irgendwie im Griff zu behalten. Aber ich möchte nicht wissen, wie sich das in einer wirklichen Krisensituation auswirkt. Weil da einfach eine Technologie zur Verfügung steht, die jederzeit in etwas komplett Anderes verwandelt werden kann. China hat es etwa geschafft, innerhalb von nur 15 Jahren einen Albtraum an Überwachung in ihrem Land aufzubauen. Wir werden ohnehin gescored, ob das Krankenkassen oder Steuerämter sind, überall gibt es Listen und Punkte. All das ist ja schon erfasst, nur ist es noch nicht zusammengeführt in personalisierten Listen zu jedem Einzelnen. Aber das die Gesellschaft zunehmend über kybernetische Prozesse gesteuert wird, das wird so sein.</p><p><em>TK: Noch sind die Kommerziellen hier erfolgreicher als die Öffentlichen. Das kann ich aus eigener Anschauung sagen, da ich mittlerweile im Bereich der Verwaltungsdigitalisierung arbeite, und da ist man in manchem noch nicht so weit, wie man gerne wäre.</em></p><p><strong>Lachen im Publikum</strong></p><p>MH: Das stimmt!</p><p><em>TK: Yvonne Hofstatter hat es in Ihrem Film ja sehr deutlich auf den Punkt gebracht: Sie hat gesagt, alles das, was wir im Bereich der Polizeiarbeit und der nachrichtendienstlichen Arbeit erleben, sei im Grunde nur ein Ausfluss kommerzialisierter, beziehungsweise kommerzialisierbarer technischer Möglichkeiten. Am Ende also eine Folge der Smartphones, die wir alle in unserer Tasche tragen. Würden Sie das so, in dieser Zuspitzung, unterschreiben? Oder, anders gefragt, müssten wir als Gesellschaft nicht eigentlich eine gewisse Immunität gegen dieses blinde Folgen anstreben, indem wir sagen: „Das sind Dinge, die haben in diesem oder jenem Bereich — insbesondere im öffentlichen Bereich — nichts zu suchen.“</em></p><p>MH: Ich glaube, man wird schwerlich durchsetzen können, dass Technologien nicht zu allem Möglichen genutzt werden. Aber man muss eben schauen, dass die Algorithmen demokratisch kontrolliert werden. Was wir durch unsere Arbeit gelernt haben, wo wir gedacht haben: Hier passiert etwas, das uns den Weg weist, das ist die Debatte um algorithmic accountability. Dass man eben über Algorithmen, mindestens wenn sie im öffentlichen Bereich eingesetzt werden, jederzeit Rechenschaft ablegen können muss; dass es Leute in demokratischen Gremien gibt, die verstehen, wie diese Programme funktionieren. Und das ist etwas, unter dem wir aktuell leiden: Wir verstehen gar nicht, was in diesen Systemen passiert.</p><p><em>TK: Das nehme ich gerne auf und stelle eine Zwischenfrage dazu. Im Film sagen Sie an einer Stelle: „Außer den Entwicklern selbst weiß niemand, wie die Algorithmen prädiktiver Software zu ihren Prognose-Ergebnissen kommen.“ In Wahrheit ist es ja noch viel schlimmer: Bei den zeitgenössischen Methoden des Machine Learning (hier werden Algorithmen an großen Datenmengen darauf trainiert, gewisse Zusammenhänge auszumachen) wissen es nicht mal die Entwickler der Systeme selbst. Daher nochmal meine Frage: Darf überhaupt Software eingesetzt werden — besonders im öffentlichen Bereich, vielleicht ist die Frage nach einem Verbot aber genauso für den privaten Bereich zu stellen –, die zwar opak, aber gleichzeitig in bestimmter Hinsicht sehr effektiv ist?</em></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/800/1*hV9DvVUogie9rwC3mKIcig.jpeg" /></figure><p>MH: In Deutschland befindet sich inzwischen ja Prognosesoftware zur Bekämpfung von Einbruchsdelikten im tatsächlichen Betrieb.</p><p><em>TK: Das muss man für das Publikum ein wenig kontextualisieren, denke ich. Es sind in sechs deutschen Bundesländern Programm im Einsatz oder befinden sich im Test, die so ähnlich funktionieren, wie eines der Programme, das wir im Film vorgeführt bekommen haben. Dabei geht nicht um Profiling, sondern um sogenannte ortsbezogene Polizeiarbeit: Polizisten werden dorthin geschickt, wo es am wahrscheinlichsten ist, dass das nächste Verbrechen passiert. Hierzulande noch weitgehend auf das Delikt des sogenannten Wohnungseinbruchsdiebstahls. Aber die Anwendung auf andere Deliktarten wie etwa Autodiebstahl oder Körperverletzung befindet sich in Vorbereitung.</em></p><p>MH: Genau, im süddeutschen Raum und in der Schweiz wird das Produkt „Precobs“ eingesetzt, das ganz ähnlich funktioniert wie das amerikanische „PredPol“. <a href="https://www.mpicc.de/files/pdf4/rib_50_gerstner_2017.pdf">Nun hat sich ein Max-Planck-Institut 2018 in Stuttgart einmal angesehen, wie das eigentlich eingesetzt wird und wie effektiv das ist.</a> Dabei ist man zu dem Ergebnis gekommen, dass die Kriminalität im Vergleich von 2015 und 2016 insgesamt zurückgegangen ist. Und zwar sowohl im Testbezirk (also dort, wo die Software eingesetzt wurde) als auch im Kontrollbezirk (also dort, wo traditionelle Polizeiarbeit stattgefunden hat). Da fragt man sich dann schon, was eigentlich das Interesse am Einsatz solcher Systeme ist. Und ich denke schon, dass das etwas mit dem Zurückfahren von öffentlicher Dienstleistung zu tun hat. Der Staat zieht sich aus bestimmten Bereichen zurück, muss aber auf der anderen Seite das Versprechen der öffentlichen Sicherheit gegenüber der Bevölkerung aufrecht erhalten. Und genau hier sind solche Programme natürlich ganz wunderbare Instrumente, denn sie helfen dabei, auf der einen Seite Manpower zu sparen, aber auf der anderen Seite Sicherheit zu erhöhen. Das ist die Argumentation der Produzenten entsprechender Software sowohl in den USA als auch hier.</p><p><em>TK: Das stimmt natürlich. Aber ich möchte die Frage mal umkehren. Wenn Sie sich die demographische Entwicklung und die Entwicklung auf dem Arbeitsmarkt ansehen: Können wir es uns dann — insbesondere im öffentlichen Bereich, wo der Arbeitskräftemangel am höchsten ist — überhaupt leisten, auf allerlei technische Hilfsmittel zu verzichten, die diesen Mangel zumindest abfedern?</em></p><p>MH: In der Tat denke ich, dass das nicht der Fall ist. Deshalb sage ich ja, dass wir uns nicht hinstellen und sagen können „Wir wollen diese Technologie aus diesen und jenen Gründen nicht. Was man fragen muss, ist: „Wie kontrollieren wir das?“. Und das ist eben nicht so leicht. Wenn beispielsweise am Münchner Hauptbahnhof eine Bombe hochginge und 200 Menschen tot wären, dann möchte ich die anschließende Debatte über technische Überwachungssysteme erleben. Und ich erinnere an diese Stelle an die Debatten, die wir in den 1970er Jahren angesichts der Terrors der Rote Armee Fraktion hatten. Rasterfahndung war analog, aber schon außerordentlich eingriffig in die Privatsphäre. Wenn wir das nun auf der Basis der digitalen Daten, die heute verfügbar sind, durchziehen — das ist keine angenehme Vorstellung.</p><p><em>TK: Mit Sicherheit nicht! Damit öffne ich die Diskussion zum Publikum und gebe Ihnen dort drüben das Wort — Sie hatten sich zum Thema Transparenz und Nachvollziehbarkeit algorithmischer Entscheidungen gemeldet.</em></p><p><strong>Person 1 aus dem Publikum:</strong></p><p><em>Wir haben doch gar nicht die Personalressourcen, um das in irgendeiner Weise leisten zu können. Will heißen: Die, die sagen könnten, wie Systeme funktionieren und wie sie funktionieren müssten, damit sie im Einklang mit unseren Werten stehen, werden so hoch bezahlt, dass man sie gar nicht auf öffentliche Stellen bekommt. Deshalb müssen wir diese Expertise teuer von außen einkaufen und manövrieren uns damit in die paradoxe Situation, dass die öffentliche Hand immer abhängiger von externer Expertise wird, je mehr neue Technologie sie einsetzt. Das ist das eine.</em></p><p><em>Das andere ist: Je komplexer Situationen sind, in denen Entscheidungen getroffen werden müssen, umso angenehmer ist es, wenn ich ein Hilfsmittel habe, an das ich die Entscheidung delegieren kann, mit dem ich meine Entscheidung rechtfertigen kann. Bewährungshilfe funktioniert beispielsweise nur noch über Risikobewertungen.</em></p><p><strong>Matthias Heeder:</strong></p><p>In den USA wird ja beispielsweise zu diesem Zweck im großen Stil mit Computerprogrammen gearbeitet, weil sie ihre gewaltige Gefängnisbevölkerung ständig umschichten müssen. Die entsprechenden Riesenmengen an Daten zu analysieren schaffen sie auf dem Weg des traditionellen Aktenstudiums gar nicht. Also wird das über Programme gemacht, die ausrechnen, wie hoch die Wahrscheinlichkeit ist, dass jemand erneut straffällig wird. Und es ist nachgewiesen, dass diese Programme rassistisch sind. Sie benachteiligen systematisch Schwarze. Das weiß man, und trotzdem wird mit diesen Programmen weitergearbeitet.</p><p><strong>Tobias Knobloch:</strong></p><p><em>Den ersten Teil der Publikumswortmeldung muss ich relativieren. Es stimmt zwar, dass es für die öffentliche Hand aus vielerlei strukturellen Gründen insgesamt schwierig ist, entsprechendes Fachpersonal zu gewinnen. Aber es gibt schon auch Beispiele, die zeigen, dass es geht. So geschehen in Nordrhein-Westfalen, wo man zur Eigenentwicklung der Predictive-Policing-Software SKALA ein kleines Team aus Kriminologen, Data Scientists und Programmierern in house aufgebaut hat, indem man sie teilweise in Anlehnung an höhere Tarifgruppen bezahlt hat, aber auch indem man ihnen das langfristig gestaltende Mitwirken an einem für das Gemeinwohl wichtigen Projekt in Aussicht gestellt hat. </em><a href="https://lka.polizei.nrw/sites/default/files/2018-06/180208_Abschlussbericht_SKALA.pdf"><em>Das ist ein gutes Beispiel dafür, dass es geht, wenn man es denn darauf anlegt.</em></a></p><p><strong>Weiterer Beitrag von Person 1 aus dem Publikum:</strong></p><p><em>In der Justiz ist ja mannigfach eigene, spezialisierte Software erstellt worden. Das Problem ist, dass es meist nur eine Person gibt, die diese versteht. Und wenn die weg ist, was dann?</em></p><p><strong>Tobias Knobloch:</strong></p><p><em>Das Problem besteht in der heutigen Zeit zweifellos. Wenn Sie jemanden mit technischen Spezialkenntnissen haben, dann kann es passieren, dass Ihnen das Silicon Valley diese Person mit einem Gehalt von ein paarhundert tausend Dollar weglockt. Das ist aber nicht beschränkt auf den öffentlichen Sektor.</em></p><p><strong>Person 2 aus dem Publikum:</strong></p><p><em>Meine erste Frage bezieht sich auf die mögliche Bekämpfung von Wirtschaftskriminalität mittels datenanalysierender Software: Ist es nicht möglich, und wird es nicht bereits praktiziert, aus den öffentlich zugänglichen Daten von Google, Facebook &amp; Co. und aus weiteren Datenquellen recht genaue Prognosen bezüglich Steuerkriminalität beispielsweise abzuleiten und entsprechende Maßnahmen zu ergreifen?</em></p><p><em>Meine zweite Frage bezieht sich auf die Rolle von Drohnen. Zur Überwachung des öffentlichen Raumes sind diese ja exzellent geeignet, und im militärischen Bereich gibt es ja bereits zahlreiche Anwendungsbeispiele. Gibt es die auch im Bereich der Polizeiarbeit?</em></p><p><strong>Matthias Heeder:</strong></p><p>Zu den Drohnen: Im Film haben wir ja die Firma in den USA gezeigt, die mittels eines kleinen Motorflugzeugs hochaufgelöste Luftbilder macht und Kriminalbehörden gegen Bezahlung zur Verfügung stellt. Das gleiche könnte sie mit Drohnen natürlich sehr viel einfacher machen. Aber es ist zurzeit noch verboten, das zu tun, deshalb wird es — noch — nicht gemacht. Das Interessante ist, ist, dass das Militärtechnik ist. Der Gründer hat das im militärischen Kontext entwickelt, hat gekündigt, sich selbständig gemacht und entwickelt diese Technik. Und er sagte mir, in ein paar Jahren werde seine Firma vermutlich Milliarden Dollar wert sein. So viel zu den Themen Wachstum und Wirtschaftsinteressen.</p><p>Zur ersten Frage: Die Datenlage lässt das so nicht zu. Denn diese Sotware arbeitet mit Massendaten. Und wenn Sie keine Massendaten haben, können Sie die Software nicht sinnvoll anwenden, sprich keine Muster erkennen. Und wenn Sie keine Muster erkennen können, dann können Sie keine Prognosen machen. Also von daher funktioniert das in diesem Bereich weniger. <a href="https://whitecollar.thenewinquiry.com/">Aber eine New Yorker Aktivistengruppe hat den gleichen Algorithmus, der dem Predictive-Policing-System „PredPol“ zugrundeliegt, auf die Vorhersage von Finanzkriminalität angewendet.</a> Und siehe da: Manhattan färbte sich dunkelrot!</p><p><strong>Tobias Knobloch:</strong></p><p><em>Die Behörden, auch in Deutschland, arbeiten daran, Algorithmen für die Bekämpfung von Steuer- und Wirtschaftskriminalität einzusetzen, und tun das auch bereits. Allerdings ist das meistenteils „Verschlusssache, nur für den Dienstgebrauch“, weshalb wir darüber nicht viel wissen.</em></p><p><em>Jetzt wird es, denke ich, Zeit für das Abendessen. Ich danke Ihnen, Herr Heeder, für das spannende Gespräch, und Ihnen, liebes Publikum, fürs Zuhören und Mitdiskutieren. Guten Appetit und einen schönen Abend!</em></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=a5dc95ced0a2" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Gesellschaftsvertrag 4.0]]></title>
            <link>https://medium.com/@tobiasknobloch/gesellschaftsvertrag-4-0-feec643d67c6?source=rss-1617cc7d49ec------2</link>
            <guid isPermaLink="false">https://medium.com/p/feec643d67c6</guid>
            <category><![CDATA[digitalisierung]]></category>
            <category><![CDATA[philosophie]]></category>
            <category><![CDATA[politik]]></category>
            <dc:creator><![CDATA[Tobias Knobloch]]></dc:creator>
            <pubDate>Sat, 26 Jan 2019 23:30:29 GMT</pubDate>
            <atom:updated>2019-03-03T14:30:13.641Z</atom:updated>
            <content:encoded><![CDATA[<h4>Gesucht wird: eine Alternative zum kalifornischen Kapitalismus</h4><p>Kürzlich bekam ich folgende Einladung von dynamis, einem Think-Do-Rethink Tank, der zur sozialen Nachhaltigkeit von Energiewendesezenarien arbeitet:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/585/1*DzrR1IF2I2OhJmabHl72vg.png" /><figcaption>Elektronische Einladung von dynamis zu einem Diskussionsabend im Februar 2019 in Berlin.</figcaption></figure><p>Im Text hieß es dann: “Gefragt ist ein neuer Gesellschaftsvertrag für ein freies, demokratisches und solidarisches Gemeinwesen in der digitalen Gesellschaft. Wie ist der Contrat Social für die Epoche der Digitalisierung zu beschreiben?”</p><p>Diese Überlegung ist nicht neu, sondern wird seit Jahren in wechselnden Formulierungen angestellt. Weil “Gesellschaftsvertrag” ein ideengeschichtlich geprägter Begriff ist, hatte ich mir schon 2016 für einen Buchbeitrag* die Mühe gemacht, mögliche Parallelen der Entwicklungen von Technologie und politischer Theorie zu untersuchen. Herausgekommen ist eine Tabelle** und die Einsicht, dass wir verdeutlichen wollen, wie wichtig es ist, eine wirtschaftlich und gesellschaftlich konkurrenzfähige Alternative zum sogenannten kalifornischen Kapitalismus (GAFA-Konzerne, Startups, Unicorns etc.) zu entwickeln, wann immer wir in Technologiedebatten einen “Gesellschaftsvertrag 4.0” heraufbeschwören.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/828/1*Ml8DUFMQKmq5A74rGB-34w.png" /><figcaption><em>Die Parallelen von Wirtschafts- und Technikentwicklung und liberaler politischer Theorie/Vertragstheorien. Quelle: Knobloch 2016/2019 (vgl. Angabe unten)</em></figcaption></figure><p>Hier klafft eine Lücke, denn wir haben zurzeit weder das Gegenmodell noch seine theoretische Begründung. Alles, was wir haben, ist die Datenschutzgrundverordnung und die Beteuerung, dass europäische KI mit weniger (und ausschließlich fairen) Daten auskommen solle als die Pendants aus den USA und China. Das ist aber weder ein Wirtschafts- noch ein Gesellschaftsmodell. Was das eine angeht, sind wir ziemlich ratlos, wenngleich in Deutschland ziemlich froh, dass unsere alten Industrien (plus SAP) noch so gut laufen. Was das andere angeht, so sind wir uns lediglich darin einig, dass wir es so weit wie jenseits des Atlantiks und in Fernost nicht kommen lassen wollen — und bestellen doch alles auf den letzten Drücker bei Amazon und durchsuchen das Internet ausschließlich mit Google.</p><p>Wenn man die Rede vom Gesellschaftsvertrag ideengeschichtlich ernst nimmt und sich parallel die technologisch- wirtschaftliche Entwicklung und die politikphilosophische Reflexionsbewegung dazu anschaut, dann sehen wir (mit Ausnahme des späten 19. und frühen 20. Jahrhunderts) leicht zeitversetzte Entsprechungen zwischen der einen und der anderen Seite. So ist es keineswegs ein Zufall, dass beispielsweise die Teilung der staatlichen Gewalten und damit eine klare Aufwertung der bürgerlichen Freiheiten zu einer Zeit vorgenommen wurden, als landwirtschaftliche und handwerkliche Betriebe sowie der Handel in Blüte kamen. Auch danach hat es stets eine Art nachholende Modernisierung im Reich der (gesellschaftspolitischen) Ideen als Reaktion auf einen technologisch-wirtschaftlichen Schub gegeben.</p><p>Allein die Position der politischen Theorie im 4.0-Zeitalter der allumfassenden Datafizierung und Vernetzung ist noch unbesetzt. Hier sind wir aufgefordert Antworten auf folgende Frage zu suchen: Was für eine datengetriebene, durch und durch digitalisierte Gesellschaft wollen wir sein? Diese Leerstelle sollten mit etwas füllen, das unsere Freiheit dauerhaft zu sichern hilft. Sämtliche technischen Neuerungen mit „Ethik der… (Algorithmen, Künstlichen Intelligenz etc.)“ zu apostrophieren, bringt uns dabei nicht wesentlich weiter. Es geht weniger darum, bestimmte Technologien mit einem Unbedenklichkeitsstempel zu versehen, sondern um eine prinzipielle Positionierung — beispielsweise zu der Tatsache, dass datengetriebene Korrelationsanalysen die Aufdeckung von Kausalzusammenhängen mehr und mehr verdrängen. Doch das Handeln nach insgesamt unverstandenen, lediglich technisch aufgedeckten Zusammenhängen hält nicht dem hohen Anspruch stand, den wir als Menschen an freies und verantwortliches Verhalten anlegen. Diesen Anspruch sollten wir aber nicht aufgeben, wenn uns an einer menschenfreundlichen Zukunft gelegen ist.</p><p><em>*Ursprünglich in: Knobloch, T. 2016: Universelle Datafizierung und die Notwendigkeit eines Gesellschaftsvertrags für die Netzwerkgesellschaft. In: Torhauer, Y./Kexel, C.A. (Hrsg.): Face-to-Interface. Werte und ethisches Bewusstsein im Internet, Wiesbaden: Springer Gabler, S. 115- 127.</em></p><p><em>**Leicht modifizierte Fassung aus: Knobloch, T. &amp; Steltemeier, R. 2019: Das Freiheitsverständnis von Adam Smith. Über die Haltbarkeit eines zentralen sozialphilosophischen Versprechens im Digitalzeitalter. In: Hansen, H. &amp; Kraski, T. (Hrsg.): Das Staatsverständnis von Adam Smith. Reihe Staatsverständnisse, hrsgg. von Rüdiger Voigt im Nomos-Verlag (im Erscheinen).</em></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=feec643d67c6" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Algorithmenregulierung: Detailarbeit für den technisch mündigen Staat]]></title>
            <link>https://medium.com/@tobiasknobloch/algorithmenregulierung-detailarbeit-f%C3%BCr-den-technisch-m%C3%BCndigen-staat-d92c1c63a81f?source=rss-1617cc7d49ec------2</link>
            <guid isPermaLink="false">https://medium.com/p/d92c1c63a81f</guid>
            <category><![CDATA[datenschutz]]></category>
            <category><![CDATA[künstliche-intelligenz]]></category>
            <category><![CDATA[algorithmen]]></category>
            <dc:creator><![CDATA[Tobias Knobloch]]></dc:creator>
            <pubDate>Fri, 30 Nov 2018 09:41:52 GMT</pubDate>
            <atom:updated>2018-11-30T09:41:52.151Z</atom:updated>
            <content:encoded><![CDATA[<p><em>*Dieser Text ist zuerst am 7.11.2018 bei </em><a href="https://background.tagesspiegel.de/digitalisierung"><em>Tagesspiegel Background Digitalisierung &amp; KI</em></a><em> als Replik auf einen Standpunkt von </em><a href="https://www.ulrich-kelber.de/"><em>Ulrich Kelber</em></a><em> (“So viel Freiheit wie möglich, so viele Regeln wie nötig”) vom 31.10.2018 erschienen.</em></p><p>Beim Tanken wird man bisweilen mit abstrusen Preisunterschieden konfrontiert. Kürzlich bemerkte ich zwölf Cent je Liter Unterschied — bei zwei Tankstellen derselben Marke entlang einer Straße. Ich habe keine Ahnung, wie diese Preisunterschiede zustande kommen, glaube aber nicht, dass Technologie die Ursache ist. Wohl aber gibt es eine Technik, die aus Verbrauchersicht die Lösung darstellt: Diverse Spritpreise-Apps zeigen an, wo in der Nähe es jeweils das günstigste Angebot gibt. Die Anwendung, die ich nutze, kooperiert mit der Markttransparenzstelle für Kraftstoffe beim Bundeskartellamt.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/960/1*HUnNuk9IP9Tzru46occaVQ.jpeg" /><figcaption>Quelle: pixabay, CC0 Creative Commons.</figcaption></figure><p>Wir brauchen eine zeitgemäße, mit technischen Hilfsmitteln operierende Wettbewerbsaufsicht. Doch was bei Spritpreisen noch recht trivial ist, das wird in anderen Bereichen zunehmend schwierig. Ulrich Kelber hat die Individualisierung von Preisen im Online-Handel angesprochen. Längst nutzen wir für die Buchung unserer Flüge andere Computer als die, mit denen wir arbeiten, weil die Buchungsportale Preisdiskriminierung nach Hardware praktizieren. Noch komplizierter ist die Aufsicht über den duopolistischen Online-Anzeigenmarkt. Hier kommen wir nicht ohne anspruchsvolle technische Hilfsmittel aus. Algorithmenaufsicht braucht vor allem technisches Verständnis und Algorithmen, nicht neue Gesetze.</p><h4><strong>Technikregulierung: an Boden verloren — und zurückgewonnen</strong></h4><p>Konsequente Regeln eines starken Staates wären in der zurückliegenden Dekade wichtig gewesen, als Big Tech im größtmöglichen Stil Gesellschaftsexperimente gemacht und unsere Welt durchaus so stark verändert hat, wie es die Industrialisierung vor 150 Jahren getan hat. Das Zeitalter des mehr oder weniger regellosen wilden Technologie-Westens liegt also hoffentlich hinter uns. Und wir haben uns in Europa doch auf einen vielversprechenden Weg gemacht: Wie mittlerweile erkennbar wird, entfaltet die seit Mai wirksame Datenschutzgrundverordnung über Europa hinaus normative Kraft im Sinne unserer Überzeugungen und Grundwerte. Von der Marktentwicklung her betrachtet, ist sie zwar zehn Jahre zu spät in Kraft getreten, auch ist sie sicher nicht perfekt — dennoch ist sie ein regulatorisches Pfund Made in Europe, das auch bereits einige Regeln für (voll)automatisierte Entscheidungssysteme enthält. Darauf sollten wir stolz sein, daran sollten wir anknüpfen.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/960/1*IjxiwyAp156cZrFjMVsNHg.jpeg" /><figcaption>Quelle: pixabay, CC0 Creative Commons.</figcaption></figure><p>Vom Datenschutz abgesehen ist Ex-ante-Regulierung, wie Ulrich Kelber richtig schreibt, in den wenigsten Fällen sinnvoll und hilfreich. Das liegt daran, dass die Entwicklungen selbst in thematisch eng umrissenen Technologiefeldern divers und dynamisch sind. Beispiel autonomes Fahren: Während der US-Konzern Tesla es mittels acht rundum verbauter Kameras realisieren zu können meint, setzen andere Hersteller auf Systeme, die Daten mit der Außenwelt austauschen. Dies sind unterschiedliche Paradigmen, und wir wissen noch nicht, welches sich am Ende durchsetzen wird. Trotzdem brauchen wir, auch wenn es „mühsame Detailarbeit“ ist, eine Anpassung unserer bestehenden Regeln an die neuen technischen und oft auch gesellschaftlichen Bedingungen der digitalen Welt.</p><h4>Bereichsspezifische Regeladaption statt großformative Ex-ante-Gesetzgebung</h4><p>In Europa genießen wir heute zahlreiche zu Gesetzen geronnene politische, gesellschaftliche und soziale Errungenschaften des zurückliegenden Jahrhunderts: Verbraucher- und Umweltschutz, Arbeitnehmerrechte, Kartellaufsicht und Wettbewerbsrecht, Meinungsfreiheit, Diskriminierungsschutz und Urheberrechte, um nur einige zu nennen. Auch wenn es wenig originell klingt: Es geht darum, diesen Regeln auch im Digitalzeitalter zur Geltung zu verhelfen. Nicht zulassen sollten wir (weiterhin), dass sogenannte Disruptoren diese Regeln durch den Einsatz avancierter Technologie unterwandern oder sogar umschreiben. Nichts Anderes ist bisher leider geschehen, indem beispielsweise Akteure auf den Plan getreten sind, die behauptet haben, nichts mit der Medienlandschaft zu tun zu haben, nur um diese anschließend grundlegend umzupflügen. Politik muss in Zukunft vor allem verhindern, sich durch das Technologie-intensive Bestellen von regulatorischen Graufeldern zum Narren halten zu lassen.</p><p>Ein großer Wurf, ein One-size-fits-all, wie ein Algorithmengesetz oder Algorithmen-TÜV, bringt uns nicht weiter. Dazu sind die Auswirkungen neuer Technologien in unterschiedlichen Anwendungsfeldern viel zu verschieden. Wir haben uns im Projekt „Algorithmen fürs Gemeinwohl“ drei intensiv angeschaut: staatliche Sicherheitsprogramme, Personalauswahlsysteme und medizinische Diagnoseanwendungen. Eine der übergeordneten Erkenntnisse ist, dass uns mühevolle, bereichsspezifische Detailarbeit nicht erspart bleibt, auch wenn sich einige übergeordnete Grundregeln formulieren lassen. Denn Diagnose-Apps haben nun einmal etwas mit dem Medizinproduktezulassungsverfahren zu tun und Predictive-Policing-Software etwas mit Polizeigesetzen. Hier müssen Fachexpertise und technische Expertise vermählt werden, um zu angemessenen Regeln zu finden — in jedem Feld eine jeweils anspruchsvolle Aufgabe!</p><p>Um als freie, solidarische Gesellschaft im Zeitalter ubiquitärer algorithmischer Datenverarbeitung bestehen zu können, müssen wir bereit sein, die damit verbundenen Probleme sowie deren mögliche Ursachen und Lösungen nötigenfalls mehrfach hin und her zu wenden und von anderer Warte aus noch einmal neu zu bewerten. Standardrezepte gibt es, so bequem sie wären, leider keine. Im Grunde muss sich die Demokratie auf das besinnen, worin sie gegenüber anderen Regierungsformen schon immer einen komparativen Vorteil hatte: im Umgang mit Unschärfen und Ambiguitäten.</p><p><em>Exzellent ausbuchstabiert findet man diese hier nur angerissenen Gedanken in </em><a href="http://rsta.royalsocietypublishing.org/content/376/2133/20180089"><em>“Constitutional democracy and technology in the age of artificial intelligence”</em></a><em> von </em><a href="https://twitter.com/PaulNemitz"><em>Paul Nemitz</em></a><em>, einem der Architekten der Datenschutzgrundverordnung; erschienen am 15.10.2018 in den Philosophical Transactions der Royal Society.</em></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=d92c1c63a81f" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Der Staat als KI-Pionier]]></title>
            <link>https://medium.com/@tobiasknobloch/der-staat-als-ki-pionier-e7c18699d3?source=rss-1617cc7d49ec------2</link>
            <guid isPermaLink="false">https://medium.com/p/e7c18699d3</guid>
            <category><![CDATA[bundesregierung]]></category>
            <category><![CDATA[digitalisierung]]></category>
            <category><![CDATA[künstliche-intelligenz]]></category>
            <category><![CDATA[egovernment]]></category>
            <dc:creator><![CDATA[Tobias Knobloch]]></dc:creator>
            <pubDate>Sun, 30 Sep 2018 13:13:29 GMT</pubDate>
            <atom:updated>2018-09-30T13:13:29.245Z</atom:updated>
            <content:encoded><![CDATA[<h4>Warum die öffentliche Hand bei einem so wichtigen Technologiethema mit gutem Beispiel vorangehen sollte</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*iq_p8k3snyWow9D6C3HS2Q.png" /></figure><p><em>Heute läuft die </em><a href="https://www.konsultation-ki.de/KI/Navigation/DE/Home/home.html"><em>Online-Konsultation</em></a><em> zu den </em><a href="https://www.bmas.de/SharedDocs/Downloads/DE/Thema-Arbeitsmarkt/eckpunkte-strategie-ki.pdf?__blob=publicationFile&amp;v=2"><em>Eckpunkten Künstliche Intelligenz der Bundesregierung</em></a><em> aus. Für die </em><a href="https://www.stiftung-nv.de/"><em>Stiftung Neue Verantwortung</em></a><em> habe ich mir Gedanken zu Handlungsfeld 7 — KI für staatliche Aufgaben nutzen und Kompetenzen der Verwaltung anpassen — gemacht. Meine Kolleg:innen haben die Kommentierung anderer Teile übernommen. Die Kommentare zu jedem Handlungsfeld waren auf 4000 Zeichen begrenzt.</em></p><figure><img alt="" src="https://cdn-images-1.medium.com/max/990/1*QpvBT-KIy7Onh13c9NfzFw.png" /></figure><p>Bezüglich Datenanwendungen im Allgemeinen und KI im Speziellen bestehen in Deutschland zahlreiche gesellschaftliche Verunsicherungen. Skepsis und Vorbehalte geben in Teilen der Debatte den Ton an. Diese Stimmung kann nur gedreht werden, indem der Staat mit gutem Beispiel vorangeht und für Erfolgsgeschichten aus der Perspektive des Gemeinwohls sorgt. Grund dazu hat er allemal: Im Bereich der öffentlichen Verwaltung und der Daseinsvorsorge gibt es mannigfache Herausforderungen, bei deren Bewältigung KI-Technologie helfen kann. Hier ist etwa an Nachhaltigkeit ebenso zu denken wie an Pflege in der alternden Gesellschaft, die Energiewende oder den Wandel unserer Mobilität. Es ist kennzeichnend für deutsche Technologiepolitik, dass Gemeinwohlförderung vor allem im abwehrenden und nicht so sehr im ermöglichenden Sinne verstanden wird. Im Eckpunktepapier gibt es diesbezüglich durchaus positive Ansätze. Dazu gehört, dass an mehreren Stellen (z.B. auf Seite 6 u. 8) das Zulassen und die Förderung von Experimentierräumen, Testfeldern und Versuchslaboren erwähnt wird. Genau das fehlt zurzeit insbesondere in der Verwaltung.</p><p>Hinzu kommt folgende Opportunität: Der seit Jahren verfahrenen E-Government-Entwicklung in Deutschland täte ein technologischer Sprung gut. Es ist keineswegs ausgemacht, dass der Weg zur zukunftsfähigen Verwaltung über estnische Verhältnisse führt. Die Erkennung und Zusammenführung typischer Lebenslagen sowie die dazu passende Beratung von Bürger:innen ist etwas, das von KI ermöglicht werden kann. Der Staat hat hier eine dreifache Chance: Erstens kann er auf diese Art eventuell gesellschaftliche Probleme lösen, die anders kaum lösbar erscheinen. Dazu ein Beispiel: Google lässt inzwischen die Kühlung von einigen seiner Rechenzentren automatisch und dynamisch von Künstlicher Intelligenz verwalten und <a href="https://www.technologyreview.com/s/611902/google-just-gave-control-over-data-center-cooling-to-an-ai/">spart dadurch 40% Energie</a> gegenüber menschlichem, bzw. nur teilautomatischem Kühlungsmanagement ein. Man male sich in Anlehnung daran das Einsparpotenzial aller Energiemanagementprozesse auf Seiten der öffentlichen Hand aus. Zweitens könnte Deutschland vermutlich nur noch durch einen technologischen Sprung (für den im Wesentlichen nur zwei Technologien, nämlich KI und Blockchain, in Frage kommen) vom E-Government-Nachzügler zum Vorreiter werden. Drittens ist das Normierungspotenzial durch staatliche KI-Entwicklung sehr groß. Die Umsetzung zahlreicher Forderungen für den Umgang mit KI in die Praxis ist bislang noch nicht ernsthaft versucht worden, weil entsprechende Rechtsnormen fehlen und weil sich der freiwillige Aufwand für Wirtschaftsakteure nicht auszahlen könnte. Dazu zählen etwa Aspekte wie diskriminierungsfreie Trainingsdatenpools für lernende Systeme, Zertifizierungsalgorithmen für neuronale Netze, transdiziplinär arbeitende Entwicklungsteams sowie Auditierungen von KI-Systemen. All dies kann der Staat als Vorreiter ausprobieren und — je nach Erfolg — allein durch seinen Hebel bei öffentlichen Ausschreibungen auch als Norm (anfänglich zumindest im öffentlichen Bereich) durchsetzen.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*2zIgPYhFlMQZnoILZ_-xNA.jpeg" /><figcaption>Verwaltungsgebäude in Hamburg-Wilhelmsburg. Quelle: <a href="https://pixabay.com/de/wilhelmsburg-285920/">pixabay</a>, CC0.</figcaption></figure><p>Eine der zentralen Voraussetzungen für KI — Datenverfügbarkeit — ist bei der öffentlichen Hand grundsätzlich gegeben. Die Tatsache, dass öffentliche Datenbestände hierzu im großen Stil maschinell lesbar gemacht und qualitätsgesichert werden müssten, ist kein Hindernis, sondern eröffnet im Gegenteil die Chance, die entsprechenden Daten als Open Data auch der Allgemeinheit zugänglich zu machen.</p><p>Da Einführung und Nutzung von KI in Behörden nicht nur von außen kommen kann, muss interner Kompetenzaufbau betrieben werden. Das ist angesichts des Fachkräftemangels auf diesem Gebiet nicht leicht, aber das Beispiel des Predictive-Policing-Teams im Landeskriminalamt von Nordrhein-Westfalen zeigt, dass es möglich ist. Dort hat man junge Forscher (Data Scientists, Programmierer und Kriminologen) mit der Aussicht auf eine unbefristete Anstellung und auf ein Mitwirken an einem spannenden Projekt zum öffentlichen Wohl von der Universität verpflichtet.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/978/1*9bZl9cZ9eU3VnEIdALmlqw.png" /><figcaption><a href="https://www.stiftung-nv.de/sites/default/files/erfolgsmessung_von_ki-strategien.pdf">https://www.stiftung-nv.de/sites/default/files/erfolgsmessung_von_ki-strategien.pdf</a></figcaption></figure><p>Als die drei jetzt wichtigsten von einer Reihe an vorgebenen Maßnahmen habe ich diese benannt:</p><ol><li>Die Bundesregierung wird beim Einsatz von KI eine Vorreiterrolle einnehmen</li><li>Prüfung von Einsatzmöglichkeiten von KI in der öffentlichen Verwaltung</li><li>Die KI-Kompetenzen der öffentlichen Verwaltung sind konsequent auszubauen</li></ol><p>Als wichtigstes fehlendes Stichwort habe ich E-Government benannt (s.o.).</p><p>Wie vermutlich viele andere bin ich nun gespannt, was die Bundesregierung aus den zahlreichen Kommentaren und Ideen bis Ende November macht. Mein Kollege <a href="https://www.stiftung-nv.de/de/person/dr-stefan-heumann">Stefan Heumann</a> hat jüngst ein Papier veröffentlicht, in dem er deutlich macht, <a href="https://www.stiftung-nv.de/de/publikation/erfolgsmessung-von-ki-strategien-mit-indikatoren-und-benchmarks-die-umsetzung-der">wie wichtig Erfolgsindikatoren sind</a>: Ohne Indikatoren zur (quantitativen und qualitativen) Messung von Input und Output bleibt jede Strategie mindestens weit unter ihren Möglichkeiten.</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=e7c18699d3" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Künstliche Intelligenz Made in Germany — Gemeinwohl inbegriffen?]]></title>
            <link>https://medium.com/@tobiasknobloch/k%C3%BCnstliche-intelligenz-made-in-germany-gemeinwohl-inbegriffen-b81d69436c01?source=rss-1617cc7d49ec------2</link>
            <guid isPermaLink="false">https://medium.com/p/b81d69436c01</guid>
            <category><![CDATA[gemeinwohl]]></category>
            <category><![CDATA[technologie]]></category>
            <category><![CDATA[ethik]]></category>
            <category><![CDATA[künstliche-intell]]></category>
            <category><![CDATA[politik]]></category>
            <dc:creator><![CDATA[Tobias Knobloch]]></dc:creator>
            <pubDate>Mon, 17 Sep 2018 18:54:33 GMT</pubDate>
            <atom:updated>2018-09-27T11:52:40.539Z</atom:updated>
            <content:encoded><![CDATA[<h4><em>Stellungnahme zu den </em><a href="https://www.bmbf.de/files/180718%20Eckpunkte_KI-Strategie%20final%20Layout.pdf"><em>„Eckpunkten für eine Strategie Künstliche Intelligenz der Bundesregierung“</em></a><em> (18.7.2018) aus ethischer Perspektive*</em></h4><blockquote>„The ability of economies to cope with societal impacts from AI will itself be an important driver of their success. The relative importance of these different inputs to AI progress will determine the winners and losers.“ — Matthew van der Merwe &amp; Jack Clark, Import AI Vol. 106</blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/847/1*HXC8_0UdFoyJB8EjKywsPg.png" /><figcaption>Bildquelle: <a href="https://pixabay.com/de/anatomie-biologie-gehirn-gedanken-1751201/">pixabay</a>, CC0</figcaption></figure><p>Wenn jeder Gewinner werden möchte, dann nennt man die entsprechende Veranstaltung einen Wettkampf. Ein solcher Wettkampf findet gerade um die Vorherrschaft im Bereich Künstlicher Intelligenz (KI) statt — jedenfalls wenn man den Verlautbarungen zahlreicher nationaler KI-Strategien und den Medienberichten darüber glaubt. In Wahrheit ist es natürlich kein wirklicher Wettbewerb. Denn erstens ist Technologieentwicklung international betrachtet kein Nullsummenspiel; neben den Konkurrenzverhältnissen, die es zweifellos gibt, sind Akteure weltweit miteinander verwoben, kooperieren und verfolgen sich überschneidende Interessen. Zweitens unterscheidet sich die Hinsicht des Führungsanspruches je nach nationalem Kontext z.T. stark; das bedeutet, dass dadurch Raum für mehrere erste Plätze ist. Drittens ist das Spiel nicht am Ende der Laufzeiten aktueller Strategien zu Ende, sondern es wird weitergehen; wohin es sich mittel- und langfristig entwickelt, ist derzeit weithin unklar. An aktuellen Vektoren mag manch eine Bewegungsrichtung ablesbar sein, doch was das nächste iPhone, der nächste wirkliche Game Changer sein wird, das weiß jetzt noch niemand; und wer es behauptet, ist ein Schelm oder ein PR-Stratege. Zusammengefasst ergibt das</p><p><strong>THESE 1: Das internationale KI-Wettrennen („AI Race“) ist größtenteils eine mediale Inszenierung, auf welche die Politik nicht hereinfallen sollte.</strong></p><p>Das soll nicht heißen, dass das, was wir mit dem Begriff „Künstliche Intelligenz“ in etwa 90 Prozent der Fälle meinen, unwichtig wäre. Meistens bezeichnet der Begriff nämlich nichts Anderes als (Big) Data Analytics oder Systeme, die im Zuge der Datenauswertung — unter menschlicher Aufsicht und Anleitung, wohlgemerkt — stetig besser werden. Und keine Frage, dass im Datenzeitalter, in dem wir nun einmal leben, die kluge Auswertung riesiger Datenmengen eine zentrale Fähigkeit darstellt. Jedes Land, das den technologischen, wirtschaftlichen und menschlichen Entwicklungsanschluss nicht verlieren möchte, sollte über genügend Menschen und Organisationen verfügen, welche die Fähigkeit zur Konstruktion und zum Betrieb von KI-Systemen im gerade beschriebenen Sinne besitzen. Das führt zu</p><p><strong>THESE 2: Avancierte Datananalysefähigkeiten sind der Schlüssel zu Innovationsführerschaft im Datenzeitalter; der Begriff „Künstliche Intelligenz“ zur Bezeichnung dieser Fähigkeiten ist einigermaßen fehlgeleitet.</strong></p><p>In Deutschland sind entsprechende Fähigkeiten zweifellos in großer Dichte vorhanden. Dennoch herrscht hierzulande eine Art Paranoia, technologisch den Anschluss an die innovationsführende Weltspitze der technischen Entwicklung zu verlieren. Dafür werden meistens vier Gründe angeführt und alle sind durchaus triftig (vor allem im Konsumentenbereich, denn im B2B-Bereich ist der Stand der Dinge ein anderer, wie nicht nur die internationale Bedeutung von SAP zeigt): Erstens gelingt es noch nicht gut genug, Spitzenforschung in Spitzenanwendungen, mit denen sich reale Probleme lösen lassen und Geld verdient werden kann, zu überführen. Zweitens fehlt es auf breiter Front noch immer an Experimentierfreude, Gründungskultur und Wagniskapital insbesondere für die Wachstumsphase von Technologie-Startups. Drittens herrscht Brain Drain statt Brain Gain: Den größten Talenten wird hierzulande außerhalb der Grundlagenforschung nicht genug geboten, um im Land zu bleiben oder ins Land zu kommen. Viertens haben wir ein großes Problem, was die ausreichende Verfügbarkeit von Daten als <em>dem </em>Treibstoff für KI-Anwendungen angeht. Die Gründe dafür sind mehrschichtig: Die öffentliche Hand ist hierzulande traditionell schlecht im Bereitstellen von Verwaltungsdaten (Open Government Data), und daran hat bislang auch das im Sommer 2017 in Kraft getretene sogenannte Open-Data-Gesetz nichts geändert. Das größte Hemmnis für Datenverfügbarkeit ist allerdings der spezifisch deutsche Datenschutz, der seit Mai dieses Jahres — vereinfacht gesprochen — zum gesamteuropäischen Datenschutzregime geworden ist. Zusammenfassen lässt sich dies als</p><p><strong>THESE 3: Die Bedingungen für international erfolgreiche KI-Entwicklungen sind in Deutschland (noch) nicht ideal; die Sorge, den Anschluss an die Weltspitze zu verlieren, besteht zu Recht.</strong></p><p>Insbesondere lernende Systeme brauchen in der Regel eine große Menge an Trainingsdaten, die vielfach (zumindest nicht leicht) verfügbar ist, wie Gespräche mit Startups aus so unterschiedlichen Bereichen wie Mobilität, Medizin und Human Resources gezeigt haben. Eine intensivere Nutzung von mehr oder weniger reifen Verfahren des technischen Datenschutzes, <a href="https://www.stiftung-nv.de/de/publikation/leitfaden-f%C3%BCr-datenschutz-bei-open-data">wie wir vergangenes Jahr gefordert haben</a>, und ein Ausweichen auf synthetische Daten, <a href="https://www.stiftung-nv.de/de/publikation/synthetische-daten-innovationspotential-und-gesellschaftliche-herausforderungen">wie meine Kollegin Nicola Jentzsch es jüngst skizziert hat</a>, wären mögliche Auswege. Besonders kommt es auf diskriminierungsfreie Trainingsdaten in ausreichendem Umfang an; hier haben Wirtschaftsräume wie China und die USA aufgrund ihrer Größe, wegen abweichender regulatorischer Rahmenbedingungen und wegen kultureller Unterschiede den Vorteil, leichter eine vollständige Abdeckung von Datenräumen erzielen zu können. Die Lücke, die sich hier auftut, muss geschlossen werden. Und der Weg kann wegen der unveränderlichen Parameter Größe, Datenschutzregime und Kultur nur über Innovationsführerschaft in dem angedeuteten Bereich des technischen Datenschutzes und der Entwicklung datensparsamer KI-Technologie „Made in Europe“ führen. Denn die Datenselbstbeschränkung durch starken Datenschutz ist kein Naturphänomen, sondern ein von den Europäern — richtiger Weise! — bewusst selbst gewähltes Schicksal. Die Entscheidung dazu markiert ein fundamentales Werteverständnis, das die Würde des Einzelnen unverrückbar ins Zentrum jeder Politik, auch der Technologiepolitik stellt. Die Achtung Menschenwürde und die Berücksichtigung von Bürgerrechten auch im digitalen Bereich ist der gemeinwohlorientierte Fluchtpunkt europäischer Technologiepolitik. Bezogen auf die Folgen für Europas Weg in der KI-Entwicklung ergibt das</p><p><strong>THESE 4: Der deutsche Umgang mit dem Thema KI, der KI-Ansatz der EU und die Strategien weiterer EU-Länder wie Frankreich sind durch das Wertefundament und den regulatorischen Rahmen der EU per se am Gemeinwohl ausgerichtet.</strong></p><p>Ob sich mit dieser Ausrichtung auch international erfolgreiche Geschäftsmodelle errichten und der in den vergangenen Dekaden erworbene Wohlstand verteidigen lässt, ist eine offene Frage, die alle umtreibt, weshalb europäische KI-Strategien zuletzt wie Pilze aus dem Boden geschossen sind. Die Besorgnis darüber spricht auch aus dem gesamten <a href="https://www.bmbf.de/files/180718%20Eckpunkte_KI-Strategie%20final%20Layout.pdf">Eckpunktepapier zur KI der Bundesregierung</a>, dem das Kabinett am 18.7.2018 zugestimmt hat. Es ist getragen vom widersprüchlichen Geist des „Mehr Mut!“ mit der ständigen Zugabe eines „Aber auch Vorsicht!“. Einige Kommentatoren werden nicht müde, diese Vorgehensweise als zögerlich oder halbherzig — jedenfalls aber nicht ausreichend zu bezeichnen, um international Schritt halten zu können. Dem stelle ich hier gegenüber</p><p><strong>THESE 5: Die systematische Verbindung von wirtschaftlichen Entwicklungs- und Wachstumsimpulsen mit flankierenden Maßnahmen der ethischen Einhegung und der Gemeinwohlverpflichtung ist der einzig richtige Weg.</strong></p><p>Wie das Eingangszitat andeutet, gibt das Mitdenken gesellschaftlicher Auswirkungen von KI-Technologie von Beginn an den Rahmen vor, in dem sich künftige Gesellschaften gedeihlich werden entwickeln können. Das ist damit gemeint, wenn wiederholt die Rede davon ist, dass klare ethische Leitplanken (inklusive Begrenzungen und Stoppregeln) sogar zu einer Steigerung von Wertschöpfung und Wettbewerbsvorteilen führen können (vgl. z.B. <a href="http://dip21.bundestag.de/dip21/btd/19/029/1902978.pdf">Antrag zur Einsetzung einer Enquete-Kommission Künstliche Intelligenz des Deutschen Bundestags</a>, S.3 oben). Da Wirtschaft Planungssicherheit braucht, geht es jetzt darum, diese Leitplanken möglichst schnell zu finden. Bislang bestehen hier lediglich Ansätze wie die Vorgaben, welche die Datenschutzgrundverordnung zu automatisierten Entscheidungen macht (Prinzip der Information von Betroffenen und Verbot autonomer Maschinenentscheidungen mit irreversiblen Folgen), wobei deren richterliche Auslegung noch eine Weile auf sich warten lassen wird. Außerdem sind die richtigen Fragen und Aufträge formuliert, nicht nur in den KI-Eckpunkten der Bundesregierung, sondern auch in den Arbeitspaketen für die Enquete-Kommission (s.o.) und für die <a href="https://www.bmi.bund.de/DE/themen/it-und-digitalpolitik/datenethikkommission/datenethikkommission-node.html">Datenethik-Kommission</a>. Doch hier beginnen die Probleme, denn nicht nur die Bundesregierung wird bis Ende dieses Jahres ihre ausformulierte Strategie vorlegen, sondern auch die Europäische Union, für welche die Europäische Kommission bereits Ethikrichtlinien für KI als eine der Säulen vorgesehen hat. Hoffentlich wird hier wechselseitig über den Tellerrand geschaut — auch in Richtung Frankreich, das in seiner Strategie geradezu eine humanistische KI (freilich nicht ohne seinerseits auch wirtschaftliche Interessen damit zu verfolgen) propagiert. Daraus ergibt sich</p><p><strong>THESE 6: Jeder nationale Sonderweg in Europa schwächt das Bestreben, weltweit menschendienlicher KI zur Ausprägung und Ausbreitung zu verhelfen.</strong></p><p>Die US-amerikanische und asiatische Dominanz ist derzeit, was die Voraussetzungen für KI-Entwicklung insgesamt angeht, überwältigend groß. Aus der Gemeinwohlperspektive wäre es am schlechtesten, wenn das dazu führen würde, dass eines Tages in Schlüsselbereichen (z.B. Mobilität, Medizin, Energie, Handel) auch in Europa faktisch nur noch die dort nach geringeren ethischen Standards entwickelte Technologie (oder eben technische Unterentwicklung als Alternative) zur Verfügung stünde. Deshalb ist ein konzertiertes, gebündeltes Vorgehen in Europa die erste Maßgabe. Ein wichtiger Ansatz hierzu ist das Bestreben der Bundesregierung, in der KI-Entwicklung eng mit Frankreich zu kooperieren. Umso unverständlicher ist es, dass jetzt <a href="https://www.handelsblatt.com/politik/deutschland/deutsch-franzoesische-partnerschaft-nicht-den-anderen-das-feld-ueberlassen-das-plant-die-cdu-zur-kuenstlichen-intelligenz/22648820.html?ticket=ST-23688-jMt6925faqe601Ne7e7s-ap2">kleinkariertes parteipolitisches Gezänk</a> über die regionale Ansiedlung des geplanten deutsch-französischen Forschungszentrums den schnellen Schulterschluss mit dem Nachbarn verhindert. Hier geht es um wesentlich mehr als Standortpolitik, und Geschwindigkeit ist ein wichtiger Faktor, das muss den Verantwortlichen rasch klarwerden.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/960/1*K2Pid-3k-zrONHzI7NXQEg.jpeg" /><figcaption>Bildquelle: <a href="https://pixabay.com/de/k%C3%BCnstliche-intelligenz-gehirn-hirn-3382507/">pixabay</a>, CC0</figcaption></figure><p><strong>Kritikpunkte am Eckpunktepapier aus Gemeinwohlperspektive</strong></p><p>Ethische Technologiestandards kann nur derjenige setzen, der technisch und wirtschaftlich vorne mitspielt, was in Deutschland und Europa derzeit nur in einzelnen Bereichen der Fall ist. Die Zutaten für KI sind im Wesentlichen Daten und Rechenkraft. Nicht nur an ersteren fehlt es in Deutschland und Europa, sondern auch an letzterer. Zukünftige Innovationen im KI-Bereich werden dort stattfinden, wo sogenannte „High Compute Environments“ gegeben sind. Das liegt daran, dass das Deep Learning, der zurzeit am stärksten wachsende KI-Zweig, eine empirische Disziplin ist: Es werden Experimente durchgeführt, evaluiert und verfeinert, bis die Ergebnisse passen. Da diese Experimente nicht beliebig lange dauern sollten, kommt es auf Rechenkapazität an. Der Computer ist in der heutigen Zeit so etwas wie ein Teleskop: Je größer er ist, desto weiter (in die Zukunft, in einen Datenraum etc.) kann man mit ihm schauen. Momentan steht kein einziger der zehn schnellsten Rechner in der EU. Und obwohl <a href="https://www.top500.org/list/2018/06/?page=1">unter den Top-100 sieben Systeme in Deutschland</a> stehen, bleibt folgendes Manko: Die Hardware wird ausnahmslos nicht in Europa entwickelt, sondern in den USA und in Asien. Da Hard- und Software an einigen Stellen eine immer engere Verbindung eingehen (ein Trend, für dessen Fortsetzung manches spricht), ist das ein potentielles Problem auch überall dort, wo wir über Gemeinwohlorientierung und alternative Wege zur Effizienzsteigerung und Gewinnmaximierung in der KI-Entwicklung sprechen. Technische Souveränität im Sinne von Hardware-Kompetenz ist auch eine der Voraussetzungen für das Durchsetzen ethischer Ansprüche bei der Technologieentwicklung, das wird leicht übersehen und von der Bundesregierung mit keinem Wort erwähnt.</p><p>Leider zählt europäische und insbesondere deutsche Forschung in zentralen Bereiche, in denen Europa gerade den politischen Anspruch hat, einen Unterschied zu machen, international nicht zu den Führenden; hier ist insbesondere die Privacy-Forschung im Bereich Daten und die Accountability-Forschung im Bereich Algorithmen zu nennen. Einerseits ist es gut, dass die Bundesregierung in diesen Forschungsbereichen Entwicklungsbedarf sieht; andererseits lassen die Formulierungen im Eckpunktepapier (vgl. <a href="https://www.bmbf.de/files/180718%20Eckpunkte_KI-Strategie%20final%20Layout.pdf">z.B. S.6 oben</a>) wie alle anderen politischen Verlautbarungen bezweifeln, dass sie die Lage der Dinge im Einzelnen richtig einschätzen und entsprechende Weichenstellungen vornehmen kann: Gestartet wird hier nicht gewissermaßen bei null, sondern wiederum mit einem Rückstand auf die Weltspitze.</p><p>Geradezu grotesk ist die Dissonanz von Anspruch und Wirklichkeit im Eckpunktepapier bezogen auf die Verfügbarkeit von (Forschungs-)Daten: Auf Seite fünf ist von einem „Heben der Datenschätze der Forschungseinrichtungen“ die Rede — nachdem sich das hier nun federführende Forschungsministerium im Frühjahr/Sommer des vergangenen Jahres noch dagegen gesträubt hat, Forschungsdaten in den Geltungsbereich des Open-Data-Gesetzes aufzunehmen. Der hier erhobene Anspruch hätte vom federführenden Ministerium bereits vor einem Jahr im Zuge des Gesetzgebungsprozesses für offene Daten eingelöst werden können. Ähnlich unglaubwürdig ist das unmittelbar darunter formulierte Ziel des Verfügbarmachens von Gesundheitsdaten — angesichts der Tatsache, dass Deutschland eines der wenigen europäischen Länder ist, in dem verschiedene behandelnde Ärzte Patientendaten nicht ohne weiteres wechselseitig einsehen können.</p><p>Das Bestreben, „die Menge an nutzbaren, qualitativ hochwertigen Daten (deutlich zu erhöhen), ohne dabei Persönlichkeitsrechte, das Recht auf informationelle Selbstbestimmung oder andere Grundrechte zu verletzen“ (<a href="https://www.bmbf.de/files/180718%20Eckpunkte_KI-Strategie%20final%20Layout.pdf">Eckpunktepapier, S.9</a>), kommt einer Kreisquadratur gleich. Die dazu angedeuteten Strategievorschläge wie öffentlich-private Datenpools oder Datenpartnerschaften zwischen Unternehmen (vgl. ebd. S.9 unten u. S.10 oben) sind angesichts dessen noch zu vage. Insbesondere an dieser Stelle ist zu hoffen, dass die Bundesregierung die verbliebene Zeit bis zum Vorlegen der ausformulierten Strategie gut nutzt. Denn übersetzt geht es hier doch darum, dass Forschung, Entwicklung und Anwendung nicht-personenbezogene und diskriminierungsfreie Trainingsdatenpools in ausreichendem Umfang und hoher Qualität zur Verfügung stehen — unter den gegebenen Rahmenbedingungen eine Herkules-Aufgabe, welche die Einrichtung einer Stelle „Datenbeauftragte der Bundesregierung“ rechtfertigen würde.</p><p>Gut ist, dass die Bundesregierung erkannt hat, dass die Nutzung von KI-Anwendungen seitens der Verwaltung ein Schlüssel für die Wettbewerbsfähigkeit und den ethischen Reifegrad auf diesem Gebiet ist (vgl. <a href="https://www.bmbf.de/files/180718%20Eckpunkte_KI-Strategie%20final%20Layout.pdf">Eckpunktepapier, S.9 oben</a>). Wir haben schon <a href="https://www.stiftung-nv.de/de/publikation/das-datenzeitalter-gestalten">2016 in ähnlicher Weise dafür plädiert</a>, dass die Selbstbefassung der Verwaltung mit Open Data der Schlüssel für das Verständnis der Wertschöpfungs- und Werteschutzbedingungen des Datenzeitalters ist. <em>Wer KI selbst in gemeinwohlverträglicher oder sogar gemeinwohlförderlicher Manier selbst nutzt, ist am ehesten dazu in der Lage, schon im Eigeninteresse für entsprechende Rahmenbedingungen zu sorgen.</em> Direkt im Anschluss daran folgt aber die Kritik, dass dem Eckpunktepapier und allen sonstigen Verlautbarungen der Bundesregierung ein visionärer Zug in dieser Hinsicht fehlt: Vermutlich lassen sich durch die Anwendung von KI gesellschaftliche Probleme in großer Zahl und Tiefe — wenn nicht beheben, so doch mildern. Hier ist an Nachhaltigkeit ebenso zu denken wie an Pflege in der alternden Gesellschaft, die Energiewende, den Wandel unserer Mobilität und lange so weiter. <em>Es ist kennzeichnend für deutsche Technologiepolitik, dass Gemeinwohlförderung vor allem im negativen, abwehrenden und nicht so sehr im positiven, ermöglichenden Sinne verstanden wird.</em> Aber es gibt im Eckpunktepapier durchaus erfreuliche Änderungsansätze. Dazu gehört, dass an mehreren Stellen (<a href="https://www.bmbf.de/files/180718%20Eckpunkte_KI-Strategie%20final%20Layout.pdf">z.B. auf S.6 u. 8</a>) das Zulassen und die Förderung von Experimentierräumen, Testfeldern und Versuchslaboren erwähnt wird. Genau das fehlt insbesondere in der Verwaltung. Wenn durch die KI-Strategie der Bundesregierung hier ein Umdenken in die oben erwähnte Richtung von KI als Experimentieren mit dem Computer zum Wohle der Gesellschaft eingeleitet werden könnte, wäre das von großem Wert.</p><p><strong>Vom Fetisch Algorithmentransparenz zum rationalen Begründungszusammenhang</strong></p><p>Zuletzt der wichtigste Aspekt: Die Forderung nach Transparenz und Nachvollziehbarkeit algorithmischer Systeme ist zu einem politischen Fetisch geworden. Der Graben zwischen der öffentlichen Buzzword-Verbreitung, zu der auch das Eckpunktepapier der Bundesregierung beiträgt, und den <a href="https://arxiv.org/pdf/1802.01029.pdf">tatsächlichen Design-Anforderungen in Sachen Nachvollziehbarkeit für algorithmische Systeme</a>in Bereichen, in denen das öffentliche Interesse gegeben und das Gemeinwohl berührt ist (z.B. Strafverfolgung; Besteuerung; Vergabe von Plätzen in öffentlichen Einrichtungen wie Kitas, Schulen und Universitäten; medizinische Diagnostik/Therapie) wird immer größer. Das liegt daran, dass die Debatte aufgebläht ist und an vielen Stellen mit zu wenig Sachverstand geführt wird. Natürlich ist es wichtig, dass wir maschinelle Entscheidungen über unser Leben nachvollziehen können. Aber wir sollten dabei grundsätzlich keine unrealistisch strengeren Maßstäbe anlegen als bei den anderen beiden Systemen, die wir bisher vorzugsweise dazu genutzt haben, und <a href="https://www.merkur-zeitschrift.de/2017/11/23/fuenfzig-jahre-black-box/">die nachweislich Black-Box-Systeme sind</a>: menschliche Gehirne und soziale Institutionen.</p><p>Paul von Bünau, Geschäftsführer der Data-Science-Agentur idalab, <a href="https://idalab.de/blog/data-science/die-sehnsucht-nach-transparenz-ist-eine-sehnsucht-nach-begrundung-warum-algorithmen-lernen-sollten-eine-geschichte-zu-erzahlen">hat richtig darauf hingewiesen</a>, dass das zeitgenössische Streben nach Transparenz eigentlich eine Sehnsucht nach überzeugender Begründung ist. Wir wollen maschinelle Entscheidungen überzeugend finden, wie wir die Argumente unseres Chefs für eine Entscheidung auch gerne überzeugend finden möchten, weil wir dann viel besser mit ihr leben und sie umsetzen können. Aber dafür brauchen wir im Bereich der Maschinen keine Nachvollziehbarkeit im Detail, die kann es gar nicht geben, und es ist auch nicht sinnvoll, sie anzustreben: „Wichtig ist die grundsätzliche Nachvollziehbarkeit als Basis von möglicher Kontrolle, denn nur so kann ich der Richtigkeit der durch Algorithmen erzielten Ergebnisse auch grundsätzliches Vertrauen schenken. Den Einzelfall nachvollziehbar zu machen, ist aber bei Entscheidungen, die ein Algorithmus trifft, schwierig. Ein Algorithmus trifft seine Entscheidungen auf Basis sehr vieler Faktoren und einer Vielzahl an Daten, die ein Mensch kaum überblicken kann. Deshalb wird er schließlich eingesetzt.“ (<a href="https://idalab.de/blog/data-science/die-sehnsucht-nach-transparenz-ist-eine-sehnsucht-nach-begrundung-warum-algorithmen-lernen-sollten-eine-geschichte-zu-erzahlen">ebd.</a>) Wenn aber auf der Ebene der Einzelentscheidung Transparenz nicht immer möglich und sinnvoll ist, dann müssen wir zumindest Vertrauen in den Prozess der Entwicklung algorithmischer Entscheidungssysteme aufbauen. Glücklicherweise gibt es auch in Deutschland bereits einige <a href="https://algorithmenethik.de/2018/08/01/auf-dem-weg-zu-guetekriterien-fuer-den-algorithmeneinsatz/">Initiativen, die an solchen Gütekriterien für den Entwicklungsprozess algorithmischer Systeme arbeiten</a>. Die Bundesregierung tut gut daran, diesen Initiativen Gehör zu schenken, ihnen eine Plattform zu bieten und sie nach Kräften zu unterstützen. Auch sollte sie ihre selbst geschaffenen Gremien wie die Datenethik-Kommission und die Enquete-Kommission Künstliche Intelligenz für den Austausch mit und das Mitwirken von diesen zivilgesellschaftlichen Initiativen öffnen.</p><p>Gerade für haftungsrelevante Bereiche wie das autonome Fahren ist es wichtig und gut, dass auch an der Einzelfalltransparenz lernender Systeme gearbeitet wird. <a href="http://iphome.hhi.de/samek/">Hier stehen deutsche Forschungseinrichtungen mit an der Spitze</a> und die Politik ist gut beraten, gerade diese, für die Entwicklung von KI mit europäischen Ethik-Ansprüchen kritischen Forschungsbereiche zu fördern; das bedeutet auch, die entsprechenden Köpfe zu halten und weitere Talente anzuziehen.</p><p><em>*Dieser Kommentar entstand als Beitrag zur </em><a href="https://algorithmenethik.de/2018/07/31/blogparade-kuenstliche-intelligenz-fuers-gemeinwohl-sagt-uns-eure-meinung/"><em>Blogparade “Künstliche Intelligenz fürs Gemeinwohl”</em></a><em> der Bertelsmann Stiftung.</em></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=b81d69436c01" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Algorithmen steuern die Welt]]></title>
            <link>https://medium.com/@tobiasknobloch/algorithmen-steuern-die-welt-97b6353bf81a?source=rss-1617cc7d49ec------2</link>
            <guid isPermaLink="false">https://medium.com/p/97b6353bf81a</guid>
            <category><![CDATA[digitalisierung]]></category>
            <category><![CDATA[ethik]]></category>
            <category><![CDATA[big-data-analytics]]></category>
            <category><![CDATA[künstliche-intelligenz]]></category>
            <category><![CDATA[algorithms]]></category>
            <dc:creator><![CDATA[Tobias Knobloch]]></dc:creator>
            <pubDate>Fri, 25 May 2018 11:27:27 GMT</pubDate>
            <atom:updated>2018-05-31T14:55:08.481Z</atom:updated>
            <content:encoded><![CDATA[<h4>Plädoyer für eine positive Interpretation</h4><p>Dass die Delegation von Entscheidungen an Maschinen in bestimmten Situationen zu wünschenswerten gesellschaftlichen Ergebnissen führt, weiß jeder Autofahrer. Von Zeit zu Zeit fällt immer mal irgendwo eine Ampel aus, so dass Polizisten den Verkehr regeln müssen. Und es ist frappierend, um wie viel schlechter dann der Verkehr an besagten Kreuzungen fließt — unabhängig davon, welche Personen das machen und um welche Straßensituation und Verkehrslage es sich handelt. Immer entsteht bei händischer Verkehrsregelung in irgendeine Richtung ein Kreuzungsstau. Offenbar ist die automatische Lichtzeichenverkehrsregelung dem Menschen also weit überlegen. Sie war es schon, als das noch über Relaistechnik mit Zeitschaltautomatik funktionierte und es ist erst recht der Fall in der sogenannten Smart City, in der dies in Interdependenz mit anderen Steuerungsbereichen von Algorithmen auf Mikroprozessorbasis geregelt wird.</p><p><strong>Experimente in einer undurchsichtigen Technikwelt</strong></p><p>Dieses Beispiel ist nur eines von vielen, die illustrieren, wie sehr in unserer Welt gesellschaftspolitische Entscheidungen (z.B. darüber, wie der Verkehr fließen soll und welche Verkehrsmittel dabei zum Einsatz kommen) bereits technisch ausgeführt, überwacht und optimiert werden. Hinzu kommt der in dieser Hinsicht schon viel weiter entwickelte private Bereich: Jede Bestellung bei Amazon, jede Nutzung eines Kartendienstes, jedes Facebook-Posting und jedes Öffnen eines Carsharing-Autos mit dem Smartphone involviert im Hintergrund komplexe algorithmische Systeme, die inzwischen selbst für die Hersteller und Betreiber manchmal schwer durchschaubar sind. Diese relative Undurchsichtigkeit aufgrund von (allmählich gewachsener) Komplexität ist übrigens nichts Neues: Schon Wettermodelle, deren Nutzung für uns seit etwa 50 Jahren selbstverständlich ist und den meisten von uns zudem vermutlich unverzichtbar erscheint, sind so komplex, dass selbst Fachleute nicht mehr genau sagen können, welcher Modellteil funktional für was verantwortlich ist und was passieren würde, wenn man ihn herausnähme oder veränderte. Sie tun einfach das, was sie sollen und können optimiert werden, indem man den Input gegen die gewünschte Performanz optimiert. Mehr braucht es zunächst nicht, um über halbwegs funktionale Wetterprognosen zu verfügen. Die zugrundeliegenden Gleichungen und technischen Implementierungen können teilweise opak, die Gründe für ihre Wirksamkeit unbekannt sein, ohne in der Praxis unbrauchbar sein zu müssen. Ganz anders ist das bei sicherheitsrelevanten Systemen (wie z.B. Flugzeugautopiloten): Dort gelten strikte Standards für Transparenz und sogar für die retrospektive Nachvollziehbarkeit des Entwicklungsprozesses.</p><p>Das Thema Begründungszusammenhänge wird uns ebenso noch beschäftigen wie das Transparenzthema. Beide werden bedeutender, weil gesellschaftliche Prozesse, an denen algorithmische Datenverarbeitung beteiligt sind, immer auch mal zu anderen Ergebnissen führen, als sie sich die meisten von uns vorstellen und wünschen. Die Wahl Donald Trumps zum US-Präsidenten ist beispielsweise — jedenfalls nach allem, was wir spätestens seit dem neuerlichen Skandal um die Nutzung von Facebook-Daten durch die Analysefirma Cambridge Analytica darüber wissen — eben auch ein Technologie-induziertes Phänomen. Anders ist das Wahlergebnis angesichts der Millionen Stimmen insgesamt weniger und des hauchdünnen Vorsprungs Trumps in den Swing States gar nicht erklärbar. Die Trump-Wahl ist zumindest auch darauf zurückzuführen, dass sich ein politisches Lager die Meinungsbeeinflussungsmöglichkeiten der Online-Werbetechnologie perfekt zunutze gemacht hat. Mit anderen Worten wurden technische Mechanismen, die Internetkonzerne dazu entwickelt hatten, um mit Werbung Geld zu verdienen, in einen anderen Bereich transferiert und dazu benutzt, trotz einer gegenteiligen Gesamtstimmung im Land ein bestimmtes Wahlergebnis zu erzielen. Dadurch wird die technische Steuerung ganzer gesellschaftlicher Systeme, von der Kybernetiker und von der Kybernetik begeisterte Politiker schon in den 1960er Jahren geträumt haben, tatsächlich vorstellbar. Man könnte auch sagen, dass wir dank der heutigen technischen Möglichkeiten, deren Auswirkungen wir kaum verstehen, geschweige denn kontrollieren können, nolens volens am größten anzunehmenden Gesellschaftsexperiment teilnehmen. Im Grunde sind wir permanent Tester von Beta-Versionen, ohne dass wir uns dessen bewusst wären. Wohin uns das führt, hängt auch davon ab, wie schnell wir uns diese Lage bewusst machen und entsprechend darauf reagieren können. Dieser Aufsatz soll dazu einen kleinen Beitrag leisten.</p><p><strong>Der Mensch: das automatisierende Wesen</strong></p><p>Die Automation von Prozessen findet nicht erst seit dem vorigen oder vorvorherigen Jahrhundert statt. Vielmehr automatisiert unsere Spezies, seit es Homo Sapiens gibt. Der Weg führt über die Nutzung von Werkzeugen im Bereich der physischen Welt, zum Beispiel durch die Nutzung von Jagd- und Landwirtschaftswerkzeugen, schließlich bis in die Welt der Ideen und des Sozialen hinein. Eine frühe signifikante Verbindung beider Seiten der Automation, der physikalischen und der kognitiven, stellt der Jacquard-Webstuhl aus dem Jahr 1804 dar. Ein automatischer mechanischer Webvorgang wird hier durch Lochkarten gesteuert; gewebt wird das auf den Lochkarten als Information gespeicherte Muster. Man kann so weit gehen und behaupten, die Fähigkeit und der Hang zur Automation sei das Distinktionsmerkmal des Menschen schlechthin (und nicht Intelligenz, Sprache, Kultur — alles Merkmale, die Tiere in einem lange von uns unterschätzten Grad ebenfalls aufweisen). Die Geschichte der menschlichen Naturbeherrschung ist eine Siegesgeschichte automatisiert in Wirklichkeitsveränderung überführter Ideen.</p><blockquote>„As a species, we have built cities and crafted stories, developed cultures and formulated laws, probed the recesses of science, and are attempting to explore the stars. This is not because our brain itself is uniquely superior — its evolutionary and functional similarity to other intelligent species is striking — but because our unique trait is to supplement our bodies and brains with layer upon layer of external assistance.“ — <em>Antone Martinho-Truswell</em></blockquote><p>Was den Menschen evolutionär so erfolgreich und letztlich zum Herrscher der Welt gemacht hat, ist die Verbindung automatisch ablaufender physikalischer Vorgänge mit Ideen, wie diese am zweckmäßigsten (beziehungsweise am schönsten, am schnellsten, originellsten…) gestaltet sein sollten. Weit über die Kleidung, die wir tragen, und die buchstäblichen Werkzeuge, die wir verwenden, hinaus können wir unsere von Natur aus beschränkten Fähigkeiten auf diese Weise nahezu beliebig erweitern. Die Grundlage dafür ist die Fähigkeit zur Abstraktion, die wiederum auf mentaler Modellbildung beruht. Evolutionär bestand der große Vorteil von Sapiens gegenüber Tieren und primitiven Hominiden darin, dass er mögliche zukünftige Weltverläufe modellartig antizipieren, miteinander vergleichen und den für ihn jeweils günstigsten zur Geltung bringen konnte. Bei der Jagd zogen körperlich weitaus stärkere und geschicktere Tiere gegen unsere Vorfahren oft deshalb den Kürzeren, weil sie nur instinktiv und nicht strategisch handelten. Strategisches Verhalten setzt die Fähigkeit zur Bildung geistiger Modelle äußerer Umstände und ihre gezielte Variation in Gedanken voraus. Die Jäger, welche alle möglichen Fluchtwege des Opfers antizipieren und ihre Jagdstrategie an den wahrscheinlichsten anpassen können, sind mit großer Wahrscheinlichkeit erfolgreich.</p><p>Dieser Vorteil, der dem Menschen im Zuge der Evolution zuteil wurde, differenzierte sich in den zurückliegenden 5000 Jahren immer weiter aus. Abstraktion, Modellbildung und gedankliche Variation haben uns zur Mathematik, zur wissenschaftlichen Methode des Experiments und letztlich auch zu den Geistes- und Sozialwissenschaften verholfen. Ein unmittelbarerer Nachfahre des strategischen Verhaltens der Jäger und Sammler vor zigtausend Jahren ist das Gedankenexperiment, das systematische Variieren von Parametern bei gleichzeitigem Konstant-Halten der Variablen in Gedanken zum Zwecke der Gewinnung abstrakter Erkenntnisse. Albert Einstein war ein Meister in der Anwendung dieser Methode. Gedankenexperimente wie der Weltraumfahrstuhl oder das Zwillingsparadoxon waren Wegbereiter für Einsteins Relativitätstheorie. Nimmt man die zahlreichen quantenphysikalischen Gedankenexperimente wie etwa Schrödingers Katze hinzu, so kann man mit einigem Recht behaupten, dass die Entwicklung der gesamten neuzeitlichen Physik ohne die gezielte und kontrollierte gedankliche Variation tatsächlicher Umstände und Ideen nicht denkbar gewesen wäre. Noch weiter zugespitzt: Wir könnten uns heute nicht von Navigationsgeräten durch fremde Städte leiten lassen (wofür die Gültigkeit der Allgemeinen Relativitätstheorie die Voraussetzung ist), wenn ein Mann wie Einstein nicht ein so großer Meister in gedanklicher Modellvariation gewesen wäre.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/945/0*iN30OGB4hZ6LJsyk.jpg" /><figcaption>Quelle: <a href="https://pixabay.com/de/gehirn-verstand-psychologie-idee-2062057/">https://pixabay.com/de/gehirn-verstand-psychologie-idee-2062057/</a> (CC0 Creative Commons)</figcaption></figure><p>Seit etwa 50 Jahren leben wir nun in einem Zeitalter, da wir unsere einzigartige Fähigkeit zur Abstraktion, Modellbildung und Variation zum Zwecke von Erkenntnis, Naturbeherrschung und Machterwerb immer mehr in Maschinen verlagert haben. Und das aus gutem Grund, denn diese können Möglichkeitsräume quantitativ in ganz andere Dimensionen explorieren und auf diese Weise qualitative Umschläge sichtbar machen, die dem menschlichen Geist ohne Computerhilfe unzugänglich sind. Ein gutes Beispiel ist das Schellingsche Segregationsmodell. In den 1960er hat der US-amerikanische Soziologe Thomas Schelling zunächst durch ein einfaches Papier-und-Bleistift-Modell (das er sich im Flugzeug ausgedacht hat) gezeigt, dass eine relativ geringe Präferenz für Gleichartigkeit im eigenen Umfeld ausreicht, um auf lange Sicht homogene Territorien zu schaffen, die von großer Gleichartigkeit geprägt sind. Übertragen auf soziale Siedlungsdynamiken in Städten heißt das konkret folgendes: Wenn jeder Mensch lediglich möchte, dass mindestens einer von drei Nachbarn ihm (in Hautfarbe, Status, Alter, Einkommen, Lebenssituation etc.) ähnlich ist, dann sorgt das auf lange Sicht von selbst, das heißt ohne weitere Einflussfaktoren wie Preisdynamik oder Siedlungspolitik dafür, dass segregierte Nachbarschaften, in denen relativ gleichartige Menschen leben, entstehen. Um seine von der Empirie inspirierte und mittels einfachster Abstraktion und Modellbildung erhärtete Vermutung theoretisch zu fundieren, haben Schelling und andere in der Folge immer komplexere Computersimulationen dieser Dynamik entworfen — immer mit dem Ergebnis der Bestätigung der initialen Vermutung. Spätestens die Anwendung von derlei Methoden auch in den Sozial- und Geisteswissenschaften markiert die Ankunft eines allquantifizierenden und allvermessenden Zeitalters, in dem wir mittlerweile leben. Sein zentrales Charakteristikum ist der Status von Daten als Fetisch, seine zentrale Voraussetzung ist die Entwicklung der Computertechnologie.</p><p><strong>Im Datenzeitalter</strong></p><p>Seit der Entstehung des sogenannten Web 2.0 und dem unmittelbar darauffolgenden Siegeszug des Smart Phones, also seit erst etwa 15 Jahren, leben wir in einem regelrechten Datenzeitalter. Die Datenmenge ist vor allem mit dem Aufkommen der Sozialen Medien exponentiell gestiegen. Nachrichten, Fotos, Texte, Musik und Videos werden seither in unvorstellbarer Menge erstellt, bearbeitet, zerteilt und neu zusammengesetzt („remixed“), vervielfältigt und geteilt. Bei all diesen Vorgängen fallen weitere digitale Daten an, die angeben, wann all das passiert, wo und durch wen; welche Hardware daran beteiligt ist und über welche Internetverbindungen die Vorgänge laufen. Solche Metadaten (ein einfaches Beispiel ist der Browserverlauf, also die Historie der von einem Nutzer besuchten Websites) sind unglaublich aufschlussreich, was wirtschaftliche und kriminelle Vorgänge sowie persönliche Informationen angeht. Der nächste Schritt in der Geschichte der Datenerzeugung und Datenverarbeitung hat mit der massenhaften Verbreitung von mit dem Internet verbundenen Geräten (sogenannte „embedded devices“) längst begonnen. Damit erzeugt heute auch die Bräunung eines Toasts und das Waschen schmutziger Wäsche zunehmend jene um die Welt vagabundierenden Datenströme.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/480/1*R78fHaabS0pULkT2lAkKYA.png" /><figcaption>Quelle: <a href="https://pixabay.com/de/neourban-laptop-hardware-computer-1734494/">https://pixabay.com/de/neourban-laptop-hardware-computer-1734494/</a> (CC0 Creative Commons)</figcaption></figure><p>Da die Zahlen, mit denen Datenmengen angegeben werden, ohnehin längst von jeder Vorstellungskraft entkoppelt sind, soll den zahlreichen, mehr oder weniger aufschlussreichen Vergleichen hier kein weiterer hinzugefügt werden. Stattdessen mag es genügen, das für das Jahr 2025 prognostizierte weltweite Datenvolumen mit über 160 Zettabyte anzugeben und darüber zu sagen, dass das einer sehr großen Informationsmenge entspricht und viel mehr ist als das, was alle Bibliotheken der Erde zusammen enthalten.</p><p>Dieses Wachstum der Datenerzeugung beruht auf der gleichen Tatsache wie unser Vermögen, bei der Verarbeitung und Analyse mit diesem Wachstum Schritt zu halten: Die Halbleitertechnologie (also die Herstellung materieller Computerrecheneinheiten, sogenannter Chips) war jedenfalls bislang in der Lage, die Leistungsfähigkeit dieser Recheneinheiten in etwa alle zwei Jahre zu verdoppeln, sie gleichzeitig entsprechend zu verkleinern und den Preis zu halbieren. Doch diese vom Mitarbeiter des Chip-Herstellers Intel, Gordon Moore, 1965 in der Zeitschrift <em>Electronics</em> formulierte Regel, der man seither den Status eines Quasi-Gesetzes dadurch verliehen hat, dass sich eine ganze Industrie mit allen Mitteln um die Erfüllung bemüht und ihre Übererfüllung vermieden hat, beginnt allmählich ihre Gültigkeit zu verlieren. Das liegt schlicht daran, dass man an physikalische Grenzen stößt: Im Nanometerbereich können durch immer mehr Schaltkreise auf immer kleinerer Fläche bald keine Fortschritte mehr erzielt werden — im Gegenteil: Ab einer bestimmten Größe gelten quantenmechanische Gesetze wie die Unschärferelation des deutschen Physikers Werner Heisenberg. Das Verhalten von Silizium-Teilchen wird im Grenzbereich von 7 bis 5 Nanometern unkontrollierbar; die fortschrittlichsten heutigen Mikroprozessoren arbeiten mit einer Schaltkreisgröße von 14 Nanometern. Mit dem Erreichen physikalischer Grenzen der Rechenbeschleunigung von Prozessoren ist die Geschichte des Fortschritts jedoch nicht vorzeitig beendet. Bereits heute kommen vermehrt spezifische, eigens auf Aufgabentypen zugeschnittene Chip-Architekturen, bei denen die Transistorendichte nicht der entscheidende Faktor ist, zum Einsatz; außerdem wird intensiv am sogenannten Quantencomputer und an anderen Alternativen zum Silizium und zur Von-Neumann-Computerarchitektur geforscht.</p><p><strong>Algorithmen, Big Data, Künstliche Intelligenz — eine Begriffsentwirrung</strong></p><p>Während solche Forschung und die Diskussionen darüber in Spezialistenkreisen stattfinden, redet mittlerweile alle Welt von Algorithmen, genauer von Big Data, Algorithmen und Künstlicher Intelligenz. Aber was sind Algorithmen eigentlich, und sind die drei genannten Begriffe mehr oder weniger austauschbar (wie sie tatsächlich in vielen Fällen verwendet werden)? Sie werden ahnen, dass das natürlich nicht der Fall ist, weshalb zunächst ein wenig Arbeit in begriffliche Hygiene zu investieren ist.</p><p>„Algorithmus ist, wenn du überlegst, wie du dir etwas überlegst“, hat der Braunschweiger Informatiker Sebastian Stiller in seinem Buch über Algorithmen einmal treffend formuliert. Was heißt das? Durch den Einsatz von Algorithmen versucht man systematisch Klassen von Problemen zu lösen, indem die Art und Weise der Problemlösung reflektiert und nach dem effizientesten Weg zur Lösung ähnlicher Aufgaben gesucht wird. Ein Algorithmus ist zunächst nichts anderes als eine logisch verknüpfte Reihe von Anweisungen zum Durchlaufen eines Prozesses, an dessen Ende ein bestimmtes Ziel erreicht werden soll, ganz ähnlich einem Kochrezept. Die Ausführung dieser Anweisungen ist zunächst unabhängig vom Medium der Ausführung. Deshalb ist eine mündliche Wegbeschreibung auch ein einfacher Algorithmus, der Menschen zum Finden eines Ortes dient. Heute haben wir uns angewöhnt, Algorithmus und Computerprogramm synonym zu verwenden. Doch ein Algorithmus kann, muss aber nicht von einem Computer ausgeführt (in der Informatik sagt man auch: instantiiert) werden. Wenn heute in der medialen Debatte von Algorithmen die Rede ist (beispielsweise in Bezug auf Facebooks Nachrichtenauswahl, Googles Suche oder selbstfahrende Autos), dann sind meistens umfängliche Computerprogramme gemeint, also komplexe algorithmische Systeme, die von mächtigen Maschinen mit viel Rechenkraft realisiert werden. Leichter veranschaulichen kann man sich das an einem einfacheren Beispiel: Im oben erwähnten Fall der Wegbeschreibung könnte man auch sagen, die Beschreibung ist der Algorithmus, der Mensch ist die ausführende Rechenmaschine und die Karte, die er dabei zu Hilfe nimmt (sei es im Kopf, auf Papier oder dem Smartphone), ist die Datenbasis. Jeder Algorithmus, der durch ein Computerprogramm realisiert wird, verarbeitet Daten. Recheneinheit, Schritt-für-Schritt-Anweisungen und Daten sind die zentralen Elemente der automatisierten Welt, die wir uns geschaffen haben, indem wir unsere geistige Fähigkeit zu Abstraktion, Modellbildung und Variation auf Maschinen übertragen haben.</p><p>Die Debatte um Künstliche Intelligenz (kurz: KI) kreist im Grunde darum, wie weit diese Übertragung gediehen ist und als wie selbständig man sie zu betrachten hat. Unterschieden wird inzwischen die sogenannte schwache KI von der starken KI, um Starke KI (im Englischen spricht man auch von General Artificial Intelligence) wäre ein System, das durchweg menschliche intellektuelle Fähigkeiten erreicht, beziehungsweise übertrifft; starke KI gibt es in Wirklichkeit (noch) nicht, sie existiert nur als Idee. Als schwache KI, unter die demnach sämtliche heute gebräuchliche und bekannte KI-Systeme fallen, bezeichnet man Systeme, die konkrete Anwendungsprobleme lösen, sich dabei jedoch nur in engen Grenzen selbst optimieren können; in Wahrheit werden Neujustierungen nämlich fast immer durch den Menschen veranlasst und gesteuert. sie greift dabei auf Methoden zurück, die ihr für die Problemlösung vorgegeben wurden und erlangt kein tieferes Problemverständnis. Das dominierende System-Paradigma ist das Prinzip der automatischen Musterkennung. Beispiele für schwache KI sind demnach: Text- und Spracherkennung, Bilderkennung, Übersetzungssysteme, Navigationsprogramme, Autovervollständigung und Autokorrektur bei Texteingaben, Chatbots und Avatare in der Kundenbetreuung sowie überhaupt sämtliche sogenannte Expertensysteme (das sind Systeme, die auf Basis von Wissensdatenbanken Handlungsempfehlungen ableiten und ausgeben). Diese Aufzählung verdeutlicht, dass wir bereits an vielen Stellen unseres alltäglichen Lebens mit schwacher KI interagieren, meist ohne es wahrzunehmen. Starke KI muss dagegen viel weiterreichende Fähigkeiten aufweisen, namentlich logisches Schlussfolgern, Entscheidungsfähigkeit unter Unsicherheit, Planungs- und Lernfähigkeit, die Fähigkeit zu natürlich-sprachlicher Kommunikation sowie das Kombinieren all dieser Fähigkeiten zur Erreichung eines übergeordneten Ziels. Letztlich müssten also die eingangs für den Menschen als entscheidende Abgrenzungsmerkmale beschriebenen Fähigkeiten zur Abstrahierung, Modellbildung und Antizipation erreicht werden. Eine in diesem Sinne starke KI müsste sich im Grunde also auch selbst weiterentwickeln können — so wie der Mensch mit eben diesen Fähigkeiten KI erschaffen hat. Die Latte hängt aus Sicht der Algorithmenentwicklung also hoch — allerdings nicht höher als das, wozu ein durchschnittlich intelligenter Mensch in der Lage ist. Grundsätzlich muss eine starke KI zunächst Informationen aus der Umwelt auf allen möglichen Wegen aufnehmen und verarbeiten können (assess); dann muss sie eigenständig Schlüsse daraus ziehen und die Art ihrer Schlussfolgerungen optimieren können (infer); zuletzt muss sie auf der Grundlage der ersten beiden Schritte responsiv auf ihre Umwelt zurückwirken können, indem sie bei sich und anderen Aktionen initiiert und kommuniziert (respond). Welche Fähigkeiten dabei im Einzelnen zu modellieren sind, zeigt das folgende Periodensystem der KI, das einen nützlichen Anhaltspunkt darstellt, um sich jeweils Aufschluss darüber zu verschaffen, worüber man genau spricht, wenn man den Begriff „Künstliche Intelligenz“ verwendet:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*-JCYbLTErvh72KBPeB_lvA.png" /><figcaption>Periodensystem der Künstlichen Intelligenz von Kris Hammond. Quelle: Kris Hammond, The Periodic Table of AI. Dezember 2016, <a href="http://ai.xprize.org/sites/default/files/xprize_artificial_intelligence_periodic_table.pdf">http://ai.xprize.org/sites/default/files/xprize_artificial_intelligence_periodic_table.pdf</a></figcaption></figure><p>Um den Übergang von schwacher zu starker KI zu erkennen, sind verschiedene Testverfahren vorgeschlagen worden, angefangen beim sogenannten Turing-Test, den der britische Mathematiker Alan Turin bereits 1950 formuliert hat. Dabei führt ein Mensch über eine Tastatur ohne Sicht- und Hörkontakt gleichzeitig ein Gespräch mit einem Menschen und einem Computerprogramm. Wenn der Mensch im Verlauf des Gesprächs nicht sagen kann, welcher Gesprächspartner Mensch und welcher Computer ist, dann hat das Computerprogramm den Test bestanden und ihm kann ein dem Menschen gleichrangiges kognitives Vermögen attestiert werden. Seit Mitte des vergangenen Jahrhunderts ist vielfach Kritik am Turing-Test geübt worden. Der Philosoph John Searle hat eigens ein berühmt gewordenes Gedankenexperiment („Chinesisch-Zimmer“) gegen die Vorstellung ersonnen, man könne einer Maschine, die den Turing-Test besteht, Sprachvermögen, Bewusstsein und Intentionalität zugestehen. Andere Kritiker haben darauf hingewiesen, dass der Turing-Test menschliche Fähigkeiten nur unvollständig prüft und haben entsprechende Erweiterungen vorgeschlagen. Der nach der Programmiererin Ada Lovelace benannte Lovelace-Test verlangt etwa vom Computer, ein kreatives Werk (z.B. eine Kurzgeschichte) nach menschlichen Vorgaben wie Sujet, Handlung etc. zu erschaffen. Dem deutschen Kognitionswissenschaftler Thomas Metzinger ist auch das nicht genug: Er ist der Meinung, ein Computerprogramm müsse sinnvoll an intellektuellen Diskursen wie der Frage, was Intelligenz eigentlich ausmacht, teilnehmen können. An all diesen Vorschlägen und Einwänden zeigt sich vor allem eines: Wie schwer es uns Menschen fällt, von der Art der Intelligenz, die für uns charakteristisch ist, zu abstrahieren und uns vorzustellen, dass andere Entitäten eines Tages vielleicht über sehr mächtige Fähigkeiten verfügen könnten, die der menschlichen Intelligenz strukturell überhaupt nicht gleichen. Außerdem ist der Intelligenz-Begriff unscharf definiert; die meisten erkennen sie, wenn sie sie vor sich haben, können aber nicht präzise sagen, was alles notwendig dazu gehört. Klar schein heute zu sein: Falls es überhaupt jemals zu so etwas wie einer starken oder allgemeinen KI kommen wird (die Mehrzahl der Experten geht heute davon aus, dass das in einem Zeitfenster von 20 bis 50 Jahren passieren könnte), dann wird sie mit recht hoher Wahrscheinlichkeit nicht die menschliche Intelligenz eins zu eins imitieren, sondern eine völlig neue Art Intelligenz darstellen.</p><p>Viel nüchterner lässt sich der letzte der hier zu erläuternden Begriffe erklären: „Big Data“ ist, wenn man nicht bloß eine große digitale Datenmenge, sondern das entsprechende Auswertungsverfahren für große Datenmengen meint (was meistens der Falls ist), eigentlich eine Abkürzung von „Big Data Analytics“. Was sich dahinter verbirgt, ist in seiner Bedeutung für die Gegenwart kaum zu überschätzen, denn oft verbirgt sich auch hinter der Rede von „Algorithmen“ oder „Künstlicher Intelligenz“ nichts anderes als diese zeitgemäße Form von Business Intelligence, also statistische Auswertung von Daten. Hier geht es darum, in kurzer Zeit statistische Erkenntnisse und Korrelationen in großen und womöglich unstrukturierten Datenmengen zu finden, um daraus entsprechende Erkenntnisse abzuleiten, die einem staatlichen, wirtschaftlichen oder privaten Zweck dienen können. Ein Beispiel: Wenn ich sämtliche Gespräche, die in sozialen Netzwerken öffentlich über die Verkehrssituation einer Stadt geführt werden, auswerte, dann kann ich darüber bereits ziemlich viel über die aktuelle Verkehrssituation dieser Stadt erfahren. Das gilt erst recht dann, wenn ich diese Informationen mit anderen Datenquellen — Staunachrichten, offene Fahrplandaten, ÖPNV-Störungsmeldungen, Baustelleninformationen, Satellitenbilder etc. — kombiniere. Aber auch wenn mir als Nutzer sozialer Netzwerke Werbung angezeigt wird, wenn mir Musik-Apps Songs vorschlagen oder die Online-Partnerbörse einen Menschen zum Kennenlernen, dann läuft im Hintergrund stets und für den Nutzer allermeistens unmerklich Big Data Analytics ab. Dabei gilt: Je unstrukturierter und heterogener die Datenquellen sind, desto größer ist der Aufwand für Data Scientists und Programmierer, daraus entsprechende Informationen zu extrahieren. Diese Extraktion nehmen (noch) von Menschen entworfene algorithmische Analysesysteme vor, nicht der eine Algorithmus. Ebenso wenig gibt es den einen Facebook-Algorithmus oder den Google-Suchalgorithmus.</p><p>Ein Bekannter meinte kürzlich, KI sei, wenn der Computer uns überrasche, ergo keine starre, sondern eher eine fluide Kategorie. Das führt uns zu der Frage, was all diese Algorithmen, Big-Data- und KI-Systeme inzwischen eigentlich können. Wozu sind sie imstande und wie nützlich oder gefährlich ist das?</p><p><strong>Von der Intelligenz und Dummheit algorithmischer Systeme</strong></p><p>Auf der Website der Robotik-Firma <em>Boston Dynamics</em> kann man ein Video ansehen, in dem der Roboter Atlas — der zurzeit am weitesten entwickelte humanoide Roboter weltweit — einen Rückwärtssalto macht. Auch kann man dort sehen, wie Roboter untereinander koordiniert gemeinsam Türen öffnen, Werkzeug zur Problemlösung nutzen und einige weitere erstaunliche Dinge vollbringen. Allein das Gehen im unwegsamen und sogar gleichzeitigt verschneiten Gelände, das Atlas inzwischen problemlos beherrscht, hat Vorgängergenerationen von Robotern vor scheinbar unüberwindliche sensomotorische Koordinierungsschwierigkeiten gestellt.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/670/1*bzKEurwQYmfvizKAhmE88Q.png" /><figcaption>Der Roboter „Atlas“ der US-Robotikfirma Boston Dynamics geht durch einen verschneiten Wald. Quelle: Boston Dynamics, Atlas, The Next Generation. Februar 2016, <a href="https://www.youtube.com/watch?v=rVlhMGQgDkY">https://www.youtube.com/watch?v=rVlhMGQgDkY</a> (Bildschirmfoto)</figcaption></figure><p>Noch als ich um das Jahr 2005 herum Doktorand an der Universität Bielefeld war, und die dortige Robotikforschungseinrichtung CITEC zwei Roboter der Baureihe ASIMO von der japanischen Firma <em>Honda</em> — damals ihrerseits die am weitesten entwickelten menschenähnlichen Roboter — zur Verfügung gestellt bekam, da konnten diese kaum zwei, drei gerade Treppenstufen steigen, ohne dass man sich sorgen musste, dass sie jeden Moment umfallen. Und nicht selten sind sie, auch bei öffentlichen Demonstrationen, tatsächlich umgefallen. Soll heißen: Die Entwicklung hat seither beeindruckende Fortschritte erzielt und sich durch die Verfügbarkeit großer Datenmengen, die Nutzung (alter) neuer informationstechnischer Architekturen wie neuronaler Netze, Verfahren wie Machine Learning und das stetige Anwachsen maschineller Rechenkraft nach dem Mooreschen Gesetz sehr beschleunigt.</p><p>Das hat Erstaunliches ermöglicht. Manch Leser hat vielleicht gehört, dass das Programm AlphaGo inzwischen das Brettspiel „Go“, das um ein Vielfaches komplexer ist als Schach, besser beherrscht als menschliche Go-Meister. Go ist zwar komplex, aber es verfügt wie Schach doch über ein diskretes Regelwerk, das man erlernen kann und aus dem sich in Kombination mit einer Spielstellung eine endliche Zahl möglicher Züge ergibt. Da es bei derlei Spielen darum geht, den Raum möglicher weiterer Spielverläufe möglichst vollständig zu überblicken, leuchtet es ein, warum der Computer dem Menschen hier überlegen ist. Vor diesem Hintergrund ebenfalls wenig überraschend ist, dass Computer das Spiel Jeopardy mit ihrer ungleich größeren Menge an verfügbarem Expertenwissen gewinnen. Überraschter sind wir dann schon, wenn ein Computer Menschen beim Poker schlägt oder wohlschmeckende Kochrezepte kreiert. Hier werden wir unsicher, weil wir davon ausgehen, dass technische Systeme dabei kreative Fähigkeiten entfalten, von denen wir bisher glaubten, nur Menschen seien dazu in der Lage. Dabei handelt es sich in allen genannten Fällen lediglich um bloßes Number Crunching (frei übersetzt: Datenverarbeitung), wodurch algorithmische Systeme diese uns in Erstaunen versetzenden Fähigkeiten entfaltet haben.</p><p>Die Emergenz uns zunächst überraschender Fähigkeiten, die bei näherem Hinsehen jedoch aus trivialen Routinen bestehen, lässt sich gut am Beispiel automatisierter Sprachübersetzungen beleuchten. Das im Internet frei verfügbare und sicher von einigen Lesern bereits genutzte Programm <em>Google Translate</em>, das auf der Neuronalnetz-Architektur „Tensor Flow“ beruht, übersetzt 96 Sprachen. Die Qualität der Übersetzung hängt sehr davon ab, was zur Übersetzung ansteht. Die Ergebnisse reichen von erstaunlich gut bis sinnlos. Der Kognitionswissenschaftler und professionelle Übersetzer Douglas Hofstadter, manchem vielleicht aufgrund seines Bestsellers „Gödel, Escher, Bach“ bekannt, hat das kürzlich in dem bemerkenswerten Aufsatz „The Shallowness of Google Translate“ näher analysiert. Hofstadter übersetzt professionell aus den Sprachen Französisch, Deutsch und Chinesisch ins Englische (und umgekehrt). Und er weist zu Beginn seiner Untersuchung zu Recht darauf hin, dass jede Übersetzung mehr ist als die Decodierung und Recodierung von Zeichen, sondern vielmehr ein kreativer Akt des Verstehens und ‚Nachschaffens’ originärer Gedanken. Als Beispiel führt Hofstadter in seinem Text die Übersetzung einer Passage des Buches „Sie nannten sich der Wiener Kreis“ von Karl Sigmund an. Es handelt sich um folgende Sätze:</p><blockquote>Nach dem verlorenen Krieg sahen es viele deutschnationale Professoren, inzwischen die Mehrheit in der Fakultät, gewissermaßen als ihre Pflicht an, die Hochschulen vor den “Ungeraden” zu bewahren; am schutzlosesten waren junge Wissenschaftler vor ihrer Habilitation. Und Wissenschaftlerinnen kamen sowieso nicht in Frage; über wenig war man sich einiger. — <em>Karl Sigmund</em></blockquote><p>Diese Übersetzung fertigt Google Translate von der Passage an:</p><blockquote>After the lost war, many German-National professors, meanwhile the majority in the faculty, saw themselves as their duty to keep the universities from the “odd”; Young scientists were most vulnerable before their habilitation. And scientists did not question anyway; There were few of them.</blockquote><p>Hier werden zwar englische Worte zusammengestellt, die einen gewissen Sinn ergeben, die aber bestenfalls eine näherungsweise, keineswegs aber eine adäquate Übersetzung des deutschen Originals darstellen. Besonders deutlich wird das an den letzten beiden Sätzen, in denen das Übersetzungsprogramm nicht einmal den zentralen Sinn (den Unterschied zwischen weiblichen und männlichen Wissenschaftlern) erfasst.</p><p>Hofstadter kommt zu dem Schluss, dass <em>Google Translate</em> und ähnliche Übersetzungsprogramme ebenso wenig Sprache verstehen wie eine <em>Microsoft XBox</em> oder eine <em>Sony Playstation</em> Fußball spielen können:</p><blockquote>The practical utility of Google Translate and similar technologies is undeniable, and probably it’s a good thing overall, but there is still something deeply lacking in the approach, which is conveyed by a single word: understanding. Machine translation has never focused on understanding language. Instead, the field has always tried to “decode” — to get away without worrying about what understanding and meaning are. — <em>Douglas Hofstadter</em></blockquote><figure><img alt="" src="https://cdn-images-1.medium.com/max/800/1*nMLNaeShPE3X7sC-lg8lMw.jpeg" /><figcaption>Douglas R. Hofstadter 2006 in Stanford. Von “null0” — <a href="https://www.flickr.com/photos/null0/271946418/">https://www.flickr.com/photos/null0/271946418/</a>, CC BY-SA 2.0, <a href="https://commons.wikimedia.org/w/index.php?curid=1321301">https://commons.wikimedia.org/w/index.php?curid=1321301</a></figcaption></figure><p>Völlig zu Recht weist Hofstadter auch darauf hin, dass maschinelle Übersetzungsprogramme trotz ihres Nichtverstehens enorm nützlich sein können und in bestimmten Anwendungsbereichen durchaus ihre Berechtigung haben. Dem schließe ich mich hier an, gebe aber sogleich zu bedenken, dass uns Technik, die in eingegrenzten Bereichen gut funktioniert, oftmals suggeriert, sie könne mehr und sei — zumindest in diesem einen Anwendungsbereich — ein Universalwerkzeug. Durch seine erstaunlich adäquate Übersetzung bestimmter Texte, beispielsweise wenn sie von Technik und Politik handeln (an massenhaften Texten vor allem solcher Art wurde das System nämlich trainiert) suggeriert <em>Google Translate</em> nicht nur, dass es Sprache im Vollsinne des Wortes versteht, sondern legt uns dadurch auch nahe, dass Maschinen generell sprachbegabt und so weit ausgereift sind, dass wir sie verständig nennen können. Und an dieser Erwartung richten wir unseren Umgang mit Maschinen fortan aus. Wie oben am Bespiel gezeigt, ist diese Erwartung aber falsch und die Ausrichtung unseres Umgangs mit Maschinen ist es folglich auch. Denn die im Ergebnis bisweilen erstaunlichen Fähigkeiten von Übersetzungsprogrammen beruhen nur teilweise auf dem Algorithmus, ein wesentlicher anderer Teil ist die digitale Verfügbarkeit großer Textmengen, in denen der Algorithmus im Wesentlichen nur ‚nachschaut’.</p><p>Am Fall der oben erwähnten Brettspiel-Software AlphaGo der britischen Firma Google DeepMind ist ein Aspekt so bemerkenswert, dass es sich lohnt, in diesem Kontext noch einmal darauf einzugehen. Normalerweise werden Algorithmen zunächst an einem Pool historischer Daten „darauf trainiert“, wie man im Fachjargon sagt, mit einer bestimmten Aufgabenklasse fertig zu werden. Bilderkennungssoftware wird beispielsweise mit großen Mengen an Bildern gefüttert, die sie später klassifizieren soll. Diese Trainingsbilder sind „gelabelt“, wie man sagt, das heißt, dass sie bereits der jeweils richtigen Bildkategorie, die der Algorithmus später selbst finden soll, zugeordnet sind. An diesen Trainingsdaten ‚lernt’ der Algorithmus also die gewünschten Ergebnisse und wie er zu ihnen gelangt (ganz grob vereinfacht ausgedrückt). Auf diese Weise war auch AlphaGo mit unzähligen historischen Daten von Go-Spielen zwischen Menschen trainiert worden. Das hat das Programm zu einem so guten Go-Spieler gemacht, dass es im März 2016 den südkoreanischen Go-Weltmeister Lee Sedol in fünf Partien 4:1 besiegte; lediglich das vierte Match konnte Sedol für sich entscheiden. Er gab später zu Protokoll, dass er sich zu keiner Zeit während der fünf Spiele als der das Spiel kontrollierende Spieler gefühlt habe — eine wirklich bemerkenswerte Aussage. Doch so weit, so gut, wir haben diese Erfahrung schon beim Schach gemacht, vielleicht kann der ein oder andere Leser, der sich gegen einen Schachcomputer versucht hat, sogar gut nachvollziehen, wie Lee Sedol sich in den Partien gegen AlphaGo gefühlt haben mag. Nun wird die Angelegenheit aber doch noch ein wenig verrückter: 2017 hat das Team von Google DeepMind in der Fachzeitschrift Nature eine neue Version von AlphaGo vorgestellt: AlphaGo Zero. Der Name ist durchaus Programm, denn anders als die Vorgängerversion wurde die neue Version mit dem Zusatz „Zero“ an keinerlei historischen Spieldaten trainiert. Sie wusste anfangs nichts anderes über Go als die Spielregeln. Trotzdem ist sie in nur drei Tagen noch stärker gewesen als AlphaGo. Wie das, werden Sie zu Recht fragen. Nun, schlicht und ergreifend, indem das System gegen sich selbst gespielt hat, allein in den ersten drei Tagen 4,9 Millionen Partien. Dadurch war AlphaGo Zero schon nach wenigen Tagen in der Lage, es mit menschlichen Go-Meistern aufzunehmen. Die Vorgängerversion AlphaGo hatte dafür noch Monate des Trainings mit historischen Spieldaten gebraucht. Der Mitgründer und Geschäftsführer von Google DeepMind meinte dazu lapidar, AlphaGo Zero sei deshalb so mächtig geworden, weil es durch den Wegfall der Trainingsdatenbasis nicht länger durch die Grenzen menschlichen Wissens und Könnens begrenzt gewesen sei. Dieses Prinzip ist selbstredend nur dann anwendbar, wenn die zu modellierende Welt so überschaubar ist, dass sie vollständig simuliert werden kann — eben wie bei Go. Beim Poker und erst recht in allen komplexen Zusammenhängen, in denen mit der Irrationalität menschlichen Verhaltens zu rechnen ist, sieht die Sache schon anders aus. Vielleicht wird auch deshalb immer mehr in Richtung maschineller Selbstoptimierung geforscht. So gibt es einen Vorschlag für neuronale Netze, die sich selbst replizieren und durch ‚natürliche’ Selektion Verbesserungen erzielen können. Auch haben Forscher bereits eine KI mit der Funktion neue KI zu programmieren geschaffen („DeepCoder“ von Microsoft und der Universität Cambridge, auch Google arbeitet daran). All das ist zugegebenermaßen nicht nur faszinierend, sondern auch ein wenig beängstigend, weil wir durch solche Ansätze über kurz oder lang die Kontrolle über die Technikentwicklung verlieren könnten.</p><p>Doch bei allem gebotenen Staunen, das auch mich dabei erfasst: Bei Schach, Go und Jeopardy, also den Beispielen, bei denen sich der Mensch bislang von Algorithmen geschlagen geben muss, handelt es sich um Spiele. Meiner Ansicht nach tun wir einstweilen gut daran, die Entwicklungen auf dem Gebiet der algorithmischen Entscheidungssysteme und KI nicht als Bedrohung zu begreifen. Wohl aber kommen sie — nach der kosmologischen, der biologischen und der psychologischen — in Zukunft oder vielleicht auch jetzt schon als mögliche vierte (nämlich technologische) Kränkung des Menschen in Betracht. Nur ist Gekränktsein keine zweckdienliche Haltung, wenn es darum geht, einen adäquaten Umgang mit etwas, das in der Welt ist und auch nicht mehr weggehen wird, zu finden. Angst vor KI ist ein ebenso schlechter Ratgeber. Immer wieder sprechen manche von einer existentiellen Bedrohung der Menschheit durch KI, Tesla-Gründer Elon Musk und der kürzlich verstorbene britische Star-Physiker Steven Hawking zum Beispiel. Aufgrund der Fortschritte in Informatik und Robotik haben sie wiederholt öffentlich vor der Gefahr gewarnt, Maschinen könnten irgendwann, wenn ihre Fähigkeiten unsere erst einmal übersteigen (das wäre eben der Zeitpunkt der sogenannten Singularität), die Oberhand gewinnen und uns Menschen versklaven oder auslöschen. Musk, dem man kaum unterstellen möchte, dass er verrückt ist, denn immerhin ist er drauf und dran, sowohl die Personenbeförderung auf der Erde (Tesla, Hyperloop) als auch die Raumfahrt (SpaceX) zu revolutionieren, geht sogar davon aus, dass die Wahrscheinlichkeit, dass wir aktuell <strong>nicht</strong> in einer Computersimulation leben, sehr gering ist. Sein Argument besagt folgendes: Selbst wenn wir vom heutigen Stand der Dinge aus lediglich irgendeinen technischen Fortschritt in der Zukunft annehmen, dann wird die digitaltechnologische Fiktion durch Weiterentwicklungen in Virtual und Augmented Reality schon bald ununterscheidbar von der Realität sein. Und das, nachdem wir noch vor 40 Jahren lediglich triviale pixelige Spiele wie Ping Pong am Bildschirm spielen konnten. Angesichts dieser Geschwindigkeit sei es nicht sehr plausibel anzunehmen, dass eine solche Entwicklung im Laufe der Evolution nicht schon längst stattgefunden habe und uns seither all das, was wir für wirklich halten, was aber in Wahrheit virtuelle Realität ist, von mittlerweile herrschenden Maschinen nur vorgegaukelt wird.</p><p>Die Möglichkeit, dass wir gleichzeitig in einer Simulation leben und dennoch in den uns geläufigen Sprachen sinnvoll auf Gegenstände der (vermeintlichen) Außenwelt Bezug nehmen können, ist schon Mitte der 1970er Jahre vom US-amerikanischen sprachanalytischen Philosophen Hilary Putnam in seinem denkwürdigen Büchlein „Die Bedeutung von Bedeutung“ logisch ausgeschlossen worden. Die Kinofilm-Trilogie „Matrix“, die zwischen 1999 und 2003 durch den Einsatz avancierter Computertechnik aufregend und unterhaltend die Möglichkeit erörterte, dass wir bereits von Maschinen versklavt worden sind und dies alles nur träumen, basiert bezeichnenderweise auf dem Gedankenexperiment „Gehirne im Tank“ aus eben jenem Buch des Philosophen Putnam, in dem er die Möglichkeit ausschließt, dass ein solcher Traum logisch überhaupt möglich ist. Das zeigt die Beliebigkeit der Vereinnahmungen von Ideen durch die populäre Kultur. Sie macht sich alles zu eigen, was die Phantasie anregt und darauf hoffen lässt vermarktungsfähig zu sein. Am Ende sind es dann tatsächlich die Bilder von Kinofilmen wie „Star Wars“, „Neuromancer“, „Terminator“ und „2001 — Odyssee im Weltraum“ oder auch Spike Jonez’ Meisterwerk „Her“, die unsere — letztlich falschen — Einschätzungen der Möglichkeiten und Gefahren von Technologie bestimmen.</p><p><strong>Algorithmen zwischen Heilmittel und Teufelswerk</strong></p><p>Ein gutes Beispiel für unsere kulturell verursachte, aber realitätsferne Angstprägung in Bezug auf Technologie ist der Kinofilm „Minority Report“ aus dem Jahr 2002. Darin sagen durch den Konsum verunreinigter Drogen hirngeschädigte Personen, die einer Art Trance-Zustand gehalten werden („Precogs“), zukünftige Verbrechen in der US-Hauptstadt Washington voraus, die von der Precrime-Einheit der dortigen Polizei dann tatsächlich seit sechs Jahren erfolgreich vereitelt werden. Der Film, bei dem Steven Spielberg Regie geführt und Tom Cruise die Hauptrolle gespielt hat, geht auf eine Science-Fiction-Kurzgeschichte von Philip K. Dick zurück. Heute, da sich algorithmische Entscheidungssysteme zur Unterstützung einer vorausschauenden Polizeiarbeit nicht nur in den angelsächsischen Ländern, sondern auch in sechs deutschen Bundesländern bereits im Einsatz befinden, wird in diesem Zusammenhang gerne auf diesen Film Bezug genommen. Dabei gibt es zwischen der Fiktion von „Minority Report“ und der heutigen algorithmisch unterstützten Polizeiarbeit keinerlei sinnvollen Bezug außer den, dass die Polizei im Film <strong>regelmäßig </strong>und in der heutigen Wirklichkeit dort, wo solche Systeme im Einsatz sind, <strong>manchmal </strong>am Ort des Verbrechens ist, bevor das Verbrechen überhaupt geschieht. Dieser Zusammenhang verweist, wenn man ihn so nüchtern darstellt, zugleich auf eines der zentralen Probleme prognostischer algorithmischer Systeme. Ein geflügeltes Wort besagt, dass Prognosen schwierig seien, insbesondere wenn sie die Zukunft beträfen. Das liegt schlicht daran, dass sich Prognosen auf statistische Zusammenhänge stützen, aber streng genommen keine Aussagen über Einzelfälle zulassen. Im hier diskutierten Zusammenhang führt diese Schwierigkeit zu folgendem Paradoxon: Wenn Verbrechen nicht mehr geschehen, weil sie mithilfe präziser Prädiktion und durch bloße Polizeipräsenz am vermeintlichen Ort des Geschehens beziehungsweise Nicht-Geschehens verhindert werden, dann haben wir eine Welt ohne Verbrechen, das heißt, was wir bekämpfen wollen, kommt nicht mehr vor, ist nicht mehr sichtbar. Angesichts dessen wird es nach einer Weile sehr schwierig sein, Ressourcen für etwas Unsichtbares, nicht Vorkommendes bereitzustellen. Dass dies keine bloße intellektuelle Spitzfindigkeit ist, zeigt die Tatsache, dass solche Debatten um das sogenannte Predictive Policing tatsächlich geführt werden, und zwar unter dem Stichwort Wirkungsmessung bei der Einführung und Evaluierung solcher Systeme. Es ist nämlich schwierig bis unmöglich, die Wirksamkeit einer Maßnahme zu untersuchen, die — wenn sie das bewirkt, was sie soll — dazu führt, dass der Grund für ihr Ergreifen im Grunde entfällt. Ein ähnliches Problem hat man übrigens bereits bei der Kalibrierung (d.h. funktionalen Optimierung) solcher Systeme. Dazu sind immer historische Deliktdaten erforderlich, doch diese sind insofern einseitig unvollständig, dass Delikte sich nur dort in Daten abgebildet haben können, wo es auch einen Beobachter (z.B. eine Polizeistreife) gab.</p><p>Im süddeutschen Raum wurde beispielsweise festgestellt, dass die Anzahl der Wohnungseinbrüche seit der Einführung einer Software, welche die Wahrscheinlichkeit von Wohnungseinbrüchen in einem Bezirk berechnet (woraufhin die Polizeipräsenz eben dort jeweils erhöht wurde), stellenweise signifikant rückläufig ist. Doch ohne eine Isolierung und Messung anderer nachgewiesener und möglicher Einflussfaktoren und ohne einen Kontrollbezirk, in dem alles gleich ist, jedoch keine solche Verbrechensvorhersagesoftware eingesetzt wird, ist eine belastbare Aussage über die Wirksamkeit vorausschauender Polizeiarbeit auf Software-Basis nicht möglich. In Deutschland jedoch sind solche algorithmischen Prognosesysteme zwar bereits in sechs Bundesländern im Einsatz, doch nur in einem wurde bislang der Versuch einer kontrollierten Wirkungsmessung vorgenommen. Dieser Umgang mit Technik ist leider verbreitet: Ein neues technisches System bewirkt irgendetwas, und weil wir mit dem Status quo in irgendeinem Bereich (z.B. steigenden Wohnungseinbruchszahlen) nicht zufrieden sind, sind wir bereit, diese Technik einigermaßen unreflektiert in diesem Bereich anzuwenden. Dadurch kann es aber noch schlimmer kommen, denn wenn die Briten, die ebenfalls mit steigenden Einbruchszahlen unzufrieden sind, Predictive-Policing-Software einsetzen und damit dann zufriedener sind als zuvor, dann können deutsche Politiker der deutschen Öffentlichkeit nicht leicht über längere Zeit erklären, in Deutschland könne man aus diesen oder jenen Gründen nicht das Gleiche tun.</p><p>Das liegt auch daran, dass uns der Sinn für etwas, das über Jahrhunderte ein sicherer Kompass für wissenschaftlich begründbare Wahrheit gewesen ist, im Datenzeitalter, in dem wir ja mittlerweile schon eine Weile leben, allmählich abhanden kommt. Indem uns beinahe allgegenwärtige Datenanalysen und Statistiken (ganz absurd ist diese Entwicklung im Profifußball) ständig Korrelationen aufzeigen, legen sie Kausalzusammenhänge nahe, wo keine sind. Der menschliche Geist neigt nun einmal zu dem klassischen Fehlschluss „Post hoc, ergo propter hoc“ (Es ist unmittelbar danach passiert, also ist es deswegen passiert). Unbedarfte Menschen sehen also plötzlich vielleicht lauter Kausalzusammenhänge, wo es sie nicht gibt. Menschen, die zwar kritisch, aber auch lösungsorientiert sind, könnten sich hingegen immer mehr mit Korrelationen zufrieden geben, ohne den tatsächlichen (technischen, sozialen, natürlichen) Wirkmechanismen auf den Grund zu gehen. Oft reicht das für erfolgreiche punktuelle Interventionen aus, doch sobald Problemlagen so beschaffen sind, dass sie eine systemische Betrachtungsweise erfordern, wird es mit der reinen Korrelationsanalyse schwierig. Zur Hypothesengenerierung ist die Betrachtung von Korrelationen dagegen ein durchaus probates Mittel. Ein Beispiel aus Großbritannien: Dort hat man dank gut verfügbarer öffentlicher Daten aus dem gesamten Gesundheitssystem (Open Health Data) durch eine Analyse großer Mengen dieser Daten einen Zusammenhang zwischen dem häufigeren Versterben schwer kranker Menschen und von Unfallopfern an Wochenenden und den Ärztedienstplänen herausgefunden: Offenbar sind in den Krankenhäusern, in denen die erfahrenen Ärzte an den Wochenenden regelmäßig frei hatten, so dass junge und unerfahrene Assistenzärzte Dienst tun mussten, signifikant mehr Menschen an diesen Wochenenden gestorben. Nun möchte man an zukünftigen Wochenenden natürlich möglichst viele Menschenleben retten, so dass es einem egal sein kann, ob diese Korrelation auf einen tatsächlichen Kausalzusammenhang hindeutet. Man ändert einfach etwas auf der einen Seite (dem Wochenenddienstplan) und hofft auf eine positive Veränderung auf der anderen Seite (den Todesfällen an Wochenenden). Ist man damit erfolgreich, sieht man sich bestätigt und einen Kausalzusammenhang zumindest nahegelegt. So pragmatisch gehen Menschen (außer in der Wissenschaft) seit eh und je vor und das ist auch völlig in Ordnung. Der Punkt, um den es hier geht, ist, dass die algorithmische Datenanalyse an vielen Stellen, an denen wir früher die Wirkzusammenhänge von technischen, sozialen oder natürlichen Systemen zunächst durchdringen mussten, um sie beeinflussen zu können, diese verstehende Durchdringung vermeintlich oder tatsächlich erübrigt. Dies wiederum verändert unser Verhältnis zur Welt. Wenn ich es nicht mehr gewohnt bin, einfachen Dingen auf den Grund zu gehen, weil Datenanalysen immer schon die zur erfolgreichen Einflussnahme nötigen Korrelationen aufzeigen, dann fällt es mir irgendwann natürlich schwerer, wirklich harte Probleme zu lösen, bei denen ich um die Aufdeckung von Kausalzusammenhängen und das Malen eines großen Gesamtbildes nicht umhinkomme. Die Möglichkeiten beispielsweise, mittels sozialer Netzwerke wie Facebook politische Meinungen und Wahlen gezielt zu beeinflussen, wird man nicht dadurch beseitigen können, dass man den Code, aus dem Facebook besteht, ein bisschen modifiziert. Vielmehr muss man das Gesamtsystem der werbefinanzierten Online-Netzwerke analysieren, um seriös Abhilfe vorschlagen zu können. Einer meiner Kollegen, der US-Amerikaner Ben Scott, hat das gemacht; seine lesenswerte Analyse ist auf Deutsch unter dem Titel <a href="https://www.stiftung-nv.de/de/publikation/digitale-werbung-und-politische-propaganda">„Digitale Werbung und politische Propaganda“</a> erschienen.</p><p>Wahr ist auf der anderen Seite aber auch, dass wir zahlreichen Herausforderungen unserer Zeit nur werden begegnen können, indem wir elaborierte technische Möglichkeiten der Analyse von Daten und des Schlussfolgerns daraus (einschließlich des Vorbereitens und Treffens von Entscheidungen) nutzen. Zu diesen Herausforderungen gehört übrigens die algorithmische Datenverarbeitung selbst. Denn auch die Frage, ob Algorithmen aufgrund der Zugehörigkeit zu einem Geschlecht, einer ethnischen Gruppe, einer Altersklasse oder aufgrund anderer Merkmale diskriminieren, lässt sich aufgrund der großen Datenmengen, um deren Verarbeitung es beispielsweise in Einstellungsverfahren geht, eigentlich nur mit maschineller Hilfe zuverlässig beantworten und eventuell beheben. Der Begriff der Diskriminierung schillert hier, denn die rasche Unterscheidung von Einzeldingen nach Klassen ist gerade einer der Hauptvorzüge maschineller Analysesysteme. Hier wird deutlich, dass wir oftmals der Technik zu Unrecht Resultate anlasten, die wir als nicht wünschenswert erachten, während vielmehr unser Gebrauch von der Technik fragwürdig ist. Das lässt sich an einem weiteren Beispiel illustrieren: Die automatische maschinelle Auswertung von Satellitenbildern lässt sich einerseits dazu nutzen, vormals kompliziert herbeizuführende entwicklungspolitische Entscheidungen über die Verteilung von Ressourcen zu vereinfachen, denn die Muster auf diesen Bildern erlauben recht verlässliche Rückschlüsse auf soziodemographische Verhältnisse. Aus dem gleichen Grund kann diese Musteranalyse von Satellitenbildern allerdings zur schnöden Gewinnmaximierung im Investmentbanking angewendet werden; bei Goldman Sachs ist dafür der Bereich „Quantitative Investment Strategies“ zuständig. Es ist also ein Dual Use, wie es in der Fachsprache heißt, eine Nutzung derselben Technik auf zwei ganz unterschiedliche Arten und zu unterschiedlichen Zwecken möglich. Diese Zwecke können noch verschiedenartiger sein als in den angeführten Beispielen, z.B. die Zustellung von Paketen und die Tötung von Menschen durch Drohnen (was im Übrigen dem klassischen Verständnis des Begriffs Dual Use entspricht). Doch der springende Punkt wird auch an einem Fall wie diesem deutlich: Von diesem Monat (April 2018) an plant die Bundesregierung den standardisierten Einsatz einer Software zur automatisierten Dialektanalyse bei Asylbewerbern, auch Sprachbiometrie genannt. Damit soll verifiziert werden, ob jemand tatsächlich aus der Erdgegend stammt, aus der zu stammen sie vorgibt. Vergessen sollte dabei allerdings nicht, dass die Gründe für mögliche Abweichungen auch andere als Falschangaben oder Täuschungsversuche der Geflüchteten sein können. Außerdem ließe sich ein solches System auch zu einem ganz anderen, positiven Zweck einsetzen, nämlich für die Verbesserung von (sprachlichen) Integrationsmaßnahmen.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/960/0*nVR3nCOD5qN-Xbdo.jpg" /><figcaption>Quelle: <a href="https://pixabay.com/de/k%C3%BCnstliche-intelligenz-gehirn-hirn-3382507/">https://pixabay.com/de/k%C3%BCnstliche-intelligenz-gehirn-hirn-3382507/</a> (CC0 Creative Commons)</figcaption></figure><p>Vor dem Hintergrund, dass Technik zunächst neutral ist und es daher stark auf ihren Gebrauch durch uns ankommt, ist es vielleicht wenig verwunderlich, dass es Algorithmen in der öffentlichen Debatte nicht leicht haben. Einerseits sollen sie Probleme wie die Digitalisierung der Verwaltung oder die Jagd auf Einbrecher und Terroristen lösen helfen, andererseits stehen sie unter Verdacht, die menschliche Souveränität schlechthin zu untergraben. Dass die deutsche Grundhaltung eher Skepsis ist, wird etwa deutlich an der deutschen Übersetzung des — wichtigen und guten — Buches „Weapons of math destruction“ von Cathy O’Neill, die „Angriff der Algorithmen“ lautet. Diese Titelgebung verkennt nicht nur, dass Algorithmen — jedenfalls bis auf weiteres — nicht vom Himmel fallen, sondern sie suggeriert auch, dass sie eine grundsätzliche Gefahr für die Menschheit darstellen, was in dieser pauschalen Form natürlich Unsinn ist. Es ist nicht abzustreiten, dass es mannigfache Fehlerquellen und handfeste Risiken gibt, die sich in beklagenswerter Form leider auch schon realisiert haben. Man denke an allzu unreflektiert eingesetzte Software zur vorausschauenden Verbrechensbekämpung (weltweit), an falsch ausgestellte behördliche Mahnbescheide (Australien), nicht plausible Risiko-Selektionen bei der Kreditvergabe (weltweit), unfaire Bewährungsentscheidungen im Strafvollzug (USA) oder aber systematisch im Sozialsystem angelegte, maschinelle Verfestigungen sozialer Disparität (USA) — um vom Datenschutz (Stichwort: gläserner Mensch) ganz zu schweigen. All das wollen wir als Gesellschaft nicht als Ergebnis eines vermehrten Technologieeinsatzes sehen, da dürfte in unseren Breiten Einigkeit bestehen. Ein Land wie China befindet sich mit dem „Citizen Score“ dagegen auf dem Weg in die Totalüberwachung, ohne dass es, jedenfalls bislang, dort zu aufständischen Tumulten kommt. Vom Score-Wert wird es im China der Zukunft anscheinend abhängen, ob man Flugreisen machen kann, ob man Zugang zu Kredit hat und bestimmte Wege im Bildungssystem einschlagen kann. Aber auch in Singapur und Südkorea beispielsweise herrscht ein anderes Verständnis dessen, wozu ein Land legitimer Weise digitale Technologie einsetzen kann. Südkoreaner, die ins Ausland reisen, bekommen etwa keine Nachricht von ihrem Mobilfunkanbieter, wenn sie auf fremdem Boden ihr Mobiltelefon einschalten, sondern vom südkoreanischen Außenministerium, das demzufolge genau weiß, welcher Südkoreaner sich aktuell in welchem Teil der Erde aufhält (was in bestimmten Gegenden der Welt zweifellos von Vorteil sein kann).</p><p>Was ist die richtige Schlussfolgerung daraus vor dem Hintergrund unseres freiheitlichen Wertesystems, auf das wir zu Recht stolz sind und das wir bewahren wollen? Nun, zunächst brauchen wir einen unaufgeregten, arbeitsteilig organisierten Diskurs über die Möglichkeiten und Grenzen des Einsatzes von Algorithmen. Diese Nüchternheit ist nicht zuletzt deshalb angebracht, weil es letzten Endes um nicht mehr und nicht weniger geht als die Frage, wie wir im sogenannten Datenzeitalter eine lebenswerte Gesellschaft sein und bleiben können. In diesem Zusammenhang ist es sicher angebracht, offenkundige Schwächen und Schwierigkeiten zu untersuchen und möglichst zu beheben. Ebenso notwendig ist allerdings die Frage, was durch den verstärkten Algorithmeneinsatz neu möglich ist, was vorher nicht möglich war. Verschärft könnte man auch sagen: Abgesehen vom Einsatz guter Software, die so programmiert ist, dass sie laufend dazu lernt, haben wir überhaupt keine Chance, aus den gewaltigen Datenmassen, die uns heute zur Verfügung stehen, als Gesellschaft Nutzen zu ziehen. Dass Algorithmen bislang vor allem überall dort, wo sich mit ihrer Hilfe (viel) Geld verdienen lässt, eine herausgehobene und nicht immer rühmliche, gesellschaftsdienliche Rolle spielen, spricht nicht gegen Algorithmen per se, sondern illustriert, dass wir vielleicht nicht alles, aber doch sehr vieles wirtschaftlichen Interessen unterzuordnen bereit sind. Das ist nicht erst bei Algorithmen der Fall, sondern es war bei früheren technologischen Innovationen nicht anders. Die bedeutendsten Innovationstreiber waren fast immer das Militär und diejenigen mit den größten wirtschaftlichen Gewinnaussichten. Die Quintessenz daraus: Wir müssen aufpassen, dass wir nicht an Stellen, an denen wir eigentlich gesellschaftspolitische Debatten führen müssten, einen Technologiediskurs anzetteln — und das oft genug auch noch auf einer dürftigen Wissensgrundlage.</p><p><strong>Das ausgezeichnete Potential von Algorithmen</strong></p><p>Tatsächlich kann das Zusammenwirken von Daten und Algorithmen viele Aufgaben, für die Menschen schlussfolgerndes Denken und implizites Können brauchen, fehlerfreier, effizienter und effektiver lösen, darunter zahlreiche Allokationsaufgaben, auch und gerade in der öffentlichen Verwaltung. Bei anderen Herausforderungen, beispielsweise im medizinisch-diagnostischen Bereich, etwa der Krebserkennung und -therapie oder bei der Erkennung und Behandlung seltener Krankheiten, haben sich Computerprogramme als hervorragende Ergänzung menschlichen Wissens und ärztlicher Intuition herausgestellt. Zuletzt gibt es Dinge, die nur Maschinen leisten können, weil unsere kognitiven Kapazitäten bei weitem nicht ausreichen. So ist eine inhaltliche Auswertung und Klassifizierung sämtlicher Forschungsergebnisse, die alleine in kleinen Teilbereichen der medizinischen Forschung heute publiziert werden, nur mit maschineller Unterstützung überhaupt möglich. In der sogenannten vorausschauenden Wartung (Predictive Maintainance) werden durch die Erfassung, Zusammenführung und Analyse riesiger Datenmengen in Echtzeit Fehler oder Ermüdungen am Material erkannt, bevor es zu Katastrophen kommt. Im Flugverkehr beispielsweise ist es ein nicht von der Hand zu weisender Vorzug, dass Teile gezielt ausgewechselt werden können, bevor sie versagen. Doch auch weit unterhalb dieser Ebene, in den Komfortzonen unseres Lebens, übernehmen algorithmische Systeme mittlerweile Funktionen, auf die viele nicht mehr gerne verzichten würden. Maschinen geben Menschen etwa Empfehlungen, die auf andere Art nicht zu haben wären: Ich habe nicht genug Freunde und Bekannte, um all die Literatur und all die Musik über persönliche Empfehlungen zu entdecken, die mir Amazon und Spotify schon empfohlen haben.</p><p>Was zeichnet Algorithmen ganz allgemein aus, welche Vorzüge haben sie gegenüber der datenverarbeitenden Biomasse unseres Gehirns? Nun, sie arbeiten konsistent das ab, wozu sie erstellt wurden. Sie machen keine Flüchtigkeitsfehler, die Menschen regelmäßig unterlaufen — was nicht heißen soll, dass sie nicht katastrophal falsche Entscheidungen treffen können, wenn sie entsprechend schlecht konzipiert wurden. Was gibt es noch an übergeordnet Positivem anzumerken? Das Wertefundament von Algorithmen ist, anders als das von menschlichen Entscheidungsträgern, programmierbar und damit grundsätzlich kontrollierbar. Die Ergebnisse algorithmischer Entscheidungen lassen sich, zumindest im Prinzip, im Nachhinein überprüfen und korrigieren. Durch die Automatisierung von Prozessen werden Menschen von Routinetätigkeiten entlastet, was Freiräume für die Beschäftigung mit drängenderen Problemen und sogar mehr Zeit für menschliche Interaktion (zum Beispiel im Verhältnis zwischen Arzt und Patient oder zwischen Verwaltung und Bürgern) schaffen kann. Angebote und Dienste lassen sich leichter personalisieren oder auf Gruppen zuschneiden.</p><p>Eine Algorithmenentwicklung, die ihren essenziell sozialen Charakter nicht verkennt (ja, Programmierer sind Schöpfer <em>sozio</em>technischer Systeme!), hat den weiteren Vorzug, dass im Zuge dessen viele bereits zuvor bestehende Probleme und Schieflagen erkannt und adressiert werden können, weil Datengrundlagen, implizite Annahmen und Vorgehensweisen explizit gemacht werden müssen, bevor sie Gegenstand von Programmcode werden können. Wenn ich etwa Menschen mit dunkler Hautfarbe vom Zutritt zu einem Bus mit automatisch öffnenden und schließenden Türen ausschließen wollte, so müsste ich dem System einen entsprechenden, explizit programmierten Hautfarbendetektor zugeben, während solcherlei Dinge in den USA und in Südafrika zum Teil noch lange nach dem Ende der entsprechenden offiziellen Staatsraison eine mehr oder weniger offensichtliche soziale Praxis war, der nicht leicht beizukommen ist. Dem Code eines nach Hautfarbe selektierenden automatischen Busses sehe ich den Rassismus in der Regel dagegen sofort an; der entsprechend funktionale Teil dieses Codes lässt sich dann isolieren und anfechten.</p><p><strong>Transparenz und Nachvollziehbarkeit algorithmischer Systeme</strong></p><p>Schwieriger wird es, wenn beim Zutritt zu jenem Bus nicht nur nach Menschen mit verschiedener Hautfarbe, sondern auch nach den Kategorien Mensch und Tier unterschieden werden soll. Das mag zunächst widersinnig erscheinen, dem liegt aber ein tatsächliches algorithmisches Problem zugrunde: Die Bilderkategorisierung des kostenlosen Bilderverwaltungsprogramms <em>Google Photos</em> vermochte es auch im Jahr 2017 nicht, farbigen Menschen mit an Sicherheit grenzender Wahrscheinlichkeit von Affen zu unterscheiden und ordnete in manchen Fällen Fotos, auf denen Farbige abgebildet waren, der Kategorie „Gorilla“ zu. Die entsprechende Funktion musste kurzerhand außer Betrieb gesetzt werden, weil der potenzielle Reputationsschaden für Google gewaltig zu werden drohte. Ähnliche Probleme gab es im Bereich der algorithmischen Bilderkennung auch mit der Unterscheidung von Blaubeermuffins und den Gesichtern von Chihuahua-Welpen.</p><figure><img alt="" src="https://cdn-images-1.medium.com/proxy/1*bt-E2YcPafjiPbZFDMMmNQ.jpeg" /><figcaption>Beliebte Internet-Darstellung, die sowohl Gesichter von Chihuahua-Welpen als auch Blaubeermuffins zeigt. Quelle: Mariya Yao, <em>Chihuahua or muffin? My search for the best computer vision API.</em> Oktober 2017, <a href="https://medium.freecodecamp.org/chihuahua-or-muffin-my-search-for-the-best-computer-vision-api-cbda4d6b425d">https://medium.freecodecamp.org/chihuahua-or-muffin-my-search-for-the-best-computer-vision-api-cbda4d6b425d</a></figcaption></figure><p>Es ist ein vielfach in der Geschichte der Automatisierung zu beobachtendes Phänomen, dass die ersten 90 Prozent relativ leicht zu erzielen sind, während die letzten zehn Prozent eine große Herausforderung darstellen. Während das Welpenerkennungsproblem eher ulkig ist, diskreditiert die Unfähigkeit einer Software, Menschen von Tieren zu unterscheiden, diese nahezu gänzlich. Natürlich fragen wir uns in solchen Fällen: Was läuft hier schief? Um diese Frage beantworten zu können, brauchen wir sehr genaue Kenntnisse von der Funktionsweise der entsprechenden Algorithmen. Aber die sind bei den heute gebräuchlichen Systemen oft nicht leicht zu erzielen.</p><p>Der Durchbruch in der Bilderkennung kam mit der Wiederentdeckung neuronaler Netze als algorithmische Funktionsgrundlage, in Verbindung mit der Verfügbarkeit großer Mengen annotierter Bilddaten durch das Internet. Ganz grob vereinfacht kann man sagen, dass sich neuronale Netze das informationsverarbeitende Prinzip des Gehirns zunutze machen, ohne es allerdings nachbilden zu wollen. (Eine solche Nachbildung ist das Ziel des großen europäischen Forschungsvorhabens <em>Human Brain Project</em>, doch dabei geht es zunächst jedenfalls eher um die kognitionswissenschaftliche Entschlüsselung der Funktionsweise des menschlichen Gehirns, über die man im Detail noch sehr wenig weiß.) Der springende Punkt ist, dass es sich bei neuronalen Netzen zumindest teilweise immer um implizite Programmierung handelt. Das bedeutet, dass der korrekte Lösungsweg nicht explizit vom Programmcode vorgegeben ist, sondern im Zuge der Kalibration erst gefunden wird. Gefunden wird er in Testläufen an sogenannten Trainingsdaten. Algorithmen ‚lernen’ an bereits entsprechend ausgewiesenen Daten beispielsweise, was ein Hundewelpe und was ein Muffin ist (jedenfalls im Idealfall) und können dieses ‚Wissen’ dann auf neue, noch unbekannte Fälle anwenden. Die Verwendung der Begriffe lernen und Wissen ist hier streng genommen falsch, die Anführungszeichen müssten deshalb größer sein, als sie es sind. Technisch korrekt müsste man sagen, dass Mustererkennungsverfahren auf annotierten historischen Daten kalibriert werden — was sehr viel weniger nach mystischer, dem Menschen ähnlicher Maschinenleistung kling.</p><p>Ein solches Maschinenlernen hat sich bei der Lösung mancher Klassen von Aufgaben — beispielsweise der Bilderkennung — als sehr wirksam erwiesen. Diese größere Wirksamkeit gegenüber klassischen Programmieransätzen hat jedoch einen Preis, und zwar die größere Intransparenz dessen, was im Zuge der Problemlösung im Innern der Maschine eigentlich passiert. Es ist zwar nicht geradezu so, dass man das gar nicht nachvollziehen könnte, aber der Aufwand ist größer als bei explizit programmierten Anwendungen. Je nach Anwendungsbereich (z.B. bei selbstfahrenden Autos, die ihre Umwelt erkennen und klassifizieren können müssen) kann das ein Problem darstellen. Unabhängig davon können uns avancierte selbstlernende algorithmische Systeme mit ihrem Lösungsweg überraschen, weil ihre Beurteilungskriterien stark von menschlichen abweichen. Beispielsweise ist für einen Bilderkennnungsalgorithmus zur Einschätzung des Geschlechts der Personen, die auf den zu klassifizierenden Bildern zu sehen sind, auch der Faltenwurf der Kleidung dieser Personen von Bedeutung, während kein Mensch, den ich zumindest kenne, dies als ein nennenswertes Kriterium seiner Einschätzung anführen würde. Das erstreckt sich auf alle Bereiche, in denen wir Maschinen menschliche Probleme lösen lassen. Bei den Spielen der Google-KI „AlphaGoZero“, die sich, wie oben beschrieben, durch Trainingsspiele gegen sich selbst erfolgreiche Strategien beigebracht hatte, haben die menschlichen Go-Meister zu Protokoll gegeben, dabei seien Züge zu beobachten gewesen, die ihnen völlig unorthodox und geradezu unmenschlich vorkamen.</p><p>Wir sollten uns beim verstärkten Einsatz von KI nicht darüber wundern, dass selbstlernende Systeme mit einer anderen Logik erfolgreich sind als wir. Schließlich sind es keine Nachbauten unserer selbst oder unseres Gehirns, sondern Maschinen, die mit dem Ziel erschaffen wurden, uns auf ihre eigene Art in bestimmten Teilbereichen funktional überlegen zu sein. Aber eben nur dort! Unsere Logik erschließt sich ein tatsächliches Verständnis der Welt, kann also eine viel höhere Allgemeingültigkeit als heutige KI-Systeme für sich beanspruchen. Den Anspruch, prinzipiell immer nachvollziehen zu können, was im Innern der Maschinen vor sich geht, dürfen wir aber nicht um möglicher Leistungssprünge in einzelnen kleinen, funktional differenzierten Bereichen willen aufgeben. Denn ein solches Eigenleben von Maschinen, die in Lebensbereichen von Menschen Entscheidungen vorbereiten oder sogar autonom treffen, ist nicht mit unseren basalen Regeln des Zusammenlebens, nicht mit unserem Strafrecht, nicht mit unserer Ethik und nicht mit unserer freiheitlichen demokratischen Grundordnung vereinbar. Aber noch weit davor — und das weiß niemand besser als der klassische Ingenieur, und damit wissen es auch die heutigen Designer autonomer Fahrzeuge in den Schmieden der deutschen Automobilhersteller — ist Nachvollziehbarkeit ein Gebot sowohl der technischen als auch der ökonomischen Vernunft: Opake Systeme können nicht gewartet werden, das Wissen über sie kann nicht weitergegeben werden und sie lassen sich aus eben diesen Gründen am Ende auch nicht verkaufen.</p><p>Das ist allerdings kein Plädoyer gegen technischen Fortschritt. An dieser Stelle muss mit einer weit verbreiteten falschen Annahme aufgeräumt werden, nämlich dass eigenständig lernfähige Systeme, die auf neuronalen Netzen basieren können (aber nicht müssen), notwendig undurchschaubar sind. Dies ist ein Märchen, das im Wesentlichen dadurch entstanden ist, dass sich zu viele Nicht-Computerwissenschaftler (sprich Menschen, die technisch gar keine Ahnung haben) zu diesem Thema äußern. Richtig ist dies: Selbstlernende Systeme nachvollziehbar zu machen, erfordert zusätzlichen technischen Aufwand, der nicht gescheut oder aus Kostengründen gemieden werden darf. Das bedeutet, dass man gerade Systemen mit implizit programmierten Lösungswegen (etwa neuronalen Netzen) explizit den Zusatzauftrag erteilen muss, über die inneren Abläufe in einer für den Menschen verständlichen Weise zu berichten. Das ist natürlich nicht trivial, aber daran wird — auch in Deutschland — erfolgreich geforscht. Der dazu nötige Aufwand müsste vielleicht sogar durch politische Entscheidungen verbindlich gemacht werden, damit wir einerseits technischen Fortschritt und andererseits technische Strukturen haben können, die mit unseren Grundüberzeugungen und Institutionen vereinbar sind.</p><p>Dass viele Systeme, darunter die am meisten verbreiteten, dennoch intransparent sind, hat eher mit wirtschaftlichen Anreizstrukturen als mit inhärenten technischen Bedingungen zu tun, wie man an der Online-Werbeindustrie gut sehen kann. Das Verschleierungsprinzip von Facebook basiert auf einem System, das in kurzer Zeit sowohl funktional als auch quantitativ sehr stark angewachsen ist und mit dem jedes Quartal ein Milliardengewinn eingefahren wird; weniger hat es mit übelmeinenden Verantwortlichen oder Programmierern zu tun. Der Code ist nicht böse und wird deshalb im Dunkeln gehalten, sondern er ist komplex und profitabel. Die inneren Mechanismen des schnell gewachsenen, gewaltigen Softwaresystems mit unzähligen angeschlossenen Drittapplikationen sind undurchsichtig, und Facebook hat aus wirtschaftlichen Gründen kein Interesse daran, sie zu transparent zu machen. Allerdings könnte der gesellschaftspolitische Druck in der Folge der im März 2018 neuerlich entfachten Diskussion um die Beeinflussung der Wahl zum US-Präsidenten im Jahr 2016 so sehr zunehmen, dass die Offenlegung des technischen Hintergrundes und eventuell sogar eine Beschneidung von Funktionen zulasten der Profitabilität unausweichlich werden wird.</p><p>Algorithmen sind nichts Mystisches. In einfache Bestandteile zerlegt, lassen sie sich recht leicht erklären, denn sie bringen, wie oben geschildert, letztlich ja nur unsere Werte und Entscheidungen in eine von Computern interpretierbare Sprache. Im Schaubild unten findet sich zur Illustration auf der linken Seite der Code für eine Altersgabelung, wie sie in zahlreichen Programmen enthalten ist, in manchen aus rechtlichen Gründen sogar enthalten sein muss. Auf der rechten Seite bildet eine für jeden Erwachsenen verständliche visuelle Repräsentation diesen Code ab. Hier passiert nichts anderes, als dass für den weiteren Ablauf unterschieden wird zwischen Personen, die über und unter 21 sind.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/851/1*ketjdAxDzQqmGMQgHn97wQ.png" /><figcaption>Codierung und visuelle Darstellung einer einfachen Altersgabelung. Quelle: Omidyar &amp; Upturn, <em>Public Scrutiny of Automated Decisions.</em> März 2018, S.13, <a href="http://omidyar.com/sites/default/files/file_archive/Public%20Scrutiny%20of%20Automated%20Decisions.pdf">http://omidyar.com/sites/default/files/file_archive/Public%20Scrutiny%20of%20Automated%20Decisions.pdf</a></figcaption></figure><p>Natürlich sind solche, für jeden verständliche Erklärungen für komplexe Softwaresysteme (und die einflussreichsten Programme unserer Tage sind sehr komplex) schwieriger zu erzielen. Der springende Punkt ist aber, dass Intransparenz dem Code nicht per se innewohnt. Eines Tages wird der Code vielleicht ausschließlich von Maschinen geschrieben oder repliziert sich selbst. Aber solange das nicht so ist und es die Singularität noch nicht gibt, geht die Intransparenz von Algorithmen letzten Endes immer auf menschliches Verhalten zurück. Und dieses Verhalten muss bestimmte Kriterien erfüllen und seine Resultate müssen bestimmten Anforderungen genügen, falls es uns wichtig genug ist, unser Leben nur von solchen Algorithmen durchweben zu lassen, die wir zumindest im Prinzip nachvollziehen können.</p><p>Transparenz ist kein Allheilmittel und wenigstens in einigen Fällen kann sie nichts zur Lösung von Problemen, die durch Automatisierung entstehen, beitragen, weil der Kern des Problems nicht-technischer Natur ist. So ist beispielsweise die Kernkomponente jedes sogenannten Algo-Traders (das ist ein Computerprogramm, das in den Grenzen bestimmter Parameter automatisch Wertpapiere handelt) sehr simpel und sieht in etwa so aus:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/433/1*EAspmvldujxLLonn1yltog.png" /><figcaption>Algorithmischer Kernbestandteil des sogenannten Hochgeschwindigkeitshandels (High Frequency Trading) mit Wertpapieren und Derivaten. Eigene Darstellung.</figcaption></figure><p>Dieses Prinzip, nach dem Maschinen untereinander Papierwerte in schwindelerregender Höhe handeln, und welches das Weltfinanzsystem öfter, als wir es mitbekommen, an den Rand des Kollapses bringt, ist sehr einfach nachzuvollziehen. Auch wenn ich hier durch Auslassung der komplexeren Preisberechnung vereinfacht habe, bleibt der springende Punkt bestehen: Nichts daran ist per se intransparent oder gar mystisch. Dennoch sind die möglichen gesellschaftlichen Folgen und Kosten gewaltig. Und außer regulatorisch hart festzulegen, dass wir einen solch automatisierten Hochgeschwindigkeitshandel in dieser Form nicht wollen, weil er uns zu gefährlich erscheint, gibt es hier nichts zu tun, schon gar nicht auf technischer Ebene. Es gibt nicht den guten Hochfrequenzhandelsalgorithmus und den bösen, höchstens gibt es Unterschiede in der Wirksamkeit dessen, wozu diese Systeme gemacht sind. Hochfrequenzhandel im Allgemeinen ist vermutlich sogar wünschenswert, weil er Liquidität in den Markt bringt. Das entbindet uns aber nicht davon, dass wir als Gesellschaft entscheiden müssen, welche Technologie wir zu welchem Zweck eingesetzt wissen wollen und welche vielleicht überhaupt nicht.</p><p>Nun gibt es in der aktuellen Debatte um Algorithmen auch Beispiele, bei denen Transparenz und Nachvollziehbarkeit sehr wohl einen entscheidenden Unterschied machen. Ein Beispiel: Kürzlich ist im US-Bundesstaat Arizona eine Frau von einem selbstfahrenden SUV des Fahrdienstes Uber getötet worden. Gerade weil es sich um eine noch im Teststatus befindliche Technologie handelt, von der auszugehen ist, dass sie in recht naher Zukunft massenhaft zum Einsatz kommen wird, möchte man natürlich gerne wissen, wie es zu diesem tragischen Unfall kommen konnte. Wir gehen mit Recht davon aus, dass selbstfahrende Autos so programmiert sind, dass sie keine Menschen töten, und zwar egal, wie ungeschickt oder auch fahrlässig sich Personen auch verhalten mögen. Schließlich wird die Entwicklung (und Einführung) dieser Technologie ganz wesentlich damit begründet, dass man das Leben der vielen Menschen, die jährlich durch menschliches Versagen im Straßenverkehr sterben, retten möchte. Was hat im Arizona-Fall also dazu geführt, dass diese Rechnung nicht aufgegangen ist? Wie bei einem Flugzeug, das abgestürzt ist und viele Menschen in den Tod gerissen hat, möchten wir in solchen Fällen zu Recht gerne nachvollziehen können, was zu dem Unfall geführt hat. Allerdings ist der Flugverkehr, wo automatische (und aus Sicherheitsgründen mehrfach redundante) Systeme schon seit vielen Jahren zum Einsatz kommen, für alles, was hier auf der Erde neben den automatischen Systemen eine geradezu chaotisch große Menge an menschlichen Agenten involviert, keine passende Schablone. Diese Aussage trifft nicht nur auf den Straßenverkehr zu, der ja zumindest dem Wesen nach dem Flugverkehr ähnlich ist, sondern er trifft erst recht auf all die folgenden Bereiche zu, in denen Algorithmen bereits heute ganz oder teilweise automatisch für Menschen verbindliche Entscheidungen treffen: Kreditvergabe, Zuweisung von Schul- und Studienplätzen, Bewerberauswahl in Einstellungsverfahren, Ausstellung von Steuerbescheiden, Erstellung von Krankheitsdiagnosen, Auswertung wissenschaftlicher Forschungsliteratur, Rechtsberatung in Standardfällen, Kundensupport, Steuerung von Waffensystemen, Entscheidungen über die Aussetzung von Haftstrafen zur Bewährung. Natürlich ist diese Liste unvollständig, aber sie mag dennoch einen Eindruck davon vermitteln, welchen Stellenwert algorithmische Analyse- und Entscheidungssysteme in unserer Welt bereits haben, und wie wichtig es ist, dass wir uns spätestens jetzt auf gesellschaftskompatible Designprinzipien und eventuell auch auf Stoppregeln verständigen müssen. Auf beides komme ich ganz am Ende noch einmal zurück.</p><p><strong>Einsatz von Technik für das Erreichen menschlicher Ziele</strong></p><p>Treten wir einen Schritt zurück und betrachten das hier Dargestellte noch einmal von höherer Warte. Ein Algorithmus knüpft unmittelbar an Zusammenhänge in der physischen Welt an. Um zu funktionieren, braucht er keine von und für Menschen gemachten Gründe — Korrelationen reichen aus. Im Vergleich zur menschlichen Wahrnehmung und Informationsverarbeitung erfüllt er seinen Zweck also mit anderen, eigenen Mitteln. Das ist in der Geschichte der Technikentwicklung ein durchaus altbekanntes Phänomen: Auch Flugzeuge etwa sind nach eigenen Regeln konstruiert worden und nicht mit der Absicht, naturgetreu Vögel nachzuahmen. Überhaupt sind viele Phänomene des Berechenbar-Machens und der Automatisierung, mit denen wir uns heute zu Recht intensiv befassen, weil sie immer mehr an Bedeutung gewinnen, qualitativ nicht wirklich neu. Im Kern handelt es sich um den kybernetischen Traum der Allvermessung von Menschen und Dingen, um sie effizienzgetriebener Steuerung staatlicher, wirtschaftlicher, geheimdienstlicher oder militärischer Art zu unterwerfen. Was tatsächlich neu ist, ist ein exponentielles Wachstum der Datenmengen, gepaart mit einer (momentan noch) ebensolchen Zunahme an Rechenkraft. Beides zusammen erfordert dann immer ausgefeiltere Analysemethoden, wenn man möchte, dass die Erkenntnisse proportional zur Informationsmenge zunehmen. Und da wir wissbegierige Wesen sind, die gerne zu ihrem Vorteil in ihre Umwelt eingreifen, wünschen wir uns genau das.</p><p>Der vermehrte Einsatz von Algorithmen ist — wie wissenschaftliche Experimente, die seit Jahrhunderten durchgeführt werden — eine Folge unseres Erkenntniswillens und des Strebens, uns die Welt untertan zu machen. Wir wenden dieses, uns aus der analogen Zeit bereits vertraute und nun digitale Werkzeug auf die Welt an, die wir vorfinden. Und diese Welt ist eine Welt voller Daten. Eine Welt der Datenflut. Daher ist es kaum verwunderlich, dass der verbreitete Einsatz von Algorithmen in dieser unübersichtlichen Datenwelt experimentelle Züge aufweist. Allerdings gleicht er nicht kontrollierten Experimenten, wie sie in geschützten Labor-Räumen durchgeführt werden, vielmehr ähnelt er großen Gesellschaftsexperimenten wie der Nutzung der Atomkraft, dem sozialökologischen Design von Landschaften oder der durch massive Subventionen angefeuerten deutschen Energiewende, bei denen man unmöglich alle Variablen isolieren und nicht alle Parameter kontrollieren kann. Das kann zwar gutgehen, ist aber grundsätzlich gefährlich. Big Data Analytics (also der Einsatz von Algorithmen, um aus einem riesigen Datenmeer Erkenntnisse zu fischen), das für das Leben der meisten von uns heute zentrale Anwendungsfeld von Algorithmen, hat zwar sehr viele Annehmlichkeiten gebracht, uns aber auch zu Objekten des sogenannten „Überwachungskapitalismus“ von Google, Facebook, Amazon und vielen anderen gemacht. Big Data Analytics hat zwar das Zeug dazu, etliche Leistungen der öffentlichen Hand wesentlich zu verbessern oder überhaupt erst zu ermöglichen, doch es hat auch zu staatlicher Überwachung geführt, deren wahres Ausmaß uns Edward Snowden 2013 durch seine Enthüllungen verdeutlicht hat.</p><p>Nun sind Innovationen aus Daten im Grunde immer offene Entdeckungsverfahren. Das heißt, wir wissen gar nicht, was wir suchen, bis wir es gefunden haben. Eben deshalb wird vielfach ja ein möglichst vollständiges Datenspektrum angestrebt, werden sogenannte Datenseen (Data Lakes) angelegt. Doch wollen wir uns diesbezüglich wirklich damit begnügen, „dass Innovationen im Wesentlichen Innovationen einer kleinen reichen Minderheit für eine andere kleine reiche Minderheit sind“, wie es der Wissenschaftsjournalist Rangar Yogeshwar einmal ausdrückte? Dieses Thema, das aber in der öffentlichen und politischen Debatte mittlerweile zu Recht einen gewissen Raum einnimmt, ist kein genuin technisches: Natürlich müssen wir als Gesellschaft Wege finden, wie nicht nur wenige, sondern viele, im Idealfall ganze Gesellschaften an den durch immer umfangreichere algorithmische Datenanalysen geschaffenen Mehrwerten teilhaben können. Es geht dabei um nicht weniger als die Frage, welche von Daten befeuerte und durch Algorithmen angetriebene Gesellschaft wir sein wollen. Datensouveränität möglichst vieler sowie digitale Aufklärung und Bildung sind sicher ein Schlüssel. Ein blindes Sich-Ausliefern an das, was der israelische Philosoph Yuval Harari treffend als „Dataismus“ (das ist die unbedingte Überzeugung, dass die ständige Erzeugung und Verarbeitung von Daten etwas an sich Wertvolles und zu Förderndes sei) genannt hat, führt dagegen mit Sicherheit auf gefährliche Abwege, wie wir vielerorts sehen können.</p><p><strong>Automatisierung mit oder ohne Algorithmen: nicht um jeden Preis</strong></p><p>Kehren wir zum Anfang der Überlegungen zurück und fragen im Licht der entfalteten Gedanken erneut nach dem Wert unserer Fähigkeit, Prozesse — mentale ebenso wie physische — zu automatisieren. Wie mehrfach betont, hat uns diese Fähigkeit die Welt untertan gemacht und uns an die Spitze der Schöpfung gestellt. Nun hat diese Geschichte nicht immer und für alle nur positive Auswirkungen gehabt, wenn wir etwa an den Übergang von Manufakturen zur standardisierten Fließbandproduktion denken. Das wird auch bei der derzeit anstehenden Automatisierung kognitiver Arbeit („white collar automation“) gelten. Zudem kann Automatisierung seltsame Blüten treiben und regelrecht schiefgehen. Dafür gibt es viele Beispiele in den einfachsten Bereichen unserer automatisierten physischen Umwelt: Kaffeemaschinen, die keinen Startschalter mehr haben, sondern mit dem Kaffeemachen beginnen, sobald eine Kapsel eingelegt und der Schacht geschlossen ist, lassen sich ebenso kaum noch adäquat nutzen wie Kofferraumklappen, die sich nur per Knopfdruck elektrisch öffnen und schließen lassen oder Staubsaugerschnüre, für deren Einfahren es eben keinen Aktivierungsknopf mehr gibt; stattdessen machen sie es, wenn man kurz ruckartig an ihnen zieht, was man leider beim Staubsaugen ständig tut, so dass der ‚Schnureinfahralgorithmus’ ständig ungewollt aktiviert ist — mit allen der Wohnungssauberkeit abträglichen Folgen. Das Büro, in dem ich arbeite, ‚profitiert’ von einer ‚intelligenten’ Heizungssteuerung für das gesamte Haus; das führt dazu, dass in unserem Konferenzraum, der sich in drei Teile aufteilen lässt, der hintere regelmäßig sehr heiß ist, während es im mittleren sehr kalt ist, weil das Zentralsystem nur jeden zweiten Heizkörper aktiviert. Wie gerne würden wir die Thermostate von Hand bedienen, was sich aber leider nicht für ein Büro einzeln so einstellen lässt. Der langen Beispielrede kurzer Sinn ist hier: Wie alles, so kann der Mensch auch die Automatisierung (und damit das, was ihn zum Herrscher der Welt gemacht hat) übertreiben und sich damit selbst schaden.</p><p>Deshalb müssen wir uns endlich trauen, an bestimmten Stellen Stoppregeln zu definieren und auch im negativen, verneinenden Sinne visionär zu sein. Die Europäische Union hat in der Datenschutzgrundverordnung, die weitreichende Folgen für die Datenverarbeitungspraktiken von Unternehmen haben und im Mai 2018 in Kraft treten wird, beispielsweise vorausschauend bereits festgelegt, dass kein Unionsbürger zum Objekt einer reinen Maschinenentscheidung werden darf. Das heißt, dass jeder Unionsbürger das Recht hat, sich von einem Menschen die Zusammenhänge einer maschinell getroffenen Entscheidung erläutern zu lassen und diese im Zweifelsfall anzufechten. Diese Regelung löst noch nicht alle Probleme, die der Vormarsch algorithmischer Entscheidungssysteme mit sich bringt, aber es ist gleichwohl ein Schritt in die richtige Richtung. Nur wenn wir es schaffen, uns im Beurteilen und Entscheiden sowohl vom Zauber affirmativer Technikbegeisterung als auch vom Schrecken weltstürzender Technikphobie zu befreien, können wir im Datenzeitalter souverän agieren. Wir brauchen mehr Nüchternheit im Umgang mit neuen technischen Möglichkeiten — und wir brauchen:</p><p><strong>Sozialinklusive Technikentwicklung mit ethischem Bewusstsein</strong></p><p>Derzeit stehen sich zwei verschiedene Herangehensweisen derer, die möchten, dass Technik die Welt verbessert, einander gegenüber. Erstens: Man schafft gut durchdachte, richtig gut funktionierende Technik (iPhone!) und wendet sie auf alles an, was auch nur im Verdacht steht, dadurch verbessert oder gelöst werden zu können. Zweitens: Man schafft, wo es sinnvoll ist, spezielle Technik zur Lösung ganz spezifischer Probleme zusammen mit den besonders davon betroffenen Personen. Den ersten Ansatz finden wir heute meistens vor. Das Problem daran ist, dass hier der Hammer-und-Nagel-Effekt droht: Wer einen anständigen Hammer in der Hand hält, dem scheint die Welt voller Nägel zu sein. Die Technik ist hier immer schon gesetzt, sie steht an erster Stelle, weil sie ja nunmal da ist und fortwährend neu entsteht. Man sucht nach dem passenden Problem für die Technik (Kritiker nennen diesen Ansatz „solutionism“).</p><p>Beim zweiten Ansatz steht gar nicht von vornherein fest, ob ein Problem den Einsatz von (neuer oder schon etablierter) Technik erfordert oder nicht. Schließlich hat unsere Welt auch im 21. Jahrhundert noch viele weitere Dimensionen. Und wenn es sich doch herausstellen sollte, dass Technik einen Beitrag leisten kann, dann wird sie von Technik-Experten (z.B. Programmierern) zusammen mit denjenigen geschaffen, die vom Einsatz dieser Technik mutmaßlich unmittelbar betroffen sind (z.B. ÖPNV-Nutzer von einem neuen, nachfrageorientierten dynamischen Fahrplansystem, genannt „ÖPNV on demand“). Allein dieser Ansatz, Ko-Design und Ko-Kreation in transdisziplinären Teams, trägt dem essentiell sozialen Charakter heutiger Technikentwicklung Rechnung. Das soziale Element bei der Entwicklung soziotechnischer Systeme darf, wie es heute leider allzu oft geschieht, nicht vernachlässigt werden. Das ist zunächst kein ethisch relevantes Feld, sondern eine Frage der Vernunft und des Willens, nachhaltige gesellschaftliche Strukturen zu schaffen, beziehungsweise zu erhalten. Doch auch die Ethik kann angesichts der Reichweite und Potenz von Algorithmen und KI mittlerweile schnell ins Spiel kommen (siehe zum Beispiel das selbstfahrende Auto). Deshalb darf die Vermittlung von Fertigkeiten zum Schaffen solcher Systeme heute nicht mehr ohne die gleichzeitige Vermittlung entsprechender soziologischer und philosophischer Grundlagen auskommen. Was soll das heißen, werden Sie jetzt vielleicht fragen: Soziologie- und Philosophie-Curriculum für Programmierer? Genau das, und zwar von Semester eins an. Denn ein „Code first, fix later“ (Erst Programmieren, später Fehler beheben), das wir heute allenthalben sehen, wird nicht mehr lange gutgehen und eines unbestimmten zukünftigen Tages mit einiger Sicherheit in die Katastrophe führen.</p><p>Der Untertitel dieses Aufsatzes ist aus Überzeugung positiv formuliert, und so sollen die Gedanken auch ausklingen: Der Mensch hat die Welt erobert und sich beeindruckende Werkzeuge geschaffen, um Erkenntnisse zu generieren und in seinem Sinne auf die Welt einzuwirken. Warum sollte er es nicht schaffen, die Mächtigkeit der von ihm zuletzt geschaffenen Instrumente zu erkennen, ihrem Gebrauch im eigenen Interesse klare Regeln und auch Grenzen zu setzen? Ich bin überzeugt davon, dass Homo Sapiens das kann. Aber er muss sich beeilen. Schon einem Zeitreisenden aus den 1980er Jahren käme unsere heutige Welt wie sehr krude Science Fiction vor. Und die Zeitspanne von der Vorstellung des iPhone (2007) bis zur weltweiten Massenverbreitung des Smartphone (fünf Jahre später) wird uns vielleicht schon bald wie eine romantisch langsame Technikausbreitungsgeschichte vorkommen. Gerade für das bei solchen Aufgaben bisweilen zögerliche und allzu theoretisch agierende Deutschland gilt: Die Aufnahme von Geschwindigkeit bei der zielorientierten Erörterung und Lösung der in diesem Beitrag angesprochenen Desiderata tut not. Unsere Zukunft bestimmen wir jetzt.</p><p><em>Ich danke Dr. Paul von Bünau, geschäftsführender Inhaber der </em><a href="https://idalab.de/"><em>idalab GmbH</em></a><em>, für wertvolle Kommentare und Hinweise zu einer früheren Fassung.</em></p><p><em>Dieser Artikel erschien zuerst in gekürzter Fassung als Nr.19 in der Reihe “Beobachtungen zur Zeit” der M.M.Warburg &amp; Co.</em></p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=97b6353bf81a" width="1" height="1" alt="">]]></content:encoded>
        </item>
        <item>
            <title><![CDATA[Digitaler Wandel & Nachhaltigkeit]]></title>
            <link>https://medium.com/@tobiasknobloch/digitaler-wandel-nachhaltigkeit-592317e99420?source=rss-1617cc7d49ec------2</link>
            <guid isPermaLink="false">https://medium.com/p/592317e99420</guid>
            <category><![CDATA[nachhaltigkeit]]></category>
            <category><![CDATA[ict4d]]></category>
            <category><![CDATA[digitalisierung]]></category>
            <category><![CDATA[sdgs]]></category>
            <dc:creator><![CDATA[Tobias Knobloch]]></dc:creator>
            <pubDate>Thu, 24 May 2018 12:02:44 GMT</pubDate>
            <atom:updated>2018-05-25T11:42:09.399Z</atom:updated>
            <content:encoded><![CDATA[<h4>Voraussetzung oder Widerspruch?</h4><figure><img alt="" src="https://cdn-images-1.medium.com/max/800/1*7yPflD5HOOqMwaqG-0fD7g.png" /><figcaption>Quelle: undp.org</figcaption></figure><p>Vergangene Woche habe ich beim österreichischen Umweltbundesamt einen Vortrag zu diesem Thema gehalten. <strong>Fazit: Obwohl die Chancen auf einen nachhaltigeren Lebensstil durch Digitaltechnologien riesig sind, sorgt deren Nutzung durch uns derzeit eher für eine schlechtere Ökobilanz.</strong> Und mit der gesellschaftlichen Nachhaltigkeitsbilanz sieht es nicht viel besser aus. Weil viele das nicht wissen oder allenfalls diffus ahnen (so ging’s mir bis vor nicht allzu langer Zeit selbst), und weil wir für eine Änderung dieses Umstands einen Bewusstseinswandel brauchen, veröffentliche ich hier die wichtigsten Gedanken des Vortrags.</p><p>Es wäre absurd zu behaupten, dass der digitale Wandel aus dem Blickwinkel globaler Nachhaltigkeitsbetrachtung überhaupt nichts Gutes bewirkt hätte. Allein die zahlreichen Verbesserungen, die durch die massenhafte Verbreitung von Mobilfunk und Smartphones im globalen Süden erzielt wurden, sprechen dagegen. Eine Plattform wie Ushahidi.com, auf der Nutzer Daten für gemeinwohldienliche Zwecke wie Wahlmonitoring oder Krisenreaktion bereitstellen, konnte beispielsweise nur auf dieser technischen Grundlage entstehen.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/800/1*zwDnHx4ANr_hz1nIE9ADkA.png" /><figcaption>Quelle: ushahidi.com (Screenshot)</figcaption></figure><p>Aber nicht nur von innen, über die massenhaft in Hosentaschen sitzenden Smartphones verändert Technologie Entwicklungschancen, sondern auch gewissermaßen von außen: So ermöglicht die Muster-Analyse von Satellitenbildern heute nicht nur effizientere Landwirtschaft (das sogenannte Smart Farming, das wir immer dringender brauchen, um alle jetzigen und erst recht alle zukünftigen Menschen zu ernähren), sondern es können auf diese Weise auch soziale Strukturen viel zielgenauer ausgewertet werden. Wie immer bei an sich neutraler Technologie lässt sich das einerseits zu rein wirtschaftlichen Zwecken einsetzen (so zum Beispiel durch Investmentfirmen wie Goldman Sachs oder Versicherungen wie die Münchener Rückversicherungs-Gesellschaft), aber eben auch zur Erreichung der globalen Entwicklungsziele. Denn auf hoch aufgelösten Satellitenbildern lässt sich relativ aufwandsarm und großflächig erkennen, wo es Zugang zu Trinkwasser gibt, wo Schulen vorhanden sind — und vor allem: wo (noch) nicht. <strong>Zwischenfazit also: Technologie kann ein Segen sein!</strong> Man kann mit ihrer Hilfe Menschen aus der Armut führen, Seuchen bekämpfen, weltweit die gesellschaftliche und wirtschaftliche Entwicklung fördern und die Lebensbedingungen auf unserem Planeten für viele Menschen entscheidend verbessern. Und anders als durch den Einsatz guter Technik haben wir auch gar keine Chance, demnächst zehn Milliarden Menschen zu ernähren, ihnen Zugang zu Trinkwasser zu verschaffen und sie medizinisch zu versorgen!</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/872/1*r5jpzwusZbPhiFHssjjTLQ.png" /><figcaption>Quelle: developmentseed.org (Screenshot)</figcaption></figure><p>Wenn wir den Blick dagegen in die so genannte entwickelte, industriell geprägte Welt richten, dann ergibt sich schnell ein anderes Bild. Auch hier sehen wir gewaltige positive Nutzungspotentiale, die allerdings kaum ausgeschöpft werden (während sich Dystopien beinahe täglich realisieren). Dass technischer Fortschritt bestehende Probleme — gerade ökologische — gewissermaßen nicht von selbst löst, ist kein neues Phänomen. <strong>Vielmehr gilt die Gleichung, dass Effizienzgewinne von Skaleneffekten nicht nur aufgefressen, sondern gewissermaßen sogar überkompensiert werden.</strong> Das in meinen Augen wunderbarste Beispiel stellt dieses Wunderwerk deutscher Ingenieurskunst dar:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*9aAlJYNcUweIU54oVtCPqA.jpeg" /><figcaption>Quelle: audi4ever.com</figcaption></figure><p>In den 1990er Jahren haben Audi und VW begonnen, jene gleichzeitig starken und vergleichsweise verbrauchsarmen Turbodieseleinspritzmotoren mit dem Kürzel TDI in Serienfahrzeugen zu verbauen. Großartig für alle, die an die langsame und vom Klang her traktorähnliche Motorisierung vorangehender Dekaden gewöhnt waren. Gute Fahrleistungen und geringer Verbrauch schienen endlich vereinbar zu sein. Das erste Premium-Modell war im Audi A6 verbaut: ein TDI-Triebwerk mit 5 Zylindern und 2,5 Liter Hubraum. Verbrauch im Drittelmix etwa 8 Liter Diesel, was gegenüber einer vergleichbaren Benzin-Motorisierung einer Einsparung von etwa 25% entsprach. Doch dabei blieb es nicht. Die Autobauer dachten sich: Was in dieser Größe fein ist, das wird in doppelter Größe noch toller sein. Also wurden (vereinfacht gesprochen) zwei 2,5-Liter-Motoren zu einem neuen Super-Aggregat zusammengebaut. 10 Zylinder, 5 Liter Hubraum, jede Menge PS, brutales Drehmoment etc. Mit diesem Motor gewann Audi das legendäre 24-Stunden-Rennen von Le Mans (zum ersten Mal überhaupt, dass das mit einem Dieselmotor gelang). So weit, so gut. Jetzt der Sündenfall: Dieser Motor, der so stark ist, dass er in der Zugmaschine eines 40-Tonnen-Aufliegers Dienst tun kann, wurde in die VW-Serienfahrzeuge Touareg und Phaeton und in den Audi A8 eingebaut. Dabei blieb es nicht: Auch die unteren Klassen wurden auf Basis der TDI-Technologie mit immer leistungsfähigeren Motoren ausgestattet, während der mit rund 3 Litern Diesel auskommende Audi A2 mit einem vergleichsweise viel kleineren, auf Effizienz getrimmten Motor ein Ladenhüter war und eingestellt wurde. <strong>Der langen Rede kurzer Sinn: Trotz rasantem Fortschritt in der Antriebstechnologie und in der Aerodynamik ist der Flottenverbrauch von PKW von den 1980er Jahren bis heute kaum gesunken.</strong> Wer das weiß, den wundert alles, was rund um den Abgasskandal bei VW und anderen Marken zuletzt ans Licht gekommen ist, überhaupt nicht. Denn die Motoren verbrannten zwar immer sauberer, aber sie wurden halt auch immer größer und leistungsfähiger, so dass es geradezu eine physikalische Einsicht ist, dass das mit immer strengeren Emissionsauflagen für Neuwagen nicht vereinbar war.</p><p>Nun kommt die ernüchterndste Nachricht: Das gleiche Prinzip gilt im Grunde für alle anderen Bereiche unseres Lebens, Arbeitens und Konsumierens: E-Books kommen zu den echten Büchern aus Papier hinzu (die Buchverkaufszahlen steigen sogar); unsere Musik-Bibliothek umfasst nicht mehr 100 CDs, sondern 100.000 Titel bei Spotify, Apple Music oder Deezer (oder anderen, oder bei allen gleichzeitig); das Schauen hunderter Stunden Serien bei Netflix, Amazon et al. kommt zum gelegentlichen Fernsehen hinzu; unsere Bank besuchen wir inzwischen häufiger online, aber manchmal auch noch offline (schon wenn wir Bargeld abheben); wir haben das Online-Notizbuch, aber schreiben Geburtstags- und Kondolenzwünsche nach wie vor auf Papierkarten. Diese Liste ließe sich beinahe endlos fortsetzen. Man nennt das den <strong>“Rebound-Effekt”: Der gleiche Output wird mit weniger Input erzielt, aber die Schonung von Ressourcen bleibt aus, weil in der Freude über die Effizienzsteigerung immer mehr Output generiert wird.</strong></p><p>Die glatten Oberflächen unserer immer smarteren Geräte suggerieren uns Problemlosigkeit, aber das ist natürlich Unsinn. Mit dem regelmäßigen, immer rascheren Austausch dieser Geräte produzieren wir nicht nur anschwellende Elektromüllberge (nicht bei uns, deshalb sehen wir sie nicht), sondern befeuern damit auch den Ausbau der Infrastruktur, den diese Geräte zum Funktionieren brauchen. Der eigentliche Energieverbrauch hat sich nämlich längst von den Endnutzern und Service-Anbietern hin zu den Rechenzentren (Neudeutsch: in die Cloud) verlagert. Und diese verbrauchen eine Menge Strom, eines von vielen Google-Rechenzentren so viel wie eine ganze Stadt, und alle deutschen Rechenzentren zusammen haben mittlerweile einen Verbrauch von 10 bis 15 Megawattstunden, was der Leistung von vier mittelgroßen Kohlekraftwerken entspricht. Allein die Server von Facebook verbrauchen im Jahr ungefähr doppelt so viel Strom wie ganz Deutschland an einem Tag. Und vom Mining der Kryptowährung Bitcoin wollen wir erst gar nicht sprechen, denn es ist inzwischen allgemein bekannt, dass dafür mehr Energie gebraucht wird etliche kleine Länder zusammen verbrauchen.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*36Q36QOgJL44o_XJeswyvg.jpeg" /><figcaption>Rechenzentrum am CERN in Genf. Urheber: Florian Hirzinger — <a href="http://www.fh-ap.com/">www.fh-ap.com</a> — CC BY-SA 3.0, <a href="https://commons.wikimedia.org/w/index.php?curid=6212692">https://commons.wikimedia.org/w/index.php?curid=6212692</a></figcaption></figure><p>Das alles wird sich mit dem Wachsen des Internets der Dinge, der zunehmenden Allvernetzung und ‘Allversmartung’ natürlich ausweiten — und damit auch der Stromverbrauch, der bei der derzeitigen Rechnergrundstruktur, der so genannten Von-Neumann-Architektur, zusammen mit der Rechenkraft wächst. Noch verdoppelt sich die Leistung der Von-Neumann-Rechner nach der von Intel-Gründer Gordon Moore 1965 aufgestellten Gesetzmäßigkeit ungefähr alle anderthalb Jahre. Aber diesem Wachstum sind physikalische Grenzen gesetzt, denn im Nanometerbereich gilt ab einer bestimmten Größe die vom deutschen Physiker Werner Heisenberg formulierte Unschärferelation, d.h. das Verhalten von Molekülen kann nicht mehr vorhergesagt werden, was bei der Entwicklung von Halbleitern natürlich nicht sein darf. Deshalb setzen Chip-Hersteller mittlerweile auf alternative Chip-Architekturen, bei denen die Transistoren nicht mehr immer kleiner zu werden brauchen, um mehr Leistung zu erzielen. Außerdem wird an alternativen Rechnerarchitekturen wie Memory-driven Computing (Hewlett Packard) und Quantum Computing (Google und andere) geforscht, was zu einer teilweisen Entkopplung von Rechenkraftzunahme und Energieverbrauch führen könnte.</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*qaJtqvnJajf4Kd3bVERBEQ.png" /><figcaption>Quelle: <a href="https://www.labs.hpe.com/the-machine">https://www.labs.hpe.com/the-machine</a> (Screenshot)</figcaption></figure><p>Natürlich braucht es auch konzeptionell neue Wege, um Nutzen aus schier unendlichen Datenmengen ziehen zu können und intelligente Lösungen für die Verteilung und Bepreisung eneuerbarer Energie zu finden. Hier kommt die Blockchain bzw. deren technisches Grundprinzip, die Distributed Ledger Technology, ins Spiel. Wollten wir das Informationsproblem, das beim großformatigen Umstieg zu eneuerbaren Energiequellen entsteht, mithilfe der klassischen Blockchain-Technologie lösen, würden wir den Planeten aufgrund des rapiden Anwachsens des Energieverbrauchs bei den Berechnungen recht schnell zugrunde richten. Die Idee eines nicht-korrumpierbaren, dezentralen digitalen Buchführungssystems, bei dem keiner der Beteiligten an keiner Stelle schummeln kann, ohne dass das System an jeder anderen Stelle auch verändert wird, so dass die anderen Beteiligten es sofort merken, ist aber für diese Zwecke sehr nützlich. Deshalb ist es gut, dass es Weiterentwicklungen wie IOTA gibt. Was damit möglich wird, zeigt dieses Video über ein Smart-Energy-Pilotprojekt in den Niederlanden:</p><iframe src="https://cdn.embedly.com/widgets/media.html?src=https%3A%2F%2Fwww.youtube.com%2Fembed%2F81rXoSRIRSA%3Ffeature%3Doembed&amp;url=http%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3D81rXoSRIRSA&amp;image=https%3A%2F%2Fi.ytimg.com%2Fvi%2F81rXoSRIRSA%2Fhqdefault.jpg&amp;key=a19fcc184b9711e1b4764040d3dc5c07&amp;type=text%2Fhtml&amp;schema=youtube" width="854" height="480" frameborder="0" scrolling="no"><a href="https://medium.com/media/a593e42912f267e785f17f55ac2d5989/href">https://medium.com/media/a593e42912f267e785f17f55ac2d5989/href</a></iframe><p>Es gibt es also Anlass zu Hoffnung, dass wir unsere Zukunft (die eines mit Sicherheit sein wird, nämlich digital) weniger konsumtiv und nachhaltiger gestalten werden als die Gegenwart. Mut machen diesbezüglich auch die vielen kleinen und zum Teil sehr erfolgreichen, digital organisierten Initiativen des Teilens, Helfens, Aufbrauchens, Selbermachens, Weiterverkaufens, die noch nicht vollständig in die Welt der Investment-Runden und Exits aufgesogen wurden. Ein schönes, wirklich durchdachtes und den Nutzern einen hohen Mehrwert lieferndes Beispiel ist die Nachbarschaftsplattform fragnebenan.com aus Österreich, die durch ihre integrierte Leihbörse auch Ressourcen schonen hilft:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*TQhp4lXoGTfrasbwGANSig.png" /><figcaption>Quelle: fragnebenan.com (Screenshot)</figcaption></figure><p><strong>Und wie sieht es mit der gesellschaftlichen Nachhaltigkeit von Technologie aus?</strong> Mit diesem Thema beschäftige ich mich beruflich sehr intensiv und daher kann ich diesbzüglich einigermaßen informiert behaupten: Leider nicht besser! Die fortlaufende Debatte um den Datenschutz und um die Zähmung der Macht der Algorithmen über unser Denken und Verhalten zeigt das. Noch haben wir keinen Weg gefunden, um mit dem historischen Kulturwandel, den neue Technologien in den vergangenen Jahren mit sich gebracht haben, angemessen umzugehen.</p><p>Technische Innovationen gehen zunächst immer den leichtesten Weg über Geld und Macht, weshalb sie oft aus den Bereichen Militär, Spiele, Konsum und Sex kommen. In erster Instanz sind wir dann darum bemüht, die schlimmsten damit einhergehenden Auswüchse einzuhegen. Das war bei der ursprünglichen Industrialisierung (Arbeitsbedingungen, Monopole, Umwelt etc.) genauso, wie es heute bei der so genannten vierten industriellen Revolution der Fall ist. Dass sich die Europäische Union eine Datenschutzgrundverordnung gegeben hat, die übrigens morgen, am 25.5.2018 in der gesamten Union anwendbar wird, ist genau ein solches Einhegen von Auswüchsen der New Extractive Industries, wie die großen Technologieunternehmen wegen ihres Datenhungers analog zu klassischen Rohstoffunternehmen ganz passend genannt werden. Das Signal lautet: Wir wollen uns in diesem Bereich nicht mehr alles gefallen lassen, über die Verwendung unserer Daten mitbestimmen und an den dadurch geschaffenen finanziellen Werten partizipieren können. Erst in zweiter Instanz wird dann üblicherweise auch darüber nachgedacht werden, wie technische Innovationen unmittelbar für die Gemeinwohlförderung in Wert gesetzt werden können. Zwei Beispiele habe ich oben genannt und zum Glück könnten inzwischen viele weitere genannt werden.</p><p><strong>Nun hat technische Innovation immer auch eine anthropologische Dimension. </strong>Die schier unbegrenzten Möglichkeiten der Selbstdarstellung über weite Distanzen vor riesigem Publikum und eine permanent ungleichzeitige Gleichzeitigkeit machen etwas mit uns. Sie verändern unsere kognitive Grundausstattung und sie kehren nicht unsere besten Seiten hervor, wie uns allmählich dämmert. Facebook beispielsweise ist nicht alleine ein wirtschaftliches oder mediales Phänomen, sondern vor allem ein sozialpsychologisches und kulturhistorisches, das wir erst langsam in seiner ganzen Tragweite zu verstehen beginnen. Es wird Zeit, dass wir uns sowohl den klassischen, oben erörterten Nachhaltigkeitsfragen, die mit dem technologischen Wandel verbunden sind, als auch mit solchen gesellschaftlichen und anthropologischen Grundsatzfragen intensiver auseinandersetzen.</p><p>Für die Masse der Menschen gilt derweil in unserer nicht zu Unrecht als Datenzeitalter apostrophierten Zeit: Algorithmen, die Daten analysieren und Verhalten steuern, haben sie fest im Griff — und nicht etwa umgekehrt. Fast nocht schlimmer als diese Tatsache ist, dass die Menschen sich dessen kaum bewusst sind, wie eine aktuelle Allensbach-Umfrage der Bertelsmann Stiftung zeigt:</p><figure><img alt="" src="https://cdn-images-1.medium.com/max/1024/1*1PLkrgYoQQgY2vN4bmlh7w.jpeg" /><figcaption>Quelle: <a href="https://www.bertelsmann-stiftung.de/de/presse/pressemitteilungen/pressemitteilung/pid/deutschland-noch-nicht-in-der-algorithmischen-welt-angekommen/">https://www.bertelsmann-stiftung.de/de/presse/pressemitteilungen/pressemitteilung/pid/deutschland-noch-nicht-in-der-algorithmischen-welt-angekommen/</a></figcaption></figure><p>Es liegt ein Schluss nahe, der am Ende so vieler Debatten zum digitalen Wandel steht: <strong>Sowohl der ökologische Nachhaltigkeitsaspekt als auch die gesellschaftliche Nachhaltigkeitsbetrachtung setzen zunächst einmal eine breite gesellschaftliche Aufklärung und eine Grundbildung in Sachen digitaler Technik und ihrer gesellschaftlichen Folgen voraus, die wir heute schlicht nicht haben.</strong> Wenn niemand weiß, wie viel Strom die Nutzung seines Facebook-Profils, seine Banking-App und seine digitalen Einkäufe verbrauchen, und wenn niemand weiß, welche seiner Daten gespeichert und von Algorithmen nicht nur zu seinem Vorteil verarbeitet werden, dann gibt es weder eine Grundlage für einen sinnvollen gesellschaftlichen Diskurs darüber noch eine Chance auf Veränderung. Veränderung aber beginnt im Kopf, wie wir wissen, und deshalb müssen da erstmal die entsprechenden Fakten hinein. Dabei sind wir alle gefragt, nicht nur der Staat, der ein Fach “Medienkunde” oder ähnliches auflegen soll, wie immer wieder (und ganz zu Recht) gefordert wird. Wir alle müssen, sofern wir uns bereits zu den vergleichsweise Wissenden zählen, etwa unseren ahnungslosen Familienmitgliedern erklären, warum eine Gruppe bei Whatsapp aus etlichen Gründen vielleicht nicht so eine gute Idee ist wie eine bei Wire oder Threema. Eventuell kann der eine oder die andere zumindest in unseren Breiten, wo Facebook nicht das ganze Internet ist, in Zukunft ohne diese Plattform auskommen und dadurch sogar viel Qualitätszeit für ihr Leben (zurück)gewinnen. Wenn man gelernt hat, wie man den Datenmüll ohne freien Systemzugang entfernt, muss man auch die Hardware nicht spätestens alle zwei Jahre austauschen, wie es die Gerätehersteller am liebsten hätten.</p><p>Eines steht für mich inzwischen fest: <strong>Jenseits individueller Verhaltensänderungen wird es keine einfachen Lösungen auf politischer und gesellschaftlicher Ebene geben.</strong> Verhaltensänderungen wird es jedoch nur mit Aufklärug und Bildung geben. Man könnte dies als eine Kantianische Wende der Technologiekritik bezeichnen: Habet Mut, Euch Eures eigenen Verstandes zu bedienen und lebt nachhaltig mit den zu Gebote stehenden technischen Möglichkeiten — nein vielmehr aufgrund dieser Möglichkeiten!</p><img src="https://medium.com/_/stat?event=post.clientViewed&referrerSource=full_rss&postId=592317e99420" width="1" height="1" alt="">]]></content:encoded>
        </item>
    </channel>
</rss>