Reflexionen von Birte Platow, Theologin und Forscherin der Digital Society Initiative der Universität Zürich. Der Diskurs zur Digitalisierung, zum damit einhergehenden Potenzial sowie zu erwartenden Umbrüchen im individuellen wie sozialen Leben wird derzeit in nahezu allen wissenschaftlichen Disziplinen vor dem jeweils spezifischen Fachhintergrund und in diversen Institutionen der Gesellschaft geführt. Besonders hitzig, weil polarisierend scheint dabei die Diskussion um positives Potenzial beziehungsweise potenzielle Gefahr von Künstlicher Intelligenz (nachfolgend 'KI') zu sein. Im Zentrum meiner Überlegungen stehen allerdings weniger technologische Aspekte als vielmehr die Frage, wie Menschen sich im Angesicht von KI selbst wahrnehmen und in der Folge verhalten. Dies hat zunächst pragmatische Gründe – als Theologin verfüge ich (euphemistisch ausgedrückt) über begrenztes Wissen in technologischen Fragen. In Sachen visionärer Vorstellungen, Erwartungen, Hoffnungen aber auch Ängsten von Menschen bin ich als Theologin hingegen eine kundige Analytikerin, die vor dem Hintergrund ihres Fachs eine ganz eigene Perspektive auf KI zu werfen vermag. Der "Faktor Mensch" ist – so wie ich das sehe – derzeit im Diskurs zudem seltsam unterbeleuchtet und doch konstitutiv für das zukünftige Verhältnis von Mensch und KI, wie nachfolgend deutlich werden wird. Eine Stippvisite im digitalen AlltagZunächst bitte ich die geneigte Leserschaft, die folgenden Episoden aus dem Alltag mit KI nachzuvollziehen und nach Gemeinsamkeiten zu suchen. a) Im März 2018 kommt es in Arizona zu einem tödlichen Unfall mit einem autonom fahrenden Volvo. Nach aktuellen Erkenntnissen hätte er durch menschliches Eingreifen verhindert werden können, wenn die Fahrerin – wie instruiert – aufmerksam auf den Verkehr geachtet hätte, statt auf die Technik vertrauend einer Fernsehsendung zu folgen. b) Bei der Diagnose maligner Melanome verlässt sich der Dermatologe H.S. inzwischen auf eine eigens dafür ausgelegte Software. Meist folgt er den Empfehlungen des Systems, "nur selten widersetze ich mich und nehme doch was raus" (zitiert aus einem Interview im Rahmen einer derzeit bei der UZH Digital Society Initiative angesiedelten qualitativen empirischen Studie) c) M.K., im Marketing tätig und Mutter, läuft manchmal noch eine extra Runde um ihr Haus, statt es sofort zu betreten, weil sie dann die von ihrem Fitnesstracker empfohlenen 10.000 Schritte gemacht hat, mit einem Konfettiregen belohnt wird und sich besser fühlt. Nach eigenen Angaben findet sie das jedoch selbst "albern". (Zitat Interviewstudie) Augenscheinlich handelt es sich in allen Fällen um Situationen, in denen Individuen mit KI basierten Systemen interagieren und vor die Entscheidung gestellt sind, Direktiven (im ersten Fall der Steuerung des Autos) zu folgen oder die menschliche Autonomie geltend zu machen und eigenmächtig zu handeln. Bei letztgenannter Episode ist die Annahme einer KI als Steuerungselement zwar unter technischen Aspekten nicht zutreffend, entscheidend ist jedoch, dass die betreffende Person in der Annahme ging, ihr Fitnesstracker sei ein "irgendwie KI betriebenes Gadget" (Zitat Studie). Weiter kennzeichnet alle Episoden, dass die an der Interaktion teilnehmenden Personen sich fragten, wie sich ihre Kapazitäten zu denen des technischen Gegenübers verhalten, um von dort aus zu einer angemessenen Entscheidung zu gelangen. Diese mündete hier darin, dass die Personen sich entschieden, den Empfehlungen des Systems Folge zu leisten (im ersten Fall buchstäblich 'blind' zu vertrauen), weil sie ihm entsprechend viel zutrauten und ihre eigenen Fähigkeiten demgegenüber als defizitär wahrnahmen. So gab etwa der Dermatologe zu bedenken, dass sein Auge, das nur 15 Grauschattierungen unterscheiden kann, einer KI weit unterlegen sei, da diese bis zu 450 Grauschattierungen differenzieren könne. Das Bewusstsein, dass solche überlegenen Fähigkeiten situations- und aufgabengebunden sind, ist bei Laien wie Profis (den beiden Sampling-Gruppen meiner Studie) durchaus vorhanden. Allerdings finden sich Hinweise, dass vor- und unbewusst Fragmente dieser Wahrnehmung in andere Bereiche der Selbstwahrnehmung ausstrahlen und diese beeinflussen. Spieglein, Spieglein an der Wand – KI als identitätsstiftendes GegenüberDie skizzierte Entscheidungslogik bedingt nämlich, dass Individuen sich implizit und weitgehend unbewusst in ein gemeinsames, von Funktionen bestimmtes Referenzsystem mit der KI begeben, die in der Folge zum komplementären Gegenüber für die menschliche Selbstwahrnehmung wird. An diese Beobachtung anknüpfend ist anzunehmen, dass KI heute über diverse Berührungspunkte und entsprechende Erfahrungen zu einem Gegenüber wird, das individuelle Identitäten mit konstituiert und in spezifischer Weise konturiert. Vom beschriebenen Mechanismus ist im Übrigen nicht nur die individuelle Selbstwahrnehmung betroffen, sondern auch die gesamtgesellschaftliche. Man denke etwa daran, wie Risiko beziehungsweise Potential von KI im gesellschaftlichen Diskurs bestimmt werden – auch hier werden Aufgaben und Funktionen definiert und vergleichend festgelegt, zu welchen Anteilen und in welcher Qualität (unter anderem in welchem Tempo) diese von Systemen künstlicher Intelligenz übernommen werden können, und wie sich die Kapazitäten humaner Intelligenz dazu verhalten. Die Annahme, dass KI derzeit im Begriff ist, zu einem relevanten Baustein individueller wie kollektiver Selbstwahrnehmung zu avancieren, wird durch die vorläufigen Ergebnisse meiner qualitativ veranlagten Studie gestützt. Nun könnte man annehmen, dass individuelle Selbstbilder nicht von bahnbrechender Bedeutung für die Allgemeinheit oder gar unsere Zukunft mit KI sind. Das könnte sich jedoch als Trugschluss erweisen. So ist in diesem Zusammenhang auf die normative Kraft des Faktischen zu verweisen: Die meisten Normen entwickeln sich eben nicht aus einem vorab und bewusst geführten Diskurs, sondern erwachsen aus kollektiv geteilten Verhaltensweisen. Menschen nehmen KI in spezifischer Art und Weise wahr, verhalten sich entsprechend, und eben dieses kollektiv manifeste Verhalten wird schleichend "normal" und so zur impliziten Norm – die übrigens durchaus auf Missverständnissen und Fehlinterpretationen beruhen kann (etwa was die Verteilung von Kapazitäten bei Mensch und KI angeht). Verstärkend kommt nun hinzu, dass wir eben diese Selbsteinschätzung als 'Homo digitalis' (gemeint ist die Tendenz, den Menschen und seine Lebensvollzüge zunehmend in digitalen Strukturen zu repräsentieren) vielfältig digital abbilden. Und eben diese Spuren können zum Lerngegenstand selbstlernender Systeme werden (beispielsweise wenn es um die Simulation von Sprache oder Emotion geht). Eine doppelte, sich gegenseitig bedingende Verstärkung ist die Folge und ein Novum, das uns aufhorchen lassen sollte. Damit habe ich mich nun doch unverhofft weit auf technisches Gebiet gewagt – offen bleibt indes, worin nun der spezifische Benefit einer theologischen Perspektive auf den skizzierten Sachverhalt liegt... KI = Gott? Oder warum sich ausgerechnet eine Theologin mit Künstlicher Intelligenz befasstSelbstbilder entstehen nun bekanntlich nicht exklusiv über die Abbildung des Vorfindlichen, auch wenn dieses in Form von Erfahrungen und intersubjektiven Prozessen den Kern individueller Selbst-Konstitution ausmacht. Darüberhinaus, integrieren Menschen im Modus des Möglichen, in selbst-transzendierender Perspektive auch Momente gewünschter Identität in ihr Selbstbild. Unter der Annahme, es gebe ein Höheres, Besseres – einen Ultimat, in christlicher Perspektive "Gott" – setzt sich das Individuum über Projektionen ins Verhältnis und gegebenenfalls in Beziehung zu diesem Gegenüber und erhält derart spezifische, das Vorfindliche übersteigende Impulse für seine Selbstwahrnehmung. Nun sind die klassischen Gottesattribute – omniszient, omnipotent, omnipräsent (allwissend, allmächtig, allgegenwärtig) – heute mitnichten mehr exklusiv einer christlichen Vorstellung des Gottesgedankens vorbehalten. Gerade eine unkritische Technikgläubigkeit (zu der viele angesichts rasant wachsender Fähigkeiten und Präsenz von KI neigen, siehe eingangs skizzierte Beispiele) reproduziert pseudoreligiöse Phantasien und bedingt, dass KI zum funktionalen Äquivalent der Gottesidee werden kann. In anderen Worten: Es scheint als übernimmt KI mitunter in unserer Selbstwahrnehmung die Funktion, die einst Gott für den/die Einzelnen sowie für die Gemeinschaft hatte. Daher wundere ich mich eigentlich auch nicht mehr, dass ich im Gespräch über KI mit Laien wie Profis häufiger eindeutig religiös konnotierte Begriffe, wie "Segen", "Fluch", "Untergang" oder "Paradies" gehört habe als in meinem gesamten Studium und im Diskurs mit anderen Theolog(inn)en. Grosse Fragen statt grosser AntwortDie Frage, ob KI nun "Fluch oder Segen", "Heil oder Untergang" oder anderes ist, vermag ich nicht zu beantworten. Ich glaube allerdings auch nicht, dass dies die (einzige) richtige Frage ist. Vielleicht sollten wir uns auch fragen, warum wir von "Segen" vs. "Fluch" etc. sprechen, welche Facetten unseres Menschseins im Angesicht von KI aktiviert werden, und welche Wirkung dies gegebenenfalls entfaltet. Neben Chancen und Risiken sollte uns nämlich auch interessieren, was KI mit den Bildern vom Menschen macht, und wie dies unsere Zukunft mit KI gestaltet. Literatur:Zitate aus einer noch nicht veröffentlichten empirischen Studie, die ich im Rahmen meines von der DSI geförderten Projekts "Anthropomorphe Übertragungen als Konstitutivum der Begegnung von Mensch und künstlicher Intelligenz" durchführe. Ausführlicheres in: Platow, Birte: Selbstwahrnehmung und Ich-Konstruktion im Angesicht von Künstlicher Intelligenz, in: Huppenbauer, Markus/Ulshöfer, Gotlind (derzeit in Vorbereitung): Aspekte der Digitalisierung- theologische und ethische Aspekte. Über die Autorin:Birte Platow wird ab Oktober als Professorin für Theologie an der TU Dresden beschäftigt sein. Derzeit forscht sie als Fellow bei der DSI zu individuellen Selbst-Konstruktionen in der Begegnung mit KI.Zu dieser Kolumne:Unter "DSI Insights" äussern sich regelmässig Forscherinnen und Forscher der "Digital Society Initiative" (DSI) der Universität Zürich. Die DSI fördert die kritische, interdisziplinäre Reflexion und Innovation bezüglich aller Aspekte der Digitalisierung von Wissenschaft und Gesellschaft.

weiterlesen: RSS Quelle öffnen