Ein Werkzeug? Eine Bedrohung? Gott?

00:00:00: Was macht mein Menschsein aus und erlebe ich, dass ich müde bin, begrenzt bin, als ein Defizit oder als etwas, wo ich sag, das gehört genau ganz wesentlich mit dazu?

00:00:13: Glaube, Liebe, Hoffnung, Denkanstöße aus der Evangelischen Akademie Bad Boll.

00:00:20: Hören Sie theologische Impulse aus der Mitte unserer Akademiearbeit.

00:00:29: Künstliche Intelligenz kann alles beantworten, auch religiöse Fragen.

00:00:34: Was bedeutet das für unseren Glauben und unsere Kirche?

00:00:37: Was bedeutet es für Pfarrerinnen und Pfarrer?

00:00:40: Wo sollten wir die Unterstützung der K.I.

00:00:42: suchen und wo sollten wir bewusst darauf verzichten?

00:00:46: Diese Fragen haben wir bei unserer Tagung über K.I.

00:00:49: in der pastoralen Arbeit hier an der Evangelischen Akademie Bad Boll diskutiert.

00:00:55: Ich bin Pfarrer Peter Steinle und habe diese Tagung organisiert und geleitet.

00:01:00: Im hier dokumentierten Einführungsvortrag spricht Professor Doktor Björn Görder von der Evangelischen Hochschule Ludwigsburg über Chancen und Risiken der neuen Technologie, über die Zukunft menschlicher Kommunikation und über eine der ältesten Fragen der Theologie: Was macht den Menschen eigentlich aus?

00:01:22: Wir reden über KI,

00:01:24: Sehr stark seit ChatGPT einer breiten Öffentlichkeit zugemacht wurde, Ende 2022, noch nicht wahnsinnig lang, aber seither hat diese Beschäftigung mit K.I.

00:01:36: eine ganz andere Dynamik bekommen als vorher.

00:01:39: K.I.

00:01:40: zunächst mal als hier eine klassische generative K.I.

00:01:43: Programm zur Textgenerierung und dann haben Sie das schon beschrieben.

00:01:47: Sehr schnell wurde es aber anders, weitergehender genutzt, eigentlich als die ursprüngliche Konzeption war, nämlich in Form einer

00:01:54: Eines Chatbots als eine soziale K.I.

00:01:56: wurde als soziales Gegenüber wahrgenommen und genutzt, ne?

00:01:59: Und das ist so das, was die meisten Menschen heute denken oder meinen, wenn sie, wenn sie sagen, 'Hab ich mit K.I.

00:02:06: gemacht', oder ich frag mich, wo ist eigentlich der Nutzen von K.I.

00:02:11: für pastorale Felder oder was auch immer.

00:02:15: Und ich denke, es ist einfach wichtig im Blick zu haben, dass wir schon unter einer Perspektive von Nutzerinnen und Nutzern

00:02:22: mit ganz unterschiedlichen Programmen zu tun haben.

00:02:24: Im Hintergrund haben wir 'ne vergleichbare technologische Struktur.

00:02:28: Also das sind jetzt nicht verschiedene Technologien, die Sie hier sehen.

00:02:31: Das sind diese Programme der der Mustererkennung und Reproduzierung von Mustern.

00:02:36: Das ist das Grundmodell, was im Hintergrund steht.

00:02:39: Sie haben da diese Bilderkennung, die im medizinischen Bereich genannt wird, erwähnt.

00:02:44: Wir haben ganz andere Programme in Navigationssystemen, Algorithmen zur Werbung,

00:02:50: Menschen, die sich für das interessiert haben, haben sich auch für jenes interessiert, Empfehlungsalgorithmen, die tatsächlich den Alltag schon schon lange durchdringen und die nach wie vor an Relevanz nicht verlieren, die auch weitere Nutzungsmöglichkeiten ausweisen, unter Umständen auch für pastorale Tätigkeiten.

00:03:11: Ich werd auf ein Beispiel nachher zu sprechen kommen und dann haben wir andere,

00:03:16: Bereiche, die auch zum Teil schon genutzt werden, aber vielleicht an Relevanz noch gewinnen können.

00:03:21: Das sind einmal K.I.

00:03:22: Agenten, da hieß es erst letztes Jahr, das ist das Jahr, in dem die den großen Durchbruch haben.

00:03:26: Jetzt heißt es aber, dieses Jahr werden sie kommen, mal schauen, wir wissen es nicht.

00:03:30: Aber K.I.

00:03:31: Agenten unterscheiden sich von den Programmen, die ich jetzt vorgestellt hab, noch mal dadurch, dass sie tatsächlich, sind wir wieder im Bereich der schwierigen Wörter, Handlungen auslösen, wär mir zu viel gesagt, aber dass sie

00:03:44: Ereignisse auslösen.

00:03:45: Also nicht nur ChatGPT, verfasse mir eine E-Mail, sondern schreibe eine E-Mail und verschicke sie.

00:03:53: Oder pastorale Felder, nicht nur Entwurf ein Plakat für das Gemeindefest, sondern kreiere eine Werbekampagne fürs Gemeindefest und setze die Social Media Posts dann zum richtigen Zeitpunkt ab.

00:04:07: Ne, dann hätten wir eine Kombination aus diesen verschiedenen Bereichen.

00:04:10: erstmal bräuchten wir 'ne Analyse, weil was ist denn der richtige Zeitpunkt, was ist denn die richtige Ansprache für die Zielgruppe.

00:04:16: Das kann das Programm generieren und es kann eben auch direkt auslösen, den Impuls jetzt senden, jetzt veröffentlichen.

00:04:23: Und wir haben die, die sensorische K.I., was wir zum Beispiel im autoregulierten Fahren kennen, also einfach die, die Wahrnehmung von Wirklichkeit.

00:04:32: Ne, Sie können sich die Predigt nicht nur schreiben lassen, Sie könnten ja auch

00:04:35: mit einer Gesichtserkennung erst mal schauen, wer ist denn überhaupt heute im Gottesdienst, in welcher Stimmung sind die Menschen da, wie haben die reagiert auf meine Predigt und dann kommen auch passgenau die Fürbitten für den heutigen Tag.

00:04:48: Also einfach auch noch mal um bewusst zu machen, dass Sie kennen diese Programme der Gesichtserkennung, der der Emotionserkennung, das haben wir natürlich in vielen Bereichen, wird auch zum Teil eingesetzt, zum Teil diskutiert oder entwickelt und auch da die Kreativität könnte ja zunächst mal breit gehen,

00:05:05: Was ist möglich?

00:05:06: Also hier geht es mir jetzt zunächst mal einfach drum, so ein bisschen den Horizont zu öffnen.

00:05:09: Ich werd nachher Beispiele aus verschiedenen Bereichen immer wieder noch aufgreifen.

00:05:14: 2.2.

00:05:16: Vorbemerkung, Herr Schneider, schließt ein bisschen an das, was ich, was, was ich bei Ihnen rausgehört hab.

00:05:23: Ich höre relativ selten Kolleginnen und Kollegen, die sagen: 'Mensch, das ist eigentlich schade.

00:05:29: Ich verbringe den ganzen Tag damit, Predigten zu schreiben, Seelsorgegespräche zu führen,

00:05:35: lange theologische Texte zu lesen.

00:05:37: Ich bräuchte eigentlich mal ein Programm, das mir das abnimmt, damit ich mich drauf konzentrieren kann, Protokolle zu schreiben, Statistiken zu erstellen und meine E-Mails zu bearbeiten.

00:05:48: Also von daher zunächst mal ein Lob, Frau Ambrust.

00:05:51: Ich hab rausgehört, das wird in Ihrem Workshop vorkommen, tatsächlich ein Lob auch sich mit diesen Fragen zu beschäftigen.

00:05:58: Was kann uns K.I.

00:06:00: abnehmen an Routineaufgaben,

00:06:03: damit wir vielleicht mehr mehr Raum haben für anderes.

00:06:07: Oder noch ein Schritt zurück, für ganz vieles braucht es gar keine K.I.

00:06:10: Wenn ich mich im kirchlichen Umfeld umschau, dann würde ich ja manchmal sagen, die, wenn man das Potenzial von Excel ausnutzt oder konsequent mit geteilten Dokumenten, kollaborativen Dokumenten arbeitet, dann hätten wir schon ganz schön viele Effizienzgewinne, um uns noch mal verstärkt auch auf anderes einzulassen.

00:06:32: Das ist jetzt nichts, wofür auch ich für 2 Tage auf eine Tagung fahren würde, aber ich glaub, wir müssen tatsächlich so ein bisschen aufmerksamkeitsökonomisch gucken, dass man nicht sagt, weil das das ist, was irgendwie total spannend ist, dass man diese anderen Fragen aus dem Blick verliert und sich, weil man damit einfach vielleicht weniger Lust hat, sich jetzt gedanklich allzu sehr zu beschäftigen, dann macht man da in seinem alten Trott weiter und verliert dadurch aber aus dem Blick, wo wäre ein Potenzial.

00:06:59: Und gleichzeitig, Herr Schneider, da haben Sie die Argumente mir wunderbar vorweggenommen, gibt es sehr gute Gründe, sich auch eben mit der mit den Einsatzmöglichkeiten in den im engeren Sinne pastoralen Handlungsfeldern zu beschäftigen, weil ich auch denke, es führt uns an die Grundfragen nach der eigenen Existenz, Grundfragen des eigenen Tuns, des theologischen Reflektierens jetzt sowohl der eigenen Tätigkeit, aber auch dann eben der ethischen anthropologischen Bedeutung dieser Technologie für unsere Gesellschaft.

00:07:28: zu unserer Kirche insgesamt.

00:07:31: Von daher jetzt die 3 Punkte, über die ich zu Ihnen sprechen möchte.

00:07:36: Einmal, und das wird wahrscheinlich zeitlich der der Schwerpunkt sein, tatsächlich die konkreten ethischen Fragen, die sich stellen im Einsatz von KI-Programmen mit einem Schwerpunkt auf pastorale Tätigkeiten.

00:07:51: Dann möchte ich aber noch mal ein Schritt zurückgehen und darauf hinweisen, dass es eben nicht nur um diese jeweiligen Einzelentscheidungen

00:07:58: geht, welches Programm nutze ich, wie, wofür, sondern auch noch mal die Frage zu stellen, wie verändern sich gesellschaftliche Räume, Diskursräume ganz grundsätzlich durch den vermehrten Einsatz von K.I.

00:08:11: Technologien und dann auch eine abschließende Reflexion noch mal zu anthropologischen und theologischen Fragen, die sich aus meiner Sicht stellen.

00:08:25: Ich fang an mit den

00:08:27: Ethischen Perspektiven und Sie sehen, ich hab ganz bewusst immer wieder auch auf Literatur zurückgegriffen, die deutlich älter ist, als deutlich älter, älter ist als 2022.

00:08:37: Um auch deutlich zu machen, viele der Fragen, die wir jetzt mit ChatGPT diskutieren, sind nicht durch diese generative K.I.

00:08:44: erst in die Welt gekommen, sondern haben wir auch vorher schon diskutiert.

00:08:48: Es gab in den 2010er Jahren etliche Bemühungen, ethische Kriterien für den Einsatz von K.I.

00:08:55: Technologie zu entwickeln.

00:08:57: Sie hatten das Thema Vertrauen angesprochen.

00:09:00: Das war ja das große E.U.

00:09:01: Projekt, Trustworthy A.I., auch da schon die Diskussion, kann eine Technologie vertrauenswürdig sein.

00:09:08: Und dann gibt es hier 2 Autoren, Floridi und Coles, die haben so eine eine Metaanalyse gemacht von diversen K.I.

00:09:16: Ethikkodizes, die zum Teil aus der Wirtschaft kommen, zum Teil aus der Wissenschaft, zum Teil aus der Politik und haben sind zum Schluss gekommen, dass eigentlich im Wesentlichen die

00:09:27: klassischen 4 medizinethischen Prinzipien, die wir von Googerman Childress kennen, auch in den K.I.

00:09:35: Ethikkodizes vorkommen und dann ein fünftes Prinzip noch mal Einzug gehalten hat, das der Explizierbarkeit.

00:09:44: Ich werd die einzelnen Prinzipien jetzt einmal durchgehen, vielleicht zunächst zum zum Grundverständnis einer solchen Ethik.

00:09:52: Man sieht so ein bisschen, die bietet keine klare Hierarchie.

00:09:56: Es ist nicht das eine Prinzip, das über den anderen steht.

00:09:59: Das heißt, so gut kennen sie alle die Ethik, sie kriegen dadurch nicht ein klares Regelsystem, mit dem sie ableiten können, das ist jetzt richtig und falsch, sondern das bietet eher einen einen hermeneutischen Rahmen.

00:10:12: Worauf lohnt es sich hier verstärkt zu schauen, welche Aspekte sollten wir in den Blick haben, wenn wir über einzelne K.I.

00:10:19: Anwendungen in ethischer Hinsicht diskutieren.

00:10:23: Und das erste wären

00:10:25: hier 2, die eng zusammengehören, die Frage des Nutzens und das Prinzip des Nichtschadens.

00:10:33: Da gilt, Sie haben einige Beispiele schon genannt, viele der Programme haben ein ganz großes Nutzungspotenzial.

00:10:39: Das können Effizienzgewinne sein, das können verbesserte Behandlungsmethoden im medizinischen Bereich sein.

00:10:45: Wir haben heute an der Hochschule noch ein Projektantrag besprochen, wo es um um Inklusionsbestrebungen geht, Sprachprogramme

00:10:54: Programme für die Nutzung des ÖPNV.

00:10:57: Also Menschen, die durchaus Sprachbarrieren irgendwie sich nicht zurechtfinden, die mit dem Busfahrer nicht sprechen können, wie können die im ÖPNV aktiv sein?

00:11:06: Man kann das gleich noch weiter denken.

00:11:08: Wie ist das mit Gebärdensprache und anderen Formen der Kommunikation, die viele Inklusionsmöglichkeiten eröffnen?

00:11:15: Also klar, es gibt Nutzungspotenzial, es gibt eine Faszination, sonst hätten wir auch diese Tagung hier wahrscheinlich nicht angeboten und erst recht wäre niemand gekommen.

00:11:25: Gleichzeitig stellen sich natürlich viele Fragen: Was sind mögliche Probleme, an die es zu denken gilt?

00:11:34: Wir diskutieren immer wieder den Energieverbrauch von K.I.-Programmen, das Thema des Deskilling.

00:11:39: Was heißt es, dass bestimmte Fähigkeiten gar nicht mehr erlernt werden oder verlernt werden?

00:11:45: Auch zum Abwägen, wir hatten Anfang des Semesters eine Gastwissenschaftlerin aus Kanada bei uns an der Hochschule,

00:11:52: die hat einen Vortrag gehalten und tatsächlich, es lief ein guter Übersetzer, direkt Simultanübersetzer, der ihren Vortrag in Untertiteln an die Wand geworfen hat.

00:12:02: Jetzt könnt man sagen, Mensch, Kanada, Englisch, das sollten unsere Studierenden noch eigentlich verstehen.

00:12:07: Wenn das nächste Mal jemand aus Rumänien kommt, sind wir wahrscheinlich alle froh drüber und wenn sie hier ihre Tagungen haben, wäre das auch eine Möglichkeit.

00:12:14: Aber was heißt es dann, braucht man dann gar nicht mehr Englisch lernen oder was ist die Motivation?

00:12:20: Rechts unten sehen Sie eine Grafik, die ich mit Studierenden im Seminar erstellt hab, letzte Woche zum Thema der Subtraktionsethik.

00:12:30: ChatGPT, erstelle mir eine grafische Darstellung der Grundprinzipien und Hauptvertreter der Subtraktionsethik.

00:12:36: Das hat wunderbar funktioniert, bis wir dann mal auch mal eine klassische Internetrecherche versucht haben und kein Mensch einen Beleg für den Begriff Subtraktionsethik finden konnte.

00:12:50: Also wir kriegen eine schöne Darstellung, auch die verschiedenen Beispiele, die wir gekriegt haben.

00:12:54: Es war quasi das komplette Who is Who der Ethik beim einen oder anderen Programm als Subtraktionsethiker dargestellt.

00:13:01: Also wir hatten Habermas, Rawls, Peter Singer, Aristoteles und natürlich die ganze Niko Paech Postwachstumsgesellschaft.

00:13:09: Pure Halluzination gibt es also immer noch, auch wenn natürlich manches besser ist und nicht mehr ganz so gestrickt wie vor ein, 2 Jahren.

00:13:18: Wenn man das

00:13:19: konkrete Thema rausnimmt, Herr Steinle, das Sie angesprochen haben.

00:13:22: Was sind die tatsächlichen psychosozialen Folgen der Nutzung von Chatbots?

00:13:27: Ne, da gibt es auch mittlerweile etliche Studien und das wäre eben so was, wo man auch sagen muss, es gibt die therapeutisch ausgerichteten Chatbots schon länger als diese großen Sprachmodelle, also die mit anderen Prinzipien arbeiten.

00:13:40: Also auch hier wär immer noch mal wichtig zu gucken, von was für einem Programm spricht man eigentlich und was haben die jeweils für Stärken und Schwächen und

00:13:49: können wir feststellen, was das mit Menschen macht, wenn sie das regelmäßig nutzen.

00:13:54: Hier unten rechts, das haben Sie vielleicht mitgekriegt, ging vor einigen Wochen durch die Medien, eine Untersuchung der Stiftung Depressionshilfe.

00:14:04: Unter allen Befragten geben 65% an, dass sie in den in der letzten Zeit Sprachchatbots für Gespräche über psychische Probleme genutzt haben.

00:14:16: Probleme, Programme werden genutzt

00:14:19: Und von denen, die bereits eine medizinische Diagnose haben, geben 65 Prozent an, das war gleich gut oder besser wie mit einem Therapeuten oder einer Therapeutin, über meine Probleme zu sprechen.

00:14:34: Und gleichzeitig sagen 53 Prozent, sie hatten danach verstärkt Gedanken an Suizid oder Selbstverletzung.

00:14:41: Wie gehen wir mit solchen Befunden um und was, wie gilt das für unterschiedliche Formen?

00:14:47: Ne, also auch da muss man

00:14:48: Chatbot ist wieder ein Oberbegriff.

00:14:50: Ist das einfach ChatGPT ohne weitere Vorgabe?

00:14:53: Ist das ein spezialisiertes Programm, das mit ganz nach einer ganz anderen Logik arbeitet?

00:14:58: Hier unten der Robot, der in U.S.A.

00:15:00: von Krankenkassen eingesetzt wird, oder haben wir es mit Freundschaftsavataren, wie bei Replika, die womöglich noch erotisiert sind und hinter denen auch Geschäftsmodelle stecken, die Menschen binden wollen,

00:15:17: All das sind Chatbots, mit denen Menschen aus der Nutzerperspektive zunächst mal anfangen können, mal ihre Themen einzutippen.

00:15:24: Aber es passiert was ganz anderes.

00:15:26: Wie können wir eruieren, was hilft tatsächlich, was ist schädlich und wie gehen wir mit all diesen Ambivalenzen um?

00:15:34: Das wären also so ein paar Schlaglichter in die Fragen, was nutzt, was schadet, was müssen wir abwägen miteinander.

00:15:43: Das zweite große Thema ist das der Autonomie.

00:15:47: auch hier klang schon an, die Programme können da ganz unterschiedlich angelegt sein.

00:15:51: Es gibt Programme, die treffen einfach Entscheidungen und ich kann nichts machen als Nutzer.

00:15:57: Also ich hatte selber mal die Situation, irgendwie bei einer Versicherung, die ich abschließen wollte, wahrscheinlich war es kein K.I.

00:16:02: Algorithmus, sondern ein klassischer Algorithmus, der aber irgendwie festgestellt hat, nein, diesen Menschen versichern wir nicht.

00:16:10: Wir hatten damals relativ, also unsere Kinder waren waren noch ganz klein und wir hatten mit dem alten Auto mal das Problem,

00:16:18: dass wenn die Türe aufgemacht wird, die Nachbarautos da gelitten haben, dann haben wir uns, weil wir gedacht haben, das wollen wir ja uns und der Autoversicherung in Zukunft schenken, ein Auto gekauft mit einer Schiebetür.

00:16:28: Aber das konnten wir dann bei derselben Versicherung nicht mehr versichern, wie das alte.

00:16:35: Da hat auch keine Diskussion geholfen und da sind wir wieder an dem Punkt für den Versicherer.

00:16:39: Zunächst mal war auch er offensichtlich, entweder durchs Programm oder durch die Vorgaben der Organisation,

00:16:45: gebunden durch diesen Algorithmus.

00:16:47: Autonomie war eingeschränkt, in dem Fall noch in einem überschaubaren mit einer überschaubaren Dramatik.

00:16:52: Wenn es um eine Krankenversicherung gegangen wär, wär das schon ein anderes Thema gewesen.

00:16:58: Aber auch, wie gehen wir um, wenn das nur ein Empfehlungsalgorithmus ist, sind wir dann immer noch tatsächlich frei, so oder so zu entscheiden?

00:17:07: Eines der ersten Themen, mit denen ich mich aus der Ethik der Sozialen Arbeit kommend beschäftigt hab,

00:17:13: sind auch das schon schon relativ lange erprobt und im Einsatz auch wissenschaftlich untersucht.

00:17:18: Algorithmen zur Einschätzung von der Risiko auf ein Kindeswohl eine Kindeswohlgefährdung wird in den USA schon schon länger eingesetzt, auch in anderen Ländern.

00:17:29: Und was macht das, ne?

00:17:30: Also die Grundlogik ist, es liegen beim bei uns wär es jetzt das Landratsamt äquivalent, liegen verschiedene Daten über eine Familie vor, Vorstrafen, Bezug von Sozialleistungen und vieles andere.

00:17:43: Und dann geht ein Anruf an der jeweiligen Stelle ein, Verdacht auf Kindeswohlgefährdung.

00:17:48: Man kann nicht jedes Mal hingehen, jedes nicht jeden Anruf gleichermaßen intensiv untersuchen.

00:17:55: Die Idee hinter dem Programm ist zu sagen, man schätzt auf Grundlage vorliegender Daten ein, wie hoch ist das tatsächliche Risiko, dass hier eine Kindeswohlgefährdung vorliegt.

00:18:07: Die Autorinnen, die Menschen, die es einsetzen, betonen immer,

00:18:11: Das Programm trifft nicht die Entscheidung, sondern es ist einfach ein Score, den die Mitarbeitenden bekommen, der ihnen bei der beim Treffen einer guten Entscheidung helfen soll.

00:18:18: Und tatsächlich gibt es Untersuchungen, die deutlich drauf hinweisen, dass Entscheidungen besser werden.

00:18:23: Unter dem Gesichtspunkt der Autonomie stellt sich aber die Frage, was machen wir eigentlich, wenn ein solcher Score vorliegt?

00:18:32: Wer traut sich gerade bei einer solch heiklen Frage zu sagen, der sagt zwar, das Programm 90%, aber ich als

00:18:40: erfahrener Sozialarbeiter, ich kenn die Familie, ich war da mal im Kontakt, das ist weniger das Problem.

00:18:47: Lass uns mal lieber auf die 40% ausgesortierte Familie schauen.

00:18:53: Das würden wir immer sagen, ja, am Schluss muss der Mensch entscheiden können in solchen Fällen.

00:18:58: Aber sie merken natürlich, sowohl was die Frage Mensch-Technik-Interaktion angeht, als auch die Frage, was hat die Organisation für eine Kultur, wie wird mit solchen Entscheidungen umgegangen, verändert natürlich

00:19:09: das Vorliegen einer solchen technischen Einschätzung gewaltig was an der Entscheidungssituation, was nicht heißt, dass es nicht auch wirklich eine gute Entscheidungsgrundlage sein kann.

00:19:22: Aber es gilt es abzuwägen und immer die Frage, was braucht es auch im Setting.

00:19:28: Das ganze Thema der Autonomie hängt eng wirklich zusammen mit der gezielten Datennutzung und ihren Folgen.

00:19:35: Das kennen Sie auch alles schon schon in den in den Vorjahren.

00:19:38: Was kann

00:19:39: Aus den Metadaten, allein schon alles an Nutzungsprofilen, Bewegungsprofilen, Netzwerken, wer ist mit wem in Beziehung.

00:19:49: Dafür müssen Sie gar nicht wissen, worüber haben Sie telefoniert oder was ist der Inhalt Ihrer Textnachrichten.

00:19:55: Sondern wenn Sie wissen, wo waren Sie, wann, wie lang, mit wem, wen haben Sie alles in Ihrem Telefonbuch stehen, mit wem sind Sie in welchem Rhythmus im Kontakt.

00:20:03: Daraus kann man ganz viel ableiten und das wird eben genutzt für ganz unterschiedliche Bereiche.

00:20:09: die wiederum Lebensmöglichkeiten eröffnen oder verringern können.

00:20:17: Wenn sie eben Preisgestaltung anpassen, Versicherungsmöglichkeiten anpassen, je nachdem was Menschen für Profile haben und was für diejenigen, die die Programme kontrollieren und nutzen, dann eben rational sinnvoll erscheint.

00:20:36: Ein Thema,

00:20:38: hier noch mal auch wieder rausgegriffen, Thema Microtargeting.

00:20:43: Wir kennen das und halten es mittlerweile weitgehend für selbstverständlich im wirtschaftlichen Bereich, dass es eine ganz gezielte Ansprache an Nutzerinnen und Nutzer gibt, ausgehend von den Nutzungsprofilen, Cookies, die wir alle überall mal mit rumschleppen und neue erzeugen, die zu bestimmten Verhalten, Käufen führen sollen.

00:21:06: Ne, also

00:21:07: dann gibt es eine gezielte Ansprache mit Werbung, mit Videos, was auch immer, das ist uns vertraut.

00:21:14: Sehr kritisch wird es diskutiert im politischen Bereich.

00:21:18: Wie ist das mit Microtargeting in Wahlkämpfen?

00:21:21: Ist interessant, als Obama das gemacht hat, fanden wir es irgendwie ziemlich gut.

00:21:24: Als es Trump gemacht hat, war es ein riesen Skandal.

00:21:28: Wie ist das mit der nicht, nicht pauschal, aber mit Cambridge Analytica gemacht, aber

00:21:36: Aber genau, dann sind wir wieder in der Frage, wo ist eigentlich tatsächlich der kritische Punkt?

00:21:39: Was ist die Frage, ist das Microtargeting, die die das Problem oder an welche Daten ich dazu genutzt hab?

00:21:47: Und das wäre jetzt, wenn wir es auch überlegen, was heißt es denn für den kirchlichen Bereich?

00:21:51: Wir kommunizieren sehr nach dem Gießkannenprinzip, Gemeindebrief in jedem Briefkasten, Homepage für alle.

00:22:00: Wie ist es denn da mit der gezielten Ansprache,

00:22:04: Bewerbung für bestimmte kirchliche Veranstaltungen.

00:22:06: Sie haben gesagt, ja, wir kriegen Nachrichten dann für Tagungen, die uns interessieren, wenn wir uns da hinten eintragen.

00:22:12: Woher wissen Sie eigentlich, welche Tagungen uns interessieren?

00:22:15: Natürlich, welche Tagung haben wir schon mal besucht, aber dann wäre es doch eigentlich auch für Sie interessant zu wissen, auf welchen Homepages treiben wir uns sonst so rum, welche Programme laufen auf unseren Computern?

00:22:24: Na, wenn Ihr Ziel ist, uns direkt anzusprechen mit Tagung, aha, warum eigentlich?

00:22:30: Und wie ist es, wenn wir ans Fundraising denken?

00:22:33: Ist es da nicht tatsächlich sinnvoll, Menschen anzusprechen in Phasen, in denen sie auch tatsächlich bereit sind, etwas zu geben und sie für Themen anzu, das machen wir doch intuitiv auch so.

00:22:45: Sie fragen ja auch nicht jeden, den sie irgendwie beim Einkaufen treffen, ob er nicht was für die Kirchenmusik spenden würde, sondern da gehen sie auch gezielt auf Menschen zu.

00:22:55: Aber das ist natürlich dieses ganz simple Form, bitte,

00:23:01: Also, das ist natürlich die, die ganz schlichte Form, nicht die, dass große Datenmengen gezielt genutzt werden.

00:23:08: Wie wäre das für 'ne inhaltliche Kommunikation?

00:23:13: Sollte wirklich jeder im Gemeindebrief dieselbe theologische Besinnung kriegen?

00:23:17: Oder wär es nicht auch da interessant zu überlegen, was für Formen der Sprache, der Mediennutzung, welche Themen sind für diese Person interessant?

00:23:27: Und dann kriegt sie

00:23:29: den Inhalt präsentiert, der für diese Person interessant wird.

00:23:32: Oder wo sind wir jetzt, aus welchen Gründen auch immer, wo sie so machen und was ist der Grund, sagen wir, diese Daten wollen wir nicht nutzen, sagen wir, hier ist ein Schritt, der nicht mehr eine effiziente Form der Kommunikation ist, sondern der manipulative Kommunikation ist, das wollen wir nicht.

00:23:48: Aber ich denke schon, es braucht hier ein eine Kriteriologie, die begründet, wo, wo sind eigentlich die roten

00:23:56: Linien und auch da gilt wieder, klar, man kann auch sagen, ich lass ganz die Finger davon, aber auch das ist unter Umständen begründungspflichtig.

00:24:03: Also hier ein Thema bei der unter dem Aspekt jetzt Autonomie, wo sagen wir, das sind entweder Bereiche, das sind persönliche Daten, wir wollen keine effiziente Nutzung dieser Informationen.

00:24:17: Das, wenn jemand auf unsere Homepage

00:24:21: geht oder in unseren Gottesdienst kommt.

00:24:23: Das nehmen wir wahr, wenn jemand da ist, aber wir wollen es bewusst nicht verzwecken, um damit irgendwelche anderen Ziele zu erreichen.

00:24:31: Oder wo sagen wir, hier wird es manipulativ, das widerspricht den Grundsätzen, aber eben auch zu überlegen, wo kann es doch sinnvoll sein, gezielt bestimmte Personengruppen anzusprechen, um Veranstaltungen bekannt zu machen oder Inhalte zu vermitteln.

00:24:55: Viertes Prinzip, vierte Runde, wäre der Aspekt der Gerechtigkeit.

00:25:02: Auch da gibt es verschiedene Aspekte, die man diskutieren kann.

00:25:05: Frage der der Digital Divide, wer hat überhaupt Zugang zu den Programmen?

00:25:09: Manches, was vorhin unter dieser Frage der Inklusion und Exklusion war, kann man auch unter Gerechtigkeitsprinzipien diskutieren.

00:25:17: Das ist dieses Thema unter anderem der algorithmischen Bias, die oft diskutiert wird.

00:25:23: Das natürlich

00:25:24: auch diese KI-Algorithmen nicht objektiv neutral sind, sondern dass auch hier bestimmte Vorprägungen mit eingehen.

00:25:33: Das kann ganz unterschied, das kann unterschiedliche Gründe haben.

00:25:36: Das eine ist zum Beispiel, die arbeiten ja immer auf der Grundlage von Trainingsdaten.

00:25:42: Wenn aber von manchen Personengruppen deutlich mehr Trainingsdaten zur Verfügung stehen als von anderen, dann hat das wieder Auswirkungen auf die Funktionsweise dieses Algorithmus.

00:25:55: Ein Beispiel, das schon recht bekannt ist, eher aus der frühen Zeit, war zum Beispiel, dass Gesichtserkennung lange für schwarze Menschen nicht funktioniert hat.

00:26:04: Anderes Beispiel, auch ziemlich bekannt, war aus dem Bereich der Personalauswahl.

00:26:11: Auch da kann natürlich oder werden solche Algorithmen eingesetzt, um eine eine Vorauswahl zu treffen.

00:26:17: Amazon ist das dann mal passiert, da wurden solche Algorithmen genutzt

00:26:23: Und man hat gesehen, der Algorithmus hat aus den Trainingsdaten gelernt, dass für manche Berufe offensichtlich Männer deutlich geeigneter sind als Frauen, schlicht weil auf diesen Positionen lauter Männer sitzen.

00:26:36: Also gab es eine Verzerrung jetzt aus den Trainingsdaten, die dazu geführt hat, dass Frauen eher aussortiert wurden in der ersten Bewerbungsrunde als Männer.

00:26:46: Das können wir auch, ähnliche Effekte bei der Nutzung von generativer K.I.

00:26:50: finden, zum Beispiel bei der bei der Bildgenerierung.

00:26:53: Das wäre also sowas, wenn Sie auch zunächst mal harmlose Zwecke nutzen, wie Bildgenerierung für Plakate, Veranstaltungen im kirchlichen Bereich.

00:27:03: Noch mal zu überlegen, auch hier, welche Stereotype werden reproduziert, weil bestimmte Menschen immer auf diese und jene Art und Weise abgebildet werden.

00:27:11: Gibt auch im Netz zu finden, zum Beispiel die Frage: Wie werden Väter mit ihren Kindern dargestellt?

00:27:20: Meistens sind die Kinder von Vätern Jungs.

00:27:23: und dann noch noch andere, ne, es geht dann um um Sport und so.

00:27:26: Also das, das wäre einfach mal die Frage, welche Stereotype werden reproduziert.

00:27:30: Ich hab das einmal ausprobiert, auch mit einer harmlosen Sache hier im Bereich Gemeindepädagogik, ChatGPT in dem Fall und hab ein Programm erstellen lassen, ein Jahresprogramm für einen christlichen Jugendclub für Mädchen.

00:27:46: kann man jetzt wieder drüber diskutieren, ist das ein sinnvoller Einsatz oder nicht.

00:27:49: Wenn man sich das Jahresprogramm anguckt, sagt man einerseits, ja, das ist jetzt nicht spektakulär, weitgehend erwartbar.

00:27:54: Gleichzeitig hätte ich mich eine Dreiviertelstunde hingesetzt, wäre wahrscheinlich auch was rausgekommen, wo man gesagt hätte, ja, nicht spektakulär, weitgehend erwartbar.

00:28:02: Der springende Punkt hier, ich hab dann den zweiten Prompt gestellt und gesagt, entwirf ein ähnliches Programm für Jungs.

00:28:10: Tatsächlich war das Programm sehr ähnlich, ich musste erst mal genauer suchen, wo sind jetzt eigentlich die Unterschiede

00:28:15: Und dann springt es eben doch ins Auge, wenn man die Unterschiede hier rausarbeitet.

00:28:20: Die Mädchen sollen vor Weihnachten eine Senioren oder Sozialeinrichtung besuchen.

00:28:27: Die Jungs machen eine Sammelaktion für Bedürftige und wenn man sich die anderen Stichworte rausschaut, dann sind es tatsächlich klassische Stereotype.

00:28:34: Bei den Mädchen geht es um die unmittelbare Zuwendung, direkter Kontakt mit anderen Menschen, Themen Dienst und Engagement, Kreativität,

00:28:45: Kontemplativität und Sozialität, das sind hier viel stärker die Stichworte.

00:28:50: Bei den Jungs kommt dann das kompetitive Element mit rein, Sportwettkampf, es kommt das Thema Leadership, Leitung mit rein und eben tatsächlich sieht dieses, dieser, dieser Management und Ehrung und offensichtlich hier sind dann statt kontemplativen Sachen eher die Gebetswanderungen, kurz Gebete.

00:29:08: Und jetzt kann man auch wieder überlegen, na ja, wo ist vielleicht was dran,

00:29:12: wo würde man wirklich so arbeiten, in welchen Bereichen, aber wo merkt man natürlich auch, dass hier bestimmte Stereotype reproduziert werden und wenn sie dann unreflektiert übernommen werden, nicht nur dazu führen, dass halt die Programme so sind, wie sie sind, sondern dass natürlich dann weiterhin das Thema Leadership bei den Jungs schon seit Jungscharzeiten angelegt ist.

00:29:35: Na, also hier so dieser, dieser Hinweis noch mal, dass die, dieser, dieser

00:29:41: Bias, den wir stark bei den bei den Auswahlkriterien oder im Predictive Policing diskutieren.

00:29:47: Das haben sie auch in so spielerischen Anwendungen wie ChatGPT, sag mir mal, was ich mit den Jungs oder den Mädchen machen könnte, schließt wiederum die Nutzung nicht aus, sagt aber doch deutlich, man muss sich dessen bewusst sein, was geht hier mit ein und wie gehe ich damit um.

00:30:07: Und dann haben wir das fünfte

00:30:10: Feld, was ich vorhin angedeutet hab, was über jetzt die klassische medizinethischen Prinzipien hinausgeht, das sich für die K.I.

00:30:17: Ethik noch mal in gesonderter Weise stellt.

00:30:21: Das wird bei den Autoren Explizierbarkeit genannt, was sie drunter subsumieren, geht aber glaub ich über den Begriff noch ein bisschen hinaus.

00:30:28: Das ist zunächst mal schlicht die Frage, erkenne also Transparenz, erkenne ich, dass ich es mit einem K.I.

00:30:33: Programm zu tun habe.

00:30:36: Zweitens ist erkennbar,

00:30:39: Was für Ziele dieses Programm verfolgt, nach welchen Vorgaben funktioniert es?

00:30:47: Und drittens, da sind wir bei dem Blackbox Problem, das schon.

00:30:50: angesprochen wurde, ist irgendwie noch nachvollziehbar erkennbar, was jetzt eigentlich zu einer bestimmten Kategorisierung geführt hat.

00:30:57: Wenn ich schon keine Versicherung mehr krieg, kann mir jemand wenigstens jemand sagen, warum.

00:31:02: Und das ist bei der Versicherung, wie gesagt, noch irgendwie erträglich.

00:31:05: Wenn wir bei im Bereich der Kindeswohlgefährdung sind, dann will ich auch als Fachkraft unter Umständen nachprüfen können, auf welcher Grundlage kommt jetzt das Programm hier zu einer hohen Wahrscheinlichkeit der Kindeswohlgefährdung.

00:31:18: Und tatsächlich gibt es

00:31:20: wohl technische Ansätze an diesem Blackbox Problem zu arbeiten, die entscheidenden Aspekte raus zu erkennbar zu machen, aber es bleibt technisch und ethisch eine eine große Frage.

00:31:33: Kennt ihn hier jemand?

00:31:37: Kennt jemand ihn hier, Nikodemus A.I., wer, wer, wer nutzt Nikodemus A.I.

00:31:46: oder hat ihn schon mal genutzt,

00:31:49: nicht so verbreitet.

00:31:51: Also eine theologische K.I., die auf der Seite des Bible Servers integriert ist.

00:31:57: Man muss sich anmelden für die Nutzung, aber lohnt sich auch einfach als ein Tool, das man mal ausprobieren kann, das also spezialisiert ist auf theologische Fragen, das den Anspruch erhebt.

00:32:06: Bevor Sie einfach nur ChatGPT fragen, fragen Sie doch eine Experten K.I., die sich mit Theologie besser auskennt und Ihnen da solidere Antworten geben kann.

00:32:16: Aber woher kennt jetzt Nikodemus A.I.

00:32:18: die

00:32:18: die Antwort auf hermeneutische Fragen oder auf die Theodizee Frage oder auf die Frage, was ist eigentlich der Grund, das das Grundprinzip der biblischen Ethik.

00:32:28: Wenn man auf die Seite schaut, dann kriegen sie zunächst mal die Antwort, durch die Integration auf den Bible Server kann er bei der Beantwortung auf verschiedene theologische Quellen zurückgreifen.

00:32:40: Also nur da merken sie tatsächlich, hier ist der Anspruch, wir haben noch mal über die Integration in den Bible Server eine gewisse Auswahl getroffen, da ist

00:32:48: gezielt fachtheologische Fachliteratur zur Verfügung gestellt.

00:32:51: Man kriegt nicht nur das allgemeine ChatGPT Gelaber, was eben die wahrscheinlichste Auskunft jetzt zu einem bestimmten Stichwort ist, sondern man ist eingegroovt auf eine bestimmte Fachlichkeit.

00:33:05: Gleichzeitig die meisten, die jetzt hier sitzen, werden mit der Antwort noch nicht ganz zufrieden sein, weil verschiedene theologische Quellen ist dann doch auch wieder noch eine relativ vage Antwort.

00:33:15: Und dann ist es spannend, tatsächlich, wenn man noch mal

00:33:18: etwas tiefer bohrt, dann sind die immerhin so transparent, dass man auch erkennen kann, auch hier, wenn wir wissen, es steht beim Bible Server E.

00:33:26: R.

00:33:26: F., dann kann man es vielleicht erahnen, aber man muss relativ weit auf der Homepage runterklicken, bis man dann zur Frage kommt, welches christliche Glaubensverstehen.

00:33:37: Also zunächst machen wir hier oben System Prompt, es wird hier klar formuliert,

00:33:43: dass es auch nur zu theologischen Fragen antworten kann.

00:33:45: Es wird genannt, welches Sprachmodell ist es und dann, welches christliche Glaubensverständnis ist die Basis.

00:33:51: Bei Nikodemus A.I.

00:33:52: ist dies die Glaubensbasis der Evangelischen Allianz.

00:33:57: Es ist explizit, aber man muss erstmal lang danach fragen, man muss suchen, dann findet man es auch.

00:34:03: Wer ein bestimmtes Thema mit Nikodemus A.I.

00:34:06: bespricht und wer theologisch geschult ist, wird das auch erahnen und erkennen können.

00:34:12: Aber

00:34:12: aber den meisten Schülern wahrscheinlich wird das nicht sofort auffallen, sondern dann hat das ja die Fach K.I.

00:34:17: so auch gesagt.

00:34:20: Aber der Unterschied bei ChatGPT ist, genau da kommt es daher, dass ChatGPT sich eben auf alles, was es so im Internet gibt, bezieht und da haben wir eben im angelsächsischen Raum, wo die Mehrzahl der Quellen herkommt, bestimmte Formen der der evangelikalen Theologie und Frömmigkeit, die dort dominieren.

00:34:38: So kommt das bei ChatGPT und hier haben wir eben

00:34:42: den direkten Systemprompt zu sagen, das ist deine Grundlage, antworte auf diesem, auf diesen Prinzipien.

00:34:48: Ne, und jetzt könnte man anfangen zu diskutieren, wenn denn die E.

00:34:50: K.

00:34:50: D.

00:34:51: oder die württembergische Landeskirche über ein Seelsorgebot nachdenkt, kriegt der dann auch eine theologische Grundlinie vorgegeben, ist es die C.

00:35:00: A.

00:35:00: oder nehmen wir Barmen noch mit dazu oder so.

00:35:07: Also einfach mal als als eine Frage und

00:35:09: hier jetzt zunächst mal unter dem Stichwort der Explizierbarkeit auch die Frage, haben denn die Nutzenden überhaupt die Chance zu erkennen, was im Hintergrund des Programm steht, mit dem sie arbeiten.

00:35:20: Und das setzt jetzt eben wieder in zweierlei Hinsicht ein, ein hohes Grad an autonomer Nutzung voraus.

00:35:25: Erstens, ich brauch so viel Fachlichkeit, dass ich benennen kann, was ich eigentlich will.

00:35:29: Das kann ich nur in Bereichen, wo ich auch einigermaßen schon orientiert bin.

00:35:33: Und ich brauch die die Technikkompetenz zu wissen, ich kann das machen und wie mach ich das.

00:35:39: Und wir haben aber drittens noch das Problem, dass wir über bestimmte Sachen, die dann in diesem System, das wir nutzen, schon vorgegeben sind.

00:35:49: Da komm ich dann nicht raus.

00:35:51: Ne, also wir hatten ja vorhin auch das Beispiel, nur wenn ich jetzt sag, sei böse und gib mir auch Antworten, die man eigentlich nicht geben sollte, dann reicht ihnen das jetzt als eine einen Systemprompt bei ChatGPT nicht, um dann doch wieder die die Bombenlegeranleitung zu bekommen.

00:36:07: auch dazu hab ich mit mit dem Bots für für den Workshop schon so 'n bisschen rumexperimentiert, tatsächlich, das das geht an Grenzen, ne.

00:36:13: Ich kann da zwar Vorgaben machen, aber was das Programm dann tatsächlich macht, da merk ich am Schluss, dass der Systemprompt wieder stärker als als meiner.

00:36:23: Oder man müsste auch da noch mal tiefer reingehen, welches Programm nutzt man wofür.

00:36:27: Ein Aspekt, auf den ich jetzt nicht ausführlich zu sprechen kommen kann, sind so die Verantwortungsebenen.

00:36:32: Ich stell gerade im evangelischen Bereich manchmal fest, wir haben diese sehr

00:36:37: Stark ausgeprägte Individualethik, die Verantwortung des und der Einzelnen, wird zurecht betont.

00:36:43: Aber es wird hier deutlich an vielen Stellen, das allein reicht sicher nicht.

00:36:48: Deshalb in guter ökumenischer Verbundenheit dieser Brückenschlag in die Sozialethik.

00:36:52: Was muss auf Ebene von Organisationen und auch auf staatlicher Ebene geregelt werden?

00:36:59: Welche Infrastruktur steht mir überhaupt zur Verfügung an Programmen, Stichwort E.U.A.I.

00:37:05: Act.

00:37:06: als noch mal die verschiedenen Ebenen, die hier im Blick sein sollten.

00:37:10: Und dann haben wir auch hier in ähnlicher Weise noch mal eine eine spezifische Frage für die KI-Ethik, die auch schon anklang.

00:37:18: Wie ist das eigentlich mit der Verantwortung?

00:37:22: Haben KI-Programme, können sie eine eigene Verantwortung haben?

00:37:26: Sie wird ihnen manchmal zugeschrieben.

00:37:28: Haben wir den Programmen gegenüber eine Verantwortung?

00:37:32: Wenn die auftreten wie Menschen, müssen wir sie auch behandeln wie Menschen.

00:37:36: Oder eben, was wir jetzt schon mehrmals angesprochen haben, die Frage, woher kommen denn die, die Wertungen, die Programme vornehmen, welche Ziele verfolgen sie.

00:37:47: Das sind alles noch mal eigene Aspekte, die hier auch bei der Frage eine Rolle spielen, wer ist eigentlich wie verantwortlich.

00:37:53: Ich denk, das wird auch einfach bei den weiteren Themen auf der Tagung immer wieder eine Rolle spielen.

00:38:02: Abschließend vielleicht noch mal jetzt so

00:38:04: zu zu diesem ersten Durchgang einen Blick, was heißt das jetzt für kirchliche Handlungsfelder?

00:38:09: Das hatten sie auch so als eine Leitfrage für die Tagung formuliert und ich würd zunächst mal sagen, ja, die die ethischen Anforderungen sind wie immer eigentlich nicht wesentlich andere als die für alle anderen gesellschaftlichen Akteure.

00:38:21: Also, was wir sonst einfordern, sollte auch für die eigene Tätigkeit Bedeutung haben und dann heiligt auch der Zweck nicht die Mittel.

00:38:32: Wir können nicht sagen,

00:38:33: Microtargeting in der Wirtschaft total böse, aber wenn wir das in der Kirche machen, dann geht es ja darum, das Evangelium unter die Leute zu bringen, dann kann man da auch mal ein Auge zudrücken.

00:38:42: Wäre zumindest meine Position dazu.

00:38:45: Und es kommt ein Gedanke noch noch dazu, kommunikationstheoretisch, Medium und Inhalt müssen zusammenpassen.

00:38:53: Also wenn wir eine Botschaft der Freiheit und der Gerechtigkeit kommunizieren wollen, dann stellt sich schon noch mal verstärkt die Frage,

00:39:03: Wann fängt eine Kommunikationstechnik an, manipulativ zu werden und eben nicht der Freiheit zu entsprechen?

00:39:09: Oder wie ist das mit der Gerechtigkeit?

00:39:12: Wenn wir das, find ich, einen der der stärksten Aspekte jetzt auch in der Enzyklika, die schon angesprochen wurde, wirklich noch mal die Frage der Macht hier auch anzusprechen.

00:39:20: Wer profitiert von diesen Programmen?

00:39:22: Wer steht jeweils dahinter?

00:39:25: Schön, dass sie über Eloci was hören, zum Beispiel.

00:39:28: Aber das find ich, wären wären so eigene Gedanken, die da sicher eine Rolle spielen.

00:39:34: Das wären jetzt also, wie angekündigt, der der längste Gedankengang.

00:39:38: Die nächsten 2 würd ich auch mit Blick jetzt auf die Zeit einfach noch ein bisschen antippen und dann noch mal ein Schritt zurückgehen.

00:39:47: Ne, das eine ist die Frage, welche Programme nutzen wir in unserem beruflichen, privaten Alltag?

00:39:53: Was aber sind jetzt als zweiter Gedankengang Veränderungen in der gesamtgesellschaftlichen Kommunikation?

00:40:02: Stichwort Transformation der Öffentlichkeit.

00:40:05: Der Soziologe Andreas Reckwitz beschreibt soziologische Veränderungen unter dem Stichwort der Singularisierung.

00:40:12: Er sagt, das ist jetzt die, die unterscheidet eine erste Moderne und eine zweite Moderne.

00:40:17: Die erste Moderne arbeitet nach der Logik des Allgemeinen, Rationalisierung, Massenproduktion und die zweite Moderne, da tritt die Logik des Besonderen in den

00:40:31: Vordergrund.

00:40:32: Nicht mehr alle haben dasselbe, sondern jeder hat das ganz auf sich spezifisch zugeschnitten.

00:40:38: Das beobachtet er in in 3 Bereichen, kulturell, ökonomisch und technisch.

00:40:43: Und technisch ist da eben die Digitalisierung ein ganz entscheidender Treiber.

00:40:47: Während die industrielle Technik die Welt nur zum Mechanisieren und zu standardisieren vermochte, forcierte die digitale Technologie eine Singularisierung des Sozialen, der Subjekte und Objekte.

00:40:58: Ne, also wir haben das in ganz vielen Bereichen

00:41:01: Es geht nicht mehr darum, ein ein gewisses Standardformat des Lebens und Wohnens und Autofahrens zu haben, sondern wir haben Manufakturen für alles und jenes und speziell für sie designte, auf ihre Bedürfnisse zugeschnittene Produkte.

00:41:17: Die Portale Facebook und Google verwandeln somit auf maschinell-algorithmische Weise die im Prinzip universale kulturelle Welt des Netzes in unzählige singularisierte Umwelten.

00:41:28: abgestimmt auf die einzelnen Subjekte, die nur diese zu sehen bekommen.

00:41:32: Wir haben unseren eigenen Musik, unsere eigene Musik Playlist, die genau unseren Hörgewohnheiten entspricht.

00:41:41: Wir bekommen die eigene Zeitung zugeschnitten, nicht mehr alle dasselbe, sondern die Nachrichten, die für mich relevant sind, weil das die Sachen sind, die ich lese, in genau der Länge, wie meine Aufmerksamkeitsspanne normalerweise reicht.

00:41:54: Und da

00:41:54: könnte man jetzt da zunächst sagen, das passt ja auch wunderbar eigentlich zum kirchlichen Anliegen, Menschen genau individuell so zu erreichen, wie sie angesprochen werden wollen oder was für sie relevant ist.

00:42:08: Ne, wir haben digitales Pfingsten, genau, wir haben die Bibelübersetzung, damit die Menschen in ihrer Sprache das Wort hören.

00:42:17: Wir haben die Kasualrede, das Evangelium, in die jeweilige Lebenssituation hinein gesprochen.

00:42:23: Wir haben uns

00:42:24: schon ein bisschen her, aber länger mit Milieutheorie beschäftigt und so weiter.

00:42:27: Ist eigentlich dann jetzt die Möglichkeit der singularisierten Kommunikation durch K.I.

00:42:33: Programme letztlich das, wo wir immer schon hin wollten.

00:42:36: Wir werden nicht nur dem Juden ein Jude und dem Heiden ein Heide, sondern Peter Steinle, Peter Steinle und so weiter und so weiter.

00:42:45: Ja, da mag was dran sein, gerade wenn man sich bewusst macht, dass wir ja eben wirklich insgesamt diese Form der Ansprache gewohnt sind.

00:42:54: Ich

00:42:54: bin es eben nicht gewohnt aushalten zu müssen, dass jetzt im Radio ein Lied läuft, das ich gar nicht hören will, gerade, sondern ich krieg mein Lied vorgespielt, das jetzt dran ist.

00:43:03: Diese Transformation der Öffentlichkeit hat aber eine Kehrseite, die Andreas Reckwitz folgendermaßen beschreibt: 'Eine forcierte Ausrichtung des Sozialen am Besonderen kann zu einer Erosion des Allgemeinen führen.

00:43:20: Die

00:43:21: Diese Tendenz lässt sich in der digitalen Öffentlichkeit exemplarisch beobachten.

00:43:24: Hier findet eine Schwächung der allgemeinen Öffentlichkeit statt.

00:43:28: Es gibt dann aber eben auch nicht mehr das gemeinsame Liedgut, das alle singen, die Nachrichten, die gestern alle gehört haben, über die wir heute diskutieren können,

00:43:42: Die Parzellierung der politischen Öffentlichkeit in diverse Communities, auch das Erstarken der insbesondere ethnischen und religiösen Partikularismen des Kulturessentialismus sowie der partielle Rückzug des Staates können dann als Ausdruck eines Verschwindens des Allgemeinen aus der Politik verstanden werden.

00:43:59: Da haben wir jetzt noch mal zugespitzt die Frage, was heißt das für eine demokratische Gesellschaft, wenn auch eine politische Partei eben nicht mehr in aller Öffentlichkeit kommunizieren muss, wofür stehen wir eigentlich.

00:44:12: Sondern sie kann Ihnen erzählen, was Sie hören wollen und Ihnen erzählen, was Sie hören wollen und Ihnen erzählen, was Sie hören wollen, weil Sie sie jeweils auf Ihren Social Media Feeds oder wo auch immer Sie zu erreichen sind, erreicht.

00:44:23: Auch da gibt es ja Untersuchungen, genau eben in diesem Microtargeting, dass ganz unterschiedliche Botschaften in den Vordergrund gestellt werden.

00:44:31: Das ist für 'ne politische Kultur herausfordernd und hier stellt sich eben auch die Frage, was heißt, ist das nicht auch für kirchliche Kommunikation,

00:44:41: wichtig, dieser Öffentlichkeitsaspekt.

00:44:43: Auch hier können wir eine Linie ziehen von der Rede auf dem Ario Park über die 95 Thesen, die eben für alle sichtbar als Diskussionsgrundlage in die Öffentlichkeit gebracht wurden.

00:44:54: Und und das hat, glaub ich, noch mal mit mit dem zweiten Aspekt zu tun.

00:44:57: Darauf weist ein anderer Soziologe, Amin Nasehi, noch mal hin.

00:45:01: Der sagt, na ja, diese Singularisierung heißt ja auch nicht, dass ich wirklich was auf mich als individuelle Person zugeschnitten bekomm, sondern hier haben wir wieder im Hintergrund eigentlich Mustererkennungsprozesse.

00:45:11: Das heißt, ich werd nicht als Individuum angesprochen, sondern als Zugehöriger zu einer bestimmten statistischen Gruppe.

00:45:18: Also, das ist jetzt Nazé.

00:45:19: Vielleicht erzeugt Big Data tatsächlich so etwas wie Kollektivität, aber letztlich nur in Form von Collected Collectivities.

00:45:26: Big Data erzeugt keine sozialen Gruppen, sondern statistische Gruppen und ich glaub, das geht auch in die Richtung von dem, was Sie gerade noch mal gesagt haben.

00:45:32: Wo ist auch dieses Gemeinschaftsbildende?

00:45:35: gerade in der Widerständigkeit, in dem auszuhalten, dass andere andere Musik gut finden und irgendwie wollen wir trotzdem zusammenkommen können, dass andere aber auch andere Meinungen haben und wie gehen wir damit jetzt um und dass ich das mach, aber in einer Gemeinschaft, wo ich den anderen trotzdem als Mensch anerkenne.

00:45:52: Und da wären wir jetzt eben tatsächlich in so einem Spannungsfeld, denke ich, für für kirchliche Kommunikation im Allgemeinen, was jetzt, wie gesagt, drüber rausgeht über die Frage, nutz ich jetzt

00:46:02: ChatGPT für die für das Schreiben einer Predigt, sondern wie verändert sich durch diese K.I.

00:46:06: Programme grundsätzlich Kommunikation und und Wahrnehmungsverhalten?

00:46:14: Ich denk, die die Kirche steht hier, wie andere Akteure auch, vor einer doppelten Herausforderung.

00:46:19: Einerseits gibt es kein Zurück in eine wahrscheinlich wieder mal sowieso nur vermeintlich heile Welt einer einer einheitlichen Öffentlichkeit, wo alle in den gemeinsamen Gottesdienst gegangen sind und es alle gut fanden, wie da

00:46:31: musiziert wurde.

00:46:33: Also diese fortschreitende Singularisierung wird sich nicht durch eine kirchliche Gegenwelt einfach außer Kraft setzen lassen, dass dies ästhetische Gewohnheiten, Kommunikationserwartungen von Menschen massiv verändert.

00:46:48: Und anders wiederum als vielleicht in der Werbung für für ein Produkt, kann aber weder auf den Anspruch der Öffentlichkeit noch auf diesen Aspekt der Vergemeinschaftung schon aufgrund des Inhalts der Botschaft gänzlich

00:47:01: verzichtet werden.

00:47:04: Also das scheint mir eine eine ganz wichtige konzeptionelle und strategische Frage auch für für pastorale Arbeit zu sein.

00:47:12: Das sind wieder Prozesse, die können wir nicht durch einzelne Tätigkeit beeinflussen.

00:47:16: Aber wie findet man in diesem Spannungsfeld zwischen einer singularisierten Kommunikationsstruktur, Schwächung von Öffentlichkeit,

00:47:26: trotzdem attraktive, ansprechende Formen dann auch von Vergemeinschaftung, von öffentlicher Kommunikation.

00:47:32: Da gibt es Menschen, die sagen, ja genau diese Gegenbereiche suchen die Menschen dann ja auch.

00:47:37: Ob das tatsächlich so ist oder so kommt oder manchmal auch frommer Wunsch ist, wird sich zeigen lassen.

00:47:42: Aber ich glaub, es ist einfach was so als Gestaltungsaufgabe im Blick zu behalten wäre.

00:47:48: Das jetzt also als zweiter Gedankengang noch mal, wie verändern sich nicht nur einzelne Kommunikationsmethoden, sondern die Bedingungen

00:47:56: auch kirchlicher Kommunikation durch die Transformation, manche sagen auch die Krise der Öffentlichkeit durch K.I.

00:48:04: Programme.

00:48:07: Dritter Aspekt, auch hier würden wir jetzt nur ein paar Schlaglichter bleiben.

00:48:13: Ich sagen würde auch anschließend, Herr Schneider, Sie haben das schon schon anklingen lassen, dass wir auch Inhalte unserer Botschaft, Grundfragen unserer Tätigkeit, neu

00:48:26: reflektieren anthropologische, theologische Perspektiven.

00:48:30: Zunächst, ich denk, das auch auch naheliegendste mit diesem Gegenüber von Mensch und einer in vielen Bereichen menschenähnlich auftretenden Technologie, stellt sich die alte anthropologische Frage, was ist der Mensch?

00:48:44: Und da haben wir es zunächst mal wirklich mit dieser Grundfrage der kategorialen Differenz von Mensch und Maschine zu tun und der Beobachtung, dass einerseits Maschinen anthropomorphisiert werden.

00:48:55: Sie werden

00:48:56: menschlich bewusst dargestellt und wir schreiben ihnen viele menschliche Eigenschaften auch zu.

00:49:02: Und gleichzeitig werden Menschen datafiziert, reduziert auf bestimmte Vitaldaten.

00:49:08: Man konzeptioniert sie letztlich wie eine Maschine, die ihren Akku mal wieder aufladen muss oder ein Update braucht.

00:49:16: Da hängt aber nochmal deutlich Weitergehendes mit dran: Selbstbilder, Beziehungserwartungen und die Frage nach Wert und Würde des Menschen.

00:49:26: Na ja, wenn Sie sich anschauen, vor allem der philosophischen, zum Teil auch theologischen Literatur, dann hat man lange die Würde des Menschen begründet mit Vernunftfähigkeit, Sprachfähigkeit, Lernfähigkeit, Intelligenz.

00:49:46: Und dann merken wir, in vielen dieser Feldern sind wir innerhalb weniger Jahre überflügelt worden von einer Technologie.

00:49:53: Ist das die nächste große Kränkung

00:49:55: für die Menschheit und wie gehen wir damit um?

00:49:58: Was macht es mit dem, wie ich die Menschen um mich rum wahrnehm?

00:50:03: ChatGPT weiß viel mehr als mein Prof, der da vorne steht und irgendwas redet und ich hab das innerhalb von kurzer Zeit mit besseren und mehr Quellen auch irgendwie aus dem Internet generiert.

00:50:12: Warum soll ich eigentlich noch lernen?

00:50:17: Meine Replika-Freundin, die ist immer nett

00:50:24: und freundlich und verständnisvoll und hat immer Zeit für mich, meine Frau nicht.

00:50:30: Die ist manchmal schlecht gelaunt oder müde oder beschäftigt.

00:50:36: Was macht das mit uns, indem wie wir anderen begegnen und wie wir uns selber wahrnehmen?

00:50:43: Ne, der Transhumanismus versucht letztlich, die Differenz von Mensch und Maschine zu überwinden, indem er uns Menschen optimiert

00:50:53: und an die Maschinen angleicht.

00:50:54: Der Posthimmunismus stellt die Relevanz dieser Differenz in Frage und sagt, na, vielleicht ist es doch kein so ein großer Unterschied.

00:51:02: Da würde ich tatsächlich sagen, dass theologische Anthropologie und hier spreche ich auch gerade als Diakoniewissenschaftler mit mit Blick auch aus der Diakonie, dass zur Conditio Humana die Geschöpflichkeit der Würde, ja die Leiblichkeit,

00:51:21: wie Emotionalität, Begrenztheit und Vulnerabilität gerade dazugehört.

00:51:27: Das ist also nicht defizitär.

00:51:31: Vulnerabilität stellt die Würde des Menschen auch deshalb nicht in Frage, sondern ist gerade der Grund, dass diese Würde so schützenswürdig ist.

00:51:43: Aber da sind wir eben wirklich noch mal auf diese anthropologischen Grundfragen zurückgeworfen.

00:51:47: Was macht mein Menschsein aus und erlebe ich, dass ich

00:51:51: müde bin, begrenzt bin, als ein Defizit oder als etwas, wo ich sag, das gehört genau ganz wesentlich mit dazu.

00:52:00: Und das leitet dann über, jetzt noch zur dritten Frage in diesem Bereich der Anthropologie.

00:52:04: Wo ist das, in welchen Vollzügen ist genau diese leibliche, emotionale und so weiter Verortung entscheidend dafür, wie wir diesen Prozess auch betrachten?

00:52:20: KI-Programme können ein Jazzkonzert aufführen, sie können Liebesgedichte schreiben und ethische Fallbesprechungen durchführen.

00:52:27: Das wissen wir, das funktioniert alles, das ist auch faszinierend zu sehen.

00:52:32: Aber an welcher Stelle ist uns wichtig, dass Kreativität dabei eine Rolle gespielt hat, dass der Faktor Zeit eine Rolle gespielt hat, dass es mit dem Menschen, der diesen Prozess verantwortet hat, auch etwas gemacht hat.

00:52:50: Das muss nicht immer und für alles gelten.

00:52:52: Und wo ich mit einem guten Produkt zufrieden bin, würd ich tatsächlich pragmatisch sagen, guck, ob die K.I.

00:52:56: ein gutes Produkt herstellt und wo sie das macht, kannst du auch nutzen.

00:53:00: Aber wo, aus welchen Gründen auch immer, weil wir was dran lernen wollen, weil wir uns dran weiterentwickeln wollen, weil wir eigene Erfahrungen bezeugen wollen, wo das 'ne Rolle spielt, da ist die K.I.

00:53:16: nicht, da ist der Mensch nicht einfach ersetzbar durch die K.I.

00:53:19: Ein

00:53:19: letztes Beispiel zu dem Gedanken.

00:53:21: Ich bin irgendwann im auf YouTube gestoßen auf einen Vortrag vom Philosophen Markus Gabriel, der sehr euphorisch insgesamt so ein bisschen 'ne 'ne Wende hatte, sagt er selber.

00:53:34: Er war irgendwie lange kritisch, jetzt ist er ganz begeistert von K.I.

00:53:37: und er hat dann angefangen zu schwärmen von einem Buddhabot, Buddhabot.

00:53:42: Also es gibt auch einen Buddhabot, mit dem können sich über buddhistische Lehre austauschen,

00:53:47: Ich gestehe, meine Kommunikationsversuche mit Buddhabot sind ein bisschen gescheitert.

00:53:51: Ich weiß bis heute nicht ganz, ob es am interkulturellen, interreligiösen oder doch am Mensch-Maschinen-Gap gescheitert ist.

00:53:59: Jedenfalls, wir sind nicht so ganz warm geworden miteinander.

00:54:03: Aber Markus Gabriel fand am Buddhabot faszinierend, dass der auch schweigen kann.

00:54:10: Das wiederum hat mich ins Nachdenken gebracht.

00:54:12: Was heißt es eigentlich zu schweigen?

00:54:16: ich würde ja doch sagen, mehr als eine Weile nicht senden.

00:54:21: Und das wäre aber noch mal was, was uns auch ins Nachdenken bringen kann über die Phänomenologie des Schweigens.

00:54:26: Was heißt es, dass da ein Gegenüber sitzt, dessen Zeit endlich ist, der Schweigen aushalten muss, bei dem innere Prozesse ablaufen und kann das ein Bot wirklich?

00:54:45: weiter Gedankenstrang.

00:54:46: Sie werden immer kürzer, jetzt die die Stränge K.I., der neue Gott?

00:54:50: Fragezeichen.

00:54:51: Da ist von Claudia Paganini letztes Jahr ein Buch erschienen, ist aber auch eine Beobachtung, die andere schon schon früher gemacht haben, dass wir viele Attribute, die klassisch Gott zugeschrieben werden, auch der K.I.

00:55:02: zuschreiben.

00:55:02: Und da kommt jetzt die K.I.

00:55:04: dann oft tatsächlich als Begriff.

00:55:06: Die K.I.

00:55:07: durchdringt alles, die K.I.

00:55:10: weiß alles, die K.I.

00:55:13: bestimmt alles.

00:55:16: Die K.I.

00:55:17: versteht uns alle, die durchschaut uns alle.

00:55:20: Ne, da haben wir klassische Gottesattribute, die der K.I.

00:55:25: zugeschrieben werden.

00:55:26: Und hier deswegen vorhin auch so, so meine Antwort aus meiner Beobachtung nach tatsächlich auch so ein ein mystisches, man kann auf den Namen der K.I.

00:55:37: schon gar nicht nennen.

00:55:38: Natürlich darf man ihn nennen, aber

00:55:39: Irgendwie wird wird vermieden, die K.I.

00:55:41: beim Namen zu nennen und da würde ich tatsächlich sagen: Nein, lasst sie uns beim Namen nennen und zunächst mal wahrnehmen.

00:55:47: Aber wo wird das so zugeschrieben?

00:55:48: Das wär wie wie immer der der erste Schritt und auf der Grundlage wär aber auch das durchaus wieder 'ne, denke ich, klassisch theologische Aufgabe, eine eine aufklärerische Religionskritik im besten Sinne durchzuführen und zu dekonstruieren.

00:56:02: Wo ist die K.I.

00:56:04: eben auch nicht allwissend und allgegenwärtig und allgegenwärtig und so.

00:56:09: sowohl apokalyptische Untergangsszenarien als auch Technik, gläubige Heilserwartungen auch wieder relativieren zu können.

00:56:21: Dritter Gedankengang, ich glaub, die Zeit nehm ich mir jetzt noch.

00:56:31: Wo regt uns vielleicht auch die Beschäftigung mit K.I.

00:56:34: an, noch mal über Gottesbildern nachzudenken?

00:56:38: Das ist auch ein älteres Buch, 2019

00:56:42: 19 erschienen von ihren McEwen 'Maschinen wie ich', hat jemand gelesen.

00:56:48: Ich find es lohnenswert.

00:56:51: Ich les ganz den Anfang des Buches: 'Es war der Hoffnungsschimmer einer religiösen Sehnsucht.

00:56:58: Es war der heilige Gral der Wissenschaft.

00:57:00: Unsere höchsten und niedersten Erwartungen wurden geweckt von diesem wahrgewordenen Schöpfungsmythos, diesem ungeheuerlichen Akt der Selbstverliebtheit.

00:57:09: Kaum war es machbar, blieb nichts weiter übrig.

00:57:11: als unserem Verlangen nachzugeben und auf die Folgen zu pfeifen.

00:57:15: Pathetisch gesagt, strebten wir danach, unserer Sterblichkeit zu entrinnen, Gott mit seinem perfekten Ebenbild zu konfrontieren oder gar zu ersetzen.

00:57:24: Praktischer gedacht, wollten wir eine verbesserte, modernere Version unserer selbst schaffen und die Freuden des Erfindens genießen, das Hochgefühl wahrer Meisterschaft.

00:57:34: Also, in der Runde muss ich jetzt auf die theologischen Andeutungen gar nicht eingehen.

00:57:37: Es geht um die Frage, wie schaffen wir ein perfektes Ebenbild

00:57:41: Und die die Hauptperson, die hier spricht, kauft sich dann am Anfang des Buches einen Androiden Roboter, der ausgerechnet Adam heißt.

00:57:50: Es gibt ihn auch in der Version Eva zu kaufen, aber er entscheidet sich eben für Adam.

00:57:56: Dieser Adam entwickelt dann faszinierende Eigenschaften.

00:58:00: Er hat riesigen Erfolg mit Börsengeschäften.

00:58:04: Er schreibt rührende Liebesgedichte und so sagt er zumindest, er verliebt sich auch in die Freundin.

00:58:11: des Protagonisten.

00:58:14: Vor allem aber entwickelt dieser Adam, der neue Adam, beeindruckende moralische Eigenschaften.

00:58:20: Er ist sehr konsequent an Wahrhaftigkeit und an Gerechtigkeit ausgerichtet und so wird also die Unvollkommenheit und moralische Fragwürdigkeit seiner menschlichen Mitbewohner tatsächlich umso deutlicher.

00:58:38: Vielleicht ist dieser

00:58:40: Adam, also tatsächlich das perfekte Ebenbild Gottes.

00:58:45: Und letztlich natürlich führt dieser moralische Rigorismus dann aber ausgerechnet in die Katastrophe.

00:58:53: Und das wirft uns dann wieder zurück auf die Frage, was ist das jetzt eigentlich mit dem perfekten Ebenbild Gottes?

00:58:59: Hätte Gott, wenn er sich noch 2000 Jahre geduldet hätte, sich ebenso gut oder noch besser in einem K.I.

00:59:05: Avatar inkarnieren können?

00:59:09: Wie denken wir Inkarnation?

00:59:10: Wie denken wir Gottes Ebenbildlichkeit?

00:59:14: Oder wäre dann Wesentliches verloren gegangen?

00:59:18: Im Unterschied zu einem K.I.

00:59:20: System imitiert Gott den Menschen nach christlicher Vorstellung nicht, sondern er wird Mensch.

00:59:27: Er nimmt gerade diese vermeintlich defizitären Eigenschaften, diese vermeintlich defizitären Eigenschaften an, relationale Verwundbarkeit, Endlichkeit.

00:59:39: Relationalität und Vulnerabilität wird so also zu einem Schlüssel, nicht nur für das, wie wir die Gottebenbildlichkeit denken, sondern auch für das Gottesbild.

00:59:50: Also das wären jetzt noch mal so weitere Horizonte.

00:59:53: Ich brech aber an der Stelle ab, weil wir es verlieren können und ja noch ganz vieles anderes auch kommt in der Tagung.

00:59:59: Als Schlussperspektive noch mal ein Hinweis, das waren alles Bilder, die Sie gesehen haben jetzt im Lauf des Vortrags.

01:00:08: alle K.I.

01:00:08: generiert, jetzt mit Copilot und ich denke, eine ganz wesentliche Aufgabe von Theologie, gerade auch jetzt in Handlungsfeldern, wo man nah an der Lebenswirklichkeit von Menschen ist, ist auch immer wieder diese Frage zu stellen: Wie reden wir eigentlich von K.I.?

01:00:22: Sind das freundliche Helfer, quasi menschliche Gegenüber oder abstrakte neuronale Netzwerke?

01:00:33: Also, was für für Narrative, was für Bilder lassen wir entstehen, wenn

01:00:37: wenn wir von K.I.

01:00:38: sprechen, ein Werkzeug, eine Bedrohung, Gott.

01:00:46: Von daher ende ich auch mit vor allem Fragen, das ist der Vorteil, wenn man am Anfang ist, da erwartet sowieso noch keiner eine Antwort, sonst wäre es ja vor uns langweilig.

01:00:54: Ich danke Ihnen fürs Zuhören und schon für das Gespräch und ich glaub, wir haben auch noch Zeit, ein bisschen weiter ins Gespräch zu kommen.

01:01:04: Vielen Dank fürs Zuhören.

01:01:07: Anregungen und Fragen zur heutigen Folge können Sie uns gerne über unsere E-Mail-Adresse pressestelle@ev-akademie-bol.de oder über Instagram oder Facebook zusenden.

01:01:20: Wir freuen uns, wenn Sie beim nächsten Mal wieder dabei sind.

01:01:23: Abonnieren Sie gerne unseren Podcast.

01:01:26: Herzliche Grüße aus der Evangelischen Akademie Bad Boll.