„Da sehe ich keine KI“

00:00:38: Peter Steinle Künstliche Intelligenz durchdringt fast alle Lebensbereiche, inzwischen sogar die ganz sensiblen.

00:00:45: Peter Steinle Können, dürfen, sollen wir als evangelische Kirche K.I.

00:00:49: Peter Steinle auch in einem der allersensibelsten Bereiche einsetzen, nämlich der Seelsorge,

00:00:55: Peter Steinle Das war eine der Fragen, die wir auf unserer Tagung über K.I.

00:00:58: Peter Steinle in der pastoralen Arbeit hier an der Evangelischen Akademie Bad Boll diskutiert haben.

00:01:03: Peter Steinle Ich bin Pfarrer Peter Steinle und habe diese Tagung organisiert und geleitet.

00:01:09: Peter Steinle In diesem Podcast dokumentieren wir 2 Statements von Oberkirchenrat Max Nießner.

00:01:15: Peter Steinle Er ist Referentin der Stabsstelle Digitalisierung, Theologie und Ethik im digitalen Wandel im Kirchenamt der Evangelischen Kirche in Deutschland E.K.D.

00:01:25: Peter Steinle in Hannover.

00:01:26: Peter Steinle Er stellt das evangelische KI-Modell ELOKI vor, das er derzeit gemeinsam mit 2 Landeskirchen entwickelt.

00:01:35: Peter Steinle Zuvor geht es aber jetzt um die Frage nach einem Seelsorge-Chatbot, die derzeit kontrovers diskutiert wird.

00:01:43: Peter Steinle Studien zeigen: Der Bedarf an Lebensberatung ist riesig.

00:01:48: Peter Steinle Mit einem Anteil von 31 Prozent war das Thema

00:01:52: Peter Steinle Unterstützung in persönlichen Lebensfragen im vergangenen Jahr der größte Anwendungsbereich bei KI-Chatbots, noch vor Themen wie Recherche, Lernen oder Bildung.

00:02:04: Peter Steinle Viele Menschen suchen also Rat bei KI-Chatbots.

00:02:08: Peter Steinle Gleichzeitig kommt die Telefonseelsorge mit echten Menschen an ihre Kapazitätsgrenzen,

00:02:15: Peter Steinle und die Pfarrerinnen und Pfarrer sind durch Gemeindefusionen für immer mehr Menschen zuständig, sehen sich also potentiell auch einer immer größeren Nachfrage nach Seelsorge gegenüber.

00:02:27: Peter Steinle Könnte da ein Seelsorgebot nicht helfen?

00:02:31: Peter Steinle Aber gleichzeitig ist ein KI-Modell ja auch eine Blackbox, deren Antworten kaum zu kontrollieren sind.

00:02:39: Peter Steinle In den USA steht die Firma OpenAI vor Gericht,

00:02:43: Peter Steinle bei ChatGPT Anleitung zum und Unterstützung beim Suizid gegeben haben soll.

00:02:50: Peter Steinle Wer in unserer Kirche könnte die Verantwortung dafür übernehmen, dass ein evangelischer Seelsorgebot in einer hochsensiblen Situation, in der es womöglich um Leben und Tod geht, nicht unangemessen oder sogar kontraindiziert reagiert?

00:03:08: Peter Steinle Und vor allem

00:03:09: Peter Steinle Ist Seelsorge nicht etwas anderes als der Chat mit einer seelenlosen Maschine?

00:03:15: Peter Steinle Dazu hat Oberkirchenrat Max Niessner eine klare Meinung.

00:03:21: Max Niessner Ich würde sagen, es gibt 'ne kirchliche Kerndienstleistungs, Kerndienstleistungsspektrum.

00:03:27: Max Niessner Also ich sag mal, das fängt an mit Beerdigung, Seelsorge, Taufe, Gottesdienst und da geht es in meinen Augen vor allem um

00:03:38: Max Niessner Mensch-zu-Mensch-Bewegungen.

00:03:41: Max Niessner Ja, also diese Begegnungsebene, dort wo es um diese Authentizität untereinander gegenüber über um das dem Menschen ein Menschsein und damit auch Gott mit reinholen geht, da sehe ich keine K.

00:03:59: Max Niessner I.

00:04:00: Max Niessner Ich sehe K.

00:04:00: Max Niessner I.

00:04:01: Max Niessner überall, wo sie uns unterstützt.

00:04:02: Max Niessner Also beispielsweise haben wir ein tolles Projekt, K.

00:04:04: Max Niessner I.

00:04:06: Max Niessner Training für Seelsorgende mit V.

00:04:08: Max Niessner R.

00:04:08: Max Niessner Brillen.

00:04:09: Max Niessner Da machen 3 Professoren ein ein K.

00:04:12: Max Niessner I.

00:04:13: Max Niessner Setting, wo sich Menschen, indem sie sich 'ne V.

00:04:15: Max Niessner R.

00:04:16: Max Niessner Brille aufziehen, in einen Raum bewegen, wo jemand Seelsorge benötigt.

00:04:22: Max Niessner Und dann wird geschaut, wie reagiert man, was kann man da lernen, es wird hinterher ausgewertet, es wird drauf geschaut, Mensch zu Mensch schauen drauf, wie war diese Begegnung.

00:04:34: Max Niessner Und ich weiß nicht, wer von

00:04:35: Max Niessner Ihnen und euch schon mal 'nen Rooftalk hatte und es ist doch ganz gut, wenn wir mit K.I.

00:04:39: Max Niessner sowas vorab üben.

00:04:40: Max Niessner Dennoch würde ich niemals die K.I.

00:04:42: Max Niessner hinstellen, um diesen Rooftalk durchzuführen, sozusagen so nach dem Motto, guck mal, hier ist das Tablet, jetzt erzähl dir mal die K.I., warum du vom Dach kommen sollst.

00:04:49: Max Niessner Und da ist genauso die die Trennlinie, die ich sehe.

00:04:51: Max Niessner Also K.I.

00:04:52: Max Niessner kann uns als Menschen bei allen möglichen Dingen unterstützen.

00:04:55: Max Niessner Wir können gerne Rechnungen automatisieren und alles Mögliche an Use Cases abbilden.

00:05:00: Max Niessner Wir sollten aber

00:05:01: Max Niessner nicht auf unsere kirchlichen U.S.P.s, auf diese Begegnung, auf Gemeinschaft, auf Spiritualität, auf Glaube verzichten oder zu viel da in den digitalen Raum abwälzen.

00:05:13: Max Niessner Weil wir uns damit, glaube ich, keinen Gefallen tun.

00:05:17: Max Niessner Und das ist vielleicht auch 'ne sehr gute Überleitung zum Thema Seelsorge-Chatbots.

00:05:21: Max Niessner Was das Thema Seelsorge-Chatbot angeht, muss man eben 'n bisschen abschichten.

00:05:26: Max Niessner Also, wenn ich jetzt sage, wir haben 'nen Trainings-Chatbot,

00:05:29: Max Niessner Bein, von mir aus.

00:05:31: Max Niessner Das sind Fehler, verzeih dich, das passiert im stillen Kämmerlein, ja.

00:05:34: Max Niessner Das geht nicht nach draußen.

00:05:36: Max Niessner Wenn wir sagen, wir haben 'nen ersten 'ne Erstanlaufstelle, so nach dem Motto, hier sind deine 3 Fragen, sag mal, was du brauchst, dann stellen wir dich zum richtigen Ansprechpartner durch.

00:05:47: Max Niessner Geschenkt, ja.

00:05:48: Max Niessner Wenn das Ding 'n Fehler macht, dann komme ich trotzdem bei irgendeinem Mensch raus, der mir dann hinterher sagt, oh, ich gebe dich zum Kollegen weiter, kein Thema.

00:05:57: Max Niessner Wenn ich einen Chatbot habe, der autark Seelsorge machen soll, mal abgesehen davon, dass Seelsorge mehr ist als ein Gespräch, dann würde ich sagen, Finger weg.

00:06:06: Max Niessner Einfach bitte Finger weg.

00:06:09: Max Niessner Also das muss ich ganz, ganz platt sagen.

00:06:14: Max Niessner Ich mache ein Beispiel.

00:06:15: Max Niessner Ich habe in meinem Vikariat, das ist jetzt ein paar Jahre her, eine Begegnung gehabt im Krankenhaus.

00:06:22: Max Niessner Ich habe eine junge Frau getroffen,

00:06:24: Max Niessner während ich da auf der Station rumgelaufen bin im Seelsorge-Setting und es war klar, hier wird jetzt hier gibt es die Möglichkeit mit mir zu quatschen.

00:06:34: Max Niessner Dann haben wir uns zusammengesetzt, dann kam die Physiotherapie rein und sagt: 'Oh, wir haben jetzt 'n Termin, ist das O.

00:06:40: Max Niessner K., passt es gerade?' Dann habe ich gesagt: 'Ja, kein Problem, ich komme morgen wieder.

00:06:44: Max Niessner Ich bin eh in der Ecke, dann treffen wir uns morgen Nachmittag noch mal.' Ja,

00:06:50: Max Niessner So weit, so gut, diese Physiotherapiestunde fand statt, die junge Dame war am nächsten Tag auch da.

00:06:58: Max Niessner Ich kam rein und das erste, was sie zu mir gesagt hat, war gut, dass sie da sind, ich habe heute schon viel geheult.

00:07:05: Max Niessner Und mit so einer Begrüßung ist man schon in einem Seelsorger-Setting besonderer Art und dann stellte sich raus, die Frau hat gerade gesagt bekommen, dass sie austherapiert ist, dass die Art von Krebs, die sie hat, jetzt auch keinerlei Therapiemöglichkeiten mehr zulässt.

00:07:19: Max Niessner Und dann kommt man da als junger Mensch in der Pfarramtsausbildung rein, stolpert da rein, würde ich fast sagen, und ist in dem Setting drin.

00:07:29: Max Niessner Und am Ende, am Ende dieses Gesprächs, stand dann die Frage, ob ich denn wiederkommen könne.

00:07:34: Max Niessner Das war eine Begegnung, die sich dann in ein weiteres Setting überführt hat, über eine Begleitung von 3 Monaten bis hin zur Beerdigung.

00:07:43: Max Niessner Das ist Seelsorge und jetzt erzählt mir bitte einer, wie ich an der Stelle mit K.I.

00:07:48: Max Niessner anknüpfe.

00:07:49: Max Niessner Was genau macht die K.I.?

00:07:51: Max Niessner Redet die mit den Leuten und sagt: 'Ach, schön, dass du wieder da bist.' Oder kommt sie sick or fancy um die Ecke und sagt: 'Oh, du hast recht, es ist wirklich blöd, an Krebs zu sterben.' Also, was ist der, wo ist die Authentizität, die eigene Betroffenheit, wo ist das Ich im Ich und Gott im Gegenüber?

00:08:12: Max Niessner Das gibt es an der Stelle in meinen Augen, in der aktuellen Form von K.I.

00:08:16: Max Niessner einfach nicht.

00:08:18: Max Niessner So, wenn wir als Kirche sagen, wir verkaufen euch jetzt einen Seelsorge-Chatbot, dann erwarten die Menschen aber genau das.

00:08:24: Max Niessner Sie erwarten Seelsorge und zwar zurecht, weil wir Seelsorge draufschreiben.

00:08:28: Max Niessner Und deswegen sollten wir an der Stelle mit so einem Full-Service-Seelsorgegerät

00:08:34: Max Niessner einfach die Finger weglassen, weil wir unser Versprechen nicht halten können, weil wir irgendwas in den Raum stellen, was Menschen da draußen zu Tausenden jeden Tag leisten, was 'n hochachtungsvolles Gewerbe ist beziehungsweise 'ne hochachtungsvolle Tätigkeit, die Mensch zu Mensch passiert im Angesicht Gottes und die nicht in eine K.

00:08:53: Max Niessner I.

00:08:54: Max Niessner reingehört.

00:08:55: Max Niessner Und da geht es

00:08:57: Max Niessner Natürlich weniger, aber auch drum, dass mir die K.I.

00:09:00: Max Niessner im Ernstfall, wenn ich dumm genug frage und das falsche Modell auswähle und weiß ich nicht, irgendwann erzählt, wie ich die Schlinge zu knoten hab, wenn ich mich aufhängen will.

00:09:08: Max Niessner Aber da geht es auch drum, dass wir das, was wir als Seelsorge definieren, doch bitte nicht unter Wert verkaufen.

00:09:13: Max Niessner Das ist 'ne theologische und 'ne ethische Entscheidung und 'ne menschliche Entscheidung.

00:09:17: Max Niessner Und wenn wir, wenn wir uns da so ***** machen und sagen, das ist das, was wir von Seelsorge halten, dann Entschuldigung, aber dann können wir es auch ganz sein lassen.

00:09:25: Max Niessner wenn wir sagen

00:09:27: Max Niessner Wir wollen unter Seelsorge etwas verstehen, was wir traditionell unter Seelsorge verstehen und was ich auch nach gerade auch mit dem Beispiel noch mal skizziert hab.

00:09:36: Max Niessner Dann haben wir 'n ultra hohen Anspruch an uns und geraten unweigerlich in Konflikt mit der Frage, wie verändert der Transformationsprozess der Kirchen, wie auch immer erörtlich ausgestaltet wird, dieses Verständnis und unsere Leistungsfähigkeit.

00:09:52: Max Niessner Und K.I.

00:09:53: Max Niessner kann uns in der Leistungsfähigkeit helfen.

00:09:55: Max Niessner Auf der einen Seite könnte die K.I.

00:09:57: Max Niessner zum Beispiel an der Stelle dafür sorgen, dass unsere Manpower mehr von der echten Seelsorge machen kann und weniger Verwaltung machen muss.

00:10:05: Max Niessner An der zweite Ansatzpunkt ist, es spricht absolut nichts dagegen, wenn Leute 'ne 'ne Erstanlauf 'nen Erstanlaufpunkt K.I.

00:10:13: Max Niessner technisch aufbereitet haben.

00:10:14: Max Niessner Also, wenn ich statt von 'nem Kontaktformular oder 'ner E-Mail-Adresse 'nen kleinen Chatbot hab, geschenkt.

00:10:20: Max Niessner Aber das muss, wenn es in Richtung Seelsorge geframed wird,

00:10:24: Max Niessner sofort an einen Menschen, weil wenn wir das aufgeben, machen wir uns lächerlich.

00:10:28: Max Niessner An dem Punkt wird's jetzt aber total spannend, wenn wir sagen: 'Ah, die Leute reden doch schon ganz viel mit ChatGPT', dann sage ich: 'Genau, das ist das Richtige.' Komisch?

00:10:39: Max Niessner Nee, eigentlich gar nicht.

00:10:40: Max Niessner Ich hab's letztens mit dem Leiter einer Telefonseelsorge davon gehabt und der sagt: 'Wir haben so viele qualifizierte Erstanrufer wie noch nie.' Was ist ein qualifizierter Erstanrufer?

00:10:49: Max Niessner Das ist ein Mensch, der schon weiß, wo das Problem liegt,

00:10:53: Max Niessner weswegen er 'nen Kontaktmann braucht.

00:10:56: Max Niessner Das heißt, wir sortieren weg, wir machen 'ne Art von Triage, ja und manche Sachen sind einfach so 'ne kleine Beratungsfrage, wo wir sagen muss, jetzt muss ich mal irgendwie das zur Sprache bringen und die die Chat G.

00:11:10: Max Niessner P.

00:11:11: Max Niessner T.

00:11:11: Max Niessner Studie nennt es Expressing.

00:11:13: Max Niessner Also wir haben verschiedene Arten und Weisen, kann mit der K.

00:11:15: Max Niessner I.

00:11:16: Max Niessner reden, kann sagen, ich gebe dir die Aufgabe, das zu machen, K.

00:11:18: Max Niessner I.

00:11:19: Max Niessner macht,

00:11:19: Max Niessner Es gibt Frage, ich stelle der K.I.

00:11:21: Max Niessner eine Frage, die K.I.

00:11:23: Max Niessner gibt 'ne Antwort und es gibt das Expressing, das ist quasi, ich muss mich ausdrücken, um das mal loszuwerden und von der K.I.

00:11:28: Max Niessner 'ne Reaktion zu kriegen.

00:11:29: Max Niessner Das ist dieses, diese Dimension, das macht etwa 10% der Konversation mit K.I.

00:11:34: Max Niessner generell aus und das bringt uns an den Punkt, wo wir sagen, warum ist es denn schlecht, dass die Leute das mit ChatGPT machen?

00:11:43: Max Niessner Ja, natürlich können wir sagen, das wollen wir alles übernehmen, können wir aber gar nicht.

00:11:47: Max Niessner Also erstens können wir gar nicht, zweitens wollen das die Leute auch gar nicht.

00:11:50: Max Niessner Ganz häufig ist es so, dass die Leute nicht auf 'ne spezielle Suche gehen, sondern sie geben es direkt in ihr KI-Tool des Vertrauens ein, egal welches sie benutzen.

00:11:59: Max Niessner Wenn sie Grog benutzen, nehmen sie Grog, wenn sie hier ChatGPT benutzen, nehmen sie ChatGPT.

00:12:05: Max Niessner Und das Gute ist, dort ist überall hinterlegt, wenn es an gewisse Punkte geht, Telefonseelsorge.

00:12:10: Max Niessner Und hier gilt es einfach auch den entsprechenden Draht zu halten und zu sagen,

00:12:15: Max Niessner Wir müssen im Gespräch bleiben und das ist durchaus eine Aufgabe, wo ich sage, da sind wir als vielleicht EKD, als Kirchen in Europa, als wie auch immer, gemeinsam gefordert, um zu sagen, wir müssen dafür sorgen, dass das so bleibt oder sogar ausgebaut wird, dass bei gewissen Fragepunkten einfach irgendwann der Hinweis kommt: "Hey, wenn du einen echten Menschen brauchst, dann geh doch mal mit dem Problem dahin." Und wenn wir das schaffen, dann

00:12:42: Max Niessner bringt uns das deutlich mehr, als wenn wir einen eigenen Chatbot bauen.

00:12:45: Max Niessner Denn was wir nicht vergessen dürfen, der Act, so ein Ding zu bauen, ist das eine.

00:12:51: Max Niessner Der Act, das Ding am Leben zu erhalten, ist das andere und wenn wir es dann noch sicher haben wollen, dann würde ich sagen, ist das vom Personal und vom Kostenaufwand für Kirchen nicht darstellbar.

00:13:01: Max Niessner Also so blöde das klingt, das ist, wenn wir sagen, wir wollen einen Seelsorge-Chatbot haben, dann werden wir an Grenzen kommen,

00:13:10: Max Niessner die finanzieller und personeller Natur sind und wo wir irgendwann sagen müssen, ja jetzt haben wir es zwar gemacht, aber wir haben es halt nicht gut genug gemacht.

00:13:17: Max Niessner Und in meinen Augen ist dieses nicht gut genug ohnehin entbehrlich, weil die Leute gehen ja nicht aus ihrer Plattform des Vertrauens raus, wenn sie 'ne banale Anfrage haben, um ihr um ihr Ding zu klären, sondern die benutzen die Plattform des Vertrauens und wenn dann irgendwann der Hinweis kommt, hier geh doch mal zu 'nem echten Menschen und die sagen, ja das ist echt mein Grundanliegen, da muss ich hin,

00:13:40: Max Niessner dann gehen sie dahin.

00:13:41: Max Niessner Und das stellen die Telefonseelsorgen fest, indem sie sagen, wir haben so viel qualifizierte Erstanrufer wie noch nie.

00:13:45: Max Niessner Ja, das entlastet auf der einen Seite, ohne dass es die Kirche selbst betreiben muss, auf der anderen Seite hat die Kirche keine Verantwortung für irgendein System, für das sie Verantwortung tragen müsste, damit auch keine rechtlichen Probleme, ja, also diese rechtlichen Probleme sind nicht aus der Welt.

00:14:02: Max Niessner Normalerweise, wenn ich ein KI-System implementiere, muss ich Schulungen dafür anbieten für Leute, die es benutzen, wie wollen wir das denn sicherstellen?

00:14:09: Max Niessner also was ist denn das für 'n, wie soll das denn gehen, das können wir juristisch sauber gar nicht machen.

00:14:16: Max Niessner Und dementsprechend ist es kein Problem, sondern es ist 'ne Chance, dass die Leute zu ChatGPT gehen.

00:14:23: Max Niessner Und diese Chance dürfen wir auch gerne ergreifen und dürfen sagen, ey, wenn du schon mit ChatGPT geredet hast, dann dann sag mal, was, was sagt er denn?

00:14:30: Max Niessner Und dann kann man miteinander ins Gespräch kommen.

00:14:33: Max Niessner und dann können wir gucken dass wir sagen ja ja jetzt brauchst du die Pfarrperson vor Ort oder jetzt brauchst du den den Mensch bei der Telefonseelsorge der hoffentlich an die die örtlichen Ansprechpartner verweist wenn jemand sagt ich brauche persönliches Gespräch ja also ich sehe da durchaus Linien die in diese Richtung führen und ich finde es total wichtig dass wir KI da nicht rausschmeißen und sagen nee KI ist böse das wollen wir nicht wir wollen nur Mensch zu Mensch sondern klar KI hat Vorteile und wenn die uns in Verwaltung entlastet können wir mehr Seelsorge machen

00:15:01: Max Niessner Und wenn wir auf der anderen Seite sagen, wir nutzen K.I.

00:15:04: Max Niessner Strukturen, um egal wo die liegen, ja, um unsere Tätigkeiten 'n bisschen zu konzentrieren, kann es auch große Vorteile haben.

00:15:15: Peter Steinle Neben dieser Frage nach einem Seelsorge-Chatbot stellt Oberkirchenrat Max Nießner auch das neue evangelische K.I.

00:15:22: Peter Steinle Modell Eloki vor, dass er derzeit gemeinsam mit den evangelischen Landeskirchen im Rheinland und in Bayern entwickelt.

00:15:30: Peter Steinle Eloki ist ein Akronym aus den Worten evangelisch, lernend, offen, K.I.

00:15:37: Peter Steinle Wichtig dabei ist, Eloki ist ausdrücklich kein Seelsorgebot.

00:15:41: Peter Steinle Insofern handelt es sich hier wirklich um ein neues Thema, das mit dem ersten Teil nichts zu tun hat.

00:15:46: Peter Steinle Eloki soll keine Seelsorgerin ersetzen, sondern in der internen kirchlichen Bürokommunikation oder Verwaltung die Aufgaben übernehmen, die viele bisher schon von Microsofts Copilot erledigen lassen.

00:16:00: Peter Steinle Warum brauchen wir dann überhaupt ein eigenes neues Modell?

00:16:03: Peter Steinle Das Zauberwort heißt digitale Souveränität und das hat damit zu tun, dass wir uns vielleicht nicht in die Abhängigkeit von Großkonzernen begeben wollen, auf deren Geschäftspraktiken und Entscheidungen wir keinen Einfluss haben.

00:16:19: Peter Steinle Lieber Herr Niessner, was ist Eloki?

00:16:22: Max Niessner Worauf wir uns heute konzentrieren, ist so die Idee dahinter.

00:16:25: Max Niessner Ich hab das mal überschrieben mit 'Verantwortung statt Abkürzung' und diese Präsentation ist so gebaut, dass sie auch für Außenstehende außerhalb der Kirchenbubble verständlich ist, weil ab und zu ist das Thema tatsächlich auch in in angrenzenden Bereichen interessant.

00:16:41: Max Niessner An der Stelle muss ich noch mal ein bisschen ausholen, denn wir haben es häufig mit Reaktionen zu tun, wenn wir neue Technologien einsetzen und eine tolle Reaktion ist: 'Hey, K.I.

00:16:54: Max Niessner macht alles besser.'

00:16:56: Max Niessner das ist aber nur 'n Teil der Wahrheit.

00:16:58: Max Niessner Ich weiß nicht, wie das bei Ihnen ist, ob das, ob da alle in Württemberg rufen, seit es K.I.

00:17:04: Max Niessner gibt.

00:17:04: Max Niessner Hey, lustig, K.I., super.

00:17:07: Max Niessner Ich nehme wahr, dass es so 3 Haltungen gibt, mit der Technik umzugehen und diese 3 Haltungen, die sehen nicht alle so aus, sondern die sind mehr

00:17:16: Max Niessner Nummer 1 Ablehnung.

00:17:17: Max Niessner Also will ich eigentlich nichts mit zu tun haben, ich habe noch 5 Dienstjahre, dann gehe ich ohnehin in Ruhestand und was ihr da mit diesem K.I.

00:17:25: Max Niessner Zeug macht, ist mir egal.

00:17:27: Max Niessner Deswegen lass mich damit in Ruhe.

00:17:30: Max Niessner Ist eine Haltung, höre ich ab und zu auch mal.

00:17:34: Max Niessner Die zweite ist so diese typischen Enthusiasten, ja super, endlich können wir die und die und die und die Sachen viel schneller und besser machen.

00:17:44: Max Niessner wir probieren jetzt mal aus, mit Openclaw einen Server aufzusetzen, der die komplette Arbeit im Verwaltungsamt übernimmt.

00:17:53: Max Niessner Auch das ist 'ne Position, die ist auf andere Art und Weisen schwierig, weil die so 'n paar Sachen außer 8 lässt, die vielleicht gefährlich sein könnten.

00:18:02: Max Niessner Und dann gibt's so 'ne dritte Position, das ist so dieser Verantwortungsweg.

00:18:06: Max Niessner Und ich glaube, das ist so der Weg, auf den wir uns als Kirche irgendwo einigen müssen und können, denn

00:18:14: Max Niessner Da sind wir weder komplett ablehnend gegenüber der der Thematik, noch sind wir so, dass wir alle unsere Regeln über Bord werfen, um Abkürzungen zu finden.

00:18:26: Max Niessner Diese Abkürzungsgeschichte ist so diese Euphorie, die dahinter steht.

00:18:30: Max Niessner Super, das spart mir Arbeit.

00:18:32: Max Niessner Ja, also ich hab genug zu tun, ich ertrinke eh, ich schreib jetzt meine Texte schneller, ich mach meine Protokolle automatisch, ich mach meine Ideen und Konzepte damit.

00:18:42: Max Niessner und damit da ist K.I.

00:18:43: Max Niessner so was Verführerisches und wird so als der schnelle Weg wahrgenommen, der ja sagt, ich nutze es zum Guten.

00:18:57: Max Niessner Das Dritte ist die Verantwortung und da muss man ganz klar sagen, Kirche ist keine Innovationsagentur.

00:19:04: Max Niessner Wir müssen erstens aussortieren, was hilft unserer Arbeit wirklich, welche Dinge brauchen wir, welche Dinge sind gut und

00:19:11: Max Niessner dann müssen wir uns natürlich überlegen, ist es das, was wir wollen oder wollen wir was anderes?

00:19:16: Max Niessner Jetzt ist es im Bereich der Rechnungsprüfung nicht ganz so dramatisch, im Bereich der Seelsorge, wir hatten es gerade im Vorgespräch schon schon drüber, im Falle Seelsorge-Chatbots ist diese Frage anders zu stellen.

00:19:27: Max Niessner Da habe ich die Anfrage, sind wir hier auf dem richtigen Weg als Kirche, folgen wir unserem Auftrag, sind wir unseren Bedingungen treu, die wir an Technik stellen

00:19:38: Max Niessner Oder ist das was, wo wir sagen, ja, das klingt vielleicht erstmal ganz cool, aber bei genauerem Hinschauen ist es nicht das, was uns ausmacht und spricht gegen unsere ja Grundannahmen und gegen unsere Überzeugung und vielleicht auch gegen das Evangelium.

00:19:56: Max Niessner Und deswegen müssen wir sagen, dieser dritte Weg der Verantwortung Kirche ist keine Innovationsagentur, der sagt uns häufig irgendwas dazwischen.

00:20:08: Max Niessner zwischen dieser Ablehnung und dieser 'Yay, wir probieren alles Neue aus' Haltung, da findet sich meistens irgendein Weg, der ganz gut ist.

00:20:17: Max Niessner Und da würde ich auch Eloki einordnen.

00:20:22: Max Niessner Wenn wir über Eloki sprechen, dann geht das nicht über ohne den Kontext, denn wenn Eloki im kirchlichen Umfeld zur zum Tragen kommen soll, dann wird das ein Tool sein, das sich letztendlich mit dem

00:20:37: Max Niessner in mit der Berufung auf Vertrauen gründet.

00:20:41: Max Niessner Denn wenn wir als Kirche unseren Auftrag ernst nehmen, dann werden wir Seelsorgedaten, Adressdaten, Akten, irgendwelche personenbezogenen Dinge werden wir schützen müssen, damit wir auch den Menschen gerecht werden, für die wir da sind.

00:20:59: Max Niessner Wir müssen auch Glaubensinhalte schützen, das sind einfach vom Gesetz her besonders geschützte Dinge

00:21:05: Max Niessner und wir würden uns auch ins eigene Fleisch schneiden, wenn wir sagen, ach Gott, da hauen wir einfach in irgendein K.I.

00:21:11: Max Niessner Modell, mal gucken, was passiert.

00:21:13: Max Niessner Denn dieses Vertrauen ist letztendlich dieses Fundament für unsere Arbeit.

00:21:17: Max Niessner Wenn wir das verspielen, dann werden wir große Probleme bekommen und nur weil das im Moment noch nicht klar ist oder vielen Menschen noch nicht klar ist, wo da Dinge abfließen können oder wo da Vertrauensmissbräuche passieren könnten,

00:21:35: Max Niessner heißt es nicht, dass das nicht sein kann und deswegen müssen wir das auf jeden Fall uns anschauen und wir müssen es prüfen.

00:21:41: Max Niessner Und wenn wir damit arbeiten, dann betrifft es das zum Beispiel, dass wir solche Sachen in der Regel nicht offen rumliegen lassen.

00:21:49: Max Niessner Also wir würden keine Aktenmappe mit irgendwelchen persönlichen Dokumenten irgendwo einfach rumliegen lassen an einem öffentlichen Ort.

00:21:54: Max Niessner Wir würden auch nicht unseren Laptop allen zugänglich in der Bahn für 4 Stunden einfach auf dem Platz stehen lassen, ohne dass der gesperrt ist.

00:22:01: Max Niessner Und genauso sieht es eben mit K.I.

00:22:03: Max Niessner aus, nur dass da die Abflusswege 'n bisschen anders sind.

00:22:06: Max Niessner Und daher die Idee von Eloki, denn Eloki ist so 'n bisschen vom vom Grundansatz her zu sagen, wir brauchen eine sichere Umgebung ohne den Abfluss von Daten nach außen, ohne die große weite Welt der K.I.

00:22:24: Max Niessner anzuzapfen, sodass dann in Shenzhen abgespeichert wird, was wir hier so gemacht haben.

00:22:29: Max Niessner Wir brauchen 'ne Datenschutzkonformität im Sinne von D.S.G.E.K.D.

00:22:34: Max Niessner bedeutet, wir brauchen entsprechende Standards, die zulassen, dass wir damit datenschutzkonform arbeiten.

00:22:43: Max Niessner Ich sag das so explizit, weil wir können auch mit 'nem Bleistift und 'nem Stück Papier ganz furchtbare Datenschutzverstöße begehen.

00:22:49: Max Niessner Dafür brauchen wir keine K.I., dafür brauchen wir noch nie mal 'n Computer oder 'ne Steckdose, aber mit K.I.

00:22:55: Max Niessner wird es relativ schnell quasi nebenbei passieren.

00:22:59: Max Niessner und darauf müssen wir achten, dass eben dieses nebenbei so so schwer wie möglich wird.

00:23:07: Max Niessner Ziel davon ist natürlich, dass wir dann auch Daten verarbeiten können.

00:23:12: Max Niessner Das heißt, dass wir nicht jeden Namen schwärzen müssen oder sonst irgendwas und das ist dann für Gemeinde, Bildung, Verwaltung, Diakonie oder gewisse Fachreferate

00:23:24: Max Niessner in in den Pfarrämtern, im Kindergarten und so weiter und so fort in den Einsatz gebracht werden kann.

00:23:30: Max Niessner Sharing is caring ist so 'n bisschen das, was wir drunter geschrieben haben, weil der die Grundidee ist, wenn wir einen Aufbau haben, der ganz gut funktioniert und der nicht dieses, wir müssen 100% für 'ne Fachanwendung bekommen, sondern uns reichen, sage ich mal, 8590%, die wir erreichen mit Dingen, die Menschen da draußen

00:23:53: Max Niessner mit K.I.

00:23:54: Max Niessner machen möchten, zum Beispiel 'n Text zusammenfassen, 'n Protokoll verarbeiten, irgendwas Schönes sich ausdenken fürs Gemeindefest und wir können das sicherstellen, dass das gemacht werden kann.

00:24:09: Max Niessner Dann wäre das ein Modell, das man relativ breit ausrollen kann, denn Kirche hat relativ viele Mitarbeiter, also wir haben 220.000 Beschäftigte im Bereich der I.K.D., die für Kirche arbeiten

00:24:21: Max Niessner Und darüber hinaus haben wir natürlich noch Ehrenamtliche, sodass wir auf über 'ne 1000000 Menschen kommen, auf die man sowas theoretisch ausrollen kann.

00:24:29: Max Niessner Wenn man das möchte, wenn man sich dafür entscheidet, wenn man in diese Richtung geht, wenn man Sachen auf 'ne 1000000 Leute ausrollt und so baut, dass sie das können, dann muss man zwar am Anfang gut überlegen, man hat aber den Vorteil, dass die Kosten pro Person, die das nutzen, am Ende extrem gering sind.

00:24:50: Max Niessner Das heißt, die Idee ist auch 'ne Effizienzgeschichte draus zu machen.

00:24:55: Max Niessner Die Eloci-Idee ist im Prinzip eine K.I.-Plattform für alle, die Kirche machen in Deutschland und das heißt nicht, dass wir die offen zugänglich machen müssen, sondern die muss gewisse Anforderungen erfüllen, damit sie noch diese Datenschutzgeschichten und Sicherheitsstandards erfüllen kann.

00:25:12: Max Niessner Das bedeutet,

00:25:14: Max Niessner Es wird niemals 'ne Art ungeprüfte, ungeprüften Login geben.

00:25:19: Max Niessner Also im Sinne von, ich meld mich mit E-Mail-Adresse und Passwort an, so wie wir das bei häufig öffentlichen Tools haben, das kann nicht funktionieren.

00:25:27: Max Niessner Also es muss ein Verifikationsprozess dahinter stehen.

00:25:30: Max Niessner Wir müssen es sicher und datenschutzkonform aufbauen.

00:25:33: Max Niessner Wir müssen die kirchliche Kontrolle behalten.

00:25:35: Max Niessner Das heißt, es darf nicht so sein, dass wir uns von einem Unternehmen direkt abhängig machen, die dann sagen, haha,

00:25:40: Max Niessner und jetzt verkaufen wir es euch, weil es so gut funktioniert für den doppelten Preis nächstes Jahr.

00:25:43: Max Niessner Das ist der sogenannte Vendor-Login.

00:25:46: Max Niessner Also uns muss es im Prinzip möglich sein, dieses Ding im Notfall zu einem anderen Dienstleister umzuziehen und zwar in sehr kurzer Zeit, wenn jemand sagt, mhm, jetzt müssen wir es aber viel teurer machen.

00:25:57: Max Niessner Das ist blöd und diese Abhängigkeit darf es nicht geben, wenn wir das dauerhaft betreiben wollen.

00:26:04: Max Niessner Das heißt nicht, dass man mit solchen Firmen nicht zusammenarbeiten kann, aber das heißt ganz klar,

00:26:09: Max Niessner dass wir kirchlich den Daumen drauf haben müssen, in welche Richtung sich das Produkt entwickelt.

00:26:16: Max Niessner Wir brauchen letztendlich 'nen großen Adressatenkreis, nämlich Gemeinden, Kirchenkreise, die Bildung, die Verwaltung, diakonischen Einrichtungen.

00:26:25: Max Niessner Und wenn wir das Sharing is Caring aufgreifen, dann ist im Erstentwurf des Projektes sind 2 Landeskirchen dabei, die werden vom Digital Innovationsfonds der I.

00:26:34: Max Niessner K.

00:26:34: Max Niessner D., also von unserer Stelle quasi, unterstützt mit 100000€

00:26:38: Max Niessner für die Entwicklung und das sind die bayerische Landeskirche und die Landeskirche im Rheinland.

00:26:44: Max Niessner Warum sage ich das jetzt so explizit, die rheinische Landeskirche setzt komplett auf Open Source, das heißt, dort hat kein kein Pfarrer 'n Dienstcomputer, zumindest keinen von der Landeskirche, denn bei denen gibt es 'n Web-Arbeitsplatz, in diesem Web-Arbeitsplatz hat man im Prinzip alles und man braucht nur 'n Gerät mit 'nem Browser

00:27:05: Max Niessner und den das Gerät beschaffen, die Menschen entweder privat oder tatsächlich über die Gemeinde selbst.

00:27:11: Max Niessner Und dieser diese Herangehensweise ist 'ne ganz andere als die in Bayern.

00:27:16: Max Niessner In Bayern gibt es für alle Pfarrer Dienstrechner.

00:27:20: Max Niessner Es gibt 'ne Microsoft 365 Struktur, so wie in Württemberg auch.

00:27:24: Max Niessner Wir haben 'nen ganz andere Softwareumgebung und die Krux ist, Eloki muss in beiden Regionen gleich und gleich gut funktionieren.

00:27:34: Max Niessner Und wenn wir das schaffen, dann kriegen wir vermutlich zumindest von der technischen Basis her die ganze Bandbreite der Landeskirchen abgedeckt, weil wir haben damit letztendlich 2 extreme Philosophien.

00:27:48: Max Niessner Ja, dem Rheinland nahestehend sind zum Beispiel die ECBO, die machen das ganz ähnlich.

00:27:56: Max Niessner Und die badische Landeskirche beispielsweise ist den Bayern relativ nah.

00:28:03: Max Niessner An der Stelle muss man sagen, soweit ist die Idee eigentlich auch schon ganz gut, das so zu bauen, dass das mit den beiden funktioniert.

00:28:12: Max Niessner Die beiden Landeskirchen sind da, mittlerweile haben wir noch 2 weitere Landeskirchen, die mehr oder weniger in Startlöchern stehen und aus gewissen Gründen momentan noch nicht Teil des Projektes sind.

00:28:23: Max Niessner Was wird man damit tun können oder was kann man damit tun?

00:28:26: Max Niessner Ich würde sagen, heute schon ist möglich, Gemeindebriefartikel schreiben, verfeinern, verbessern, Sprache korrigieren.

00:28:32: Max Niessner Social Media Postings schreiben, irgendwas besonders zielgruppenorientiert, umformulieren, Protokolle schreiben, 'ne Kurzzusammenfassung aus Stichpunkten in ein offizielles Protokoll in 'ne Vorlage einfügen, 'ne PDF hochladen, wie ein altes Protokoll aussieht.

00:28:51: Max Niessner Texte vereinfachen, erweitern, übersetzen, also alles was irgendwie Elementarisierung für die Grundschule angeht, Übersetzung von

00:29:02: Max Niessner Fachsprech oder Fremdsprachen.

00:29:05: Max Niessner Wir haben Recherche und Wissen, also wir könnten damit in einer Datenbank recherchieren und 'n Faktencheck machen.

00:29:12: Max Niessner Wir können Kirchenrecht durchsuchen, wenn wir das anschließen.

00:29:16: Max Niessner Wir können kreativ und konzeptionell arbeiten, also wir sagen, keine Ahnung, ich möchte 'ne Stunde über Zachäus machen und gib mir doch mal 'ne Idee, wie ich das aufbaue.

00:29:27: Max Niessner Übrigens, vor der Schule steht 'n großer Maulbeerbaum.

00:29:32: Max Niessner oder ich kann 'n Bildungskonzept bauen.

00:29:34: Max Niessner Ich kann aber auch sagen, schreib mir mal 'nen Prompt für ein Bild für meine Broschüre, denn Bilder generieren können wir damit nicht im Moment.

00:29:45: Max Niessner Das ist zwar irgendwann in weiter Zukunft angedacht, aber das ist jetzt nicht heute.

00:29:52: Max Niessner Wir können damit aber auch

00:29:55: Max Niessner Analyse und Strukturierung machen.

00:29:57: Max Niessner Das heißt, wir können zum Beispiel aus 200 Dokumenten 'ne Datenbank zusammenbasteln und können dann die diese durchsuchen, Kategorien finden, wir können große Dokumente einlesen und durchlesen lassen und fraktionieren und so weiter und so fort.

00:30:10: Max Niessner Das sind Use Cases, die wir alle garantiert kennen, von beispielsweise Copilot Chat, von beispielsweise Chat G.

00:30:18: Max Niessner P.

00:30:18: Max Niessner T., Gemini, wie auch immer.

00:30:21: Max Niessner Diese Tools können mehr, aber

00:30:25: Max Niessner das hier bildet diese 8590% ab für den von den Dingen, was die Leute im Dienstgebrauch so brauchen.

00:30:33: Max Niessner Und das ist, finde ich, sehr wichtig, denn wenn wir ernst nehmen, was die Leute machen müssen, dann können wir mit diesen Dingen schon viel erreichen.

00:30:41: Max Niessner Die technische Umsetzung war so 'ne Idee, wie machen wir das und da hat sich so der der Aufbau, sag ich mal, der Struktur durchgesetzt, dass im kirchlichen Rechenzentrum

00:30:55: Max Niessner in Karlsruhe quasi das Front und Backend gehostet wird, dort wird quasi die Plattform zur Verfügung gestellt, also die Webseite, über die das zugreift, die Infrastruktur dahinter, die Datenbanken liegen dort.

00:31:10: Max Niessner Und dann wird quasi die Modellpower bezogen, denn ein K.I.

00:31:14: Max Niessner Modell muss man hinten dran klemmen.

00:31:18: Max Niessner Eloki ist kein eigenes Modell, sondern Eloki verwendet Open-Source-Modelle.

00:31:23: Max Niessner Das bedeutet so viel, wie wir haben bei StackIt, also der Lidl Schwarzgruppen I.

00:31:30: Max Niessner T.

00:31:31: Max Niessner Firma, gesharte Modelle, auf die wir zugreifen.

00:31:37: Max Niessner Wenn ich also meine Anfrage in mein Chatfenster eintippe, dann wird mein, werden meine Daten übertragen nach Karlsruhe.

00:31:44: Max Niessner Dort werden die in 'ne anonymisierte Anfrage umgebaut, nach Heilbronn zu Lidl geschickt, einmal

00:31:52: Max Niessner gerechnet und kommen wieder zurück.

00:31:54: Max Niessner Das bedeutet aber, dass schon die Stack it nicht mehr weiß, wer fragt hier eigentlich was und sie speichern auch nichts.

00:32:02: Max Niessner Das heißt, an der Stelle ist es so, dass es 'n reines Inferencing ist, es wird nur gerechnet und wird 'n Ergebnis zurückgemeldet, es wird aber nichts davon abgespeichert, auch keine, wer macht das eigentlich, von wo kommt die Anfrage und

00:32:16: Max Niessner Die Modelle, die bei StackIt liegen, das sind diese Open Source Modelle, das sind quasi K.I.

00:32:21: Max Niessner Modelle, die fertig trainiert sind, die von den Firmen freigegeben sind, so dass jeder die auf den Server packen kann und bei StackIt haben sie relativ starke Server stehen, worauf diese Modelle laufen.

00:32:32: Max Niessner Im Moment liegen da 2 Modelle, die angesteuert werden.

00:32:35: Max Niessner Perspektivisch könnte es so sein, dass man da noch mehr findet, einfach deswegen, wenn man sagt, man hat irgendeinen Allrounder, man hat irgendeins, das auf Recherche spezialisiert ist.

00:32:43: Max Niessner 1, das auf thematische Arbeit spezialisiert ist, 1, das auf Auswertung spezialisiert ist, wie auch immer.

00:32:48: Max Niessner Das gäbe die Oberfläche her.

00:32:51: Max Niessner Jedes Rechenzentrum könnte das genauso hosten vom vom Stack her.

00:32:55: Max Niessner Das wieder diese diese Frage der Freiheit, also wenn ich sage, ich brauche hier eine andere Form von Zugänglichkeit, dann kann ich das realisieren, indem ich zum Beispiel 'n Dienstleister tausche.

00:33:09: Max Niessner Wir haben hier 'nen 'ne Zugangsvoraussetzung über 'nen Keyclock, das heißt, es gibt 'ne Zwei-Faktor-Authentifizierung.

00:33:15: Max Niessner Wenn ich jetzt zum Beispiel als Landeskirche sage, ich möchte da dran angeschlossen werden, dann kann ich meine Microsoft Entra I.D., die es glaube ich in Württemberg gibt, anschließen und kann sagen, ich gehe mit meinem Microsoft-Konto, verifiziere ich mich gegen diesen Keyclock.

00:33:31: Max Niessner Der Keyclock weiß, ah ja, das ist 'n Württemberger, den lass ich drauf.

00:33:34: Max Niessner Das würde technisch gut funktionieren, dadurch würde man

00:33:38: Max Niessner durch 'ne durch 'ne Zwei-Faktor-Authentifizierung durchgereicht und wäre dann auf der Plattform und von da kann man verschiedene Dinge tun, ne, also die normalen Anwendungsfälle.

00:33:49: Max Niessner Wir haben 'ne Websuche, die im Moment deaktiviert ist, weil Google die Tarife geändert hat.

00:33:56: Max Niessner Es soll im Laufe des Jahres Stan angeschlossen werden.

00:33:59: Max Niessner Stan ist 'ne Websuche aus Frankreich, die stehen auch hinter diesem Ecosia Suchmaschinendienst

00:34:07: Max Niessner und dieses diese Websucheform existiert schon, die ist aber nur auf Französisch verfügbar, wird sich verändern und wird auch auf Deutsch verfügbar sein und das ist das Modell, auf das zum Beispiel auch die E.

00:34:17: Max Niessner U.

00:34:18: Max Niessner setzt.

00:34:18: Max Niessner Ja, also die Architektur, die E.

00:34:20: Max Niessner U.

00:34:21: Max Niessner für ihre eigene K.

00:34:22: Max Niessner I.

00:34:23: Max Niessner benutzt, benutzt dasselbe.

00:34:26: Max Niessner Und dann haben wir die Plattform, das ist von der von der Plattform her, ist es der Open Web U.

00:34:31: Max Niessner I.

00:34:32: Max Niessner da steht ein Light L.

00:34:33: Max Niessner L.

00:34:33: Max Niessner M.

00:34:33: Max Niessner dahinter, das Light L.

00:34:34: Max Niessner L.

00:34:34: Max Niessner M.

00:34:34: Max Niessner ist quasi ein Tool, das registriert, wie viel wird denn eigentlich genutzt, so dass wir jemanden rausfischen können, der den ganzen Tag 760000 Anfragen macht, wie viele Tokens verbrennen.

00:34:43: Max Niessner Denn es kostet natürlich nach Verbrauch an der Stelle, da komme ich später noch drauf.

00:34:48: Max Niessner Und wir können hier jetzt sagen, wir machen zum Beispiel über diesen diese Pipelines,

00:34:56: Max Niessner schaffen wir Wege, wie gewisse Datenbanken von außen angeschlossen werden.

00:35:00: Max Niessner Also zum Beispiel ein Medienportal oder die evangelischen Termine, wo dann die ganzen Gottesdiensttermine hinterlegt sind oder die himmlischen Herbergen.

00:35:09: Max Niessner Ach übrigens, Eloki, sag mir mal am hier ersten Maiwochenende, wo ist denn was frei für meine zwanzigköpfige Konfigruppe, durchsuch mir mal die himmlischen Herbergen so und dann durchsuch das eben, weil da ein spezieller Server für gebaut ist,

00:35:24: Max Niessner die himmlischen Herbergen oder die Fundusdatenbank für Gemeindebriefbilder und so weiter und so fort.

00:35:28: Max Niessner Solche Erweiterungen kann man in so 'n System relativ gut und schnell bauen.

00:35:34: Max Niessner Es ist auch relativ günstig und es kann dadurch für viele zur Verfügung gestellt werden.

00:35:40: Max Niessner Das heißt, hier steht auch 'n ökumenischer Gedanke dahinter, das Bistum Rottenburg-Stuttgart zum Beispiel baut gerade eine ähnliche Architektur für sich auf.

00:35:50: Max Niessner auch in Zusammenarbeit mit dem K.

00:35:52: Max Niessner R.

00:35:52: Max Niessner Z.

00:35:52: Max Niessner und dann müsste man beispielsweise für die himmlischen Herbergen nur einmal den M.

00:35:58: Max Niessner C.

00:35:58: Max Niessner P.

00:35:58: Max Niessner Server hinstellen und kann dann sagen, so und alle die irgendwie im Kirchenbereich 'ne ähnliche Infrastruktur haben, können da drauf zugreifen.

00:36:07: Max Niessner Das Ganze kann man natürlich auch weiterdenken, also wir haben die biblischen Lexika im Internet, wir haben Online-Bibeln, wir haben

00:36:15: Max Niessner exegetische Literatur online und so weiter und so fort.

00:36:19: Max Niessner Es gibt einfach viele Möglichkeiten da was anzuschließen und verfügbar zu machen, sodass man gezielt Werkzeuge nutzen kann, die wir für Kirche immer wieder brauchen oder für gewisse Arbeitsbereiche in Kirche immer wieder brauchen.

00:36:32: Max Niessner Und all das schafft uns Möglichkeiten hier als Kirchen zu entscheiden, wie brauchen wir eigentlich unseren Werkzeugkasten.

00:36:41: Max Niessner Also es geht hier nicht drum,

00:36:43: Max Niessner dass wir nur 'nen Generalisten brauchen wie 'n Chat G.P.T., sondern es geht wirklich drum, in dem ersten Schritt kann das Ding dieselben Dinge schlechter als Chat G.P.T.

00:36:54: Max Niessner oder Copilot, aber im zweiten Schritt kann es gewisse Spezialfähigkeiten, die vielleicht an gewissen Punkten wettmachen, dass es an anderen Stellen gewisse Sachen weniger performant tut als die offiziellen Frontier Models, die wir einkaufen können.

00:37:13: Max Niessner Ich hoffe, das ist nicht zu technisch, ich kann aber auch keine Gesichter sehen, sodass ich nicht weiß, ob sie oder ihr gerade stöhnen oder ob das noch in Ordnung ist.

00:37:23: Max Niessner Jetzt ist das Problem, wir haben immer so diesen, diese 22 Dinge.

00:37:30: Max Niessner Auf der einen Seite ist dieses, yippie, ich, ich mein, vielleicht merkt man mir das an, ich hab da Bock drauf, ich find das total gut, dass wir

00:37:40: Max Niessner sowas machen.

00:37:41: Max Niessner Und ich denke auch, dieses Engelchen sagt, das ist großartig für Kirche, so können wir endlich 'ne bessere Kirche werden, wir können den Leuten Arbeit sparen bei Dingen, die sie eh nicht gerne machen und das ist total gut.

00:37:53: Max Niessner Und auf der anderen Seite kommt dieser Barbara Salesch Moment, ich weiß nicht, ob die noch jemand kennt, Barbara Salesch war früher so 'ne Fernsehrichterin bei R.

00:37:59: Max Niessner T.

00:37:59: Max Niessner L.

00:37:59: Max Niessner und die hat dann immer die Brille so runtergezogen und ganz böse geguckt.

00:38:03: Max Niessner Und

00:38:04: Max Niessner dann kommt die Frage, ist das denn rechtlich sauber, ist das denn datenschutztechnisch dokumentiert, habt ihr denn alle Dokumente, die ihr dafür braucht und ja, das ist tatsächlich 'n Thema, denn hier haben wir durchaus, ich sage mal, Dinge, die länger gedauert haben als wir gedacht haben.

00:38:22: Max Niessner Das ist nicht nur, weil wir gedacht haben, sondern weil es einfach 'n extrem komplexes Thema ist, weil die E.

00:38:26: Max Niessner U.

00:38:27: Max Niessner ab und zu mal an ihrem Recht dran rumschraubt, weil die K.

00:38:29: Max Niessner I.

00:38:30: Max Niessner Verordnung noch relativ neu ist in Deutschland

00:38:32: Max Niessner Und das führt einfach dazu, dass es viel gibt, was nicht so ganz klar ist beziehungsweise wofür es auch noch wenig geltendes Recht gibt und wofür man dann auch erstmal nach jemandem suchen muss, der einem 'ne fachlich belastbare Aussage trifft.

00:38:46: Max Niessner Deswegen immer mal wieder die kritischen Fragen, passt das denn alles so, ist das sauber, sind die Risiken bedacht und erst mit solchen Fragen und wenn die beantwortet sind, dann muss man sagen, wird aus einer guten Idee ein wirklich ernsthaftes Infrastrukturprojekt,

00:39:01: Max Niessner was ich mir für Eloki sehr wünsche, dass es das wird, ist, ich weiß es nicht.

00:39:07: Max Niessner Und dann gucken wir einmal auf die Spielregeln, denn der E.

00:39:09: Max Niessner U.

00:39:10: Max Niessner A.

00:39:11: Max Niessner I.

00:39:12: Max Niessner Act hat ja so gewisse Spielregeln gesetzt, die verändern sich bald wieder mit diesem Omnibuspakt, aber warten wir mal ab, was da dann genau drin steht.

00:39:19: Max Niessner Im Moment sieht es so aus, als ob zumindest das auf jeden Fall so bleibt.

00:39:22: Max Niessner Es gibt gewisse Risikostufen für künstliche Intelligenz, also falls jemand von euch vorhat,

00:39:28: Max Niessner in Zukunft auszusuchen per K.

00:39:30: Max Niessner I., welcher Mitarbeiter gekündigt wird, besser nicht.

00:39:34: Max Niessner Da sind wir im verbotenen oder im Hochrisikobereich.

00:39:37: Max Niessner Falls jemand vorhat, da irgendwas zu tun, bitte lasst die Finger davon.

00:39:42: Max Niessner Mit Eloki sind wir aber in 'nem Bereich, wo man sagen kann, da sind wir im minimalen Risiko und dieses minimale Risiko, das umfasst diese ganzen Chatanwendungen, wenn sie nicht dafür genutzt werden, Entscheidungen über das Leben von Menschen zu treffen.

00:39:55: Max Niessner Das heißt,

00:39:56: Max Niessner Übernutzungsbedingungen schließen wir auch gewisse Sachen aus.

00:39:58: Max Niessner Also wir schließen zum Beispiel aus, dass ihr dieses Tool verwendet, um eine Entscheidung zu treffen, welche Kindergärtnerin ihr, sagt man nicht mehr so, Erzieherin, ihr jetzt heute einstellt, ob die Frau Müller oder die Frau Meier, die sich gerade beworben haben.

00:40:16: Max Niessner Und wir müssen das auch in Schulungen quasi dokumentiert euch mitteilen, dass ihr das nicht dürft und dann sind wir auch safe

00:40:25: Max Niessner was den E.

00:40:26: Max Niessner U.

00:40:26: Max Niessner A.

00:40:28: Max Niessner I.

00:40:28: Max Niessner Act angeht.

00:40:29: Max Niessner Aber klar ist, es gibt einfach gewisse Anwendungen, die sind risikohaft, die sind begrenzt zulässig, die sind Hochrisiko oder die sind sogar verboten, ja.

00:40:37: Max Niessner Klar ist aber auch, mit Eloki sind wir in diesem Minimalrisikobereich, ja.

00:40:43: Max Niessner Datenschutztechnisch sind wir sehr datensparsam und kontrolliert unterwegs.

00:40:46: Max Niessner Wir bewegen uns mit dem Tool im Rahmen des D.S.G.E.K.D.

00:40:51: Max Niessner und der D.S.G.V.O.

00:40:52: Max Niessner Dadurch, dass zum Beispiel Anfragen nicht dauerhaft gespeichert werden, wir keine K.I.

00:40:56: Max Niessner Modelle selbst trainieren, wir unsere Nutzerdaten nicht rausgeben, personenbezogene Daten nur eingeben, wenn es absolut nötig ist, beziehungsweise auch das kirchliche Rechenzentrum dafür Verschlüsselungen anwendet und so weiter und so fort.

00:41:09: Max Niessner Also da steht 'n ziemlicher Baum dahinter an Dingen und tatsächlich ist es so, dass es in diesem Bereich auch Kleinigkeiten sind, wo Fragen offen sind, die uns Wochen aufhalten.

00:41:22: Max Niessner Einfach deswegen, weil wenn wir die nicht geklärt haben, können wir es nicht sauber machen.

00:41:26: Max Niessner Wenn wir es nicht sauber machen können, dann können wir es eigentlich gar nicht machen.

00:41:30: Max Niessner Das Gleichgewicht finden gilt hier natürlich an oberster Stelle zwischen Sorgfalt und Geschwindigkeit, denn auf der einen Seite muss man sagen, wer wartet, verliert Nutzer an unkontrollierte Tools.

00:41:40: Max Niessner Wir haben jetzt schon den Fall, dass wir irgendwie ganz große Schatten-I.T.

00:41:43: Max Niessner haben, dass wir irgendwelche Leute haben, die an offiziellen Strukturen vorbei alles Mögliche tun und wir haben die

00:41:52: Max Niessner Problematik, dass wenn wir es nicht sauber tun, machen wir uns natürlich angreifbar.

00:41:55: Max Niessner Das gilt ja nicht nicht für uns als E.K.D.

00:41:58: Max Niessner primär, sondern es gilt für die Landeskirchen, die die Dienstherren sind und die auch für ihre Ehrenamtlichen zuständig sind.

00:42:04: Max Niessner Und deswegen ist es die große Herausforderung, Innovation ermöglichen und Stabilität sichern, beides zusammen miteinander verschränkt, ohne dass es sich gegenseitig jetzt ausspielt.

00:42:15: Max Niessner Aber das sorgt für die Tatsache, dass wir vorangehen, aber eben langsamer vorangehen.

00:42:22: Max Niessner Dafür müssen wir genau das tun, was ich schon gesagt hab, stabile Infrastruktur, gründliche Prüfung, sicherer und rechtlich sauberer Aufbau.

00:42:31: Max Niessner Wir haben trotzdem den Bedarf nach Geschwindigkeiten, hohen Bedarf in den Einrichtungen, die immer wieder auf uns zukommen und diese Abwanderung.

00:42:39: Max Niessner Wir haben oft das Problem, dass wir ansonsten teuer werden oder datenschutzrechtlich schwierig.

00:42:48: Max Niessner Also wir haben tatsächlich auch

00:42:49: Max Niessner ganz viele K.I.-Projekte ja innerhalb der Landschaft der Gliedkirchen, die irgendwas tun und mit wenigen Ausnahmen ist es so, dass die entweder teurer werden oder schwer teuer werden, weil es zum Beispiel irgendwelche ganz spezialisierten Tools sind oder dass es datenschutzrechtlich schwierig ist, weil ich irgendwo in China Datenverarbeitung hab oder ähnliches.

00:43:12: Max Niessner Zum Kostenmodell, also die Idee hinter Eloki ist auch ein Kostenmodell und zwar

00:43:18: Max Niessner dass es einfach einen Fixpreis gibt für das Paket Einrichtung, Wartung, Service, Plattform zur Verfügungstellung und dass dann alles obendrauf kommt an Verbrauch.

00:43:29: Max Niessner Das heißt so ein bisschen wie: Ich kaufe mir den Wasserhahn, der kostet mich einmal 100 Euro und dann kaufe ich das Wasser zu dem Tarif, den eben das Wasserwerk anbietet.

00:43:38: Max Niessner An der Stelle muss man sagen:

00:43:40: Max Niessner das hat sich in der Vergangenheit auch als schwierig rausgestellt, das so auszuhandeln, wie das dann genau aussieht, weil natürlich auch die Betreiber damit entsprechend wirtschaften müssen.

00:43:50: Max Niessner Aber wir wollen es eben fair und transparent haben und das bedeutet auch, dass wir nicht akzeptieren werden, dass es nutzerbezogene Kosten gibt, die dann sagen, wer halt mehr Nutzer drauf schickt, muss für für jeden Nutzer irgendwie im Monat 'n Euro zahlen, weil das wird nicht funktionieren.

00:44:06: Max Niessner Und mit den Verbrauchskosten sind wir total niedrig, also nur mal zum Vergleich,

00:44:10: Max Niessner da verbraucht ein normaler Nutzer häufig im Monat unter 'nem Euro.

00:44:15: Max Niessner Der Punkt ist, wenn ich den Fixpreis so mache, dass ich wirklich die zu leistende Arbeit für die Betreuung, den Server, die ganze Infrastruktur abgedeckt habe und dann den Verbrauch mache, dann geht eigentlich keiner 'n großes Risiko ein.

00:44:31: Max Niessner Dann wissen wir, alles was wir da an Zusatzkosten haben, können wir ungefähr kalkulieren, ja und diese Kalkulation

00:44:40: Max Niessner ist natürlich nicht final, aber wir können auch Obergrenzen einziehen.

00:44:43: Max Niessner Das heißt, wir können zum Beispiel sagen, wir haben Limitierungen von so und so viel Euro pro Monat, ja, die verbraucht werden dürfen und dann können wir das auch mit kirchlichen Haushalten übereinbringen.

00:44:54: Max Niessner Und an der Stelle ist es dann noch mal so, dadurch dass wir das, dass wir das aufschlüsseln können, können wir auch an Weichen stellen.

00:45:02: Max Niessner Das heißt, wenn wir den Tokenverbrauch haben, können wir gucken, wo ist denn der Verbrauch günstiger, wo ist der Verbrauch teurer.

00:45:09: Max Niessner kostet es in Frankreich mehr zu rechnen, ist genauso DSGVO oder DSGEKD konform wie in Deutschland, dann könnte man auf ein französisches Modell wechseln.

00:45:19: Max Niessner Das ja genauso gut Deutsch spricht wie die deutschen Modelle, aber ein einfach in einem anderen Rechenzentrum sitzt.

00:45:24: Max Niessner Ja, auf der anderen Seite ist Websuche zum Beispiel 'n Thema.

00:45:27: Max Niessner Websuche kann mitunter teurer sein, dass das Ding im Internet suchen kann nach gewissen Dingen als dass die Token Zeit selbst.

00:45:36: Max Niessner Aber

00:45:37: Max Niessner aber auch da ist es so, wenn es nach Verbrauch geht, dann ist es transparent und dann kann man es über diese technische Infrastruktur einfach auch limitieren und kann sagen, na ja, wenn ich halt Gemeindesekretärinnen haben, dann hab die nur so und so viel Kontingent haben, dann haben die nur so und so viel Kontingent und wenn ich halt irgendwie welche Heavy User hab, wo ich sage, die machen viel, bei denen kommt auch viel raus, dann kann ich das Limit entsprechend setzen, so dass das funktioniert.

00:46:01: Max Niessner Das heißt auch da am Landeskirchen Kontrolle.

00:46:06: Max Niessner Was haben wir denn gelernt dabei?

00:46:08: Max Niessner Also ich würde sagen, Punkt 1 digitale digitale Souveränität ist kompliziert, komplex und entsteht auf gar keinen Fall von alleine.

00:46:15: Max Niessner Denn wenn wir uns damit beschäftigen, dann müssen wir sicher sein, wir müssen es gut aufbauen, wir müssen es bewusst machen, wir müssen das pflegen, wo man sich bewusst für entscheidet und wo es auch wichtig ist, gewisse Schritte mit Bedacht zu gehen und sich klar zu sein, dass es teilweise auch mitunter ein bisschen länger dauert.

00:46:35: Max Niessner Das zweite ist, 'ne gemeinsame Infrastruktur aufzubauen über verschiedene Organisationen ist auch 'n komplexes Thema.

00:46:41: Max Niessner Das heißt, wir haben alle möglichen Schwierigkeiten damit mit der Abstimmung und so weiter und so fort.

00:46:47: Max Niessner Aber es ermöglicht uns eben auch gemeinsame Lösungen mit den einzelnen Einrichtungen und es ermöglicht uns, dass auch 'ne kleine Landeskirche oder 'ne große Diakonie, die aber kleiner ist als 'ne Landeskirche, die Möglichkeit hat in so 'n System einzusteigen und zu sagen, da wollen wir rein,

00:47:05: Max Niessner wir gehen dieses diesen Weg, wir könnten das aber nicht selbst entwickeln.

00:47:11: Max Niessner Ja, das heißt, wenn wir eine für alle offene Infrastruktur bauen, wo wir sagen, hier kann sich eine Landeskirche oder eine Institution anschließen, dann heißt das auch, dass wir Kosten an der Stelle einfach einmal tragen und sie dann nicht noch mal aus Kirchensteuermitteln tragen müssen.

00:47:33: Max Niessner Und drittens, der Weg ist absolut anstrengend.

00:47:36: Max Niessner Es ist seit jetzt 9 Monaten ein regelmäßiges Austauschen, Köpfe rauchen, treffen, alles Mögliche tun und ich hoffe so sehr, dass wir bald an dem Punkt sind, am liebsten morgen, an dem wir sagen können, so und jetzt müssen wir eigentlich nur noch damit arbeiten und den Leuten erzählen, wie toll es ist.

00:47:54: Max Niessner Dennoch, das ist anstrengend.

00:47:57: Max Niessner und da stecken einige sehr kluge Köpfe dahinter, es stecken einige Auseinandersetzungen dahinter, da gab es einiges an Konflikten und dennoch würde ich sagen, für sowas lohnt es sich total.

00:48:08: Max Niessner Denn es kann, wenn es erfolgreich ist, für sehr viele ein gutes Projekt sein.

00:48:16: Max Niessner Und deswegen würde ich sagen, es bleibt uns eigentlich nur 1, nämlich Verantwortung wirklich zu gestalten.

00:48:21: Max Niessner Denn die Frage, die wir uns stellen müssen, ist nicht, ob K.

00:48:23: Max Niessner I.

00:48:24: Max Niessner hier 'ne Rolle spielt,

00:48:25: Max Niessner das ist völlig klar, das ist längst gegessen, das Thema.

00:48:29: Max Niessner Die Frage ist, unter welchen Bedingungen spielt sie 'ne Rolle und wie gestalten wir das oder wollen wir es gestalten oder kriegen wir vielleicht aus Shenzhen unsere K.I.

00:48:36: Max Niessner Strategie oder aus irgendwo im Silicon Valley.

00:48:41: Max Niessner Und deswegen würde ich sagen, Eloki ist der Versuch, Rahmenbedingungen zu schaffen, die unseren Werten entsprechen und auch ein Werkzeug, möglichst demokratisch und niedrigschwellig zur Verfügung stellen, dass es einfach

00:48:55: Max Niessner in den kirchlichen Rahmen passt, ja.

00:48:59: Max Niessner Und dass wir nicht irgendwo einfach was einkaufen und das machen, was alle anderen tun und damit alle Augen zudrücken bei gewissen Themen.