Künstliche Intelligenz ist längst Teil unseres Alltags – auch in Bethel. Im Interview erklärt Vorstandsmitglied Dr. Simon Stark nach, warum es eine KI-Richtlinie für Bethel braucht, wie sensible Patientendaten vor der neuen Technologie geschützt werden müssen und was er die KI in der Vorstandssitzung gerne fragen würde.

Herr Dr. Stark, wann war Ihre erste bewusste Begegnung mit Künstlicher Intelligenz?

Dr. Simon Stark: Das war tatsächlich relativ kurz nach dem Launch von ChatGPT, also ungefähr im Oktober oder November 2023. Damals hörte man plötzlich von einem „KI‑Modell“. Ich habe mich angemeldet – noch bei einer Art Beta‑Vorgängerversion –, habe irgendeine kurze Frage eingegeben und war sofort baff, dass in Sekundenschnelle eine recht ausführliche Antwort kam. 

Gab es, was die Fähigkeiten der KI betrifft, einen besonderen „Aha‑Moment“?

Stark: Ja, das war Mitte vergangenen Jahres. In einem Podcast habe ich gehört, wie jemand direkt mit seinem KI‑Agenten gesprochen hat. Spracheingabe, Sprachausgabe, im Sekundentakt. Das hat mich neugierig gemacht. Ich habe in meinem privaten Account eine Trainingssimulation für eine Führungssituation gebaut, zum Beispiel für ein forderndes Streitgespräch. Die KI hat dann vorgeschlagen: „Lassen Sie uns die Simulation starten.“ Ohne jede Tasten‑ oder Display‑Berührung lief eine Gesprächssimulation, wie man sie im Alltag haben könnte. Wenn ich forsch hereinging, bekam ich eine forsche Antwort; wenn ich einfühlsam war, reagierte das System anders. Das war für mich der Moment, an dem klar wurde, wie stark solche Systeme schon sind – fast wie ein Telefonat mit einem kleinen Zeitversatz.

KI gilt oft als Verheißung für die Wirtschaft, eher weniger für den sozialen Bereich. Wie verhält sich das in Bethel?

Stark: Das ist ein großes und sehr wichtiges Thema, vor allem, wenn es um Beziehungsgestaltung geht. Es gibt mittlerweile schon Ratgeber, die sich sehr praxisnah damit beschäftigen, wie generative Sprachmodelle in der Beziehungsarbeit wirken können. Das macht nachdenklich, weil für uns in Bethel der Mensch im Mittelpunkt steht und Beziehungsarbeit bei uns immer zwischen Menschen stattfindet. Die Technik ist nur ein Unterstützungssystem, damit genau das gut funktioniert – und trotzdem ist es erstaunlich, was die Systeme technisch schon können und wie gut sie menschliche Interaktion und Beziehungssituationen zumindest imitieren können.

Wie bewerten Sie KI: eher als Chance, Risiko oder Zeitenwende?

Stark: Augen verschließen bringt nichts – KI ist längst da, wird in unserer Organisation genutzt und wird auch von Mitarbeitenden verwendet. Auch unsere Klientinnen und Klienten nutzen KI bereits, und damit müssen wir uns auseinandersetzen. Ich glaube nicht, dass wir davon überrollt werden, aber wir müssen das Potenzial gut nutzen, vor allem dort, wo wir von bürokratischen und administrativen Aufgaben entlastet werden. Das schafft wieder mehr Zeit für die Menschen. Das ist ein riesiges Potenzial. Aber es ist nicht so, dass ein Chatbot bereitgestellt wird und alles auf einmal einfacher wird. Wir werden eine Vielzahl unterschiedlicher Lösungen haben, die KI im Hintergrund nutzen – teils so, dass man sie gar nicht mehr als „KI“ wahrnimmt. Es braucht einen schrittweisen Prozess, klare Rahmenbedingungen und eine gute Einbettung in die Organisation

In den vergangenen Monaten wurde eine KI‑Richtlinie in Bethel erarbeitet. Warum ist das so wichtig? 

Stark: Die KI‑Richtlinie ist nicht isoliert zu sehen, sondern fügt sich in unsere strategischen Papiere ein: strategische Entwicklungsschwerpunkte, digitale Agenda, Governance‑Strukturen. Sie klärt, was bei der Nutzung von KI grundsätzlich zu beachten ist: rechtliche Rahmenbedingungen, ethische Fragen, technische Themen und auch organisatorische Aspekte – etwa, wer für welche Ergebnisse welche Verantwortung trägt. KI‑Modelle liefern oft sehr überzeugende Antworten – sie können aber trotzdem völlig falsch oder verzerrt sein. Deshalb ist klar: Es muss immer einen Menschen in der Entscheidungskette geben, der kontrolliert und die Verantwortung übernimmt. Die Richtlinie schafft einen Rahmen, der sowohl Grenzen setzt als auch Raum eröffnet, um KI‑Anwendungen zu erproben. Dazu gehören Bildungsangebote, Workshops und kleine Pilotprojekte.

Gibt es in Zukunft eine „Bethel‑KI“, die alle Mitarbeitenden nutzen können?

Stark: Es wird nicht die eine Bethel‑KI geben. Unser Leistungsangebot ist zu vielfältig, die Anforderungen zu unterschiedlich. Wir werden ganz verschiedene Lösungen für unterschiedliche Bedarfe haben. Microsoft 365 bringt beispielsweise Copilot mit, der bereits eng mit Microsoft‑Systemen verknüpft ist und in Verwaltungsbereichen viel Alltagstauglichkeit bietet. Daneben wird es weitere Modelle geben. Mitarbeitende dürfen aber nicht einfach „mal Gemini“ oder „mal ChatGPT“ nehmen, ohne dass klare Anforderungen geprüft werden. Das sind: Datenschutz, Informationssicherheit, Qualität und Verlässlichkeit des Anbieters.

Wie wird das entschieden?

Stark: Die KI‑Richtlinie sieht einen klaren Prozess vor. Bedarfe und gewünschte Lösungen werden gemeldet, dann wird geprüft, ob sie unseren Datenschutz‑ und Sicherheitsstandards genügen, ob Mitbestimmung nötig ist etc. Das braucht Zeit, aber wenn eine Lösung zugelassen ist, steht sie im „Warenkorb“ zur Verfügung.

Datenschutz ist eine rote Linie. Was ist mit Patientenakten, Behandlungs‑ oder Therapieplänen?

Stark: Patientenakten sind praktisch voll von personenbezogenen Daten. Da werde ich massiv davon abraten, einfach eine komplette Akte in ein öffentliches KI‑System zu werfen. Selbst wenn man behauptet, es seien nur „allgemeine“ Informationen, sind oft Kombinationen wie Geburtsdatum, Adresse oder Versicherungsnummer enthalten, durch die man jemanden wieder identifizieren kann. Anbieter sagen im Normalfall: Wenn du KI nutzen willst, müssen die Daten anonymisiert sein – also ohne personenbezogenen Bezug. In der Praxis ist das bei Akten extrem schwer, weil überall kleine Bezüge stecken. Deshalb ist für uns eine Grundvoraussetzung: Personenbezogene Daten müssen entweder auf unseren eigenen Servern oder in datenschutzkonformen Rechenzentren in Europa verarbeitet werden.

Wird KI irgendwann Entscheidungen in der Betreuungs‑ oder Behandlungspraxis treffen?

Stark: Nein, das kann ich ziemlich sicher ausschließen – und auch rechtlich geht das in Europa nicht. Die KI‑Verordnung aus Brüssel schreibt klar „Human in the Loop“ vor: Bei Entscheidungen, die Menschen betreffen, muss immer ein Mensch in der Entscheidungskette sein. KI kann helfen, Arbeitsabläufe zu entlasten, Zeit zu sparen, Dokumentation zu unterstützen – aber eine echte Entscheidung, die menschliches Schicksal berührt, trifft sie nicht. 

Manche argumentieren, eine KI entscheide streng rational und damit besser, ist das nicht so?

Stark: Die Ergebnisse von KI‑Systemen müssen immer kritisch geprüft werden. Ich vergleiche es manchmal mit einem sehr fleißigen Praktikanten: Er trägt etwas Erarbeitetes überzeugend vor, aber ich bleibe verantwortlich und muss alles noch einmal durchdenken. Ich darf nicht sagen „Die KI hat das so gesagt“, genauso wenig wie ich mich unreflektiert auf die Aussagen eines Praktikanten verlassen würde.

Gibt es Bereiche in Bethel, die Sie als „KI‑freie Zone“ sehen?

Stark: Ein ganzes Feld per se auszuschließen fällt mir aktuell schwer. Aber ich kann mir zum Beispiel KI in der Seelsorge oder im Hospiz nur sehr schwer vorstellen, wo es um sehr existenzielle Fragen und um menschliche Nähe geht. Und doch werden wir erleben, dass nicht wir als Organisation dort KI einführen, sondern Menschen ihre eigenen KI‑Assistenten mitbringen. Angehörige, die um Trost suchen, nutzen vielleicht schon heute Chatbots, die ständig zuhören, immer da sind und empathisch wirken – obwohl sie keine echten Gefühle haben. Auch wenn wir bestimmte Bereiche nicht aktiv adressieren, werden uns KI‑Anwendungen über unsere Klientinnen und Klienten begegnen. Darauf müssen wir uns einstellen und lernen, wie wir in solchen Situationen eben damit umgehen.

Wenn KI als junge Technologie schon jetzt so leistungsfähig ist, ist dann in einigen Jahren KI als echter Ersatz für menschliche Nähe Alltag? Kommt die digitale Diakonin? 

Stark: Es gruselt einen schon, wenn man von Fällen hört, bei denen ein junger Mensch extrem intensiv mit einem Chatbot interagiert. Es gab Fälle, wo die Frage auftauchte, ob der Chatbot einen jungen Menschen quasi in den Suizid getrieben hat. Das zeigt, wie mächtig solche Systeme schon wirken können – und das hat uns sehr alarmiert. Auf der anderen Seite ist es wichtig, nicht nur die Risiken zu sehen, sondern auch darüber nachzudenken, wie KI gut eingesetzt werden kann. Wenn wir jetzt die richtigen Rahmenbedingungen legen – Datenstruktur, Governance, Datenschutz, Ethik –, können KI-Systeme die Fachkraft-Klient-Interaktion ergänzen, ohne den Menschen zu ersetzen. Statt einer „digitalen Diakonin“ wird es vielleicht eher ein Assistent im ambulanten Setting, der Zwischenphasen überbrückt, dreimal am Tag Empfehlungen gibt oder in Krisensituationen Alarm schlägt und sagt: „Da muss jetzt jemand hingehen.“

Wie steht es mit der Kompetenzförderung? Werden alle Mitarbeitenden „KI‑fit“ gemacht?

Stark: Es gibt sogar eine gesetzliche Auflage: Wer KI in der Arbeit nutzt, muss vorher geschult sein. Das sehe ich sehr positiv, weil Schulung auch Raum für kritisches Reflektieren über die Ergebnisse von KI schafft. Bildung & Beratung Bethel hat bereits verschiedene KI‑Fortbildungen entwickelt, wie zum Beispiel einen „KI‑Kompass“, der bald verfügbar sein wird. Die KI‑Richtlinie liefert die Grundlagen, und wir laden Mitarbeitende dazu ein, sich auszuprobieren, zu erkennen, wo KI Potenzial hat – und wo ihre Grenzen liegen. Aber nicht alle 26.000 Mitarbeitenden werden das in der gleichen Weise durchlaufen. Viele Arbeitsplätze werden zwar digitale Lösungen nutzen, in denen KI im Hintergrund läuft, aber dort merkt man sie gar nicht mehr. Andere Bereiche – etwa mit direktem KI‑Umgang – brauchen gezielte, fachspezifische Schulungen. Es geht darum, Kompetenz da aufzubauen, wo sie wirklich nötig ist.

Wie begegnen Sie Menschen, die mit der KI Bauchschmerzen haben oder sich diese in der eigenen Arbeit nicht vorstellen können?

Stark: Ehrlich gesagt, sind mir das die liebsten. Ich glaube, wir brauchen gerade in einer Organisation wie Bethel auch diese kritischen Stimmen. Menschen, die sich von KI‑Hype und beeindruckenden Chat‑Antworten nicht blenden lassen, sondern sich sehr genau fragen: „Muss das wirklich so sein? Ist das gut durchdacht?“ Das ist wichtig. Eine vollständige Blockadehaltung wie „Mit KI habe ich nichts am Hut“ wird wie beim Internet nicht dauerhaft halten. Aber eine kritische Reflexion – für sich selbst, für die Organisation, für den Kollegenkreis – ist wertvoll. Wir müssen Räume schaffen, in denen Bauchschmerzen laut werden können: Wo gibt es echte Bedenken, was haben wir möglicherweise übersehen? In diesem Spannungsfeld zwischen Enthusiasmus und Kritik entstehen gute Lösungen.

Schlussfrage: Stellen Sie sich vor, die KI sitzt in zehn Jahren standardmäßig in jede Vorstandssitzung. Was würden Sie sie fragen?

Stark: Ich würde sie vermutlich das Gleiche fragen wie die menschlichen Kolleginnen und Kollegen. Wie war der Kaffee heute Morgen? Wie war der Weg zur Arbeit? Und: Hast du einen Parkplatz gefunden?