Auf dem diesjährigen Sommerempfang der Heilberufe, zu dem die Körperschaften der hessischen Heilberufe am 10. Juli 2024 unter dem Titel „Mensch vs. Maschine – Warum starke Köpfe die KI nicht fürchten brauchen “ eingeladen hatten, begeisterte der Gastredner Prof. Dr. Volker Busch die gut 150 Gäste im Wiesbadener Opel-Bad.
Prof. Dr. Sabine Tacke, Präsidentin der Landestierärztekammer Hessen, eröffnete den Abend und unterstrich, dass es längst nicht mehr zur Debatte stünde, ob man in der Medizin KI wolle oder nicht. Anwendungen, die auf diesen Technologien fußen, seien bereits allgegenwärtig und die Frage sei vielmehr, wie man sich jetzt und künftig dazu verhalte. Hierzu erhoffe sie sich neue und wissenschaftlich fundierte Anhaltspunkte.
Gesundheitsministerin Diana Stolz betonte, dass die Landesregierung den Fortschritt von KI zur Optimierung von Diagnostik und Therapie begrüße. „Die Zunahme von Rechenleistung und Datenmengen eröffnet dem Gesundheitswesen ganz neue Möglichkeiten für die Gesundheitsversorgung. Schon heute spielt KI eine immer größere Rolle und in der medizinischen Bildgebung kommt sie mittlerweile regelmäßig zum Einsatz. Darüber hinaus kann KI das Gesundheitspersonal z. B. bei Routinearbeiten oder Verwaltungsangelegenheiten entlasten und unterstützen.“
„Mensch vs. Maschine – Warum starke Köpfe die KI nicht fürchten brauchen “
Prof. Dr. Volker Busch, Neurologe, Psychiater und Wissenschaftler am Lehrstuhl für Psychiatrie und Psychotherapie an der Universität Regensburg eröffnete sein Plädoyer für Natürliche Intelligenz mit der These „Der Mensch ist viel mehr“ als KI.
Korrelieren ist nicht Denken
Während Künstliche Intelligenz (KI) zwar größere Datensätze überblicken und erheblich rascher als der Mensch Muster erkennen und etwa aus Wetterdaten, Röntgenbildern usw. Ergebnisse generieren könne, habe dies mit menschlicher Intelligenz recht wenig zu tun. Denn KI „korreliere“ nur und „denke nicht“. Korrelieren habe mit Denken nichts zu tun, so Busch. Korrelieren und große Datenzusammenhänge überblicken und darin Muster zu identifizieren, bedeute nicht, „zu verstehen was passiert.“ Das sei „der fundamentale Unterschied“ zwischen KI und menschlichem Gehirn. Aber leider sei dies vielen mit Google aufgewachsenen jüngeren Menschen gar nicht klar.
Busch untermauerte seine These, dass der Mensch viel mehr sei, mit einschlägigen Beispielen. Eine Medizin-Software habe beispielsweise nur dann Hautkrebs zu 99,9 Prozent erkannt, wenn auf Bildern mit Hautveränderungen der zur Tumorgrößenbestimmung verwendete Maßbandschnipsel abgebildet war. Da sie nicht denken kann, hatte sie einfach „Maßbandschnipsel“ plus „Hautveränderung“ gleich „bösartig“ korreliert. Beim Test an menschlicher Haut, wo die Maßband-Orientierung fehlte, versagte die dermatologische KI mit einer Trefferquote von 60 Prozent jämmerlich. Eine Kuherkennungssoftware habe die Rinder nur erkannt, wenn diese auf einer grünen Wiese standen. Kühe am Strand erkannte die Software nicht, da nur Tier mit grünem Hintergrund zu „Kuh korreliert“ wurde. Mit hellem Strand funktionierte das schon nicht mehr
KI-Schwachstelle: Gefahr falscher Zusammenhänge
Eine weitere Schwachstelle von KI besteht auch darin, falsche Zusammenhänge herzustellen. Bekannt ist beispielsweise die Geschichte eines Google-Bots von 2016 mit der unsinnigen Schlagzeile „Speiseeis verursacht Sonnenbrand“. Da hatte die Software einfach eine Art Dreisatzlogik versucht: Wenn im Sommer mehr Speiseeis gegessen wird und es mehr Sonnenbrände gibt, dann verursacht Speiseeis mehr Sonnenbrand. So ähnlich wie der Volksglaube, die Störche brächten die Kinder, da während im Frühsommer die Anzahl der Storchenpopulation steigt, auch die Geburtenrate hochschnellt.
Was das Gehirn der KI überlegen macht
Obgleich das menschliche Gehirn im Vergleich zu einem der größten Hochleistungs-Computer in Garching mit einer Geschwindigkeit von 100 Petaflops lediglich 1 Petaflop leiste, arbeite es effizienter und sei dem Computer haushoch überlegen, so Busch. Denn der Mensch kann in Kontexten denken: „Wir können Sinn und Verstand hinein addieren, wir können denken“, zumindest im Prinzip. Denn auch wir machten Dummheiten, und es wäre ziemlich dämlich zu behaupten, der Mensch denke fehlerfrei.
Was aber mache Menschen gegenüber der Ki intelligenter? Was mache es aus, dass der „Mensch viel mehr ist“ als KI?, fragte Busch und gab zugleich selbst die Antwort: Es sei „unsere Fähigkeit, nicht nur Zusammenhänge in großen Daten zu finden“, sondern , „dass wir Denkenwissen addieren und ergänzen“, wozu unter anderem „Lebenserfahrungen, die wir gemacht haben, logische Schlussfolgerungen ziehen zu können, Fantasie und Gefühle zu entwickeln“ gehörten.
Maschinen besitzen kein Arbeitsgedächtnis
Hirnphysiologisch betrachtet, sei, sehr vereinfacht dargestellt, der Präfrontale Cortex mit Vorderlappen, auch Arbeitsgedächtnis genannt, für unser Denken verantwortlich. Das Arbeitsgedächtnis könne man sich wie eine „Bühne vorstellen“, so Busch. Auf dieser Bühne werden all die Daten und das „was Sie da so wahrnehmen: Ihre Erfahrungen, Ihre Gefühle, Ihre Fantasie, Ihre Kombinatorik – zusammengebracht, dies alles miteinander in Bezug gesetzt und zu einem Ergebnis geführt, so der Neurologe. Dieser Ort korreliere mit unserer Intelligenz, aber leider auch mit dem, was verloren ginge, wenn wir älter werden. Je „breiter Ihre Bühne ist, desto höher ist Ihr IQ“, wobei bekanntermaßen ab zirka dem 30. Lebensjahr ein paar Blanken von der Bühne abgebaut würden.
Der Hippocampus ist unser Bibliothek von Erfahrungs-Wissen
Etwas wettgemacht werde der Verlust im Arbeitsspeicher durch unsere Erfahrungsbibliothek, dem Hippocampus (Seepferdchen). Man könne sich den „Hippocampus als eine riesige Bibliothek an Wissen und Erfahrung vorstellen“. In dieser „Bibliothek“, so Busch, sei alles drin, was Menschen an Erfahrungen gemacht haben, etwa wie man koche, segle, Gitarre spiele, oder auch die beruflichen, handwerklichen und künstlerischen Fähigkeiten, Fremdsprachen, Erfahrungen mit Mitmenschen – alles sei da gespeichert. „Und soll ich Ihnen etwas sagen: Es gibt nach allem, was wir wissen, keine Begrenzung nach oben! Die Bibliothek ist nie voll! Unsere Erfahrungen sind nie maximal. Es werden zur Not immer noch Regale angebaut“, ermutigt Busch sein gebannt zuhörendes Publikum. Das menschliche Gehirn nutze sich nicht ab wie ein Computer. Im Gegenteil: Je mehr wir es gebrauchen, umso besser werden wir. Beim Computer wäre das genau umgekehrt, zudem habe er keine Arbeitsgedächtnis und könne natürlich auch keine neuen Eindrücke und Erfahrungswissen miteinander in Verbindung bringen, also das vollbringen, was das menschliches Denken kennzeichne.
Allein der Mensch ist zu intuitivem Denken fähig
Während KI-Software mit Daten gefüttert werden müsse, mache der Mensch seine Erfahrungen selbst. Ein Computer kann das nicht. Als Besonderheit könne beim Menschen das Sammeln von Erfahrungswissen, von Weltwissen, in bestimmten Entscheidungssituationen auch manchmal dazu führen, „dass wir Entscheidungen treffen, die gegen die Datenlage sprechen. Und genau das macht uns erfolgreich“, ist Busch überzeugt. Diese Fähigkeit, aus dem Bauch heraus zu entscheiden, obwohl zunächst alle Fakten dagegen zu sprechen scheinen oder eine bestimmte Entscheidung nicht hergeben, nennen wir Intuition. Zu intuitivem Denken ist allein der Mensch fähig.
Intuitives Denken hilft auch, klug zu entscheiden
Beispielsweise habe er, so Busch, als junger Mediziner auf einer Babyintensivstation erlebt, wie wertvoll menschliches Bauchgefühl helfen könne, klug zu entscheiden: Während er als diensthabender Jung-Arzt auf einen Notruf der erfahrenen Kinderkrankenschwester Agnes hin in der Säuglingsstation alle Parameter vorhandener Kontroll-Apparate, an dem der Säugling angeschlossen war. kontrolliert und für unauffällig befunden hatte, habe Schwester Agnes darauf bestanden, dass „mit dem Baby irgendetwas nicht stimmt“. Und Schwester Agnes, die aus ihrer Intuition heraus gehandelt hatte, „hatte recht, nicht nur einmal, sie hatte fast immer recht gehabt“, so Busch. Denn die erfahrene Krankenschwester habe etwas erfasst, „was Maschinen oder KI nicht erfassen können. Das ist zum Beispiel das Bewegungsverhalten von Kindern. Ein Kind bewegt sich anders, wenn es krank ist. Da ist das Hautkolorit: Kinder haben eine ganz andere Hautfarbe, wenn sie krank sind. Die Fäzis riechen anders, wenn sie krank sind“. Das seien alles Dinge, so Busch, die eine KI nicht erkenne, aber ein Mensch mit entsprechender Erfahrung schon. Schwester Agnes habe „schon lange keine Bücher mehr gelesen, aber ihre Erfahrungsbibliothek sei gut gefühlt gewesen“, während er als Jung-Arzt viele Bücher gelesen hatte, „aber seine Erfahrungsbibliothek noch leer gewesen“ sei.
„Diese Lebenserfahrung spülen wir ins Arbeitsgedächtnis auf unsere Bühne, und verbinden sie mit neuen Informationen, vermischen sie auf dieser Bühne, und dadurch entsteht das Einordnen, das Denken, Verstehen und Bauchgefühl“, erläutert der Neurologe am eigenen Beispiel, wie er allmählich immer mehr wertvolles Erfahrungswissen sammeln konnte, wodurch er erst der gute Arzt wurde, der er ist.
Intuition ist immer an Erfahrung gebunden
Intuition sei immer erfahrungsbasiert, und keine kosmische Eingebung, für die sie die Menschen manchmal hielten. Intuition basiere auf einer Erfahrung, „die wir gemacht haben, die irgendwann sagt: hier stimmt etwas nicht. Das könne beispielsweise ein Grund dafür sein, dass manch „ein Chirurg im OP nochmal aufmache“, ein „Zöllner jemanden an der Grenze rauswinke“, ohne dass es eine sachliche Begründung gäbe. Intuition sei keine Einbildung. Einbildung liege beispielsweise vor, wenn wir, ohne entsprechende Vorerfahrungen glauben, aus dem Bauch heraus das „Richtigere“ zu erkennen. Einbildung wäre beispielsweise, wenn heute jemand erzähle, er habe 2019 schon die Corona-Krise vorausgesehen. Denn niemand hatte bis zum Ausbruch von Corona eine derartige „Pandemieerfahrung“ gemacht. Doch „Intuition ist immer an Erfahrungen gebunden! Schwester Agnes hatte sie. Ich nicht!“, so Busch, rückblickend selbstkritisch ehrlich!
70 Prozent intuitiver Entscheidungen stimmen
Natürlich können Intuitionen auch mal trügerisch und falsch sein. Sie seien “keine innere Stimme, der man immer vertrauen könne“. Wissenschaftliche Studien schätzten, so Busch, dass lediglich 70 Prozent der Bauchentscheidungen korrekt seien. Diese ließen sich jedoch durch systematisches allabendliches Reflektieren seiner Tagesentscheidung noch um 10 Prozent verbessern. Mehr aber ginge kaum: Das läge mitunter daran, dass viele Situationen einfach neu seien, in denen dann Erfahrungswissen wenig nütze. Aber auch zu starke Gefühle könnten das Bauchgefühle kaputt machen, etwa bei heftiger Verliebtheit, oder auch zu starken negativen Emotionen wie Ängsten. Zu starke emotionale Zustände wirken eher realitätsverzerrend, Menschen könnten beispielsweise „Blind vor Liebe“, „Blind vor Wut“ sein, sich von „der Angst aufgefressen“ fühlen.
Der Preis für Technikgläubigkeit ist Verlust an Erfahrungswissen
Je mehr „die“ Technik uns Menschen „die“ Arbeit erleichtere oder abnähme, was ja erst einmal begrüßenswert sei, wachse jedoch auch die Gefahr, dass menschliches Erfahrungswissen zurück- oder verlustig ginge, womit unsere Abhängigkeit von KI-Software und Apparaten wachse. Mit seiner 25jährigen Erfahrung als Hirnforscher in der Psychiatrie glaube er, so Busch, dass „man für alles im Leben immer einen Preis zahlt“, ob es die Art sei, wie wir uns ernährten, wie wir mit unserem Lebenspartner umgingen, unsere Freunde behandelten. Irgendwann kommt es irgendwo an, und wirkt zurück, im positiven wie im negativen Sinn. „Und ich glaube, ganz ehrlich, dass wir auch einen Preis zahlen müssen für diese fantastische multimediale Welt, für diese vielen Informationen, und all den tollen Sachen, die damit verbunden sind“, befürchtet Busch.
Es sei ja noch ganz lustig, wenn wir bei Nutzung einer Eierkochen-App vielleicht ein wenig unsere Eierkoch-Kompetenz einbüßten, aber wenn angehende Ärzte eher auf KI als auf sich selbst vertrauen, könnten sie ihre Erfahrungsbibliothek letztlich nur unzureichend füllen. Seit in der Regensburger Neurologie neben dem CT auch ein hochmoderner Kernspin verfügbar sei, was die besten diagnostischen Bilder liefere und wirklich ein großer Fortschritt für Patienten sei, „untersuchen die Assistenzärzte nicht mehr neurologisch. Weil sie es nicht mehr brauchen oder denken, es nicht mehr zu brauchen. Die Röhre sagt dir das schon. Und wehe, es fällt aus. Dann stehen sie wie ein Ochs vorm Berg und können mit dem Reflexhammer dann nicht mehr richtig umgehen!“, so Busch. Das wäre eben der Preis, „den wir bezahlen müssen für neue Technologien, und das ist manchmal der Verlust, Erfahrungen zu machen.“
Wenn verlorengegangenes Erfahrungswissen gefährlich wird
Aber es ginge noch tiefer, so Busch, was er mit einem Beispiel aus Grönland untermauerte: Dort stiegen seit 2004 die lebensgefährlichen (Jagd-) Unfälle, und zwar seit die jungen Inuit zur Orientierung GPS nutzten. Statt wie einst üblich, erst nach achtjähriger Ausbildung durch einen erfahrenen Jägers allein zur Jagd gehen zu dürfen, hielten immer mehr junge Leute dank Google-Maps das nicht mehr für nötig. Wenn dann in der arktischen Wildnis ihr GPS ausfällt, hätten die Jung-Jäger ein großes Problem, „weil sie nie gelernt haben, Sternenbilder zu interpretieren, Schneegestöber einzuschätzen usw.“, so Busch. Der kulturelle Wandel durch diese Technologien sei so rasant, dass Fachleute inzwischen überzeugt davon seien, „dass das komplette Orientierungswissen der Inuit in zwei Generationen komplett verschwunden sein wird, was über mehrere Jahrhunderte aufgebaut worden ist“, zitiert Busch aus einer wissenschaftlichen Studie eines Kollegen, worüber dieser im Spiegel schrieb.
Mit dem „Auge“ des Menschen durch die „Brille“ von KI
Es ginge ja nicht darum, auf technischen Fortschritt zum Wohle der Menschen zu verzichten. Im Gegenteil: KI und was man damit alles, insbesondere auch in der Medizin im Bereich in der Diagnostik verbessern könne, begrüße er, so Busch. Eine Gefahr sieht der Neurologe jedoch darin, wenn „wir die ganze Zeit unser Denken, unser Fühlen abgeben an eine Technik“, wenn Menschen die technischen Fähigkeiten über die eigenen kognitiven Potentiale stellten. Damit verhindere der Mensch, wertvolles Erfahrungswissen zu sammeln und ausreichend seine eigene „Bibliothek“ zu füllen.
Wenn man hingegen die KI zunächst ihre immensen Potentiale ausspielen lasse, um die Ergebnisse danach denkend zu beurteilen, könnten KI und Mensch gute Freunde werden und sich bestens ergänzen.
Beide seien wichtig. Dabei sei KI, in Metaphern gedacht, jedoch die Brille, die den Blick schärfen, die Kantenschärfe verbessern und mehr Detailgenauigkeit erlauben könne. Aber „sehen“ könne nur der Mensch. „Ich gebe gern zu, dass die Brillen, die wir auf den Markt bringen, immer besser und immer schärfer werden – aber sie ersetzen das Denken nicht“, so Busch. Des Menschen Stärke ist sein „Sehen-Können“ und „unsere Chancen liegen im Arbeitsgedächtnis: präzise und sorgfältig denken zu können“, erläutert der Neurologe. „Mit scharfen Sinnen die Welt zu beobachten, viel Wissen anzueignen, viel Erfahrung zu sammeln, miteinander auszutauschen, gemeinsam aus Fehlern zu lernen“, sei das, „ was uns auszeichnet“, so Busch. Digitale Assistenzsysteme können uns daher nur ergänzen, nicht aber ersetzen.
Fazit: Der Mensch ist viel besser als KI. Er muss sie nicht fürchten, wenn er lernt mit ihr richtig umzugehen.
Dank an den Redner – Vorrang für natürliche Intelligenz bestätigt!
Dr. Doris Seiz, Präsidentin der Landeszahnärztekammer Hessen, dankte dem Vortragsredner des Abends für seinen äußerst anschaulichen, fundierten wie sehr unterhaltsam präsentieren Vortrag. In ihrem Schlusswort unterstrich die Präsidentin, dass sie grundsätzlich eine Verfechterin natürlicher Intelligenz sei und dieser Vortrag sie in ihrer Sichtweise bestätigt und gefestigt habe. Dennoch sehe sie den immensen Nutzen der KI, gerade auch im medizinischen Bereich. Seiz stellte noch einmal den Wert des Austauschs von Politik und Heilberufen heraus, der bei Gelegenheiten wie dem alljährlichen Sommerempfang des hessischen Bündnisses in entspannter Atmosphäre und angeregt durch wissenschaftliche Impulse auf Augenhöhe stattfinde. Nicht konfrontativ, sondern einzig konstruktiv und in stetigem Diskurs seien die vielen aktuellen Herausforderungen der Heilberufe zu lösen und ein zukunftsfähiges Gesundheitswesen zu schaffen, so die Präsidentin abschließend.
(Dokumentation: Diether von Goddenthow)
Weiter Informationen: Prof. Dr. Volker Busch
Buchtipp:
Prof. Dr. Volker Buch: Kopf hoch!: Mental gesund und stark in herausfordernden Zeiten | Mentale Stärke trainieren. Droemer-Knaur, München 2024
Das Bündnis „Heilen & Helfen“ wurde im Jahr 2007 von den hessischen Körperschaften der Heilberufe ins Leben gerufen, um den Anliegen der Heilberufe mehr Gehör in der Politik und Aufmerksamkeit im gesellschaftlichen Diskurs zu verschaffen. Es setzt sich aus verschiedenen Verbänden und Kammern zusammen: Landesärztekammer Hessen, Landeszahnärztekammer Hessen, Kassenzahnärztliche Vereinigung Hessen, Landesapothekerkammer Hessen, Psychotherapeutenkammer Hessen und Tierärztekammer Hessen. Informationen über das Bündnis Heilen & Helfen und seine Geschichte: www.heilberufehessen.de