ChatGPT für die Wissenschaft - Eignet sich die KI für Texte in der Forschung?

Der Chatbot ChatGPT ist groß im Gespräch. Die durch KI gestützte Software des amerikanischen Unternehmens OpenAI beantwortet Fragen und produziert Texte — und ist aktuell jedem frei zugänglich. Volker Bruns, Gruppenleiter Medizinische Bildverarbeitung in der Abteilung Digital Health Systems, hat mit der KI ein Gespräch über die Digitale Pathologie geführt. Das Ergebnis beeindruckte den Wissenschaftler, doch es ließ ihn auch aufhorchen: Welche Implikationen haben Roboter wie ChatGPT für die wissenschaftliche Arbeit? Darüber sprach er mit uns im Interview.

Wie bist Du auf die Idee dieses Gesprächs gekommen?

Volker Bruns: Durch einen unserer Lizenznehmer aus dem medizinischen Umfeld. Er sprach auf LinkedIn über seine Erfahrungen mit dem Bot. Das fand ich spannend – und wollte es auch testen.

Eignet sich ChatGPT für das Thema Digitale Pathologie?

Volker Bruns: Ja, absolut. Durch die positive Erfahrung des Lizenznehmers kam ich ja überhaupt erst auf die Idee. Und es ist tatsächlich beeindruckend, was ChatGPT an medizinischen Fachfragen beantworten kann. Natürlich war ich auch gespannt, was der Bot so an Fachkenntnissen mitbringt in meiner Domäne, in der ich beurteilen kann, wie gut die Antworten sind und ob auch mal eine falsche dabei ist.

Wir haben die Ergebnisse im Nachhinein noch ein bisschen aufgewertet – beispielsweise bei der Frage nach zugelassenen KI-Anwendungen in der Pathologie. Da hat der Bot nur zwei bis drei genannt, die aber nicht ganz richtig waren, eines war zum Beispiel auch nur ein Forschungsprojekt. Wir haben in der Antwort eine Eigenrecherche eingeflochten und die unserer Kenntnis nach aktuell verfügbaren kommerziellen KIs in diesem Bereich aufgelistet. Aber ich habe auf jeden Fall gemerkt, dass ChatGPT die Konversation wirklich versteht – ich musste zum Beispiel nicht in jede einzelne Frage einfließen lassen, dass wir uns im Kontext Digitale Pathologie befinden. Auch Korrekturen nahm der Bot an.

Hast du vielleicht auch neue Erkenntnisse gewonnen?

Volker Bruns: Für mich hat es jetzt keinen fachlichen Erkenntnisgewinn gebracht, einfach weil es die Domäne ist, in der ich mich ohnehin auskenne. Ich recherchiere allerdings aktuell für einen Beitrag, bei dessen Thema ich nicht ganz so versiert bin. Hier habe ich mir von ChatGPT zunächst mal Definitionen geben lassen für all die Begriffe, mit denen ich noch nicht so viel anfangen konnte („What is XY?“). Das waren dann insgesamt einige Seiten, die ich mir in Ruhe durchgelesen und so einen guten Überblick bekommen habe. Gleichzeitig habe ich nun schon einen Fundus an Paragraphen, Sätzen oder zumindest Formulierungen, bei denen ich mich anschließend beim Texten bedienen kann. Bei offiziellen Texten wäre ich hier allerdings wegen möglicher Urheberrechtsfragen eher vorsichtiger und würde nicht wörtlich übernehmen.

Welche Vorteile bringt eine KI wie ChatGPT?

Volker Bruns: Ich glaube, dass das ein hilfreiches Werkzeug sein wird, um die Produktivität bei der Textproduktion zu steigern. Beispielsweise in unserem Alltag: So wie ich ab und zu mal für kleinere Übersetzungsarbeiten DeepL bemühe, könnte ich mir vorstellen, dass ich dann auch einfach ChatGPT offen habe und immer wieder mal einen Paragraphen schreiben lasse, diesen überprüfe und letztlich zusammenfüge. Auch als Einstieg in ein Thema eignet sich ChatGPT: Er liefert einem beispielsweise die wichtigsten Buzzwords und bei Bedarf dazu auch gleich die Begriffsdefinitionen.

Auch wenn es darum geht, harte Fakten zu recherchieren, könnte ich mir vorstellen, dass der Bot hilft. An einer Stelle des Gesprächs mit ChatGPT habe ich gefragt: Wie viele Pathologen gibt es in Deutschland, und wie viele Pathologen pro Patient? Andererseits ist nicht auszuschließen, dass er hier versehentlich falsche Zahlen angibt. Das zeigt eines der größten Mankos des Bots: Es gibt keine wissenschaftlichen Quellenangaben. Auf Nachfrage kriegt man nur einen sehr kurzen und allgemeinen Überblick über verwendete Literatur ohne Seitenangaben. Eine ausführliche Gegenrecherche ist aktuell also noch unabdingbar.

Deshalb denke ich, dass man sich gut überlegen muss, wie man die Texte geschickt und vernünftig einsetzt. Den Bot jetzt einfach etwas produzieren zu lassen und das dann mehr oder weniger ungesehen zu benutzen – da wird man sich schnell die Finger verbrennen. Wissenschaftlichen Ansprüchen genügt es jedenfalls nicht.

Für die Benutzung sollte man also am besten selbst Fachwissen mitbringen und die Ergebnisse kritisch betrachten?

Volker Bruns: Genau. Aus diesem Grund kann ich beispielsweise verstehen, dass sich Lehrer Sorgen machen, wenn Schüler, die vielleicht keine Lust auf Hausaufgaben haben, denken, dass da etwas Plausibles rauskommt. Gleichzeitig fehlt ihnen aber vielleicht die Kompetenz, die Ergebnisse an den richtigen Punkten zu hinterfragen. 

Diese Reflexion braucht es auch in der Forschung: Fast alle Forschungsprojekte heutzutage sind interdisziplinär, gerade bei uns in der Medizintechnik. Wir sind letztlich Informatiker und arbeiten viel mit Ärzten zusammen. Vor Kurzem haben wir beispielsweise einen Antrag geschrieben, da ging es um Hirntumore. Da mir hier das Fachwissen fehlt und ich die Zeit der Mediziner nicht überstrapazieren wollte, habe ich mich vor dem nächsten Gespräch zu dem Thema etwas aufschlauen wollen. Dafür konnte ich wieder ChatGPT nutzen. Aber auf dieser Basis dann auch direkt Teile des Antrags zu schreiben wäre definitiv nicht in Frage gekommen. Wie soll man erkennen, ob die Antworten richtig sind, oder etwas Wichtiges weggelassen wird? Da vertraue ich dann doch lieber auf die Expertise unserer klinischen Partner.

Am Ende muss man aber auch festhalten: Gerade in der Forschung haben wir viele reflektierte Menschen, die mit einer gesunden Skepsis durchs Leben gehen und wenig Gefahr laufen, so einer KI allzu sehr zu vertrauen. Vor diesem Hintergrund könnte ich mir vorstellen, dass sich ChatGPT in der Wissenschaft wirklich zu einem hilfreichen Tool entwickelt, weil die Nutzer in der Regel gut ausgebildet sind und von Natur aus den Charakter haben, Dinge zu hinterfragen. 

Wie siehst du die Rolle von ChatGPT in der nahen Zukunft?

Volker Bruns: Ich würde selbst eher noch zögerlich sein und davon abraten, mich davon abhängig zu machen. Einfach weil nicht klar ist, was jetzt damit passiert – ob alles in dieser Form erst mal noch verfügbar sein wird. Ich schätze, dass Microsoft und OpenAI irgendwann die Testphase beenden. Gerade erst ist ein Abo-Modell für 20 € im Monat gestartet. Zwar gibt es noch die kostenfreie Variante, aber wer weiß wie lange noch. 

Beitrag von Lucas Westermann, Redaktion Fraunhofer IIS Magazin