Prioritäten für die Forschung

Viele Wissenschaftler nutzen bereits ChatGPT oder andere IT-Sprachmodelle für ihre Arbeit, um Essays und Vorträge zu schreiben, Literatur zusammenzufassen, Artikel zu entwerfen, Forschungslücken zu identifizieren und Computercode zu schreiben, einschließlich statistischer Analysen. Bald wird sich diese Technologie so weit entwickelt haben, dass sie auch Experimente entwerfen und Manuskripte schreiben und vervollständigen kann, dazu Peer-Reviews durchführen und redaktionelle Entscheidungen zur Annahme oder Ablehnung von Manuskripten unterstützen wird. Künstliche Intelligenz wird die Forschung und das Publizieren revolutionieren und kommt dabei sowohl mit Chancen als auch mit Risiken: Der Innovationsprozess ließe sich beschleunigen, die Zeit bis zur Veröffentlichung verkürzen und Wissenschaft gerechter machen, gleichzeitig könnte aber auch die Qualität und Transparenz der Forschung beeinträchtig werden, denn die von ChatGPT und anderen KIs produzierten Texte sind zwar überzeugend, aber oft auch falsch und verzerren wissenschaftliche Fakten oder verbreiten Fehlinformationen. Eine Literaturrecherche erfordert beispielsweise ein tiefgreifendes Verständnis der Literatur. Wenn diese fehlt, kann es schnell zu falschen und irreführenden Texten kommen.

Ein Verbot wird nicht funktionieren, deshalb will sich die Forschungsgemeinschaft an einer Debatte über die Auswirkungen dieser potenziell disruptiven Technologie beteiligen. So gibt es bereits Tools, die die Wahrscheinlichkeit vorhersagen, ob ein Text von Menschen oder einer Maschine stammt. Auch sollen Autorenbeiträge und Danksagungen in Forschungsarbeiten klar und deutlich angeben, ob und in welchem Umfang KI-Technologien wie ChatGPT bei der Erstellung eines Manuskripts und Analyse verwendet wurden. Eine der unmittelbarsten Fragen für die Forschungsgemeinschaft ist der Mangel an Transparenz, so dürften Klagen wegen Urheberrechte von Texten und Bildern, die zum Trainieren von KI verwendet oder auch von KI generiert werden, zu einem gewaltigen Problem werden.

Zudem sind derzeit sind fast alle modernen Konversations-KI-Technologien Produkte großer Technologieunternehmen: OpenAI wird größtenteils von Microsoft finanziert, und andere große Technologieunternehmen rennen um die Veröffentlichung ähnlicher Tools. Dies wirft angesichts solcher Monopole in den Bereichen Suche, Textverarbeitung und Informationszugriff erhebliche ethische Bedenken auf. Nichtkommerziellen Organisationen wie Universitäten fehlen in der Regel die Rechen- und Finanzressourcen, die erforderlich sind, um mit dem rasanten Tempo der Entwicklung Schritt zu halten.

Fazit: ChatGPT ist erst der Anfang und schon bald wird es weitere KI-Anwendungen geben. Google bereitet aktuell BARD vor und will dieses Sprach-System als ergänzende Websuche einsetzen. Inzwischen gibt es aber von KI-Experten ernsthafte Warnhinweise zum allzu vertrauensseligen Einsatz dieser KI, denn sie ist nicht wirklich intelligent, auch wenn sie mit ihren Rede- bzw. Schreibbeiträgen so daherkommt. ChatGPT oder andere Sprachsysteme habe keine Ahnung, was eine Zahl ist oder ein Haus oder ein AID-System. Das Modell berechnet nur, welches Wort in einem Satz am wahrscheinlichsten als Nächstes folgt, damit ist ChatGPT ein mathematisches Modell. Das menschliche Gehirn aber ist sehr viel komplexer. Die Forschungsgemeinschaft muss sich deshalb dafür einsetzen, dass unabhängige Institutionen wie Wissenschaftsförderer, Universitäten, Nichtregierungsorganisationen (NGOs), staatliche Forschungseinrichtungen und Organisationen wie die Vereinten Nationen – aber auch Tech-Giganten – erhebliche Investitionen in unabhängige gemeinnützige Projekte tätigen um fortschrittliche Open-Source-, transparente und demokratisch kontrollierte KI-Technologien zu entwickeln. Wenn das nicht geschieht, haben wir es schnell mit „Fake Science“ in der Wissenschaft zu tun.

Den gesamten Text in englischer Sprache finden Sie hier

DiaTec weekly – Februar 10, 23