Ist ChatGPT eine Gefahr für Bildung und Arbeitsmarkt?

Wann immer er stattfindet verstehe sich der #digitalk als Begegnungsstätte zwischen Experten und interessierten Laien für das breitgefächerte Thema der Digitalisierung. Diesmal mit dem Thema ChatGPT. Ein Thema, das in jüngster Zeit ein Leitmotiv in fast allen Nachrichtenkanälen präsent war und am 17. Mai eine Vielzahl an Zuschauern vor die Rednerbühne lockte - diesmal nicht beim Karlsruher Kronenplatz, sondern in der Karlshochschule.

"ChatGPT, entwickelt von der Firma Open AI, wurde seit Ende 2022 zu einem wichtigen und immer aktuelleren Thema in vielen, vielen gesellschaftlichen Bereichen", so #digitalk-Moderator Uwe Gradwohl. "Dabei fragen sich viele, die sich erstmals damit beschäftigen: Wird die Gesellschaft davon profitieren? Oder ist ChatGPT vielleicht gefährlich für die Zukunft von Arbeitnehmern? Sollten wir Angst davor haben? Der ChatGPT wirft ein komplexes Geflecht an Fragen auf.

Mit dem Ziel, jenes Geflecht zumindest im Ansatz zu entwirren, lädt der Digitalk erneut drei Referenten ein, um sich dem Thema des Abends aus ihren jeweiligen Perspektiven zu nähern.

Natalie Beyer: Wie funktioniert der ChatGPT

Den Anfang macht Natalie Beyer, Datenwissenschaftlerin und Inhaberin einer Unternehmensberatungsfirma mit Fokus auf Künstliche Intelligenz (KI): Ihr Ansatz beginnt mit der Funktionsweise des Bots. "GPT. Das bedeutet Generative pre-trained Transformer", erläutert  Beyer.

"Was genau bedeutet das? Am leichtesten fällt es mir, die Bezeichnung von hinten nach vorne zu erklären", so Beyer. "Jede künstliche Intelligenz basiert auf künstlichen neuronalen Netzen, also digitalen Strukturen, die menschlichen Nervensystemen nachempfunden sind. Ein Transformer ist eine bestimmte Architektur dieser künstlichen neuronalen Netze, die vor allem bei der Textverarbeitung nützlich ist."

"Das Wissen der Welt als Datensatz"

Im Gegensatz zu anderen Formen dieser Netzwerke könne ein Transformer bei der Verarbeitung von Texten eine Vielzahl an Wörtern gleichzeitig erfassen und ihre Stellung im Text nummerieren, statt dass er Wort für Wort vorgeht. "Bei anderen Beispielen vergisst das Netzwerk zum Ende des Satzes hin häufig den Anfang", sagt Beyer.

Ein Vorteil dieses Transformer-Modells sei, dass sehr viele Daten, Fakten und Wörter gleichzeitig in die Datenbank des Bots eingespeist werden können. "Es ist praktisch das Wissen der Welt als Datensatz, die in die jetzt frei zugängliche Version von ChatGPT integriert wurde. Auf 410 Milliarden Wörter kann er zugreifen. Diese Datensätze bezeichnet man als 'Trainingsdaten'. Er wurde also zuvor trainiert, wodurch sich das 'pre-trained' ergibt."

"ChatGPT kann keine Inhalte erfassen"

Solch ein vortrainierter Transformer sei auch zu beeindruckenden sprachlichen Leistungen fähig. Die Krux liege aber im "Generative", wie Beyer fortfährt.

"Der ChatGPT generiert aus den verarbeiteten Datensätzen einen Text. Allerdings erfasst er die Bedeutung der Worte nicht, sondern stellt nur statistisch fest, welche Wortgruppen im Internet besonders oft vorkommen. Sprich, er beginnt mit einem Wort und berechnet dann, welches nächste Wort zu einem bestimmten Thema am wahrscheinlichsten ist", sagt sie.

Das könnte Sie auch interessieren

Karlsruhe Unser neuer Studi heißt ChatGPT: Karlsruher #digiTALK zu Perspektiven von KI

"Seine Textproduktion ist also reine Statistik und Stochastik. Er kann keine Inhalte, keinen Sinngehalt und keine Wahrheiten erfassen, geschweige denn überprüfen", so Beyer. "Dadurch ergibt sich auch das Problem, dass er bisweilen Falschinformationen verbreitet."

Human Nagafi: "Bürokratie auf Steroide"

Kommt dem ChatGPT unter diesen Bedingungen denn überhaupt eine Funktion zu? Ist er nur "Schlangenöl", wie der nächste Referent, Human Nagafi es ausdrückt? Nagafi ist ebenfalls Unternehmensberater mit Fokus auf K.I. Seine Antwort: Ein eindeutiges "Ja und nein".

"Wie von Frau Beyer beschrieben, kann er keine Bedeutung erfassen, Deshalb versteht er zum Beispiel auch in seiner neusten Version keinen Humor und kann mit Sprache keine neuen Kontexte oder neue Bedeutung kreieren", sagt Nagafi. "Was er kann, ist unglaublich schnell bekannte Muster analysieren und als Text zur Verfügung stellen. Dabei beherrscht er nahezu jede Strukturierung eines Texts."

Die Arbeit, Informationen in eine bestimmte Form zu bringen oder nach bekannten Schablonen zu ordnen, könnte laut Nagafi also zukünftig redundant werden, da ein Chatbot derartige Aufträge sehr viel schneller und effizienter erledigen könnte. "Er ist quasi Bürokratie auf Steroiden."

Sind Arbeitsplätze in Gefahr?

Bedeutet das also, dass die GPT-Technologie eine unmittelbare Bedrohung für Arbeitsplätze darstellt? "Nein, nicht unbedingt", sagt der dritte Referent: Robert Lepenies ist seit Ende 2022 Präsident der Karlshochschule und besitze eine kritische, wenn auch keine kategorisch ablehnende Haltung zum Chatbot.

"Es gibt Gefahren, ja. Aber es gibt auch Chancen. Viele unserer Studierenden und Mitarbeiter schreiben Tag für Tag mittelmäßige Texte", so Lepenies. "Nicht, weil sie es nicht besser können, sondern weil es Teil ihrer Arbeit und deren Anforderungen ist. Mit einer K.I., die solche mittelmäßigen Texte schreibt, wäre diese Arbeitszeit frei und man könnte sich beim Studium sehr viel umfassender auf Inhalte und Forschung konzentrieren."

"Technologie ist ein Spiegel der Gesellschaft"

Natürlich habe dieser Gedanke auch seine Kehrseiten, wie Lepenies fortfährt: "Man hört zum Beispiel immer wieder von schummelnden Schülern, die sich dieser Technologie bedienen um Referate oder Aufsätze zu schreiben. Meistens gepaart mit der Frage, wie die Lehrkräfte diese Arbeit kontrollieren sollen und ob die Schüler so nicht langfristig verdummen."

Genau hier sehe Lepenies einen Fehler im Denkansatz: "Es wird im Schulsystem noch immer auf Kontrolle statt auf Vertrauen gesetzt. Würden die Lehrer der Entwicklung eines Schülers vertrauen oder - noch besser - sie von Anfang an begleiten, würden sie den Schreibstil des Schülers natürlich so gut kennen, dass ihnen sofort auffällt, wenn ein Bot die Arbeit erledigt hat", sagt er.

"Aber das Schulsystem basiert nun einmal auf Kontrolle. Ebenso werden die digitalen Möglichkeiten an Schulen oft nicht ausgeschöpft. An dieser Stelle sagen die Fragen, die der GPT aufwirft, also mehr über das System als über die Technologie aus. Mehr noch. Sie ist ein Spiegel der Gesellschaft. Und damit die K.I. dem Gemeinwohl dient muss ein Umdenken stattfinden", erklärt er weiter.

Effizientere Ausbeutung?

Das sei nur eines von vielen Beispielen, wo die neue Technologie Lücken im Gesellschaftsmodell offenlege. "Ohne ein Umdenken werden die Prozesse nur immer schneller und aufwändiger, was vermutlich nur zu noch effizienterer Ausbeutung führt", so Lepenies. Wie diese Ausbeutung aussehen kann, wird von Beyer ausführlicher erklärt.

"Es ist natürlich nicht so, als würde der GPT ganz ohne Menschen funktionieren. Auch nicht innerhalb von Open AI. Es gibt 40 angestellte Personen, sogenannte Labeler, die sogenannte Prompts erstellen, also Eingabehilfen und besonders hilfreiche Antwortvorgaben in die Datenbank einspeisen. Meist sind das Leute aus Bangladesh oder den Phillipinen. Bisher wurden 11.500 Prompts eingespeist", sagt sie.

Wie diese Prompts oder auch die Arbeitsbedingungen der Labeler aussehen, wurde nicht veröffentlicht, so Beyer. "Auch die Daten die ein normaler User eingibt, werden auch von Open Ai genutzt. Mit fragwürdigem Datenschutz" Der ChatGPT selbst gibt auf Nachfrage lediglich an, dass er keinen Einblick in die genauen Intentionen und Methoden von Open AI besitzt. "Es gibt also auch in der Gegenwart noch viele Aspekte des Bots, die intransparent sind."

Alle Bilder zum #digitalk im Mai:

Das könnte Sie auch interessieren

Bildergalerie #digitalk im Mai: Thema ChatGPT