Bei einem Turnier namens "Existential Risk Persuasion Tournament" (XPT) sollten Wissenschaftler, Berufsexperten und Generalisten potenzielle Bedrohungen für die Menschheit in diesem Jahrhundert untersuchen.
Diese kamen zu dem Ergebnis, dass die Ursache für eine mögliche Apokalypse am ehesten durch Künstlichen Intelligenz (KI) ausgelöst werden würde. Ein sogenanntes "Skynet-Szenario", angelehnt am Film "Terminator" mit Arnold Schwarzenegger.
Wie wahrscheinlich so ein Szenario ist, erklärt Gerhard Neumann vom Karlsruher Institut für Technologie (KIT) im Interview. Er leitet seit Januar 2020 den Lehrstuhl "Autonome Lernende Roboter".
ka-news.de: Einige Experten behaupten, dass nicht etwa der Klimawandel, sondern die Künstliche Intelligenz für den Weltuntergang verantwortlich sein könnte. Was sagen Sie hierzu?
Ich sehe das "Skynet-Szenario" in naher Zukunft nicht als besonders realistisch an – also die Vorstellung, dass Maschinen ein eigenes Bewusstsein erlangen und die Menschheit versklaven. Dennoch, ähnlich wie bei jeder äußerst leistungsstarken Technologie, ist auch Künstliche Intelligenz anfällig für Missbrauch, wie wir es bereits bei den Beispielen von Deep Fakes (Anmerkung der Redaktion: Fotos, Video, die durch KI absichtlich verändert werden) sehen können.
Es ist von entscheidender Bedeutung, achtsam zu sein, welche Möglichkeiten wir dieser Technologie eröffnen. Ein besorgniserregender Aspekt liegt in der Frage, welchen Informationsquellen wir vertrauen können. Während derzeit noch relativ klare Unterscheidungen zwischen "Deep Fakes" und authentischem Material existieren, könnte sich dies in den kommenden 2-3 Jahren bereits drastisch ändern.
Diese Entwicklung birgt das Risiko, dass die öffentliche Meinung durch falsche Informationen manipuliert wird. Die Auswirkungen der KI auf den Arbeitsmarkt werden zweifellos tiefgreifend sein, da viele Berufsfelder verschwinden oder grundlegend transformiert werden.
Doch ich sehe auch ein erhebliches Potenzial, durch KI-bedingte Veränderungen neue Arbeitsmöglichkeiten zu schaffen. Letztendlich wird es darauf ankommen, wie verantwortungsbewusst und kreativ wir diese Technologie einsetzen.
Als Grund für ihre Hypothese hatten die Experten aufgeführt, dass die KI "nicht mehr kontrollierbar" sei und sich "gegen den Menschen richte". Ist dem wirklich so?
Meiner Ansicht nach sind wir noch weit von einer Phase entfernt, in der Maschinen ein eigenes "Bewusstsein" entwickeln könnten. Auch wenn sogenannte "intelligente Maschinen" auf intelligente Weise handeln, agieren sie im Wesentlichen nur auf Grundlage ihrer Programmierung oder der Daten, die ihnen zur Verfügung gestellt wurden.
Die neueren Generativen Modelle können vorhandenes Wissen geschickt kombinieren, um neue Texte zu erzeugen, doch die Fähigkeit zur Generierung völlig neuen Wissens fehlt ihnen bisher. Es ist wichtig zu verstehen, dass KI-Systeme nicht aus eigenem Antrieb handeln, sondern aufgrund der Algorithmen und Daten, die ihnen zugrunde liegen.
Die Vorstellung, dass KI sich gegen den Menschen richten könnte, basiert oft auf fiktionalen Szenarien, die von der Realität der aktuellen KI-Technologie abweichen.
Selbst der "Godfather" der KI Geoffrey Hinton mahnte vor deren Risiken. Skrupellose Machtmenschen wie Putin würden laut ihm nicht zögern, hyperintelligente Roboter bauen zu lassen, die dann Ukrainer töten. Ist so etwas technisch gesehen überhaupt möglich?
Gegenwärtig ist die Vorstellung, dass Roboter vollständig autonom in Kriegsszenarien agieren könnten, glücklicherweise noch nicht realisierbar. Dennoch besteht bereits die Realität, dass Roboter von Soldaten über große Entfernungen hinweg gesteuert werden können und auf Befehl handeln, einschließlich der Fähigkeit zu töten.
Besonders im Bereich der Drohnentechnologie ist eine solche Entwicklung schon Realität. Es ist zweifellos von großer Bedeutung, diese Entwicklungen genau zu beobachten und ausführlich zu diskutieren. Leider ist es eine traurige Tatsache, dass selbst wenn demokratische Gesellschaften beschließen würden, solche Technologien nicht zu nutzen, andere Staaten – wie im Fall von Putin – möglicherweise dennoch solche Möglichkeiten verfolgen würden, um ihre geopolitischen Interessen durchzusetzen.
Was denken Sie denn persönlich, wie sich die KI in Zukunft entwickeln wird?
Vor etwa 10 bis 15 Jahren glaubten wir, dass KI und Roboter viele manuelle Arbeitskräfte innerhalb der nächsten 10 bis 15 Jahre ersetzen würden. Diese Vorstellung hat sich jedoch nicht in vollem Umfang bewahrheitet.
Der Einsatz von Robotern im Alltag erscheint mir nach wie vor etwa 10 bis 15 Jahre entfernt, da viele der technologischen Hürden, die sich in der realen physischen Welt stellen, unterschätzt wurden. Ich denke, es wird noch einige Zeit dauern, bis autonome Roboter uns im täglichen Leben oder bei Arbeitsaufgaben, die nicht einfach automatisiert werden können, effektiv unterstützen können.
In der nahen bis mittleren Zukunft sehe ich den größten Einfluss der KI auf Bürojobs, wie beispielsweise im Design, Journalismus und Rechtswesen. Diese Bereiche werden durch den Einsatz von generativer KI revolutioniert werden, und viele Aufgaben können weitaus effizienter erledigt werden.
Und was wäre für Sie tatsächlich ein Szenario, ab dem die KI "zu mächtig" wird?
Ein solches Szenario wäre erreicht, wenn KI-Systeme kritische Entscheidungen, die das Leben von Menschen beeinflussen oder sogar gefährden, autonom treffen würden, ohne menschliche Beteiligung.
Ich bin zutiefst davon überzeugt, dass wir diese Technologie nutzen können, um Arbeitsprozesse effizienter zu gestalten und Entscheidungsprozesse besser informiert zu unterstützen. Dennoch sollte die letzte Entscheidung immer in den Händen von Menschen liegen um sicherzustellen, dass ethische und menschliche Werte stets gewahrt bleiben.
Warum beschäftigen sich überhaupt so viele Menschen mit den "gefährlichen" Bereichen der KI?
In der Regel birgt jede Technologie, die ein beträchtliches Potenzial für positive Veränderungen aufweist, auch das Potenzial für potenzielle Gefahren, wenn sie nicht richtig angewendet wird. Ich denke nicht, dass Menschen sich per se mit den Aspekten der KI beschäftigen, weil diese per se gefährlich sind. Vielmehr sehen sie das enorme Potenzial, das in diesen Bereichen steckt.
Das Streben nach Innovation und Fortschritt geht oft Hand in Hand mit einer verantwortungsvollen Auseinandersetzung mit potenziellen Risiken, um sicherzustellen, dass die Technologie zum Wohl der Gesellschaft genutzt wird.
Und würden Sie sagen, dass der Nutzen der KI die Gefahr, die von ihr ausgeht, noch überwiegt?
Ja, zweifellos. Der Nutzen der KI überwiegt die potenzielle Gefahr, die von ihr ausgeht. KI hat das Potenzial, eine transformative Kraft für viele gesellschaftliche Herausforderungen zu sein. Betrachten wir beispielsweise die Altenpflege.
Hier herrscht bereits heute ein Mangel an qualifiziertem Personal, und die hohen Kosten belasten Familien stark. Roboter könnten in der Zukunft dazu beitragen, dass Menschen länger ein eigenständiges Leben führen können, ohne vollständig von Pflegepersonal abhängig zu sein.
Abgesehen von robotischen Anwendungen gibt es zahlreiche weitere Einsatzmöglichkeiten für KI, wie die Entwicklung neuer Medikamente oder Materialien, Fortschritte in der Klimaforschung oder die Optimierung unseres Stromnetzes. Natürlich sind die potenziellen Gefahren der KI, wie bereits besprochen, präsent.
Dennoch überwiegt das immense Potenzial, und ich bin zuversichtlich, dass unsere Gesellschaft verantwortungsbewusst mit dieser Technologie umgehen wird. Die Chance, erhebliche positive Veränderungen zu bewirken, ist eine treibende Kraft für die kontinuierliche Forschung und Entwicklung auf dem Gebiet der KI.
Wie nehmen Sie die Entwicklungen in Karlsruhe wahr? Können Sie von positiven Vor-Ort-Beispielen der KI berichten?
Und gibt es auch hier Missbrauch der KI? Die Entwicklungen in Karlsruhe sind äußerst bemerkenswert, da die Stadt zu einer Art Zentrum für KI-Entwicklung in Deutschland und Europa geworden ist. Die Region beherbergt eine Vielzahl von Unternehmen und Start-ups, die in den letzten Jahren große Erfolge in der Anwendung von KI erzielt haben.
Dies erstreckt sich über verschiedene Bereiche wie Robotik, Medizintechnik und Produktionstechnik. Die Aktivitäten in diesen Sektoren tragen erheblich zur Schaffung und Sicherung von Arbeitsplätzen bei. Bisher sind mir in Karlsruhe keine Fälle von Missbrauch von KI bekannt.
Welche Rolle nehmen Hochschulen und Institute wie das KIT im Umgang mit KI ein?
Hochschulen und Forschungsinstitute wie das Karlsruher Institut für Technologie (KIT) spielen eine entscheidende Rolle im Bereich der Künstlichen Intelligenz. Diese Einrichtungen konzentrieren sich vor allem auf Grundlagenforschung in der KI. Das bedeutet, sie entwickeln neue Konzepte und Algorithmen, um die vielfältigen Herausforderungen in Bereichen wie Robotik anzugehen.
Dies bildet die Grundlage für die Weiterentwicklung der KI-Technologien. Ein weiterer wichtiger Aspekt ist der Transfer von neuen Technologien und Ideen aus der Forschung in die Industrie. Dies geschieht oft durch gemeinsame Transferprojekte, bei denen wissenschaftliche Erkenntnisse in konkrete Anwendungen überführt werden.
Dies fördert die Innovation und ermöglicht es der Industrie, von den neuesten Entwicklungen zu profitieren. Zusätzlich spielt die wissenschaftliche Ausbildung eine bedeutende Rolle. Hochschulen und Institute bilden Doktoranden in den KI-Bereichen aus, die dann in der Wirtschaft als innovative Fachkräfte tätig werden können. Diese Experten tragen dazu bei, die KI-Technologien weiter voranzutreiben und in verschiedenen Branchen anzuwenden.