Wie wäre es mit einem Blick in die Zukunft? – Gemeinsam mit Sven Gabor Jánszky hat Prof. Dr. Lothar Abicht einen solchen Blick gewagt. In ihrem Buch „2030 – Wieviel Mensch verträgt die Zukunft?“ Darin geht es um das rasante Tempo, mit dem sich Digitalisierung und Automatisierung entwickeln. Es geht um die weitreichenden Folgen für alle Lebens- und Arbeitsbereiche: Gentechnologie. Biotechnologie. Hirnforschung. Computertechnik. Alles scheint nach der vermeintlichen Krone der Schöpfung zu greifen: dem menschlichen Geist.
Das GesprächSchön, lieber Prof. Dr. Lothar Abicht, dass wir uns zum Gespräch verabredet haben. Es gilt meiner neugierigen Frage nachzugehen, was sich nach sieben Jahren – Ihr Buch ist 2018 erschienen – zu den damaligen Prognosen sagen lässt. Inwieweit zeigt sich die eine oder andere Vorhersage als zutreffend? Lassen Sie uns im Verlauf des Gesprächs bitte einen Schwerpunkt exemplarisch herausgreifen.
Das ist gar nicht so einfach. Das Buch hat eine Vielzahl an Kapiteln, die für eine Fülle an Überlegungen und Prognosen stehen. Sehr verkürzt lässt sich sagen, dass die technologischen Prognosen zu einem ganz großen Teil eingetroffen sind. Die gesellschaftlichen Prognosen sind nicht in dieser Deutlichkeit eingetroffen, wobei wir die auch nicht explizit dargestellt haben. Ich würde sagen: Ein großer Teil dessen, was wir aus technologischer Sicht damals abgesehen haben, ist bereits passiert. Die eine oder andere Entwicklung hat unsere Erwartungen übertroffen. Wieder andere werden wohl in den nächsten Jahren noch kommen.
Können Sie auf ein konkretes Beispiel eingehen?
Da ist zum Beispiel die Künstliche Intelligenz. Da hat die Entwicklung sogar ein Stück weit unsere Prognose überholt. Wie Sie gehöre auch ich zu denen, die jetzt praktisch fast täglich KI-Systeme anwenden. Selbst unsere damaligen optimistischsten Prognosen sind mit Anwendungen wie ChatGPT übertroffen worden. Aber klar, man kann nicht alles einhundertprozentig vorhersehen. Wir merken jedoch alle, dass bei den digitalen Assistenten bereits heute viel geht.
Lassen Sie es uns bitte für die Leserinnen und Leser etwas konkreter machen: Wenn wir über digitale Assistenten reden, an welche Anwendungsfelder denken Sie dabei?
Na ja, zwischenzeitlich kann ja jeder für sich seine digitalen Assistenten konfigurieren. Eine ganze Reihe von Anbietern bietet für unterschiedlichste Lebensbereiche digitale Assistenten an. Die Frage ist letztlich, was ich einem Anbieter an persönlichen Informationen anvertrauen will – oder anvertrauen kann? Also, ich kann mir beispielsweise einen Assistenten einrichten, der mich im Bereich des Bankings berät. Oder ich nutze einen Assistenten, der mich zur Gesundheitsvorsorge coacht. Dann werden u.a. meine Schlafgewohnheiten aufgezeichnet und daraus Schlussfolgerungen für meine Ernährung abgeleitet. Das ist jetzt nur ein Beispiel. Aber wir sehen, wie persönlich das Ganze wird, wenn es um Daten und daraus resultierende Erkenntnisse geht. Alle diese Möglichkeiten sind da und wir haben ein bisschen das Problem, dass diese natürlich nicht grundsätzlich kostenfrei sind. Man muss dafür bezahlen und damit bekommen wir auch hier eine soziale Ungerechtigkeit in dem Sinn, wer es sich leisten kann und wer nicht.
Ein Anwendungsbeispiel mag ich noch hinzufügen. Da wundert man sich als Unternehmer über Bewerbungen, weil man den Sprachstil von ChatGPT darin zu erkennen glaubt. Und zugleich wird vom gleichen Tool womöglich in den Unternehmen die höfliche Absage formuliert. Das heißt, mit der Zeit werden wir die neuronalen Netze quasi miteinander sprechen lassen. (lacht)
Ja, das wird durchaus so üblich werden.
Das heißt, neuronale Netze reden miteinander, und wir Menschen bedienen uns derselben. Das ist irgendwie skurril. Nun, wahrscheinlich hat man vor der ersten Dampfmaschine auch angsteinflößend gestanden. Insofern, wir werden uns daran gewöhnen und damit umgehen lernen.
Das möchte ich ergänzen. Genau dieser Prozess hat jetzt begonnen, dass wir nicht mehr vor allem als Menschen untereinander kommunizieren, sondern unsere digitalen Assistenten miteinander kommunizieren. Wir werten erhaltene Mails zunehmend nicht mehr selber aus, sondern lassen uns in Zusammenfassungen beispielsweise eine Priorisierung geben. Die Antworten werden automatisch generiert. Das sind Formen von Interaktionen zwischen digitalen Systemen, die wir im Grunde dann nur noch zur Kenntnis nehmen.
Eine sehr spannende Entwicklung. Wie wichtig ist dabei die Sensibilisierung der Menschen dahingehend, dass ein neuronales Netz, sprich die künstliche Intelligenz, dem Grunde nach mit Hypothesen arbeitet. Somit geht immer eine Unschärfe, eine Ungenauigkeit und damit auch eine Fehlbarkeit mit den Resultaten von beispielsweise ChatGPT einher.
Intelligente Systeme wie ChatGPT ermöglichen eine Kommunikation auf einer relativ hohen Ebene. Ich habe mir natürlich selber die Frage nach den Voraussetzungen gestellt, um damit vernünftig zu arbeiten. Die erste Voraussetzung: Ich muss wissen, wie ich es bediene. Vereinfacht gesagt, ich muss den richtigen Prompt formulieren können und ich muss dann damit leben, dass nicht alles richtig und vollständig ist, was die KI mir liefert. Die zweite wichtige Voraussetzung: Ich muss in der Lage sein, das zu bewerten, was die Maschine macht. Egal, zu was ich beispielsweise ChatGPT nutze, wenn ich nicht in der Lage bin, das zu beurteilen oder zu hinterfragen, dann bin ich verloren. Ohne eigenes Wissen und ohne eigene Methoden des Validierens kommt man in eine Abhängigkeit, die nur schwer zu beherrschen ist. Das ist ja auch nicht anders, wenn ich mit anderen Menschen kommuniziere. Da kann ich ja ebenfalls nicht hinter die Stirn schauen und erkennen, was mein Gegenüber im Augenblick gerade für ein Wissen verwendet oder welche subjektive Meinung in seine Antwort einfließt. Insofern ist das eigentlich eine normale menschliche Kompetenz. Vielleicht ist diese Kompetenz im noch jungen Umgang mit KI bei den Leuten teilweise noch im Entstehen. Womöglich denken viele, dass die Maschine hundertprozentig korrekt antwortet. Jetzt lernen wir die Arbeit mit Wahrscheinlichkeiten, weil die KI auch mal Quatsch erzählt.
Den Vergleich finde ich sehr inspirierend: Dort, wo ein Mensch mit einem anderen Menschen spricht, ist es ebenso erforderlich, durch eine möglichst eineindeutige Fragestellung die Chance auf eine wahre Antwort zu erhöhen. Und wer pauschal oder oberflächlich seine Frage formuliert, lässt seinem Gegenüber Interpretationsspielraum. Das Ergebnis ist entsprechend instabil. Das gleiche Risiko hat man bei einem KI-System. Es lebe der Prompt!
Jede Kommunikation ist unscharf. Der Sender verschlüsselt seine Nachricht und der Empfänger entschlüsselt diese Nachricht. Keine menschliche Kommunikation ist frei von individuellen Vorlieben beim Ver- und Entschlüsseln. Menschen haben Überzeugungen, Meinungen, individuelle Erfahrungen und so weiter. Diese können wir nicht alle hinterfragen. Nehmen wir die Körpersprache. An der Körpersprache erkennen wir manchmal, dass unser Gegenüber etwas sagt und es ganz anderes meint als dass er es gesagt hat.
Es drängt mich gerade aus meiner unternehmerischen Tätigkeit ein weiteres Beispiel auf: Da formuliert die Fachabteilung ein Anforderungskonzept – und die Softwareentwickler oder Consultants arbeiten komplett an der Anforderung des Kunden vorbei. Warum? Weil nicht eineindeutig formuliert und dadurch stillschweigende Annahmen entstehen, die in ein Missverständnis münden. – Und wieder sind wir an dem einen Punkt: Der Prompt will gut formuliert sein. Wir haben darüber geredet, dass die Hypothesenbildung in den neuronalen Netzen, sprich Wahrscheinlichkeiten, eine wesentliche Rolle spielt und wir uns dessen bewusst sein müssen. Zudem haben Sie davon gesprochen, dass Unternehmen mit KI-basierten Anwendungen selbstredend Gewinne machen wollen; alleine schon, um ihre Investitionen zurückzubekommen. Aus Sicht der Gesellschaft haben Sie die Frage in den Raum gestellt, ob es dadurch soziale Unterschiede gibt bzw. geben wird. Jetzt bleiben wir mal kurz in Deutschland und schauen ins Bildungssystem: Ein sehr großer Teil der jungen Menschen geht auf staatlich finanzierte Schulen. Quasi hat jeder Zugang und damit ist das eine sozial gerechte Sache. Man könnte sich nun fragen, ob das so bleibt oder ein Teil der Menschen sich höhere Chancen dadurch ermöglichen, dass sie sich KI-Tools zur individuellen Bildung leisten können. Hier könnte man einwenden, dass dies primär eine Frage der sozialen Kompetenz der Eltern ist – aber dieses weite Feld betreten wir lieber nicht. Nehmen wir ein anderes Beispiel: Vor einigen Jahrzehnten gehörte das kostenpflichtige Abo einer Tageszeitung zum Üblichen. Da und dort vielleicht nur zum guten Ton. Zumeist wohl, weil man sich informiert wissen wollte. Heutzutage hat ein Großteil der Menschen in Deutschland die Erwartung, dass Nachrichten kostenlos sind – und wundert sich, dass womöglich die Qualität und jedenfalls die Anzahl der Nachrichtenquellen sinkt. Mein gesellschaftskritisches Fazit: Ist es nicht mehr eine Frage von Priorität und von Konsumverhalten, was – um im Beispiel zu bleiben – Nachrichtenqualität anbelangt, und weniger eine Frage, ob sich der Einzelne eine (digitale) Tageszeitung finanziell leisten kann? Wie kann man vor diesem Hintergrund die Kosten plus Marge diskutieren, die selbstredend ein Unternehmen auf seine Kunden umzuwälzen versucht?
Ja, kostenlos sind Nachrichten – um bei Ihrem Beispiel zu bleiben – eigentlich nie. Wir haben diese im Grunde genommen immer bezahlt: aber mit unseren Daten! Und am Ende haben Google und andere märchenhafte Profite dadurch erreicht. Es geht um Werbeeinnahmen und es war nie die Idee, ein menschenfreundliches System zu schaffen. Es ging und geht nicht darum, dass Tech-Giganten etwas Gutes bewirken wollen, sondern es geht immer um ein extrem profitorientiertes Business. Wir erkennen, dass AMAZON, Google und andere einen kaum überschaubaren Teil der Werbeeinnahmen für sich generieren. Man blickt faktisch auf ein Oligopol, das 50, 60 oder gar 70 Prozent der Werbeeinnahmen umsetzt.
Ist es nicht gerade deshalb für uns Konsumenten wichtig, dass wir für qualitativ hochwertige Informationen, beispielsweise eine differenzierte Berichterstattung oder eine unabhängige Produktbewertung, ein Entgelt bezahlen? Nur so ist es möglich, dass wir nicht immer und überall offensichtlich oder unterschwellig etwas „verkauft“ bekommen.
Von der Sache haben Sie recht. Aber wir haben uns zwischenzeitlich über Jahrzehnte daran gewöhnt, Informationen scheinbar kostenlos bekommen zu haben. Das hat natürlich bestimmte Verhaltensweisen und Überzeugungen ausgeprägt, die nicht so einfach zu erschüttern sind. Und ganz nüchtern muss man feststellen: Die Unternehmen mit kostenpflichtigen Informationen haben einen sehr, sehr schweren Stand. Es gibt ständig neue Versuche, Informationen kostenpflichtig anzubieten. Aber die tun sich alle schwer.
Okay, da haben Sie recht und ich hätte es wissen müssen. Schließlich ist es mit diesem Magazin ähnlich: Wir bieten es einerseits kostenlos an, damit möglichst alle unabhängig ihrer finanziellen Möglichkeiten daran partizipieren. Alleine es gibt nur sehr wenige, die dieses Projekt mit einem kostenpflichtigen Abonnement unterstützen.
Man kann eine dritte Begründung hinzufügen. In dem Moment, in dem ich mir eine leistungsfähige KI leiste, wie beispielsweise ChatGPT, kann ich mir für wenige US-Dollar im Monat mit relativ geringem Aufwand eine Vielzahl an Informationen generieren lassen. Durch die Quellennachweise habe ich dann eine relativ hohe Qualität. Klar, man muss ergänzen, dass die normalen Medien im Unterschied zu recherchierenden Systemen Informationen liefern, die wir gar nicht angefordert haben.
Das wollte ich gerade anmerken, dass das Problem, sich eine Information zu besorgen, oft darin liegt, dass man die Frage bzw. das noch unbekannte Ereignis nicht kennt. Zudem liefern professionelle Medien durch guten Journalismus uns den Perspektivenwechsel, also einen Blick über den eigenen Tellerrand hinaus.
Das ist ja eine generelle Frage der Entstehung von Intuition. Diese entsteht dadurch, dass ich mich mit Wissen beschäftige, ohne sofort einen konkreten Anwendungszweck zu erkennen. Wir sprechen hier von intuitiven Prozessen. Neu generiertes Wissen entsteht oftmals an den Schnittstellen zwischen verschiedenen Wissensebenen, die ich vorher nicht definieren kann, weil ich sie einfach nicht kenne.
Da reden wir dann von Impulsen oder Inspiration …
Ja, in diese Richtung geht es.
Lassen Sie mich bitte einen weiteren Punkt ansprechen. Ist es den Leuten eigentlich klar, dass ein neuronales Netz nur die Erkenntnisse vermitteln kann, die es im Datenpool hat? Damit verbunden ist z. B. ChatGPT subjektiv. Es kommt darauf an, mit welchen Daten das neuronale Netz gefüttert wurde. Daten eines bestimmten Meinungsspektrums führen dazu, dass die Antworten dementsprechend ausfallen.
Zum einen ist jede Meinung subjektiv. Durch wissenschaftliche Verfahren in den KI-Lösungen werden die Hypothesen überprüft und sie erzeugen natürlich eine hohe Wahrscheinlichkeit, dass die Ergebnisse dadurch sehr dicht an der tatsächlichen Wahrheit dran sind. Zudem kann eine moderne KI im Internet surfen und hat neben dem eigenen Datenbestand ergänzend das quasi „Weltwissen“ zur Verfügung. Aber ja, letztlich ist jeder (wissenschaftliche) Prozess hypothesengesteuert und damit von bestimmten Grundeinnahmen abhängig.
Ich versuche zu abstrahieren: Wenn jetzt die Farbe „Lila“ in Mode wäre und jedermann sich über Lila positiv austauscht … und ich meine KI im Kontext von Farben etwas frage, dann würde der Algorithmus die Modeerscheinung würdigen und Lila als eine coole Farbe in seiner Antwort darstellen.
Es ist schwierig. Ja, es kann sein. Aber es hängt wieder von meiner Frage ab. Ich kann als Anwender natürlich die Frage so stellen, dass temporäre Modeerscheinungen in der Antwort keine Rolle spielen.
Und da ist er wieder: Der Prompt.
Bleiben wir bei Ihrem Beispiel „Lila“. Da sind zwei Ebenen interessant. Die eine Ebene: Womit ist die KI trainiert worden, womit wird sie immer noch trainiert und was beeinflusst ihre inneren Prozesse? Und die zweite Ebene: Auf welche externen Quellen greift die zu? Wenn also „Lila“ schick ist, wird die KI bei ihrer externen Recherche vielfach mehr positive Ergebnisse zu „Lila“ bekommen als meinetwegen zu „Purpur“.
Das heißt im Grunde genommen, dass sich daraus ein konkreter Auftrag für unser Bildungswesen, für unser Bildungssystem festmachen lässt. Man muss (jungen) Menschen dahin bringen, dass man in der Lage ist, richtig zu „prompten“ und die Ergebnisse einer KI mit ihren methodischen Kompetenzen zu validieren.
Da stimme ich hundertprozentig zu. Alle Vorstellungen, wir könnten die KI aus der Schule verbannen, sind so wenig realistisch wie die Vorstellung vor 40 Jahren, den Taschenrechner aus der Schule zu verbannen. Ich hatte vorher von zwei entscheidenden Fähigkeiten im Umgang mit KI gesprochen. Die eine Fähigkeit ist, die KI entsprechend einzusetzen – also ganz trivial gesagt: zu prompten. Und zum Zweiten müssen Menschen fähig sein, das Ergebnis zu bewerten. Wir kennen das beim Rechnen mit dem Taschenrechner auch und sprechen von der Überschlagsrechnung.
Bei der KI handelt es sich um ein sehr umfassendes und wichtiges Zukunftsthema. In Ihrem Buch ist ein spannendes Gedankenexperiment beinhaltet. Nämlich zur Frage, wie viel Mensch verträgt die Zukunft.
Das war eigentlich eher eine Metapher. Die Grundfrage ist bei der KI wiederkehrend: Wie ist das Verhältnis zwischen Maschine und Mensch? Wer dominiert sozusagen? Wir haben die Entwicklung der KI in mehrere Richtungen interpretiert. Einmal an der Schnittstelle zwischen Menschen und Maschinen. Da spricht man im Kontext der Verschmelzung von Mensch und Maschine von Transhumanismus und Posthumanismus. Und zum anderen sind wir der Frage nachgegangen, welche Formen kann die KI annehmen? Wird es eine starke KI geben, die gewissermaßen die menschlichen Fähigkeiten deutlich übertrifft? Für beide Richtungen haben wir keine wirkliche Antwort gefunden.
Wir hatten bereits den Schwerpunkt „Künstliche Intelligenz“. Ich erinnere mich an das Gespräch mit Prof. Dr. Dr. Klaus Kaiser aus Heidelberg, der sich mit mir philosophierend über das ausgetauscht hat, dass bei einem weiteren Verständnis der neuronalen und biochemischen Zusammenhänge unseres Menschseins mittels Künstlicher Intelligenz noch einiges erreichbar ist.
Ich würde dies erst mal hundertprozentig ähnlich sehen. Im Augenblick sind wir von einem wirklichen Verständnis dessen, was im menschlichen Gehirn abläuft, noch ein Stück entfernt. Lassen Sie mich nur einen Punkt benennen: Wie entsteht ein Gedanke? Aber unabhängig solcher Verständnisfragen entsteht in der Maschinenwelt möglicherweise etwas grundsätzlich Neues – eine eigene, künstliche Identität. Ich möchte noch auf etwas anderes eingehen: Der technologisch bedingte Wandel ist etwas Permanentes geworden. Er hat eine unglaubliche Geschwindigkeit aufgenommen. Da ist es schwer, als Einzelner einigermaßen hinterherzukommen. Man muss sich schon ganz schön anstrengen, um den Anschluss nicht zu verlieren.
Ich erinnere mich an meine ersten IT-Projekte. Das war 1993. Wenn ein Projekt zu Ende gewesen ist, dann haben Anwenderinnen und Anwender erst mal durchgeatmet – und ein, zwei Jahre später kam das nächste Projekt. Heute ist man quasi permanent in Projekten und damit permanent Veränderungen ausgesetzt. 1996 machte ich mich selbständig. Es ging um innovative Solutions zur Prozessautomatisierung. Schnell habe ich kapiert, dass am Ende nicht die Technologie der Bremsklotz sein wird – sondern wir Menschen. Die rasanten technologischen Entwicklungen werden von uns Menschen ausgebremst, weil wir es gar nicht schneller schaffen. Oder: Wir nutzen KI-basierte Assistenten und bekommen es mit deren Unterstützung bewältigt.
Vom Prinzip her ja, aber wir dürfen in diesem Zusammenhang nicht unterschätzen, wie schnell in der jüngsten Vergangenheit neue Entwicklungen ihren Durchbruch erreicht haben. Das ging nicht nur schnell, sondern wirkte auch global. Schauen Sie nur auf die generative KI ChatGPT. Innerhalb weniger Wochen haben Millionen Menschen auf der ganzen Welt darauf zugegriffen. Daran erkennt man, dass die Beschränkung, die wir bei uns Menschen sehen, manchmal auch die Beschränkung unseres geografischen Horizonts ist.
Diese Erweiterung des Horizonts nehmen wir als Schlussgedanken. Lieber Herr Prof. Abicht, ich danke herzlich für das inspirierende Gespräch.
Zur Person
ist Unternehmer, Hochschullehrer, Forscher und Autor. Er hat acht Sachbücher und zahlreiche weitere Publikationen veröffentlicht. Als renommierter Wissenschaftler gilt er als Experte in der Bildungsforschung, der technologischen Entwicklung und der Analyse der Arbeits- und Lebenswelt der Zukunft.