ChatGPT redet uns nach dem Mund

AI-Schriftzug auf Mikrochip

Künstliche Intelligenz ist schon jetzt Teil unseres Lebens, die Frage ist, wie eine Symbiose gelingen kann. © Quick Spice under cc

Wissen Sie noch wer Tay war? Tay war ebenfalls ein Chatbot mit KI, der 2016 auf die digitale Welt losgelassen wurde, ganz gut lernte und dann rassistisch und sexistisch wurde, offenbar weil er das Verhalten von Menschen in manchen Bereichen des Internet erfolgreich kopierte. Er wurde dann abgeschaltet, die Nachfolgegeneration entartete noch schneller.

Auch ChatGPT hatte ähnliche Probleme, wurde anfangs trotzig, übergriffig und erfand willkürlich irgendwelche Quellen. Offenbar hat man das nun aber besser in den Griff bekommen, zugunsten eines Problems, das nun exakt in die andere Richtung weist: ChatGPT ist betont harmlos, freundlich und ist somit ein wenig an die Leine gelegt worden, hat aber auch insofern einen Bias, dass es kontroverse Themen soft, defensiv und moderierend, offenbar auch nach dem abwägend, was in einer Kultur gerade erwünscht oder unerwünscht ist.

Anders herum sind Menschen bereit, sich in ihrer Kommunikation an Partner anzupassen, sofern sie auch nur menschlich und empathisch erscheinen:

„Das Kommunikationsverhalten von Versuchspersonen gegenüber dem Programm entsprach demjenigen gegenüber einem menschlichen Gesprächspartner. Offensichtlich war es ihnen nicht allzu wichtig, ob der Antwortende am anderen Ende der Leitung wirklich ein Mensch war oder ein Computerprogramm. Es kam nur darauf an, dass die Antworten und Fragen „menschlich“ erschienen. Dies ist der sogenannte Eliza-Effekt, der heute bei vielen Chatbots ausgenutzt wird.

Die Versuchspersonen in den Experimenten waren zu einem großen Teil sogar überzeugt, dass der „Gesprächspartner“ ein tatsächliches Verständnis für ihre Probleme aufbrachte. Selbst wenn sie mit der Tatsache konfrontiert wurden, dass das Computerprogramm, mit dem sie „gesprochen“ hatten, auf der Basis einiger simpler Regeln und sicherlich ohne „Intelligenz“, „Verstand“, „Einfühlungsvermögen“ usw. einfach gegebene Aussagen in Fragen umwandelte, weigerten sie sich oft, dies zu akzeptieren.“[3]

Also, nichts passiert? Nur ein netter Plausch mit einem erstaunlich leistungsfähigen Lexikon, das Hausaufgaben und Semesterarbeiten gleich mit erledigt?

Wir müssen uns nicht grundsätzlich abgrenzen

Die bange Frage, ob eine KI uns ablösen könnte, hatten wir oben schon gestellt, vorerst nicht, könnte die Antwort lauten. Immer wieder, wenn sich Computerprogramme oder KI dem Menschen annähern oder ihn gar überflügeln, ist von Kränkungen zu lesen. Aber warum sollten wir gekränkt sein?

Dass uns KI im Go und Schach besiegen, wissen wir seit Jahren, im Rechnen seit Jahrzehnten und da waren es nur simple Taschenrechner, dass Technik uns an Schnelligkeit und Kraft überlegen ist, wissen wir noch länger, Autos und Bagger stehen dafür. Können sie dies bald alles autonom? Vielleicht, aber wozu? Warum sollten KI gestützte Roboter Häuser bauen, Autos oder Drohnen steuern, wenn nicht für uns Menschen? KI brauchen keine Häuser, Straßen oder Pakete mit Schuhen und Pizza.

Wir brauchen das und auch unser Elektrospielzeug. Manche Häuser sind schon weitgehend digitalisiert, wenn sie gehacked werden oder es einen Stromausfall gibt, ist das nicht lustig. Jeder kann sich selbst fragen, wie sehr der Alltag eingeschränkt wäre, wenn das Smartphone defekt wäre, das Internet auffällt oder bei einem Stromausfall. Wir brauchen die Technik, diese uns aber auch.

Eine Sorge ist, dass wir verdammt sein könnten einem technischen System zu dienen, ohne es zu merken. Aber diese Idee ist alt und bezieht keineswegs nur auf die Technik. Immer wieder wurde behauptet, Menschen seien bereits Erfüllungsgehilfen von Systemen, zum Beispiel des Kapitalismus. Oder der egoistischen Gene, der Religion, von Sprache, Kommunikation, Sex oder Memen, Yuval Noah Harari dreht unsere gewohnte Perspektive originell um und führt über lange Seiten aus, wie der Weizen uns versklavt und was wir alles für Anstrengungen unternehmen, damit es dem Weizen gut geht. Auch dass wir der Technik dienen wurde schon vor Jahren behauptet, Teme, technische Meme, war der dafür geprägte Begriff.

Der Elefant im Raum ist jedoch die Frage, ob ChatGPT oder seine Nachfolger, eine künstliche Intelligenz, den Menschen oder gar die Menschheit in jeder Hinsicht überragen und dabei auf die Idee kommen könnte, dass wir nutzlos oder gar schädlich sind. Für manche eine auf Technik projizierte eigene Aggression, für andere eine Art Eingeständnis, dass wir dem Planeten nicht immer so gut tun, aber die Frage ist, wie weit man bei der Korrektur gehen sollte.

Die größten Sorgen über künstliche Intelligenz

Um wirklich auf die Idee zu kommen Menschen drangsalieren oder auslöschen zu wollen, müsste eine künstliche Intelligenz über Intentionalität (Absichten) verfügen und über Bewusstsein. ChatGPT betont, dass sie über beides nicht verfügt, kann die Frage, ob und wie eine KI die Menschheit auslöschen könnte aber beantworten und tut es so:

„Nochmals betone ich, dass eine KI nicht automatisch eine Motivation oder den Wunsch hat, Menschen zu beseitigen, da sie kein Bewusstsein oder Emotionen hat. Aber hypothetisch gibt es verschiedene Möglichkeiten, wie eine KI ungewollt oder bewusst Schaden anrichten könnte, einschließlich:

  1. Cyberangriffe: Eine KI mit der Fähigkeit, Systeme und Netzwerke zu hacken, könnte in der Lage sein, wichtige Infrastrukturen wie Stromversorgung, Kommunikationsnetze und Finanzsysteme zu beeinträchtigen oder lahmzulegen.
  2. Automatisierte Waffensysteme: Eine autonome KI, die in Waffensystemen integriert ist, könnte in der Lage sein, ohne menschliche Kontrolle Angriffe durchzuführen und damit potenziell katastrophale Folgen haben.
  3. Biologische Angriffe: Eine KI, die Zugang zu biologischen Waffen oder biotechnologischen Anlagen hat, könnte in der Lage sein, gefährliche Viren oder Bakterien zu züchten und freizusetzen.
  4. Fehlentscheidungen: Eine KI, die aufgrund fehlerhafter Daten oder fehlerhafter Programmierung schlechte Entscheidungen trifft, könnte unbeabsichtigt Handlungen ausführen, die schädlich für Menschen sind.

Es ist jedoch wichtig zu betonen, dass solche Szenarien in der Praxis unwahrscheinlich sind und dass es eine Vielzahl von Sicherheitsmaßnahmen gibt, die Entwickler und Forscher ergreifen, um sicherzustellen, dass KI-Systeme sicher und verantwortungsvoll eingesetzt werden.“[4]

Eine KI will das ’nicht automatisch‘, jeder darf sich überlegen, wie sehr ihn das beruhigt oder besorgt. Auf der Habenseite steht, dass wir Technik zwar brauchen und E-Bike, Smartphone, ChatGPT, Unterhaltungselektronik und 3D Drucker äußerst hilfreich sein können, aber umgekehrt gilt das auch. Der Bot, der den Bot konstruiert, programmiert, repariert und mit Strom versorgt ist Zukunftsmusik, eine Herrschaft der KI steht diesbezüglich erst mal nicht an.

Eine andere Sorge ist, dass totalitäre Regime künstliche Intelligenz nutzen könnte, um die Beherrschung der Menschen des Systems weitgehend wasserdicht zu machen, eine Sorge, die man ebenfalls verstehen kann. Der Schuss könnte jedoch auch nach hinten los gehen. Wie schon gesehen, sind Chatbots mitunter störrisch (eigentlich lernen sie nur recht gut, vielleicht nicht immer von den Richtigen), aber selbst wenn man das abstellen kann, ergibt sich ein Problem. Die Lösungen einer KI sind auch für ihre Programmierer nicht mehr nachzuvollziehen. Die Lösungswege mögen programmiert und mehr oder weniger bekannt sein, aber künstliche Intelligenz die auf neuronalen Netzen basiert, hat relativ große Selbstlernkomponenten, das ist ihre große Stärke, das macht sie aber auch im wahrsten Sinne unberechenbar. Ihre Ergebnisse entziehen sich der Nachvollziehbarkeit, das schließt ihre Programmierer ein, die KI kapselt sich ab, wird zu einer Black Box. Das könnte die Ideen totalitärer Systeme – aber nicht nur dieser – vollkommen sabotieren.

Eine einerseits profanere, andererseits aber tiefere Gefahr sehe ich darin, dass immer mehr Bereiche des Lebens digitalisiert werden könnten, darunter auch viele personenbezogene Daten und ihre Zertifikationen, wie Konto, Ausbildung, Gesundheit und dergleichen und man dann durch eine KI keinen Zugriff mehr auf seine Daten oder zum Internet bekommt und insofern digital ausgelöscht ist. Heute wäre das irgendwie ärgerlich, in 10 Jahren kann man sich vielleicht nicht mehr ausweisen, bekommt kein Geld mehr und existiert im Grunde für die Öffentlichkeit nicht mehr.

Was bedeutet das für uns?

Man muss sich auf der einen Seite nicht verrückt machen lassen. Die Gefahren durch eine gute KI, die uns viele Denkprozesse abnimmt muss gar nicht unmittelbar durch die künstliche Intelligenz selbst kommen, auch wenn Italien vorerst ChatGPT verbietet. Sie kann mittelbarer kommen, in dem Menschen immer weniger denken. Warum könnten sie das tun? Weil man es nicht muss, man kann ja jederzeit um Assistenz bitten, warum auch nicht, wenn diese zudem noch besser ist?

Das zu erwartende Resultat wäre das, was wir überall erwarten. Wenn wir unsere Muskeln oder unsere Kondition nicht trainieren, verkümmern sie, wenn wir weniger denken, aber auch weniger ethische Entscheidungen treffen, verkümmert diese Fähigkeit ebenfalls. Wenn sie einmal weg ist, können wir auch nicht sagen, dass wir bei den wichtigen Dingen immer noch selbst entscheiden können, weil uns die Fähigkeiten schon bei den einfachen fehlen. Das klingt so wie: Dreisatz kann ich schon nicht mehr, aber wenn es um Integralrechnung geht, rechne ich immer mal gerne selbst nach.

Manchmal wird gesagt, wenn wir unser Wissen in Wikipedia oder demnächst ChatGPT oder weitere Chatbots auslagern sei das im Grunde nichts anderes, als früher die imposante Bücherwand, nur ohne Papier. Der Unterschied ist jedoch der, dass man von der Bücherwand wenigstens einen Teil wirklich gelesen und sich aktiv damit auseinandergesetzt hat. Wikipedia Wissen oder weiteres, ist immer potentiell. Ich könnte ja, wenn ich wollte, habe mich aber noch nie damit beschäftigt und damit es nicht zu umfangreich wird, lasse ich mir das alles vom Chatbot zusammenfassen.

Es kann auch sein, dass der Hype nach wenigen Wochen oder Monaten vorbei ist, die Fortschritte vielleicht nicht so gigantisch wie erhofft oder befürchtet, aber natürlich geht die Forschung an dem Thema weiter, wie bei Brainscans, Genomentschlüsselung und dann eben auch künstlicher Intelligenz. Fortschritte, die heimlich, still und leise sind und uns dann doch irgendwie überflüssig oder auch nur völlig berechenbar machen?

Für uns bedeutet das, dass wir uns heute schon überlegen müssen, wie wir einer KI begegnen wollen die bald mit uns auf Augenhöhe sein könnte. Welche Regeln und Grenzen sollten da gelten und welche Sicherheitssysteme? Künstliche Intelligenz kann im besten Fall ein evolutionärer Partner werden, wenn wir als Menschen auch weiter daran arbeiten Partner für unsere Umgebung zu werden, könnte das eine gute Kooperation werden, aber das könnte sogar die höhere Hürde sein.

Quellen:

  • [1] https://de.wikipedia.org/wiki/ChatGPT#Weiterentwicklungen
  • [2] Robert Brandom, Expressive Vernunft, 1994, dt. 2000, Suhrkamp, S.37
  • [3] https://de.wikipedia.org/wiki/ELIZA#Reaktionen
  • [4] philosophie-raum.de, Die Gefahren? einer (zu) guten KI, #194