Künstliche Intelligenz (KI) erobert die Welt. Es verändert jeden Lebensbereich und wirft dabei große ethische Bedenken für die Gesellschaft und die Zukunft der Menschheit auf. ChatGPT, das die sozialen Medien dominiert, ist ein von OpenAI entwickelter KI-gestützter Chatbot. Es ist eine Teilmenge des maschinellen Lernens und basiert auf sogenannten Large Language Models, die menschenähnliche Antworten erzeugen können. Das Anwendungspotenzial für eine solche Technologie ist in der Tat enorm, weshalb es bereits Forderungen nach einer Regulierung von KI wie ChatGPT gibt.
Kann KI Menschen überlisten? Stellt es eine Bedrohung für die Öffentlichkeit dar? Kann KI tatsächlich zu einer existenziellen Bedrohung werden? Der weltweit herausragende Linguist Noam Chomsky, und einer der angesehensten öffentlichen Intellektuellen aller Zeiten, dessen intellektuelle Statur mit dem von Galileo, Newton und Descartes verglichen wurde, geht im folgenden Interview auf diese drängenden Fragen ein.
CJ Polychroniou: Als wissenschaftliche Disziplin reicht die künstliche Intelligenz (KI) bis in die 1950er Jahre zurück, doch in den letzten Jahrzehnten hat sie in allen möglichen Bereichen Einzug gehalten, darunter im Bankwesen, im Versicherungswesen, in der Automobilherstellung, in der Musik und in der Verteidigung. Tatsächlich hat sich gezeigt, dass der Einsatz von KI-Techniken in einigen Fällen die menschlichen Fähigkeiten übertrifft, beispielsweise bei einer Schachpartie. Werden Maschinen voraussichtlich intelligenter als Menschen?
Noam Chomsky: Nur um die Terminologie zu verdeutlichen, der Begriff „Maschine“ bedeutet hier Programm, im Grunde eine Theorie, die in einer Notation geschrieben ist, die von einem Computer ausgeführt werden kann – und eine ungewöhnliche Art von Theorie auf interessante Weise, die wir hier beiseite legen können.
Wir können grob zwischen reiner Technik und Naturwissenschaft unterscheiden. Es gibt keine scharfe Grenze, aber es ist eine nützliche erste Näherung. Reine Technik zielt darauf ab, ein Produkt herzustellen, das von Nutzen sein kann. Wissenschaft sucht nach Verständnis. Wenn es um die menschliche Intelligenz oder die kognitiven Fähigkeiten anderer Organismen geht, strebt die Wissenschaft nach dem Verständnis dieser biologischen Systeme.
So wie ich sie verstehe, betrachteten die Begründer der KI – Alan Turing, Herbert Simon, Marvin Minsky und andere – sie als Wissenschaft, als Teil der damals aufkommenden Kognitionswissenschaften, die sich neue Technologien und Entdeckungen in der mathematischen Berechnungstheorie zunutze machten Verständnis voranbringen. Im Laufe der Jahre sind diese Bedenken verblasst und wurden größtenteils durch eine technische Ausrichtung verdrängt. Die früheren Bedenken werden heute häufig, manchmal herablassend, als GOFAI – gute altmodische KI – abgetan.
Um mit der Frage fortzufahren: Ist es wahrscheinlich, dass Programme entwickelt werden, die die menschlichen Fähigkeiten übertreffen? Wir müssen mit dem Wort „Fähigkeiten“ vorsichtig sein, aus Gründen, auf die ich noch zurückkommen werde. Aber wenn wir den Begriff als Bezug auf die menschliche Leistung verstehen, dann lautet die Antwort: auf jeden Fall ja. Tatsächlich gibt es sie schon lange: den Taschenrechner im Laptop zum Beispiel. Es kann weit über das hinausgehen, was Menschen leisten können, und sei es nur aufgrund von Zeit- und Gedächtnismangel. Für geschlossene Systeme wie Schach war in den 50er-Jahren klar, dass früher oder später mit der Entwicklung enormer Rechenkapazitäten und einer langen Vorbereitungszeit ein Programm entwickelt werden könnte, um einen Großmeister zu besiegen, der mit begrenztem Gedächtnis spielt und Zeit. Der Erfolg Jahre später war für IBM im Wesentlichen PR. Viele biologische Organismen übertreffen die kognitiven Fähigkeiten des Menschen auf viel tiefere Weise. Die Wüstenameisen in meinem Hinterhof haben winzige Gehirne, übertreffen aber im Prinzip die menschlichen Navigationsfähigkeiten bei weitem, nicht nur ihre Leistung. Es gibt keine Große Kette des Seins, an deren Spitze der Mensch steht.
Die Produkte der KI-Technik werden in vielen Bereichen eingesetzt, im Guten wie im Schlechten. Auch einfache und vertraute Programme können durchaus nützlich sein: im Sprachbereich unter anderem Programme wie Autofill, Live-Transkription, Google Translate. Mit deutlich höherer Rechenleistung und ausgefeilterer Programmierung dürfte es auch in den Naturwissenschaften andere nützliche Anwendungen geben. Es gab bereits einige: Die Unterstützung bei der Untersuchung der Proteinfaltung ist ein aktueller Fall, bei dem massive und schnelle Suchtechnologie Wissenschaftlern dabei geholfen hat, ein kritisches und widerspenstiges Problem zu bewältigen.
Ingenieurprojekte können nützlich oder schädlich sein. Bei der technischen KI stellen sich beide Fragen. Die aktuelle Arbeit mit Large Language Models (LLMs), einschließlich Chatbots, bietet Werkzeuge zur Desinformation, Diffamierung und Irreführung von Uninformierten. Die Bedrohungen verstärken sich, wenn sie mit künstlichen Bildern und der Nachbildung von Stimmen kombiniert werden. Mit unterschiedlichen Anliegen im Hinterkopf haben kürzlich Zehntausende KI-Forscher dies getan namens wegen möglicher Gefahren, die sie wahrnehmen, für ein Moratorium für die Entwicklung.
Wie immer müssen mögliche Vorteile der Technologie gegen mögliche Kosten abgewogen werden.
Ganz andere Fragen stellen sich, wenn wir uns der KI und der Wissenschaft zuwenden. Hier ist Vorsicht geboten, da exorbitante und rücksichtslose Behauptungen häufig in den Medien verstärkt werden. Um die Probleme zu klären, betrachten wir Fälle, von denen einige hypothetisch und andere real sind.
Ich habe die Insektennavigation erwähnt, was eine erstaunliche Leistung ist. Insektenforscher haben bei der Erforschung der Art und Weise, wie dies erreicht wird, große Fortschritte gemacht, obwohl die Neurophysiologie, eine sehr schwierige Angelegenheit, ebenso wie die Evolution der Systeme noch immer unklar ist. Das Gleiche gilt für die erstaunlichen Leistungen von Vögeln und Meeresschildkröten, die Tausende von Kilometern zurücklegen und zielsicher an ihren Ursprungsort zurückkehren.
Angenommen, Tom Jones, ein Befürworter der technischen KI, kommt vorbei und sagt: „Ihre Arbeit wurde allesamt widerlegt. Das Problem ist behoben. Piloten kommerzieller Fluggesellschaften erzielen immer die gleichen oder sogar bessere Ergebnisse.“
Wenn wir uns überhaupt die Mühe machen würden zu antworten, würden wir lachen.
Nehmen wir den Fall der Seefahrer-Heldentaten der Polynesier, die immer noch unter indigenen Stämmen leben und Sterne, Wind und Strömungen nutzen, um ihre Kanus an einem bestimmten Ort Hunderte von Kilometern entfernt zu landen. Auch dies war Gegenstand zahlreicher Untersuchungen, um herauszufinden, wie sie dies tun. Tom Jones hat die Antwort: „Verschwenden Sie keine Zeit mehr; Marineschiffe machen das ständig.“
Gleiche Antwort.
Wenden wir uns nun einem realen Fall zu, dem Spracherwerb. Es war in den letzten Jahren Gegenstand umfangreicher und äußerst aufschlussreicher Forschungen, die zeigten, dass Säuglinge über ein sehr umfangreiches Wissen über die Umgebungssprache (oder -sprachen) verfügen, das weit über das hinausgeht, was sie in ihrer Leistung an den Tag legen. Dies wird mit wenigen Beweisen erreicht, in einigen entscheidenden Fällen sogar mit gar keinen. Wie sorgfältige statistische Studien gezeigt haben, sind die verfügbaren Daten bestenfalls spärlich, insbesondere wenn die Ranghäufigkeit („Zipf-Gesetz“) berücksichtigt wird.
Tom Jones tritt ein: „Sie wurden widerlegt. Unabhängig von Ihren Entdeckungen können LLMs, die astronomische Datenmengen scannen, statistische Regelmäßigkeiten finden, die es ermöglichen, die Daten, auf denen sie trainiert werden, zu simulieren und so etwas zu erzeugen, das ziemlich normalem menschlichen Verhalten ähnelt. Chatbots.“
Dieser Fall unterscheidet sich von den anderen. Erstens ist es real. Zweitens lachen die Leute nicht; Tatsächlich sind viele beeindruckt. Drittens sind die tatsächlichen Ergebnisse im Gegensatz zu den hypothetischen Fällen weit von den Behauptungen entfernt.
Diese Überlegungen werfen ein kleines Problem der aktuellen LLM-Begeisterung auf: ihre völlige Absurdität, wie in den hypothetischen Fällen, in denen wir sie sofort erkennen. Aber es gibt viel ernstere Probleme als Absurdität.
Zum einen sind die LLM-Systeme so konzipiert, dass sie uns nichts über Sprache, Lernen oder andere Aspekte der Kognition sagen können, eine Grundsatzfrage, die unheilbar ist. Verdoppeln Sie die Terabytes der gescannten Daten, fügen Sie eine weitere Billion Parameter hinzu, verbrauchen Sie noch mehr kalifornische Energie, und die Simulation des Verhaltens wird sich verbessern, während gleichzeitig deutlicher wird, dass der Ansatz prinzipiell nicht verständlich ist. Der Grund ist elementar: Die Systeme funktionieren mit unmöglichen Sprachen, die Säuglinge nicht erlernen können, genauso gut wie mit solchen, die sie sich schnell und quasi reflexartig aneignen.
Es ist, als würde ein Biologe sagen: „Ich habe eine großartige neue Theorie über Organismen.“ Es listet viele auf, die existieren, und viele, die möglicherweise nicht existieren können, und ich kann Ihnen nichts über den Unterschied sagen.“
Wieder würden wir lachen. Oder sollte.
Nicht Tom Jones – jetzt beziehen wir uns auf tatsächliche Fälle. Tom Jones beharrt auf seiner radikalen Abkehr von der Wissenschaft und antwortet: „Woher wissen Sie das alles, bevor Sie nicht alle Sprachen erforscht haben?“ An diesem Punkt wird die Abkehr von der normalen Wissenschaft noch deutlicher. Mit gleicher Argumentation können wir die Genetik und Molekularbiologie, die Evolutionstheorie und den Rest der biologischen Wissenschaften, die nicht mehr als einen winzigen Bruchteil der Organismen untersucht haben, über Bord werfen. Und obendrein können wir die gesamte Physik ausschließen. Warum an die Bewegungsgesetze glauben? Wie viele Objekte wurden tatsächlich in Bewegung beobachtet?
Darüber hinaus gibt es noch die kleine Frage der Beweislast. Diejenigen, die eine Theorie vorschlagen, haben die Verantwortung zu zeigen, dass sie einen Sinn ergibt, in diesem Fall zu zeigen, dass sie für unmögliche Sprachen versagt. Es liegt nicht in der Verantwortung anderer, den Vorschlag zu widerlegen, obwohl es in diesem Fall leicht zu sein scheint, dies zu tun.
Lenken wir unsere Aufmerksamkeit auf die normale Wissenschaft, wo die Dinge interessant werden. Schon ein einziges Beispiel für den Spracherwerb kann einen umfassenden Einblick in die Unterscheidung zwischen möglichen und unmöglichen Sprachen liefern.
Die Gründe sind einfach und bekannt. Jegliches Wachstum und jede Entwicklung, einschließlich dessen, was man „Lernen“ nennt, ist ein Prozess, der mit einem Zustand des Organismus beginnt und ihn Schritt für Schritt in spätere Stadien umwandelt.
Der Spracherwerb ist ein solcher Prozess. Der Ausgangszustand ist die biologische Ausstattung der Sprachfähigkeit, die offensichtlich vorhanden ist, auch wenn es sich, wie manche glauben, um eine besondere Kombination anderer Fähigkeiten handelt. Das ist aus seit langem bekannten Gründen höchst unwahrscheinlich, aber für unsere Bedenken hier nicht relevant, sodass wir es beiseite legen können. Offensichtlich gibt es eine biologische Begabung für die Sprachfähigkeit des Menschen. Die reinste Binsenweisheit.
Der Übergang verläuft zu einem relativ stabilen Zustand, der sich nur oberflächlich verändert und über die Kenntnis der Sprache hinausgeht. Externe Daten lösen den Prozess aus und prägen ihn teilweise. Aus der Untersuchung des erreichten Zustands (Sprachkenntnisse) und der externen Daten lassen sich weitreichende Rückschlüsse auf den Ausgangszustand, die biologische Ausstattung, die den Spracherwerb ermöglicht, ziehen. Die Schlussfolgerungen über den Ausgangszustand erfordern eine Unterscheidung zwischen möglichen und unmöglichen Sprachen. Die Unterscheidung gilt für alle, die den ursprünglichen Zustand teilen – alle Menschen, soweit bekannt; Es scheint zwischen bestehenden menschlichen Gruppen keinen Unterschied in der Fähigkeit zum Spracherwerb zu geben.
All dies ist normale Wissenschaft und hat zu vielen Ergebnissen geführt.
Experimente haben gezeigt, dass der stabile Zustand im Wesentlichen sehr früh, im Alter von drei bis vier Jahren, erreicht wird. Es ist auch allgemein anerkannt, dass die Sprachfähigkeit über grundlegende Eigenschaften verfügt, die spezifisch für den Menschen sind, und dass es sich daher um eine echte Spezieseigenschaft handelt: sie ist allen menschlichen Gruppen gemeinsam und in grundlegender Weise eine einzigartige menschliche Eigenschaft.
In dieser schematischen Darstellung wird vieles ausgelassen, insbesondere die Rolle des Naturgesetzes bei Wachstum und Entwicklung: im Fall eines Computersystems wie der Sprache die Prinzipien der Computereffizienz. Aber das ist der Kern der Sache. Wieder normale Wissenschaft.
Es ist wichtig, sich über Aristoteles‘ Unterscheidung zwischen Wissensbesitz und Wissensnutzung (in der zeitgenössischen Terminologie: Kompetenz und Leistung) im Klaren zu sein. Im Fall der Sprache ist der erreichte stabile Zustand der Besitz von Wissen, das im Gehirn kodiert ist. Das innere System bestimmt eine unbegrenzte Reihe strukturierter Ausdrücke, von denen wir jeden als die Formulierung eines Gedankens betrachten können, jeder in einem sensomotorischen System externalisierbar, normalerweise laut, obwohl es sich um ein Zeichen oder sogar (mit Schwierigkeiten) um eine Berührung handeln könnte.
Auf das intern kodierte System wird unter Nutzung von Wissen (Leistung) zugegriffen. Zur Leistung gehört der interne Sprachgebrauch im Denken: Reflexion, Planung, Erinnerung und vieles mehr. Statistisch gesehen ist das der weitaus überwiegende Sprachgebrauch. Es ist für die Selbstbeobachtung unzugänglich, obwohl wir mit den normalen Methoden der Wissenschaft, metaphorisch gesprochen, von „außen“ viel darüber lernen können. Was „innere Sprache“ genannt wird, sind in Wirklichkeit Fragmente einer externalisierten Sprache mit gedämpftem Artikulationsapparat. Es ist nur eine entfernte Widerspiegelung des internen Sprachgebrauchs, wichtige Themen, auf die ich hier nicht eingehen kann.
Weitere Formen des Sprachgebrauchs sind die Wahrnehmung (Parsing) und die Produktion, wobei es sich bei letzterer entscheidend um Eigenschaften handelt, die für uns heute noch genauso rätselhaft sind wie damals, als Galileo und seine Zeitgenossen sie zu Beginn der modernen Wissenschaft mit Ehrfurcht und Erstaunen betrachteten.
Das Hauptziel der Wissenschaft besteht darin, das innere System zu entdecken, sowohl in seinem ursprünglichen Zustand im menschlichen Sprachvermögen als auch in den besonderen Formen, die es beim Erwerb annimmt. In dem Maße, in dem dieses interne System verstanden wird, können wir untersuchen, wie es in die Aufführung einfließt und mit vielen anderen Faktoren interagiert, die in den Sprachgebrauch einfließen.
Leistungsdaten liefern Hinweise auf die Natur des internen Systems, insbesondere wenn sie durch Experimente verfeinert werden, wie bei Standard-Feldarbeiten. Aber selbst die umfangreichste Datensammlung ist zwangsläufig in entscheidender Weise irreführend. Es beschränkt sich auf das, was normalerweise produziert wird, nicht auf das Wissen über die im Gehirn kodierte Sprache, das primäre Untersuchungsobjekt für diejenigen, die die Natur der Sprache und ihren Gebrauch verstehen wollen. Dieses interne Objekt bestimmt unendlich viele Möglichkeiten einer Art, die im normalen Verhalten aufgrund von Faktoren, die für die Sprache irrelevant sind, wie etwa Einschränkungen des Kurzzeitgedächtnisses, Themen, die vor 60 Jahren untersucht wurden, nicht genutzt werden. Zu den beobachteten Daten gehört auch vieles, was außerhalb des im Gehirn kodierten Systems liegt, oft der bewusste Gebrauch von Sprache auf eine Art und Weise, die gegen die Regeln für rhetorische Zwecke verstößt. Dies sind Binsenweisheiten, die allen Feldarbeitern bekannt sind, die sich auf Erhebungstechniken mit Informanten, im Grunde genommen Experimente, verlassen, um ein verfeinertes Korpus zu erhalten, das irrelevante Einschränkungen und abweichende Ausdrücke ausschließt. Das Gleiche gilt, wenn Linguisten sich selbst als Informanten einsetzen, ein durchaus sinnvolles und normales Vorgehen, das in der Geschichte der Psychologie bis heute üblich ist.
Wenn wir mit der normalen Wissenschaft weitergehen, stellen wir fest, dass die internen Prozesse und Elemente der Sprache nicht durch Betrachtung beobachteter Phänomene erkannt werden können. Oft tauchen diese Elemente nicht einmal in der Sprache (oder Schrift) auf, obwohl ihre oft subtilen Auswirkungen erkennbar sind. Dies ist ein weiterer Grund, warum die Beschränkung auf beobachtete Phänomene, wie in LLM-Ansätzen, das Verständnis der internen Prozesse, die die Kernobjekte der Untersuchung der Natur der Sprache, ihres Erwerbs und ihrer Verwendung sind, stark einschränkt. Dies ist jedoch nicht relevant, wenn die Sorge um Wissenschaft und Verständnis zugunsten anderer Ziele aufgegeben wurde.
Ganz allgemein werden in den Naturwissenschaften seit Jahrtausenden Schlussfolgerungen durch Experimente – oft Gedankenexperimente – gezogen, die jeweils eine radikale Abstraktion von Phänomenen darstellen. Experimente sind theoriegeleitet und versuchen, die unzähligen irrelevanten Faktoren zu verwerfen, die in beobachtete Phänomene einfließen – wie etwa die Sprachleistung. Das alles ist so elementar, dass es selten diskutiert wird. Und vertraut. Wie bereits erwähnt, geht die grundlegende Unterscheidung auf die Unterscheidung von Aristoteles zwischen Wissensbesitz und Wissensnutzung zurück. Ersteres ist das zentrale Untersuchungsobjekt. Sekundäre (und recht ernsthafte) Studien untersuchen, wie das intern gespeicherte Wissenssystem bei der Leistung genutzt wird, zusammen mit den vielen nichtsprachlichen Faktoren, die in das direkt Beobachtete einfließen.
Wir erinnern uns vielleicht auch an eine Beobachtung des Evolutionsbiologen Theodosius Dobzhansky, der vor allem für seine Arbeit mit Drosophila berühmt ist: Jede Art ist einzigartig, und der Mensch ist der einzigartigste von allen. Wenn wir daran interessiert sind, zu verstehen, was für Geschöpfe wir sind – gemäß der Anweisung des Delphischen Orakels vor 2,500 Jahren –, werden wir uns in erster Linie mit dem befassen, was den Menschen zum Einzigartigsten von allen macht, vor allem Sprache und Denken, die eng miteinander verbunden sind, wie in a erkannt reiche Tradition, die bis ins klassische Griechenland und Indien zurückreicht. Die meisten Verhaltensweisen sind ziemlich routinemäßig und daher bis zu einem gewissen Grad vorhersehbar. Was einen wirklichen Einblick in das gibt, was uns einzigartig macht, ist das, was keine Routine ist, die wir manchmal durch Experimente, manchmal durch Beobachtung finden, von normalen Kindern bis hin zu großen Künstlern und Wissenschaftlern.
In diesem Zusammenhang noch eine letzte Bemerkung. Die Gesellschaft wird seit einem Jahrhundert von massiven Unternehmenskampagnen geplagt, die die Missachtung der Wissenschaft fördern sollen – Themen, die unter anderem von Naomi Oreskes gut untersucht wurden. Es begann mit Konzernen, deren Produkte mörderisch sind: Blei, Tabak, Asbest, später fossile Brennstoffe. Ihre Motive sind verständlich. Das Ziel eines Unternehmens in einer kapitalistischen Gesellschaft ist Gewinn, nicht das Wohlergehen der Menschen. Das ist eine institutionelle Tatsache: Wenn Sie das Spiel nicht mitmachen, sind Sie draußen und werden durch jemanden ersetzt, der es tut.
Die PR-Abteilungen der Unternehmen erkannten früh, dass es ein Fehler wäre, die zunehmenden wissenschaftlichen Beweise für die tödliche Wirkung ihrer Produkte zu leugnen. Das wäre leicht zu widerlegen. Es ist besser, Zweifel zu säen, Unsicherheit und Verachtung für diese spitzköpfigen Anzugträger zu säen, die noch nie ein Haus gestrichen haben, aber aus Washington gekommen sind, um mir zu sagen, ich solle keine Bleifarbe verwenden, was mein Geschäft zerstört (ein echter Fall, der sich leicht vervielfachen lässt). Das hat nur allzu gut funktioniert. Im Moment führt es uns auf einen Weg zur Zerstörung des organisierten menschlichen Lebens auf der Erde.
In intellektuellen Kreisen wurden ähnliche Effekte durch die postmoderne Wissenschaftskritik hervorgerufen, demontiert von Jean Bricmont und Alan Sokal, aber in manchen Kreisen immer noch sehr lebendig.
Es mag unfreundlich sein, diese Frage zu stellen, aber ich denke, es ist fair zu fragen, ob die Tom Joneses und diejenigen, die ihre nachlässigen Verkündigungen unkritisch wiederholen und sogar verstärken, zu denselben unheilvollen Tendenzen beitragen.
Voll-Anschluss: ChatGPT ist ein auf natürlicher Sprache basierender Chatbot, der künstliche Intelligenz nutzt, um menschenähnliche Gespräche zu ermöglichen. In einem aktuellen Artikel in Die New York TimesGemeinsam mit zwei anderen Autoren schalten Sie die neuen Chatbots als Hype ab, weil sie einfach nicht mit der Sprachkompetenz des Menschen mithalten können. Ist es jedoch nicht möglich, dass zukünftige Innovationen in der KI zu Ingenieurprojekten führen können, die den menschlichen Fähigkeiten entsprechen und diese vielleicht sogar übertreffen?
NC: Die Anerkennung des Artikels sollte dem eigentlichen Autor Jeffrey Watumull zuteil werden, einem hervorragenden Mathematiker, Linguisten und Philosophen. Die beiden aufgeführten Co-Autoren waren Berater, die mit dem Artikel einverstanden waren, ihn aber nicht geschrieben haben.
Zwar können Chatbots aus den oben genannten Gründen grundsätzlich nicht mit der Sprachkompetenz von Menschen mithalten. Ihr grundlegender Aufbau hindert sie daran, die minimale Eignungsvoraussetzung für eine Theorie der menschlichen Sprache zu erreichen: die Unterscheidung zwischen möglichen und unmöglichen Sprachen. Da dies eine Eigenschaft des Designs ist, kann es durch zukünftige Innovationen dieser Art von KI nicht überwunden werden. Es ist jedoch durchaus möglich, dass zukünftige Ingenieurprojekte die menschlichen Fähigkeiten, wenn wir menschliche Handlungsfähigkeit und Leistung meinen, erreichen oder sogar übertreffen. Wie bereits erwähnt, tun dies einige längst: automatische Taschenrechner zum Beispiel. Noch interessanter ist, dass Insekten mit winzigen Gehirnen, wie bereits erwähnt, die menschlichen Fähigkeiten, die als Kompetenz verstanden werden, übertreffen.
Voll-Anschluss: In dem oben genannten Artikel wurde auch festgestellt, dass heutige KI-Projekte keine menschliche moralische Fähigkeit besitzen. Macht diese offensichtliche Tatsache KI-Roboter zu einer geringeren Bedrohung für die Menschheit? Ich denke, das Argument könnte sein, dass sie dadurch vielleicht sogar noch stärker werden.
NC: Es ist in der Tat eine offensichtliche Tatsache, wenn man „moralische Fähigkeiten“ im weitesten Sinne versteht. Ohne sorgfältige Kontrolle kann die KI-Technik eine ernsthafte Bedrohung darstellen. Nehmen wir zum Beispiel an, dass die Patientenversorgung automatisiert wäre. Die unvermeidlichen Fehler, die durch menschliches Urteilsvermögen überwunden würden, könnten eine Horrorgeschichte hervorbringen. Oder nehmen wir an, dass Menschen von der Bewertung der durch automatisierte Raketenabwehrsysteme ermittelten Bedrohungen ausgeschlossen würden. Als schockierende historische Aufzeichnung Informiert Für uns wäre das das Ende der menschlichen Zivilisation.
Ohne sorgfältige Kontrolle kann die KI-Technik eine ernsthafte Bedrohung darstellen.
Voll-Anschluss: Regulierungsbehörden und Strafverfolgungsbehörden in Europa äußern Bedenken hinsichtlich der Verbreitung von ChatGPT, während ein kürzlich vorgelegter Rechtsakt der Europäischen Union versucht, mit KI umzugehen, indem solche Tools nach ihrem wahrgenommenen Risikograd klassifiziert werden. Stimmen Sie denen zu, die befürchten, dass ChatGPT eine ernsthafte öffentliche Bedrohung darstellt? Glauben Sie darüber hinaus wirklich, dass die Weiterentwicklung von KI-Tools gestoppt werden kann, bis Schutzmaßnahmen eingeführt werden können?
NC: Ich kann die Bemühungen, die von fortschrittlicher Technologie ausgehenden Bedrohungen zu kontrollieren, einschließlich dieses Falles, durchaus nachvollziehen. Ich bin jedoch skeptisch, was die Möglichkeit einer solchen Umsetzung angeht. Ich vermute, dass der Geist aus der Flasche ist. Böswillige Akteure – institutionelle oder Einzelpersonen – können wahrscheinlich Wege finden, Schutzmaßnahmen zu umgehen. Solche Verdächtigungen sind natürlich kein Grund, es nicht zu versuchen und wachsam zu sein.
ZNetwork finanziert sich ausschließlich durch die Großzügigkeit seiner Leser.
Spenden