Dies ist nicht nur ein weiterer Beitrag darüber ChatGPT. Das verspreche ich. Es gibt Gott weiß wie viele Artikel, die mit Panik-Schlagzeilen über den Weltuntergang in den Interwebs um Klicks betteln (Hier, Hier, Hier, Hier, Hier, Hierund so viele mehr).
Das Downside bei den meisten dieser sensationslüsternen Artikel ist ein allgemeiner Mangel an Verständnis dafür, wie das funktioniert großes Sprachmodell (LLM) Wurst wird hergestellt. Bevor wir uns mit der künstlichen allgemeinen Intelligenz (AGI) und dem Bewusstsein befassen, wollen wir uns mit den LLM-Grundlagen befassen. Es läuft wirklich auf ein paar wichtige Schritte hinaus:
- Überwachtes Lernen – Sie müssen ein Modell mit vielen, vielen, vielen beschrifteten Daten mit Eingabeaufforderungen und Antworten trainieren, was erfordert, dass viele, viele, viele Leute diese Daten beschriften, additionally Sätze schreiben, die ein echter Mensch schreiben würde.
- Belohnungsmodell – Zeit, eine Karotte baumeln zu lassen. Die Personen, die in Schritt 1 Daten mit Labels versehen haben, sind noch nicht fertig. Das überwachte Lernmodell gibt eine Reihe von Antworten aus und der Labelersteller kann auswählen, welche die beste ist. Diese Rangfolge ist für das Coaching unseres neuen Belohnungsmodells von entscheidender Bedeutung.
- Verstärkungslernen — Dem Modell wird eine zufällige Eingabeaufforderung präsentiert und es nutzt seine erlernte Richtlinie, um den Erhalt einer „Belohnung“ zu optimieren. Maximiert die generierte Antwort die Richtlinie? Wenn nicht, wird weiterhin versucht, die Richtlinie zu ändern und zu stärken, um die beste Reaktion zu erzielen. Mit anderen Worten: Wir belohnen gute Antworten und bestrafen schlechte.
Hier ist der Clou. Die Mathematik, die zur Erstellung der oben aufgeführten Algorithmen für maschinelles Lernen verwendet wurde, wurde größtenteils in den 1980er Jahren entwickelt! Sutton & Barto wahrscheinlich dümpelten wir mit Schwarm Möwen beim Programmieren auf ihrem Tandy TRS-80. Rumelhart und Hinton leiteten Backpropagation ab, während sie es schüttelten, um DMCs auszuführen.Gehen Sie diesen Weg.“ Okay, wahrscheinlich nicht….
Der Punkt ist folgender: Fortschritte mit ChatGPT und anderen LLMs sind nichts Spektakuläres … zumindest nicht aus der Sicht der Grundlagen neuronaler Netze. Die Magie entsteht durch den Zugriff auf wahnsinnige Mengen an Benutzerdaten, die an das Netzwerk gesendet werden können, und durch Cloud-Computing-GPUs, die damit umgehen können. Anstatt nur einen dieser Schritte einzeln auszuführen, können Sie sie jetzt alle miteinander verknüpfen, um etwas ziemlich Beeindruckendes hervorzubringen.
ChatGPT hat LLMs seit dem definitiv weiterentwickelt Word2Vec Tage vor einem Jahrzehnt, aber was sich unter der Haube verbirgt, ist nicht spektakulär anders. Es handelt sich um eine Reihe kleiner Optimierungen hier und Anpassungen dort, die große Vorteile bringen, wenn Sie Daten in Google-Größe zur Verfügung haben.
Klingt das alles für Sie nach einer böswilligen, bewussten Sache? Wahrscheinlich nicht. Durch die Ausarbeitung langweiliger Algorithmusschritte werden keine bezahlten Anzeigen verkauft, daher ist es für einige Journalisten einfacher, ein Headerbild von HAL 9000 zu posten und stattdessen Unmengen an Angst zu verkaufen.
Ja, ein Software mit dieser Menge an trainierten Daten kann besorgniserregend sein, aber was noch beängstigender ist, ist die Artwork und Weise, wie Menschen dieses neue Software in der Praxis nutzen. Hier wurde nichts Neues gesagt. Viele Menschen haben den Atombombenvergleich bereits angestellt, aber aus gutem Grund. Ein mächtiges Werkzeug in den Händen eines schlechten Schauspielers wird zur Waffe.
Kehren wir jetzt zum AGI-Gespräch zurück. Wenn ChatGPT nur ein ist RitterreiterWarum haben die Leute dann solche Angst? Weil Bewusstsein. Die meisten Menschen assoziieren Sprache mit dem Menschsein. Ein denkendes Ding höherer Ordnung sein. Und obwohl ein Teil dieses Gefühls zutrifft, liegt es nur an der Interaktion zwischen anderen nichtsprachlichen Bereichen des Gehirns, die Sprache so kraftvoll erscheinen lässt.
Mit anderen Worten: Was den Menschen in die Lage versetzt, sich so schnell an neue Situationen anzupassen, ist die enorme Koordination motorischer, visueller, zerebellärer, hippocampaler, basaler Ganglien-, präfrontaler und anderer Bereiche, die im Vergleich zu dem, was wir zuvor erlebt haben, neue Informationen herausfinden. Erinnern Sie sich an die LLM-Schritte oben? Es sind große Datenmengen erforderlich, um am anderen Ende etwas Sinnvolles auszuspucken. Korrektheit durch rohe Gewalt. Aber unser Gehirn? Wir sehen etwas ein paar Mal und je nach Stimmung ist es wahrscheinlich, dass wir es einfach so lernen. Wir brauchen nur ein paar Beispiele, während hochmodernes Deep Studying immer noch riesige Datensätze erfordert, um nützlich zu sein.
Was LLMs wie ChatGPT tun, ist, den Benutzern das zu geben Deckmantel der Intelligenz weil wir Sprache damit assoziieren, dass wir all diese anderen Denkteile höherer Ordnung bereits zusammengesetzt haben. Das trifft zwar auf Menschen zu, könnte aber bei LLMs nicht am weitesten von der Realität entfernt sein. Sie nehmen Eingaben entgegen. Sie spucken Ergebnisse ohne jegliches „Bewusstsein“ oder jegliche Theorie des Geistes aus.
Sie sind immer noch verherrlichte Rechner, keine Dinge, die das Bewusstsein schärfen. Stellen wir eine kühne Behauptung auf. Solange LLMs weiterhin CPUs und GPUs verwenden, auf denen Backprop-basierte Algorithmen ausgeführt werden, ist es höchst unwahrscheinlich, dass sie jemals die bewusste Variante von AGI erreichen (Definition Nr. 2 unten).
Bei AGI möchte ich jedoch zwei verschiedene Teile aufschlüsseln, um semantische Argumente zu vermeiden:
- Externe Überprüfung — Diese Definition von AGI besagt, dass es keine Rolle spielt, was im Cloud-Server vor sich geht und alles verarbeitet. Was zählt, sind die Ergebnisse, die die Maschine erzeugt. Mit anderen Worten: Solange die KI wie ein Mensch frei denken und erschaffen kann, spielt es keine Rolle, wie sie an diesen Punkt gelangt.
- Interne Überprüfung — Diese Definition von AGI besagt, dass allgemeine Intelligenz mit Bewusstsein gleichgesetzt wird. In der ersten Definition besteht kein Bedarf an Bewusstsein; einfach gute Ausgabe. Hier sagen wir, dass die inneren Mechanismen selbst eine Voraussetzung für das Bewusstsein und damit für die allgemeine Intelligenz sind.
Letzteres ist eine viel mutigere Behauptung, obwohl ich denke, dass Definition Nr. 1 wahrscheinlich früher eintreten wird, als wir denken. Mit roher Gewalt können wir viel erreichen! Das Stapeln von Backprop und Reinforcement Studying warfare eine großartige Idee, die nur den Anfang signalisiert. Google erweitert seine neuronalen Netze schon seit langem um weitere neurowissenschaftlich fundierte Topologien. Wir werden additionally in naher Zukunft sicherlich Modelle haben, die das Äquivalent von DLPFC-zu-parietalen sensorischen Integrationsmodulen und noch viel mehr zusammenfügen.
Noch gruseliger wird es, wenn wir über die Sprache hinausgehen. Als Menschen legen wir viel zu großen Wert auf die Sprache. Die Evolution hat Millionen von Jahren damit verbracht, subkortikale, sensorische und motorische Systeme zu entwickeln, die gleichermaßen beeindruckend sind! Es macht ziemlich viel Spaß, mit generativer KI für Textual content und Bilder zu experimentieren, aber sobald wir multimodale Sensorfusion hinzufügen, um Sensible Houses und jeden anderen Sensor-Mikrochip, den wir haben, zu mischen, wird es seltsam.
Sollten wir uns darüber Sorgen machen, dass ChatGPT bewusst ist oder sich selbst weiterentwickelt? 100% nein. Aber ChatGPT ist nur die Spitze des Eisbergs und ich bin auf jeden Fall nervös wegen der Innovationsspitze im Hinblick auf die multimodalen Emulationsmodelle für mehrere Gehirnregionen, die in diesem Jahrzehnt sicherlich kommerziellen Erfolg haben werden.
Fotoquelle: Gencract Aufforderung „Netzwerk für künstliche Intelligenz als Pawlowscher Roboterhund erhält eine Belohnung.“
