Superintelligente (sogar normalintelligente) KI-Systeme stellen viele Bedrohungen für die Menschheit dar. Einige davon werden vor allem von KI-Sicherheitsforschern beschrieben Eliezer Yudkowsky (Mitbegründer und wissenschaftlicher Mitarbeiter am Machine Intelligence Analysis Institute), der es warfare zitiert In einem kürzlich erschienenen Artikel heißt es: „Viele Forscher, die sich mit diesen Themen beschäftigen, darunter auch ich, gehen davon aus, dass das wahrscheinlichste Ergebnis des Aufbaus einer übermenschlich intelligenten KI unter den gegenwärtigen Umständen darin besteht, dass buchstäblich jeder auf der Erde sterben wird.„Yudkowsky glaubt, dass wir nicht die richtige Forschung durchgeführt und die Sicherheitsmechanismen eingebaut haben, um diese Artwork von Systemen ordnungsgemäß zu steuern.“Ohne diese Präzision und Vorbereitung ist das wahrscheinlichste Ergebnis eine KI, die nicht das tut, was wir wollen, und die sich weder um uns noch um das fühlende Leben im Allgemeinen kümmert. Diese Artwork der Fürsorge könnte im Prinzip in eine KI integriert werden, aber wir sind noch nicht bereit und wissen derzeit nicht, wie“. Dies hat dazu geführt ein offener Brief um die kontinuierlichen Fortschritte der KI über ChatGPT4 hinaus zu stoppen. Selbst im optimistischsten Szenario, in dem diese Probleme gelöst werden Empfehlungensind wir immer noch mit der hässlichen Realität konfrontiert, dass Menschen (in unserem gegenwärtigen Zustand), wenn sie der KI gegenübergestellt werden, ihres Zwecks, ihrer sinnvollen Arbeit und der Fähigkeit beraubt werden, einen allgemeinen wirtschaftlichen Wert zu schaffen.
Bevor mit weiteren Abschnitten fortgefahren wird, ist es wichtig, die allgemeinen Voraussetzungen zu skizzieren, die zu diesen Schlussfolgerungen führen:
1. Intelligentes Verhalten (und möglicherweise Bewusstsein) ist substratunabhängig (organisch vs. Silizium): Intelligenz kann in ihrer einfachsten Kind als die Fähigkeit betrachtet werden, Informationen zu verarbeiten und diese Informationen in umsetzbare Ergebnisse umzuwandeln. Wenn wir von Substrat sprechen, bedeutet dies einfach, dass die Informationsverarbeitung in anderen Systemen als durch herkömmliche biologische Systeme stattfinden kann und auch über anorganische Materie (wie Siliziumchips) erfolgen kann. Tatsächlich gehen wir bereits davon aus, dass dies in engen Bereichen von Maschinen durchgeführt werden kann, wie es bei unseren Sensoren, Taschenrechnern oder sogar eng gebauten KI-Systemen der Fall ist. Bisher galt allgemeines intelligentes Verhalten jedoch als ausschließliche Domäne biologischer Systeme, doch wird es zunehmend in Siliziumsubstraten nachgeahmt. Bemerkenswerte Fortschritte in der KI, insbesondere im Bereich der Verarbeitung natürlicher Sprache (NLP), haben Fähigkeiten gezeigt, die bisher als ausschließlich dem Menschen vorbehalten galten. Systeme wie GPT-4 von OpenAI und Bard von Google haben erhebliche Fortschritte gemacht und verdeutlichen diesen Development. Tatsächlich, wie in der dargelegt Vorherige SektionNLPs übertreffen bereits 99,9 % der Menschen bei IQ-Checks, mit einem Development, der bis 2025 einen IQ-Wert von 550 erreichen wird (Abbildung 1).
2. Maschinelle Intelligenz wird sich weiter weiterentwickeln: Die Entwicklung der KI wurde durch schnelle Verbesserungen sowohl bei der {Hardware} als auch bei der Software program vorangetrieben, die zu leistungsstärkeren, effizienteren und ausgefeilteren Systemen führten. Beginnend bei der {Hardware} werden diese Verbesserungen größtenteils durch das Mooresche Gesetz bestimmt, die Beobachtung, dass sich die Anzahl der Transistoren in einem integrierten Schaltkreis etwa alle zwei Jahre verdoppelt [Figure]. Dieses Phänomen, das erstmals 1965 zum Ausdruck kam, als Chips eine zweistellige Anzahl an Transistoren enthielten, wird heute von Computerchips mit 10 oder sogar 100 Milliarden Transistoren in den Schatten gestellt. Auch ohne weitere Fortschritte übersteigt die Rechenleistung moderner Maschinen die des menschlichen Gehirns bei weitem. Im Vergleich dazu können Veränderungen der menschlichen Intelligenz durch die Evolution nur als inkrementell angesehen werden, und es gibt nur bescheidene (wenn überhaupt) beobachtbare Verbesserungen unserer {Hardware}. Wenn wir Veränderungen in der menschlichen Intelligenz im letzten Jahrhundert beobachten (die überwiegend umweltbedingt wären), sind diese sehr bescheiden (Flynn-Effekt) und scheint in jüngerer Zeit in zu sein Abfall. Auch wenn diese Artwork von Umweltveränderungen positiv sind, werden sie wahrscheinlich nur äußerst bescheidene Erträge bringen. Darüber hinaus gibt es keinen Grund zu der Annahme, dass es eine willkürliche Obergrenze für die maschinelle Intelligenz gibt.
Tatsächlich wird die maschinelle Intelligenz, wie sie durch Software program (den Geist der Maschine) erzeugt wird, weiter voranschreiten. Die ersten Versionen allgemeiner KI in Kind von NLPs sind gerade im Entstehen begriffen. Während das Wachstum der Intelligenz bei NLPs derzeit von Menschen gesteuert wird, könnten unsere zunehmend superintelligenten GAIs durchaus damit beauftragt werden, ihre eigene Intelligenz zu verbessern. Dadurch besteht die Gefahr eines Geheimdienstexplosion, ein Szenario, in dem KI-Entitäten die Prozesse analysieren, die ihre Intelligenz produzieren, sie verbessern und einen Nachfolger schaffen, der sich selbst weiter iteriert. Dieser Prozess wiederholt sich in einer positiven Rückkopplungsschleife, in der jede iterative Einheit intelligenter ist als die letzte und in der Lage ist, ihre Intelligenz weiter zu verbessern. Ohne klare Obergrenze für die Intelligenz könnten diese Verbesserungen (und diese Rückkopplungsschleife) zu einer Explosion von etwas Unerkennbarem führen.
3. Verarbeitungsgeschwindigkeit von Silizium im Vergleich zu biologischen Substraten: Ein weiterer großer Vorteil künstlicher Systeme gegenüber biologischen ist die Geschwindigkeit der Informationsverarbeitung. Die Informationsverarbeitung in biologischen Systemen wird von Neuronen durch eine Kombination aus elektrischen Signalen (Aktionspotentialen) und chemischen Signalen (Neurotransmittern) über einen synaptischen Spalt übertragen. Die Ausbreitungsgeschwindigkeit von Aktionspotentialen in Neuronen ist sehr unterschiedlich und reicht von 1 Meter/Sekunde bis über 100 Meter/Sekunde, abhängig von der spezifischen Artwork des Neurons und davon, ob es myelinisiert ist. Der gesamte Prozess der Signalübertragung über eine Synapse, der die Freisetzung von Neurotransmittern, die Bindung an Rezeptoren und die Auslösung einer Reaktion umfasst, erfolgt jedoch typischerweise auf einer Zeitskala von Millisekunden.
Andererseits arbeiten siliziumbasierte Prozessoren mit viel schnelleren Zeitskalen. Moderne Prozessoren können Milliarden von Operationen professional Sekunde ausführen, was bedeutet, dass die Zeitskala für jede Operation im Nanosekundenbereich liegt. Diese Diskrepanz, die sich über etwa sechs Größenordnungen erstreckt, bedeutet im Wesentlichen, dass ein Pc mit der gleichen Intelligenz ein Downside 1 Million Mal schneller bearbeiten würde. Um das ins rechte Licht zu rücken: Die KI, die ein Downside für eine Stunde berechnet, würde für einen Menschen 114 Jahren entsprechen. Lassen Sie das sinken.
4. Gehirn-Maschine-Schnittstellen und die Grenzen des menschlichen Gehirns: Gehirn-Maschine-Schnittstellen (BMIs) sind kranial implantierbare Geräte, die eine direkte Kommunikation zwischen Gehirn und Maschine ermöglichen. Im aktuellen Entwicklungsstand erfassen BMIs Gehirnsignale, entschlüsseln (verarbeiten) sie und übersetzen sie in Befehle, die als Aktionen von Geräten ausgegeben werden. Es besteht jedoch ein großes Potenzial dafür, dass diese Kommunikation bidirektional wird. Unternehmen mögen Neuralink erforschen und entwickeln derzeit diese Technologie, um die menschliche Kognition durch künstliche Intelligenz zu erweitern. Allerdings würden die biologischen Einschränkungen des menschlichen Gehirns die Wirksamkeit dieser Augmentation immer noch einschränken. Die Verarbeitungsgeschwindigkeit, Plastizität und allgemeine kognitive Kapazität des Gehirns können nicht mit dem exponentiellen Wachstum der KI-Fähigkeiten mithalten.
Zusammengenommen unterstreichen diese Faktoren die Dringlichkeit, sich mit dem existenziellen Risiko von AGI zu befassen. Wenn der Aufstieg von Maschinen, die die menschliche Intelligenz übertreffen, unkontrolliert und ungelenkt bleibt, könnte er tiefgreifende und möglicherweise katastrophale Folgen haben. Daher ist es wichtig, potenzielle Abhilfestrategien zu erkunden, zu denen auch die Verbesserung der menschlichen Wahrnehmung gehört.
