Beim Deep Studying ist Symmetrie eine entscheidende induktive Tendenz. Faltungs-Neuronale Netze können Bilder mit Translationssymmetrie verwenden, und Permutationssymmetrie in Diagrammen kann von Diagramm-Neuronalen Netzen verwendet werden. Das Interesse an theoretischer Forschung und praktischen Methoden zum Aufbau allgemeiner gruppenäquivarianter neuronaler Netze hat in letzter Zeit zugenommen.
Äquivariante neuronale Netze bieten mehrere Vorteile, aber um ein Modell zu erstellen, muss man zunächst die Datensymmetrie explizit kennen. Die Identifizierung der wahren Symmetrien der Daten kann in der Praxis eine Herausforderung sein, und die Beschränkung des Modells auf die genaue mathematische Symmetrie ist möglicherweise nicht optimum.
Forscher der College of California San Diego, der Northeastern College und IBM Analysis stellen einen neuartigen Ansatz vor, der auf generativem kontradiktorischem Coaching basiert, um kontinuierliche Symmetrie aus Daten zu extrahieren. Diese Arbeit zeigt, wie Symmetrie mit der Datenverteilung zusammenhängt. Als nächstes trainiert die Methode einen Symmetriegenerator, der die erlernten Transformationen auf die Trainingsdaten anwendet und eine mit dem Originaldatensatz vergleichbare Ausgabeverteilung erzeugt, die Äquivarianz oder Invarianz anzeigt.
Ihre Methode, LieGAN, findet kontinuierliche Symmetrien als Matrixgruppen unter Verwendung der Theorie von Lie-Gruppen und Lie-Algebren. Parametrisierungstechniken ermöglichen den Umgang mit verschiedenen Symmetrien, einschließlich diskreter Gruppentransformation und Gruppenteilmengen. LieGAN erzeugt direkt eine orthogonale Lie-Algebra-Foundation und macht sie interpretierbar. Die Ergebnisse zeigen, dass die erlernte Lie-Algebra von LieGAN zu qualitativ hochwertigen Ergebnissen bei nachgelagerten Aufgaben wie N-Körper-Dynamik und Prime-Quark-Markierung führt. Mithilfe eines äquivarianten Modells und Datenerweiterung wird die Vorhersageleistung über mehrere Datensätze hinweg erhöht und Pipelines zur Nutzung der erlernten Symmetrie in nachgelagerten Vorhersageaufgaben erstellt.
Um das gleiche Leistungsniveau wie äquivariante Modelle mit Floor-Fact-Symmetrien zu erreichen, präsentieren sie auch LieGNN, ein modifiziertes E(n) Equivariant Graph Neural Community (EGNN), das von LieGAN gelernte Symmetrien beinhaltet.
Die vorliegende Arbeit konzentriert sich auf allgemeine lineare Gruppenuntergruppen, die international symmetrisch sind. Die Forscher glauben jedoch, dass dieser Rahmen durch Ersetzen des einfachen linearen Transformationsgenerators in LieGAN durch eine komplexere Struktur auf allgemeinere Szenarien der Symmetrieentdeckung angewendet werden kann. Dies kann nicht verbundene Lie-Gruppensymmetrie, nichtlineare Symmetrie und Eichsymmetrie umfassen.
Besuche die Papier Und GitHub-Link. Vergessen Sie nicht, mitzumachen unser 23k+ ML SubReddit, Discord-Kanal, Und E-Mail-Newsletter, wo wir die neuesten Nachrichten aus der KI-Forschung, coole KI-Projekte und mehr teilen. Wenn Sie Fragen zum obigen Artikel haben oder uns etwas entgangen ist, schreiben Sie uns gerne eine E-Mail an Asif@marktechpost.com
🚀 Schauen Sie sich 100 KI-Tools im AI Tools Club an
Tanushree Shenwai ist Beratungspraktikantin bei MarktechPost. Derzeit absolviert sie ihren B.Tech am Indian Institute of Expertise (IIT) in Bhubaneswar. Sie ist eine begeisterte Information-Science-Enthusiastin und hat großes Interesse am Anwendungsbereich künstlicher Intelligenz in verschiedenen Bereichen. Ihre Leidenschaft gilt der Erforschung neuer technologischer Fortschritte und ihrer praktischen Anwendung.
