Die Perspektiven von VC Astasia Myers zu maschinellem Lernen, Cloud-Infrastruktur, Entwicklertools, Open Supply und Sicherheit. Hier anmelden.
Image Joint Embedding Predictive Architecture (I-JEPA)
Metas leitender KI-Wissenschaftler Yann LeCun schlug eine neue Architektur vor, die wesentliche Einschränkungen fortschrittlicher KI-Systeme überwinden soll. Picture Joint Embedding Predictive Structure (I-JEPA) ist das erste KI-Modell, das auf einer Schlüsselkomponente der Imaginative and prescient von LeCun basiert. I-JEPA lernt, indem es ein internes Modell der Außenwelt erstellt, das abstrakte Darstellungen von Bildern vergleicht (anstatt die Pixel selbst zu vergleichen). I-JEPA bietet eine starke Leistung bei mehreren Pc-Imaginative and prescient-Aufgaben und ist recheneffizienter als andere weit verbreitete Pc-Imaginative and prescient-Modelle.
Warum ist das wichtig? LeCun äußerte sich lautstark zu seinen Gedanken zur aktuellen Architektur und Leistung von Modellen. Ziel des JEPA ist es, die Darstellung eines Teils einer Eingabe (z. B. eines Bildes oder eines Textstücks) anhand der Darstellung anderer Teile derselben Eingabe vorherzusagen. Da es nicht darum geht, Darstellungen aus mehreren Ansichten/Erweiterungen eines Bildes auf einen einzigen Punkt zu reduzieren, besteht die Hoffnung für die JEPA darin, die Vorurteile und Probleme zu vermeiden, die mit einer anderen weit verbreiteten Methode namens invarianzbasiertem Vortraining verbunden sind. Durch die Vorhersage von Darstellungen auf einem hohen Abstraktionsniveau anstelle der direkten Vorhersage von Pixelwerten besteht die Hoffnung, direkt nützliche Darstellungen zu lernen, die auch die Einschränkungen generativer Ansätze (z. B. ChatGPT) umgehen, die den großen Sprachmodellen zugrunde liegen, die in letzter Zeit so viel Aufsehen erregt haben .
Die Foundation-Modelldatenplattform von Snorkel
Schnorchel‘Die Basis Mannequin Knowledge Platform von s unterstützt den breiteren Satz datenzentrierter Vorgänge bei der Entwicklung moderner Basis Fashions (FMs) – von der Stichprobenentnahme, Filterung und Kuratierung der Datensätze für domänenspezifisches Vortraining bis hin zur Erstellung und Bereinigung der Befehlsoptimierungsdatensätze für Generative KI-Ausrichtung – dadurch erstklassig und programmatisch.
Warum ist das wichtig? Wir stellen fest, dass ML-Praktiker mit der Verwendung von Standardmodellen beginnen. Während die Arbeit vom Experimentieren zur Entwicklung übergeht, beginnen die Groups, die Befehlsoptimierung auf gehostete Modelle anzuwenden oder ihre eigenen Modelle zu verfeinern. Es ist interessant zu sehen, wie sich datenzentrierte Vorgänge, die vor der Zeit vor grundlegenden Modellen entstanden sind, auf die Verbesserung grundlegender Modelle erstrecken. Diese Plattform deutet darauf hin, dass es nicht „ein Modell geben wird, das alle beherrscht“, sondern vielmehr ein Ökosystem individueller Modelle.
Coda AI ist mehr als nur ein Schreibassistent: Mit Coda AI können Sie ganze Arbeitsabläufe automatisieren, indem Sie Notizen zusammenfassen, Daten analysieren und gleichzeitig Ergebnisse für jede Zeile in einer Tabelle generieren.
- KI-Assistent: ein neuer Kooperationspartner. Der KI-Assistent kann Inhalte entwerfen, Änderungen vorschlagen, Tabellen erstellen, Informationen finden, auf Ihre Daten verweisen und vieles mehr.
- KI-Spalte: Verzaubern Sie jede Tabelle mit automatisch generierten benutzerdefinierten Inhalten – die sich skalieren lassen. Verwenden Sie die KI-Spalte, um Ihre Daten zu erweitern oder sie zu organisieren.
- AI-Block: Verwandeln Sie Informationen mit AI-Block in Erkenntnisse. Splendid zum Erstellen von Zusammenfassungen und Aktionselementen, zum Konvertieren von Daten in Textual content und mehr.
Warum ist das wichtig? Coda begann mit einer Integration mit OpenAI, die es Benutzern ermöglichte, Tweets zu generieren und Zusammenfassungen zu schreiben. Das Unternehmen hat sein KI-Angebot erweitert. Die Forschung und Entwicklung von Coda unterstreicht, dass etablierte Unternehmen nicht nur eine KI-Funktion auf den Markt bringen, sondern über die erste Veröffentlichung hinaus aktiv neue KI-basierte Dienste entwickeln. KI ist keine Eintagsfliege.
Eine Gruppe von Forschern aus Großbritannien und Kanada veröffentlichte ein Papier über ihre Arbeit im Open-Entry-Journal arXiv. Was sie fanden, ist besorgniserregend für die aktuelle generative KI-Technologie und ihre Zukunft: „Wir stellen fest, dass die Verwendung modellgenerierter Inhalte im Coaching irreversible Fehler in den resultierenden Modellen verursacht.“
Warum ist das wichtig? Das Papier kommt zu dem Schluss, dass sich Fehler in generierten Daten mit der Zeit verstärken und Modelle, die aus generierten Daten lernen, dazu zwingen, die Realität noch falscher wahrzunehmen. Ein Modellkollaps tritt auf, wenn die von KI-Modellen generierten Daten letztendlich den Trainingssatz für nachfolgende Modelle verunreinigen. Synthetische Daten wurden als Bootstrap- oder Increase-Trainingsdaten verwendet. Die Forschung legt nahe, dass synthetische Daten die Modelle verzerren und schwerwiegende Folgen wie Diskriminierung haben könnten.
Die Forscher heben zwei konkrete Wege hervor. Die erste besteht darin, eine Prestigekopie des ursprünglichen, ausschließlich oder nominell von Menschen erstellten Datensatzes zu behalten und eine Kontamination mit KI-generierten Daten zu vermeiden. Die zweite Möglichkeit, eine Verschlechterung der Antwortqualität zu vermeiden und unerwünschte Fehler oder Wiederholungen von KI-Modellen zu reduzieren, besteht darin, neue, saubere, von Menschen generierte Datensätze wieder in ihr Coaching einzuführen.
Synthesia beschafft Serie C im Wert von 90 Millionen US-Dollar
Synthesia hat es sich zur Aufgabe gemacht, Movies für jedermann einfach zu machen. Seit der Gründung von Synthesia vor sechs Jahren nutzen mittlerweile mehr als 50.000 Unternehmen – darunter ein Drittel der Fortune 100 – ihre KI-Plattform zur Erstellung von Movies.
Warum ist das wichtig? Synthesia entsteht in der Ära der „Deep Fakes“, über die wir zuvor geschrieben haben Hierund wurde ursprünglich berühmt durch die Schaffung von a synthetisches Video von David Beckham. Mit der neuen Finanzierung plant das Workforce, mehr Technologie zu entwickeln, um Avatare mit mehr Gesichtsausdrücken, natürlichen Bewegungen, besseren Stimmen und Anpassungsoptionen zu verbessern. Wir freuen uns besonders darüber, dass sie zwei Avatare auf einem Bildschirm starten. Der Bereich der Videoerstellung ist heiß begehrt, da RunwayML Gen-2 für Textual content-to-Video veröffentlicht. Synthesia und RunwayML erweitern weiterhin die Grenzen der Erstellung synthetischer Inhalte.
OpenAI-Funktionsaufrufe und andere API-Updates
Neue Funktionen von OpenAI sorgten für Aufregung im Web:
- Neue Funktionsaufruffunktion in der Chat Completions API
- Aktualisierte und besser lenkbare Versionen von GPT-4 und GPT-3.5-Turbo
- neue 16K-Kontextversion von gpt-3.5-turbo (im Vergleich zur Normal-4K-Model)
- 75 % Kostenreduzierung bei unserem hochmodernen Einbettungsmodell
- 25 % Kostenreduzierung auf Eingabe-Tokens für gpt-3.5-turbo
- Ankündigung des Einstellungszeitraums für die Modelle gpt-3.5-turbo-0301 und gpt-4–0314
Warum ist das wichtig? Funktionsaufrufe haben große Auswirkungen auf die Fähigkeiten von OpenAI und das Ökosystem. Entwickler können jetzt Funktionen für gpt-4–0613 und gpt-3.5-turbo-0613 beschreiben und das Modell auf intelligente Weise auswählen lassen, ein JSON-Objekt auszugeben, das Argumente zum Aufrufen dieser Funktionen enthält. Dies ist eine neue Möglichkeit, die Funktionen von GPT zuverlässiger mit externen Instruments und APIs zu verbinden. Funktionen implementieren dieses ReAct-Muster und ermöglichen es LLMs, Ausgaben zu strukturieren, die von einem anderen Programm verwendet werden können, jedoch nicht in natürlicher Sprache für Menschen.
⭐️Tontopf — Gründungsingenieur (Infra)
⭐️Chroma — Mitglied des technischen Personals
⭐️Speakeasy — Gründungsingenieur
