Recursive stellt KI-Sprachmodell Flint vor

Entwicklung

Recursive, ein KI-Start-up, hat mit Flint ein Sprachmodell vorgestellt. Das Modell stellt ein Mixture-of-Experts-Modell dar. Es dient dem agentischen Programmieren. Das Programmieren erfolgt auf lokaler Hardware. MoE ist eine Abkürzung für das Modell. Die Entwicklung erfolgte innerhalb von vier Monaten, wobei das hauseigene KI-System "Eureka Machine" massgeblich beteiligt war. Dieses System testet und optimiert eigenständig Architekturen und führt Experimente durch.

Die Eureka Machine war an fast jedem Entwicklungsschritt von Flint beteiligt. Sie schlug Ideen vor, setzte sie um, testete sie und plante anhand der Ergebnisse weitere Experimente. Diese Automatisierung des Forschungszyklus könnte die Entwicklung neuer KI-Modelle deutlich beschleunigen und effizienter gestalten.

Technische Details

Flint verfügt über 40 Milliarden Parameter, von denen pro Token nur 2,5 Milliarden aktiv sind. Das Modell soll dabei mehr als fünfmal schneller laufen.

Flint bietet Kontextfenster mit einer Kapazität von bis zu 512.000 Token. Recursive rät jedoch zu einer maximalen Nutzung von 256.000 Token. Recursive stellt mit rec eine eigene Inferenz-Engine für Apple Silicon vor.

Performance

Gegenüber vergleichbaren Modellen sei die Inferenz bis zu doppelt so schnell. Die Eureka Machine automatisiert den gesamten Forschungszyklus.

Spezialisierte Rechenkerne für Apple Silicon und Nvidia RTX Spark wurden entwickelt. Auf Apples M4- und M5-Chips fasst ein sogenannter Metal-Megakernel den gesamten Vorwärtsdurchlauf bei der Token-Generierung zusammen. Diese Optimierungen über mehrere Entwicklungsschritte hinweg sollen gemeinsam die hohe Inferenzgeschwindigkeit ermöglichen.

Langfristige Ziele

Recursive strebt langfristig die Entwicklung einer Superintelligenz an, die sich selbst immer weiter verbessert. Jedes neue Modell soll die Eureka Machine zu einem besseren Forscher machen, sodass die nächste Modellgeneration schneller und effizienter entsteht. Perspektivisch soll der Ansatz auch die Forschung in anderen wissenschaftlichen Disziplinen automatisieren.

Recursive will mit seiner Eureka Machine die KI-Forschung automatisieren. Ob daraus tatsächlich eine sich beschleunigende Selbstverbesserung entsteht, ist jedoch noch nicht bewiesen. Der ehemalige Google-Deepmind-Forschungschef Oriol Vinyals hält KI-gestützte Selbstverbesserung zwar für realistisch, eine Intelligenzexplosion aber für unwahrscheinlich.

Einordnung für die Schweiz

Streichen Unternehmen könnten von effizienteren und schnelleren Coding-Lösungen profitieren, was die Digitalisierung und Automatisierung in verschiedenen Branchen vorantreibt. Allerdings sind die langfristigen Ziele von Recursive noch nicht bewiesen, und es bleibt abzuwarten, ob die KI-gestützte Selbstverbesserung tatsächlich zu einer Intelligenzexplosion führt.

Was das für Unternehmen bedeutet

Für Schweizer Unternehmen könnte die Entwicklung von Flint neue Möglichkeiten in der Softwareentwicklung und Automatisierung eröffnen. Streichen Streichen

Was das für KMU bedeutet

Streichen Die Fähigkeit, komplexe Coding-Aufgaben lokal und ohne externe Server zu bearbeiten, könnte die Effizienz steigern und die Abhängigkeit von externen Dienstleistern verringern. Allerdings benötigen komplexe Aufgaben mehr Anleitung, was eine gewisse Lernkurve mit sich bringen könnte.