anira: Dezentrale KI in Echtzeitanwendungen integrieren
-
Aktuell gefördert
- Jahrgang 02
- Innovation
- Datenschutz/digitale Rechte
- Softwarebausteine
Über das Projekt
Team-Mitglieder
Valentin Ackva, Lina Campanella, Fares Schulz
Lizenz
Apache 2.0
Förderzeitraum
Gefördert seit 01/06/2026
Was macht das Projekt aus?
Wer leistungsfähige KI-Features in seine Software integrieren will, ist meist auf Cloud-APIs großer Techkonzerne angewiesen. Dadurch wird die Entwicklung zentralisiert und von den Techkonzernen abhängig. Nutzer*innen werden gezwungen, sensible Daten weiterzugeben und Privatsphäre unmöglich. Für Open-Source-Projekte kommt hinzu, dass sie die Verarbeitung meist nicht in die Cloud auslagern können oder wollen und daher auf lokale Lösungen angewiesen sind. Solche lokalen Lösungen existieren mit freien KI-Modellen grundsätzlich bereits, doch ihr Einsatz auf den Endgeräten der Nutzer*innen scheitert oft an technischen Hürden. anira ist eine Software-Bibliothek, die es ermöglicht, KI-Modelle mit minimaler Latenz lokal auszuführen. Nur so bleiben sensible Daten privat und Anwendungen funktionieren unabhängig von Internet und Cloud-Anbietern. anira soll in der Projektlaufzeit von einer reinen Audio-KI-Lösung weiterentwickelt werden, sodass auch Bild-, Video- und Textverarbeitungen ermöglicht werden können.
Welches Publikum spricht das Projekt an?
Adressiert werden Entwickler*innen, die vor hohen technischen Hürden bei der Implementierung von lokalen KI Features stehen und denen Datensouveränität wichtig ist. Diese können anira direkt in ihr Projekt integrieren und loslegen.
Was soll erreicht werden?
Die bestehende Library soll um Backends wie GGML, CoreML und ExecuTorch erweitert werden, um die Verarbeitung aller gängiger KI-Modelltypen zu ermöglichen. Dafür werden außerdem die Datenformate angepasst. Außerdem soll die Berechnung vom CPU auf NPU und GPU erweitert werden, um Verarbeitungsgeschwindigkeit und Effizienz zu steigern. Insgesamt sollen außerdem Referenzimplementierungen und DevOps entstehen, die den Einstieg weiter erleichtern sollen.