Von Ariane Lindemann
Mit der Einführung des AI Acts der EU werden strenge Anforderungen an Hersteller und Betreiber von KI-Systemen gestellt, um deren Sicherheit, Integrität und Compliance sicherzustellen. In diesem Kontext ist es entscheidend, innovative Lösungen zu entwickeln, um den Herausforderungen der modernen KI-Landschaft zu begegnen.
Die Notwendigkeit innovativer Lösungen
Die Gründer von MATVIS, einem Tübinger Startup, haben erkannt, wie wichtig diese Herausforderung ist. Ihr Ziel ist es, die Sicherheit von KI-Systemen zu gewährleisten. Dazu konzentrieren sie sich auf die Entwicklung einer fortschrittlichen Firewall, die den Input und Output von KI-Systemen filtert und überwacht. Diese Firewall erfüllt die neuen Sicherheitsanforderungen des AI Acts und unterstützt Unternehmen bei der Einrichtung eines Qualitätsmanagementsystems gemäß ISO 42001. Wolfgang Glatz, Gründer von MATVIS, erklärt: „Unsere Lösung konzentriert sich auf den Betrieb von KI-Systemen, insbesondere auf den Sicherheitsaspekt. Wir möchten sicherstellen, dass Unternehmen die Integrität ihrer KI-Systeme wahren und gleichzeitig den Anforderungen der neuen Richtlinie gerecht werden können.“
Die Herausforderungen in der KI-Landschaft
Die Entwicklung dieser innovativen Sicherheitslösung erfolgt vor dem Hintergrund einer sich schnell verändernden KI-Landschaft. Die Einführung von Large Language Models wie ChatGPT hat neue Sicherheitsrisiken aufgezeigt und die Notwendigkeit verstärkt, robuste Sicherheitsmechanismen zu implementieren. „Mit dem Aufkommen von ChatGPT und ähnlichen Modellen haben sich die Sicherheitsanforderungen für KI-Systeme drastisch erhöht“, betont Wolfgang Glatz. „Es ist entscheidend, dass Unternehmen effektive Sicherheitsmaßnahmen ergreifen, um ihre Daten und Informationen zu schützen.“ Die Softwarelösung von MATVIS kommt zur richtigen Zeit. „Unsere Plattform gewährleistet die Einhaltung von KI-Vorschriften, schließt Sicherheitslücken und automatisiert Tests. Dadurch können Entwickler und Betreiber vertrauenswürdige KI-Modelle nahtlos erstellen, bereitstellen und zertifizieren.“ Das Team arbeitet eng mit Zertifizierungs-Organisationen zusammen, um Einblicke und Prüfdienste bereitzustellen, die ihnen helfen, KI zu entwickeln und bereitzustellen, der sie vertrauen können.
Großes Interesse an innovativer Sicherheitstechnologie
Angesichts der wachsenden Herausforderungen bei der Einführung von KI-Systemen stößt das Produkt des Tübinger Teams auf großes Interesse. Obwohl es bereits andere Startups gibt, die ähnliche Sicherheitslösungen anbieten, grenzt sich MATVIS durch seine einzigartige Technologie ab. „Wir haben eine Technologie entwickelt, die Sicherheitsfunktionen und Zugriffskontrolle in einer Lösung vereint“, erklärt Wolfgang Glatz. „Damit können wir den spezifischen Anforderungen unserer Kunden besser gerecht werden und einen Mehrwert bieten, der über herkömmliche Firewalls hinausgeht.“ Trotz wachsender Konkurrenz ist MATVIS gut positioniert und hat bereits Kunden im Mittelstand gewonnen. „Unsere Zielkunden sind jedoch große Konzerne, in denen viele Mitarbeiter mit einem solchen System interagieren und entsprechende Richtlinien implementiert werden müssen.“
Alternative Sicherheitsmechanismen in der KI werden immer wichtiger
Wenn alternative Sicherheitsmechanismen für KI immer wichtiger werden, reichen dann Passwörter zur Daten-Zugriffskontrolle bei KI noch aus? „Es scheint obsolet, herkömmliche Authentifizierungsverfahren im Kontext „Unternehmens-KI“ zu verwenden, da auch sensible Daten in den Modellen gespeichert werden“, so Wolfgang Glatz. „Wir müssen Lösungen anbieten, die den neuen Anforderungen an Sicherheit, Compliance und Zugriffskontrolle entsprechen.“
Dieser Artikel wurde in Kooperation mit dem CyberLab Karlsruhe erstellt. Das CyberLab ist die zentrale Anlaufstelle für Startups und Gründungsinteressierte im IT-Bereich.
Bist du auch gerade dabei, dein eigenes Unternehmen zu gründen und brauchst Starthilfe oder Gründungsberatung? Das CyberLab hilft dir gerne weiter. Hier findest du alle wichtigen Infos.
