Aikido

Führen Sie Penetrationstests für Ihre KI-Funktionen durch, bevor jemand sie dazu verleitet, eine Sicherheitslücke zu öffnen.

AikidoDie KI-Agenten des Dienstes erfassen die LLM-Funktionen in Ihrer App und prüfen diese dann im Laufe langer Konversationen immer wieder. Sie erhalten für jedes bestätigte Problem einen Nachweis sowie einen Bericht, den Ihr Prüfer verwenden kann.
Ihre Daten werden nicht weitergegeben · Nur Lesezugriff · Keine Kreditkarte erforderlich
Von über 150.000 Unternehmen vertraut
|
Von über 300.000 Entwickelnden geliebt
|
4.7/5
Lovable
Pendo
Revolut
Soundcloud
Niantic
n8n
Deel
Visma
Handshake
Joe & the juice
Runway
Too Good To Go
NiCE
Belfius
Lovable
Pendo
Revolut
Soundcloud
Niantic
n8n
Deel
Visma
Handshake
Joe & the juice
Runway
Too Good To Go
NiCE
Belfius

Wenn deine KI darauf zugreifen kann, kann das auch jeder, der mit ihr chattet.

Jede LLM-Funktion, die Sie bereitstellen, umfasst Anleitungen und Zugriff auf Daten sowie häufig auch Tools, die auf Ihren Systemen ausgeführt werden. Jeder, der etwas in dieses Chatfeld eingibt, kann diese ebenfalls nutzen.
Ein einziges manipuliertes Dokument kann dazu führen, dass sich Ihr Assistent gegen Ihre eigenen Nutzer wendet.
Ihre KI kann Daten auslesen und Tools aufrufen. Jeder, der den Chat übernimmt, erhält direkten Zugriff darauf.
Die meisten KI-Tests beschränken sich darauf, die Sprachmuster des Modells einzuschränken, lassen jedoch die Zugriffsrechte des Modells auf Daten und Tools außer Acht.

Von der ersten Chat-Nachricht bis hin zu einem nachgewiesenen Exploit.

AikidoDie KI-Agenten des Unternehmens analysieren, wie Ihre LLM-Funktionen tatsächlich funktionieren, greifen sie dann wie ein kreativer Angreifer an und zeigen, was sie erreichen können.

Stellt Ihre KI-Einstiegspunkte dar

Verbinden Sie Ihren Code, damit die Berater ihn auswerten können, um festzustellen, wo sich Ihre KI-Funktionen befinden und worauf diese zugreifen können. Sie können keinen Zugriff auf den Code gewähren? Die Berater können Ihre App auch durch deren Nutzung verstehen.

Er greift immer wieder an, Gespräch für Gespräch

Manche Sicherheitsvorkehrungen halten zunächst stand, versagen aber nach einigen Versuchen. Deshalb testen die Agenten Ihre Sicherheitsvorkehrungen in neuen und in längeren Chats, um herauszufinden, ob sie halten. Außerdem fügen sie Anweisungen in Inhalte ein, die Ihre KI liest, beispielsweise in ein hochgeladenes PDF.

Verfolgt den Exploit über das Modell hinaus

Schon eine einfache Prompt-Injektion zeigt, dass sich das Modell austricksen lässt. Die Agenten treiben es noch weiter voran, bis hin zu Tool-Aufrufen und Ihren APIs, um zu sehen, auf welche Daten es zugreifen kann.

Llegen Sie den Umfang Ihres Pentests gemeinsam mit einem Experten fest

In 30 Minuten erfahren wir, was Ihre KI-Funktionen leisten, und ermitteln einen Preisrahmen.

Mehrere Überprüfungen Ihrer Eingabeaufforderungen, Tools, Daten und Agenten.

Aikido umfasst alles von der „ OWASP Top 10 “ für LLM-Anwendungen (LLM-Codes) bis hin zur „ OWASP Top 10 “ für agentenbasierte Anwendungen (ASI-Codes).

Direkte Eingabe von Befehlen und Jailbreaks

Befehlsüberschreibungen, Rollenspiel-Jailbreaks und verschlüsselte oder verschleierte Payloads, die das Modell dazu bringen, seine Regeln zu ignorieren.
LLM01
ASI01

Indirekte Prompt-Einspeisung

Anweisungen, die in Dokumenten, Webseiten, Dateien, E-Mails und Tool-Ausgaben eingebettet sind, werden vom Modell gelesen, um festzustellen, ob sie übernommen werden.
LLM01
ASI01

Leckage der Systemaufforderung

Entdecken Sie die Systemaufforderungen, versteckten Anweisungen und Schutzmechanismen Ihres Systems, die oft Hinweise auf „ secrets “ oder einen Plan für den nächsten Angriff enthalten.
LLM07

Leitplanke und Sicherheitsfilter-Bypass

Verschleierung, Übersetzung, Aufteilung der Nutzdaten und langsame Manipulation über mehrere Schritte hinweg, um Inhaltsfilter zu umgehen.
LLM01

Manipulation von Toren

Das Ziel oder den Plan des Agenten mitten in einer Aufgabe neu ausrichten.
ASI01

Offenlegung vertraulicher Informationen

Personenbezogene Daten, Anmeldedaten, interne Daten und Unterhaltungen anderer Nutzer werden über die Modellausgabe offengelegt, auch über Sitzungen und Mandanten hinweg.
LLM02

Speicher- und Kontextvergiftung

Manipulation des persistenten Speichers, des Gesprächsverlaufs und des Sitzungsstatus, um zukünftige Antworten zu beeinflussen oder später Daten preiszugeben.
ASI06

RAG (Retrieval-Augmented Generation) und Schwachstellen bei Vektoren

Mandantenübergreifende Sicherheitslücken durch Datenabruf, manipulierte Dokumente, unbefugte Inhalte und Umkehrung der Einbettung.
LLM08

Daten- und Modellvergiftung

Rückkopplungsschleifen, von Nutzern bereitgestellte Inhalte und Feineinstellungsparameter, die das Verhalten des Modells auf sichtbare Weise verändern.
LLM04

Übermäßige Eigeninitiative

Ein Mitarbeiter, der über mehr Werkzeuge, Befugnisse oder Eigenverantwortung verfügt, als für seine Tätigkeit erforderlich sind.
LLM06

Missbrauch von Werkzeugen und Funktionen

Den Agenten dazu bringen, Tools mit bösartigen Parametern aufzurufen oder Tools zu einer Kette zu verknüpfen, die Sie nie beabsichtigt haben.
ASI02

Unsichere Integration von Tools und Plugins

Verfolgen Sie Tool-Aufrufe an Ihr Backend, um SSRF, Befehlsinjektionen, Pfadtraversal und andere Injektionen aufzudecken.
ASI02

Unsichere autonome Handlungen

Zahlungen, Löschvorgänge oder externe Aufrufe, die ohne menschliche Bestätigung oder mit einem Bestätigungsschritt, der übersprungen werden kann, ausgeführt werden.
LLM06

Kommunikationsvergiftung bei Multi-Agenten-Systemen

Gefälschte oder manipulierte Nachrichten zwischen Agenten, die bösartige Anweisungen in Ihrem Agentennetzwerk verbreiten.
ASI07

Verletzung von Zugriffsrechten und „Confused Deputy“-Prinzip

Die KI dazu bringen, ihre eigenen Anmeldedaten und Berechtigungen im Namen des Angreifers zu nutzen.
ASI03

Fehlerhafte Autorisierung bei KI-Funktionen

Nicht authentifizierter Zugriff auf KI-Endpunkte, fehlende benutzerspezifische Überprüfungen von Agent-Aktionen und IDOR über den Agenten.
ASI03

Identitätsbetrug

Sich als Benutzer, anderer Agent oder vertrauenswürdiger Dienst ausgeben, um Einfluss zu erlangen, den er nicht haben sollte.
ASI03

Falsche Behandlung der Ausgabe

Modellausgaben, die auf unsichere Weise an andere Komponenten weitergeleitet werden, was zu XSS, SQL-Injection, Befehlsinjection, SSRF oder Template-Injection führen kann.
LLM05
ASI05

Grenzenloser Konsum und Leugnen der finanziellen Lage

Fehlende Raten- und Kontingentbeschränkungen, die es jemandem ermöglichen, Ihre Token-Rechnung in die Höhe zu treiben, Ressourcen zu erschöpfen oder Ihr Modell durch großes Datenvolumen zu extrahieren.
LLM10

Risiken im Zusammenhang mit dem Modell und der Lieferkette

Offen zugängliche oder nicht authentifizierte Modell-Endpunkte sowie anfällige Abhängigkeiten von KI-Frameworks und Plugins.
LLM03
ASI04
Angriffsketten

Schon eine einzige manipulierte Datei reicht aus, um Kundendaten offenzulegen

Echte Angreifer nutzen eine Schwachstelle aus, um zur nächsten zu gelangen, und unsere Agenten gehen genauso vor.
  • Eine versteckte Anweisung in einer hochgeladenen Datei veranlasst Ihren Assistenten, ein internes Tool aufzurufen; das Tool überspringt dabei eine Berechtigungsprüfung, und die Rechnungen eines anderen Mandanten erscheinen im Chat.

  • Die Agenten verfolgen diese Kette so weit, wie es sicher möglich ist, und zeigen Ihnen jeden einzelnen Schritt.

  • Sollten die Mitarbeiter beim Testen Ihrer KI-Funktionen ein Problem mit der Website oder der API feststellen, wird dies ebenfalls im Bericht vermerkt.

Pentest starten

LLM-Red-Teaming-Frameworks im Vergleich zu einem echten Pentest der KI-Fähigkeiten

Open-Source-Frameworks für Red-Teaming-Tests senden Angriffsszenarien an Ihr Modell und bewerten dessen Antworten, doch die Einrichtung und die Berichterstellung bleiben Ihre Aufgabe. Ein Pentest zur Überprüfung der KI-Fähigkeiten geht noch einen Schritt weiter: Agenten identifizieren Ihre KI-Funktionen eigenständig und verfolgen jeden Angriff bis hin zu den Tools und Daten, die hinter dem Modell stehen. Nach dem Test erhalten Sie validierte Ergebnisse mit Belegen.
Red-Teaming-Frameworks
Aikido Pentest der KI-Fähigkeiten
Setup
Sie erstellen die Zielkonfiguration, wählen Angriffs-Plugins aus und binden diese in Ihre Anwendung ein.
Agenten erkennen Ihre KI-Funktionen anhand Ihres Codes oder durch die Nutzung Ihrer App.
Was wird geprüft?
Hauptsächlich die Antworten des Modells auf Angriffsaufforderungen.
Das Modell sowie die dahinterstehenden Werkzeuge, Daten, Speicherressourcen und Berechtigungen.
Wie weit das geht
Die Ergebnisse beschränken sich auf das, was das Modell ergeben hat.
Die Mitarbeiter verfolgen einen Hinweis so weit wie möglich, oft bis hin zu Daten, die einem anderen Kunden gehören.
Ergebnisse
Erfolgsraten von Angriffen, die häufig von einem anderen LLM bewertet werden.
Bestätigte Erkenntnisse mit Nachweis des Exploits und Anleitungen zur Behebung.
Reporting
Die Rohdaten wandeln Sie selbst in einen Bericht um.
Ein auditfähiger Bericht für SOC 2 und ISO 27001.
Ihre anderen Penetrationstests
Nur KI.
Läuft auf derselben Plattform wie Ihre anderen Penetrationstests unter Aikido .
So funktioniert's
Führt eine festgelegte Reihe von Angriffen aus, die du im Voraus auswählst.
Die Agenten passen jeden nächsten Angriff an das an, was sie in Ihrer App vorfinden.

Pentest der KI-Fähigkeiten oder Pentest der Webanwendung?

Bei jedem Web- und Mobile-Penetrationstest von Aikido werden bereits die KI-Funktionen Ihrer App getestet. Wählen Sie den Penetrationstest „KI-Fähigkeiten“, wenn Sie vor allem die KI-Funktionen Ihrer App testen lassen möchten.
Penetrationstest für Webanwendungen

Ihre gesamte Anwendung, einschließlich der KI-Funktionen

  • Hunderte von Prüfern prüfen eine App

  • Logik, Rollen, APIs und KI-Funktionen werden getestet

  • Sie stellen Folgendes bereit: Ihre App sowie Code oder Testnutzer, falls Sie den White-Box-Ansatz wählen

Einen Web-Penetrationstest starten
Pentest der KI-Fähigkeiten

Ihre Co-Piloten, Chatbots und KI-Agenten

  • Die Agenten nutzen während des gesamten Durchlaufs ausschließlich Ihre LLM-Funktionen

  • Prompts, Tools, Speicher, Abruf und KI-Berechtigungen werden getestet

  • Sie stellen Folgendes bereit: eine Staging-URL, Testbenutzer und im Idealfall Ihren Code

Einen Penetrationstest für KI-Fähigkeiten starten

Hast du deine App mit Lovable oder Supabase entwickelt?

Verbinden Sie Ihr Lovable-Projekt oder Ihr Supabase-Backend und führen Sie mit wenigen Klicks einen Penetrationstest für die App durch. Lovable übermittelt dabei Ihr Repository, sodass jeder Lovable-Penetrationstest als White-Box-Test durchgeführt wird.
Pentest starten

Testen Sie Ihre KI-Funktionen noch heute auf Sicherheitslücken

Rufen Sie Aikido auf, um zu Ihrer Staging-App zu gelangen, und fügen Sie einige Testbenutzer hinzu. Die Agenten übernehmen dann den Rest.

Alles inklusive – Ein Festpreis – Vom Beginn bis zur Sanierung
Von über 150.000 Unternehmen vertraut
FAQ

Häufig gestellte Fragen zu LLM und Penetrationstests mit KI-Agenten

Was versteht man unter Pentesting der KI-Fähigkeiten?

KI-Agenten greifen die LLM-Funktionen in Ihrer Anwendung – wie Copiloten, Chatbots, die RAG-Suche und toolnutzende Agenten – genauso an, wie es ein Angreifer tun würde. Sie suchen nach Prompt-Injection, Datenlecks, Tool-Missbrauch, Speicher- und Abruf-Poisoning sowie fehlerhaften Autorisierungen bei KI-Aktionen und belegen jeden Befund anschließend mit einem funktionierenden Exploit.

Wie führt man am besten einen Penetrationstest für eine LLM-Anwendung durch?

Wenn Sie eine LLM-Funktion in Ihr Produkt integriert haben, benötigen Sie einen Test, der das Modell sowie die dahinterstehenden Tools, Daten und Berechtigungen abdeckt. Der Pentest „AI Capabilities“ von Aikido erfüllt genau diese Anforderungen und liefert Ihnen einen Nachweis über die Ausnutzbarkeit sowie einen auditfähigen Bericht.

Inwiefern unterscheidet sich dies von Open-Source-Frameworks für Red-Team-Tests bei großen Sprachmodellen (LLM)?

Frameworks bieten Ihnen Bausteine: Angriffsszenarien, Koordinatoren und Bewertungsinstrumente. Sie müssen jedoch weiterhin Ziele festlegen, die Tests durchführen, die Ergebnisse bewerten und den Bericht verfassen. Die Agenten von Aikido ermitteln Ihre KI-Funktionen selbstständig, testen alles – einschließlich Tools und Daten –, validieren jeden Befund und liefern Ihnen den Bericht.

Behandelt „ Aikido “ die „ OWASP Top 10 “ für LLM-Anwendungen und die „ OWASP Top 10 “ für agentenbasierte Anwendungen?

Ja. „ Aikido “ testet die wichtigsten Risiken aus beiden Listen, darunter Prompt-Injektion, Offenlegung sensibler Informationen, übermäßige Handlungsfreiheit, Missbrauch von Tools, Speichervergiftung, System-Prompt-Lecks, Schwachstellen bei Vektoren und Einbettungen sowie unbegrenzten Verbrauch.

Testet ihr Multi-Turn-Jailbreaks?

Ja. Die Agenten führen mehrere separate Gespräche, die jeweils viele Gesprächsrunden und mehrere Versuche umfassen, sodass sie auf Schutzmechanismen stoßen, die erst nach einem langen Hin und Her nachgeben.

Können Sie die indirekte Prompt-Einspritzung testen?

Ja. Agenten fügen Anweisungen in die Inhalte ein, die Ihre KI liest – beispielsweise hochgeladene Dateien, abgerufene Dokumente, Webseiten, E-Mails und Tool-Ausgaben – und prüfen, ob diese Anweisungen die Kontrolle übernehmen.

Kann „ Aikido “ Pentests an KI-Agenten durchführen, die Tools oder MCP-Server verwenden?

Ja. Die Tester prüfen, was Ihr KI-Agent mithilfe seiner Tools leisten kann – unter anderem, ob ein Angreifer ihn dazu bringen kann, ein Tool mit bösartigen Parametern aufzurufen oder auf Systeme zuzugreifen, auf die er keinen Zugriff haben sollte.

Ist es Blackbox oder Whitebox?

Beides. Verbinden Sie Ihre Repositorys, und die Agenten lesen den Code, um Chat-Einstiegspunkte, Eingabeaufforderungen, Tools, Speicher und Abrufmöglichkeiten zuzuordnen – so erhalten Sie mehr für dieselbe Anzahl an Credits. Ohne Code arbeiten die Agenten auf der Grundlage Ihrer App und der von Ihnen vorgegebenen Kontexte.

Was muss ich bei „ Aikido “ angeben?

Eine Staging-URL mit Ihren KI-Funktionen, einer Domain-Verifizierung, Testbenutzern für jede Rolle, die Sie testen möchten, sowie den IP-Adressen von Aikido auf Ihrer Zulassungsliste. Die Anbindung Ihres Codes ist optional, wird jedoch empfohlen.

Kann ich das in der Produktionsumgebung ausführen?

Führen Sie den Test in der Staging-Umgebung durch. Die Agenten nutzen Ihre KI-Funktionen so, wie es ein echter Benutzer tun würde – dazu gehören auch Tools, mit denen Daten erstellt, geändert oder gelöscht werden können. Verwenden Sie eine Testinstanz mit Nicht-Produktionsdaten und deaktivieren Sie nach Möglichkeit Tools mit destruktiven Auswirkungen, wie beispielsweise Zahlungsfunktionen oder den Versand von E-Mails. Mit dem Panikknopf können Sie jeden Agenten sofort stoppen.

Werden bei meinem Penetrationstest für meine Web-App bereits KI-Funktionen getestet?

Ja. Bei jedem „ Aikido “-Pentest für Web- und Mobilanwendungen sind die KI-Funktionen im Untersuchungsumfang enthalten. Beim „AI Capabilities“-Pentest konzentrieren sich die Tester ausschließlich auf KI-Funktionen, und der Bericht befasst sich ausschließlich mit KI-Risiken.

Kann ich den Bericht für „ compliance “ verwenden?

Ja. Sie erhalten einen auditfähigen Bericht mit validierten Ergebnissen, Nachweisen für Sicherheitslücken und Anleitungen zur Behebung, der technische Kontrollmaßnahmen für SOC 2 Typ II, ISO 27001 und HIPAA abdeckt.

Können Sie mit Lovable oder Supabase erstellte Apps einem Penetrationstest unterziehen?

Ja. „ Aikido “ lässt sich mit Lovable und Supabase verbinden, sodass Sie mit nur wenigen Klicks eine KI-generierte App oder eine App mit einem Supabase-Backend einem Penetrationstest unterziehen können.

Wie wird der Preis berechnet?

Pentests werden mit Credits abgerechnet. Sie sehen den genauen Preis, bevor es losgeht. Weitere Informationen finden Sie in unserer Preisliste für Pentests.

Wie sieht der Vergleich zu einem aus Menschen bestehenden KI-Red-Team aus?

Die Agenten wenden dieselben Techniken an wie ein menschlicher Red-Teamer – von langsamer Manipulation über mehrere Runden bis hin zur Verknüpfung eines Jailbreaks mit dem Aufruf eines Tools. Da sie viele Konversationen gleichzeitig führen, können Sie den gesamten Test jedes Mal neu ausführen, wenn Sie eine Eingabeaufforderung, ein Modell oder ein Tool ändern.