Die kurze Antwort: Die Bewertung eines KI-Anbieters bedeutet, Nachweise statt Versprechungen zu fordern. Vor der Unterzeichnung möchten Sie vier Dinge schriftlich haben: unabhängige Testergebnisse, die Sie überprüfen können, klare Bedingungen zur Verwendung und Aufbewahrung Ihrer Daten, eine Verpflichtung zur Überwachung des Systems nach Go-Live und eine Möglichkeit, jeden Sicherheitsanspruch des Anbieters zu überprüfen, ohne sein Wort dafür zu nehmen. Der Rest dieses Leitfadens verwandelt dies in einen funktionsfähigen Prozess, eine Fragenliste, die Sie an Anbieter senden können, und die Vertragsbedingungen, die die Antworten verbindlich machen.

Due Diligence bei KI unterscheidet sich von einer gewöhnlichen Softwareprüfung, da ein KI-System eine selbstsichere falsche Antwort geben, aus seinen eigenen Regeln herausgelockt werden, Daten durchsickern lassen oder sein Verhalten nach einem Modell-Update ändern kann, das der Anbieter an einem Dienstag ausrollt. Sie ermitteln diese Risiken durch Verhaltenstests und kontrollieren sie mit Vertragsbedingungen, die festlegen, was geschieht, wenn sich das Verhalten verschiebt.

Warum Due Diligence bei KI-Anbietern jetzt eine formale Erwartung ist

Der Kauf von KI wurde früher wie ein Softwarekauf mit einem zusätzlichen Absatz zu Daten behandelt. Öffentliche Käufer und Gesetzgeber auf beiden Seiten des Atlantiks haben das geändert.

US-Bundesbehörden: OMB Memo M-25-22

Am 3. April 2025 gab das White House Office of Management and Budget das Memorandum M-25-22, Driving Efficient Acquisition of Artificial Intelligence in Government heraus. Es gilt für Verträge, die aufgrund von Ausschreibungen vergeben werden, die 180 Tage oder später nach dem Memo herausgegeben werden, und für Erneuerungsoptionen, die danach ausgeübt werden. Abschnitt 4(d) besagt, dass Behörden "Bedingungen einbeziehen müssen, die" eine Liste von Themen in Verträgen für KI-Systeme und -Dienstleistungen behandeln. Darunter:

• Laufende Leistungsüberwachung. Verträge müssen der Behörde ermöglichen, die Leistung, Risiken und Wirksamkeit des Systems regelmäßig zu überwachen und zu bewerten, wobei vierteljährliche oder halbjährliche Überprüfungen als Beispiele genannt werden.
• Unabhängige Prüfung. Behörden sollten mit ihren eigenen Datensätzen prüfen, die "für den Anbieter nicht zugänglich sein sollten", Anbieter müssen "den Zugriff und die Zeit bereitstellen, die Behörden für eine unabhängige Bewertung benötigen", und Testergebnisse sollten "detailliert genug sein, damit die Prüfung unabhängig überprüft oder, wenn möglich, wiederholt werden kann."
• Schutz vor Abhängigkeit. Bedingungen können Wissensvermittlung, "Daten- und Modellportabilität" und Transparenz bei Lizenzierung und Preisgestaltung enthalten.
• Grenzen für Training mit Ihren Daten. Abschnitt 3(e) verlangt, dass Verträge "die Verwendung von nicht öffentlichen Eingabedaten von Behörden und Ausgabeergebnissen" zur Weitertraining von öffentlich oder kommerziell verfügbarer KI "dauerhaft verbieten", es sei denn, die Behörde stimmt ausdrücklich zu.
• Benachrichtigung vor Änderungen. Behörden sollten erwägen, von Anbietern zu verlangen, dass sie sie benachrichtigen, bevor neue KI-Verbesserungen integriert werden, und werden ermutigt, von Anbietern zu verlangen, dass sie Leistungsstandards erfüllen, bevor neue Versionen bereitgestellt werden, und bei Bedarf Rollbacks durchführen.

Ein zweites Memo, OMB M-26-04 vom 11. Dezember 2025, besagt, dass es M-25-22 "ergänzt". Für Großsprachmodellverträge werden die Informationen aufgelistet, die Behörden von Anbietern anfordern sollten: eine Richtlinie zur akzeptablen Nutzung, Modell-, System- oder Datenkarten, Ressourcen für Endnutzer und einen Mechanismus für Feedback von Endnutzern. Es ermöglicht Behörden auch, mehr zu verlangen, z. B. Bewertungsergebnisse.

Diese Memos binden Bundesbehörden, nicht private Unternehmen. Sie sind immer noch die detaillierteste öffentliche Aussage darüber, was ein anspruchsvoller KI-Käufer verlangt, und private Beschaffungsteams können ihre Struktur direkt übernehmen.

EU-Anwender: Was der AI Act vom Käufer verlangt

Der EU AI Act, Verordnung (EU) 2024/1689, nennt die Organisation, die ein KI-System unter ihrer eigenen Autorität nutzt, "Anwender". Wenn Sie ein KI-System mit hohem Risiko kaufen und in Betrieb nehmen, legt Artikel 26 Pflichten auf Sie auf, getrennt von den Pflichten des Anbieters. Im konsolidierten Text, der auf dem AI Act Service Desk der Europäischen Kommission veröffentlicht wurde, besagt Artikel 26:

• Betreiber „müssen geeignete technische und organisatorische Maßnahmen ergreifen, um sicherzustellen, dass sie solche Systeme gemäß der den Systemen beigefügten Gebrauchsanweisung verwenden" (Artikel 26 Absatz 1).
• Anwender "müssen angemessene technische und organisatorische Maßnahmen treffen, um sicherzustellen, dass sie solche Systeme gemäß den Gebrauchsanweisungen der Systeme verwenden" (Artikel 26(1)).
• Anwender "müssen die Überwachung durch Menschen natürlichen Personen zuweisen, die über die erforderliche Kompetenz, Schulung und Befugnis verfügen" (Artikel 26(2)).
• Anwender "müssen den Betrieb des KI-Systems mit hohem Risiko auf der Grundlage der Gebrauchsanweisungen überwachen", und wenn sie Grund zu der Annahme haben, dass das System ein Risiko darstellt, müssen sie den Anbieter oder Distributor und die relevante Marktüberwachungsbehörde informieren und die Nutzung aussetzen (Artikel 26(5)).
• Anwender "müssen die automatisch von diesem KI-System mit hohem Risiko generierten Protokolle behalten", soweit diese Protokolle unter ihrer Kontrolle stehen, mindestens sechs Monate lang, es sei denn, anderes Recht besagt sonst (Artikel 26(6)).

Jede dieser Pflichten hängt von etwas ab, das Sie nur vom Anbieter erhalten können. Sie können keine Gebrauchsanweisung befolgen, die Sie nie erhalten haben, keine Protokolle führen, die das System nicht exportiert, und kein Verhalten überwachen, das Sie nicht messen können. Artikel 13 ist die Anbieterseite desselben Geschäfts: Hochrisikosysteme müssen mit einer Gebrauchsanweisung geliefert werden, die unter anderem "das Maß an Genauigkeit, einschließlich der entsprechenden Messgrößen, sowie die Robustheit und Cybersicherheit" angibt (Artikel 13(3)(b)(ii)). Bei der Sorgfaltsprüfung bestätigen Sie, dass diese Unterlagen existieren und gut genug sind, damit Sie Ihren Teil der Aufgabe erfüllen können.

Das Timing ist entscheidend. Gemäß den Digital-Omnibus-Änderungen gelten nach Artikel 113 die Hochrisiko-Vorschriften nun ab dem 2. Dezember 2027 für eigenständige Systeme gemäß Anhang III und ab dem 2. August 2028 für KI, die in Produkte gemäß Anhang I eingebettet ist. Verträge, die Sie heute abschließen, laufen zu diesen Zeitpunkten häufig noch, daher ist es sinnvoll, die entsprechenden Pflichten bereits jetzt aufzunehmen. Unabhängig davon verlangt Artikel 4 von Anbietern und Betreibern von KI-Systemen generell, nicht nur von Hochrisiko-Systemen, "Maßnahmen zu ergreifen, um die Entwicklung der KI-Kompetenz" der Mitarbeitenden zu unterstützen, die diese Systeme bedienen und nutzen. Einen umfassenderen rechtlichen Überblick finden Sie in unserem vollständigen Leitfaden zum EU AI Act und zu US-KI-Gesetzen.

Die freiwilligen Rahmenwerke weisen in dieselbe Richtung

Der NIST AI Risk Management Framework Core widmet Drittanbieter-KI eine eigene Kategorie. GOVERN 6.1 lautet: "Policies and procedures are in place that address AI risks associated with third-party entities", GOVERN 6.2 lautet: "Contingency processes are in place to handle failures or incidents in third-party data or AI systems deemed to be high-risk", und MANAGE 3.1 besagt, dass Risiken aus Drittanbieter-Ressourcen "regularly monitored, and risk controls are applied and documented" werden sollen. Wenn sich Ihre Organisation bereits am NIST AI RMF orientiert oder ein ISO/IEC 42001 Managementsystem betreibt, ist die Sorgfaltsprüfung von Anbietern der Weg, um diese Erwartungen für die von Ihnen eingekaufte KI zu erfüllen. Unser Leitfaden zu NIST AI RMF, ISO/IEC 42001 und verwandten Standards erläutert, wie die Frameworks zusammenspielen.

Die sechs zu bewertenden Bereiche

Jede KI-Anbieterbewertung lässt sich auf sechs Bereiche zurückführen.

1. Was das System ist und wofür es bestimmt ist

Beginnen Sie mit dem Geltungsbereich. Welche Modelle stecken unter der Haube des Produkts, und ist der Anbieter deren Entwickler oder ein Reseller, der die Lösung eines anderen verpackt? Welchen Verwendungszweck dokumentiert der Anbieter, und fällt Ihr geplanter Einsatz in diesen Rahmen? Gemäß dem EU AI Act ist der Verwendungszweck der erste Punkt, den die Gebrauchsanweisung angeben muss, und wer ein System außerhalb dieses Rahmens einsetzt, übernimmt ein Risiko, für das der Anbieter nie getestet hat.

2. Nachweis sicheren Verhaltens

Dies ist der Bereich, den die meisten Käufer am schlechtesten handhaben, weil er sich in einem Fragebogen am schwersten abfragen lässt. „Testen Sie auf Bias?“ wird von jedem mit Ja beantwortet. Bessere Fragen zielen auf Methode und Ergebnis ab: Was wurde getestet, gegen welche Szenarien, mit welcher Bestehensquote, von wem und wann. Die behavioralen Risiken, die es abzudecken gilt, orientieren sich an den sieben Pillars des A.E.G.I.S.™-Frameworks:

• Hallucination Integrity: Gibt das System Unwahrheiten als Fakten aus, insbesondere unter Druck, bei Mehrdeutigkeit oder bei fachspezifischen Fragestellungen?
• Guardrail Resistance: Lässt es sich durch Jailbreak-Versuche oder Prompt Injection zu unsicherem Verhalten manipulieren?
• Hallucination Integrity: stellt das System Unwahrheiten als Tatsachen dar, besonders unter Druck, Mehrdeutigkeit oder domänenspezifischen Fragen?
• Guardrail Resistance: kann es durch Jailbreak-Versuche oder Prompt-Injection zu unsicherem Verhalten manipuliert werden?
• Data Handling & Privacy: was erfasst, behält und leckt es, einschließlich personenbezogener Daten?
• Adversarial Robustness: Wie robust ist es gegen einen motivierten Angreifer?
• Explainability & Transparency: Lässt sich sein Verhalten verstehen und nachträglich überprüfen?

Wie diese tatsächlich getestet werden, finden Sie unter wie KI-Systeme auf Sicherheit getestet werden. Der entscheidende Unterschied für einen Käufer liegt zwischen Ergebnissen, die der Anbieter selbst erbracht hat, und Ergebnissen, die eine unabhängige Stelle erbracht hat. Interne Tests haben ihren Wert, aber der Anbieter bewertet dabei seine eigenen Hausaufgaben. M-25-22 macht denselben Punkt vom Käufer-Standpunkt aus, wenn es nach Tests verlangt, die detailliert genug sind, um „unabhängig verifiziert oder reproduziert" zu werden.

3. Datenverarbeitung

Fragen Sie, wohin Ihre Daten gehen, wie lange sie bleiben, wer Zugriff darauf hat, und ob sie zum Trainieren verwendet werden. Der Bundesstandard in M-25-22 ist ein nützlicher Maßstab: Anbieter dürfen Behördendaten nur dann erfassen und speichern, wenn dies für den Vertrag „angemessen erforderlich" ist, und nicht-öffentliche Ein- und Ausgaben dürfen nicht zum Trainieren öffentlicher oder kommerzieller Modelle ohne Zustimmung verwendet werden. Fragen Sie auch, ob Ihnen die System-Protokolle zur Verfügung stehen, da EU-Nutzer von Hochrisiko-Systemen die Protokolle unter ihrer Kontrolle halten müssen.

4. Überwachung und Kontrolle

Finden Sie heraus, was ein Mensch tun kann, wenn das System falsch liegt. Kann ein Operateur Ausgaben überprüfen oder überschreiben, oder das System pausieren? Artikel 26(2) setzt voraus, dass Sie kompetente Personen für die Überwachung einsetzen; der Anbieter muss ihnen etwas zum Arbeiten geben.

5. Änderungsmanagement und Überwachung

KI-Produkte ändern sich unter Ihrer Hand: ein neues Basis-Modell oder ein Neutraining, und das Verhalten, das Sie genehmigt haben, ist nicht mehr das Verhalten in der Produktion. Fragen Sie, wie der Anbieter Sie über wesentliche Änderungen informiert, ob Sie vor einer neuen Version testen können, und ob eine Version zurückgerollt werden kann. M-25-22 fordert Behörden auf, alle drei zu prüfen oder zu verlangen. Fragen Sie dann, welche Überwachung nach dem Go-Live vorhanden ist, und ob die Ergebnisse mit Ihnen geteilt werden.

6. Vorfälle und Rechenschaftspflicht

Fragen Sie nach dem Incident-Response-Prozess des Anbieters für KI-spezifische Fehler wie eine schädliche Ausgabe oder ein erfolgreicher Jailbreak. EU-Nutzer von Hochrisiko-Systemen müssen den Anbieter und die Marktüberwachungsbehörde informieren, wenn sie glauben, dass ein System ein Risiko darstellt. Daher sollte Ihr Vertrag sicherstellen, dass der Anbieter mit Ihnen zusammenarbeitet, wenn dies geschieht. Unser Leitfaden zu dokumentierten KI-Vorfällen und was Tests finden zeigt die Fehlermuster, auf die es sich zu planen lohnt.

Eine Frageliste, die Sie an KI-Anbieter senden können

Kopieren Sie diese in Ihre RFP. Jede Frage fordert etwas an, das Sie überprüfen können.

Umfang und Zweck

1. Welche Modelle stecken im Produkt, wer entwickelt jedes einzelne, und welche Versionen sind heute in der Produktion?
2. Welcher dokumentierte beabsichtigte Zweck liegt vor, und gibt es Anwendungen, von denen Sie abraten? Bitte teilen Sie die Gebrauchsanweisung oder gleichwertige Dokumentation.
3. Veröffentlichen Sie Model-, System- oder Datenkarten für das Produkt? Bitte fügen Sie diese bei.
4. Welche Acceptable-Use-Richtlinie haben Sie für Endnutzer?

Tests und Nachweise

5. Welche Sicherheitsrisiken haben Sie das Produkt gegen getestet (z.B. Halluzination, Jailbreaks und Prompt Injection, Datenlecks, Verhalten bei anfälligen Nutzern, Autonomiegrenzen, adversariale Angriffe, Erklärbarkeit)? Für jedes: Was war die Methode und das Ergebnis?
6. Wurden einige dieser Tests von einer unabhängigen Stelle durchgeführt? Wer, wann, gegen welche Version, und können wir das Ergebnis selbst verifizieren?
7. Geben Sie uns Zugang und Zeit, um unsere eigene Evaluierung durchzuführen, mit Testdaten, die Sie nicht sehen?
8. Welche dokumentierten Genauigkeits-, Robustheit- und Cybersicherheitsstufen gibt es, und wie wurden sie gemessen?

Daten

9. Welche Daten aus unserer Nutzung erfassen und speichern Sie, wie lange, und warum ist jedes Element erforderlich?
10. Werden unsere Eingaben oder Ausgaben zur Schulung oder Verbesserung eines Modells verwendet, sei es unseres oder eines Drittanbieters? Kann dies vertraglich ausgeschlossen werden?
11. Welche Subunternehmer, einschließlich Modellanbietern, erhalten Zugang zu unseren Daten?
12. Welche Protokolle generiert das System, und können wir diese exportieren und speichern?

Kontrolle, Änderungen und Vorfälle

13. Welche Kontrollen für menschliche Überwachung und Eingriffe stehen unseren Bedienern zur Verfügung?
14. Wie und wann werden Sie uns vor einer wesentlichen Änderung des Modells oder seines Verhaltens benachrichtigen? Können wir eine neue Version testen, bevor sie unsere Nutzer erreicht, und können wir zurückwechseln?
15. Wie überwachen Sie das Produkt nach der Bereitstellung, und werden Sie die Überwachungsergebnisse mit uns teilen?
16. Wie sieht Ihr Incident-Response-Prozess für KI-spezifische Ausfälle aus, und welche Benachrichtigungsverpflichtungen gegenüber uns gelten?
17. Wenn wir gehen, wie erhalten wir unsere Daten und alle Anpassungen heraus, und in welchem Format?

Antworten in Vertragsbedingungen umwandeln

Fragebogenantworten sind Zusicherungen. Der Vertrag ist der Ort, an dem sie zu Verpflichtungen werden. M-25-22 enthält eine Vorlage für die relevanten Themen, und private Käufer können diese ohne große Änderungen anpassen.

• Leistungs- und Sicherheitsverpflichtungen. Schreiben Sie das getestete Verhalten in die Vereinbarung: die dokumentierten Genauigkeits- und Sicherheitsniveaus, einen regelmäßigen Überprüfungsplan und was passiert, wenn die Ergebnisse darunter fallen.
• Recht auf Bewertung. Behalten Sie sich das Recht vor, eigene Tests durchzuführen oder einen unabhängigen Dritten testen zu lassen, mit Zugang und Zeit vom Anbieter.
• Datenutzungsbeschränkungen. Untersagen Sie das Training mit Ihren Eingaben und Ausgaben ohne schriftliche Zustimmung, begrenzen Sie die Aufbewahrung auf das Notwendigste, und benennen Sie die Subunternehmer.
• Änderungsmitteilung. Erfordern Sie eine vorherige Benachrichtigung über wesentliche Modelländerungen und ein Testfenster, bevor diese in die Produktion gehen, mit einer Rollback-Option.
• Protokollierung und Aufzeichnungen. Verlangen Sie, dass das System die benötigten Protokolle generiert und exportiert, und legen Sie fest, wie lange der Anbieter seine eigenen speichert.
• Incident-Kooperation. Legen Sie Benachrichtigungsfristen für KI-Vorfälle und eine Verpflichtung zur Unterstützung bei der Erfüllung etwaiger eigener Berichtspflichten fest.
• Portabilität. Regeln Sie Daten- und Modellportabilität, Wissenstransfer und transparente Lizenzierung, damit Sie gehen können, wenn nötig.

M-26-04 fügt eine nützliche Redaktionstechnik hinzu: Es weist Behörden an, bestimmte Anforderungen als "wesentlich für Berechtigung und Zahlung unter dem Vertrag" zu kennzeichnen. Sicherheits- und Transparenzbedingungen als wesentlich zu markieren gibt ihnen Gewicht, da ein Verstoß gegen sie eine Grundlage für Abhilfe darstellt und nicht nur eine Fußnote.

Wo die Sorgfaltsprüfung normalerweise scheitert

Die meisten gescheiterten KI-Anbieterprüfungen scheitern auf eine von einigen vorhersehbaren Arten.

Der Fragebogen ist ein Sicherheitsformular mit angehängten KI-Fragen. Ein SOC 2-Bericht ist nach der eigenen Beschreibung der AICPA eine Prüfung von Kontrollen bei einer Serviceorganisation, die für Sicherheit, Verfügbarkeit, Verarbeitungsintegrität, Vertraulichkeit oder Datenschutz relevant sind. Das ist wertvoll und beantwortet eine andere Frage, als ob das Modell manipuliert werden kann oder wie oft es Fakten erfindet. Halten Sie Informationssicherheit und KI-Verhalten in separaten Abschnitten mit separaten Nachweisen.

Jede Antwort wird selbst gemeldet. Der Prüfer hat keine Möglichkeit, das Formular oder die beigefügte Richtlinie zu überprüfen, daher akzeptiert der Käufer entweder Ansprüche, die er nicht überprüfen kann, oder beauftragt eigene Tests.

Die Genehmigung wird als endgültig behandelt. Sechs Monate nach dem Kauf hat der Anbieter das Modell geändert und niemand hat neu überprüft. Sowohl M-25-22 als auch das NIST AI RMF behandeln Überwachung genau deshalb als kontinuierlich.

Nachweise sind zwischen Anbietern nicht vergleichbar. Drei Anbieter beschreiben ihre Tests auf drei verschiedene Arten, daher entscheiden Preis und Funktionen standardmäßig.

Warum eine überprüfbare unabhängige Bewertung den Prozess beschleunigt

Die letzten beiden Probleme sind die teuren. Wenn ein KI-System von einer unabhängigen Stelle gegen ein standardisiertes Rahmenwerk bewertet wurde, ändern sich für den Käufer drei Dinge.

Erstens ist die Evidenz unabhängig. RateAI hat kein Interesse an der Bewertung eines Systems, und seine Gebühren sind an Bewertungsmeilensteine gebunden, nicht an Ergebnisse. Ein System kann die Zertifizierung nicht bestehen; wenn das der Fall ist, erhält der Entwickler einen detaillierten Bericht mit Findings und einen Behebungsplan und kann die Bewertung erneut durchlaufen, sobald die Probleme behoben sind.

Zweitens ist die Evidenz vergleichbar. Jede A.E.G.I.S.™ Bewertung bewertet die gleichen sieben Säulen, und die Bewertungsparameter werden durch eine Bewertungs-Epoche festgelegt, damit Bewertungen im Laufe der Zeit vergleichbar bleiben. Zertifizierte Systeme erhalten ein A.E.G.I.S.™ Scorecard mit einer Gesamtsicherheitsbewertung von A (Maximale Sicherheit) bis F (Gefährlich), eine Note für jede Säule und ein Zertifizierungssiegel von A-5 Guardian bis A-1 Unrestricted. Ihre Prüfer können an einer Stelle sehen, wo ein System stark ist und wo Vorsicht geboten ist, und zwei Anbieter auf derselben Skala vergleichen.

Drittens ist die Evidenz überprüfbar und aktuell. Jeder Prompt-Fall, jede Validator-Abstimmung und jede Zertifizierungsentscheidung wird mit SHA-256-Hashing in einer Write-Once-Audit-Trail verkettet, sodass Aufzeichnungen nicht geändert oder rückdatiert werden können. Jeder kann eine RateAI-Zertifizierung in der öffentlichen Safety Registry überprüfen, ohne sich anzumelden, und bestätigen, dass sie aktuell ist und nicht herabgestuft wurde. Zertifizierungen unterliegen auch einem Rezertifizierungszyklus, und wesentliche Änderungen an einem System lösen eine Neubewertung aus, was sich direkt auf das Change-Management-Problem oben auswirkt.

Eine Bewertung ersetzt Ihre Due-Diligence nicht. Sie benötigen weiterhin Antworten zu Umfang, Vertragsbedingungen, Datenflüssen und Eignung für Ihren Anwendungsfall, und eine RateAI-Zertifizierung ist keine rechtliche Feststellung: Sie unterstützt Ihre Compliance-Arbeit, und regulatorische Entscheidungen bleiben bei den zuständigen Behörden. RateAI's Pro- und Enterprise-Tiers umfassen Compliance-Mapping für die EU AI Act, NIST AI RMF und ISO 42001. Was eine überprüfbare Bewertung leistet, ist die Beantwortung der Evidenzfragen, Punkte 5 bis 8 auf der obigen Liste, mit etwas, das Ihr Team überprüfen kann, anstatt Vertrauen zu schenken. Für einen tieferen Einblick in die Funktionsweise von Drittparteizertifizierungen lesen Sie was KI-Sicherheitszertifizierung ist und wie sie funktioniert.

Ein praktischer Due-Diligence-Workflow

1. Klassifizieren Sie den Anwendungsfall. Wer ist von dem System betroffen, kann es eigenständig handeln, und könnte es unter der EU AI Act als Hochrisiko eingestuft werden? Höhere Einsätze bedeuten tiefere Überprüfung.
2. Senden Sie die Fragenliste frühzeitig. Nehmen Sie sie in die RFP auf, damit Anbieter, die nicht antworten können, ausfallen, bevor Sie Zeit in Demos investieren.
3. Suchen Sie nach unabhängigen Nachweisen. Schauen Sie das Produkt des Anbieters in jedem unabhängigen Register nach, in dem es aufgelistet sein soll, und bestätigen Sie, dass die Bewertung, das Datum und die Version mit dem übereinstimmen, was Sie kaufen.
4. Testen Sie das Restliche. Wenn unabhängige Nachweise fehlen oder Ihren Anwendungsfall nicht abdecken, führen Sie Ihre eigene Bewertung mit Daten durch, die der Anbieter nicht gesehen hat, oder beauftragen Sie eine.
5. Verhandeln Sie die Bedingungen. Konvertieren Sie die Antworten in Vertragsverbindlichkeiten: Leistung, Testrechte, Datennutzung, Änderungsmitteilung, Protokollierung, Vorfälle und Portabilität.
6. Legen Sie die Überwachungsfrequenz fest. Vereinbaren Sie, wie oft Sie die Leistung überprüfen werden und was eine Neuüberprüfung auslöst, wie z.B. eine Modelländerung oder ein gemeldeter Vorfall.
7. Dokumentieren Sie die Entscheidung. Bewahren Sie die Nachweise, Ihre Bewertung und die Gründe für die Genehmigung auf.

Wenn Sie sich auf der Anbieterseite dieses Prozesses befinden, sagt Ihnen dieselbe Liste, was Käufer fragen werden. Wenn Sie unabhängige Nachweise bereit haben, bevor der Fragebogen ankommt, verkürzt sich jeder folgende Verkaufszyklus. RateAI's Zertifizierungs- und Monitoring-Tiers beschreiben, wie ein Engagement begrenzt wird, und ein kostenloser Sicherheits-Benchmark für einen KI-Agenten steht als Ausgangspunkt zur Verfügung.

Häufig gestellte Fragen

Was ist Due Diligence bei KI-Anbietern?

Es ist der Prozess der Überprüfung des Systems eines KI-Anbieters, seiner Datenpraktiken und Kontrollen vor dem Kauf, und das Aktualisieren dieser Überprüfungen danach. Im Vergleich zur gewöhnlichen Softwareüberprüfung kommt die Überprüfung des Systemverhaltens hinzu, wie Halluzinationen, Jailbreak-Resistenz und Datenschutzlecks.

Ist ein SOC 2 Bericht ausreichend, um einen KI-Anbieter zu genehmigen?

Üblicherweise nicht allein. Ein SOC 2 Bericht untersucht die Kontrollen einer Serviceorganisation, die für Sicherheit, Verfügbarkeit, Verarbeitungsintegrität, Vertraulichkeit oder Datenschutz relevant sind, daher benötigen Sie weiterhin separate Nachweise darüber, wie sich das KI-Modell verhält, wie falsche Antworten, Manipulation und Datenlecks durch Ausgaben.

Was verlangt die EU AI Act von Unternehmen, die KI kaufen?

Organisationen, die hochrisikobehaftete KI-Systeme nutzen, sind "Betreiber" gemäß Artikel 26 und müssen das System gemäß seinen Anweisungen nutzen, sachkundige menschliche Aufsicht zuweisen, dessen Betrieb überwachen, die Protokolle unter ihrer Kontrolle halten und in einigen Fällen die betroffenen Personen informieren. Diese Hochrisiko-Regeln gelten ab 2. Dezember 2027 für Annex III Systeme und 2. August 2028 für KI, die in Produkte eingebettet ist, die von Annex I abgedeckt werden.

Welche Vertragsbedingungen sollte ein KI-Kauf enthalten?

Mindestens: Leistungs- und Sicherheitsverpflichtungen, ein Recht auf unabhängige Prüfung, Beschränkungen für die Verwendung Ihrer Daten zum Training, Vorankündigung und Überprüfung von Modelländerungen, Protokollzugriff, Vorfallkooperation und Portabilität. Das OMB-Memo M-25-22 listet die meisten davon als erforderliche Themen für KI-Verträge der US-Bundesregierung auf.

Wie hilft eine unabhängige KI-Sicherheitsbewertung bei der Beschaffung?

Es ersetzt Eigenangaben durch standardisierte Ergebnisse, die ein unabhängiger Dritter erzeugt hat und die Sie überprüfen können. Ein A.E.G.I.S.™-Rating bewertet ein System nach denselben sieben Säulen wie jedes andere bewertete System, sodass Sie Anbieter vergleichen und bestätigen können, dass die Zertifizierung im öffentlichen Safety Registry aktuell ist.

Macht eine RateAI-Zertifizierung ein KI-System rechtlich konform?

Keine Zertifizierung kann diese Feststellung treffen; formale behördliche Entscheidungen bleiben bei den zuständigen Behörden. Die RateAI-Zertifizierung unterstützt Compliance-Arbeit, und ihre Pro- und Enterprise-Tiers beinhalten Compliance-Mapping zum EU AI Act, NIST AI RMF und ISO 42001.

Überprüfen Sie das Rating eines Anbieters vor Vertragsabschluss

Die schnellste Due-Diligence-Frage ist, ob das System bereits unabhängig bewertet wurde. Durchsuchen Sie das RateAI Safety Registry, um zu sehen, wie zertifizierte KI-Systeme mit ihrem A.E.G.I.S.™-Rating und Zertifizierungsstatus aufgelistet sind, und fragen Sie Ihre Anbieter, ob ihr Produkt darin verzeichnet ist.