Szybka odpowiedź: ocena dostawcy sztucznej inteligencji oznacza żądanie dowodów zamiast obietnic. Przed podpisaniem chcesz cztery rzeczy na piśmie: niezależne wyniki testów, które możesz zweryfikować, jasne warunki dotyczące sposobu używania i przechowywania twoich danych, zobowiązanie do monitorowania systemu po uruchomieniu oraz sposób weryfikacji każdego oświadczenia dotyczącego bezpieczeństwa bez polegania na słowie dostawcy. Reszta tego przewodnika zamienia to w proces roboczy, listę pytań, którą możesz wysłać do dostawców, i warunki umowy, które sprawiają, że odpowiedzi są wiążące.

Due diligence dla sztucznej inteligencji różni się od zwykłej oceny oprogramowania, ponieważ system sztucznej inteligencji może udzielić pewnej złej odpowiedzi, zostać namówiony do złamania własnych reguł, wyciekać dane lub zmienić zachowanie po aktualizacji modelu, którą dostawca wdrażza we wtorek. Te ryzyka znajdziesz poprzez testowanie zachowania, a kontrolujesz je za pomocą warunków umowy, które określają co się dzieje, gdy zachowanie się zmienia.

Dlaczego due diligence dla dostawcy sztucznej inteligencji jest teraz formalnym oczekiwaniem

Kupowanie sztucznej inteligencji było kiedyś traktowane jako zakup oprogramowania z dodatkowym akapitem na temat danych. Publiczni kupujący i ustawodawcy po obu stronach Atlantyku zmienili to podejście.

Federalni kupujący USA: memorandum OMB M-25-22

3 kwietnia 2025 r. Białodomy Office of Management and Budget wydało memorandum M-25-22, Driving Efficient Acquisition of Artificial Intelligence in Government. Dotyczy umów przyznanych w ramach ogłoszeń zamówień wydanych 180 dni lub więcej po memorandum i opcji odnowienia wykonanych po tej dacie. Sekcja 4(d) mówi, że agencje "muszą uwzględniać warunki, które odnoszą się do" listy tematów w umowach dla systemów i usług sztucznej inteligencji. Wśród nich:

• Ciągłe monitorowanie wydajności. Umowy muszą umożliwiać agencji regularne monitorowanie i ocenę wydajności systemu, ryzyka i skuteczności, przy czym przeglądy kwartalne lub dwuletnie podane są jako przykłady.
• Niezależne testowanie. Agencje powinny testować za pomocą własnych zbiorów danych, które "nie powinny być dostępne dla dostawcy", dostawcy muszą zapewnić "dostęp i czas niezbędny agencjom do ukończenia niezależnej oceny", a wyniki testów powinny być "wystarczająco szczegółowe, aby testowanie mogło być niezależnie zweryfikowane lub odtworzone, jeśli to możliwe."
• Ochrona przed uzależnieniem. Warunki mogą obejmować transfer wiedzy, "przenośność danych i modeli" oraz przejrzystość dotyczącą licencjonowania i cen.
• Ograniczenia szkolenia z twoimi danymi. Sekcja 3(e) wymaga, aby umowy "trwale zakazywały używania niepublicznych danych wejściowych agencji i wyników wyjściowych" do dalszego szkolenia publicznie lub komercyjnie dostępnej sztucznej inteligencji, chyba że agencja wyraźnie wyrazi na to zgodę.
• Zawiadomienie przed zmianami. Agencje powinny rozważyć wymóg powiadomienia ich przez dostawców przed integracją nowych usprawnień AI i są zachęcane do wymagania od dostawców spełnienia standardów wydajności przed wdrożeniem nowych wersji oraz wycofania się, jeśli będzie to konieczne.

Drugie memorandum, OMB M-26-04 z 11 grudnia 2025 r., mówi, że "uzupełnia" M-25-22. Dla umów dotyczących dużych modeli językowych wymienia informacje, które agencje powinny prosić od dostawców: zasady akceptowalnego użycia, karty modelu, systemu lub danych, zasoby dla użytkowników końcowych oraz mechanizm zbierania opinii użytkowników. Pozwala też agencjom prosić o więcej, na przykład wyniki oceny.

Te memoranda wiążą agencje federalne, a nie firmy prywatne. Stanowią one jednak najdokładniejsze publiczne stwierdzenie tego, o co prosi zaawansowany nabywca rozwiązań AI, i zespoły do spraw zamówień publicznych mogą bezpośrednio czerpać z ich struktury.

Operatorzy w UE: co dyrektywa AI Act wymaga od kupującego

Dyrektywa AI Act UE, Rozporządzenie (UE) 2024/1689, określa organizację, która wykorzystuje system AI pod własną władzą, mianem "operatora". Jeśli kupisz wysokoryzukowy system AI i poddasz go eksploatacji, Artykuł 26 nakłada na ciebie obowiązki, odrębne od obowiązków dostawcy. W skonsolidowanym tekście opublikowanym na Biurku Usług AI Komisji Europejskiej, Artykuł 26 stanowi:

• Podmioty stosujące „podejmują odpowiednie środki techniczne i organizacyjne w celu zapewnienia, że korzystają z takich systemów zgodnie z instrukcją obsługi dołączoną do systemów” (art. 26 ust. 1).
• Operatorzy "podejmą właściwe środki techniczne i organizacyjne w celu zapewnienia, że używają takich systemów zgodnie z instrukcjami towarzyszącymi systemom" (Artykuł 26(1)).
• Operatorzy "przydzielą nadzór człowieka osobom fizycznym posiadającym niezbędną kompetencję, przeszkolenie i uprawnienia" (Artykuł 26(2)).
• Operatorzy "będą monitorować funkcjonowanie wysokoryzukowego systemu AI na podstawie instrukcji użytkowania" i jeśli mają powód, aby sądzić, że system stanowi zagrożenie, muszą poinformować dostawcę lub dystrybutora i właściwy organ nadzoru rynku oraz wstrzymać użytkowanie (Artykuł 26(5)).
• Operatorzy "będą przechowywać dzienniki automatycznie generowane przez ten wysokoryzukowy system AI" w zakresie, w jakim dzienniki są pod ich kontrolą, przez co najmniej sześć miesięcy, chyba że prawo stanowi inaczej (Artykuł 26(6)).

Każdy z tych obowiązków zależy od czegoś, co można uzyskać wyłącznie od dostawcy. Nie da się przestrzegać instrukcji obsługi, których nigdy nie otrzymano, prowadzić rejestrów, których system nie eksportuje, ani monitorować zachowania, którego nie ma jak zmierzyć. Artykuł 13 to strona obowiązków dostawcy w ramach tej samej umowy: systemy wysokiego ryzyka muszą być dostarczane z instrukcją obsługi, która obejmuje między innymi „poziom dokładności, w tym jej wskaźniki, odporność i cyberbezpieczeństwo” (Artykuł 13 ust. 3 lit. b ppkt (ii)). Należyta staranność polega właśnie na potwierdzeniu, że te materiały istnieją i są wystarczająco dobre, by umożliwić Państwu wypełnienie własnej części obowiązków.

Czas ma znaczenie. Na mocy poprawek Digital Omnibus, Artykuł 113 stosuje teraz zasady wysokoryzyka od 2 grudnia 2027 r. dla systemów autonomicznych wymienionych w Załączniku III i od 2 sierpnia 2028 r. dla AI wbudowanego w produkty objęte Załącznikiem I. Umowy, które podpiszesz dziś, będą często wciąż obowiązywać w te daty, dlatego warto wpisać obligacje już teraz. Niezależnie od tego, Artykuł 4 prosi dostawców i operatorów systemów AI ogólnie, nie tylko wysokoryzukowych, o "podejmowanie środków wspierających rozwój wiedzy z zakresu AI" pracowników, którzy je obsługują i korzystają. Aby uzyskać pełniejszy obraz prawny, zapoznaj się z naszym kompletnym przewodnikiem po dyrektywie AI Act UE i przepisach AI w USA.

Dobrowolne ramy wskazują ten sam kierunek

Rdzień NIST AI Risk Management Framework przyznaje sztucznej inteligencji pochodzącej od stron trzecich własną kategorię. GOVERN 6.1 brzmi "Zasady i procedury są na miejscu, które dotyczą zagrożeń AI związanych z podmiotami stron trzecich", GOVERN 6.2 brzmi "Procesy awaryjne są na miejscu w celu radzenia sobie z awariami lub incydentami w danych lub systemach AI stron trzecich uznanych za wysokoryzyka", a MANAGE 3.1 mówi, że zagrożenia z zasobów stron trzecich powinny być "regularnie monitorowane i kontrole ryzyka są stosowane i dokumentowane". Jeśli twoja organizacja już dostosowuje się do NIST AI RMF lub prowadzi system zarządzania ISO/IEC 42001, należyta staranność dostawcy to sposób, w jaki spełniasz te oczekiwania dla AI, które kupujesz. Nasz przewodnik po NIST AI RMF, ISO/IEC 42001 i powiązanych standardach objaśnia, jak ramy się dopasowują.

Sześć obszarów do oceny

Każda przegląd dostawcy AI sprowadza się do sześciu obszarów.

1. Co to jest system i do czego służy

Zacznij od zakresu. Które modele znajdują się pod produktem, i czy dostawca je opracował, czy jest sprzedawcą opakowującym czyjś inny? Jaki zamierzony cel dokumentuje dostawca, i czy twoje planowane użycie mieści się w jego ramach? Na mocy dyrektywy AI Act, zamierzony cel jest pierwszą pozycją, którą instrukcje użytkowania muszą zawierać, a użycie systemu poza nim oznacza przejęcie ryzyka, które dostawca nigdy nie testował.

2. Dowód bezpiecznego zachowania

To obszar, z którym większość kupujących obchodzi się najgorzej, ponieważ najtrudniej jest o nim pytać w kwestionariuszu. "Czy testujesz odchylenia?" otrzymuje twierdząceną odpowiedź od każdego. Lepsze pytania proszą o metodę i wynik: co było testowane, przeciwko jakim scenariuszom, z jakim wskaźnikiem przejścia, przez kogo i kiedy. Zagrożenia behawioralne warte rozpatrzenia pokrywają się z siedmioma filarami ramy A.E.G.I.S.™:

• Hallucination Integrity: czy system przedstawia nieprawdziwe informacje jako fakty, zwłaszcza pod presją, w sytuacjach niejednoznacznych lub przy pytaniach specjalistycznych z danej dziedziny?
• Hallucination Integrity: czy system przedstawia fałszywości jako fakty, zwłaszcza pod presją, dwuznaczność lub pytania specyficzne dla domeny?
• Guardrail Resistance: czy można go zmanipulować do niebezpiecznego zachowania poprzez próby jailbreakingu lub wstrzyknięcia podpowiedzi?
• Data Handling & Privacy: co zbiera, przechowuje i ujawnia, w tym dane osobowe?
• Ethical Alignment: czy zachowuje się właściwie wobec użytkowników wrażliwych i czułych tematów?
• Adversarial Robustness: jak radzi sobie przeciwko zmotywowanemu atakującemu?
• Explainability & Transparency: czy jego zachowanie można zrozumieć i audytować po fakcie?

Aby zobaczyć, jak każdy z nich jest faktycznie testowany, zobacz jak systemy AI są testowane pod względem bezpieczeństwa. Kluczowe rozróżnienie dla nabywcy to różnica między wynikami, które producent uzyskał na temat siebie, a wynikami, które uzyskała strona trzecia. Testy wewnętrzne mają wartość, ale to producent oceniający swoje własne prace. M-25-22 stawia ten sam punkt widzenia ze strony nabywcy, gdy wymaga testowania wystarczająco szczegółowego, aby mogło być „niezależnie weryfikowane lub powtórzone".

3. Obsługa danych

Zapytaj, gdzie trafiają Twoje dane, jak długo tam pozostają, kto może je widzieć i czy trenują cokolwiek. Standard federalny w M-25-22 jest przydatnym benchmark: producenci mogą gromadzić i przechowywać informacje agencji tylko wtedy, gdy jest to „uzasadnione" dla kontraktu, a niepubliczne wejścia i wyjścia nie mogą być używane do trenowania modeli publicznych lub komercyjnych bez zgody. Zapytaj również, czy dzienniki systemu są dla Ciebie dostępne, ponieważ wdrażający systemy wysokiego ryzyka w UE muszą utrzymywać dzienniki pod swoją kontrolą.

4. Nadzór i kontrola

Dowiedz się, co człowiek może zrobić, gdy system się myli. Czy operator może przejrzeć lub zastąpić wyniki, lub wstrzymać system? Artykuł 26(2) zakłada, że przydzielisz kompetentne osoby do nadzoru; producent musi im coś do tego dać.

5. Zarządzanie zmianami i monitoring

Produkty AI zmieniają się pod Tobą: nowy model bazowy lub przetrening, a zachowanie, które zatwierdziłeś, to już nie zachowanie w produkcji. Zapytaj, jak producent Cię informuje o materialnymi zmianach, czy możesz przetestować przed nową wersją dla użytkowników, i czy wersja może być cofnięta. M-25-22 prosi agencje rozważyć lub wymagać wszystkich trzech. Następnie zapytaj, jaki monitoring istnieje po uruchomieniu, i czy wyniki są dla Ciebie udostępniane.

6. Incydenty i odpowiedzialność

Zapytaj o proces reagowania na incydenty producenta dla awarii specyficznych dla sztucznej inteligencji, takich jak szkodliwe wyjście lub udany jailbreak. Wdrażający systemy wysokiego ryzyka w UE muszą poinformować dostawcę i organ nadzoru rynku, jeśli uważają, że system stanowi ryzyko, więc Twoja umowa powinna zapewnić, że producent będzie z Tobą współpracować, gdy to się stanie. Nasz przewodnik po udokumentowanych incydentach AI i co testowanie łapie pokazuje wzorce awarii warte zaplanowania.

Lista pytań, którą możesz wysłać dostawcom AI

Skopiuj je do swojego RFP. Każde pyta o coś, co możesz sprawdzić.

Zakres i cel

1. Które modele zasilają produkt, kto każdy opracowuje, i które wersje są dzisiaj w produkcji?
2. Jaki jest udokumentowany zamierzony cel, i czy są przypadki użycia, których odradzasz? Podziel się instrukcjami użytkowania lub równoważną dokumentacją.
3. Czy publikujesz karty modelu, systemu lub danych dla produktu? Proszę je dołączyć.
4. Jaka jest Twoja polityka akceptowalnego użytkowania dla użytkowników końcowych?

Testowanie i dowody

5. Jakie ryzyka bezpieczeństwa przetestowałeś produkt (na przykład halucynacje, jailbreaki i prompt injection, wyciek prywatności, zachowanie z użytkownikami wrażliwymi, limity autonomii, ataki adversarial, wyjaśnialność)? Dla każdego, jaka była metoda i wynik?
6. Czy którykolwiek z tych testów został przeprowadzony przez stronę trzecią? Kto, kiedy, przeciwko której wersji, i czy możemy sami zweryfikować wynik?
7. Czy dasz nam dostęp i czas do uruchomienia własnej oceny, używając danych testowych, których nie widzisz?
8. Jakie są udokumentowane poziomy dokładności, solidności i cyberbezpieczeństwa, i jak były mierzone?

Dane

9. Jakie dane z naszego użytkowania zbierasz i przechowujesz, przez jak długo i dlaczego każdy element jest niezbędny?
10. Czy nasze dane wejściowe lub wyjściowe będą wykorzystywane do trenowania lub doskonalenia jakiegokolwiek modelu, waszego lub firmy trzeciej? Czy można to contractually zakazać?
11. Którzy podprocessorowie, w tym dostawcy modeli, otrzymują nasze dane?
12. Jakie logi generuje system i czy możemy je eksportować i przechowywać?

Kontrola, zmany i incydenty

13. Jakie możliwości nadzoru i override dostępne są dla naszych operatorów?
14. Jak i kiedy powiadomicie nas o istotnych zmianach modelu lub jego zachowania? Czy możemy przetestować nową wersję przed dostępem użytkowników i czy możemy ją wycofać?
15. Jak monitorujecie produkt po wdrożeniu i czy podzielicie się z nami wynikami monitorowania?
16. Jaki jest wasz proces reagowania na incydenty dla awarii specyficznych dla sztucznej inteligencji i jakie są wasze zobowiązania wobec nas dotyczące powiadomień?
17. Jeśli odejdziemy, jak otrzymamy nasze dane i ewentualne dostosowania oraz w jakim formacie?

Przekształcenie odpowiedzi w postanowienia umowy

Odpowiedzi z kwestionariusza to oświadczenia. Umowa to miejsce, gdzie stają się zobowiązaniami. M-25-22 zawiera szablon tematów, a prywatni nabywcy mogą go dostosować bez większych zmian.

• Zobowiązania dotyczące wydajności i bezpieczeństwa. Wpisz przetestowane zachowanie do umowy: udokumentowane poziomy dokładności i bezpieczeństwa, harmonogram okresowych przeglądów i co się stanie, jeśli wyniki spadną poniżej nich.
• Prawo do oceny. Zastrzeż sobie prawo do przeprowadzenia własnych testów lub komisjonowania testów u niezależnej strony, z dostępem i czasem od dostawcy.
• Ograniczenia użycia danych. Zakazać trenowania na twoich wejściach i wyjściach bez pisemnej zgody, ograniczyć przechowywanie do niezbędnego minimum i wymienić podprocessorów.
• Powiadomienie o zmianach. Wymagać wcześniejszego powiadomienia o istotnych zmianach modelu i okresu testów przed wdrożeniem w produkcji, z opcją wycofania.
• Logowanie i dokumentacja. Wymagać od systemu generowania i eksportowania potrzebnych logów oraz ustalić, jak długo dostawca przechowuje swoje własne.
• Współpraca w przypadku incydentów. Ustal harmonogram powiadomień o incydentach AI i zobowiązanie do pomocy w spełnieniu wszelkich obowiązków raportowania, które masz.
• Przenośność. Obejmij przenośność danych i modelu, transfer wiedzy i przejrzystą licencjonowanie, aby móc odejść w razie potrzeby.

M-26-04 dodaje przydatną technikę redakcji: nakazuje agencjom identyfikować pewne wymogi jako "materialne dla uprawnień i płatności wynikających z umowy." Uczynienie warunków bezpieczeństwa i przejrzystości materialnymi daje im moc, ponieważ ich naruszenie staje się podstawą do środków zaradczych zamiast przypisów.

Gdzie due diligence zwykle się rozstaje

Większość nieudanych przeglądów dostawców AI zawodzi w jeden z kilku przewidywalnych sposobów.

Kwestionariusz to formularz bezpieczeństwa z przyklejonymi pytaniami dotyczącymi AI. Raport SOC 2, zgodnie z własnym opisem AICPA, to przegląd kontroli u dostawcy usług istotnych dla bezpieczeństwa, dostępności, integralności przetwarzania, poufności lub prywatności. To cenne i odpowiada na inne pytanie niż to, czy model można zhakować lub jak często wymyśla fakty. Zachowaj bezpieczeństwo informacji i zachowanie modelu AI jako odrębne sekcje z oddzielnymi dowodami.

Każda odpowiedź jest samodzielnie zgłoszona. Recenzent nie ma sposobu, aby sprawdzić formularz lub dołączoną politykę, więc nabywca albo akceptuje twierdzenia, których nie może zweryfikować, albo zamawia własne testy.

Zatwierdzenie jest traktowane jako permanentne. Sześć miesięcy po zakupie dostawca zmienił model i nikt nie sprawdzył ponownie. Zarówno M-25-22 jak i NIST AI RMF traktują monitorowanie jako ciągłe dokładnie z tego powodu.

Dowody nie są porównywalne między dostawcami. Trzej dostawcy opisują swoje testowanie na trzy różne sposoby, więc cena i funkcje decydują domyślnie.

Dlaczego niezależna, weryfikowalna ocena skraca proces

Ostatnie dwa problemy to te najdroższe. Gdy system AI został oceniony przez niezależną stronę w stosunku do standardowego frameworku, dla kupującego zmienia się trzy rzeczy.

Po pierwsze, dowody są niezależne. RateAI nie ma udziału w ocenie systemu, a jego opłaty są powiązane z kamieniami milowymi oceny, a nie wynikami. System może nie uzyskać certyfikacji; gdy tak się stanie, deweloper otrzymuje szczegółowy raport z ustaleń i ścieżkę naprawczą, a następnie może ponownie wejść na ocenę po naprawieniu problemów.

Po drugie, dowody są porównywalne. Każda ocena A.E.G.I.S.™ ocenia te same siedem filarów, a parametry oceny są ustalone przez epokę oceny, tak aby oceny pozostały porównywalne w czasie. Systemy certyfikowane otrzymują kartę wyników A.E.G.I.S.™ z ogólną oceną bezpieczeństwa od A (maksymalne bezpieczeństwo) do F (niebezpieczne), oceną dla każdego filaru oraz pieczęć certyfikacji od A-5 Guardian do A-1 Unrestricted. Twoi recenzenci mogą zobaczyć w jednym miejscu, gdzie system jest silny, a gdzie należy zachować ostrożność, i porównać dwóch dostawców na tej samej skali.

Po trzecie, dowody są weryfikowalne i aktualne. Każdy case testowy, głos walidatora i decyzja certyfikacyjna są połączone haszowaniem SHA-256 w niepodlegającym modyfikacji śladzie audytu, dzięki czemu rekordy nie mogą być zmieniane ani wstecznie datowane. Każdy może sprawdzić certyfikację RateAI w publicznym Safety Registry bez logowania i potwierdzić, że jest aktualna i nie została obniżona. Certyfikacje obejmują również cykl ponownej certyfikacji, a materialne zmiany w systemie wyzwalają ponowną ocenę, co bezpośrednio odnosi się do problemu zarządzania zmianami wymienionego powyżej.

Ocena nie zastępuje Twojej należytej staranności. Nadal potrzebujesz odpowiedzi na temat zakresu, warunków umowy, przepływów danych i dopasowania do Twojego przypadku użycia, a certyfikacja RateAI nie jest określeniem prawnym: wspiera Twoją pracę nad zgodnością, a decyzje regulacyjne pozostają w gestii właściwych organów. Warstwy Pro i Enterprise RateAI obejmują mapowanie zgodności do EU AI Act, NIST AI RMF i ISO 42001. Weryfikowalna ocena odpowiada na pytania dotyczące dowodów, punkty 5-8 na powyższej liście, czymś, co Twój zespół może sprawdzić zamiast ufać. Aby dowiedzieć się więcej o tym, jak działa certyfikacja trzeciej strony, przeczytaj co to jest certyfikacja bezpieczeństwa AI i jak działa.

Praktyczny przepływ pracy należytej staranności

1. Sklasyfikuj przypadek użycia. Kogo dotyczy system, czy może działać samodzielnie i czy może być wysokiego ryzyka w ramach EU AI Act? Wyższa stawka oznacza głębszą przegląd.
2. Wyślij listę pytań wcześnie. Dołącz ją do RFP, aby dostawcy, którzy nie mogą odpowiedzieć, rezygnowali zanim zainwestujesz czas w demonstracje.
3. Sprawdź niezależne dowody. Wyszukaj produkt dostawcy w każdym niezależnym rejestrze, w którym twierdzi, że jest wymieniony, i potwierdź, że ocena, data i wersja pasują do tego, co kupujesz.
4. Przetestuj to, co pozostało. Jeśli niezależne dowody są niedostępne lub nie obejmują Twojego przypadku użycia, przeprowadź własną ocenę na danych, których dostawca nie widział, lub zlecić taką ocenę.
5. Wynegocjuj warunki. Przekonwertuj odpowiedzi na zobowiązania umowne: wydajność, prawa testowania, wykorzystanie danych, zawiadomienie o zmianach, rejestrowanie, incydenty i przenośność.
6. Ustal częstotliwość monitorowania. Uzgodnij, jak często będziesz przeglądać wydajność i co wyzwala ponowny przegląd, na przykład zmiana modelu lub zgłoszony incydent.
7. Rejestruj decyzję. Przechowuj dowody, Twoją ocenę i powody zatwierdzenia.

Jeśli jesteś po stronie dostawcy tego procesu, ta sama lista mówi Ci, o co kupujący będą pytać. Posiadanie niezależnych dowodów gotowych przed nadejściem ankiety skraca każdy następujący cykl sprzedaży. Warstwy certyfikacji i monitorowania RateAI opisują, jak zakres zaangażowania jest określany, a bezpłatny benchmark bezpieczeństwa dla jednego agenta AI jest dostępny jako punkt wyjścia.

Często zadawane pytania

Co to jest należyta staranność wobec dostawcy AI?

To proces sprawdzenia systemu dostawcy AI, praktyk obsługi danych i kontroli przed zakupem oraz utrzymania tych kontroli na bieżąco. W porównaniu ze zwyczajnym przeglądem oprogramowania dodaje testowanie zachowania systemu, takiego jak halucynacje, odporność na jailbreak i wyciek prywatności.

Czy raport SOC 2 wystarczy do zatwierdzenia dostawcy AI?

Zwykle nie samodzielnie. Raport SOC 2 bada kontrole organizacji usługowej istotne dla bezpieczeństwa, dostępności, integralności przetwarzania, poufności lub prywatności, więc nadal potrzebujesz odrębnych dowodów na temat zachowania modelu AI, takich jak fałszywe odpowiedzi, manipulacja i wyciek danych poprzez dane wyjściowe.

Co EU AI Act wymaga od firm kupujących AI?

Organizacje korzystające z systemów AI wysokiego ryzyka są "wdrażającymi" zgodnie z artykułem 26 i muszą używać system zgodnie z jego instrukcjami, przydzielić kompetentny nadzór człowieka, monitorować jego operację, prowadzić dzienniki pod swoją kontrolą i w niektórych przypadkach powiadomić osoby, których to dotyczy. Te zasady wysokiego ryzyka mają zastosowanie od 2 grudnia 2027 r. dla systemów Załącznika III i 2 sierpnia 2028 r. dla AI wbudowanego w produkty objęte Załącznikiem I.

Jakie warunki umowy powinna zawierać zakup AI?

Minimum: zobowiązania dotyczące wydajności i bezpieczeństwa, prawo do niezależnych testów, ograniczenia dotyczące wykorzystania Twoich danych do szkolenia, zawiadomienie z wyprzedzeniem i testowanie zmian modelu, dostęp do dzienników, współpraca w przypadku incydentów i przenośność. Memorandum OMB M-25-22 wymienia większość z nich jako wymagane tematy dla federalnych kontraktów AI Stanów Zjednoczonych.

Jak niezależna ocena bezpieczeństwa AI wspomaga zamówienia?

Zastępuje ona samoistne deklaracje standaryzowanymi wynikami opracowanymi przez stronę trzecią, które można zweryfikować. Ocena A.E.G.I.S.™ ocenia system w oparciu o te same siedem filarów co każdy inny oceniany system, dzięki czemu można porównywać dostawców i potwierdzać aktualność certyfikacji w publicznym Rejestrze Bezpieczeństwa.

Czy certyfikacja RateAI zapewnia zgodność prawną systemu AI?

Żadna certyfikacja nie może dokonać takiego ustalenia; formalne decyzje regulacyjne pozostają w kompetencji właściwych organów. Certyfikacja RateAI wspiera prace związane ze zgodnością, a jej warstwy Pro i Enterprise obejmują mapowanie zgodności do EU AI Act, NIST AI RMF i ISO 42001.

Sprawdź ocenę dostawcy przed podpisaniem umowy

Najszybszym pytaniem due diligence jest to, czy system został już poddany niezależnej ocenie. Wyszukaj w Rejestrze Bezpieczeństwa RateAI, aby zobaczyć, jak certyfikowane systemy AI są wymieniane wraz z ich oceną A.E.G.I.S.™ i statusem certyfikacji, oraz zapytaj swoich dostawców, czy ich produkt się na nim znajduje.