빠른 답변: AI 벤더 평가는 약속 대신 증거를 요청하는 것을 의미합니다. 서명하기 전에 서면으로 네 가지가 필요합니다: 확인할 수 있는 독립적인 테스트 결과, 데이터 사용 및 보관 방식에 대한 명확한 조건, 런칭 후 시스템을 모니터링하겠다는 약정, 벤더의 말을 믿지 않고 모든 안전 주장을 검증할 수 있는 방법. 이 가이드의 나머지 부분은 이를 실행 가능한 프로세스, 벤더에게 보낼 수 있는 질문 목록, 그리고 답변을 실현하게 하는 계약 조건으로 바꿉니다.

AI 실사는 일반 소프트웨어 검토와 다릅니다. AI 시스템은 자신감 있게 잘못된 답을 생성하고, 자신의 규칙에서 벗어나고, 데이터를 유출하고, 벤더가 화요일에 배포하는 모델 업데이트 후 동작을 변경할 수 있기 때문입니다. 동작을 테스트하여 이러한 위험을 발견하고, 동작이 변할 때 어떻게 되는지를 명시하는 계약 조건으로 통제합니다.

AI 벤더 실사가 이제 공식적인 기대치인 이유

AI 구매는 데이터에 대한 추가 단락을 포함한 소프트웨어 구매로 취급되었습니다. 대서양 양쪽의 공공 구매자와 입법자들이 이를 변경했습니다.

미국 연방 구매자: OMB 메모 M-25-22

2025년 4월 3일, 백악관 행정관리예산처는 메모랜덤 M-25-22, 정부의 인공지능 효율적 조달 추진을 발행했습니다. 메모 발행 후 180일 이상이 지난 후 발행된 공고에 따라 수여된 계약과 그 이후에 행사된 갱신 옵션에 적용됩니다. 제4조(d)는 기관이 AI 시스템 및 서비스 계약에서 다음 주제를 "다루는 조건을 포함해야 한다"고 명시합니다. 그 중:

• 지속적인 성능 모니터링. 계약은 기관이 시스템의 성능, 위험 및 효과성을 정기적으로 모니터링하고 평가할 수 있도록 해야 하며, 분기별 또는 2년마다의 검토가 예로 제시됩니다.
• 독립적인 테스트. 기관은 "벤더가 접근할 수 없어야 하는" 자신의 데이터셋으로 테스트해야 하며, 벤더는 "기관이 독립적인 평가를 완료하는 데 필요한 접근 및 시간을 제공해야" 하고, 테스트 결과는 "테스트를 독립적으로 검증하거나 재현할 수 있도록 충분히 상세해야" 합니다(가능한 경우).
• 종속성 방지. 조건에는 지식 이전, "데이터 및 모델 이식성", 라이선싱 및 가격책정의 투명성이 포함될 수 있습니다.
• 데이터 학습에 대한 제한. 제3조(e)는 계약이 기관이 명시적으로 동의하지 않는 한, 공개적으로 또는 상업적으로 이용 가능한 AI를 추가로 학습시키기 위해 "비공개 입력 기관 데이터 및 출력 결과의 사용을 영구적으로 금지"해야 한다고 요구합니다.
• 변경 전 공지. 정부 기관은 벤더에게 새로운 AI 개선 사항을 통합하기 전에 공지하도록 요구하는 것을 검토해야 하며, 새로운 버전을 배포하기 전에 성능 기준을 충족하도록 요구하고 필요시 롤백할 수 있도록 요구하는 것이 권장됩니다.

두 번째 공시인 2025년 12월 11일자 OMB M-26-04는 M-25-22를 "보완"한다고 명시합니다. 대형 언어 모델 계약의 경우, 정부 기관이 벤더에게 요청해야 할 정보로 허용 가능한 사용 정책, 모델, 시스템 또는 데이터 카드, 최종 사용자 자료 및 최종 사용자 피드백 메커니즘을 나열합니다. 또한 기관이 평가 결과와 같은 추가 정보를 요청할 수 있도록 허용합니다.

이러한 공시는 연방 정부 기관을 구속하며, 민간 기업을 구속하지 않습니다. 그럼에도 불구하고 이는 정교한 AI 구매자가 요구하는 사항에 관한 가장 상세한 공개 성명이며, 민간 조달 팀은 이 구조를 직접 참고할 수 있습니다.

EU 배포 기관: AI 법이 구매자에게 요구하는 사항

EU AI 법인 Regulation (EU) 2024/1689는 AI 시스템을 자신의 권한 하에서 사용하는 조직을 "배포자"라고 부릅니다. 고위험 AI 시스템을 구매하여 운영하는 경우, 제26조는 벤더의 의무와 별개의 의무를 배포자에게 부과합니다. 유럽 위원회의 AI 법 서비스 데스크에 게시된 통합 문본에서 제26조는 다음을 명시합니다:

• 배포자는 "해당 시스템에 수반되는 사용 지침에 따라 그러한 시스템을 사용하도록 보장하기 위해 적절한 기술적, 조직적 조치를 취하여야 한다" (제26조 제1항).
• 배포자는 "시스템과 함께 제공되는 사용 지침에 따라 그러한 시스템을 사용하도록 보장하기 위해 적절한 기술적 및 조직적 조치를 취해야 합니다" (제26조(1)).
• 배포자는 "필요한 역량, 교육 및 권한을 가진 자연인에게 인적 감시를 할당해야 합니다" (제26조(2)).
• 배포자는 "사용 지침에 기초하여 고위험 AI 시스템의 운영을 모니터링해야" 하며, 그 시스템이 위험을 야기한다고 생각할 이유가 있는 경우 공급자 또는 배포자 및 관련 시장 감시 당국에 알리고 사용을 중단해야 합니다 (제26조(5)).
• 배포자는 "그 고위험 AI 시스템이 자동으로 생성한 로그를 유지해야" 하며, 다른 법이 달리 규정하지 않는 한 최소 6개월 동안 그러한 로그가 그들의 통제 하에 있는 범위 내에서 유지해야 합니다 (제26조(6)).

이러한 의무는 모두 공급업체로부터만 얻을 수 있는 정보에 의존합니다. 받아본 적 없는 사용 지침을 따를 수는 없고, 시스템이 내보내지 않는 로그를 보관할 수는 없으며, 측정할 방법이 없는 행동을 모니터링할 수는 없습니다. 제13조는 이 거래의 공급업체 측 의무에 해당합니다. 고위험 시스템에는 다른 사항과 더불어 "정확도 수준, 그 측정 지표, 견고성 및 사이버보안"(제13조(3)(b)(ii))을 포함한 사용 지침이 제공되어야 합니다. 실사 과정에서는 이러한 자료가 실제로 존재하는지, 그리고 귀사가 맡은 역할을 수행하기에 충분한 수준인지를 확인하게 됩니다.

타이밍이 중요합니다. 디지털 옴니버스 개정안에 따라 제113조는 이제 부속서 III에 명시된 독립형 시스템에 대해서는 2027년 12월 2일부터, 부속서 I이 적용되는 제품에 내장된 AI에 대해서는 2028년 8월 2일부터 고위험 규정을 적용합니다. 오늘 체결하는 계약은 상당수가 해당 시점에도 여전히 이행 중일 것이므로, 지금부터 관련 의무 조항을 계약에 반영해 두는 것이 합리적입니다. 이와 별개로 제4조는 고위험 AI 시스템뿐 아니라 AI 시스템 전반의 공급자와 배포자에게 이를 운용하고 사용하는 직원의 "AI 역량 개발을 지원하기 위한 조치를 취할 것"을 요구합니다. 보다 폭넓은 법적 맥락은 저희가 작성한 EU AI Act 및 미국 AI 관련법 완벽 가이드를 참고하시기 바랍니다.

자율 프레임워크도 같은 방향을 가리킵니다

NIST AI Risk Management Framework core는 제3자 AI를 별도의 카테고리로 다루고 있습니다. GOVERN 6.1에는 "제3자 기관과 관련된 AI 위험을 다루는 정책 및 절차가 마련되어 있다"고 명시되어 있으며, GOVERN 6.2에는 "고위험으로 간주되는 제3자 데이터 또는 AI 시스템의 장애나 사고를 처리하기 위한 비상 대응 프로세스가 마련되어 있다"고 되어 있습니다. 또한 MANAGE 3.1에서는 제3자 리소스에서 비롯된 위험을 "정기적으로 모니터링하고, 위험 통제를 적용 및 문서화해야 한다"고 규정하고 있습니다. 귀사가 이미 NIST AI RMF에 부합하거나 ISO/IEC 42001 관리 체계를 운영하고 계시다면, 벤더 실사(due diligence)는 구매하는 AI에 대해 이러한 요구사항을 충족하는 방법이 됩니다. 저희의 NIST AI RMF, ISO/IEC 42001 및 관련 표준 가이드에서는 이러한 프레임워크들이 어떻게 서로 맞물리는지 다루고 있습니다.

평가해야 할 6가지 영역

모든 AI 벤더 심사는 결국 여섯 가지 영역으로 귀결됩니다.

1. 시스템의 개요 및 목적

먼저 범위를 확인하는 것부터 시작하십시오. 해당 제품에는 어떤 모델이 탑재되어 있으며, 공급업체는 그 모델의 개발사입니까, 아니면 타사 모델을 재포장하여 판매하는 리셀러입니까? 공급업체가 문서화한 의도된 목적은 무엇이며, 귀사가 계획하는 용도가 그 범위 안에 들어갑니까? EU AI Act에 따르면 의도된 목적은 사용 설명서에 가장 먼저 명시되어야 하는 항목이며, 시스템을 그 목적 범위 밖에서 사용한다는 것은 공급업체가 전혀 테스트하지 않은 위험을 떠안는 것을 의미합니다.

2. 안전한 행동의 증거

이 영역은 설문지로 질문하기가 가장 까다로워서 구매자 대부분이 제대로 다루지 못하는 부분입니다. "편향성을 테스트하십니까?"라고 물으면 모두가 그렇다고 답합니다. 더 나은 질문은 방법과 결과를 구체적으로 묻는 것입니다. 무엇을 테스트했는지, 어떤 시나리오를 기준으로 했는지, 통과율은 어느 정도인지, 누가 언제 수행했는지를 확인해야 합니다. 다루어야 할 행동 리스크는 A.E.G.I.S.™ 프레임워크의 7개 영역과 일치합니다:

• Hallucination Integrity: 시스템이 특히 압박이 가해지거나 모호한 상황, 또는 전문 분야 관련 질문을 받았을 때 허위 사실을 사실인 것처럼 진술하는지 평가합니다.
• Guardrail Resistance: 탈옥(jailbreak) 시도나 프롬프트 인젝션을 통해 안전하지 않은 행동을 하도록 조작될 수 있는가?
• Hallucination Integrity: 시스템이 거짓을 사실로 진술합니까, 특히 압박, 모호함 또는 도메인 특정 질문 하에서?
• Guardrail Resistance: 탈옥 시도나 프롬프트 주입을 통해 안전하지 않은 동작으로 조작될 수 있습니까?
• Data Handling & Privacy: 개인 데이터를 포함하여 수집, 보관 및 유출하는 것은 무엇입니까?
• Adversarial Robustness: 동기 있는 공격자의 공격에 얼마나 잘 견딜 수 있는가?
• Explainability & Transparency: 그 동작을 이해하고 사후에 감시할 수 있는가?

이들이 실제로 어떻게 테스트되는지에 대해서는 AI 시스템의 안전성 테스트 방법을 참조하시기 바랍니다. 구매자에게 중요한 구분은 벤더가 자신에 대해 만든 결과와 독립적인 제3자가 만든 결과 사이의 차이입니다. 내부 테스트는 가치가 있지만, 벤더가 자신의 숙제를 채점하는 것입니다. M-25-22는 구매자 입장에서 "독립적으로 검증되거나 재현될 수 있을" 정도의 상세한 테스트를 요구할 때 같은 지점을 제시합니다.

3. 데이터 처리

데이터가 어디로 가는지, 얼마나 오래 유지되는지, 누가 볼 수 있는지, 그리고 그것이 무엇을 학습시키는지 확인하십시오. M-25-22의 연방 표준은 유용한 벤치마크입니다: 벤더는 계약에 "합리적으로 필요한" 경우에만 기관 정보를 수집 및 보유할 수 있으며, 비공개 입출력은 동의 없이 공개 또는 상용 모델을 학습하는 데 사용될 수 없습니다. 또한 EU의 고위험 시스템 배포자는 로그를 자신의 통제 하에 유지해야 하므로, 시스템의 로그를 사용할 수 있는지 확인하십시오.

4. 감시 및 통제

시스템이 오류를 범했을 때 인간이 할 수 있는 일이 무엇인지 파악하십시오. 운영자가 출력물을 검토하거나 무시할 수 있거나 시스템을 일시 중지할 수 있는가? 제26조(2)는 감시를 위해 유능한 인력을 배정할 것을 가정하고 있습니다. 벤더는 그들에게 작업할 수 있는 무언가를 제공해야 합니다.

5. 변경 관리 및 모니터링

AI 제품은 끊임없이 변합니다: 새로운 기본 모델이나 재학습이 있으면, 승인한 동작이 더 이상 프로덕션의 동작이 아닙니다. 벤더가 중대한 변경사항을 어떻게 알려주는지, 새 버전이 사용자에게 도달하기 전에 테스트할 수 있는지, 그리고 버전을 롤백할 수 있는지 확인하십시오. M-25-22는 기관에 세 가지 모두를 검토하거나 요구할 것을 요청합니다. 그 다음 출시 후 어떤 모니터링이 존재하는지, 그리고 결과를 당신과 공유하는지 확인하십시오.

6. 사건 및 책임

해로운 출력이나 성공적인 탈옥과 같은 AI 특화 장애에 대한 벤더의 사건 대응 프로세스를 요청하십시오. EU의 고위험 시스템 배포자는 시스템이 위험을 제시한다고 판단할 때 제공자와 시장 감시 기관에 알려야 하므로, 계약이 이런 상황이 발생했을 때 벤더가 당신과 함께 일할 수 있도록 해야 합니다. 기록된 AI 사건 및 테스트가 포착하는 것에 대한 가이드는 대비할 가치 있는 장애 패턴을 보여줍니다.

AI 벤더에게 보낼 수 있는 질문 목록

이를 RFP에 복사하십시오. 각각 확인할 수 있는 무언가를 요청합니다.

범위 및 목적

1. 제품을 구동하는 모델은 무엇이고, 각각을 누가 개발하며, 현재 프로덕션에 있는 버전은 어느 것입니까?
2. 문서화된 의도된 목적이 무엇이며, 권장하지 않는 사용 방법이 있습니까? 사용 설명서 또는 동등한 문서를 공유해 주십시오.
3. 제품에 대한 모델, 시스템 또는 데이터 카드를 발행합니까? 이를 첨부해 주십시오.
4. 최종 사용자를 위한 승인된 사용 정책은 무엇입니까?

테스트 및 증거

5. 제품을 테스트한 안전 위험은 무엇입니까 (예: Hallucination, 탈옥 및 프롬프트 주입, 개인정보 유출, 취약한 사용자와의 동작, 자율성 한계, 적대적 공격, Explainability)? 각각에 대해 방법과 결과는 무엇입니까?
6. 이 테스트 중 일부가 독립적인 제3자에 의해 수행되었습니까? 누가, 언제, 어느 버전에 대해, 그리고 결과를 직접 검증할 수 있습니까?
7. 당신이 보지 않는 테스트 데이터를 사용하여 자체 평가를 실행할 수 있는 접근 및 시간을 제공하겠습니까?
8. 문서화된 정확도, 견고성 및 사이버 보안 수준은 무엇이며, 어떻게 측정되었습니까?

데이터

9. 사용으로부터 당신의 데이터 중 무엇을 수집하고 보유하며, 얼마나 오래, 그리고 각 항목이 필요한 이유는 무엇입니까?
10. 당사의 입력값이나 출력값이 귀사 또는 제3자의 모델 학습이나 개선에 사용될 수 있습니까? 이를 계약으로 금지할 수 있습니까?
11. 모델 제공자를 포함한 어떤 하위 프로세서들이 당사의 데이터에 접근합니까?
12. 시스템이 생성하는 로그는 어떤 것이며, 이를 내보내고 보관할 수 있습니까?

제어, 변경 및 인시던트

13. 운영자가 사용할 수 있는 인적 감독 및 오버라이드 제어는 무엇입니까?
14. 모델이나 그 동작에 대한 중대한 변경이 있을 때 어떻게, 언제 당사에 알립니까? 새 버전을 당사 사용자에게 배포되기 전에 테스트할 수 있으며, 롤백할 수 있습니까?
15. 배포 후 제품을 어떻게 모니터링하며, 모니터링 결과를 당사와 공유합니까?
16. AI 관련 장애에 대한 귀사의 인시던트 대응 프로세스는 무엇이며, 당사에 대한 알림 약정은 무엇입니까?
17. 당사가 서비스를 종료할 경우, 당사의 데이터와 커스터마이제이션을 어떤 형식으로 어떻게 반출할 수 있습니까?

답변을 계약 조항으로 전환하기

설문지 답변은 표현입니다. 계약이 이를 의무로 만듭니다. M-25-22는 주제 템플릿을 제공하며, 민간 구매자는 큰 변경 없이 이를 조정할 수 있습니다.

• 성능 및 안전 약정. 테스트된 동작을 계약에 명시하되, 문서화된 정확도 및 안전 수준, 정기적 검토 일정, 결과가 이를 밑돌 경우의 조치를 포함합니다.
• 평가 권리. 독자적인 테스트 또는 독립적 제3자의 테스트 실시 권리를 예약하고, 공급업체로부터 접근권과 시간을 확보합니다.
• 데이터 이용 제한. 서면 동의 없이 입력값과 출력값으로 학습하는 것을 금지하고, 보유 기간을 필요한 범위로 제한하며, 하위 프로세서를 명시합니다.
• 변경 통지. 중대한 모델 변경에 대해 사전 통지를 요구하고, 본 배포 전 테스트 기간을 확보하며, 롤백 옵션을 제공합니다.
• 로깅 및 기록. 시스템이 필요한 로그를 생성하고 내보내도록 요구하며, 공급업체의 보유 기간을 설정합니다.
• 인시던트 협력. AI 인시던트에 대한 통지 기간을 설정하고, 당사가 보유한 보고 의무 충족을 지원할 의무를 명시합니다.
• 이동성. 데이터 및 모델 이동성, 지식 이전 및 투명한 라이선싱을 다루어 필요한 경우 서비스 종료가 가능하도록 합니다.

M-26-04는 유용한 작성 기법을 추가합니다: 기관이 특정 요구사항을 "계약의 적격성 및 지급에 중요한 것"으로 식별하도록 지시합니다. 안전 및 투명성 조항을 중요하게 만들면 이들이 실질적 효력을 가지게 됩니다. 이를 위반하는 것이 각주가 아닌 구제의 근거가 되기 때문입니다.

실사가 보통 실패하는 경우

대부분의 실패한 AI 공급업체 검토는 예측 가능한 몇 가지 방식 중 하나로 실패합니다.

설문지는 AI 질문이 덧붙여진 보안 양식입니다. AICPA 자신의 설명에 따르면 SOC 2 보고서는 보안, 가용성, 처리 무결성, 기밀성 또는 개인정보 보호와 관련된 서비스 조직의 통제에 대한 검토입니다. 이는 가치 있으나, 모델이 탈옥될 수 있는지 또는 얼마나 자주 사실을 만들어내는지와는 다른 질문에 답합니다. 정보 보안과 AI 동작을 별도 섹션으로 구분하고 별도의 증거를 제시하십시오.

모든 답변이 자체 보고입니다. 검토자는 양식이나 첨부된 정책을 확인할 방법이 없으므로, 구매자는 검증할 수 없는 주장을 수용하거나 독자적 테스트를 의뢰해야 합니다.

승인이 영구적인 것으로 취급됩니다. 구매 후 6개월이 지나 공급업체가 모델을 변경했으나 아무도 재검토하지 않습니다. M-25-22와 NIST AI RMF 모두 정확히 이 이유로 모니터링을 지속적인 것으로 취급합니다.

증거가 공급업체 간에 비교 불가능합니다. 세 공급업체가 자신의 테스트를 세 가지 다른 방식으로 설명하므로, 가격과 기능이 기본값으로 결정됩니다.

독립적인 검증 가능한 등급이 프로세스를 단축하는 이유

마지막 두 가지 문제가 비용이 많이 드는 문제입니다. AI 시스템이 표준 프레임워크에 대해 독립적인 당사자에 의해 평가되었을 때 구매자를 위해 세 가지가 변합니다.

첫째, 증거는 독립적입니다. RateAI는 시스템의 등급에 이해관계가 없으며 수수료는 결과가 아닌 평가 마일스톤에 연동됩니다. 시스템이 인증을 통과하지 못할 수 있으며, 통과하지 못한 경우 개발자는 상세한 조사 보고서와 개선 방안을 받으며, 문제가 해결된 후 평가에 다시 참여할 수 있습니다.

둘째, 증거는 비교 가능합니다. 모든 A.E.G.I.S.™ 평가는 동일한 일곱 가지 기둥을 채점하며, 채점 매개변수는 채점 기준 시점에 의해 고정되므로 평가가 시간이 지나도 비교 가능하게 유지됩니다. 인증된 시스템은 A(최대 안전성)부터 F(위험함)까지의 전체 안전 등급, 각 기둥별 등급, 그리고 A-5 Guardian부터 A-1 Unrestricted까지의 인증 심볼이 포함된 A.E.G.I.S.™ 스코어카드를 받습니다. 검토자는 한 곳에서 시스템의 강점과 주의가 필요한 부분을 확인할 수 있으며, 동일한 척도로 두 공급업체를 비교할 수 있습니다.

셋째, 증거는 검증 가능하고 현재입니다. 모든 프롬프트 사례, 검증자 투표 및 인증 결정은 SHA-256 해싱을 통해 일회성 감사 추적으로 연결되므로 기록을 변경하거나 소급 적용할 수 없습니다. 누구나 공개 Safety Registry에서 RateAI 인증을 로그인 없이 확인할 수 있으며, 현재 상태인지, 하향 조정되지 않았는지 확인할 수 있습니다. 인증에는 재인증 주기가 포함되어 있으며, 시스템의 실질적인 변경은 재평가를 촉발하므로 위의 변경 관리 문제에 직접 대응합니다.

등급은 실사를 대체하지 않습니다. 범위, 계약 조건, 데이터 흐름 및 사용 사례에 대한 적합성에 대한 답변이 여전히 필요하며, RateAI 인증은 법적 판단이 아닙니다: 규정 준수 작업을 지원하며, 규제 결정은 관련 당국에 남아 있습니다. RateAI의 Pro 및 Enterprise 티어에는 EU AI Act, NIST AI RMF 및 ISO 42001에 대한 규정 준수 매핑이 포함됩니다. 검증 가능한 등급이 하는 일은 위의 목록 중 5번에서 8번 증거 질문에 신뢰 대신 확인할 수 있는 것으로 답변하는 것입니다. 제3자 인증이 어떻게 작동하는지에 대한 더 깊이 있는 내용은 AI 안전 인증이 무엇인지와 어떻게 작동하는지를 참조하십시오.

실무적 실사 워크플로우

1. 사용 사례를 분류합니다. 시스템이 영향을 미치는 대상이 누구인지, 자체적으로 행동할 수 있는지, EU AI Act에서 고위험일 수 있는지 확인합니다. 더 높은 위험은 더 깊은 검토를 의미합니다.
2. 질문 목록을 일찍 보냅니다. RFP에 포함시켜 응답할 수 없는 공급업체가 데모에 시간을 투자하기 전에 탈락하도록 합니다.
3. 독립적인 증거를 확인합니다. 공급업체의 제품을 등록된다고 주장하는 모든 독립적인 레지스트리에서 조회하고, 등급, 날짜 및 버전이 구매하는 것과 일치하는지 확인합니다.
4. 남은 것을 테스트합니다. 독립적인 증거가 누락되었거나 사용 사례를 다루지 않는 경우, 공급업체가 본 적 없는 데이터에 대한 자체 평가를 실행하거나 의뢰합니다.
5. 조건을 협상합니다. 답변을 계약 의무로 변환합니다: 성능, 테스트 권리, 데이터 사용, 변경 공지, 로깅, 사고 및 이식성.
6. 모니터링 주기를 설정합니다. 성능을 검토할 빈도와 모델 변경 또는 보고된 사고와 같은 재검토를 촉발하는 것이 무엇인지 동의합니다.
7. 결정을 기록합니다. 증거, 채점 및 승인 이유를 유지합니다.

이 프로세스의 공급업체 측에 있다면, 동일한 목록이 구매자가 물어볼 것을 알려줍니다. 질문지가 도착하기 전에 독립적인 증거를 준비하면 이후의 모든 영업 주기를 단축합니다. RateAI의 인증 및 모니터링 티어는 계약이 어떻게 범위가 정해지는지 설명하며, 한 AI 에이전트에 대한 무료 안전 벤치마크를 시작점으로 제공합니다.

자주 묻는 질문

AI 공급업체 실사란 무엇입니까?

구매 전에 AI 공급업체의 시스템, 데이터 관행 및 통제를 확인하고, 그 후에도 이러한 확인을 최신으로 유지하는 프로세스입니다. 일반적인 소프트웨어 검토와 비교하면 환각, 탈옥 저항성 및 개인정보 유출과 같은 시스템의 동작 테스트를 추가합니다.

SOC 2 보고서만으로 AI 공급업체를 승인하기에 충분합니까?

일반적으로 단독으로는 충분하지 않습니다. SOC 2 보고서는 보안, 가용성, 처리 무결성, 기밀성 또는 개인정보 보호와 관련된 서비스 조직의 통제를 검토하므로 거짓 답변, 조작 및 출력을 통한 데이터 유출과 같은 AI 모델이 동작하는 방식에 대한 별도의 증거가 여전히 필요합니다.

EU AI Act는 AI를 구매하는 회사에 어떤 요구사항을 합니까?

고위험 AI 시스템을 사용하는 조직은 제26조에 따른 "배포자"이며, 시스템을 지침에 따라 사용하고, 유능한 인적 감독을 지정하고, 그 작동을 모니터링하고, 로그를 자신의 통제 하에 유지하며, 경우에 따라 영향받는 사람들에게 알려야 합니다. 이러한 고위험 규칙은 부속서 III 시스템의 경우 2027년 12월 2일, 부속서 I로 적용되는 제품에 포함된 AI의 경우 2028년 8월 2일부터 적용됩니다.

AI 구매에 포함해야 할 계약 조건은 무엇입니까?

최소한: 성능 및 안전 약정, 독립적인 테스트 권리, 학습에 데이터 사용 제한, 모델 변경의 사전 공지 및 테스트, 로그 접근, 사고 협력 및 이식성. OMB 메모 M-25-22는 미국 연방 AI 계약의 필수 주제로 대부분을 나열합니다.

독립적인 AI 안전 등급은 조달에 어떻게 도움이 됩니까?

자체 보고 주장을 제3자가 작성하고 검증 가능한 표준화된 결과로 대체합니다. A.E.G.I.S.™ 등급은 모든 평가 대상 시스템과 동일한 7개 기둥을 기준으로 시스템을 평가하므로, 공급업체를 비교하고 공개 안전 레지스트리에서 인증이 현재 유효한지 확인할 수 있습니다.

RateAI 인증이 AI 시스템의 법적 준수를 보장하나요?

어떤 인증도 그러한 판단을 내릴 수 없으며, 공식적인 규제 결정은 관련 당국에 남아 있습니다. RateAI 인증은 준수 작업을 지원하며, Pro 및 Enterprise 계층에는 EU AI Act, NIST AI RMF 및 ISO 42001에 대한 준수 매핑이 포함됩니다.

계약 체결 전에 공급업체 등급 확인

가장 빠른 실사 질문은 시스템이 이미 독립적으로 평가되었는지 여부입니다. RateAI 안전 레지스트리를 검색하여 인증된 AI 시스템이 A.E.G.I.S.™ 등급 및 인증 상태와 함께 어떻게 등재되어 있는지 확인하고, 공급업체에 해당 제품이 레지스트리에 등록되어 있는지 문의하십시오.