NIST가 2026년 5월 5일 U.S. Center for AI Standards and Innovation, 즉 CAISI의 새 협약을 발표했다. 대상은 Google DeepMind, Microsoft, xAI다. 협약의 핵심은 frontier AI 모델을 공개하기 전후로 국가안보 관련 평가와 연구를 더 체계적으로 진행하겠다는 것이다.

이번 발표는 새 모델이 나왔다는 뉴스가 아니다. 오히려 "강한 모델을 출시하기 전에 누가, 어떤 위험을, 어느 정도까지 확인해야 하는가"라는 운영 문제에 가깝다. DW AI Lab 관점에서는 AI 성능 경쟁의 판단 기준이 벤치마크 점수에서 배포 전 검증 체계까지 넓어지는 신호로 볼 만하다.

한눈에 보기

  • 발표 내용: CAISI가 Google DeepMind, Microsoft, xAI와 frontier AI 국가안보 테스트 협약을 맺었다.
  • 협력 범위: 배포 전 평가, 배포 후 평가, targeted research, AI security 개선 연구가 포함된다.
  • 기존 맥락: NIST는 OpenAI와 Anthropic의 기존 협약도 CAISI 지침과 미국 AI Action Plan에 맞춰 재협상됐다고 밝혔다.
  • 주의할 점: 특정 모델명, 평가 방법, 테스트 결과는 공개되지 않았다.
  • 한 줄 결론: frontier AI 경쟁은 "얼마나 강한가"에서 "배포 전에 어떤 검증을 거쳤나"까지 확장되고 있다.

CAISI frontier AI 사전평가 협약 대표 이미지

이번 협약의 핵심

NIST 발표에서 가장 중요한 문장은 CAISI가 frontier AI capabilities를 더 잘 평가하고 AI security 수준을 높이기 위해 pre-deployment evaluations와 targeted research를 수행한다는 부분이다. 쉽게 말하면 강한 모델이 공개되기 전에 정부 평가 역량을 붙여보겠다는 뜻이다.

NIST는 CAISI의 협약이 모델이 공개되기 전 정부 평가를 가능하게 하고, 공개 후 평가와 다른 연구도 지원한다고 설명했다. 또 CAISI가 이미 40건 이상의 평가를 완료했고, 그중에는 아직 공개되지 않은 state-of-the-art 모델도 포함된다고 밝혔다.

중요한 세부사항도 있다. 국가안보 관련 능력과 위험을 제대로 보기 위해, 개발사가 safeguard가 줄어들거나 제거된 모델을 CAISI에 제공하는 경우가 있다고 NIST는 설명했다. 제품 사용자에게 노출되는 안전장치가 켜진 모델만 보는 것이 아니라, 더 직접적으로 위험 능력을 확인하는 평가가 필요하다는 의미다.

왜 지금 중요한가

frontier AI 모델은 일반 제품 업데이트와 다르다. 성능이 올라갈수록 사이버 공격 자동화, 생물학 또는 화학 관련 오용, 정보 조작, 자율 에이전트 행동 같은 고위험 영역과 연결될 가능성이 커진다. 그래서 단순히 "벤치마크 1위"라는 말만으로는 출시 판단을 설명하기 어렵다.

이번 협약은 그 빈틈을 줄이려는 시도다. 모델을 만든 회사가 내부 안전팀만으로 판단하고, 문제가 생긴 뒤 정부가 대응하는 구조보다 배포 전 단계에서 평가 접점을 만드는 쪽에 가깝다.

다만 과하게 해석하면 안 된다. 이 발표만으로 모든 frontier AI 모델이 법적으로 사전 승인제를 거친다고 말할 수는 없다. NIST가 공개한 범위는 협약과 평가 협력의 확대다. 실제 모델별 평가 방식, 결과, 공개 수준은 아직 제한적으로만 알 수 있다.

CAISI 협약이 바꾸는 frontier AI 평가 흐름

참여 기업이 늘었다

새 협약 대상은 Google DeepMind, Microsoft, xAI다. 여기에 OpenAI와 Anthropic의 기존 협약 업데이트까지 더하면, 주요 미국 frontier AI 기업 다수가 CAISI와 연결되는 그림이 된다.

이 변화는 업계 경쟁의 질문을 바꾼다.

  • 어떤 회사가 더 강한 모델을 냈나
  • 그 모델은 어떤 고위험 능력 평가를 거쳤나
  • 출시 전후 평가 결과가 제품 정책에 어떻게 반영됐나
  • 기업 내부 평가와 정부 평가의 역할은 어떻게 나뉘나

앞으로 AI 모델 발표를 볼 때도 이 질문이 중요해질 가능성이 있다. 성능표와 데모만 보고 판단하기보다, 배포 전 검증 체계와 위험 공개 범위를 함께 봐야 한다.

Microsoft가 보여준 국제 평가 맥락

Microsoft는 같은 날 공식 블로그에서 미국 CAISI와 영국 AI Security Institute와의 새 협약을 공개했다. Microsoft는 frontier models 테스트, safeguards 평가, 국가안보와 대규모 공공 안전 위험 완화를 위한 협력이라고 설명했다.

이 지점은 중요하다. frontier AI 평가는 한 회사의 내부 프로세스나 한 국가 기관의 단독 업무로 끝나기 어렵다. 모델은 글로벌하게 배포되고, 위험도 국경을 넘는다. 그래서 미국 CAISI와 영국 AISI 같은 기관이 평가 방법과 운영 경험을 공유하는 구조가 더 중요해질 수 있다.

물론 Microsoft 블로그도 세부 평가 결과나 모델별 조건을 공개한 글은 아니다. 따라서 구체적 성능이나 특정 모델의 안전성을 단정할 근거로 쓰면 안 된다. 이 발표에서 확인 가능한 것은 "협력 구조가 확대되고 있다"는 점이다.

사용자와 제품팀에게 주는 의미

일반 사용자에게 당장 새 버튼이나 기능이 보이진 않을 수 있다. 하지만 장기적으로는 "이 모델이 얼마나 똑똑한가"만큼 "어떤 위험 평가를 거쳤나"가 신뢰 판단의 일부가 될 가능성이 있다.

개발자와 제품팀에는 더 실무적인 의미가 있다. 강한 모델을 제품에 붙이는 팀이라면 모델 선택, 접근 권한, 로그 관리, 위험 시나리오 테스트, 사고 대응 문서가 더 중요해진다. frontier 모델을 직접 만들지 않더라도, 그 모델을 고객 업무에 연결하는 순간 평가 책임의 일부를 떠안게 된다.

특히 보안, 국방, 공공, 금융, 의료처럼 실패 비용이 큰 시장에서는 "모델이 잘 된다"보다 "어디까지 검증했고 어디부터는 제한하는가"를 설명할 수 있어야 한다. 이번 CAISI 발표는 그 설명 책임이 더 커질 수 있다는 신호다.

CAISI 사전평가 협약 요약 카드

좋은 점

  • Google DeepMind, Microsoft, xAI가 CAISI의 frontier AI 평가 협력망에 추가됐다.
  • OpenAI, Anthropic의 기존 협약도 업데이트됐다는 점에서 일회성 발표보다 넓은 흐름으로 볼 수 있다.
  • 배포 전 평가와 배포 후 평가를 함께 언급해 출시 전후 리스크 관리를 연결했다.
  • safeguard가 줄어든 모델 평가를 언급해 제품 표면만 보는 평가보다 더 직접적인 위험 평가가 필요하다는 점을 드러냈다.
  • TRAINS Taskforce와 classified environments를 언급해 국가안보 평가의 운영 구조도 일부 확인됐다.

주의할 점

이번 발표는 중요한 방향 전환이지만, 공개 정보만으로 말할 수 있는 범위는 분명히 제한된다.

  • 특정 모델명은 공개되지 않았다.
  • 평가 방법론과 테스트 결과도 공개되지 않았다.
  • 모든 모델 출시가 의무 사전 승인 대상이라고 단정할 수 없다.
  • 기업별 협약 범위가 완전히 같은지도 확인되지 않았다.
  • Axios 보도는 정책 맥락을 이해하는 보조 자료로 유용하지만, 세부 사실 판단은 NIST와 기업 공식 발표를 우선해야 한다.

결론

CAISI 사전평가 협약은 frontier AI 경쟁의 무게중심이 조금 이동하고 있다는 신호다. 지금까지 AI 모델 뉴스는 대체로 성능, 속도, 가격, 데모에 집중됐다. 이제는 강한 모델이 배포되기 전에 어떤 위험 평가를 거쳤고, 정부 평가 기관과 어떤 접점을 만들었는지도 함께 봐야 한다.

아직은 세부 평가 결과를 말할 단계가 아니다. 하지만 방향은 분명하다. frontier AI 모델은 앞으로 "얼마나 강한가"뿐 아니라 "배포 전에 어떤 검증 체계를 통과했나"로도 평가받게 될 가능성이 크다.

한 줄 평: "CAISI 협약은 frontier AI 경쟁이 성능 발표에서 출시 전 검증과 책임 구조로 확장되고 있다는 신호다."

참고 출처