본문으로 건너뛰기

NIST AI 600-1(Generative AI Profile)

← 용어 사전

한 줄 정의​

NIST AI 600-1은 NIST AI RMF를 생성형 AI(Generative AI)에 맞게 적용할 수 있도록 정리한 프로파일(profile) 문서다.

왜 중요한가(실무)​

AI RMF가 “AI 일반”의 위험 관리라면, 생성형 AI는 다음 위험이 실무에서 훨씬 두드러진다.

  • 환각/사실 오류
  • 프롬프트 인젝션/간접 인젝션
  • 민감정보 노출(로그 포함)
  • 출력 처리(코드/메일/정책 문서)

AI 600-1은 이런 실무 이슈를 AI RMF의 흐름(Govern-Map-Measure-Manage)으로 연결해준다.

실무 적용 포인트​

  • 생성형 AI 사용 사례는 “대외 영향”이 있는지 먼저 분류한다(승인 게이트)
  • 평가(Eval)에는 정확도뿐 아니라 “유해 출력/민감정보/정책 위반”을 포함한다
  • 로그/감사 체계를 운영해 반복 오류를 개선한다

더 읽기​