네이버는 AI 위험을 110개로 쪼갠다, 내 업무 프롬프트 자가점검 5단계로 바꾸는 법

네이버의 110개 분류 체계는 어떻게 작동하나?

단순 차단 필터가 아니라 3단 구조다. N-ARTI가 위험을 110개 항목으로 식별하고, N-ASET이 답변을 유해성·사용성 두 축으로 평가하며, CHEC 2.0이 서비스의 설계부터 운영까지 전 과정을 점검한다. 여기에 AI 사용 사실의 표시·고지(라벨링)가 병행된다.

가장 배울 점은 "110개"라는 해상도 자체다. "위험한 콘텐츠를 막자"는 방침은 누구나 말할 수 있지만, 그것을 110개의 구체적 항목으로 쪼개는 순간 점검이 가능한 업무가 된다. 막연한 원칙과 실행 가능한 체계의 차이는 항목화에 있다. 이것이 이 리포트가 일반 직장인에게 주는 첫 번째 교훈이다.

왜 '유해성'만 거르지 않고 '사용성'을 함께 재나?

위험한 답을 다 해주는 것도 실패지만, 안전을 이유로 필요한 답까지 다 거절하는 것도 실패이기 때문이다. N-ASET은 위험 질문에 대한 거부가 서비스 사용성을 해치지 않는지, 필요할 때 면책 문구나 전문가 안내를 제공하는지까지 본다.

이 양방향 설계는 우연이 아니라 업계 표준으로 수렴 중인 원칙이다. Anthropic이 웰빙 평가 그랜트에서 요구한 5가지 요건에도 "과잉 순응(overcompliance)과 과잉 거부(overrefusal)를 모두 테스트하라"가 명시되어 있다. 태평양 양쪽의 AI 기업이 같은 결론에 도달한 것이다. 안전은 브레이크가 아니라 균형이다. 개인의 AI 활용에서도 똑같다. 리스크가 무서워 AI를 안 쓰는 것은 "과잉 거부"라는 이름의 또 다른 실패다.

안전 필터의 완성형은 "얼마나 많이 막았나"가 아니라 "막을 것을 막고, 답할 것에 답했나"다. 네이버가 유해성 옆에 사용성 축을 둔 이유다.

이 원리를 내 업무 프롬프트 점검표로 바꾸면?: 자가점검 5단계

N-ARTI(위험 식별)·N-ASET(이중 평가)·CHEC(전 과정 점검)의 구조를 개인 업무 스케일로 옮기면 5단계가 된다. ①위험 식별 ②유해성 점검 ③사용성 점검 ④고지·표시 ⑤전 과정 습관화. AI 산출물을 외부로 보내기 전 1분 점검용이다.

1단계: 위험 식별: 이 산출물은 어떤 리스크에 닿아 있나

네이버가 법률·사회·산업 세 갈래로 위험을 분류했듯, 내 산출물도 세 질문으로 스캔한다. 법률(개인정보·저작권·계약 관련 내용이 들어 있나? 사회)특정 집단에 대한 일반화·차별적 표현이 섞였나? 산업: 회사 기밀, 고객 정보, 미공개 수치가 포함됐나? 셋 중 하나라도 걸리면 그 부분은 "AI 초안"이 아니라 "검토 대상"으로 등급이 바뀐다.

2단계: 유해성 점검: 사실 왜곡과 위험 표현

수치·인명·날짜·인용은 원문과 대조했나? 단정적으로 쓰인 문장 중 실제로는 추정인 것이 있나? 외부로 나가는 문서라면 이 단계가 환각 사고의 마지막 방어선이다.

3단계: 사용성 점검: 과잉 방어로 알맹이가 빠지지 않았나

많이들 건너뛰는 단계다. AI가 민감한 부분을 두루뭉술하게 회피해서 문서의 핵심 판단이 비어 있지 않나? "다양한 요인을 고려해야 합니다" 류의 안전한 공백이 실무 문서에서는 오히려 결함이다. 빠진 판단은 내가 채워 넣는다. 그것이 사람의 역할이다.

4단계: 고지·표시: 밝힐 것을 밝혔나

네이버가 날씨 서비스에까지 AI 사용 사실을 표시하듯, 조직 문서에서도 필요한 곳에는 "AI 초안 기반, OO 검토" 같은 이력을 남긴다. 특히 대외 제출물·계약 관련 문서는 회사의 AI 사용 정책 확인이 먼저다. 숨긴 AI 사용이 발각되는 것이 AI 사용 자체보다 큰 신뢰 비용을 만든다.

5단계: 전 과정 습관화: 보내기 전이 아니라 시작할 때부터

CHEC 2.0이 설계 단계부터 점검하듯, 위 점검을 산출물 완성 후 한 번이 아니라 시작 시점(민감 데이터를 입력해도 되는가)부터 적용한다. 프롬프트에 넣는 순간 이미 리스크는 발생한다. 점검의 절반은 입력 단계에 있다.

조직 차원에서는 무엇을 가져갈 것인가?

네이버 리포트의 조직적 교훈은 하나다. 안전 기준을 "가이드라인 문서"가 아니라 "항목화된 점검 체계"로 만들라. 110개까지는 필요 없다. 우리 팀의 위험 10개를 항목으로 쓰는 것부터가 시작이다.

순서는 이렇다. 최근 6개월간 팀에서 실제 있었던 AI 관련 아찔한 순간들을 수집하고(사례 기반: 네이버도 법률·사회·산업 "사례"에서 출발했다), 그것을 점검 가능한 문장으로 항목화하고, 산출물 유형별로 필수 점검 항목을 매핑한다. 점검량이 많아지면 검증 에이전트로 자동화하는 것이 다음 단계다. 네이버의 N-ASET이 정확히 그 역할을 하는 사내 도구다. 참고로 이코노미사이언스가 지적했듯 네이버 리포트에도 아직 정량 성적표(벤치마크 수치)는 없다. 체계 공개가 1단계, 성적 공개가 2단계: 조직의 성숙 순서도 같다.