요약
- OpenAI가 ‘모델 스펙(Model Spec)’이라는 공개 문서로, AI가 어떤 원칙으로 행동해야 하는지 틀을 설명했습니다.
- 이 문서는 ‘무엇을 해도 되는지/안 되는지’뿐 아니라, 지시가 충돌할 때 우선순위를 어떻게 정하는지(체인 오브 커맨드) 같은 운영 원칙을 담습니다.
- 같은 흐름에서 OpenAI는 안전·남용(Abuse) 위험을 제보받는 ‘Safety Bug Bounty’도 공개했습니다. 사용자 입장에서는 “내가 AI를 쓸 때 무엇을 조심해야 하는지”가 더 명확해집니다.
1) ‘모델 스펙’이 뭐길래 뉴스가 되나
우리가 전자제품을 살 때도 설명서를 봅니다. 그런데 AI는 더 복잡합니다. 같은 질문이라도 상황(업무/학습/상담)과 제약(개인정보/보안/안전)에 따라 “어떤 답이 적절한지”가 달라지기 때문이죠.
OpenAI는 이런 기준을 Model Spec이라는 형태로 공개하고, 이것이 모델이 따라야 할 공식적인 행동 프레임워크라고 설명했습니다. 핵심은 “AI가 마음대로 판단해 굴러가도록”이 아니라, 사람들이 읽고 토론할 수 있게 의도된 행동을 문서로 드러낸다는 점입니다.
2) “지시가 충돌하면?”을 정하는 ‘체인 오브 커맨드’
실전에서 자주 생기는 문제가 이거예요.
- 사용자는 “이 파일 내용을 요약해줘”라고 하고
- 회사 규정은 “외부로 유출 금지”라고 하고
- 앱/서비스는 “이런 종류의 정보는 저장/공유 금지” 같은 정책이 있고
모델 스펙은 이런 충돌을 풀기 위해 어떤 지시가 우선인지를 정하는 체계를 설명합니다. 사용자는 이 덕분에 “왜 어떤 요청은 거절됐는지”를 더 이해할 수 있고, 개발자는 제품 설계를 더 예측 가능하게 만들 수 있습니다.
3) 내 일상에는 어떻게 도움이 되나 (비유로 보기)
모델 스펙이 지향하는 건, AI가 “눈치로” 움직이기보다 정해진 차선과 신호를 가능한 공개적으로 따라가게 하는 것입니다.
예를 들어:
- 사진/문서 요약: “요약해줘”라고만 하지 말고, ‘공유 가능한 범위’(예: 개인식별정보 제거)와 ‘목적’(회의록용/개인 정리용)을 같이 주면 원하는 답에 더 가까워집니다.
- 가계부/재테크: 계좌번호·주민번호·OTP 같은 민감정보를 그대로 붙여 넣지 않고, 금액·항목·패턴처럼 분석에 필요한 정보만 익명화해 주면 위험을 줄이면서도 조언 품질은 유지할 수 있습니다.
- 아이들 학습: 미성년자 관련 추가 보호 원칙이 있음을 명시하고 있어, “무조건 막는다/무조건 된다”가 아니라 안전 쪽으로 기본값을 잡는 구조가 중요해집니다.
4) ‘Safety Bug Bounty’가 의미하는 것: 해킹만이 아니라 ‘남용’도 신고 대상
이번에 OpenAI는 기존의 보안 취약점 제보(Security Bug Bounty)와 별도로, AI 안전·남용 위험을 제보하는 Safety Bug Bounty를 공개했습니다. 흥미로운 점은 “전통적인 보안 취약점”이 아니더라도, 실질적인 피해로 이어질 수 있는 남용·안전 문제를 다룬다는 설명입니다.
예를 들어 글에서 언급된 범주에는 제3자 프롬프트 인젝션이나 데이터 유출(exfiltration)처럼, ‘에이전트(브라우저/자동 실행형 기능)’가 공격자 텍스트에 휘둘려 원치 않는 행동을 하게 되는 위험이 포함됩니다.
일반 사용자 관점에서 번역하면: “AI가 똑똑해질수록, AI가 읽는 텍스트(메일, 웹페이지, 문서)에 악성 지시가 섞일 수 있다”는 얘기입니다. 그래서 앞으로는 ‘클릭하지 마세요’뿐 아니라 ‘AI에게도 클릭(실행) 권한을 함부로 주지 마세요’가 새 상식이 될 가능성이 큽니다.
5) 오늘부터 쓸 수 있는 5줄 체크리스트
- 민감정보는 원문 그대로 넣지 않기(OTP/계좌번호/주민번호/정확한 주소 등).
- 목적을 한 문장으로 먼저 적기(“가계부 분류 규칙을 만들고 싶어”처럼).
- 출력 형식을 지정(표/요약 3줄/행동 항목 5개 등).
- 자동 실행(에이전트/브라우저 작업)은 단계별 확인(‘먼저 계획만’ → ‘승인 후 실행’).
- 모르는 링크·파일·문서를 AI에 바로 맡기지 않기(프롬프트 인젝션 가능성).
한계/주의
- 모델 스펙은 ‘현재 완벽하게 그렇게 동작한다’는 보증이 아니라, OpenAI가 말하는 목표/기준에 가깝다고 설명됩니다. 현실 동작은 제품/버전/설정에 따라 달라질 수 있습니다.
- 안전 제보 프로그램이 있어도, 사용자의 기본 위생(민감정보 최소화, 권한 최소화)이 가장 큰 방어선입니다.
출처
- OpenAI — Inside our approach to the Model Spec: https://openai.com/index/our-approach-to-the-model-spec/
- OpenAI — Introducing the OpenAI Safety Bug Bounty program: https://openai.com/index/safety-bug-bounty/
- OpenAI — Coordinated vulnerability disclosure policy: https://openai.com/policies/coordinated-vulnerability-disclosure-policy/
이미지 출처: Wikimedia Commons: File:Research topics in Business-applied Artificial Intelligence.png · License: CC BY-SA 4.0 · https://creativecommons.org/licenses/by-sa/4.0