직장인을 위한 AI 안전한 사용 지침과 필수 보안 설정

생성형AI, AI보안, 직장인AI, 데이터유출, 섀도IT, ChatGPT보안, 업무AI활용

AI를 쓰면 보안이 뚫린다고 생각하시나요? 저도 처음엔 그렇게 생각했습니다. 그런데 실제로 겪어보니 문제는 AI 자체가 아니라 '어떻게 쓰느냐'에 있었습니다. 입사 초기에 제가 직접 저지른 실수 하나가 그 사실을 뼈저리게 가르쳐 줬습니다.

데이터 유출, 실제로 일어납니다

일반적으로 AI 보안 문제는 해커가 시스템을 침투해야 발생한다고 알려져 있지만, 제 경험상 가장 흔한 경로는 사용자 본인입니다. 저는 팀장님의 급한 요청으로 시장 분석 보고서를 작성하던 중, 저희 회사가 추진 중이던 미공개 신규 사업 내용을 ChatGPT 프롬프트에 그대로 붙여 넣었습니다. 당시엔 '빨리 초안만 잡으면 되겠지'라는 생각뿐이었습니다.

다행히 사내 보안팀의 실시간 모니터링 시스템이 해당 입력을 잡아냈고, 사태는 거기서 멈췄습니다. 하지만 그날 이후 저는 생성형 AI의 학습 메커니즘을 제대로 공부하게 되었습니다. 생성형 AI는 기본 설정 상태에서 사용자가 입력한 프롬프트(prompt)를 모델 재학습 데이터로 활용할 수 있습니다. 여기서 프롬프트란 AI에게 전달되는 명령어 또는 질문 전체를 의미하며, 여기에 담긴 내용이 곧 AI의 학습 원료가 된다는 뜻입니다.

2023년 삼성전자 임직원이 반도체 관련 소스 코드를 ChatGPT에 입력했다가 외부 유출 위험에 노출된 사례는 이미 업계에서 유명한 경고 사례로 회자됩니다. 국내외를 막론하고, 기밀 데이터가 AI 입력창을 통해 빠져나가는 경로는 생각보다 단순합니다.

비식별화, 말은 쉽고 실천은 어렵습니다

비식별화(de-identification)란 개인이나 기업을 특정할 수 있는 정보를 제거하거나 변환하여 원래 데이터를 알아볼 수 없게 만드는 처리 방식을 말합니다. 이름, 전화번호, 계좌번호 같은 개인정보는 물론이고, 특정 프로젝트명이나 내부 코드명도 여기에 해당합니다.

솔직히 이건 예상 밖이었습니다. 처음에는 이름과 전화번호만 지우면 된다고 생각했는데, 실제로는 훨씬 세밀한 판단이 필요했습니다. 예를 들어 "A사 인수합병 검토 보고서"라는 문서 제목 자체가 이미 기밀입니다. 그 제목을 지우고 내용만 넣어도, 특정 시장 수치나 내부 전략 방향이 담겨 있다면 여전히 위험합니다.

저는 이 사건 이후로 AI에 입력하기 전에 다음 세 가지를 반드시 점검합니다.

• 고유명사(프로젝트명, 부서명, 거래처명)를 일반 명사로 대체했는가
• 미공개 수치(매출, 계약 금액 등)를 가상의 수치로 바꿨는가
• 내부 전략 방향이 드러나는 표현을 제거했는가

이 루틴을 지키면 AI를 활용하면서도 핵심 기밀은 사내에 보존할 수 있습니다. 제가 직접 써봤는데, 처음엔 번거롭게 느껴지다가 습관이 되니 오히려 보고서 구조를 먼저 정리하게 되는 부수적인 효과도 있었습니다.

개인정보보호위원회에 따르면 2023년 한 해 동안 접수된 개인정보 침해 신고 건수는 총 31만여 건에 달했으며, AI 서비스를 통한 정보 유출 관련 민원도 꾸준히 증가하는 추세입니다(출처: 개인정보보호위원회).

섀도IT, 금지가 답이 아닙니다

많은 기업이 AI 보안 문제에 대응하는 방식으로 '전면 차단'을 선택합니다. 하지만 제 경험상 이건 오히려 역효과를 낳는 경우가 많습니다.

섀도 IT(Shadow IT)란 기업의 공식 승인 없이 직원이 개인적으로 도입하여 사용하는 소프트웨어나 서비스를 뜻합니다. 쉽게 말해, 회사가 AI를 막아놓으면 직원들은 개인 스마트폰이나 집 PC를 통해 보안 설정이 전혀 된 챗GPT 개인 계정으로 업무 데이터를 처리하게 됩니다. 이 경우 기업은 어떤 데이터가 외부로 나갔는지 추적조차 할 수 없습니다.

가트너(Gartner) 리서치에 따르면 직원의 41%가 IT 부서의 승인 없이 업무용 소프트웨어를 사용한 경험이 있다고 답했습니다(출처: Gartner). 이 수치는 규제 강도가 높을수록 섀도 IT 발생률이 올라가는 역설적 상황을 잘 보여줍니다.

진짜 보안은 차단이 아니라 통제에서 옵니다. 기업이 엔터프라이즈(Enterprise) 버전의 AI 솔루션을 공식 도입하면, 입력 데이터가 모델 학습에 사용되지 않도록 계약 수준에서 보장받을 수 있고, 어떤 직원이 어떤 데이터를 입력했는지 감사 로그(audit log)도 남길 수 있습니다. 감사 로그란 시스템 내에서 발생한 모든 활동을 시간순으로 기록한 보안 추적 데이터를 말합니다.

결국 직원들이 '음지'에서 보안 없이 AI를 쓰게 만드는 정책이 가장 위험합니다. 안전하게 쓸 수 있는 공식 통로를 열어주고, 그 안에서 규칙을 지키도록 교육하는 것이 현실적인 방향입니다.

학습 거부 설정, 지금 당장 켜야 합니다

개인 계정으로 ChatGPT나 Claude를 업무에 쓰고 있다면, 옵트아웃(Opt-out) 설정부터 확인하시길 권합니다. 옵트아웃이란 데이터 활용에 대한 동의를 철회하는 행위로, 이 설정을 켜두면 사용자의 대화 내용이 AI 모델 재학습에 사용되지 않습니다.

ChatGPT 기준으로 설정 경로는 다음과 같습니다.

1. 우측 상단 프로필 아이콘 클릭
2. [Settings] → [Data Controls] 진입
3. [Improve the model for everyone] 항목을 Off로 전환

이 설정 하나만 바꿔도 입력한 대화가 학습 데이터로 넘어가는 것을 막을 수 있습니다. 대부분의 생성형 AI 서비스는 유사한 옵트아웃 메뉴를 제공하고 있으니, 사용 중인 서비스의 설정 메뉴를 한 번씩 점검해 보시길 바랍니다.

그리고 한 가지 더, AI가 생성한 결과물을 그대로 외부에 내보내는 것도 주의해야 합니다. 생성형 AI는 할루시네이션(hallucination) 현상이 발생할 수 있습니다. 할루시네이션이란 AI가 그럴듯하게 보이지만 실제로는 사실이 아닌 정보를 자신 있게 출력하는 현상을 말합니다. 제가 직접 써봤는데, 특히 법령 조항이나 통계 수치를 물어볼 때 정확해 보이는 가짜 출처를 제시하는 경우가 생각보다 자주 있었습니다. 팩트체크(fact-check)는 선택이 아니라 필수입니다.

AI는 쓸수록 업무 속도가 빨라지는 것이 사실입니다. 다만 그 속도가 보안 허점을 만드는 방향으로 이어지면 안 됩니다. 비식별화 습관, 옵트아웃 설정, 그리고 회사 차원의 공식 AI 도입이라는 세 가지 축이 맞물릴 때 AI는 비로소 안전한 업무 도구가 됩니다. 지금 당장 설정 창 하나만 열어보는 것부터 시작해 보시길 권합니다.