01 / The inflection point

AI가
공격자가 되는 시대

탐색하고, 침투하고, 반복하는 공격의 루프에
AI가 들어오면 방어의 시간 단위가 달라집니다.

INCIDENT REF · OPENAI SUPPLY CHAIN REF · HUGGING FACE AUTONOMOUS LOOP

ATTACK_AGENT.LOG ACTIVE

00:00Recon surface mapped✓

00:03Weak path generated✓

00:05Payload variants × 128✓

00:08Retrying autonomously…●

“공격의 자동화 속도가
방어의 속도를 넘어선다면?”

02 / A new asymmetry

개인정보 보호의 새로운 문제

한 번 점검하는 방어와, 목표를 달성할 때까지 반복하는 Agent의 비대칭.

TRADITIONAL🧑‍💻

기존 수동 탐지

정기 점검

정해진 주기와 체크리스트

샘플 확인

알려진 위험 위주로 탐지

사후 대응

발견 → 보고 → 조치

RUN: quarterly_audit() 1×

AI AGENT🤖

자율·반복 탐지 구조

👁️관찰

🧠판단

⚡실행

↻ ↻ ↻

while(goal != achieved) { retry(); }

24/7 · 무피로 · 대량 병렬화

03 / Blind spots

그런데
기존 보안은?

개인정보는 DB 한 곳에 있지 않습니다.
수집부터 폐기까지, 시스템과 사람 사이를 흐릅니다.

SYSTEM WARNING

단일 솔루션으로는
전체 맥락을 볼 수 없다.

ENTERPRISE PRIVACY ECOSYSTEM 12 SURFACES

📱APP

☁️SaaS

🗄️DB

💬CS

📊BI

🔓SHADOW AI

🤝PARTNER

📧MAIL

🧾LOG

🧪DEV

👤HR

🧠MODEL

47DATA FLOWS

9POLICY OWNERS

?BLIND SPOTS

04 / The insight from the Rift

모든 맵을 볼 수 없다면,
중요한 길목을 본다.

게임의 Ward처럼 개인정보가 지나가는 핵심 지점에
지능형 감시 노드를 배치합니다.

🛡️

IntroducingPRIVACY WARD

05 / Machine vs machine

공격 AI vs 방어 AI

ATTACK AI

☠️

빠르게 약점을 찾는다

01표면 자동 탐색
02개인정보 경로 추론
03실패를 학습해 재시도

VS

AI DEFENSE MESH🛡️

👁️API WARD

👁️DB WARD

👁️AI WARD

🧠

CENTRAL PRIVACY AI전체 맥락을 연결하고 판단

06 / The missing context

하지만 기업의 AI가
내 개인정보 기준까지 알 수 있을까?

“법적으로 가능함”과 “내가 원하는 방식” 사이에는 간극이 있습니다.

SECURITY RISK🏢

기업의 기준

법규 · 공통 정책 · 시스템 위험

암호화 여부PASS

보유 기간30 DAYS

법적 동의VALID

PERSONAL PRIVACY RISK🙋

나의 기준

상황 · 관계 · 민감도 · 개인 선호

새벽 위치 수집NO

광고 학습 활용ASK ME

가족 데이터 결합BLOCK

GAP ─ 기업 정책만으로는 개인의 맥락을 완성할 수 없다.

07 / Personal intelligence layer

모든 사람에게 하나의 Privacy Agent

기업의 탐지 능력과 개인의 의사결정을 안전하게 연결합니다.

ENTERPRISE ZONE

👁️API

👁️DATA

👁️MODEL

CENTRAL AI위험 신호 통합

CONSENT API

My Privacy, My Rules

Personal Privacy Agent

선호 학습즉시 알림대리 협상

08 / Interactive prototype

새로운 요청을
나의 규칙으로.

경고를 확인하고 직접 차단해 보세요.
대화로 다음 요청부터 적용할 규칙도 만들 수 있습니다.

☝️

LIVE INTERACTION오른쪽 프로토타입의 버튼을 눌러보세요.

9:41PRIVACY WARD ●

👁️

새로운 개인정보 요청

방금 전 · Shopping AI

HIGH RISK⚠️

위치 + 구매이력 결합

맞춤 광고 생성을 위해 최근 30일의 위치 기록과 구매 내역을 결합하려 합니다.

목적광고 프로파일링

보관180일

✓ 요청이 차단되었습니다.

9:42PRIVATE CHAT 🔒

방금 요청과 비슷한 광고 목적의 데이터 결합을 앞으로 어떻게 할까요?

RULE GENERATED

IF purpose == "ads"
&& data.has("location")
THEN action = BLOCK

✓나의 Privacy Rule에 저장됨

09 / Safety by separation

현실성: AI가 공격받으면?

AI에게 직접 권한을 주지 않습니다. 판단과 실행 사이에 결정론적 안전장치를 둡니다.

🧠

Layer 01

AI 판단

맥락 해석 · 위험 점수
권고안 생성

NO EXECUTION KEY

→PROPOSAL

⚖️

Layer 02

Policy Engine

서명 검증 · 권한 범위
하드 룰 적용

DETERMINISTIC

→VERIFIED

🔐

Layer 03

제한 실행

최소 권한 · 감사 로그
즉시 롤백

AUDITABLE

🚫

AI가 오염되어도 임의 실행 불가

Policy Engine이 사용자 동의와 사전 정의된 권한을 벗어난 행동을 차단합니다.

10 / The vision

☠️AI ATTACK

VS

🛡️AI DEFENSE

보이지 않는 위험을
먼저 보는 AI.

기업의 Privacy Wards와 개인의 Privacy Agent가 연결될 때,
공격보다 빠른 개인정보 방어망이 완성됩니다.

SEE FIRST. DECIDE YOURSELF. PRIVACY WARD

AI가공격자가 되는 시대