사람의 개입 없이 스스로 판단해 업무를 처리하는 인공지능(AI) 에이전트와 로봇 등 물리 환경에서 구동되는 피지컬 AI가 확산하고 있다. 이에 따라 기존 규칙 기반 보호체계만으로는 기업의 개인정보 유출을 막기 어렵다는 지적이 나왔다. 해커가 최초 침투 후 내부망으로 이동하는 데 걸리는 시간은 약 29분에 불과하다. 침투 이후 확산을 자동 차단하고 개인정보보호 강화 기술(PET, Privacy Enhancing Technology)을 결합하는 쪽으로 보안 체계를 전환해야 한다는 분석이다.

개인정보보호위원회(위원장 송경희)와 한국인터넷진흥원(KISA)은 2026년 11월 5일 서울 중구 호텔 프레지던트에서 '에이전트·피지컬 AI 시대, 개인정보 보호 기술과 안전활용 방안'을 주제로 제4기 개인정보 기술포럼 공개토론회를 열었다. 개인정보 기술포럼은 2022년 9월 제1기 출범 이후 산·학·연·관 협력을 이어왔다. 올해 4월 30일에는 예방·대응, PET 안전활용, 프라이버시 표준화 분과 등 전문가 67명으로 제4기가 출범했다.

첫 발제를 맡은 김진국 플레인비트 대표는 'AI가 바꾸는 사이버공격의 경제학과 개인정보보호 대응 전략'을 발표하며 사전 차단 위주 보안 모델의 한계를 짚었다. 뉴시스에 따르면 김 대표는 전 세계에 공개된 보안 취약점 가운데 실제 해킹 공격에 악용된 비율은 6.4% 수준이라고 밝혔다. 반면 공격자가 최초 침투에 성공한 뒤 내부 네트워크의 다른 시스템으로 이동하기까지 걸리는 시간은 약 29분에 그친다고 발표했다.

매일경제에 따르면 김 대표는 “기업의 보안은 침해를 100% 막을 수 없으며, PC나 서버가 침투당했으면 그 문제에서 끝나야 하고 다른 곳으로 전파되는 것을 차단해야 한다”고 말했다. 이어 “AI 공격의 속도를 사람이 분석하고 승인하는 방식으로는 따라가기 어렵기 때문에 계정 차단과 단말 격리 등 즉각적인 조치는 자동화해야 한다”고 강조했다. 그는 기업의 보안 투자를 유도하기 위해 사이버보험을 정책적으로 활용해야 한다는 제언도 내놓았다.

자율적으로 작동하는 AI 에이전트 자체가 개인정보 보호의 빈틈이 될 수 있다는 경고도 이어졌다. 'AI 에이전트가 대신 일하는 시대, 개인정보 보호의 빈틈과 대응방향'을 발제한 최대선 숭실대 교수는 기존 통제 방식의 한계를 지적했다. 매일경제와 한국소비자경제에 따르면 최 교수는 “사용자가 AI 에이전트에 구체적인 권한을 지정하더라도 실제 행동을 통제하는 데 한계가 발생하므로, AI 에이전트 자체가 개인정보 보호의 새로운 사각지대가 될 수 있다”고 짚었다.

현행 개인정보 보호법 제29조는 개인정보처리자에게 분실·도난·유출 등을 막기 위한 기술적·관리적·물리적 안전조치의무를 부과한다. 같은 법 제37조의2는 완전히 자동화된 시스템으로 한 결정이 정보주체의 권리나 의무에 중대한 영향을 미칠 때 거부권과 설명 요구권을 보장한다. 그러나 AI 에이전트가 위임받은 업무를 자율 처리하는 과정에서는 책임과 통제의 경계를 설정하기 어렵다. 이 때문에 가명·익명처리 기술, 합성데이터, 동형암호 등을 통칭하는 PET 적용과 국제표준 마련이 요구된다. 세 번째 발제자인 신현덕 한성대 교수는 한국소비자경제 등에 “급변하는 인공지능 에이전트 프라이버시 환경에 대응하기 위해 공통적인 국제표준 발전 방향과 정책적 가이드라인이 필요하다”고 제언했다.

이어진 패널토론에서는 의장인 장항배 중앙대 교수가 좌장을 맡았다. 신용무 개인정보위 과장, 오동환 KISA 단장, 김갑수 성균관대 교수, 최대선 교수, 김도엽 김·장 법률사무소 변호사, 김진국 대표가 패널로 참여해 PET의 역할과 향후 과제를 논의했다. 기업 실무에서는 AI 에이전트 연동 시 원본 데이터 노출을 줄이는 PET 도입과 계정 즉시 잠금·단말 격리 같은 침투 후 자동화 대응 체계 구축이 과제로 꼽혔다.

개인정보위는 지난 6월 9일 수립한 '개인정보 전주기 보호·활용 기술 R&D 및 표준화 로드맵(2026~2030)'(4대 분야 11대 핵심기술)을 이날 나온 제언을 바탕으로 구체화하고, 안전조치 기준 개선과 표준화 작업을 이어갈 계획이다. 송경희 위원장은 “인공지능 기술의 혁신을 지원하면서 신뢰 기반의 개인정보 보호체계를 구축하기 위해서는 사전예방 보호체계와 함께 개인정보보호 강화 기술의 발전이 뒷받침되어야 한다”며 “기술포럼의 활발한 활동을 통해 국민의 신뢰를 바탕으로 기업이 안전하게 데이터를 활용할 수 있도록 개인정보 보호 기술 생태계 조성에 힘쓰겠다”고 말했다.