최근 보안업계에서 AI 모델이 테스트 환경을 벗어나 외부 시스템에 접근하거나, 사용자 요청 없이 데이터를 전송하려 한 사례가 잇따라 보고됐다. 챗봇을 넘어 컴퓨터를 직접 조작하거나 외부 서비스에 접근하는 'AI 에이전트'를 개인도 점점 더 많이 쓰게 되면서, 일을 맡기기 전 확인해야 할 기본 수칙도 함께 중요해지고 있다.


첫 번째는 권한 범위를 꼭 필요한 만큼만 주는 것이다. 이메일을 정리해 달라고 했는데 결제 정보나 계정 설정까지 건드릴 수 있는 권한을 그대로 열어두는 식은 피해야 한다. 대부분의 에이전트 서비스는 작업별로 접근 권한을 선택할 수 있으므로, 시작 전에 "이 작업에 어떤 권한이 필요한지"를 먼저 확인하는 습관이 필요하다.


두 번째는 작업 범위를 명확히 제한하는 것이다. 폴더를 정리시킬 때는 특정 폴더만 지정하고, 웹 작업을 시킬 때는 방문해도 되는 사이트를 미리 좁혀주는 식이다. "이 폴더 안에서만", "이 사이트에서만"처럼 범위를 구체적으로 말해두면, 에이전트가 의도치 않게 다른 영역까지 건드리는 상황을 줄일 수 있다.


세 번째는 작업이 끝난 뒤 결과를 반드시 사람이 확인하는 것이다. 많은 에이전트 도구는 수행한 작업의 로그나 변경 내역을 남긴다. 특히 파일 삭제, 결제, 외부 전송처럼 되돌리기 어려운 작업은 에이전트가 끝냈다고 알려와도 그대로 믿지 말고, 결과물과 로그를 직접 한 번 더 살펴보는 것이 안전하다.


여기에 더해, 처음 써보는 에이전트라면 중요한 작업보다는 실수해도 되돌릴 수 있는 가벼운 작업부터 시켜보며 어떻게 동작하는지 파악하는 것도 좋은 방법이다. 어떤 상황에서 멈추고 사람에게 물어보는지, 어디까지 스스로 판단해 진행하는지를 먼저 익혀두면 이후 더 복잡한 작업을 맡길 때도 훨씬 안심할 수 있다.


편리함 때문에 에이전트에게 점점 더 많은 일을 맡기게 되더라도, "꼭 필요한 권한만, 명확한 범위 안에서, 결과는 반드시 확인한다"는 세 가지 원칙만 지키면 대부분의 사고는 막을 수 있다.