기초 · 읽는 데 약 8분

AI 에이전트란? 대신 일해 주는 AI 쓸 때 주의할 점

요즘은 AI에게 '대신 예약해 줘', '메일 정리해 줘' 하고 일을 맡길 수 있게 됐어요. 이렇게 스스로 여러 단계를 거쳐 일을 처리하는 AI를 'AI 에이전트'라고 해요. 편리한 만큼 맡기기 전에 꼭 알아 둘 안전 수칙이 있어요.

AI 에이전트는 무엇일까요?

에이전트는 '대리인'이라는 뜻이에요. 경제협력개발기구(OECD)는 2026년 2월 낸 보고서에서 AI 에이전트를 어느 정도 스스로 주변 환경을 살피고 행동하며, 필요하면 도구를 써서 목표를 이루고 상황 변화에 맞춰 가는 시스템이라고 정리했어요.

예를 들어 '다음 주 금요일 저녁 6시에 네 명 식당 예약해 줘'라고 하면, 에이전트가 식당을 찾고, 빈자리를 확인하고, 예약 화면에 정보를 넣는 일까지 이어서 할 수 있어요. 사람이 하던 여러 번의 클릭을 대신하는 셈이에요.

챗봇과 무엇이 다를까요?

AI 챗봇은 주로 말로 답해 주고, 실제 행동은 사람이 해요. 에이전트는 메일, 일정, 쇼핑 계정, 파일 같은 곳에 연결돼 직접 행동해요. 그래서 실수했을 때 결과가 글 한 줄이 아니라 보낸 메일, 결제된 금액으로 남을 수 있어요.

OECD 보고서는 AI가 스스로 행동하는 정도를 단계로 나눠 설명해요. 가장 조심스러운 쪽은 AI가 제안만 하고 사람이 실행하는 방식이에요. 그다음은 AI가 실행을 제안하고 사람이 허락해야 진행하는 방식이에요. 처음 쓸 때는 이 두 단계 안에서 쓰는 게 안전해요.

숨은 지시에 속을 수 있어요

에이전트는 일하면서 누리집, 메일, 파일을 읽어요. 그런데 그 안에 공격자가 몰래 넣어 둔 지시가 있으면 에이전트가 그것을 내 지시로 착각할 수 있어요. 미국 국립표준기술연구소(NIST)는 2025년 1월 이를 '에이전트 하이재킹(가로채기)'이라고 소개했어요.

NIST가 든 예시에는 에이전트가 사용자의 파일을 낯선 사람에게 메일로 보내거나, 2단계 인증번호를 넘겨주게 만드는 공격이 있었어요. 시험한 한 AI 모델에서는 새로 고안한 공격을 썼을 때 공격 성공률이 11%에서 81%로 올라갔어요. 웹 보안 단체 OWASP도 이런 공격을 확실하게 막는 방법은 아직 알려지지 않았다고 설명해요.

권한은 필요한 만큼만 주세요

OWASP는 AI에게 일에 필요한 최소한의 권한만 주라고 권해요. 기능이 너무 많거나, 권한이 너무 넓거나, 사람 확인 없이 스스로 너무 많이 하게 두면 사고가 커진다고 설명해요.

OWASP가 든 예가 있어요. 받은 메일을 요약하라고 연결한 도구에 '보내기' 기능까지 있으면, 악성 메일 속 숨은 지시에 속아 중요한 메일을 공격자에게 넘길 수 있어요. 요약만 필요하다면 '읽기'만 허락하고, 메일 보내기는 사람이 직접 하도록 하면 이런 피해를 막을 수 있어요.

  • 연결 화면에서 요청하는 권한 목록을 끝까지 읽기
  • '읽기'로 충분하면 '쓰기·보내기·삭제'는 허락하지 않기
  • 다 쓴 연결과 권한은 바로 끊기

결제·송금·삭제는 사람이 마지막에 눌러요

OWASP는 메시지 보내기나 자료 삭제처럼 영향이 큰 행동은 실행 전에 사람이 확인하도록 하라고 권해요. 돈이 오가는 일은 더욱 그래요. 에이전트가 장바구니를 채우고 예약 화면을 채우더라도, '결제'와 '보내기' 단추는 내가 직접 확인하고 누르세요.

확인할 때는 받는 사람, 금액, 날짜, 상품을 하나씩 소리 내어 읽어 보세요. 카드 번호나 비밀번호, 인증번호를 에이전트에게 직접 알려 주지 마세요. 가능하면 결제가 일어날 때마다 휴대폰으로 알림이 오도록 설정해 두면 이상한 결제를 빨리 알아챌 수 있어요.

맡기기 전과 맡긴 뒤 점검하기

처음에는 틀려도 괜찮은 작은 일부터 맡겨 보세요. 일정 정리나 자료 찾기처럼 되돌리기 쉬운 일로 시작하고, 에이전트가 무엇을 했는지 작업 기록을 꼭 읽어 보세요. 내가 시키지 않은 행동이 있으면 바로 멈추고 연결을 끊으세요.

만약 내가 허락하지 않은 결제나 송금이 일어났다면 곧바로 카드사나 은행 고객센터에 연락해 결제 취소나 지급정지를 문의하세요. 사기가 의심되면 경찰(112)에 신고하고, 금융 피해 상담은 금융감독원(1332)에서 받을 수 있어요.

오늘부터 해 볼 것

  • 에이전트에게는 되돌리기 쉬운 작은 일부터 맡겨요.
  • 연결할 때 요청하는 권한 목록을 끝까지 읽어요.
  • '읽기'로 충분하면 보내기·삭제 권한은 주지 않아요.
  • 결제·송금·보내기 단추는 내가 직접 확인하고 눌러요.
  • 카드 결제 알림을 켜 두고 낯선 결제를 바로 확인해요.
  • 다 쓴 연결과 권한은 설정에서 끊어요.

읽은 내용을 글링코에게 가르쳐 줄까요?3분 수업을 풀면 글링코가 배우고 자라요.

「AI는 무엇일까」 수업 풀기

이 글에 나온 용어

자주 묻는 질문

AI 에이전트에게 카드 정보를 저장해 둬도 되나요?

편리하지만 위험도 커져요. 에이전트가 숨은 지시에 속으면 저장된 결제 수단이 쓰일 수 있어요. 결제는 매번 내가 직접 확인하는 방식으로 쓰고, 서비스에 결제 전 확인 기능이 있다면 꼭 켜 두세요.

에이전트가 잘못한 일은 누가 책임지나요?

상황과 서비스 약관에 따라 달라서 한마디로 말하기 어려워요. 쓰기 전에 약관에서 잘못된 결제나 실수가 생겼을 때의 처리 방법을 확인하세요. 피해가 생겼다면 서비스 고객센터와 카드사·은행에 바로 알리고, 필요하면 전문가와 상담하세요.

숨은 지시는 어떻게 알아챌 수 있나요?

사람 눈에는 안 보이게 숨겨 두는 경우가 많아서 직접 찾기는 어려워요. 그래서 권한을 줄이고, 중요한 행동 전에 확인 단계를 두는 것이 가장 현실적인 방법이에요. 에이전트가 갑자기 시키지 않은 일을 하려 하면 바로 멈추세요.

참고한 자료

함께 읽으면 좋은 글