AI 에이전트를 업무에 연결하다 보면 자연스럽게 이런 생각이 든다.
“여기까지 자동으로 처리하게 만들었으면 마지막 단계까지 알아서 하면 더 편하지 않을까?”
실제로 AI 에이전트는 정보를 검색하고, 문서를 작성하고, 데이터를 분류하는 것뿐 아니라 외부 도구를 사용해 실제 행동까지 할 수 있다.
문제는 ‘할 수 있는 것’과 ‘혼자 해도 되는 것’은 다르다는 점이다.
자동화의 핵심은 모든 일을 AI에게 맡기는 것이 아니라, 사람이 반드시 확인해야 하는 지점을 정확하게 남겨두는 것이다.
1. AI에게 맡겨도 비교적 안전한 업무
가장 먼저 구분해야 할 것은 결과가 틀렸을 때 발생하는 피해가 얼마나 큰가이다.
예를 들어 다음과 같은 업무는 상대적으로 자동화하기 쉽다.
| 업무 | AI 단독 처리 |
|---|---|
| 웹에서 정보 검색 | 가능 |
| 문서 내용 요약 | 가능 |
| 회의 내용 정리 | 가능 |
| 이메일 초안 작성 | 가능 |
| 자료 분류 | 가능 |
| 아이디어 정리 | 가능 |
| 내부 데이터 분석 | 조건부 가능 |
이런 작업들은 AI가 실수하더라도 사람이 결과를 확인하고 수정할 수 있다.
즉, 결과가 마음에 들지 않으면 다시 만들면 되는 업무다.
2. 반대로 사람이 승인해야 하는 업무
문제는 AI가 실제 세계에 영향을 주는 행동을 시작할 때부터 커진다.
예를 들어 AI가 작성한 이메일 초안은 자동으로 만들게 해도 괜찮지만, 그 이메일을 고객에게 실제로 발송하는 것은 다른 문제다.
마찬가지로 상품 정보를 분석하는 것과 가격을 실제로 변경하는 것도 다르다.
다음과 같은 작업은 사람의 승인을 넣는 것이 안전하다.
- 고객에게 실제 이메일이나 메시지를 발송
- 웹사이트에 게시물을 공개
- 중요한 데이터를 수정
- 파일을 삭제하거나 이동
- 주문이나 환불을 처리
- 결제 또는 금전과 관련된 작업
- 광고 예산이나 캠페인을 변경
- 계정의 중요한 설정을 변경
OpenAI 역시 에이전트 설계에서 민감하거나 되돌리기 어려운 작업에는 사람의 감독이나 승인을 두는 방식을 중요한 안전장치로 설명하고 있다.
3. 가장 실용적인 기준은 ‘되돌릴 수 있는가?’
자동화 여부를 결정할 때 내가 가장 중요하게 보는 기준은 의외로 간단하다.
“AI가 실수했을 때 쉽게 되돌릴 수 있는가?”
예를 들어 블로그 글의 제목을 잘못 만들었다면 수정하면 된다.
하지만 잘못된 글을 자동으로 발행했다면 이미 외부에 공개된 상태가 된다.
고객에게 잘못된 이메일을 보냈다면 단순히 수정 버튼 하나로 되돌릴 수 없다.
결제나 삭제처럼 되돌리기 어려운 작업은 더욱 신중해야 한다.
그래서 자동화 설계를 할 때 다음처럼 나눠볼 수 있다.
| 상황 | 권장 방식 |
|---|---|
| 단순 조회 | AI 자동 처리 |
| 정보 정리·분류 | AI 자동 처리 |
| 초안 작성 | AI 자동 처리 |
| 내부 데이터 수정 | 제한적으로 자동화 |
| 외부 공개 | 사람 승인 |
| 고객에게 메시지 발송 | 사람 승인 |
| 삭제·결제 | 별도 승인 |
| 중요한 의사결정 | 사람 최종 판단 |
4. ‘사람 승인’은 자동화의 실패가 아니다
처음 자동화를 만들 때는 사람의 확인 과정이 들어가면 자동화가 덜 된 것처럼 느껴질 수 있다.
하지만 실제로는 반대다.
예를 들어 다음과 같은 구조를 생각해볼 수 있다.
AI가 자료를 검색한다.
→ 내용을 분석한다.
→ 결과를 작성한다.
→ 사람이 확인한다.
→ 승인하면 AI가 최종 발송한다.
이 경우 사람이 하는 일은 전체 작업의 10~20% 정도로 줄어들 수 있다.
사람은 반복적인 검색과 작성에서 벗어나 최종 판단만 담당하게 된다.
OpenAI의 에이전트 가이드에서도 실제 운영 초기에는 사람이 개입할 수 있는 구조를 마련하고, 실패가 반복되거나 위험도가 높은 행동에서는 사람에게 넘기는 방식을 권장한다.
5. 자동화는 ‘전부 자동’보다 ‘승인 지점’을 설계하는 것이 중요하다
결국 좋은 AI 자동화는 사람이 사라지는 시스템이 아니다.
오히려 AI가 대부분의 반복 작업을 처리하고, 사람이 가장 중요한 순간에만 개입하는 구조에 가깝다.
내가 자동화 구조를 만든다면 다음 순서로 판단할 것 같다.
- AI가 읽고 분석하는 단계는 최대한 자동화
- 초안이나 결과물을 만드는 단계도 자동화
- 외부에 영향을 주는 행동은 별도로 구분
- 되돌리기 어려운 행동에는 승인 단계 추가
- 금전·삭제·중요 설정 변경은 더욱 엄격하게 제한
- 실제 사용 후 문제가 발생한 지점을 다시 검토
특히 AI 에이전트는 외부 정보를 읽고 행동할 수 있기 때문에, 단순히 “AI에게 좋은 프롬프트를 주면 된다”는 방식만으로는 충분하지 않다. 외부 콘텐츠에 포함된 악의적인 지시가 에이전트의 행동을 유도할 수 있는 프롬프트 인젝션 문제도 있기 때문이다.
결국 중요한 것은 AI에게 얼마나 많은 일을 시킬 수 있느냐가 아니다.
“어디까지 맡기고, 어디에서 사람이 멈춰 세울 것인가?”
이 기준을 먼저 정한 뒤 자동화를 만드는 것이 훨씬 현실적인 접근이다.
AI 에이전트 시대에는 사람의 역할이 없어지는 것이 아니라, 단순 작업에서 벗어나 중요한 판단을 담당하는 방향으로 바뀌게 될 가능성이 크다.
< 원킹의 경험담>
실제로 자동화 시스템을 사용해보면서 AI가 놓치고 있는 것들이 은근히 중간중간에 숨어 있었다. 꼭 검토할 부분과 자동화할 부분들을 체크해서 직접 보조하면서 진행하는 편이 완성도가 높다