AI 자동화를 만들어 놓고 가장 애매한 순간이 있다.
“그래서 이 자동화가 정말 잘하고 있는 걸까?”
실행은 된다.
AI도 결과를 만들어낸다.
그런데 이전보다 정말 빨라진 것인지, 오류가 줄어든 것인지, 비용을 들일 만큼 효과가 있는 것인지는 바로 알기 어렵다.
그래서 AI 에이전트나 업무 자동화를 제대로 평가하려면 단순히 “작동한다”가 아니라 몇 가지 숫자를 기록해볼 필요가 있다.
Anthropic도 AI 에이전트를 평가할 때 성공 기준을 먼저 정하고, 여러 테스트를 반복하면서 정확도뿐 아니라 처리시간, 비용, 오류율 등의 지표를 함께 추적하는 방식을 설명하고 있다.
1. 가장 먼저 성공 기준을 정해야 한다
AI 자동화의 성능을 측정하기 전에 먼저 무엇을 성공으로 볼 것인지 정해야 한다.
예를 들어 상품 정보를 자동으로 정리하는 시스템이라면
“AI가 상품을 정리했다.”
만으로는 부족하다.
상품명, 가격, 링크가 정확하게 들어갔는지까지 확인해야 한다.
따라서 테스트 전에 성공 조건을 정하는 것이 좋다.
예를 들면
- 상품명이 원본과 일치한다.
- 가격이 정확하다.
- 링크가 누락되지 않는다.
- 정해진 형식으로 저장된다.
이렇게 기준을 만들어놓으면 결과를 숫자로 평가할 수 있다.
2. 정확도는 어떻게 측정할까?
가장 기본적인 방법은 테스트 데이터를 만들어 직접 비교하는 것이다.
예를 들어 20개의 실제 데이터를 준비했다고 해보자.
AI가 이 중 18개를 정확하게 처리했다면
정확도 = 18 ÷ 20 × 100
즉 90%다.
| 테스트 | 결과 |
|---|---|
| 전체 테스트 | 20건 |
| 정상 처리 | 18건 |
| 오류 | 2건 |
| 정확도 | 90% |
이렇게 하면 “AI가 꽤 잘하는 것 같다”라는 느낌이 아니라 실제 성능을 확인할 수 있다.
중요한 것은 테스트할 때 성공 기준을 명확하게 정하는 것이다. 에이전트는 같은 작업에서도 실행마다 결과가 달라질 수 있기 때문에 여러 번 테스트하는 것이 의미가 있다.
3. 정확도만 보면 안 되는 이유
그런데 정확도가 100%라고 해서 무조건 좋은 자동화라고 할 수는 없다.
예를 들어 사람이 10분 걸려 처리하던 업무를 AI가 9분 걸려 처리하고 정확도는 100%라고 해보자.
정확도는 높지만 자동화 효과는 크지 않을 수 있다.
반대로 AI가 대부분의 작업을 처리하고 사람이 마지막에 1분만 확인하면 된다면 정확도가 조금 낮더라도 실제 업무시간은 크게 줄어들 수 있다.
그래서 자동화를 평가할 때는
정확도 + 처리시간 + 사람의 확인시간
을 함께 보는 것이 좋다.
4. 처리시간도 측정해보자
자동화 전후의 시간을 비교하면 효과가 훨씬 명확해진다.
예를 들어
자동화 전: 1건당 10분
자동화 후: AI 처리 2분 + 사람 검토 1분
이라면 사람이 실제로 사용하는 시간은 1분으로 줄어든 것이다.
여기서 중요한 것은 AI가 몇 분 만에 결과를 만들었는지가 아니다.
사람의 실제 작업시간이 얼마나 줄었는지를 확인해야 한다.
5. 비용도 성능의 일부다
AI 자동화는 사용할수록 비용이 발생할 수 있다.
AI 사용료뿐만 아니라 자동화 플랫폼, 검색, 저장공간 등 여러 비용이 들어갈 수 있다.
예를 들어 100건을 처리하는 데
- AI 비용 2,000원
- 자동화 플랫폼 비용 1,000원
- 사람 검토시간의 가치 5,000원
이 들었다면 총비용은 8,000원이다.
따라서 자동화가 빨라졌다는 이유만으로 성공했다고 판단하면 안 된다.
“얼마나 빨라졌는가?”
와 함께
“그 효과를 얻기 위해 얼마가 들었는가?”
를 같이 봐야 한다.
6. 직접 만들어본 Make 자동화에서는 어떤 일이 있었을까?
이 부분은 실제 자동화를 만들어보면서 특히 중요하다고 느꼈던 부분이다.
당시 Make를 이용해 Google Sheets에서 데이터를 가져오고, AI가 내용을 처리한 뒤 다시 Google Sheets에 저장하는 구조를 만들었다.
대략적인 흐름은 다음과 같았다.
Google Sheets
→ AI 처리
→ 결과 정리
→ Google Sheets 저장
처음에는 단순하게 연결하면 끝날 것처럼 보였다.
그런데 실제로 구성하는 과정에서는 모듈 연결 방법을 잘못 이해해 수정하는 과정이 발생했고, 그 과정에서 10분 이상 추가 시간이 들어갔다.
여기서 중요한 것은 이 시간을 단순한 실패로만 볼 필요가 없다는 것이다.
오히려 자동화 성능을 평가할 때 기록해야 할 하나의 데이터가 됐다.
| 평가 항목 | 실제 경험 |
|---|---|
| 자동화 구조 | Google Sheets → AI → Google Sheets |
| 추가 소요시간 | 10분 이상 |
| 주요 문제 | 모듈 연결 및 구조 이해 |
| 이후 개선 | 단계별 테스트 |
| 앞으로 측정할 것 | 처리시간·오류·비용·개입률 |
즉 자동화는 AI가 결과를 얼마나 빨리 만들어내느냐만의 문제가 아니었다.
사람이 자동화를 만들고 수정하는 과정에 들어가는 시간도 함께 고려해야 했다.
7. 테스트 실행에서도 비용을 확인해야 했다
또 하나 기억에 남았던 부분은 Web Search를 사용하는 자동화였다.
전체 자동화를 바로 실행하기 전에 사용량을 확인했는데, 실행 과정에서 AI Web Search 크레딧이 약 25개 사용될 수 있다는 점을 확인했다.
이 경험을 통해 알게 된 것은 자동화 테스트도 무작정 많이 하면 안 된다는 것이다.
처음부터 전체 데이터를 넣는 대신
1개 테스트
→ 결과 확인
→ 문제 수정
→ 소량 테스트
→ 비용 확인
→ 전체 실행
순서로 진행하는 것이 훨씬 안전하다.
특히 AI가 들어간 자동화에서는 테스트 자체에도 비용이 발생할 수 있기 때문에 비용까지 성능 평가에 포함하는 것이 좋다.
8. 사람이 얼마나 개입했는지도 중요하다
자동화가 100건을 처리했는데 사람이 80건을 수정해야 한다면 자동화 효과가 크다고 보기 어렵다.
반대로 100건 중 5건만 확인하면 되는 구조라면 이야기가 달라진다.
그래서 다음과 같은 지표를 사용할 수 있다.
사람 개입률 = 사람이 수정하거나 승인한 건수 ÷ 전체 처리 건수 × 100
예를 들어 100건 중 10건을 사람이 수정했다면
10 ÷ 100 × 100 = 10%
이다.
이 숫자가 낮아질수록 사람이 반복적으로 손대야 하는 일이 줄어들고 있다는 것을 확인할 수 있다.
9. 실제 자동화는 이렇게 평가하면 된다
처음부터 복잡한 평가 시스템을 만들 필요는 없다.
실제 업무와 비슷한 테스트 데이터 20개를 준비하고 다음 항목을 기록해보면 된다.
| 평가 항목 | 계산 방법 |
|---|---|
| 정확도 | 정상 처리 건수 ÷ 전체 건수 × 100 |
| 처리시간 | 1건 처리에 걸린 시간 |
| 비용 | AI·자동화 서비스 사용비 |
| 오류율 | 오류 발생 건수 ÷ 전체 건수 × 100 |
| 사람 개입률 | 수정·승인 건수 ÷ 전체 건수 × 100 |
| 성공률 | 최종 목표 달성 건수 ÷ 전체 건수 × 100 |
그리고 같은 테스트를 자동화 수정 전과 수정 후에 다시 실행한다.
예를 들어 처음에는 정확도가 낮거나 사람 개입이 많았는데 수정 후 개선됐다면 그 차이를 숫자로 확인할 수 있다.
중요한 것은 내가 실제로 측정하지 않은 숫자를 임의로 만들어내지 않는 것이다.
내 자동화 사례에서도 실제로 확인된 것은 “10분 이상 추가 시간이 발생했다”, “Web Search 실행에서 약 25개 크레딧 사용 가능성을 확인했다”는 정도였다.
정확도나 전체 처리시간을 측정하지 않았다면 그 숫자는 그대로 비워두는 것이 오히려 정확하다.
10. 실제 실패 사례를 다음 테스트로 활용하자
자동화 평가에서 유용한 방법이 하나 더 있다.
과거에 실제로 문제가 발생했던 상황을 다음 테스트의 문제로 사용하는 것이다.
예를 들어 AI가 잘못된 데이터 형식으로 결과를 만들어 다음 단계에서 오류가 발생했다면 그 상황을 테스트 케이스로 저장한다.
다음번에 자동화를 수정한 뒤 같은 데이터를 다시 넣어본다.
이전에 실패했던 문제가 다시 발생하지 않는다면 실제 개선 여부를 확인할 수 있다.
이런 방식은 단순히 새로운 테스트를 만드는 것보다 실제 업무에서 발생하는 문제를 지속적으로 관리하는 데 도움이 된다. Anthropic도 실제 실패 사례를 평가 데이터로 축적하고, 변경 후 기존 기능이 다시 깨지지 않는지 확인하는 회귀 평가를 중요한 방법으로 설명한다.
결국 중요한 것은 ‘AI가 얼마나 똑똑한가’가 아니다
AI 자동화를 평가할 때 모델의 성능만 바라보면 중요한 부분을 놓치기 쉽다.
실제로 중요한 것은
“내 업무에서 원하는 결과를 얼마나 안정적으로 만들어주는가?”
이다.
그래서 자동화를 만들었다면 최소한 다음 다섯 가지를 기록해보는 것을 추천한다.
① 정확도
② 처리시간
③ 비용
④ 오류율
⑤ 사람 개입률
그리고 자동화 전후의 숫자를 비교한다.
내가 직접 Make 자동화를 만들어보면서 느낀 것도 비슷했다.
처음에는 “AI가 자동으로 처리한다”는 것 자체가 중요해 보였지만, 실제로는 연결 과정에서 사람이 추가로 시간을 쓰기도 하고 테스트 과정에서도 AI 사용량을 확인해야 했다.
결국 좋은 AI 자동화는 한 번 만들어놓고 끝나는 시스템이 아니다.
측정하고
→ 문제를 찾고
→ 수정하고
→ 다시 측정하는 과정이 반복되어야 한다.
AI 에이전트의 성능을 숫자로 기록하기 시작하면 그때부터 자동화는 단순한 AI 실험이 아니라 실제 업무 시스템에 가까워진다.