진행 중인 작업과 대기열
완전히 바쁜 팀은 일이 기다리는 팀이므로, 진행 중인 일이 얼마나 되는지, 대기열에서 얼마나 오래 기다리는지, 팀이 용량에 얼마나 가깝게 운영되는지를 측정하고, 지연이 오기 전에 대기열의 산술로 제한을 정하십시오.
개요와 동기
모든 서비스 팀에는 그 말을 쓰든 쓰지 않든 대기열이 있습니다. 인시던트는 분류를 기다리고, 요청은 승인을 기다리고, 변경은 검토 자리를 기다리고, 백로그 항목은 누군가 끌어가기를 기다립니다. 이런 시스템에서 경과 시간의 대부분은 일하는 시간이 아니라 기다리는 시간입니다. 이 주제의 측정치는 기다림이 왜 늘어나는지, 어떻게 일찍 볼 수 있는지, 팀이 무엇을 할 수 있는지 설명합니다.
핵심 수량은 시작했지만 아직 끝나지 않은 항목의 수인 진행 중인 작업(work in process)(WIP)입니다. 흐름을 관리하는 애자일 팀은 WIP를 보드에서 보이게 하고 WIP 제한으로 상한을 둡니다. ITIL에 따른 서비스 운영은 열린 인시던트, 요청, 변경을 세고 그 집합을 레코드의 대기열 또는 백로그라고 부릅니다. 두 관점은 같은 것을 설명합니다. 아직 전달하지 못한 시스템 안의 항목입니다. 이 주제는 둘 모두에 "진행 중인 작업"이라는 말을 쓰고, 그 뒤의 모든 숫자를 결정하는 경계, 즉 어떤 상태가 "진행 중"에 속하고 속하지 않는지를 매번 밝힙니다.
수학은 줄 서기를 연구하는 대기행렬 이론(queueing theory)에서 옵니다. 서비스 팀에 가장 유용한 결과는 1961년 존 리틀이 증명한 리틀의 법칙(Little's law)입니다. 안정된 시스템에서 시스템 안의 평균 항목 수는 평균 도착률에 항목이 시스템에 머무는 평균 시간을 곱한 것과 같습니다. 전달 용어로 평균 WIP는 평균 처리량에 평균 사이클 타임을 곱한 것과 같습니다. 이 법칙은 항목이 처리되는 순서와 무관하게 성립하므로 모든 흐름 측정치 집합에 대한 값싼 건전성 점검이 됩니다(주제 2.1, 흐름 측정치와 주제 2.2, 리드 타임, 사이클 타임, 흐름 효율 참조).
두 번째 결과는 덜 편안합니다. 공유 자원이 완전 가동에 가까워질수록 대기 시간은 점점 더 빠르게 늘어납니다. 관련 근사식인 킹먼의 공식(Kingman's formula)은 대기열 지연이 가동률에 비례하여 늘어나되 남은 유휴 비율에 대한 가동률의 비에 따라 늘어나고, 도착과 서비스 시간의 변동성에 따라서도 늘어남을 보여 줍니다. 지원과 운영 작업은 본질적으로 변동이 큽니다. 인시던트는 몰려서 도착하고 항목당 노력이 크게 다르기 때문입니다. 그러므로 100퍼센트 바쁘도록 계획한 팀은 긴 대기를 계획한 것이며, 첫 번째 대형 인시던트가 긴 대기를 몇 주가 걸려야 해소되는 백로그로 바꿉니다.
이 주제에서 쓰는 용어입니다.
- 도착률은 단위 시간당 시스템에 들어오는 항목의 수입니다.
- 처리량(또는 출발률)은 단위 시간당 끝난 상태로 시스템을 떠나는 항목의 수입니다.
- 사이클 타임은 항목이 시스템 경계에 들어온 순간부터 떠난 순간까지의 경과 시간입니다. 이 주제는 주제 2.2와 같은 시계를 씁니다.
- 대기열 시간은 경과 시간 중 항목이 기다리고 있고 아무도 그것을 작업하지 않는 부분입니다.
- 가동률은 사용 중인 가용 용량의 비율입니다. 팀의 용량은 근무 시간이나 병렬로 처리할 수 있는 항목 수로 표현합니다. 가동률은 팀이나 자원 풀의 속성이며 개인의 속성이 아닙니다.
- WIP 제한은 한 단계나 시스템 전체에서 합의된 최대 항목 수입니다. 제한에 도달하면 새 항목을 시작하지 않습니다.
- 병목은 수요 대비 용량이 가장 적은 단계입니다. 전체 사슬의 속도를 정하며, 제약 이론(theory of constraints)과 그 병목(bottleneck) 개념이 발전시킨 요점입니다.
애자일과 ITIL 관점은 여기서 만납니다. ITIL 4(2019)는 용량 및 성능 관리, 인시던트 관리, 서비스 요청 관리를 용량을 수요에 맞추는 데 의존하는 프랙티스로 다루고, 애자일 방법은 같은 생각을 진행 중인 작업을 제한하고 시작하기 전에 끝낸다는 것으로 표현합니다. 린 소프트웨어 개발(lean software development)은 끝나지 않은 일을 보유 비용과 위험이 있는 재고로 봅니다.
핵심 원칙
- 기다림이 경과 시간을 지배합니다. 대부분의 서비스 및 전달 시스템에서 항목은 누군가 그것을 작업하는 시간보다 훨씬 오래 기다리므로, 기다림을 줄이는 것이 더 빨리 일하는 것보다 큰 지렛대입니다.
- 리틀의 법칙은 세 가지 흐름 수치를 연결합니다. 평균 WIP, 처리량, 사이클 타임은 독립적으로 정할 수 없습니다. 같은 처리량에서 더 짧은 사이클 타임을 원한다면 WIP를 낮춰야 합니다.
- 지연은 완전 가동 근처에서 가파르게 커집니다. 여유는 반응성의 대가입니다. 여유 용량이 없는 팀은 갑작스러운 몰림이나 긴급 항목을 다른 모든 것을 늦추지 않고는 받아 낼 수 없습니다.
- 변동성은 대기열을 증폭합니다. 고르지 않은 도착과 고르지 않은 항목 크기는 평균 부하가 받아들일 만해 보여도 대기열을 늘립니다. 줄일 수 있는 곳에서는 변동성을 줄이고, 줄일 수 없는 곳에서는 완충하십시오.
- 바빠 보이려고가 아니라 일을 끝내려고 WIP를 제한하십시오. WIP 제한은 차단된 작업과 용량에 대한 대화의 촉발제이지 준수 규칙이 아닙니다.
- 시스템 수준에서 측정하십시오. WIP, 대기열 길이, 가동률은 팀과 서비스를 설명하며, 그 안의 사람을 설명하지 않습니다.
- 평균이 아니라 분포를 보고하십시오. 대기열 시간은 꼬리가 길므로 중앙값과 85번째 또는 95번째 같은 높은 백분위수를 보여 주십시오(주제 1.6, 서비스 지표를 위한 통계 소양 참조).
지표 정의
일곱 가지 측정치가 이 주제를 다룹니다. 각각 팀이 지표 레지스트리에 적는 지명된 경계에 대해 정의됩니다(주제 1.4, 지표 거버넌스와 소유권 참조).
| 지표 | 정의 | 공식 | 단위 | 데이터 원천 | ITIL 프랙티스 | 애자일 대응 | 주기 |
|---|---|---|---|---|---|---|---|
| 진행 중인 작업 | 합의된 경계 안에서 시작했지만 끝나지 않은 항목의 수 | 스냅샷 시점에 "진행 중" 상태에 있는 항목의 수. 첫 작업 상태 이전의 백로그나 "준비됨" 대기열의 항목과 이미 끝난 항목은 제외 | 항목 | 이슈 트래커 또는 ITSM 도구의 상태 이력 | 인시던트 관리, 서비스 요청 관리 | 보드의 WIP 개수 | 일일 스냅샷, 주간 검토 |
| 대기열 길이 | 작업이 시작되기를 기다리거나 단계 사이에서 기다리는 항목의 수 | 스냅샷 시점에 대기 상태(예: "신규", "분류 대기", "검토 대기")에 있는 항목의 수. 차단된 항목은 더하지 않고 별도로 보고 | 항목 | 트래커 또는 ITSM 상태 이력 | 인시던트 관리, 변경 활성화 | 보드의 준비됨 열과 대기열 열 | 일일 스냅샷, 주간 검토 |
| 대기열 시간 | 단계별로 작업이 시작되기 전에 항목이 기다린 경과 시간 | 시계는 항목이 대기 상태에 들어갈 때 시작해 다음 활성 상태에 들어갈 때 멈춤. "고객 차단" 표시 상태의 시간은 제외하고 별도 수치로 보고하며, 중앙값과 85번째 백분위수를 보고 | 시간 또는 일 | 트래커 또는 ITSM 도구의 상태 전이 타임스탬프 | 서비스 데스크, 인시던트 관리, 변경 활성화 | 가치 흐름의 대기 시간, 대기열 열의 시간 | 주 |
| 도착률 및 출발률 | 기간당 시스템에 들어오고 나가는 항목의 수와 그 차이인 대기열 순증가 | 도착 = 기간 중 경계에 들어온 항목, 출발 = 기간 중 완료된 항목, 순증가 = 도착 빼기 출발. 다시 열린 항목은 팀이 그렇게 정의한 경우에만 도착으로 셈 | 주당 항목 | 트래커 또는 ITSM의 생성 및 해결 타임스탬프 | 모니터링 및 이벤트 관리, 인시던트 관리 | 처리량과 누적 흐름도 | 주 |
| 팀 부하 비율 | 계획되고 예상되는 작업이 소비할 팀 용량의 비율 | 해당 기간에 예상되는 수요 시간(도착 곱하기 항목당 평균 노력) / 휴가와 고정 약속을 뺀 가용 용량 시간. 팀이 노력을 추정하는 방법을 밝히며 개인은 절대 보고하지 않음 | 퍼센트 | 용량 계획, 트래커의 노력 이력, 당번표 | 용량 및 성능 관리, 인력 및 인재 관리 | 계획된 작업의 팀 용량 | 월, 계획 이벤트마다 |
| WIP 제한 초과율 | 단계나 시스템이 합의된 WIP 제한을 넘긴 날의 비율 | WIP가 제한을 넘긴 날 수 / 기간 중 근무일 수. 팀이 이유와 함께 의도적 예외를 기록한 날은 별도로 보고 | 일수 퍼센트 | 일일 WIP 스냅샷과 예외 로그 | 지속적 개선, 인시던트 관리 | WIP 제한 업무 합의 | 주 |
| 리틀의 법칙 일관성 비율 | 세 가지 흐름 수치가 서로 일치하는지 점검 | 같은 경계와 기간에 대한 기간 중 평균 WIP / (일일 출발 곱하기 일 단위 평균 사이클 타임). 1에 가까우면 정의가 일관됨을, 1에서 멀면 경계나 시계가 일관되지 않음을 뜻함 | 비율 | 다른 흐름 지표와 같은 트래커 데이터 | 측정 및 보고 | 회고에서의 흐름 지표 건전성 점검 | 월 |
권장 사항
경계를 먼저 정의하십시오
1. 무엇이든 세기 전에 시스템 경계를 쓰십시오. 어떤 상태가 "진행 중"을 시작하고 어떤 상태가 끝내는지, 그리고 어떤 항목이 제외되는지(예: 예정된 유지보수나 고객을 기다리는 항목) 밝히십시오. WIP를 다르게 세는 두 팀은 비교할 수 없는 숫자를 만들며, 조용히 움직이는 경계는 리틀의 법칙 점검을 깨뜨립니다. 경계를 지표 레지스트리에 기록하고 기록된 이유가 있을 때만 바꾸십시오.
2. 상태 모델에서 기다림과 작업을 분리하십시오. 하나의 상태가 "검토 대기"와 "검토 중"을 모두 포함하면 대기열 시간이 보이지 않습니다. 주제 1.5, 데이터 원천과 계측에서 설명한 것처럼 대기 상태에 고유한 이름을 주어 전이 타임스탬프가 지연을 드러내게 하십시오. 상태 하나를 더하는 비용은 항목이 어디에 머무는지 볼 수 있는 가치에 비하면 작습니다.
리틀의 법칙을 일관성 점검으로 쓰십시오
3. 매달 리틀의 법칙 점검을 실행하십시오. 같은 기간과 경계에 대해 평균 WIP, 처리량, 평균 사이클 타임을 계산하고 대략 일치하는지 보십시오. 큰 불일치는 대개 항목이 세어지지 않은 채 시스템에 들어오거나 나가고 있거나, 오래된 항목이 돌봐지지 않는 상태에 방치되어 있음을 뜻합니다. 어떤 추세든 해석하기 전에 데이터를 고치십시오. 이 법칙은 안정된 시스템에 대한 정리이므로 대기열이 극적으로 늘거나 줄지 않은 기간에 적용하십시오.
가동률과 대기열 증가를 지켜보십시오
4. 변동이 큰 곳에는 여유를 계획하십시오. 인시던트 처리, 온콜 작업, 무작위 수요가 공급하는 모든 대기열에서는 완전 용량 아래로 계획해 몰림이 백로그가 되지 않게 하십시오. 팀은 종이 위에서 편해 보이는 부하 비율이 중단을 세면 이미 너무 높다는 것을 흔히 발견합니다(주제 2.9, 운영 작업과 계획 외 작업 참조). 일하는 사람들과 목표 범위에 합의하고 대형 인시던트 후에 검토하십시오.
5. 대기열 크기뿐 아니라 대기열 순증가도 추적하십시오. 줄어드는 40건의 대기열은 건강하고, 주당 5건씩 늘어나는 15건의 대기열은 그렇지 않습니다. 매주 도착과 출발을 비교하고, 단계의 띠가 넓어지면 그곳의 WIP가 늘고 있음을 알리는 누적 흐름도(cumulative flow diagram)로 추세를 차트로 그리십시오. 여러 주 동안 도착이 출발을 넘으면 대기열이 한없이 늘어나고 있는 것이며 결정할 때가 된 것입니다. 용량을 추가하거나, 수요를 줄이거나, 받아들이는 것을 바꾸십시오.
6. 단계별 대기열 시간을 읽어 병목을 찾으십시오. 경과 시간을 단계별 대기 기간으로 나누십시오. 대기열 시간이 가장 길고 기다리는 항목이 가장 많은 단계가 병목 후보입니다. 다른 단계를 개선해도 전체 시스템은 짧아지지 않으므로, 개선 노력을 제약에 향하게 하고 제약은 움직이므로 이후에 다시 확인하십시오.
효과가 있는 방식으로 WIP를 제한하십시오
7. 첫 WIP 제한은 관찰에서 정하고 조정하십시오. 현재 평균 WIP 근처나 약간 아래에서 시작해 사이클 타임과 차단된 항목에 무슨 일이 생기는지 관찰하십시오. 팀이 모든 사람을 완료 작업에 생산적으로 유지할 수 있는 동안 제한을 단계적으로 낮추십시오. 보편적으로 맞는 숫자는 없으며, 다른 팀에서 빌린 수치는 당신 팀에 대한 증거가 없습니다.
8. 초과를 위반이 아니라 촉구로 다루십시오. WIP가 제한을 넘으면 무엇이 완료를 막고 있는지, 누가 집중 투입할 수 있는지 물으십시오. 긴급 운영 수정 같은 이유와 함께 기록된 초과는 정보입니다. 초과가 일상이 되면 제한이 틀렸거나 시스템이 과부하된 것이며, 대응은 문책이 아니라 용량에 대한 대화입니다.
9. 한 열이 아니라 전체 가치 흐름에 제한을 적용하십시오. "진행 중"에만 제한을 두면 일이 검토, 테스트, 승인 대기열에 쌓입니다. 시스템 전체의 항목 수를 처음부터 끝까지 제한하고, 특정 대기열이 계속 늘어나는 곳에는 단계 제한을 추가하십시오. 변경 자문 검토나 테스트 환경 같은 공유 단계에는 가시적인 자체 제한과 자체 대기열 시간이 필요합니다.
긴급하고 변동이 큰 작업을 의도적으로 다루십시오
10. 긴급 처리 작업에 정책을 부여하십시오. 정책이 없으면 긴급 항목이 조용히 모든 제한을 넘고 팀은 계획된 부하와 계획 외 부하를 구분할 수 없습니다. 무엇이 해당되는지, 몇 건의 긴급 항목이 동시에 진행될 수 있는지, 어떤 작업이 멈추는지 정의하십시오. 긴급 항목과 그것이 대기열 시간에 미치는 영향을 세어, 긴급성의 비용이 그것을 요청하는 사람들에게 보이게 하십시오(주제 2.9, 운영 작업과 계획 외 작업 참조).
악용 방식과 방호책
| 지표 | 악용되는 방식 | 짝을 이루는 방호책 지표 또는 실천 |
|---|---|---|
| 진행 중인 작업 | 제한 아래에 머물려고 항목을 "보류"나 "대기" 상태로 옮김, 항목을 작게 보이도록 쪼갬, 보드 밖에서 일을 시작함 | 보류 상태 항목의 수와 경과 시간, 보드를 실제 작업과 표본 대조, 진행 중인 가장 오래된 항목 보고 |
| 대기열 길이 | 항목을 닫았다가 다시 엶, 입구에서 새 항목을 거부함, 대기 상태 이름을 바꿔 집계에서 빠지게 함 | 대기열 길이 옆에 재개방률과 거부율, 지표 검토 때마다 상태 정의 검토 |
| 대기열 시간 | 작업이 준비된 뒤에 레코드를 만들어 시계를 늦게 시작함, 차단 또는 고객 대기 상태로 시계를 멈춤, 열기만 한 항목을 진행 중으로 표시함 | 차단 및 일시 정지 상태에 머문 시간의 분포, 시작된 후에 생성된 항목의 비율, 짧은 설문으로 요청자가 보고한 대기 |
| 도착률 및 출발률 | 출발을 늘리려고 항목을 빨리 닫음, 두 건수를 모두 늘리려고 요청 하나를 여럿으로 쪼갬, 중복을 도착으로 셈 | 종료된 항목의 품질 및 재개방 측정치(주제 3.3, 인시던트 대응 및 해결 시간 참조), 항목 크기 분포, 고객 성과 점검 |
| 팀 부하 비율 | 여유 용량을 보이려고 노력을 낮게 추정하거나, 인력을 정당화하려고 수요를 부풀림, 유리한 기간의 비율을 보고함 | 항목당 추정 노력과 실제 노력을 비교, 비율을 추세 및 중단 비중과 함께 표시, 추정 방법의 동료 검토 |
| WIP 제한 초과율 | 초과를 멈추려고 제한을 올림, 항목을 보드 밖으로 옮겨 초과를 숨김, 예외를 후하게 허용함 | 예외의 건수와 이유, 날짜가 있는 제한 변경 이력, 초과율 옆에 사이클 타임 백분위수 |
| 리틀의 법칙 일관성 비율 | 비율이 1에 가까워지도록 경계나 기간을 조정함, 오래 사는 항목을 이상치로 제외함 | 경계와 기간을 미리 고정, 제외된 항목과 그 수를 게시, 이유와 함께 경계 변경을 검토 |
건강한 상태란 WIP가 안정적이거나 줄고, 대기열 시간 백분위수가 평평하거나 개선되고, 도착과 출발이 대체로 균형을 이루고, 초과에 행동으로 이어지는 이유가 따르는 팀입니다. 리틀의 법칙 비율이 1 근처에 머무는 것은 누군가 조정해서가 아니라 데이터가 일관되기 때문입니다.
상충 관계: 장점과 단점
| 접근 방식 | 강점 | 약점 |
|---|---|---|
| 엄격한 WIP 제한 | 더 짧은 사이클 타임, 문제의 조기 발견, 더 많은 완료 | 한 단계에 유휴 시간이 생길 수 있음, 규율과 다기능 교육이 필요함, 일이 시작되기를 원하는 이해관계자를 좌절시킬 수 있음 |
| 느슨하거나 없는 WIP 제한 | 모두 바빠 보이고 요청이 빨리 수락됨 | 긴 대기열, 느린 전달, 숨은 막힘, 심한 컨텍스트 전환 |
| 계획된 여유 용량 | 몰림과 긴급 작업을 흡수함, 응답 시간을 짧게 유지함 | 가동률 보고서에서 낭비처럼 보임, 리더가 더 낮은 겉보기 효율을 받아들여야 함 |
| 높은 계획 가동률 | 효율적이고 시간당 저렴해 보임 | 부하가 용량에 가까워질수록 기다림이 가파르게 늘어남, 어떤 교란에도 취약함 |
| 계획에 리틀의 법칙 사용 | 단순하고 일반적이며 적용이 빠름 | 안정된 시스템과 평균에만 유효함, 개별 항목에 대해서는 말해 주지 않음 |
변동성과 지연의 비용이 큰 곳에서는 WIP를 제한하고 여유를 유지하며, 일이 꾸준하고 독립적인 곳에서는 더 느슨한 제한을 받아들이십시오.
무작위 도착과 서비스 시간을 가진 단일 서버의 가장 단순한 교과서 모형(M/M/1 대기열)에서, 시스템 내 평균 시간은 서비스 시간을 1에서 가동률을 뺀 값으로 나눈 것입니다. 50퍼센트에서 2배, 80퍼센트에서 5배, 90퍼센트에서 10배, 95퍼센트에서 20배입니다. 실제 팀은 단일 서버가 아니므로 이 수치는 예측이 아니라 곡선의 모양으로 받아들이십시오.
팀과 논의할 질문
1. 우리에게 "진행 중"이란 무엇이며, 우리 모두 같은 방식으로 세고 있나요? 각자에게 항목을 WIP의 일부로 만드는 첫 상태와 마지막 상태를 말하게 하고 답을 비교하십시오. 일부는 세고 일부는 세지 않는 "보류"나 "고객 대기" 같은 상태를 찾으십시오. 하나의 경계에 합의하고 적어 두십시오. 진행자는 답이 WIP 숫자를 어떻게 바꿀지 기록해야 합니다. 그것이 지표가 정의에 얼마나 민감한지 보여 주기 때문입니다.
2. 우리 항목은 어디서 가장 오래 기다리며, 그 대기열은 누가 소유하나요? 도착부터 완료까지의 흐름을 그리고 기다리는 지점을 표시하십시오. 최근 한 달의 데이터로 각 지점의 중앙값과 85번째 백분위수 대기를 추정하십시오. 승인 단계나 공유 테스트 환경처럼 아무도 소유하지 않는 대기열이 무엇인지 논의하십시오. 자세히 조사할 대기열 하나와 다음에 데이터를 가져올 사람을 합의하십시오.
3. 우리가 하는 종류의 일에서 어느 정도가 너무 바쁜 것인가요? 계획된 부하를 중단과 긴급 항목에 실제로 쓴 시간의 비중과 비교하십시오. 지난번 수요가 급증했을 때 대기열에 무슨 일이 있었는지 물으십시오. 여유 용량이 없는 팀은 빠르게 대응할 수 없다는 생각을 논의하십시오. 진행자는 단일 숫자가 아니라 부하 비율의 목표 범위와, 범위를 넘으면 어떻게 할지에 대한 계획으로 이끌어야 합니다.
4. 우리 대기열은 늘고 있나요, 줄고 있나요, 일정한가요, 그리고 어떻게 아나요? 지난 8주의 도착과 출발을 보십시오. 단순한 차트면 충분합니다. 느린 증가가 문제가 되기 전에 누군가 알아차렸을지, 어떤 신호가 행동을 촉발할지 물으십시오. 3주 연속 출발이 도착에 뒤처질 때 팀이 무엇을 해야 하는지 합의하십시오.
5. WIP 제한을 하나 낮추면 어떻게 될까요? 사람들에게 어떤 항목이 기다리고, 어떤 것이 더 일찍 끝나고, 새로운 것을 시작할 수 없을 때 무엇을 할지 예측하게 하십시오. 놀고 있는 것으로 보일까 하는 두려움 같은 것을 드러내십시오.
6. 우리 숫자들은 서로 일치하나요? 한 달 치 데이터를 가져와 평균 WIP, 처리량, 평균 사이클 타임을 계산하십시오. WIP가 대략 처리량 곱하기 사이클 타임인지 확인하십시오. 아니라면 끝났지만 닫히지 않은 항목이나 시작하지 않고 닫힌 항목 같은 원인을 찾으십시오. 진행자는 불일치를 선물로 다뤄야 합니다. 그렇지 않았다면 다른 모든 흐름 지표를 왜곡했을 데이터나 정의의 문제를 가리켜 주기 때문입니다.
네 가지 관점
제품 및 전달 팀
전달 팀은 과도한 WIP의 효과를 컨텍스트 전환, 늦은 피드백, 퇴색하는 미완성 작업으로 느낍니다. 가시적인 WIP 제한, 작은 항목, 시작하기 전에 끝내는 습관에서 가장 큰 이득을 얻습니다. 팀은 검토 대기처럼 단계 사이의 자체 대기열 시간을 살펴야 합니다. 이 지연은 대개 코딩에 쓰는 시간보다 큽니다(주제 2.7, 풀 리퀘스트와 코드 리뷰 지표 참조).
서비스 및 운영 팀
운영 팀은 무작위 수요에 직면하므로 대기열 효과가 강합니다. 서비스 데스크, 온콜 순환, 변경 검토 위원회는 각각 도착이 변하는 대기열처럼 행동합니다. 이 팀에는 명시적 여유, 분명한 우선순위 규칙, 긴급 항목이 조용히 다른 모든 것을 밀어내지 않도록 하는 긴급 작업 정책이 필요합니다(주제 3.1, 서비스 데스크 지표와 주제 5.7, 토일과 온콜 지표 참조). 인계마다 대기열 시간을 측정하고 그룹 사이를 오가는 작업을 지켜보십시오(주제 9.3, 협업과 인수인계 지표 참조).
리더십과 거버넌스
리더는 받아들이는 수요와 보상하는 가동률을 통해 대기열에 영향을 줍니다. 가동률뿐 아니라 대기열 시간 백분위수와 대기열 순증가도 요청하고, 건강한 서비스는 완전 용량 아래에서 운영된다고 예상해야 합니다. 이미 한계에 있는 팀에 프로젝트를 더 추가하라는 요청은 모두의 사이클 타임을 늘리겠다는 결정이며, 거버넌스는 이 상충 관계를 명시해야 합니다. 일반적인 효율 추진이 아니라 제약에 용량의 자금을 대십시오(주제 5.4, 용량과 성능 지표 참조).
고객과 사용자
고객은 대기열을 응답을 기다리는 것으로 경험하며, 팀이 얼마나 바쁜지는 거의 신경 쓰지 않습니다. 과거 대기의 분포에 기반한 정직한 기대, 자기 요청의 상태를 볼 방법, 긴급한 필요를 위한 에스컬레이션 경로가 필요합니다. WIP 제한은 새 요청의 수락이 느려지고 수락된 요청의 완료가 빨라진다는 뜻일 수 있으며, 그 선택은 그들에게 설명해야 합니다(주제 6.2, 경험 수준 협약 참조).
실제 적용: 서비스 관리 사례
한 지역 병원의 IT 부서에 서비스 데스크, 인프라 팀, 애플리케이션 팀이 있습니다. 이 사례의 모든 숫자는 예시입니다.
애플리케이션 팀은 임상 시스템에 대한 서비스 요청과 작은 변경을 처리합니다. 한 분기 동안 대시보드의 사이클 타임 중앙값은 근무일 6일에서 11일로 올랐고, 팀은 "전력 질주 중"이라고 보고합니다. 팀이 그 분기에 계산한 부하 비율은 98퍼센트입니다. "임상 승인 대기" 단계의 대기열 시간 85번째 백분위수는 근무일 9일이고, 보드의 평균 WIP는 44건이며 처리량은 근무일당 4건입니다. 리틀의 법칙을 적용하면 44를 4로 나눈 값이 내포된 평균 사이클 타임 근무일 11일이며 측정값과 일치하므로, 데이터는 일관되고 팀은 이를 신뢰합니다.
부서장은 처음에 계약직 채용을 제안합니다. 팀 리더는 단계별 분해를 가리킵니다. 11일 중 임상 승인 전 대기열과 배포 전 대기열이 경과 시간의 대부분을 차지하고, 실제 작업은 작은 비중입니다. 분기 동안 도착이 출발을 주당 약 2건 초과했으므로 대기열은 꾸준히 늘었습니다. 팀은 또 모든 긴급 요청을 받아들였으며 긴급 항목에 정책이 없습니다.
팀은 결정 로그에 기록한 네 가지 변경을 결정합니다. 시스템 전체 WIP 제한을 30건으로, 승인 대기열에 단계 제한 8을 정합니다. 예상되는 중단이 들어갈 수 있도록 약 80퍼센트의 부하 비율로 계획합니다. 동시에 최대 두 건의 긴급 항목만 허용하는 긴급 처리 정책을 씁니다. 임상 승인 그룹에게 주간 회의 대신 짧은 일일 검토 시간을 열어 달라고 요청합니다. 8주 뒤 팀은 사이클 타임 중앙값 근무일 7일, 승인 단계의 85번째 백분위수 대기열 시간 근무일 3일, 이유가 기록된 초과율 10퍼센트를 보고합니다.
팀은 두 번째 달에 악용 위험을 잡아냅니다. 초과율은 훌륭해 보이지만, 보드를 표본 조사하니 WIP 집계 밖에 있는 "대기 중"이라는 새 상태에 여러 항목이 있고, 보류 상태 건수라는 방호책은 상승 추세였습니다. 팀은 상태를 제거하고, 항목을 집계로 되돌리고, 모든 새 상태를 정의와 함께 레지스트리에 추가하도록 요구합니다. 초과율은 몇 주 동안 18퍼센트로 올라가며, 팀은 이를 정직한 수치로 받아들이고, 차단된 항목이 해결되면서 다시 떨어집니다.
애자일, AI, 자동화, 분석
애자일
진행 중인 작업을 제한하는 것은 지속 가능한 속도와 지속적 전달을 뒷받침합니다. 진행 중인 것이 적을수록 각각 더 빨리 끝나고 피드백이 더 일찍 옵니다. 실용적인 습관은 팀 및 이해관계자와 제한에 합의하고 정기 개선 대화에서 초과를 검토하는 것입니다. 주의할 점은 논의 없이 규칙으로 강제한 제한은 일을 쪼개거나 숨겨서 악용된다는 것입니다.
AI
AI 지원은 초안의 비용이 적으므로 더 많은 일을 병렬로 시작하기 쉽게 만듭니다. 이는 검토하고 결정해야 하는 사람에게 진행 중인 작업과 대기열 길이를 늘릴 수 있습니다. 시작된 작업의 증가는 검토 단계의 대기열 시간 및 검토 팀의 부하 비율과 짝지우십시오. 주의할 점은 AI가 시작한 작업 중 더 많은 것이 버려질 수 있으므로 끝난 초안뿐 아니라 폐기된 초안도 세야 한다는 것입니다.
자동화
대기열 길이와 도착률을 기록 시스템에서 자동으로 읽고, 고정된 임계값뿐 아니라 부하 비율 상승 같은 추세에도 경보를 설정하십시오. 작업을 배정하는 자동화는 오배정과 실패했을 때 만드는 대기열로 측정해야 합니다. 주의할 점은 자동 배정 규칙이 조용히 몇 사람이나 한 팀에 일을 집중시킬 수 있다는 것입니다.
분석
리틀의 법칙을 진행 중인 작업, 처리량, 사이클 타임 사이의 일관성 점검으로 쓰고, 큰 차이는 데이터나 정의의 문제로 다루십시오. 이는 제한과 용량을 어디에 둘지에 정보를 줍니다. 주의할 점은 법칙이 안정된 시스템을 가정하므로 도착에 큰 변화가 있는 기간에 걸쳐 적용하지 말라는 것입니다.
부문별 관점
스타트업. 수요가 고르지 않고 모든 것을 시작하고 싶은 유혹이 있습니다. 가시적인 WIP 제한이 있는 단순한 보드와 진행 중인 가장 오래된 항목의 주간 점검이면 충분합니다. 운영 문제를 위한 여유를 유지하십시오. 장애 한 번이 팀 전체를 소진시킬 수 있습니다.
소규모 사업. 한두 사람이 지원, 프로젝트, 행정을 처리하는 경우가 많고 받은편지함이 대기열입니다. 계획된 작업과 반응적 작업을 분리하고, 시작하는 작업에 일일 제한을 두고, 고객에게 각 요청 유형의 평소 대기를 알려 주십시오.
대기업. 많은 팀이 변경 승인, 보안 검토, 테스트 환경 같은 단계를 공유하며, 공유 대기열이 가장 긴 경우가 많습니다. 공유 단계의 대기열 시간을 측정해 게시하고, 각 공유 단계에 소유자를 지정하고, 가동률을 목표로 보고하지 마십시오. 도구가 팀마다 WIP를 다르게 셀 수 있으므로 상위 집계 전에 공통 경계와 공통 상태 어휘에 합의하십시오(주제 2.4, 가치 흐름 지표 참조).
정부 및 공공 부문. 법정 기한, 조달 단계, 공식 승인은 팀이 통제할 수 없는 긴 대기열을 만듭니다. 팀이 통제하는 시간과 다른 기관을 기다리는 시간을 분리하고 둘 다 보고하십시오. 서비스 목표가 법이나 규정으로 정해진 곳에서는 시계 규칙과 일시 정지를 문서화하고 감사 추적을 유지하십시오(주제 8.5, 규제 및 정부 보고 참조).
비즈니스 케이스: 동기, ROI, TCO
동기는 인력을 늘리지 않고도 더 빠르고 더 예측 가능한 전달입니다. 기다림이 경과 시간을 지배하므로, WIP나 긴 승인 대기열을 조금만 줄여도 뒤따르는 모든 항목의 사이클 타임이 짧아집니다. 계획된 여유는 또 팀이 다른 작업의 몇 주를 잃지 않고 대형 인시던트를 흡수하게 해 줍니다.
비용은 적당하고 대부분 사람입니다. 경계와 상태를 정의하고, 기존 도구 데이터로 일일 WIP 스냅샷과 대기열 시간 보고서를 만들고, 짧은 주간 검토를 여는 노력입니다. WIP를 제한한다는 것은 일부 요청에 아직은 안 된다고 말하는 것이기도 해서 이해관계자의 동의가 필요하며, 유휴 용량은 지연에 대한 보험으로 리더가 이해해야 하는 겉보기 비용입니다.
수익은 빌려 온 백분율이 아니라 조직이 스스로 측정할 수 있는 패턴으로 설명해야 합니다. 제한 전후의 사이클 타임 중앙값과 85번째 백분위수, 합의된 임계값을 넘어 오래된 항목의 수, 초과율과 그 이유, 긴급 작업에 쓰는 시간의 비중을 추적하십시오. 비즈니스 케이스는 대기열 시간을 신규 입사자의 접근 권한 대기, 임상 시스템 변경, 고객 수정 같은 비즈니스가 이미 느끼는 것에 연결할 때 가장 강력합니다. 총소유비용은 숫자를 검토하고 행동하는 사람들의 시간이 지배하므로, 그 시간을 그것이 없애는 지연과 대조해 세십시오. 팀은 자체 기준선을 만들어야 합니다. 여기에는 인용한 벤치마크 값이 없습니다.
안티패턴과 함정
- 100퍼센트 가동률을 목표로 삼기. 긴 대기와 취약한 전달을 보장합니다. 여유가 있는 부하 비율로 계획하고 교란 뒤에 검토하십시오.
- "진행 중" 열에만 제한 두기. 그러면 일이 제한 밖의 대기열에 쌓입니다. 시스템을 처음부터 끝까지 제한하고 대기열이 늘어나는 곳에 단계 제한을 추가하십시오.
- WIP 제한을 강제할 규칙으로 취급하기. 사람들이 준수하려고 일을 숨깁니다. 초과를 무엇이 막혀 있는지 묻는 촉구로 쓰고 이유를 기록하십시오.
- 제한 없는 상태에 항목 보관하기. 일이 보이지 않게 기다리는 동안 숫자는 낮게 유지됩니다. 보류 상태를 가시적인 집계에 포함하고 경과 시간을 검토하십시오.
- 개인의 가동률 측정. 바빠 보이는 것을 보상하고 순위 매기기를 부릅니다. 팀이나 자원 풀을 측정하고 사람별 수치는 절대 게시하지 마십시오.
- 도착 쪽 무시하기. 팀이 출발에 매달리는 동안 수요는 계속 늘어납니다. 도착을 추적하고, 용량을 넘으면 무엇을 받아들일지 명시적으로 결정하십시오.
성숙도 모델
| 차원 | 1 시작 | 2 발전 | 3 표준화 | 4 관리 | 5 조율 |
|---|---|---|---|---|---|
| 정의와 경계 | 사람마다 WIP를 개인적인 방식으로 셈 | 일부 팀이 보드의 경계를 적어 둠 | 대기 상태와 작업 상태를 분리한 하나의 서면 경계와 상태 어휘 | 경계 변경을 기록하고 리틀의 법칙 점검을 매월 실행함 | 경계를 공급업체 및 파트너 팀과 맞추고 결정에 정보를 주지 못하면 개정함 |
| WIP 제한과 여유 | 제한 없음, 모두 바쁨 | 한 열에 비공식 제한 | 초과 로그와 명시된 부하 범위가 있는 시스템 전체 및 단계 제한 | 주기적으로 사이클 타임과 대기열 증거로 제한을 조정함 | 단계를 공유하는 팀 간에 제한과 용량을 조율함 |
| 대기열 가시성 | 불평으로만 기다림을 앎 | 일부 보드에서 대기열 길이를 셈 | 단계별 대기열 시간 백분위수를 소유 팀에 보여 줌 | 대기열 순증가를 방호책과 함께 추세로 보고 자금이 투입된 작업으로 행동함 | 공유 및 외부 단계의 대기열 시간을 고객 및 공급업체에 공개적으로 보고함 |
| 결정에서의 활용 | 용량 요청을 일화로 논쟁함 | 인력을 정당화하려고 가동률을 인용함 | 계획에 대기열과 사이클 타임 증거를 사용함 | 거버넌스 검토에서 수요와 용량의 상충 관계를 데이터로 결정함 | 대기 시간 분포를 사용해 고객과 함께 수요를 조형함 |
체크리스트
- WIP의 시스템 경계가 시작 및 종료 상태와 제외 항목과 함께 적혀 있다.
- 대기 상태와 작업 상태가 워크플로에서 별개의 상태이다.
- 일일 WIP 및 대기열 스냅샷을 수집해 보관한다.
- 대기열 시간을 단계별로 중앙값과 높은 백분위수로 보고한다.
- 도착과 출발을 누적 흐름도와 함께 주간으로 차트로 그린다.
- 시스템과 대기열이 늘어나는 모든 단계에 WIP 제한이 있다.
- 제한 초과를 이유와 함께 기록하고 매주 검토한다.
- 정책이 긴급 처리 작업을 정의하고 동시 진행 수를 제한한다.
- 팀 부하 비율은 방법을 밝혀 팀 수준으로 추정하며 사람별로는 절대 하지 않는다.
- 리틀의 법칙 점검을 매월 실행하고 불일치를 조사한다.
- 보류 및 차단 상태를 세고 경과 시간을 검토한다.
- 경계, 상태, 제한의 모든 변경을 날짜와 이유와 함께 기록한다.
AI 프롬프트
WIP 집계 뒤의 경계와 상태를 점검합니다.
[팀 또는 서비스]의 진행 중인 작업을 정의하려 합니다. 우리 워크플로 상태는
[각각 한 줄 의미가 있는 상태 목록]이며, 다음 항목은 제외합니다: [제외 항목].
어떤 상태가 진행 중으로 셈하고, 어떤 상태가 대기이고, 어떤 상태가 차단인지의
모호함을 찾아 주세요. 경계와 더 깔끔한 상태 목록을 제안하고, 그 변경이 WIP
숫자에 무엇을 할지 말해 주세요. 우리 도구가 어떻게 설정되어 있는지 추측하거나
기준 값을 지어내지 마세요. 가정한 내용과 내가 답해야 할 질문을 나열해 주세요.
리틀의 법칙 일관성 점검을 실행합니다.
[기간] 동안 [팀 또는 서비스]의 데이터입니다. 평균 WIP [값], 일일 출발 [값],
일 단위 평균 사이클 타임 [값]이며 경계는 [경계 설명]을 사용했습니다. 평균 WIP를
출발 곱하기 사이클 타임으로 나눈 비율을 계산하고, 이 경계에서 불일치가 무엇을
뜻할 수 있는지 설명해 주세요. 보류된 항목, 시작하지 않고 닫힌 항목, 불안정한
기간이 그 예입니다. [트래커 또는 ITSM 도구]에서 할 수 있는 점검을 제안해
주세요. 수치나 임계값을 지어내지 마세요. 가정한 내용을 나열해 주세요.
첫 WIP 제한 실험을 계획합니다.
우리 팀은 [팀 규모와 역할]이며 [작업 유형]을 합니다. 현재 평균 WIP는 [값]이고
단계는 [단계 목록]이며 가장 긴 대기열은 [단계]입니다. WIP 제한을 도입하는
시간 제한 실험 초안을 작성해 주세요. 가설, 시도할 제한과 이유, 관찰할 측정치
(방호책 최소 하나 포함), 예외로 인정할 것, 검토 날짜를 포함해 주세요. 보편적으로
맞는 제한이나 기준 값을 제시하지 마세요. 가정한 내용과 위험을 나열해 주세요.
단계 데이터에서 병목 가능성이 높은 곳을 찾습니다.
[팀 또는 서비스]에 대해 [기간] 동안 단계별 대기열 시간과 WIP는 다음과 같습니다:
[단계, 대기열 시간 중앙값, 대기열 시간 85번째 백분위수, 기다리는 항목, 용량
메모의 표]. 단계를 제약 후보로 순위 매기고, 근거를 쉬운 말로 설명하고, 최상위
후보에 대한 저비용 실험 하나와 그것이 효과가 있음을 보여 줄 측정치 하나를
제안해 주세요. 데이터나 기준 값을 지어내지 마세요. 가정한 내용과 순위를 바꿀
수 있는 추가 데이터를 나열해 주세요.
AI 스킬
- 서비스 관리 지표 스킬: 추가하려는 흐름 또는 용량 측정치를 정의하는 주제와 그 옆에 있어야 할 방호책을 찾을 때 사용합니다.
- 서비스 관리 지표 유지보수 스킬: 편집한 지표가 시계, 경계, 악용 방식, 방호책을 명시하는지 확인할 때 사용합니다.
핵심 정리
- 기다림이 경과 시간을 지배하므로 WIP, 대기열 길이, 단계별 대기열 시간을 측정하고 중앙값과 높은 백분위수를 보고하십시오.
- 리틀의 법칙은 평균 WIP, 처리량, 사이클 타임을 묶어 주므로 정의가 일관된지 확인하는 빠른 시험이 됩니다.
- 가동률이 완전 용량에 가까워질수록 지연이 가파르게 커지므로, 수요가 변동하는 곳에는 여유를 계획하십시오.
- 시스템 전체에 WIP를 제한하고, 초과를 대화의 촉구로 다루고, 제한 아래에 머물려고 일의 이름을 바꾸는 것을 경계하십시오.
- 도착과 출발을 지켜보십시오. 주마다 늘어나는 대기열은 용량이나 수요에 대한 결정이 필요합니다.
- 팀과 서비스를 측정하고 개인은 절대 측정하지 마십시오. 숫자를 비교하기 전에 서면 경계 하나에 합의하십시오.
참고 문헌과 더 읽을거리
- Little, J. D. C., "A Proof for the Queuing Formula: L = λW," Operations Research, 9(3), 1961.
- Reinertsen, D. G., The Principles of Product Development Flow: Second Generation Lean Product Development, Celeritas Publishing, 2009.
- Anderson, D. J., Kanban: Successful Evolutionary Change for Your Technology Business, Blue Hole Press, 2010.
- Vacanti, D. S., Actionable Agile Metrics for Predictability: An Introduction, Daniel S. Vacanti, Inc., 2015.
- Goldratt, E. M., and Cox, J., The Goal: A Process of Ongoing Improvement, North River Press, 1984.
- Hopp, W. J., and Spearman, M. L., Factory Physics, 3rd edition, Waveland Press, 2011.
- Kleinrock, L., Queueing Systems, Volume 1: Theory, Wiley, 1975.
- Forsgren, N., Humble, J., and Kim, G., Accelerate: The Science of Lean Software and DevOps, IT Revolution, 2018.
- Beyer, B., Jones, C., Petoff, J., and Murphy, N. R. (eds.), Site Reliability Engineering: How Google Runs Production Systems, O'Reilly Media, 2016, https://sre.google/sre-book/table-of-contents/
- Wikipedia, Work in process.
- Wikipedia, Queueing theory.
- Wikipedia, Little's law.
- Wikipedia, Kingman's formula.
- Wikipedia, Theory of constraints.
- Wikipedia, Bottleneck (production).
- Wikipedia, Lean software development.
- Wikipedia, Cumulative flow diagram.