AI가 일상적인 서비스 장애를 해결할수록 엔지니어는 정작 큰 장애에 대처할 기회를 잃는다. 링크드인(LinkedIn)에서 사이트 신뢰성 엔지니어(SRE)로 일했던 실뱅 칼라슈(Sylvain Kalache)는 경보를 분석하고 수정까지 수행하는 AI 도구의 발전을 반기면서도, 사람이 시스템을 익히는 과정이 사라진다고 경고한다. 그가 제안한 해법은 AI의 판단을 지켜보는 데 그치지 않고, 낯선 장애를 직접 조사하고 대응하는 훈련이다.
핵심 요약
- AI 기반 장애 대응 도구는 경보 분석부터 수정까지 맡을 수 있지만, 엔지니어가 일상적인 장애를 통해 시스템을 익힐 기회도 줄인다.
- 칼라슈는 자동화로 일반적인 장애의 평균 복구 시간은 짧아져도, 사람이 넘겨받는 복잡한 장애의 해결 시간은 길어질 수 있다고 본다.
- 항공업계의 반복 훈련을 참고한 장애 시뮬레이션은 드문 고위험 상황에서 조사와 소통을 연습하는 방법으로 제시됐다.
- AI에게 해결 과정을 설명받는 일은 도움이 되지만, 칼라슈는 직접 판단하고 대응하는 연습을 대신하지 못한다고 강조한다.
- 토론에서는 훈련의 필요성에 공감하면서도 기업의 투자 유인, 항공업계와의 차이, AI를 활용하는 방식에 대한 이견이 나왔다.
2012년의 시제품이 현실이 되다
칼라슈는 2012년 링크드인에서 일할 때 과거 장애를 학습하고 스스로 문제를 고치는 시스템을 설계했다. 당시 AI 성능으로는 시제품에 머물렀지만, 그가 그렸던 업무 흐름은 이제 실제 도구에서 볼 수 있게 됐다. AI는 경보를 살피고 원인을 가정한 뒤, 시스템 상태를 보여 주는 관측 데이터와 최근 배포 내역을 대조한다. 경우에 따라서는 문제를 고칠 변경 사항까지 직접 만든다.
밤중에 발생한 용량 문제를 AI가 처리해 준다면 엔지니어가 잠에서 깨지 않아도 된다. 칼라슈도 이런 진전을 긍정적으로 평가한다. 다만 그의 관심은 처리된 장애의 수보다, 그 과정에서 사람이 무엇을 배우지 못하게 되는지에 있다. 평범한 장애는 당직자가 시스템이 정상적으로 움직이는 방식과 고장 나는 방식을 비교적 낮은 위험 속에서 익히는 기회이기 때문이다.
자동화가 남기는 가장 어려운 장애
칼라슈가 우려하는 상황은 AI가 처음 보는 심각한 장애 앞에서 멈췄을 때다. 그때 대응을 넘겨받은 엔지니어는 예전보다 일상적인 장애를 다뤄 본 경험이 적을 수 있다. 도구가 자주 발생하는 문제를 잘 해결할수록, 사람이 직접 조사할 기회는 드물고 어려운 사례에 집중된다. 쉬운 일을 덜 하게 된 사람이 어려운 일을 더 잘해야 하는 역설이다.
그는 이를 인간 요인 연구자 리잔 베인브리지(Lisanne Bainbridge)가 1983년 논문에서 설명한 ‘자동화의 아이러니’와 연결한다. 베인브리지는 자동화가 운영자의 반복 업무 연습을 줄이면서도 새롭고 비정상적인 상황의 책임은 사람에게 남긴다고 봤다. 그래서 자동화 이후의 운영자에게는 이전보다 높은 숙련도와 더 많은 훈련이 필요하다고 주장했다. 칼라슈는 AI 덕분에 대다수 장애의 평균 복구 시간(MTTR)은 줄더라도, 복잡한 장애를 해결하는 시간은 오히려 늘어날 것으로 예상한다.
이 전망의 핵심은 AI가 장애를 잘못 처리한다는 주장이 아니다. AI가 평소의 문제를 성공적으로 처리하는 동안, 사람이 시스템과 접촉하는 빈도가 줄어든다는 데 있다. 복잡한 장애에서는 관측값만 읽는 것으로 부족하고, 평소 시스템이 어떻게 반응하는지에 대한 감각도 필요하다. 칼라슈는 그 감각을 쌓을 기회가 자동화와 함께 사라질 수 있다고 본다.
조종사는 드문 고장을 반복해서 연습한다
칼라슈가 참고할 모델로 든 곳은 항공업계다. 항공기의 자동화 장치는 비행의 많은 부분을 맡지만, 엔진 고장이나 계기 오류처럼 자동화가 감당하지 못하는 상황에서는 조종사가 대응해야 한다. 이런 일은 자주 일어나지 않는다. 그가 제시한 수치에 따르면 현대 터빈 엔진의 비행 중 정지 빈도는 엔진 비행 10만 시간당 한 건 미만이다.
드문 고장이라도 대응할 시간은 짧을 수 있다. 칼라슈는 트랜스아시아 항공(TransAsia Airways) 235편 사고를 예로 들며, 이륙 직후 오른쪽 엔진 프로펠러에 문제가 생겼지만 승무원이 상황을 잘못 판단했다고 설명한다. 항공기는 왼쪽 엔진으로 비행을 이어갈 수 있도록 설계됐으나 실속 후 추락했다. 첫 경고부터 추락까지 걸린 시간은 117초였다.
조종사가 이런 상황을 실제 비행에서 반복 경험하기는 어렵다. 대신 항공업계는 시뮬레이터에서 비상 상황을 연습한다. 칼라슈가 소개한 미국 연방항공청(FAA) 규정에 따르면 기장은 이륙 중 엔진 고장 같은 시나리오를 포함한 반복 훈련이나 숙련도 검사를 6개월마다 받아야 한다. 그는 대부분의 소프트웨어 장애가 생명을 위협하지는 않지만, 드문 실패에 대비해 대응 능력을 가다듬어야 한다는 점은 같다고 본다.
전자상거래 장애를 연습장으로 옮기다
칼라슈는 자신이 일하는 장애 관리 기업 루틀리(Rootly)에서 이 구상을 실제 훈련에 적용했다고 소개한다. 루틀리는 업타임 랩스(Uptime Labs)와 협력해 루틀리 아카데미(Rootly Academy)의 장애 시뮬레이션을 만들었다. 참가 엔지니어는 전자상거래 서비스에 장애가 난 상황에서 대응을 지휘한다. 관측 도구로 문제를 조사하는 동시에, 슬랙(Slack)에서 대규모 언어모델(LLM)로 작동하는 관계자들과 소통한다.
훈련에서는 기술적 원인만 찾으면 끝나는 것이 아니다. 참가자는 정보가 부족한 상태에서 조사를 이어 가면서 최고경영자와 고객지원 조직에 상황을 전달하고, 대응 절차도 정리해야 한다. 칼라슈가 연습 대상으로 꼽은 것은 불완전한 단서를 해석하는 능력, 명확한 소통, 사람들의 협력, 그리고 장애 대응 전체를 운영하는 능력이다. 실제 장애가 드물어도 이런 과정을 반복해 볼 수 있게 하는 것이 시뮬레이션의 목적이다.
이 접근은 AI의 역할도 바꾼다. AI가 엔지니어 대신 장애를 끝까지 처리하는 데만 쓰이는 것이 아니라, 엔지니어가 대응을 연습할 환경을 만드는 데도 쓰인다. 칼라슈는 자신이 참여한 시뮬레이션을 이 두 번째 용도의 사례로 제시한다. 자동화가 줄인 경험을 기술을 이용해 다시 마련하자는 제안이다.
설명을 듣는 것과 직접 고치는 것
AI를 훈련 도구로 쓰는 방법은 시뮬레이션만이 아니다. 대응자는 에이전트에게 어떤 순서로 조사했고, 어떤 신호를 확인했으며, 무슨 근거로 진단했는지 물을 수 있다. 칼라슈는 이런 설명이 도움이 될 수 있다고 보면서도 관찰과 실습을 구분한다. 다른 사람이 문제를 푸는 모습을 이해하는 것과 자신이 압박 속에서 판단하는 것은 다른 능력이라는 뜻이다.
그는 자신의 교육 경험도 근거로 든다. 칼라슈는 5년 넘게 프로젝트를 수행하며 배우는 방식의 소프트웨어 공학 학교를 만드는 데 참여했다. 이후 드롭박스(Dropbox)에서 채용한 졸업생들의 문제 해결 경험이 여전히 부족하다는 말을 듣고, 고장 난 인프라를 직접 진단하고 수리하는 과제를 만들었다. 손을 써서 익혀야 하는 기술에는 설명을 듣는 방식보다 직접 해 보는 교육이 효과적이라는 것이 그의 판단이다.
당직 준비에 들어가야 할 장애 시뮬레이션
칼라슈는 LLM이 더 많은 일을 맡을수록 팀에 ‘이해 부채’가 쌓일 수 있다고 표현한다. 시스템이 실제로 작동하는 방식과 대응자가 이해하는 방식 사이의 간격이 커진다는 뜻이다. 엔지니어는 자신이 지키는 시스템을 정기적으로 직접 다루고, 익숙하지 않은 실패와 시간 압박을 경험해야 한다고 그는 주장한다. 가장 심각한 등급의 장애를 뜻하는 SEV0 상황에서 필요한 협력과 소통도 연습 대상이다.
장애 상황을 함께 검토하는 탁상 훈련이나, 의도적으로 장애를 일으켜 복원력을 살피는 카오스 엔지니어링은 새로운 발상이 아니다. 칼라슈의 주장은 LLM이 일상적 대응을 맡는 시대에 이런 훈련의 중요성이 더 커졌다는 것이다. 베인브리지 역시 운영자가 정기적으로 직접 시스템을 통제하고 시뮬레이션으로 숙련도 저하를 막아야 한다고 권했다. 자동화가 성공할수록 사람이 개입해야 하는 순간의 준비 상태를 더 의식적으로 관리해야 한다는 결론이다.
커뮤니티 의견
한 사용자는 AI가 개발자의 문제 해결 능력을 약화시키는 장면을 봤다고 했다. 자신이 해결 방향을 알려 줬는데도 팀이 며칠 동안 클로드(Claude)에 의존하며 한 줄짜리 수정을 찾아내지 못했다는 사례를 들었다. 답글에서는 보안 업무를 배우던 동료가 문제 자체보다 AI 도구의 출력에 집중하면서 이해도가 떨어지는 것 같다는 경험도 나왔다.
훈련의 필요성에는 동의하지만 기업이 시간을 내지 않을 것이라는 의견도 있었다. 이 사용자는 AI 도입 전에도 백업 복원, 재해 복구, 드물게 쓰는 운영 절차를 연습하는 회사가 많지 않았다고 주장했다. 항공업계의 반복 훈련에는 규정이라는 강제력이 있다며, 업계 전반에 훈련을 정착시키려면 전문 자격을 통한 의무화가 필요하다고 봤다. 반면 답글에는 AI 덕분에 인프라를 더 꼼꼼히 확인하게 됐다는 상반된 경험도 실렸다.
다른 사용자는 AI로 같은 시스템을 고칠수록 다음 수정에서도 AI에 의존하게 된다고 말했다. 코드 검토는 하더라도, 개발 단계를 직접 밟을 때 얻는 머릿속에 시스템의 구조를 그려 보는 경험까지 대신해 주지는 못한다는 주장이다. 이어진 의견에서는 AI가 만든 코드를 모두 읽고 이해해야 하는 현재 단계에서는, 때로는 직접 작성하는 편이 더 쉽다는 지적이 나왔다.
코드 작성 경험이 줄어드는 문제를 짚는 의견도 있었다. 한 사용자는 사람이 자율적으로 생성된 코드를 소유하더라도 왜 그렇게 만들어졌는지에 대한 직관은 약해질 수 있다고 봤다. 다만 엔지니어의 판단을 에이전트가 지킬 규칙으로 옮기면 위험을 줄일 수 있다고 제안했다. 답글에서는 일부 기능을 외부 라이브러리처럼 취급하고, 그 사이에서 데이터를 주고받는 규칙과 전체 구조를 사람이 이해하면 된다는 관점도 나왔다.
실제 장애 대응 회의에서 관련 시스템을 잘 모르는 엔지니어에게 AI로 상황을 파악하고 수정을 만들라고 요구했다는 경험담도 나왔다. 이 사용자는 제안된 수정을 거부하면 AI를 활용하지 못하는 사람처럼 보일 수 있어, 엔지니어가 충분히 검토하지 못한 안을 받아들이기 쉽다고 말했다. 그 사례에서는 수정이 전적으로 잘못된 것은 아니었지만 일부 경계 조건에 맞지 않아 나중에 다시 고쳤다고 했다.
항공업계와의 비교가 적절하지 않다는 반론도 있었다. 항공기는 운용 중 시스템이 계속 바뀌지 않고 실패의 결과도 훨씬 치명적인 반면, 소프트웨어의 장애 원인은 매번 다를 수 있다는 주장이다. 이 사용자는 훈련에 쓸 시간을 향후 장애를 줄이는 코드 개선에 쓰는 편이 낫다고 봤다. 답글에서는 조종사도 항공기 설계를 맡지 않듯, 장애 대응자의 역할 역시 모든 근본 원인을 직접 재설계하는 것은 아니라며 비유를 옹호했다.
AI의 능력이 계속 높아진다면 AI도 못 푸는 장애를 사람이 연습만으로 해결하기는 어려울 것이라는 전망도 나왔다. 이 사용자는 경험 많은 SRE라면 AI에 다른 조사 방향을 지시하며 협업할 수 있지만, AI 도입 이후 들어온 인력에게는 그런 직관이 부족할 수 있다고 봤다. 이에 대한 답글에서는 AI의 결과물도 결국 사람이 살펴볼 수 있는 시스템 안에 남으므로, 숙련된 운영자의 조사 능력은 여전히 중요하다는 반박이 제기됐다.
또 다른 사용자는 목표가 사람을 과정에서 빼는 자동화가 아니라, 사람이 AI를 배치하고 활용하는 협업 방식이어야 한다고 주장했다. 사람의 활동과 판단이 줄어드는 구조에서는 AI가 더 많은 일을 하더라도 대응자의 주도권이 약해진다는 이유다. 이 관점은 AI를 쓸지 말지보다, 사용 중에도 누가 시스템을 이해하고 결정을 내리는지가 중요하다는 질문을 남긴다.
살펴볼 점
칼라슈의 제안은 AI가 처리한 장애를 다시 사람에게 맡기자는 이야기가 아니다. 자동화로 얻은 빠른 복구와 야간 대응의 이점을 유지하면서, 사람이 시스템을 직접 조사할 기회를 별도로 설계하자는 주장이다. 다만 토론이 보여 주듯 훈련은 필요성을 인정받는 것만으로 정착하지 않는다. 지켜볼 것은 팀이 시뮬레이션을 당직 준비에 실제로 포함하는지, 그리고 AI가 만든 수정의 근거를 사람이 설명하고 검토할 수 있는지다.
원본: AI handles incidents, engineers lose touch with their systems
토론: Hacker News