AI가 오래 방치된 소프트웨어 오류를 실제 서버 침해로 이어질 수 있는 취약점으로 바꾸는 속도를 높이고 있다. IEEE 스펙트럼(IEEE Spectrum)의 디나 겐키나(Dina Genkina)는 PHP2Shell을 통해 이 변화를 짚었다. 연구자들이 공격자보다 먼저 취약점을 찾아 패치를 내놓았지만, 단순한 프로그램 충돌로 여겨졌던 오류가 서버의 데이터 유출과 악성 코드 실행으로 이어질 수 있다는 사실이 드러났다. 핵심은 AI가 버그를 찾는 속도만큼, 널리 쓰이는 소프트웨어를 고칠 인력과 자원도 늘릴 수 있느냐다.
핵심요약
- PHP2Shell은 여러 웹사이트를 위험에 노출했지만, 보안 연구자들이 먼저 발견하고 PHP 재단에 알려 패치가 배포됐다.
- 2024년에 보고된 메모리 오류는 AI 도구를 활용한 조사에서 서버의 임의 코드 실행으로 이어질 수 있는 취약점으로 재평가됐다.
- 취약점 발견에는 약 2주가 걸린 반면, 엔지니어 네 명이 기존 기능을 지키며 패치를 만드는 데는 두 달이 걸렸다.
- 전문가들은 AI가 보안 연구자의 조사 범위를 넓힌다고 보면서도, 같은 도구가 공격자에게 주는 이점도 경계한다.
- 토론에서는 AI가 오래된 기술 부채를 줄일지, 새로운 코드를 계속 고쳐야 하는 부담을 만들지를 두고 의견이 갈렸다.
패치가 먼저 도착한 PHP2Shell
10월 말 드러난 여러 보안 문제 가운데 PHP2Shell은 파급 범위가 큰 사례였다. 기사에서는 NASA와 위키피디아(Wikipedia), 백악관 웹사이트를 비롯해 워드프레스(WordPress)나 드루팔(Drupal)을 사용하는 사이트들이 위험에 놓였다고 설명한다. 가능한 피해는 민감한 정보의 열람과 서버에서의 악성 코드 실행이다. 위험에 노출됐다는 말은 해당 사이트들이 실제로 침해됐다는 뜻은 아니다.
이번에는 보안 연구자들이 공격자보다 앞섰다. 연구자들은 취약점을 PHP 재단(PHP Foundation)에 알렸고, 악의적인 공격자가 이를 확보하기 전에 패치가 배포됐다. 알려진 범위에서는 큰 피해를 피한 셈이다. 다만 톨모(Tolmo)의 AI 보안 연구 책임자 맷 스위시(Matt Suiche)는 지난 40년간 사람이 작성한 오래된 소프트웨어의 약점이 드러나고 있다며, 그동안 미뤄 온 기술 부채를 갚아야 할 때라고 말했다.
2024년에 접수된 충돌 오류
PHP는 1994년에 만들어진 프로그래밍 언어로, 이름은 원래 ‘개인 홈페이지’를 뜻했다. 지금도 오래된 웹사이트에서 널리 쓰인다. PHP2Shell의 바탕이 된 버그는 이미 2024년 PHP 재단에 보고됐다. 당시에는 보안 사고보다 프로그램 충돌을 일으키는 오류에 가까운 문제로 취급됐다.
기사의 설명에 따르면 이 버그는 데이터에 배정된 메모리가 충분하지 않을 때 발생하는 메모리 부족 오류와 관련돼 있다. 이런 오류는 보통 프로그램을 멈추게 해 불편을 주지만, 그 자체로 서버 장악을 뜻하지는 않는다. 그래서 보고된 뒤에도 수정되지 않은 채 남았다. 컬럼비아대(Columbia University)의 컴퓨터과학 부교수 수만 자나(Suman Jana)는 이처럼 충돌만 일으키는 버그 보고가 어느 시점에나 쌓여 있으며, 대개 심각하게 받아들여지지 않는다고 설명했다.
2주 만에 달라진 취약점의 등급
올해 보안 업체 캘리프(Calif)는 오픈AI(OpenAI)의 후원을 받아 PHP를 독립적으로 점검하겠다고 제안했다. 캘리프의 연구자는 AI 도구의 도움을 받아 2주 안에 기존 메모리 오류를 서버의 임의 코드 실행으로 연결하는 방법을 찾아냈다. 공격자가 이를 이용하면 악성 코드를 설치하거나 중요한 데이터를 읽을 수 있었다. 단순한 충돌 오류로 남아 있던 버그가 긴급히 고쳐야 할 취약점으로 바뀐 순간이다.
캘리프 팀은 발견 내용을 PHP 재단에 알리고 즉각적인 패치 작업을 요청했다. 오픈AI와 보안 업체 위즈(Wiz)도 취약점을 확인하고 조사 범위를 넓혔다. 여기서 AI가 한 일은 없던 버그를 새로 만든 것이 아니라, 알려진 오류가 어떤 조건에서 위험한 공격 경로가 되는지 찾는 작업을 도운 것이다. 이미 접수된 버그라도 악용 가능성이 확인되면 우선순위가 완전히 달라진다는 점이 이번 사례의 특징이다.
공격 경로를 좁혀 간 AI와 전문가
자나의 설명대로라면 이 버그를 실제 공격에 쓰려면 서버에서 실행 중인 특정 프로그램의 메모리 위치를 찾아야 한다. 이어 시스템의 제어권을 얻기 위해 어느 부분을 어떤 순서로 덮어쓸지도 계산해야 한다. 각각이 별개의 판단을 요구하는 까다로운 작업이다. 자나는 AI가 바로 이런 세밀한 추론을 수행하는 데 좋은 성과를 냈다고 평가했다.
그렇다고 AI 혼자 취약점을 발굴하고 입증했다는 이야기는 아니다. 캘리프와 오픈AI, 위즈의 연구자들은 보안과 PHP에 깊은 지식을 갖고 있었다. 자나는 AI가 모든 일을 스스로 할 수는 없다고 분명히 말했다. 다만 최상위 전문가가 더 많은 문제를 조사하고, 그 바로 아래 수준의 연구자도 이전보다 복잡한 분석에 도전할 수 있게 된다고 봤다.
네 명이 두 달간 붙든 패치
공격 경로를 찾아낸 뒤에는 엔지니어 네 명이 두 달 동안 패치를 개발했다. 자나는 버그를 찾는 일과 고치는 일 사이에 근본적인 비대칭이 있다고 설명했다. 수정할 때는 알려진 공격 경로를 빠짐없이 막아야 할 뿐 아니라, 기존에 작동하던 기능도 망가뜨리지 않아야 한다. 취약점 하나를 보여 주는 일보다 수정안이 안전하게 작동하는지 확인하는 일이 더 넓은 범위를 다루는 셈이다.
이 차이는 공격자와 방어자에게 주어진 부담을 다르게 만든다. 공격자는 작동하는 경로 하나를 찾으면 되지만, 유지보수 담당자는 수정 뒤에도 소프트웨어 전체가 제대로 돌아가는지 살펴야 한다. PHP처럼 사용 범위가 넓은 오픈소스 소프트웨어에는 특히 무거운 과제다. AI가 발견 속도를 높일수록 패치를 만들고 검토할 사람에게 일이 더 빨리 쌓일 수 있다.
널리 쓰이는 코드와 부족한 유지 자원
기사에서는 널리 쓰이면서도 뚜렷한 수익원이 없는 오픈소스 프로젝트의 유지보수가 AI 이전부터 어려운 문제였다고 짚는다. AI 보안 도구는 그 문제를 새로 만든 것이 아니라 더 시급하게 드러냈다. 자나는 방어자에게 더 많은 자금과 높은 성능의 보안 AI 모델을 제공해야 한다고 주장했다. 도구를 쓸 수 있는 자원까지 포함해 방어 역량을 키워야 한다는 뜻이다.
자나는 최첨단 AI 모델을 개발하는 연구소들이 버그 조사에 사용할 토큰 예산 일부를 기부하는 움직임도 언급했다. 그는 이런 지원이 기부나 공동의 노력으로 더 늘어나야 한다고 봤다. 취약점 탐색이 빨라져도 패치를 담당할 프로젝트의 자원이 그대로라면 작업 속도 차이는 줄어들기 어렵다. PHP2Shell에서 두 주와 두 달로 갈린 조사·수정 기간은 그 격차를 구체적으로 보여 준다.
AI가 만든 패치를 누가 검증하나
자나는 패치 작업에도 AI와 형식 검증(수학적 규칙에 따라 프로그램의 성질을 확인하는 방식)을 결합할 수 있다고 기대했다. 그가 소개한 방식은 대규모 언어 모델(LLM)이 패치를 만들고, 또 다른 단계에서 그 패치가 올바르다는 증명을 생성하는 것이다. 마지막으로 증명이 성립하는지 확인하는 검사기는 LLM에 맡기지 않는다. LLM이 그럴듯하지만 틀린 결과를 낼 수 있기 때문에 검증 단계에는 형식적인 확인 절차가 필요하다는 설명이다.
자나는 10월 22일 공개된 앤트로픽(Anthropic)의 새 도구도 이런 발전의 사례로 들었다. 그의 기대는 취약점 발견만큼이나 패치 작성과 검증도 자동화하는 데 있다. 하지만 가능성을 보여 주는 도구와 널리 쓰이는 소프트웨어의 수정 부담을 실제로 덜어 주는 체계는 구별해야 한다. AI가 낸 수정안이 기존 기능을 지키는지까지 확인하는 과정이 관건이다.
다음 취약점보다 먼저 업데이트하기
존스홉킨스대(Johns Hopkins University) 정보보안연구소의 매슈 그린(Matthew Green)은 낙관하지 않았다. 그는 일반인도 분노할 만큼 큰 사고가 벌어져야 충분한 자금과 관심이 모일 것이라고 전망했다. PHP2Shell은 그런 변화를 끌어낼 정도의 재난은 아니었다는 게 그의 판단이다. 그린은 큰 사고가 2027년 초쯤 일어날 수도 있다고 예상했지만, 이는 어디까지나 그의 전망이다.
그린이 당장 권한 행동은 소프트웨어 업데이트다. 휴대전화에 보안 업데이트 알림이 뜬다면 다음 주까지 미루지 말고 설치하라는 조언이다. 자나 역시 PHP2Shell이 마지막 사례는 아닐 것이라고 봤다. 그가 바라는 것은 다음 취약점도 이번처럼 악의적인 공격자보다 선의의 보안 연구자가 먼저 찾아내는 일이다.
커뮤니티 의견
한 사용자는 AI를 이용한 조사가 국가기관이나 기업 스파이 업체가 숨겨 둔 제로데이(수정 패치가 준비되기 전에 악용될 수 있는 취약점)까지 우연히 찾아내길 바란다고 했다. 당장은 패치해야 할 취약점이 늘어 답답해도, 장기적으로는 소프트웨어가 더 튼튼해질 수 있다는 기대다. 답글에서는 오래된 취약점의 원인을 단순한 기술 부채만으로 설명할 수 없다는 주장도 나왔다.
다음 사용자는 기술 부채를 ‘갚는다’는 표현 자체에 의문을 제기했다. 작은 오류는 좁은 범위의 패치로 끝나지만, 구조를 바꿔야 하는 수정은 새 문제를 만들 수 있다는 이유에서다. AI가 완벽한 코드를 만들지 못한다면 보안 개선은 일회성 청산보다 끝없는 수정 작업에 가까워질 수 있다고 봤다.
세 번째 사용자는 오픈소스 코드가 공개돼 있다는 사실만으로 누군가 충분히 감사했을 것이라 믿는 분위기를 지적했다. AI를 이용한 점검이 그동안 말로만 기대했던 외부 감사를 실제로 늘릴 수 있다는 주장이다. 답글에서는 기업이 오픈소스로 큰 사업을 운영하면서 유지보수에 투자하지 않는 관행도 돌아봐야 한다는 의견이 나왔다.
또 다른 사용자는 완벽하게 깨지지 않는 코드를 만들 수 있느냐고 물었다. 답글에서는 특정 시스템의 안전성을 증명하는 것과 모든 소프트웨어에 통용되는 증명 방법을 갖는 것은 다르다고 구분했다. 이 논의는 패치를 검증하는 도구가 발전하더라도 무엇을 안전하다고 증명하는지 명확히 해야 한다는 질문으로 이어진다.
다섯 번째 사용자는 AI가 버그를 대거 드러내는 시기를 지나면 소프트웨어가 이전보다 안전해질 것이라고 낙관했다. 반론은 그 과정이 잠깐의 소란으로 끝날지 알 수 없다는 데 집중됐다. 다음 세대의 AI가 새 취약점을 계속 찾아낸다면 수정과 발견의 경쟁이 지속될 수 있다는 의견이다.
여섯 번째 사용자는 PHP2Shell을 이번 취약점 흐름의 대표 사례로 삼는 데 이의를 제기했다. 다른 취약점의 경과를 예로 들며, 사람이 문제를 알고도 수정하거나 배포하기까지 오래 걸리는 현실 역시 중요하다고 주장했다. AI의 발견 속도뿐 아니라 이미 확인된 문제를 처리하는 과정도 살펴야 한다는 관점이다.
일곱 번째 사용자는 AI가 오래된 기술 부채를 줄이는 동시에 새 기술 부채를 만들고 있다고 우려했다. 작성된 코드를 충분히 이해하는 사람이 없는 채 기계의 결과를 믿게 될 수 있다는 이유다. 답글에서는 이를 개발자가 기존에도 의존해 온 추상화 계층에 비유하며, 새로운 도구를 어떻게 검토하며 쓸지가 중요하다는 견해도 나왔다.
여덟 번째 사용자는 AI 덕분에 코드베이스에 쌓인 5~7년치 기술 부채를 다룰 수 있었다고 했다. 조사와 테스트에 들던 시간을 줄이되, 마지막에는 적절한 테스트를 거쳐 수정 결과를 직접 확인한다는 설명이다. 반면 답글에서는 AI가 고친 문제보다 더 많은 새 문제를 만들 수 있다며 그 순효과를 의심했다.
핵심통찰
PHP2Shell이 바꾼 것은 버그의 존재가 아니라 버그를 바라보는 시간표다. 2024년에 보고된 충돌 오류가 AI의 도움을 받은 조사로 심각한 공격 경로가 되기까지는 짧은 시간이 걸렸고, 안전하게 고치는 데는 엔지니어 네 명의 두 달이 필요했다. 앞으로 지켜볼 것은 AI가 취약점을 몇 개 더 찾느냐만이 아니다. 오픈소스 유지보수에 투입되는 자원, AI가 만든 패치의 검증 방식, 그리고 발견부터 배포까지 걸리는 시간이 함께 개선되는지가 보안 수준을 가를 것이다.
원본: PHP2Shell and AI Put Half the Internet on Edge
토론: Hacker News