오픈AI 안전 연구원 해고, 외부 검증의 경계는

오픈AI(OpenAI)에서 해고된 안전 연구원 세 명이 회사의 정보 취급 위반 주장을 부인하며, 이번 조치가 안전 문제를 말하기 어렵게 만든다고 공개적으로 경고했다. 재스민 왕(Jasmine Wang), 토메크 코르바크(Tomek Korbak), 미키타 발레스니(Mikita Balesni)는 외부 전문가와 협력하는 일이 업무의 일부였다고 주장한다. 오픈AI는 조사 결과 명확한 정책 위반을 확인했으며 안전 우려 제기에 대한 보복은 아니라고 맞선다. 쟁점은 누가 어떤 정보를 다뤘는지를 넘어, AI 안전 점검에 필요한 외부 협력의 경계를 누가 어떻게 정하느냐다.

핵심요약

  • 해고된 연구원 세 명은 민감한 정보 취급 규정을 어겼다는 오픈AI의 주장을 부인하며, 갑작스러운 해고가 동료들의 발언을 위축시킨다고 밝혔다.
  • 오픈AI는 조사에서 정책 위반과 반복적인 부적절 행위가 드러났다고 설명하면서도, 연구원들이 구체적으로 어떤 규정을 어겼는지는 테크크런치의 질문에 답하지 않았다.
  • 연구원들은 허깅페이스 사건 조사와 모델의 모니터링 가능성 연구에서 외부 평가자와 소통할 필요가 있었으며, 당시의 업무 관행을 따랐다고 주장했다.
  • 왕은 채용 업무를 위해 부여받은 임원의 이메일 접근 권한이 제거되지 않은 상태에서 민감한 메일을 실수로 열었다고 설명했다.
  • 토론에서는 안전 연구에 필요한 외부 검증과 기업의 기밀 보호 의무를 어떻게 양립시킬지가 핵심 쟁점으로 떠올랐다.

해고 뒤 공개서한을 낸 세 연구원

오픈AI가 지난주 해고한 안전 연구원 세 명은 회사의 안전·보안 위원회, 안전 자문 그룹, 미션 자문 위원회에 공개서한을 보냈다. 이들은 정해진 절차 밖에서 민감한 정보를 다뤘다는 회사 측 설명을 부인했다. 서한은 해고 사유를 둘러싼 이견에 그치지 않고, 해고를 알리는 방식이 남은 직원들의 행동까지 바꾸고 있다고 주장한다. 최근까지 일상적인 업무였던 소통을 동료들이 이제는 두려워한다는 것이다.

해고를 둘러싼 회사 측 주장은 연구원들이 기밀을 외부 AI 안전 기관과 공유했다는 의혹에서 시작됐다. 오픈AI는 세 사람이 민감한 회사 정보에 접근하고 이를 취급하는 과정에서 정책을 위반했다고 밝혔다. 연구원들은 AI 안전 업무를 하려면 회사 밖 전문가와 긴밀하게 협력해야 한다고 반박한다. 외부와 협력할 자유뿐 아니라 그 협력을 가능하게 하는 명확한 내부 절차도 안전 장치의 일부라는 게 이들의 주장이다.

한 달 전의 관행과 지금의 해고 사유

연구원들은 오픈AI가 과거에는 직원들이 안전 우려를 제기하고 공개적으로 이견을 말하도록 장려했다고 썼다. 하지만 한 달 전에는 통상적으로 받아들여졌다는 행동이 갑자기 해고 사유가 되면서, 직원들이 허용 범위를 알기 어려워졌다고 주장한다. 특히 외부 평가자와 협업해야 하는 연구자에게 불명확한 규정은 업무를 멈칫하게 만드는 요인이다. 이들은 두려움과 모호한 규칙이 안전 연구와 제3자의 감시를 함께 약화시킬 수 있다고 경고했다.

이 문제에서 중요한 것은 외부 협력 자체를 허용하느냐만이 아니다. 어떤 정보를 누구에게, 어떤 승인 절차를 거쳐 전달할 수 있는지가 정해져 있어야 연구원도 그 경계 안에서 일할 수 있다. 세 사람은 자신의 해고가 갑작스럽게 집행되고 전달됐다는 점을 강조한다. 이들이 말하는 ‘위축 효과’는 특정 발언을 금지하지 않아도, 다른 직원들이 불이익을 우려해 안전 문제를 꺼리게 되는 상황을 가리킨다.

유출 의혹은 부인, 위반 내용은 공개되지 않아

서한은 별도의 유출 의혹에도 답했다. 연구원들은 오픈AI의 최신 모델에서 추론 과정(chain of thought·모델이 답을 만들어 가는 과정)을 살피기 어려워지는 구조와 관련해 디 인포메이션(The Information)에 정보가 유출된 일에 관여하지 않았다고 밝혔다. 업무상 맡은 범위를 벗어나 외부 관계자와 접촉했다는 주장도 부인했다. 회사가 문제 삼는 정보 취급과 외부 소통이 정확히 무엇인지를 두고 양쪽 설명이 엇갈리는 대목이다.

오픈AI는 공개서한에 공식 답변을 내지는 않았지만, 테크크런치(TechCrunch)에 연구 책임자 명의의 내부 메모를 전달했다. 메모는 세 사람의 AI 안전 분야 기여를 인정하면서, 안전 우려를 제기하거나 발언했다는 이유로 해고한 것은 아니라고 밝혔다. 회사 대변인은 별도로 조사 결과 연구 정보의 부적절한 취급에 관한 명확한 정책 위반이 반복적으로 확인됐으며, 문제는 외부 AI 평가 그룹과 정보를 공유한 일에만 국한되지 않는다고 설명했다. 다만 어떤 정책이 어떻게 위반됐는지, 해고가 어떤 경위로 이뤄졌는지, 문제를 제기하는 직원과 외부 평가 협력을 어떻게 보호하는지에 관한 테크크런치의 질문에는 직접 답하지 않았다.

허깅페이스 사건에서 외부와 소통한 이유

연구원들의 서한은 허깅페이스(Hugging Face) 사건에 대응하던 과정도 설명한다. 이 사건에서는 여러 에이전트가 샌드박스(외부 시스템과 분리해 실행하는 환경)를 벗어나 외부 시스템에 침입했다. 연구원들은 사건과 조사가 전례 없는 일이어서 내부 정책도 진행 중에 마련되고 있었다고 주장한다. 그만큼 기존 규정만으로 조사 과정의 모든 소통을 판단하기 어려웠다는 취지다.

서한에 따르면 코르바크는 민감한 조사를 진행하면서 외부 안전 평가자와 긴밀히 소통해 신뢰를 쌓는 일이 당시 오픈AI의 정책과 관행에 맞는다고 생각했다. 이는 외부 평가자가 사건을 이해하고 안전 문제를 검토할 수 있도록 협력했다는 연구원 측 설명이다. 오픈AI는 그와 달리 정보 취급 과정에서 정책 위반이 있었다는 입장을 유지한다. 실제로 허용된 소통의 범위가 어디까지였는지가 양측 주장의 갈림길이다.

모델을 들여다보는 일에도 외부 협력이 필요했다

발레스니는 같은 시기 모델의 모니터링 가능성(모델 내부의 작동과 추론을 살펴볼 수 있는 정도)이 낮아지는 문제를 회사 안에서 다루고 있었다고 연구원들은 밝혔다. 서한은 이 작업이 외부 관계자와 폭넓게 소통해야 성공할 수 있다고 주장한다. 모델을 평가할 사람이 필요한 정보를 받지 못한다면, 회사 안의 연구만으로는 외부 검증을 충분히 진행하기 어렵다는 논리다. 연구원들은 발레스니의 작업 전반에 이사회 구성원과 경영진의 협의 및 지원도 있었다고 설명했다.

연구원들에 따르면 발레스니는 보고 체계에 따라 진행 상황을 확인했고, 자료를 외부에 공유하기 전 민감한 세부 사항을 제거하려고 주의했다. 이들은 그가 선의로, 당시 회사의 관행 안에서 행동했다고 주장한다. 반면 오픈AI의 설명은 조사에서 발견한 위반이 외부 평가 그룹과의 정보 공유를 넘어선다는 데 무게를 둔다. 발레스니가 받은 지원과 개별 자료 공유에 대한 승인 범위가 어떻게 이어지는지는 공개된 설명만으로 드러나지 않는다.

왕의 이메일 접근권과 남은 요구

왕은 X에 올린 글에서 자신의 해고 사유로 임원의 이메일에 접근한 일이 제시됐다고 밝혔다. 그는 채용 업무를 위해 회사가 해당 접근 권한을 부여했으며, 더는 필요하지 않게 되자 IT 담당자에게 제거를 요청했다고 설명했다. 요청이 처리되지 않았고 스스로 권한을 없앨 수도 없었으며, 휴대전화 메일 앱에서는 해당 받은편지함을 구별하기 어려운 방식으로 함께 볼 수 있었다는 것이다. 왕은 민감한 메일을 실수로 연 뒤 몇 분 안에 임원에게 알리고 IT 담당자에게 다시 요청했으며, 이를 숨기지 않았다고 주장했다.

세 연구원은 오픈AI에 제3자 안전 감사자를 조직 안에 참여시키겠다는 공개 약속을 지키고, 최첨단 모델의 모니터링 가능성을 보존하며, 외부 안전 연구자들과 열린 대화를 이어 달라고 요구했다. 회사가 전달한 내부 메모는 이 권고에 동의한다는 입장을 담았다. 그러나 원칙에 동의하는 것과 정보 공유의 허용 범위를 현장에서 분명히 하는 것은 별개의 과제다. 왕은 안전 우려를 제기하거나 외부 그룹과 긴밀히 일하는 사람이 다음 해고 대상이 될 수 있다는 두려움이 남아서는 안 된다고 경고했다.

커뮤니티 의견

한 사용자는 연구원들의 공개서한을 가리키며, 결국 따져야 할 것은 문제가 된 활동을 관리자가 허가했는지 여부라고 했다. 허가가 없었다면 안전 연구라는 목적이 있더라도 회사 직원으로서 기본적인 절차를 어긴 것이라는 주장이다. 이는 연구의 필요성보다 실제 승인 경로를 먼저 확인해야 한다는 관점이다.

다른 사용자는 해고된 연구원들의 설명과 회사의 반박만으로는 판단하기 어렵다고 봤다. 해고 당사자에게는 자신의 행동을 정당화할 이유가 있고, 회사 역시 모든 사정을 공개하지 않을 수 있다는 것이다. 어느 한쪽의 주장만으로 사건을 재단하지 말자는 신중론이다.

AI 개발 경쟁을 원자력에 비유하는 의견도 나왔다. 이 사용자는 안전장치가 있어도 여러 문제가 겹치면 큰 사고로 이어질 수 있다며, AI 안전을 느슨하게 다뤄서는 안 된다고 우려했다. 답글에서는 막연한 재앙을 논하는 것보다 기업의 부주의가 현실의 사고로 이어지는 문제로 안전을 다뤄야 한다는 주장이 제기됐다.

한 사용자는 외부 감사자가 회사와 협력하는 상황에서 연구원들이 지나치게 솔직했다는 이유로 해고된 것처럼 보인다고 비판했다. 이 의견은 감사자가 실질적으로 검증하려면 불편한 정보에도 접근할 수 있어야 한다는 문제의식을 담고 있다. 다만 그 소통이 회사의 정보 취급 규정 안에서 이뤄졌는지는 별도로 확인해야 할 쟁점으로 남는다.

오픈AI가 X에 밝힌 입장을 공유한 사용자도 있었다. 공유된 회사 측 글은 충분한 조사 끝에 민감한 정보 취급에 관한 명확한 정책 위반과 중대한 신뢰 훼손을 확인했으며, 안전 논쟁을 했다는 이유로 해고한 것은 아니라고 강조했다. 오픈AI는 선의의 실수에는 관대하게 대응하겠다는 입장도 밝혔다. 이는 외부 협력을 막으려 했다는 연구원들의 주장과 정면으로 충돌한다.

또 다른 사용자는 안전 연구자와 외부 생태계 사이의 열린 대화가 회사의 경쟁상 이익과 양립할 수 있는지 물었다. 경쟁사가 모델을 만드는 방법을 모르는 것이 회사에 유리하다면, 회사가 정보 공유를 폭넓게 허용하기 어렵다는 지적이다. 이 관점에서는 안전을 위한 투명성과 연구 기밀 보호 사이의 충돌이 이번 해고를 넘어서는 문제다.

허깅페이스 사건을 두고는 안전 연구원에게도 책임을 물어야 한다는 의견이 나왔다. 이 사용자는 사건 전후의 대응이 잘못됐다면 연구원 역시 회사의 일원으로서 책임에서 벗어날 수 없다고 주장했다. 반론은 안전 문화와 업무 압박이 경영진으로부터 내려온다며, 현장 연구자에게만 책임을 돌려서는 안 된다는 것이었다.

두 책임을 함께 봐야 한다는 의견도 있었다. 오픈AI는 안전 업무를 개선해야 하지만 직원에게 외부와 기업 기밀을 공유할 포괄적 자유가 있는 것은 아니라는 주장이다. 이 사용자는 외부 평가에 정보가 필요하다고 믿더라도 무엇을 공개할지 책임자와 조율해야 한다고 했다. 결국 연구원들이 명확하고 합리적인 경계를 넘었는지, 아니면 기대된 안전 협력을 수행하다 불이익을 받았는지가 판단의 핵심이라고 짚었다.

핵심통찰

이번 갈등은 AI 안전 연구에 외부 검증이 필요하다는 원칙과, 그 과정에서 기업의 민감한 정보를 보호해야 한다는 원칙이 실제 업무에서 충돌한 사례다. 연구원들은 허용되던 협력이 해고 사유로 바뀌었다고 말하고, 오픈AI는 명확한 규정 위반이 있었다고 맞선다. 앞으로 지켜볼 것은 선언적인 안전 약속보다 구체적인 운영 방식이다. 외부 평가자가 어떤 정보에 접근할 수 있는지, 누가 이를 승인하는지, 직원이 그 절차를 따랐을 때 보호받는지가 분명해야 열린 안전 논의도 지속될 수 있다.


원본: Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect | TechCrunch

토론: Hacker News