현지 시간 2월 27일, 도널드 트럼프 미국 대통령은 소셜 미디어에 "나는 미국 정부의 모든 연방 기관이 즉시 Anthropic 기술 사용을 중단하도록 지시했다"고 게시했다. 트럼프 대통령은 국방부처럼 다양한 수준에서 Anthropic 제품을 사용하는 기관에 대해서는 6개월의 전환 기간을 부여해 점진적으로 사용을 중단할 것이라고 밝혔다.
"Anthropic은 현명하게 행동하여 중단 과도기에 협조하는 것이 좋을 것이다. 그렇지 않으면 나는 대통령 권한을 총동원해 그들을 굴복시키고 중대한 민사 및 형사 책임을 물을 것이다."
Anthropic은 왜 국방부와 갈등을 빚게 되었나? OpenAI가 국방부의 새 총애를 받게 되었나? AI가 살상 무기가 될 것인가? 관련자들은 이 사건을 어떻게 해석하는가?
국방부는 AI가 "모든 합법적 군사 목적" 아래 사용되길 고집해 왔으며, 이는 더 광범위한 자동화 임무까지 포함한다. 현재 미군 기밀 네트워크에서 운영이 허가된 유일한 첨단 AI 기업인 Anthropic은 국방부가 요구한 AI 활용 제한(특히 무인 개입 자동 무기, 대규모 국내 감시 등) 포기 요구를 거부했다.
2024년부터 Anthropic은 미국 정부와 군에 의해 사용되어 왔으며, 기밀 업무를 수행하는 정부 기관에 자사 도구를 배치한 최초의 첨단 인공지능 기업이다. 지난 1월 베네수엘라 마두로 대통령 체포 작전에서도 Claude가 기여한 것으로 알려졌다.
피터 헤그세스 국방장관은 X(구 트위터)에 글을 올려 앤트로픽을 "오만", "배신", "위선"이라고 맹비난하며 이를 "국가 안보 공급망 위험"으로 지정했습니다.
이번 주 Anthropic사는 오만과 배신의 전형적인 사례를 보여주었으며, 미국 정부나 국방부와 거래하는 방법에 대한 부정적인 교훈을 남겼습니다. 우리의 입장은 결코 흔들리지 않았으며 앞으로도 흔들리지 않을 것입니다: 미국 국방부는 합법적인 공화국 수호 목적에 한해 Anthropic사 모델을 제한 없이 사용할 수 있는 권한을 반드시 보유해야 합니다. 그러나 @AnthropicAI와 그 CEO @DarioAmodei는 위선을 선택했습니다. 그들은 '효과적 이타주의'라는 위선적인 외피를 두르고 미군을 굴복시키려 시도했습니다. 이는 실리콘밸리의 이념을 미국 국민의 생명보다 우선시하는 비겁한 기업 윤리 쇼에 불과합니다. Anthropic사의 결함 있는 이타주의적 '서비스 약관'은 전장에서 미군의 안전, 전투 준비태세, 생명을 결코 초월할 수 없다. 그들의 진정한 목적은 명백하다: 미군 작전 결정에 대한 거부권을 장악하려는 것이다. 이는 용납될 수 없다. 트럼프 대통령이 Truth Social에서 밝혔듯, 우리 군대의 운명은 선출되지 않은 기술 기업 임원이 아닌 삼군 통수권자와 미국 국민만이 결정할 수 있다. Anthropic사의 입장은 미국의 원칙과 근본적으로 양립할 수 없습니다. 따라서 그들은 미군 및 연방 정부와의 관계가 영구적으로 변경되었습니다. 대통령이 연방 정부에 Anthropic의 모든 기술 사용 중단을 지시한 점을 감안하여, 저는 국방부에 Anthropic사를 국가 안보 공급망 위험으로 지정할 것을 지시합니다. 즉시 효력을 발생하여 미군과 업무 관계가 있는 모든 계약업체, 공급업체 또는 협력사는 Anthropic사와 어떠한 상업적 활동도 수행해서는 안 됩니다. Anthropic사는 미국 국방부에 최대 6개월간 서비스를 계속 제공하여 더 우수하고 애국심에 부합하는 서비스로의 원활한 전환을 지원할 것이다. 미국의 전사들은 결코 대형 기술 기업의 이념에 휘둘리지 않을 것이다. 본 결정은 최종 결정이다.
그 영향은 단순히 "정부가 사용하지 않는다"는 수준을 넘어, 일반적으로 외국 적대 세력에 대한 조치로 활용됩니다. 첫째, 연방 기관은 반드시 중단해야 합니다: 모든 행정부는 해당 모델의 구매 및 배포를 중단해야 하며, 기존 계약은 해지되거나 갱신되지 않을 수 있습니다. 클라우드 플랫폼에 해당 모델이 내장된 경우, 이를 분리하도록 요구받을 수도 있습니다. 둘째, 모든 연방 계약업체는 시스템에서 해당 기업 제품을 사용할 수 없으며, 정부 프로젝트에 참여하는 기업은 "Anthropic 구성 요소 없음"을 증명해야 합니다. 이는 엔비디아, 아마존, 구글 같은 1조 달러 규모의 기술 대기업들도 Anthropic과의 관계를 단절해야 함을 의미합니다. 기타 영향으로는 투자자 회피, 자금 조달 어려움 등이 있습니다.
해당 기업은 금요일 저녁 성명을 통해 "모든 공급망 위험 판정에 대해 법적 절차를 통해 이의를 제기할 것"이라고 밝혔습니다. 해당 기업은 공급망 위험으로 지정된 것이 "법적 근거가 없을 뿐만 아니라 정부와 협상하는 모든 미국 기업에 위험한 선례를 남길 것"이라고 주장했다.
익명을 요구한 미 국방부 전직 관계자는 Anthropic이 이 경쟁에서 우위를 점한 것으로 보인다고 지적했다. "이것은 그들에게 훌륭한 홍보 기회이며, 자금도 전혀 부족하지 않다."
아모디 본인도 인정했다: 해당 기업이 인공지능의 전장 배치 방식에 대해 트럼프 행정부 관료들과 입장을 표명한 이후로 기업 가치와 수익은 오로지 증가 일로를 걸어왔다. 국방부가 결별을 선택할 경우, Anthropic은 "다른 공급업체로의 원활한 전환을 보장할 것"이라고 밝혔다.
현실에서는 앤트로픽이 정부에 반대하는 입장으로 인해 오픈AI의 지지를 얻었다: 오픈AI의 사장이자 CEO인 샘 알트먼은 경쟁사를 지지한다고 밝혔다. 그는 직원들에게 보낸 메모에서 두 회사의 제품 적용에 관한 자신의 '기본 원칙'이 아모디와 동일하다고 선언했다. "우리는 항상 인공지능이 대규모 감시나 자율적 치명적 무기에 사용되어서는 안 되며, 고위험 자동화 의사결정 과정에는 반드시 인간의 개입이 수반되어야 한다고 믿어왔다. 이것이 우리의 핵심 원칙입니다."
그러나 이후 알트먼은 미국 정부의 품으로 돌아섰습니다……
2. "순진해 보이는 알트먼"도 "배신"했다
알트먼은 이후 X(구 트위터)를 통해 OpenAI가 미국 국방부와 비밀 클라우드 네트워크에서 인공지능 모델을 사용할 수 있도록 하는 협약을 체결했음을 확인했습니다. 현재 OpenAI 협약의 보안 중심 조치와 Anthropic 협상 시 조치의 차이점은 명확하지 않다. 모든 상호작용에서 국방부는 안전에 대한 충분한 존중을 보여주었으며, 최상의 결과를 위해 우리와 협력하기를 열망했습니다. 인공지능의 안전성과 광범위한 혜택은 우리 사명의 핵심입니다. 우리의 가장 중요한 두 가지 안전 원칙은 국내에서의 대규모 감시 금지, 그리고 자율 무기 시스템 사용을 포함한 무력 사용에 대한 인간의 책임입니다. 국방부는 이러한 원칙을 인정하고 법률 및 정책에 반영했으며, 우리도 이를 협정에 포함시켰습니다. 또한 국방부가 원하는 대로 모델이 정상적으로 작동하도록 기술적 안전장치를 구축할 것입니다. 모델 운영을 지원하기 위해 기능적 배포 환경(FDE)을 구축하며, 모델의 안전성을 보장하기 위해 클라우드 네트워크에만 배포할 것입니다. 우리는 국방부가 모든 인공지능 기업에 동일한 조건을 제공할 것을 요구하며, 모든 기업이 이러한 조건을 수용할 의사가 있어야 한다고 생각합니다. 우리는 법적 조치와 정부 개입을 피하고 합리적인 합의를 도출하여 사태가 진정되기를 강력히 희망합니다. 우리는 전 인류를 위해 최선을 다해 봉사할 것입니다. 세상은 복잡하고 혼란스러우며 때로는 위험한 곳입니다. 이 모든 변화가 정말 빠르네요.
11월에 국회의원으로 당선되면 이 거래를 조사하고 싶어서 안달이 나네요.
그래서 OpenAI가 불과 12시간 만에 "우리도 원칙이 있다"에서 "이 모델은 비밀 유지 계약(DoW) 네트워크에서 개발된 것"으로 변했나요? Anthropico는 같은 원칙을 고수했다는 이유로 위협/블랙리스트에 올랐지만, 샘이 협상을 벌일 때는 안전에 대한 깊은 존중으로 모두의 박수를 받았습니다.
경쟁사와 한 편인 척하다가 곧바로 정부 품으로 달려가는 앨트먼의 수작은 정말 6점짜리입니다.
Altman의 '배신'은 두 기술 거물 간의 초기 인연에서 단서를 찾을 수 있을지도 모른다.
Amodi는 기술계의 베테랑으로, 초기 OpenAI 직원으로 이름을 알렸다. 이후 그는 Altman과의 의견 차이로 OpenAI를 떠난 몇몇 직원들과 함께했다.
2021년 앤트로픽(Anthropic)이 탄생했다. 이 회사가 개발한 모델과 도구는 연방 정부에서 광범위하게 사용되고 있는데, 이는 선도적인 클라우드 서비스 제공업체인 아마존 웹 서비스(AWS)와의 협력 덕분이다. 앤트로픽은 바로 이러한 협력을 통해 국방부와 정보 기관에서 입지를 다졌다. 지난해 7월, Anthropic은 xAI, 구글, OpenAI와 함께 국방부(펜타곤)의 인공지능 응용 추진을 지원하기 위한 2억 달러 규모의 국방 계약을 수주했다.
이 두 스타트업은 현재 지속적으로 발전하는 AI 챗봇, 에이전트 및 기타 도구를 통해 사용자와 기업 고객을 직접 겨냥해 경쟁하고 있다.
3. 기술은 피 묻은 칼이 되었다
이번 기술계 거물과 미국 정부의 갈등에서 트럼프는 대문자로 분노를 표출했다: "미합중국은 결코 급진 좌파 각성 기업이 우리 위대한 군대가 어떻게 싸우고 전쟁에서 승리할지 좌지우지하도록 허용하지 않을 것이다!"
2018년 이후로 기술 기업과 미 국방부(펜타곤)의 갈등은 끊이지 않았다. 당시 알파벳 산하 구글 직원들은 펜타곤이 자사 인공지능으로 드론 촬영 영상을 분석하는 것에 반대하며 시위를 벌였다. 이후 양측 관계는 다소 누그러졌고, 아마존과 마이크로소프트 등 기업들은 국방 사업을 따내기 위해 경쟁했으며, 몇몇 대형 기술 기업 최고경영자(CEO)들은 지난해 트럼프 정부와 협력하겠다고 약속하기도 했다.
그러나 우크라이나와 가자 전쟁에서 자동화 시스템의 확산과 함께 이론상의 '살인 로봇'은 인권 및 기술 활동가들의 우려를 불러일으켰다. 국방부의 알고리즘 전쟁 프로젝트 '메이븐(Maven) 계획'을 이끌었던 잭 샤나한은 지난 1년간 미국의 더욱 대담해진 군사 작전이 이러한 우려를 가중시켰다고 말했다. "사람들은 아무런 제약 없이 백악관의 법적 승인이 '절차적 부당함, 민간인 사상자 및 부수적 피해로 이어질 수 있는 모든 행위를 정당화하는 방패'가 될 수 있다는 점에 더욱 불안해할 수 있다."
Anthropic의 인공지능 기술은 이미 정보계와 군대에서 활용되고 있으며, 클라우드 서비스 제공업체 아마존과 공급 계약을 체결해 기밀 정보를 처리하는 최초의 인공지능 기업이다. 로이터, 월스트리트저널 등 보도에 따르면 Anthropic의 Claude AI는 올해 1월 마두로 체포 작전에서 미군이 사용했다. 데이터 분석 기업 팔란티어 테크놀로지스(Palantir Technologies)와의 협력을 통해 군 정보 및 데이터 분석 시스템에 통합되어 방대한 정보 자료 분석, 위성 이미지 해독, 의사 결정 지원, 작전 배치 계획 보조 등에 활용되고 있으나 구체적 세부 사항은 여전히 기밀로 분류된다. >4. 관련 인사들의 견해
금요일 저녁, 일부 유명 기술 및 인공지능 리더들이 연명한 국방부와 의회 공개 서한이 유포되기 시작했다. 서명자에는 Boaz Barak과 William Feng을 포함한 OpenAI 직원 11명과 Waymark CEO Alexander Persky-Sterm이 포함됐다. "우리는 연방 정부가 한 민간 기업이 계약 변경을 거부했다는 이유로 보복해서는 안 된다고 확신한다. 이는 위험한 선례를 만든다. 계약 수정 거부를 이유로 미국 기업을 처벌하는 것은 모든 미국 기술 기업에 '정부가 제시하는 조건을 수용하지 않으면 보복을 당할 것'이라는 명확한 신호를 보낸다. 미국이 인공지능 경쟁에서 우위를 점할 수 있었던 것은 자유 기업과 법치에 대한 헌신 덕분이다. 한 기업을 처벌하기 위해 이 약속을 훼손하는 것은 근시안적이며 국가 안보 이익에 반하는 행위다."
머스크는 자신의 소셜미디어 플랫폼 X에서 "Anthropic은 서구 문명을 증오한다"고 밝혔다. 앨트먼은 다른 전략을 택했다. 그는 Anthropic의 보안 조치를 지지하며 정부의 "위협적" 접근에 반대하는 한편, OpenAI와 국방부 간 거래 성사를 위해 노력했다.
전 대통령 바이든 행정부 백악관 국가안보회의(NSC)에서 근무한 사이프 칸은 국방부의 이번 조치가 "어떤 정부도 제정한 적 없는 가장 엄격한 국내 인공지능 규제"라고 평가했다. "Anthropic을 어떤 중국 인공지능 기업보다도 더 큰 국가 안보 위협으로 간주하면서도, 중국 기업 중 어느 하나도 공급망 위험으로 지정하지 않은 셈이다." Anthropic을 겨냥한 조치는 눈길을 끌 수 있지만, 결국 모두가 패배자다."
트럼프 행정부 인공지능 선임 정책 보좌관을 지낸 딘 볼은 X에 게시글을 올리며 "이건 기업을 살해하려는 시도나 다름없다. 나는 어떤 투자자에게도 미국 인공지능 기업에 투자하라고 절대 권하지 않을 것이며, 미국에서 인공지능 회사를 창업하라고도 절대 권하지 않을 것이다."라고 밝혔다.
에밀 마이클 국방부 차관은 트위터에 일련의 글을 올렸다: 아모디는 "사기꾼이며 신격화 콤플렉스를 가진 인물이다. 그는 오로지 미국 군대를 직접 통제하려는 욕망에 사로잡혀 있으며, 이를 위해 국가 안보를 위험에 빠뜨리는 것도 마다하지 않는다."
매사추세츠주 민주당 상원의원 엘리자베스 워런은 이 분쟁의 핵심인 인공지능 권한 문제를 놓고 청문회를 열 것을 촉구했다. "트럼프 정부가 앤트로픽사를 처벌한 이유는 이 회사가 미국 지역사회를 대규모로 감시하거나 살인 로봇을 만드는 데 협조하기를 거부했기 때문인가? 미국 국민은 트럼프 정부 관리들이 국방부에서 어떤 계획을 세우고 있는지 알 권리가 있다."
매사추세츠주 민주당 상원의원 에드 마키와 메릴랜드주 민주당 상원의원 크리스 판홀런은 국방부가 "인공지능 모델 사용에 대한 기본적인 안전장치를 포기하라는 요구를 거부했다는 이유로 미국 인공지능 기업을 처벌하겠다고 위협한 것은 정부 권력의 소름 끼치는 남용"이라고 말했다.
캘리포니아주 민주당 하원의원 조지 화이트세츠: 그는 헤거세스가 "보안 정책 수정을 가속화하겠다고 위협함으로써 국방부가 충분한 안전장치 없이 더 광범위한 배치를 추진할 수 있다"고 우려했다.
상원 정보위원회 선임위원이자 버지니아주 민주당 상원의원 마크 워너는 이메일 보도자료에서 "대통령이 연방정부에 선도적인 미국 AI 기업 사용 중단을 지시하고 해당 기업을 공격하는 선동적 발언을 한 것은 국가안보 결정이 신중한 분석이 아닌 정치적 고려에 기반했는지 심각한 우려를 자아낸다"고 밝혔다.
5. 부록:Anthropic CEO 다리오 아모디 성명
인공지능을 활용해 미국과 다른 민주주의 국가들을 수호하고 우리의 독재적 경쟁자들을 물리치는 것은 생존이 걸린 중대한 사안이라고 확신합니다.
이에 따라 Anthropic은 적극적으로 우리 모델을 미국 국방부와 정보 기관에 배포하고 있습니다. 우리는 미국 정부 기밀 네트워크에 모델을 배포한 최초의 첨단 인공지능 기업이자, 국가 연구소에 모델을 배포한 최초의 기업이며, 국가 안보 고객을 위한 맞춤형 모델을 제공한 최초의 기업입니다. Claude 모델은 정보 분석, 모델링 및 시뮬레이션, 작전 계획, 사이버 작전 등 미국 국방부 및 기타 국가 안보 기관의 핵심 임무에 광범위하게 활용되고 있습니다.
Anthropic은 단기적 이익과 상충되더라도 미국의 인공지능 분야 선도적 지위를 수호하기 위해 행동해 왔습니다. 우리는 수억 달러의 수익을 포기하며 일부 기업의 Claude 칩 사용을 차단했고, Claude 칩을 악용하려는 사이버 공격을 저지했으며, 민주주의 우위를 보장하기 위해 칩에 대한 엄격한 수출 통제를 촉구했습니다.
Anthropic은 군사적 결정이 민간 기업이 아닌 미 국방부에 의해 내려진다는 점을 잘 알고 있습니다. 우리는 특정 군사 작전에 대해 이의를 제기한 적도 없으며, 기술 사용을 임시적으로 제한하려는 시도도 한 번도 하지 않았습니다.
그러나 극소수 사례에서 인공지능이 민주주의 가치를 수호하기보다 훼손할 수 있다고 판단했습니다. 특정 용도는 기존 기술이 안전하고 신뢰성 있게 수행할 수 있는 범위를 완전히 벗어납니다. 다음 두 가지 용도는 미 국방부와의 계약에 포함된 적이 없으며, 현재도 포함되어서는 안 된다고 생각합니다:
대규모 국내 감시. 우리는 합법적인 대외 정보 및 대공 정보 임무에 인공지능을 활용하는 것을 지지합니다. 그러나 이러한 시스템을 대규모 국내 감시에 사용하는 것은 민주주의 가치와 상충됩니다. 인공지능 기반 대규모 감시는 우리의 기본적 자유에 심각하고 전례 없는 위험을 초래합니다. 현재 이러한 감시가 합법적인 이유는 단순히 법률이 인공지능의 급속한 발전 속도를 따라가지 못했기 때문입니다. 예를 들어 현행법에 따르면 정부는 수색 영장 없이도 공개 채널을 통해 미국 시민의 상세한 이동 경로, 웹 브라우징 기록, 소셜 관계 기록을 구매할 수 있습니다. 정보계는 이러한 관행이 사생활 침해 우려를 불러일으킨다는 점을 인정했으며, 의회에서도 양당의 반대에 부딪혔습니다. 강력한 인공지능은 이러한 분산되고 개별적으로는 무해해 보이는 데이터들을 통합하여 어떤 개인의 삶 전체를 자동적이고 대규모로 재구성할 수 있습니다.
완전 자율 무기. 현재 우크라이나에서 사용 중인 부분 자율 무기는 민주주의 수호에 필수적입니다. 완전 자율 무기(인간의 개입 없이 자동으로 표적을 선택하고 공격하는 무기)조차도 국방에 중요할 수 있습니다. 그러나 현재 최첨단 인공지능 시스템의 신뢰성은 완전 자율 무기를 구동하기에 충분하지 않습니다. 우리는 미국 군인과 민간인의 안전을 위협할 제품을 의도적으로 제공하지 않을 것입니다. 우리는 이러한 시스템의 신뢰성을 높이기 위해 미국 국방부와 직접 협력하여 연구 개발을 진행하자고 제안했으나, 그들은 이를 거절했습니다. 또한 적절한 감독 없이 완전 자율 무기가 우리가 훈련시킨 전문 부대처럼 매일 중요한 판단을 내리기를 기대할 수 없습니다. 이들이 배치되려면 완벽한 안전 장치가 필요하지만, 현재 그러한 장치는 존재하지 않습니다.
저희가 파악한 바로는, 이 두 가지 예외 사항이 지금까지 우리 군대의 모델 도입 및 사용 가속화에 방해가 된 적은 없습니다.
미국 국방부는 "어떤 합법적 용도든" 동의하고 상기 상황에서 안전 장치를 제거하는 인공지능 기업과만 계약을 체결하겠다고 선언했습니다. 그들은 우리가 이러한 안전 조치를 계속 유지할 경우 그들의 시스템에서 우리를 제거하겠다고 위협했습니다. 또한 우리를 '공급망 위험'으로 지정하겠다고 위협했는데, 이 라벨은 일반적으로 미국의 적대 세력에 사용되며 미국 기업에는 전례가 없었습니다. 그들은 국방생산법을 인용하여 이러한 안전 조치의 강제 제거를 요구했습니다. 후자의 두 위협은 그 자체로 모순됩니다: 하나는 우리를 안전 위험으로 간주하는 반면, 다른 하나는 Claude를 국가 안보에 필수적인 부분으로 간주합니다.
그러나 이러한 위협은 우리의 입장을 바꾸지 못합니다: 우리는 양심에 반해 그들의 요구를 받아들일 수 없습니다.
국방부는 자신들의 비전에 가장 부합하는 계약자를 선택할 권리가 있습니다. 하지만 Anthropic의 기술이 우리 군에 제공하는 막대한 가치를 고려할 때, 그들이 재고해 주길 바랍니다. 우리는 두 가지 요구 사항이 충족된 상태에서 국방부와 우리 작전 요원들을 계속 지원하기를 간절히 바랍니다. 국방부가 Anthropic과의 협력을 종료하기로 선택할 경우, 우리는 진행 중인 군사 계획, 작전 또는 기타 핵심 임무에 어떠한 방해도 주지 않도록 다른 공급업체로의 원활한 전환을 보장하기 위해 노력할 것입니다. 우리는 제안한 우대 조건에 따라 필요한 기간 동안 제품을 계속 제공할 것입니다. 우리는 미국 국가 안보 수호를 위해 계속 노력할 준비가 되어 있습니다.
XingChi
JinseFinance
Anais
Cheng Yuan