Google, 미국 내 최첨단 AI 감독 기관 FARO 제안

Google의 독립적인 프론티어 AI 규제 기관(FARO) 제안은 대규모 언어 모델 감독의 연방 공백을 메우려는 시도이지만, 중도적 프레이밍과 좁은 범위로 인해 논쟁의 양측 모두로부터 비판을 받고 있다.

Google은 6월 '미국 내 AI 거버넌스에 대한 실용적 접근법(Pragmatic Approach to AI Governance in America)'이라는 정책 문서를 발표하며, GPT-5, Claude, Gemini, Grok과 같은 최첨단 AI 모델을 감독할 새로운 독립 기관인 FARO(Frontier AI Regulatory Organization)의 설립을 제안했다. 이 제안은 현재 미국에 단일한 연방 차원의 거버넌스 메커니즘 없이 운영되고 있는 프론티어 AI에 대한 규제 공백을 메우는 것을 목표로 한다. 이 프레임워크는 혁신을 저해할 수 있는 과도한 규제와 통제되지 않은 AI 리스크를 방치할 수 있는 최소한의 감독 사이에서 중간 경로를 모색한다.

"챗봇과 같은 AI 애플리케이션의 광범위한 사용이 제기하는 문제는 첨단 프론티어 AI 모델이 제기하는 국가 안보 문제와는 별개입니다."라고 Google은 정책 문서에서 밝혔다. "선도 연구소들은 프론티어 AI 안전, 보안, 사고 보고 및 투명성을 위한 통합된 프레임워크가 필요합니다."

FARO는 프론티어 AI에 대한 국가 및 국제 표준을 수립하고, 리스크 식별 및 완화 요건을 안내하며, 기업이 프론티어 모델을 공개적으로 출시하기 전에 보안 관행과 사고 대응 계획을 이행하는지 검증하는 역할을 맡게 된다. 이 기관은 가장 크고 고도화된 모델인 프론티어 AI에만 전념하며, 프론티어가 아닌 AI 애플리케이션은 별도의 개별 연방 프레임워크를 통해 처리하도록 한다. 이 제안은 다른 분야의 독립적 감독 기관의 선례를 참고했지만, 새로운 AI 법률을 구체적으로 명시하기보다는 규제를 위한 조직 구조에 초점을 맞추고 있다.

이 제안은 연방 AI 법안이 의회에서 계속 지체되어 미국 전역에 주(state) 차원의 AI 법률이 파편화되어 있고 프론티어 모델에 대한 단일 연방 당국이 없는 상황에서 나왔다. 비평가들은 중도적 프레이밍이 업계 친화적인 감독으로 기울어져 있다고 주장하는 반면, 다른 이들은 새로운 독립 기관이 수개월이 아닌 수년 단위로 측정되는 AI 발전 속도를 따라잡을 만큼 빠르게 움직일 수 있을지 의문을 제기한다. 프론티어 AI에 대한 좁은 초점은 프론티어 임계값 미만의 모델이 여전히 심각한 위험을 초래하고 규제 공백에 빠질 수 있다는 우려도 낳는다. Google의 제안은 AI 개발사들이 정책 입안자, 투자자 및 대중으로부터 책임 있는 개발 관행을 입증하라는 압력이 커지는 가운데 등장한 여러 업계 주도 거버넌스 프레임워크 중 하나다.

중도 노선 논쟁

Google은 FARO를 규제 없음과 강력한 규제라는 두 극단 사이의 골디락스(Goldilocks) 해결책으로 위치시킨다. 그러나 비평가들은 규제 없음, 중도, 강력한 규제라는 세 가지 옵션 프레이밍이 인위적으로 논쟁의 범위를 좁힌다고 지적한다. 보다 세분화된 스펙트럼에는 적당한 규제, 실질적인 규제, 강력한 규제가 별도의 옵션으로 포함되어야 하며, Google의 제안은 업계 친화적인 쪽에 더 가까울 수 있다. 이러한 의미론적 포지셔닝은 정책 입안자와 대중이 혁신과 안전 사이의 트레이드오프를 어떻게 인식하는지에 영향을 미치기 때문에 중요하다.

이 제안은 또한 AI를 프론티어와 비프론티어 유형으로 이분법적으로 분류하는데, 이는 보편적으로 받아들여지지 않는 구분이다. 일부 전문가들은 EU AI Act에서 사용되는 것처럼 AI를 저위험, 중간위험, 고위험으로 분류하는 위험 기반 분류가 더 적절하다고 주장한다. 프론티어 AI 모델은 실존적 위험을 제기할 수 있지만, 중요 인프라나 의료 분야에 배치된 비프론티어 모델도 심각한 피해를 초래할 수 있다. 위험 기반 프레임워크에서 감독 기관은 프론티어 자격 여부와 관계없이 고위험 AI에 초점을 맞추게 될 것이다.

구조적 질문과 트레이드오프

직접적인 연방 기관을 설립하거나 기존 기관에 권한을 부여하는 대신 정부 기관의 감독을 받는 독립 조직을 선택한 데에는 그 자체로 트레이드오프가 따른다. 지지자들은 FARO가 전통적인 정부 기관보다 더 민첩하게 움직일 수 있고, 전담 AI 및 국가 안보 전문가들로 구성되며, 규제 중복을 줄이면서 일관된 표준을 수립할 수 있다고 말한다. 또한 국가 안보 조정을 개선하고 프론티어 AI 출시에 관한 국제 협력을 촉진할 수 있다.

반대론자들은 새로운 기관이 대형 AI 기업에 의한 규제 포착의 위험이 있고, 급속한 기술 변화를 따라잡는 데 어려움을 겪을 수 있으며, 스타트업과 소규모 플레이어에게 불리한 규제 준수 비용을 부과할 수 있다고 반박한다. 또한 이 기관은 임무 범위 확장, 기존 연방 기관과의 관할권 다툼, 권한을 둘러싼 장기적인 법정 소송에 직면할 수 있다. 프론티어 미만 AI의 사각지대는 FARO의 관할 범위를 벗어나지만 여전히 실질적인 위험을 제기하는 모델에 대한 명확한 감독 메커니즘이 없다는 점에서 여전히 중요한 우려사항으로 남아 있다.

FARO를 둘러싼 논쟁은 입법 과정이 대응할 수 있는 속도보다 더 빠르게 발전하는 기술을 통치하는 광범위한 과제를 반영한다. 연방 AI 법안이 보이지 않고 주 차원의 규제가 확산되고 있는 상황에서, 문제는 프론티어 AI를 규제할 것인지가 아니라 어떻게 규제할 것인지, 그리고 누가 그 프레임워크를 결정할 것인지에 달려 있다.

본 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.