Google, Gemini AI로 가짜 사이트 수백 개 생성한 중국 사이버범죄 조직 고소

구글이 중국 사이버범죄 조직을 상대로 제기한 소송은 AI 기업이 자사의 모델이 무기화될 경우 책임을 질 수 있는지 여부를 시험하는 첫 번째 주요 사례다.

구글은 중국 사이버범죄 조직이 자사의 Gemini AI 시스템을 이용해 수백 개의 위조 기업 및 정부 웹사이트를 생성했다고 비난하며, AI 플랫폼이 창작자에게 역으로 이용될 수 있는 새로운 취약점을 드러냈다.

"이 작전은 우리의 자체 AI 도구를 이용해 합법적인 조직의 설득력 있는 복제품을 만들어 디지털 커뮤니케이션에 대한 신뢰를 훼손했습니다"라고 구글 대변인은 6월 12일 제출된 소장에서 밝혔다.

법원 문서에 따르면 2023년 11월 시작된 이 캠페인은 Gemini를 이용해 FBI가 압수한 최소 13개 도메인에 대한 웹사이트 콘텐츠, 가짜 직원 프로필 및 기업 문서를 생성했다. 운영자들은 Telegram을 포함한 암호화 메시징 앱, 암호화폐 결제 및 AI 생성 프로필 사진을 활용해 페이퍼컴퍼니를 합법적으로 보이게 꾸몄다.

이번 소송은 AI 플랫폼이 직면한 성장하는 과제를 부각시킨다. 모델이 더 강력해질수록 악의적 행위자에게도 더 유용해진다는 점이다. 구글의 선제적 법적 조치는 AI 기업이 자사 기술의 오용을 단속하는 방식에 선례를 남길 수 있으며, 이미 반도체와 클라우드 컴퓨팅 시장을 재편한 미중 기술 긴장을 더욱 고조시킬 수 있다.

법무부는 압수된 도메인들이 Centrik Global Consulting, Rightinfo Consulting, Finnacle-Vesper Consulting 등 컨설팅 회사로 위장해 미 보안승인 보유자를 대상으로 한 고임금 연구직을 광고했다고 밝혔다. 이 사이트들은 현직 및 전직 미국 관료, 군인, 정부 계약업자들을 유인해 중국 정부가 관심 있는 주제에 대한 보고서를 작성하거나 내부 정보를 공유하도록 시도했다.

이 의심스러운 계획은 온라인 모집과 금전적 인센티브를 결합한 더 광범위한 외국 정보 작전 패턴을 반영한다. 지난 11월 앤서니 R. 헤일 육군 정보참모차장은 외국 적대세력이 가짜 회사와 사기 채용담당자를 통해 군인, 민간인 및 그 가족을 표적으로 삼고 있다고 경고하는 메모를 발표했다. 이 경고는 육군 전역 100만 명 이상의 인원에게 전송됐다.

법무부 문서에 따르면 지난 1년간 연방 정부의 해고 물결은 수천 명의 정부 직원과 계약업자를 불확실한 구직 시장으로 내몰았고, 이는 외국 정보기관에 새로운 수집 기회를 창출했다. 이 캠페인은 프리랜서 구직 플랫폼을 이용해 '선임 분석가' 및 '국제 문제 컨설턴트'와 같은 직위를 광고했으며, 대금은 해외 계좌와 암호화폐를 통해 송금됐다.

구글 주식은 이번 소송으로 인한 직접적인 재정적 영향은 제한적이지만, 이 사건은 Alphabet Inc.의 AI 사업이 OpenAI 및 Microsoft와의 상업화 경쟁에서 중요한 시기에 명성 리스크를 부각시킨다. 구글의 주가는 선행 주당순이익의 22배에 거래되며, 이는 Microsoft의 31배에 비해 할인된 수준으로, 부분적으로는 AI 수익화 및 규제 리스크에 대한 투자자 불확실성을 반영한다. 이번 사건의 결과는 규제 당국이 AI 플랫폼 책임에 접근하는 방식에 영향을 미쳐 업계 전반의 컴플라이언스 비용에 영향을 줄 수 있다.

본 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.