러시아에서 시작된 네트워크가 ChatGPT를 사용하여 국제 버크 연구소를 홍보하였으며, 연구소 웹사이트에서 검토된 36개의 기사 중 34개가 복사되거나 잘못 인용되었습니다. [Source: Provided Content]
OpenAI는 러시아어 프롬프트를 사용하여 소셜 미디어 게시글과 댓글을 생성한 계정 그룹을 금지했으며, 이 게시글들은 대부분 그 홍보와 관련된 영어로 작성되었습니다. [Source: Provided Content]
이 작업은 러시아 출신임을 숨기려 했으며, 정교하게 구성되었음에도 불구하고 상대적으로 작은 청중에게 도달했습니다. [Source: Provided Content]
이 네트워크는 국제 버크 연구소를 홍보하는 콘텐츠를 생성하기 위해 ChatGPT를 사용하였고, 러시아어 프롬프트로 영어 게시물을 만들어 그 출처를 숨겼습니다. 러시아의 제한된 인터넷 환경에서 운영하기 위해, 이 그룹은 VPN을 사용하여 위치를 위장하였으며, ChatGPT는 러시아에서 접근할 수 없습니다. 진짜 사용자나 학자처럼 콘텐츠를 배포할 수 있도록 설득력 있는 프로필과 계정을 만들었습니다. 이러한 정교한 설정에도 불구하고, 이 노력은 단지 소규모 청중을 끌어들이는 데 그쳤습니다.
이 작업의 중요한 측면 중 하나는 기사 복사의 정도였습니다. 연구소 웹사이트의 36개 기사 중 34개가 복제되었으며, 잘못된 인용이 포함되어 있었습니다. 여기에는 캠브리지 대학교 출간물에서 잘못 인용된 하나의 기사, 즉 중국-파키스탄 경제 회랑에 대한 기사가 노팅엄 대학교 교수로 잘못 인용된 경우가 포함되었습니다. 이러한 세심하지만 잘못된 인용은 여러 불일치를 초래했으며, 이 작업을 이전의 영향 시도와 구별하게 만들었습니다. 출처에 따르면: “이 기사들 중 일부는 수년 전 것이었고, 다른 것들은 잘못된 저자에게 귀속되었습니다.”
OpenAI는 2024년에 Doppelganger라는 별도의 러시아 연결 캠페인을 식별했습니다. Doppelganger는 ChatGPT를 이용하여 러시아를 찬양하고 우크라이나, NATO, 미국을 공격하는 기사를 작성하고, 소셜 미디어 게시물을 작성하며, 댓글을 생성했습니다. OpenAI는 또한 Forest Blizzard라는 그룹이 러시아 군 정보 기관과 관련이 있다고 설명했습니다. Forest Blizzard는 챗봇을 사용하여 표적을 조사하고, 스크립트를 작성하며, 피싱 공격을 지원했습니다.
OpenAI는 국제 버크 연구소 캠페인을 직접적으로 러시아 정부에 귀속시키지 않았습니다. 이스라엘의 몇몇 사람들이 회의나 기사 제출을 통해 연구소를 대표했을 수 있으며, OpenAI는 그 개인들이 해당 작업과 어떻게 연결되어 있는지를 결정할 수 없다고 말했습니다. “우리는 이 개인들과 IBI, 그리고 러시아의 운영자들 간의 관계를 파악할 위치에 있지 않습니다.”
이 보도는 국제 버크 연구소를 홍보하기 위해 학문적 위장술을 이용한 러시아 연결 ChatGPT 영향 조작을 설명하며, 이는 다른 확인된 러시아 연결 캠페인들과 함께 운영되고 연구자들로부터 조사의 주목을 받았습니다. 캠페인은 비정상적으로 정교하고 조화롭게 구성되었지만, 조사자들은 관련된 개인들과 조직 간의 정확한 소속이나 관계의 본질을 해결하지 못하여 실질적인 불확실성이 남았습니다.
