오픈AI, 챗GPT 악용한 중국·북한 계정 삭제: 여론 조작과 허위 이력서 생성 사례

 

 

목차

1. 사건 개요
2. 중국의 챗GPT 악용 사례
3. 북한의 챗GPT 악용 사례
4. 오픈 AI의 대응 및 향후 계획
5. 맺음말

 

1. 사건 개요

최근 오픈AI는 자사의 인공지능 모델인 챗GPT를 악의적인 목적으로 사용한 중국과 북한의 사용자 계정을 삭제했다고 발표했습니다. 이러한 조치는 권위주의 정권이 감시 및 여론 조작 등을 위해 AI 기술을 악용한 사례가 발견되면서 이루어졌습니다.

2. 중국의 챗GPT 악용 사례

중국에서는 챗GPT를 활용하여 미국을 비방하는 스페인어 뉴스 기사를 생성한 후, 이를 중국 기업 명의로 라틴아메리카의 주요 뉴스 매체에 게재한 사례가 확인되었습니다. 또한, 서방 국가의 소셜 미디어에 게시된 반중국 성향의 글을 실시간으로 모니터링하기 위한 AI 기반 감시 도구를 개발한 정황도 포착되었습니다. 이러한 도구는 오픈 AI의 기술을 사용하여 컴퓨터 코드를 디버깅한 것으로 밝혀졌습니다.

3. 북한의 챗GPT 악용 사례

북한과 연계된 행위자들은 챗GPT를 이용해 허위 구직자 이력서와 온라인 프로필을 생성하여 해외 기업에 사기 취업을 시도한 것으로 드러났습니다. 이러한 행위는 외화 획득을 위한 수단으로 추정됩니다. 또한, 캄보디아에 본사를 둔 금융 사기 조직과 연계된 다른 계정은 소셜 미디어와 커뮤니케이션 플랫폼에서 댓글을 번역하고 생성하는 데 챗GPT를 활용한 것으로 알려졌습니다. 이러한 사기 수법은 '돼지 도살(pig butchering)'로 불리며, 사기꾼이 피해자를 암호화폐 사기에 끌어들이기 전에 신뢰를 쌓는 방식입니다.

4. 오픈AI의 대응 및 향후 계획

오픈AI의 수석 연구원인 벤 니모는 "오픈 AI의 AI 기반 조사 기능은 적대적인 권위주의 정권이 AI 도구를 사용하여 권력을 축적하고 시민을 통제하거나 다른 국가를 위협하는 것을 방지하는 데 도움이 된다"라고 밝혔습니다. 오픈 AI는 이러한 악용 사례를 방지하기 위해 지속적으로 모니터링을 강화하고, AI 기술의 윤리적 사용을 촉진하기 위한 노력을 이어갈 예정입니다.

5. 맺음말

이번 사건은 AI 기술이 긍정적인 활용뿐만 아니라 악의적인 목적으로도 사용될 수 있음을 보여줍니다. 오픈AI의 신속한 대응은 이러한 부정적 활용을 방지하기 위한 중요한 조치이며, 앞으로도 AI 기술의 윤리적 사용을 위한 지속적인 감시와 노력이 필요합니다.

 

참고 기사: AI타임스