ChatGPT와 같은 인공지능 도구들이 "악의적인 행위자"들이 악성 소프트웨어, 사기, 스팸을 퍼뜨리는 최신 경로로 떠오르고 있다고 메타 보안 팀의 연구가 경고하고 있다.
5월 1일자 연구 노트에서, 페이스북 모회사인 메타의 보안 팀은 3월에 ChatGPT와 유사한 인공지능 도구를 가장한 10개의 악성 소프트웨어 패밀리를 발견했다고 밝혔다. 이들 중 일부는 다양한 브라우저 확장 프로그램에서 발견되었으며, 메타 보안 팀은 다음과 같이 설명했다:
“3월 한 달 동안만 해도 우리 보안 분석가들은 ChatGPT와 유사한 도구를 가장한 약 10개의 악성 소프트웨어 패밀리를 발견했습니다.” 메타는 이러한 “악의적인 행위자들”이 악성 소프트웨어 운영자, 사기꾼, 스팸 발송자 등으로 AI가 “사람들의 상상력과 흥분을 자극하는 최신 물결”이기 때문에 이를 활용한다고 설명했다. 이 연구는 인공지능에 대한 강한 관심이 일고 있는 상황에서 발표되었으며, 특히 ChatGPT가 인공지능에 대한 널리 퍼진 관심을 불러일으켰다.
“예를 들어, 우리는 위협 행위자들이 공식 웹 스토어에서 ChatGPT 관련 도구를 제공한다고 주장하는 악성 브라우저 확장 프로그램을 만들고 있는 것을 목격했습니다.” 메타 보안 팀은 일부 "악성 확장 프로그램"에 ChatGPT가 활성화된 기능이 포함되어 있음을 언급하며 악성 소프트웨어와 공존하고 있다고 덧붙였다. 이 회사의 보안 팀은 악의적인 행위자들이 최신 유행에 맞춰 움직인다고 설명하며, 디지털 화폐와 그에 따른 사기 사건을 언급했다: “이것은 생성형 인공지능 분야에만 해당되는 것이 아닙니다. 우리는 과거 디지털 화폐에 대한 관심이 암호화폐 사기를 촉발시킨 것과 같은 현상을 다른 인기 있는 분야에서도 봐왔습니다.” “생성형 AI 분야는 급속히 발전하고 있으며, 악의적인 행위자들은 이를 잘 알고 있습니다.”라고 덧붙이며 경계를 촉구했다.
메타의 최고 보안 책임자(CSO)인 가이 로젠은 최근 로이터와의 인터뷰에서 “ChatGPT는 이러한 악의적인 행위자들에게 있어 새로운 암호화폐와 같다”고까지 언급했다. 그러나 주목할 점은 메타가 현재 생성형 AI를 자체 개발하고 있다는 사실이다. 메타 AI는 현재 자사의 증강 현실 및 인공지능 기술을 향상시키기 위해 다양한 형태의 인공지능을 개발하고 있다. 마크 저커버그 CEO에 따르면, 인공지능은 메타버스에 대한 대규모 투자가 이루어지고 있음에도 불구하고, 현재 메타가 진행하는 가장 큰 단일 투자 분야로 자리잡고 있다.
