카스퍼스키(Kaspersky)가 다크 AI와 블랙 햇 GPTs를 통한 사이버 위협 증가와 국가주도의 LLM 악용 가능성을 경고하며 방어책 강화를 촉구했다.

카스퍼스키(Kaspersky)의 글로벌 리서치 앤 애널리시스 팀(GReAT) 책임자 세르게이 로즈킨(Sergey Lozhkin)은 AI가 방패가 되는 동시에 다크 AI가 검이 되는 시대에 접어들었다고 경고했다.

현재 악용되는 다크 AI는 규제·안전장치가 제거된 대형 언어모델(LLM)을 기반으로 피싱, 악성 코드 생성, 딥페이크 등 사이버 범죄에 활용되고 있다.

블랙 햇 GPTs(Black Hat GPTs)는 워름GPT(WormGPT), 다크바드(DarkBard), 프로드GPT(FraudGPT) 등 사적·반사적 모델로 범죄 자동화와 정교한 사회공학을 지원하고 있다.

카스퍼스키는 더 어두운 추세로 국가 차원의 위협 행위자들이 LLM을 캠페인에 활용하는 정황을 포착했으며, 오픈AI(OpenAI)도 다수의 은밀한 영향·사이버 작전을 차단했다고 보고했다.

이에 따라 조직들은 차세대 보안 솔루션 도입, 실시간 위협 인텔리전스 활용, 접근 통제와 직원 교육 강화, 보안관제센터(SOC) 구축 등을 권고받고 있다.