생성형 인공지능, 특히 ChatGPT의 출현은 사이버 보안 환경에 큰 변화를 가져왔습니다. 이로 인해 피싱 및 크리덴셜 스터핑과 같은 공격이 증가하고 있으며, 사이버 범죄자들은 더욱 정교한 방법으로 보안 시스템을 위협하고 있습니다.
크리덴셜 스터핑(Credential Stuffing)은 해커가 도난당한 사용자 이름과 비밀번호를 사용하여 여러 웹사이트에 무작위로 로그인 시도를 하는 공격 방식입니다. 사용자가 여러 서비스에서 동일한 비밀번호를 사용하는 경향을 악용하는 이 방법은 자동화된 도구를 통해 대량의 로그인 시도를 가능하게 합니다. 이러한 공격은 개인의 계정 탈취뿐만 아니라 기업의 데이터 유출과 같은 심각한 결과를 초래할 수 있습니다.
크리덴셜 스터핑 공격은 여러 유명 기업을 대상으로 성공적으로 수행되었습니다. 예를 들어, 2024년 초 티켓마스터는 이 공격으로 인해 5억 6천만 명의 고객 정보가 유출되었습니다. 또한, 2023년에는 페이팔과 23andMe가 이 공격의 피해를 입었으며, 이로 인해 수십만 명의 사용자 계정이 침해되었습니다.
ChatGPT와 같은 생성형 AI의 등장은 피싱 공격의 급증을 초래했습니다. 2022년 4분기 이후 악성 피싱 이메일은 4151% 증가했으며, 이는 AI가 고도로 정교한 피싱 이메일 작성을 가능하게 했기 때문입니다. 이러한 공격은 개인 및 기업 이메일 계정의 손상, 불법 소프트웨어 유포 등 다양한 방식으로 피해를 입힐 수 있습니다.
사이버 범죄자들은 생성형 AI를 활용하여 딥페이크 기술로 비디오, 음성 등을 조작하고, 이를 보이스피싱이나 피싱 공격에 사용하고 있습니다. 이러한 기술 발전은 사이버 범죄 수법을 더욱 고도화하고 있으며, 보안 도구를 속이기 위한 정교한 방법이 계속해서 개발되고 있습니다. 딜로이트는 2027년까지 딥페이크 관련 손실이 연평균 32% 증가할 것으로 예상하고 있습니다.
이러한 상황에서 기업과 개인은 다중 인증(MFA)과 같은 보안 조치를 강화하고, 비밀번호 관리를 철저히 하여 사이버 공격에 대비해야 합니다. 또한, 보안 전문가들은 새로운 위협에 대응하기 위해 지속적인 교육과 훈련을 통해 보안 역량을 강화해야 할 것입니다.