가장 위험한 AI 해킹 기술은 여전히 인간의 개입이 필요하다 — 보안 연구원 제임스 케틀이 밝힌 놀라운 실험 결과

인공지능이 해킹 도구로 활용되는 시대가 열렸습니다. 그러나 최근 공개된 연구 결과는 중요한 사실을 알려주고 있습니다. 보안 연구원 제임스 케틀은 AI의 해킹 능력의 한계를 정밀하게 시험해 보았고, 그 결과 놀랍게도 AI는 단독으로 완벽한 해킹을 수행하지 못한다는 점을 발견했습니다. 오히려 인간의 전문성과 결합할 때 AI의 해킹 능력이 극대화된다는 것이 그의 결론입니다. 이는 AI가 단순한 도구일 뿐이며, 가장 위험하고 효과적인 공격을 만들어내는 요소는 여전히 인간의 개입이라는 의미를 담고 있습니다.

AI 단독 해킹의 한계는 어디까지일까

제임스 케틀 연구원은 다양한 해킹 시나리오에서 AI 모델을 단독으로 배치하여 테스트를 진행했습니다. 그 결과 AI는 알려진 취약점을 탐지하는 데 뛰어난 성능을 보였지만, 창의적인 침투 경로를 설계하거나 목표 시스템의 특수한 환경을 이해하는 데는 분명한 한계를 드러냈습니다. 예를 들어, AI는 표준적인 보안 설정의 허점은 쉽게 찾아내지만, 실제 운영 환경에서 마주치는 독특한 로직 오류나 복잡한 권한 구조를 파악하는 데 어려움을 겪었습니다.

이러한 한계는 AI의 학습 방식에서 비롯됩니다. AI는 방대한 양의 과거 데이터에서 패턴을 학습하지만, 이 세상에 존재하지 않는 새로운 유형의 공격을 창조하는 것은 인간과 달리 매우 어려운 일입니다. 즉, AI는 기존에 알려진 공격 패턴을 반복하거나 조합하는 수준에 머무르는 경우가 많습니다. 보안 담당자들이 반가워할 만한 소식이지만, 동시에 새로운 위협이 항상 인간의 손에서 시작될 수 있다는 경고이기도 합니다.

인간 전문가와 AI의 결합은 어떤 변화를 만들까

제임스 케틀 연구원이