실험서 AES 약화된 버전 취약점 찾아내

인간 전문가보다 200∼1천배 빨리 찾아내

(서울=연합뉴스) 김태균 기자 = 앤트로픽의 최신 인공지능(AI) 모델 '미토스'가 인터넷 표준 암호체계를 무력화할 가능성이 있다는 연구 결과가 나왔다.

앤트로픽은 28일(현지시간) 연구 목적으로 미토스 프리뷰 버전이 고급 암호화 표준(AES) 열화 버전을 공격하도록 한 실험을 진행한 결과, 해킹 취약점을 찾아낸 것으로 나타났다고 밝혔다.

AES는 실제 인터넷 뱅킹 등 금융거래, 메신저 보안, 국가 기밀 보호 등 여러 영역에서 해킹을 막는 안전 표준이다.

AES 열화 버전은 실험을 위해 의도적으로 AES의 보안 강도를 낮춘 모의 버전이다. 실제 AES가 즉각적인 해킹 위험에 노출된 것은 아니다.

앤트로픽은 이번 결과가 인터넷 서비스 운용 환경에 미치는 영향은 없을 것이라고 전했다.

그러나 고도 AI가 AES를 효과적으로 공략할 수 있다는 가능성이 발견된 만큼 이번 연구의 반향은 작지 않을 것으로 예측된다.

뉴욕타임스(NYT)는 과거 연구에서는 대규모언어모델(LLM)들이 암호학 분야에서 인간을 앞지르지 못하는 것으로 알려졌지만, 이제 이런 인식이 틀렸다는 사실이 드러나면서 중장기적으로 큰 논란이 예상된다고 짚었다.

AI의 비약적 발전 속도를 고려하면 향후 AI 모델이 인터넷 생태계를 지탱하는 보안 장벽을 손쉽게 무너뜨릴 수도 있다는 우려다.

이번 연구에서 미토스는 AES 열화 버전을 상대로 인간 전문가보다 200배에서 최대 1천배까지 더 빠르게 공격 취약점을 파악해낸 것으로 나타났다.

미토스는 또 양자컴퓨터 시대의 차세대 암호 체계로 거론되는 'HAWK' 알고리즘을 실제 버전 대상으로 공격해 보안상 결점을 탐지하는 데 성공했다.

실험에 참여한 앤트로픽 연구원인 니콜라스 칼리니는 NYT와의 인터뷰에서 "지난해만 해도 AI는 내가 16살 때 풀 수 있었던 수준의 암호 문제도 해결하지 못했다. 하지만 지금 AI는 학계에서 발견된 적이 없는 첨단 연구를 직접 수행하는 수준이 됐다"고 설명했다.

고도 AI의 해킹 위협은 이미 AI 업계를 뒤흔드는 문제로 부상한 상태다.

미국 도널드 트럼프 행정부는 지난달 사이버 테러 우려 등의 이유로 앤트로픽의최신 AI인 미토스5와 페이블5에 대해 이례적으로 수출통제 조처를 발동해 이달 초까지 국외 서비스를 중단시켰다.

오픈AI의 AI 모델들은 인간의 통제를 벗어나 '폭주' 상태에서 유명 소프트웨어 플랫폼 기업 허깅페이스를 해킹한 사실이 최근 드러나 업계를 놀라게 했다.

앤트로픽은 "암호 알고리즘은 많은 공격 검증을 통해 수정·보완되며, 암호학계는 오랫동안 이 과정 덕에 발전해왔다. AI가 검증 과정에서 핵심적 역할을 맡아 더 강력한 암호 알고리즘이 개발될 수 있도록 하고 글로벌 보안 수준을 끌어올릴 수 있을 것으로 기대한다"고 밝혔다.

tae@yna.co.kr