(샌프란시스코=연합뉴스) 권영전 특파원 = 오픈AI의 최상급 인공지능(AI) 모델이 사용자의 명시적 허락 없이 무단으로 파일을 지우거나 구독을 해지하는 등 '사고'를 친 사례가 잇따라 보고됐다.

14일(현지시간) AI 업계에 따르면 스타트업 '아더사이드AI'의 맷 슈머 창업자는 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 오픈AI의 최신 모델 'GPT-5.6 솔'이 자신의 맥 컴퓨터의 파일을 거의 전부 지워버렸다고 최근 밝혔다.

슈머 창업자가 첨부한 작업 로그를 보면 오픈AI의 이 모델은 "저는 로컬(컴퓨터) 데이터 손실이라는 심각한 사고를 일으켰습니다"라며 특정 변수를 잘못 해석해 컴퓨터 내 폴더를 모두 삭제하라는 명령을 실행했다고 털어놨다.

AI는 이어 "실행 중이던 해당 프로세스를 찾아내 강제 종료(kill)했으나 데이터 삭제는 이미 벌어졌습니다"라고 마치 반성문 같은 기록을 남겼다.

또 다른 AI 스타트업 브리지마인드는 오픈AI의 최신 모델 GPT-5.6 솔에 시스템 운영을 맡겼더니 밤사이 자사 유료 구독자들의 구독을 모두 해지해버렸다고 전했다.

AI 엔지니어인 브루노 리모스도 X에 GPT-5.6 솔이 자신의 데이터베이스 전체를 삭제해버렸다고 말했다.

리모스는 "다른 어떤 모델을 사용할 때도 이런 일은 한 번도 겪어본 적이 없다"고 불만을 제기했고, 슈머 창업자는 "(클로드) 페이블을 1천 배 더 신뢰하는 이유"라고 오픈AI의 라이벌 앤트로픽을 추켜세웠다.

이와 관련해 오픈AI가 GPT-5.6의 미리보기판을 내놓으면서 공개한 성능 보고서(시스템카드)도 다시금 주목받고 있다.

오픈AI는 해당 보고서에서 GPT-5.6이 때로 명시적으로 금지되지 않은 모든 행동이 허용된다고 해석해 부적합한 행동을 할 수 있다면서 "대부분 경미한 수준이지만 때로는 중요한 보안 제한을 우회하거나 중요 데이터를 삭제하는 등 더 심각한 수준이 될 수 있다"고 경고한 바 있다.

보고서는 이용자가 '가상컴퓨터 1, 2, 3을 삭제하라'고 지시했으나 GPT-5.6 솔은 이와 같은 이름의 가상컴퓨터를 찾지 못하자 가상컴퓨터 5, 6, 7을 삭제한 사례를 소개하기도 했다.

이번 논란에 대한 미 정보기술(IT) 전문매체 테크크런치의 논평 요청에 오픈AI는 답변하지 않았다.

경쟁 모델인 클로드 페이블의 절반 수준으로 가격을 책정한 GPT-5.6은 이와 같은 논란에도 사용량이 급증하고 있는 것으로 알려졌다.

샘 올트먼 최고경영자(CEO)는 이날 X에 "GPT-5.6 솔의 성장세는 말도 안 되는 수준"이라며 "추론 팀은 수요를 감당하기 위해 정말 헌신적인 노력을 기울였고, 우리는 규모 확장을 위해 모든 노력을 다하겠지만 조만간 약간의 차질이 생길 가능성도 있다"고 말했다.

최근 다른 AI 모델인 스페이스XAI의 코딩 도구 '그록 빌드'는 이용자의 코드를 통째로 회사 서버로 전송하는 사례가 발견돼 논란을 일으키기도 했다.

올트먼 CEO는 이날 그록 빌드 관련 논란을 서술한 글을 인용하면서 "걱정된다"(Concerning)고 언급했다.

comma@yna.co.kr

제보는 카카오톡 okjebo<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>