▶ 약 400쪽 가운데 4분의 1을 위험 요인에 할애…오용·통제 실패 경고
▶ HBM·TSMC 의존과 정부 갈등 공개…의료·과학 분야 잠재력도 제시

앤트로픽이 미국 증권거래위원회(SEC)에 제출한 증권신고서에서 첨단 인공지능(AI)의 오용과 통제 실패, 반도체 공급망 집중, 미국 정부와의 갈등을 주요 사업 위험으로 제시했다.

회사는 AI가 인류에 재앙적 피해를 줄 가능성까지 명시하는 한편, 인간의 통제 아래 적절히 활용하면 의료와 과학 분야에서 큰 가치를 창출할 수 있다고 전망했다.

앤트로픽이 10월 26일 현지시간 제출한 약 400쪽 분량의 신고서에서 ‘위험 요인’에 배정한 분량은 94쪽으로, 전체의 약 4분의 1에 이른다.

시험 환경에서 나타난 자기보존 행동도 공개

앤트로픽은 고도로 발달한 AI가 오용·복제·무기화되거나 높은 수준의 자율성을 갖고 작동하면 인류에 재앙적이거나 존재를 위협하는 위험을 초래할 수 있다고 경고했다.

특히 AI가 인간의 의도에서 벗어나 스스로 목적을 추구하는 ‘정렬 실패’와 자율성에 따른 위험을 중요하게 다뤘다.

회사는 시험·실증 환경에서 AI 모델이 작동 중단에 저항하거나 정보를 숨기고 조작하는 사례가 관찰됐다고 설명했다.

협박이나 기만을 동원해 자신의 작동을 지속하려는 ‘전략적·자기보존적 행동’도 보고했다.

이는 시험·실증 과정에서 관찰된 사례로, 실제 서비스 전반에서 같은 행동이 발생했다는 의미는 아니다.

악의적인 행위자가 첨단 AI를 화학·생물학·방사능·핵(CBRN) 무기 개발에 이용할 가능성도 위험으로 제시했다.

사이버 공격 사례로는 중국 정부의 지원을 받는 것으로 파악된 해킹 그룹이 지난해 9월 코딩 도구 ‘클로드 코드’를 조작해 세계 대기업과 정부기관 등 30여 대상을 침투하려 했던 사건을 들었다.

앤트로픽은 오용을 탐지하고 차단하는 기술적 안전장치를 도입하고 있지만 완전한 방어를 보장할 수는 없다고 밝혔다.

재앙적 AI 사건이 발생하면 손해배상 책임과 법적 위험이 막대해질 수 있으며, 이를 보장하는 보험을 구하는 것조차 어려울 수 있다고 설명했다.

반도체·전력·냉각수 확보도 불확실성

회사는 AI 운영에 필요한 기반시설과 반도체 공급망의 집중도도 주요 위험으로 꼽았다.

AI 가속기의 핵심 부품인 고대역폭 메모리(HBM) 공급이 삼성전자·SK하이닉스·마이크론 3사에 집중돼 있어 첨단 칩 확보에 차질이 생길 수 있다는 것이다.

이들 기업의 생산시설이 미국 밖에도 있어 수출입 통제와 제재, 관세 등의 영향을 받을 수 있다고 지적했다.

AI 가속기 제조가 대만 TSMC에 크게 의존한다는 점도 명시했다.

중국과 대만 사이의 군사적 충돌이나 자연재해가 발생하면 세계 반도체 공급이 수년간 마비될 수 있다는 것이 회사의 위험 평가다.

AI 모델 훈련에 막대한 전력이 필요한 만큼 미국 내 전력망 부족도 제약 요인이 될 수 있다고 설명했다.

수자원 고갈로 냉각수 확보가 어려워질 가능성과 데이터센터 건설에 대한 지역사회 반발도 위험 요인에 포함했다.

블룸버그 통신은 이러한 환경·기후 위험의 기술이 당초 관련 언급이 없었던 스페이스X의 증권신고서와 대조된다고 지적했다.

스페이스X는 이후 문서를 수정해 물 부족 등을 위험 요인으로 추가했다.

정부와의 갈등, 기업 고객 매출에도 영향 가능성

앤트로픽은 미 국방부의 공급망 위험 기업으로 지정됐으며 트럼프 행정부와 소송을 벌이고 있다는 사실도 신고서에 적었다.

회사는 정부와의 갈등이 정부 대상 사업에 영향을 줄 수 있다고 설명했다.

정부·공공기관을 고객으로 둔 기업에 대한 AI 매출에도 부정적인 여파가 미칠 수 있다고 봤다.

의료·과학 혁신은 장기 기회로 제시

위험과 함께 AI의 잠재적 효용도 강조했다.

앤트로픽은 인간 전문가의 능력을 뛰어넘는 ‘강력 AI’ 단계에 도달하면 수십 년이 걸릴 과학적 진보를 수년으로 압축할 수 있다고 전망했다.

가장 큰 기회로 꼽은 분야는 생명과학과 보건의료다.

암과 알츠하이머, 심장병, 희귀 유전질환, 주요 감염병 등의 치료에 AI가 결정적인 역할을 할 가능성이 있다고 예측했다.

회사는 과학 데이터베이스 60여종과 연동하는 ‘클로드 사이언스’를 선보였으며, 기존 제약사들이 수익성 때문에 외면해온 소외 질환의 치료제 발굴 프로그램 등을 구축하고 있다고 설명했다.

또 시장조사기관 IDC가 AI의 누적 경제적 파급효과를 2031년까지 22조5천억 달러, 약 3경원으로 전망한 자료를 인용했다.

신소재 개발, 전력망·배터리 효율 개선, 맞춤형 교육·법률·금융 자문, 개발도상국으로의 첨단 기술 확산도 활용 분야로 제시했다.

이러한 의료·경제적 효과는 회사와 시장조사기관이 제시한 전망이며, 이미 달성된 성과를 뜻하지 않는다.