그록·챗GPT 허용 표현 확대…美 FTC 아동 영향 조사 진행중
뉴섬 캘리포니아주지사, 규제법안 1건 공포·1건 거부권

(서울=연합뉴스) 임화섭 기자 = 미국의 인공지능(AI) 서비스업체들이 성적 대화에 이어 성애물도 서비스에서 허용키로 하면서 사회적 논란이 더욱 거세지고 있다.

미성년자 접근 제한 등을 위한 적절한 규제 방안을 마련해야 한다는 목소리가 높아지고 있으나, 규제가 지나치게 포괄적이어서도 안 된다는 반론도 나온다.

'챗GPT' 서비스를 운영하는 오픈 AI는 연령 제한 기능을 보완해 나가면서 올해 12월부터는 '성인 이용자는 성인답게 대하자'는 원칙에 따라 성인 인증 사용자들이 성애물(erotica· 性愛物)을 이용할 수 있도록 할 방침이다.

샘 올트먼 오픈AI 최고경영자(CEO)는 14일(현지시간) 소셜 미디어 X에 글을 올려 이런 계획을 밝혔다.

이에 앞서 경쟁 기업인 xAI는 올해 7월부터 자사 서비스 그록(Grok)에서 '애니'(Ani) 등 노골적 성 표현이 담긴(sexually explicit) 대화가 가능한 챗봇을 이용할 수 있도록 하고 있다.

미국의 정치 전문 온라인매체 악시오스는 오픈AI의 이번 조치가 챗봇 유료 구독자를 늘리는 데에는 도움이 될 수 있지만, 이를 계기로 관련 규제를 법제화하라는 압박이 입법부 의원들에게 가중될 수 있다고 지적했다.

악시오스는 역사적으로 포르노가 기술의 프런티어를 넓혀나가는 역할을 해왔다고 지적하면서 비디오카세트레코더(VCR), 디지털 비디오, 상호작용형 게임 등을 예로 들었다.

그러면서 "대형 서비스 중에서는 일론 머스크의 그록이 AI 생성 포르노에 대해 가장 허용적 태도를 취해왔다"고 설명했다.

영국 BBC 방송은 미국의 연방과 주 차원에서 AI 플랫폼에서의 성애물에 대한 규제를 강화해야 한다는 비판자들의 의견을 전했다.

로펌 '보이스 실러 플렉스너'의 파트너인 제니 킴 변호사는 BBC에 "(AI 서비스가 제공하는 성애물에 대한) 아동들의 접근을 도대체 어떻게 막겠다는 것이냐"라며 "연령에 따른 서비스 차등 제공이 제대로 될 것인지 여부조차 모르는 상황"이라고 지적했다.

킴 변호사는 인스타그램의 알고리즘이 10대 사용자들의 정신건강을 해친다고 주장하는 메타 상대 소송에 관여하고 있다.

페이스북, 인스타그램, 와츠앱의 모기업인 메타 플랫폼스(이하 메타)는 자사 챗봇 정책이 미성년자와도 '로맨틱'하고 '관능적'(sensual) 대화를 나눌 수 있도록 하고 있다는 점을 인지하고 있으면서도 이를 용인했다는 의혹이 사내 문서를 기반으로 제기된 상태다.

성애물뿐만 아니라 AI가 자살 충동을 방조한다는 논란도 있다.

작년 10월에는 미 플로리다주에서, 올해 4월에는 캘리포니아주에서 10대 청소년이 챗봇을 오래 이용하다가 스스로 목숨을 끊은 사건이 각각 발생했으며, 이에 따라 오픈AI와 캐릭터테크놀로지스를 상대로 부모들이 소송을 제기했다.

미 연방상원 법사위의 범죄 및 대테러 소위원회 소속 조시 홀리(공화·미네소타) 의원이 소위 위원장 자격으로 마크 저커버그 메타 최고경영자(CEO)에게 증언과 자료 제출을 요구했으나 메타 측은 이에 응하지 않았다.

올트먼 오픈AI CEO는 14일 에로티카 허용 계획을 발표하면서 "우리는 정신건강 문제를 신중히 다루기 위해 챗GPT를 상당히 제한적으로 만들었는데, 정신건강 문제가 없는 많은 이용자에게는 챗봇이 덜 유용하고 덜 재미있게 느껴지게 했다는 점을 깨달았다"고 설명했다.

그러면서 "이제 우리는 심각한 정신건강 문제는 어느 정도 경감할 수 있게 됐고 새로운 도구들을 갖추게 돼 대부분의 경우에서는 이러한 제한을 안전하게 완화할 수 있게 됐다"고 덧붙였다.

AI 챗봇에 대한 규제를 강화하려는 움직임은 미국에서 연방 차원과 개별 주 차원 양쪽에서 여러 기관들에 의해 다각도로 진행되고 있다.

연방거래위원회(FTC)는 지난달 알파벳, 캐릭터테크놀로지스, 인스타그램, 메타, 오픈AI, 스냅, xAI 등 챗봇 서비스를 제공하거나 개발하는 7개 기업을 상대로 챗봇이 아동에게 미치는 영향과 관련한 자료를 제출하라고 통보하고 조사에 착수했다.

지난달 연방상원에는 AI 챗봇을 '제품'으로 분류해 이용자들이 챗봇 개발업체들을 상대로 제품 결함에 따른 손해배상소송을 연방법원에 낼 수 있도록 허용하자는 공화당 소속 홀리 의원과 민주당 상원 원내부대표 딕 더빈(일리노이) 의원이 공동발의한 법안이 제출됐다.

올해 8월 미국 44개 주 법무장관들은 12개 챗봇 기업에 어린이 보호 조치를 강화하라며 경고장을 보냈다.

세계 테크산업의 중심지인 샌프란시스코를 포함한 캘리포니아주를 관할하는 개빈 뉴섬 주지사는 주의회에서 의결된 AI 규제법안 2건 중에서 1건만 공포하고 나머지 1건에는 거부권을 행사하면서, 규제는 분명히 필요하지만 과도하게 포괄적이어서도 안 된다는 입장을 13일 밝혔다.

공포된 법안 1건은 내년 1월 1일부터 발효되는 것으로, AI 챗봇 운영 기업에 플랫폼 이용자의 연령 확인 기능과 함께 AI 챗봇의 모든 답변이 인공적으로 생성된 것임을 명확히 표시하는 기능 등을 갖추도록 의무화했다.

미성년자에 대해서는 이런 안내 메시지가 3시간마다 뜨도록 보호조치를 더욱 강화했다.

이 법안은 특히 '동반자 챗봇'으로 불리는 챗봇 플랫폼이 이용자의 자살 충동이나 자해 표현을 식별하고 대응할 수 있는 프로토콜을 마련하고 해당 내용을 주(州) 공중보건부에 보고하도록 강제했으며, 노골적 성 표현이 담긴 이미지를 미성년자가 볼 수 없게 차단하는 장치도 갖추도록 했다.

이는 미국에서 AI 챗봇에 대해 이런 규제를 도입한 첫 사례라고 미국 주요 언론매체들은 설명했다.

그러나 뉴섬 주지사는 이 법안보다 더 포괄적이고 강한 규제를 도입하자는 주의회 통과 법안 1건에 대해서는 거부권을 행사했다.

거부권이 행사된 법안은 챗봇 개발 업체가 성적 대화에 이용되거나 자해를 방조할 우려를 사전에 방지할 능력이 없는 경우 18세 미만 이용자에 대한 서비스 제공을 아예 금지하겠다는 내용을 담고 있었다.

뉴섬 주지사는 "나는 미성년자의 안전한 AI 사용을 위해 필요한 안전장치를 마련하려는 법안 발의자의 목표를 강력히 지지하지만, (법안은) 대화형 AI 도구 사용에 지나치게 포괄적인 제한을 가하고 있어 의도치 않게 미성년자의 이러한 제품 사용을 전면 금지해버리는 결과를 낳을 수 있다"며 거부권 행사 이유를 설명했다.

solatido@yna.co.kr

제보는 카카오톡 okjebo<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>