대화형 인공지능 서비스 '챗GPT'의 개발사 오픈AI(OpenAi)가 'AI 리크스'에 대비하기 위한 조직을 신설했다고 밝혔다.

27일 블룸버그 통신 등 외신에 따르면 오픈AI는 AI의 '재앙적 위험성'을 분석하고 이를 방지하기 위해 자체 대비팀을 구축했다.

오픈AI는 AI기술이 빠르게 발전하고 더 많은 기능을 갖추게 되면서 초래될 수 있는 위험을 최소화하기 위해 새로운 팀을 구축했다고 밝혔다.

오픈AI는 블로그 게시물을 통해 대비 팀은 사이버 보안 문제부터 화학, 핵, 생물학적 위협에 이르기까지 AI 시스템의 잠재적인 '재앙적 위험'을 분석하고 방지하고 노력하겠다고 발표했다.

다른 AI 빅테크 기업들도 AI 위험 방지책 마련에 나섰다. 구글, 마이크로소프트, 오픈AI, 앤트로픽은 지난 26일 1000만 달러 규모의 'AI 세이프티 펀드'를 출범시켰다.

이들 빅테크 기업은 지난 7월에도 '프론티어 모델 포럼'을 출범시키고 정책입안자, 학자들과 협업해 AI 모델 개발과 관련된 정보를 공유하겠다고 밝혔다.

이런 움직임은 각국 정부들의 AI 규제에 대응하기 위한 선제 조치란 분석이 나온다.

국가 차원의 AI 안전 연구소를 구상하고 있는 영국은 다음달 1일 G7 국가들을 포함해 주요 국가 정상들과 'AI 안전 정상회의'를 열 계획이다.

업계들의 자발적인 규제 마련만으론 한계가 있다는 지적도 나온다. BBC는 "AI 기업들이 협력하는 모습처럼 보이지만 실제로 어떤 데이터를 이용하고 작동시키는지는 모두 비밀로 하고 있다"며 "얼마나 투명하게 밝힐 수 있는지 알기 어렵다"고 전했다.

국내에선 과학기술정보통신부가 기업들과 함께 AI 분야별로 가이드라인을 만들고 자율적인 검·인증 제도를 다음 달부터 본격적으로 추진한다. 과기부 관계자는 "AI의 부작용을 줄이는 한편 AI 생성에 사용된 원본 콘텐츠의 저작권 보호를 위해 결과물에 워터마크를 도입하는 방안도 법제화한다"고 말했다.