'오픈AI 공동 창립자' 수츠케버, AI 스타트업 설립…"안전한 초지능 구축"

입력 : 2024.06.21 15:25
이메일 글자확대 글자축소 스크랩
  • "안전한 초지능(safe superintelligence, SSI)은 우리의 임무이자 목표"
  • 미국 팔로알토와 이스라엘 텔아비브에 지사 설립 예정
GASRpIMbcAAnS99.jpg
오픈AI의 공동 창립자이자 전 수석 과학자인 일리야 수츠케버(Ilya Sutskever, 사진 오른쪽))가 안전에 초점을 맞춘 새로운 인공지능(AI) 스타트업을 시작한다고 20일 발표했다. 사진 왼쪽은 그렉 브로크만 오픈AI 회자장. 사진=일리야 슈츠케버 X(구 '트위터')

 

오픈AI의 공동 창립자이자 전 수석 과학자인 일리야 수츠케버(Ilya Sutskever)가 안전에 초점을 맞춘 새로운 인공지능(AI) 스타트업을 시작한다고 발표했다고 ICT전문매체 더 버지와 더 타임스 오브 이스라엘 등 다수 외신이 보도했다.

 

지난해 오픈AI의 샘 올트먼 최고경영자(CEO) 축출 사태를 주도했던 수츠케버는 20일(현지시간) 엑스(X, 구 '트위터') 게시물에서 안전하고 강력한 AI 시스템을 만드는 "하나의 목표와 하나의 제품"을 가진 스타트업인 'Safe Superintelligence Inc.(이하 SSI)'라는 새로운 회사 이름을 공개했다.

 

이 계정에 게시된 글에서 수츠케버는 "안전한 초지능(safe superintelligence, SSI)을 구축하는 것은 우리 시대의 가장 중요한 기술적 문제"라며 "우리는 안전한 초지능이라는 하나의 목표와 제품(안전한 초지능)으로 세계 최초의 SSI 연구소를 시작했다"고 밝혔다.

 

이어 "SSI는 우리의 임무이자 이름이며 전체 제품 로드맵이기도 하다"며 "우리 팀, 투자자, 사업 모델은 모두 SSI를 달성하기 위해 정렬돼 있다"고 덧붙였다.

 

일리야 슈츠케버 X.png
OpenAI의 공동 창립자이자 전 수석 과학자인 일리야 수츠케버(Ilya Sutskever)가 안전에 초점을 맞춘 새로운 인공지능(AI) 스타트업을 시작한다고 20일 발표했다. 사진=일리야 슈츠케버 X(구 '트위터')

 

또한 오픈AI, 구글이나 마이크로소프트와 같은 회사의 AI 팀이 종종 직면하는 외부 압력을 언급하며 "우리의 단일한 초점은 경영진이나 제품 주기로 인한 방해가 없으며 우리의 사업 모델과 안전·보안과 기술 진보가 모두 단기적인 상업적 압력으로부터 분리돼 있음을 의미한다"고 강조했다.

 

SSI는 수츠케버 외에도 애플의 전 AI 리더인 대니엘 그로스와 이전에 오픈AI에서 기술 직원으로 일했던 대니엘 레비가 공동 창립했다.

 

러시아 태생으로 캐나다 토론토대에서 컴퓨터 신경망 연구를 시작해 구글 연구소에서도 일했던 수츠케버는 2015년 올트먼 등과 함께 오픈AI를 설립하고 이사 겸 수석과학자 역할을 맡아 챗GPT 개발에도 핵심적인 역할을 했다.

 

수츠케버는 지난해 6월 "AI는 질병을 치료하는 놀라운 응용 프로그램에 사용되는 매우 강력한 기술이 될 것이지만 시간이 지남에 따라 질병을 만드는 데에도 사용될 수 있으며 그 능력은 증가할 것"이라고 말했다. 이어 "우리가 제어하는 방법을 모르는 초지능 AI를 구축하는 것은 큰 실수가 될 것"이라고 경고했다.

 

진나해 수츠케버는 오픈AI의 CEO인 샘 올트먼 축출에 앞장섰다. AI 개발 속도와 안전성 문제 등을 두고 올트먼과 이견을 보이면서 지난해 11월 오픈AI 이사회가 올트먼을 CEO에서 해임을 주도한 것.

 

이후 닷새 만에 올트먼이 CEO로 복귀한 뒤 수츠케버는 이사회에서 물러났으며, 그는 지난 5월에 오픈AI를 떠나 새로운 프로젝트의 시작을 암시했다.

 

지난달 14일에는 엑스를 통해 오픈AI를 떠난다고 알렸다.

 

수츠케버가 떠난 직후, AI 연구원 잔 레이크(Jan Leike)는 "반짝이는 제품 때문에 안전 프로세스가 뒷전으로 밀렸다"는 이유로 오픈AI에서 사임한다고 발표했다. 오픈AI의 정책 연구원인 그레첸 크루거도 퇴사를 발표하면서 안전 문제를 언급했다고 더 버지가 전했다.

 

당시 그는 "오픈AI가 올트먼 등의 리더십 아래 안전하고 유익한 AGI(범용인공지능)를 구축할 것으로 확신한다"며 AI 개발의 안전성을 거듭 강조했다.

 

수츠케버 외에도 작년의 '쿠데타' 사태 이후 오픈AI를 떠난 옛 지도부 인사들은 마이크로소프트에서 대규모 투자를 받은 오픈AI가 제품의 빠른 상용화를 우선하면서 안전 문제를 도외시하고 있다는 비판의 목소리를 내고 있다.

 

미국 회사인 SSI는 팔로알토와 이스라엘 텔아비브에 지사를 둘 예정으로 알려졌다.

 

한편, 오픈AI가 애플 및 마이크로소프트와의 파트너십을 추진하고 있다.

김성은 기자 yuna@foeconomy.co.kr
© 포커스온경제 & foeconomy.co.kr 무단전재-재배포금지

IT/바이오 많이 본 기사

메일보내기닫기
기사제목
'오픈AI 공동 창립자' 수츠케버, AI 스타트업 설립…"안전한 초지능 구축"
보내는 분 이메일
받는 분 이메일