일본 통신사 NTT는 25일(현지시간) 생성인공지능(AI)을 기반으로 한 자체개발 대규모 언어모델(LMM) '츠즈미(Tsuzumi, 우리나라 장구와 유사한 모양의 일본 전통 타악기)' 서비스를 이날부터 제공한다고 발표했다.

 

이날 닛케이(日本經濟新聞) 등 외신들에 따르면 NTT는 이미 500개 이상의 기업과 지자체로부터 도입상담이 쇄도하고 있다고 밝혔다.

 

츠즈미는 일본어 문장의 유창함이 장점이며 성능지표가 되는 파라미터수를 적게 해 소비전력 등 운용비용을 크게 줄였다.

 

츠즈미는 언어와 기능을 압축해 소형화를 실현했다. 일본어와 영어에 대응해 파라미터수는 우선 70억 타입을 준비했다. 미국 스타트업 오픈AI의 챗GPT의 기반이 된 GPT-3의 약 25분의 1에 상당한다. 데이터 학습이 저비용으로 가능하게 돼 미국 IT대기업 등에 대항하는 모델로 내놓았다. 

 

NTT가 40년이상 취급해온 자연언어 처리 축적량을 살려 일본어 성능은 전세계 최고급이라고 지적했다. 개인용 이용은 상정하지 않으며 기업과 단체 등 수요를 발굴할 방침이다. 슬라이드와 도표, 청구서 등의 이미지를 읽어들일 수 있다. 

 

시마다 아키라(島田明) NTT사장은 설명회에서 "사내 데이터를 학습시켜 자사에 특화한 LLM을 구축하기를 기대하는 니즈가 높다"고 설명했다. 

 

NTT와 도입상담을 한 500개이상의 기업과 지자체를 업계별로 보면 제조업이 18%, 금융업이 12%, IT업계가 11%였다. 지자체는 14%를 차지했다. 

 

이용 용도로서는 컨설팅과 가상컨시어지 등 고객대응과 의사록 작성 및 요약 등 업무개선이 각각 30%정도 차지했다.  

 

기업과 지자체가 예상하는 활용방법도 밝혀졌다. 드럭스토어 '세임스'를 운영하는 후지약품은 고객의 카운셀링 데이터를 기반으로 한 추천상품의 제안 등 가상인간과 조합한 접객을 상정한다. 

 

후쿠이(福井)현에서는 주민들부터 문의에 활용할 수 있는지를 검토하고 있다. 직원의 업무부담의 경감 등으로 연결하려는 목적이 있다. 

 

이용환경은 온프레미스(자사소유)뿐만 아니라 NTT그룹의 클라우드에 이용할 수 있기 때문에 비밀성 높은 데이터도 보안을 확보할 수 있다. 그룹에서 기업용 IT서비스 사업을 다루는 NTT커뮤니케이션과 NTT데이터 등을 통해 제공한다. 

 

NTT는 오는 2027년에 연간 1000억엔(약 8844억원)이상 매출액을 목표로 하고 있다. 

앞으로는 NTT가 개발중인 통신기반 아이온(IOWN)에서 생성AI끼리를 연결해 대규모 언어모델에 필적하는 성능을 갖도록 할 계획이다. 

 

일반적으로 파라미터급의 수많은 거대모델은 폭넓은 지식을 익히는 한편 학습 등에 막대한 소비전력이 드는 과제가 놓여있다. 챗GPT와 같은 거대모델에서는 1회 학습에서 원자력발전소 1기를 1시간 가동시킬 정도의 발전량을 소비한다는 계산도 나온다. 경량화는 이같은 부담을 줄여 주목도가 높아지고 있다.