최근 일본에서는 생성 AI를 기업 내부의 생산성 향상 뿐 아니라, 자사 비지니스 서비스의 일부로 활용하려는 움직임이 활발하다. 또 일본 자체적인 생성 AI를 개발하려는 움직임도 가속화 되고 있다. 일본의 생성 AI 관련 비즈니스가 어떻게 발전하고 있는지를 알아보자.

생성 AI 붐에 대응하는 일본 IT 업계 

<생성AI 관련 일본 IT기업들의 대응>

[자료: 닛케이신문, 닛케이XTech 등을 토대로 도쿄무역관 작성]

ChatGPT 등장 이후, 일본 IT 대기업들에게 생성 AI에 관한 컨설팅과 시스템 구축 상담이 쇄도하고 있다. IT 대기업들은 급증한 생성 AI 수요에 대응하기 위해 ChatGPT와 같은 기존 생성AI를 자사 비즈니스 서비스의 일부로 활용하거나, 자체적인 생성AI 개발을 추진하는 등 발 빠르게 대응체제를 정비하고 있다. 

후지쯔는 생성 AI 시스템 구축, 실증 환경의 무상 제공 등 다양한 서비스를 전개중이다. 6월부터 미국 마이크로소프트사 "Azure OpenAI Service"와 연계해, 고객사들에게 ChatGPT로 내부 정보가 밖으로 유출되지 않는 폐쇄적인 시스템 환경을 구축해 주고, 또 축적된 내부 데이터를 생성AI가 분석하여 직원들의 업무 효율화 및 사업 부가가치 창출로 연결할 수 있는 맞춤형 시스템 개발을 목표로 하고 있다. 

히타치제작소는 6월부터 생성 AI에 대한 컨설팅 서비스를 시작한다. 생성AI 전문가로 구성된 "Generative AI센터"라는 조직을 신설하여, 고객사들이 생성 AI를 활용함에 있어서 노하우 축적, 리스크 컨트롤 등을 할 수 있도록 지원한다. 또 향후 미국 마이크로소프트사의 "Azure OpenAI Service"와 연계해 고객사의 생성 AI 환경 구축 서비스도 제공할 예정이다. 

히타치제작소는 더 나아가, 생성 AI 서비스를 자사의 솔루션과 결합해 부가가치를 높이는 것에도 힘을 쏟고 있다. 예를 들면, ChatGPT를 음성 기반으로 활용하려면 음성을 인식하는 기술이 필요한데, 히타치에서는 소음이 있는 환경에서도 여러 명의 대화자를 식별할 수 있는 기술이 개발되어 있다. 히타치 독자적인 기술과 생성 AI를 연결해 타사와 차별화를 꾀하겠다는 생각이다.   

NEC는 일본종합연구소와 협력해 대형 금융회사인 미쓰이스미토모파이낸셜그룹(SMBC)에 직원용 AI 어시스턴 툴 도입을 위한 실증실험을 4월부터 진행중이다. NEC는 내부 직원들의 질문에 대한 AI 답변 정확도를 높이기 위해 AI 모델을 최적화하는 역할을 맡는다. 또 다양한 직원들의 요구에 대응 가능한 AI 학습 인프라를 구축하고 텍스트뿐 아니라 이미지, 음성 인식 등도 인식될 수 있도록 기능을 개발하고 있다. NEC는 이런 실증실험 결과를 토대로 금융, 제조, 관공서 등 다양한 업종에 종사하는 직원들의 AI 채팅 툴을 개발하는 것을 목표로 한다.  

대기업 외에도 생성 AI를 접목한 업무 효율화 서비스를 제공하는 신흥 기업들도 속속 등장하고 있다. 여러 직원이 공동으로 메일함을 관리하고 고객 문의에 함께 대응하는 서비스를 개발한 원박스(Onebox)는 ChatGPT 기술로 메일 문장이 자동으로 생성되는 기능을 시범적으로 운영하고 있다. 메일 작성 시 짧은 지시 문구를 입력하면 AI가 자동으로 문장을 생성해 주는 방식이며, 다양한 비즈니스 상황에 대응할 수 있도록 개발을 진행하고 있다.  

브링아웃(Bring Out)은 영업상담 지원에 특화된 AI 서비스이다. 영업사원이 상담한 내용이 녹음되어 있는 음성 데이터를 분석해서, 상담 내용을 요약, 상담에서 중요한 부분 추출과 채점, 다음번에 말해야 할 내용까지 자동 생성한다. 마치 베테랑 영업사원처럼 상담의 완성도를 채점하고 지도해 준다. 기업들을 이 서비스를 활용해 고객별 특성에 맞는 효과적인 영업스킬을 알 수 있고, 내부 직원들에게 효과적인 교육을 제공할 수 있다. 

호텔 운영업체인 NOT A HOTEL은 숙박객 대상으로 관광명소 등 주변정보를 생성AI가 추천해 주는 어플을 개발했으며, 법률상담업체인 변호사닷컴도 고객과 상담 시 기존 상담 데이터베이스에서 AI가 적절한 정보를 찾아 답변을 하는 서비스를 활용하고 있다.  

일본어 특화 생성 AI도 속속 등장

생성 AI의 기반이 되는 대규모 언어모델(LLM)을 일본기업 독자적으로 개발하려는 움직임도 확산되고 있다. 일본어를 중심으로 데이터를 학습해 일본 내 기업들이 활용하기 쉽다는 점을 강점으로 내세우고 있다.

후지쯔는 생성AI를 자사 비즈니스에 활용한 것 외에도 자체적으로 대규모 언어 모델(LLM) 개발을 추진하고 있다. 5월 후지쯔, 도쿄공업대학, 도호쿠대학, 이화학연구소 등 4개 기관은 슈퍼컴퓨터 후가쿠(Fugaku、富岳)를 활용하여, 생성AI의 기반이 되는 대규모 언어모델 개발을 시작했다고 발표했다. 이들은 향후 일본어에 특화된 생성 AI의 개발을 목표로 하고 있다. 슈퍼컴퓨터 후가쿠는 주용도인 고도의 시뮬레이션 외에도 AI 계산에 대응 가능한데, AI 계산기능에 있어서도 세계 상위권에 든 실적이 있다. 또한 AI 학습에는 일반적으로 GPU(화상처리반도체)가 사용되는데 후가쿠는 CPU(중앙연산처리장치)를 채용하고 있다.

대규모 언어모델의 성능은 '파라미터'라는 지표로 표현되는데, 이는 AI의 두뇌 크게에 해당되며 일반적으로 그 수가 많을수록 성능이 높아진다. 오픈 AI는 2020년 파라미터 수가 1750억 개에 달하는 'GPT-3'를 개발한 바 있다. 후지쯔, 도쿄공업대학 등이 개발할 모델의 파라미터 수는 1000억 개 정도가 될 전망이며 GPT-3에 가까운 수준을 목표로 하고 있다. 후가쿠를 통해 개발한 대규모 언어모델은 2024년도 중 개발 후 기업이나 대학이 무료로 이용할 수 있도록 할 방침이며 공개된 모델을 활용해 다양한 기업, 대학들이 자체 데이터를 학습시켜 GPT와 같은 독자적 생성AI 개발이 가능해 질 것으로 보인다. 

<일본기업이 개발, 운용 중인 대규모 언어모델(LLM)>

[자료: 닛케이XTech 등을 토대로 도쿄무역관 작성]

alt는 기존 모델보다 성능을 높인 대규모 언어모델인 'LHTM-2'를 개발하여 올해 5월부터 AI 회의록 작성 서비스 등을 자사 사업에 활용하기 시작했다. 또 다양한 분야에서 높은 전문성을 갖은 생성 AI를 구축할 수 있는 법인용 서비스인 'altBRAIN'을 7월에 출시하는 등 대규모 언어모델을 활용한 서비스도 지속 출시할 계획이다. LHTM-2로 의학 지식을 학습한 생성 AI를 의사국가시험에 응시하게 하였는데, 합격 수준의 정답률을 달성하여 일본 내에서 상당한 화제를 모은 바가 있다. alt 요네쿠라 센타키 대표이사는 "전문성과 개성을 갖춘 생성 AI 기술은 실용화 단계에 있다."라고 설명했다.

<Alt의 ‘altBRAIN’테스트 버전 페이지>

[자료: alt]

사이버에이전트는 자체 개발한 일본어에 특화된 대규모 언어모델을 인터넷 광고 서비스에 접목시켰다. 이는 사람들이 입력한 검색어에 연동해 광고 텍스트가 자동 생성되는 서비스이다. 기존 AI 기술 대비 효과적인 광고 텍스트 생성 수가 1.6배 증가하는 결과를 보여, 게임 사업, 동영상 유통 등 다양한 사업에서 활용이 검토되고 있다. 또한 사이버에이전트는 2023년 1월 10억 엔을 투자하여 NVIDIA의 GPU 제품 80대를 도입했으며, 효율적으로 학습할 수 있는 체제를 구축해 가고 있다.

시사점

일본에서 개발중인 대규모 언어모델의 학습 데이터는 일본어 위키백과나 비영리단체에서 무료로 공개중인 일본어 텍스트를 기본으로 하고 있다. 여기에 추가적으로 특정 사업 분야별 필요한 일본어 데이터를 학습시키고 있다. 오픈AI의 ChatGPT는 인터넷이 아닌 문헌과 저작물도 대량으로 학습하고 있어, 현재로서 일본 대규모 언어모델과의 정보량 격차는 매우 큰 상황이다. 

다만 ChatGPT는 단일 범용 모델로 다국어를 지원하는데 반해, 일본기업들은 일본어에 특화해 학습 비용을 크게 낮추고 있다. 시스템 개발 회사인 M사의 S씨는 “중요한 것은 이용자의 과제 해결에 도움이 되는가이다. 많은 이용자가 전문적인 답변을 요구하므로, 특정 영역에 특화된 모델 개발이 중요하다.”라며 전문 영역에 특화된 대규모 언어모델 개발의 중요성을 강조한다. 

또 G밴처캐피털의 C씨는 “제조업 분야에서 일본은 일본만의 고유의 표준을 가지고 있으며, 서비스업도 타국과는 다른 산업구조를 가지고 있다. 자국 기업이기 때문에 이해가 가능한 산업 분야, 또 해당 산업이 가지고 있는 문제를 해결해 주는 서비스라면 (일본 대규모 언어모델 서비스)가 승산이 있다고 본다."라고 기대감을 드러냈다. 

물론 장벽은 여전히 존재한다. 단일 기업만으로는 계산 자원, 데이터 확보에 한계가 있기 때문에, 국가적인 지원을 기대하는 기업들이 많다. alt의 경우 많은 계산 자원을 확보하기 위해 외부 기업, 개인들도 alt의 GPU를 이용할 수 있도록 하는 협의체를 구성하여 참여를 독려하고 있다.

이러한 일본의 생성 AI 비즈니스 동향은 우리나라에도 참고가 될 수 있으며, 생성 AI 및 대규모 언어모델에 관한 일본의 향후 동향과 활용 사례를 면밀히 주시할 필요가 있다. 

자료: alt, 후지쯔 등 각사 홈페이지, ITmedia, 닛케이컴퓨터, 닛케이XTech, KOTRA 도쿄무역관 자료 종합