규모가 아닌 독자성으로 승부

인공지능(AI) 개발 패러다임에 변화가 일어나고 있다. 중국 딥시크가 저비용·고성능 모델을 공개한 것이 그 상징으로, 규모의 경쟁이 무너지고 있는 상황에서 일본 AI 개발 기업들도 세계 시장을 겨냥한 새로운 움직임을 보인다. 기존 AI 개발에는 이른바 ‘스케일링 법칙’이 존재했다. AI의 성능은 파라미터 수(모델 크기), 학습 데이터양, 연산량의 증가에 따라 향상된다는 경험 법칙이다. 그러나 최근에는 파라미터 수와 데이터양, 연산량을 아무리 늘려도 성능 향상에 한계가 있다는 견해가 확산하고 있다. 동시에 방대한 연산에 드는 비용 문제와 인터넷상에 있는 양질의 학습 데이터 고갈에 대한 우려도 커지고 있다. 이에 따라 스케일링 법칙에 의존하지 않고, 적은 학습량과 비교적 작은 규모의 언어 모델로 기존 대규모 언어 모델(LLM) 수준의 성능을 구현하려는 시도가 본격화하고 있다.

<일본산 AI의 주요 개발사 및 해외 기업과의 제휴 현황>

[자료: 닛케이XTech 자료를 토대로 KOTRA 도쿄무역관 작성]

일본에서 생성형 AI 개발에 가장 적극적으로 나서고 있는 기업은 소프트뱅크 그룹으로 미국의 오픈AI와 제휴해 기업용 AI 에이전트 ‘크리스탈 인텔리전스’ 개발을 발표하며 주목을 받고 있다.

일본 IT 대기업들의 생성형 AI 전략은 크게 두 가지로 나뉜다. 우선, NTT, NEC, 후지쯔처럼 비교적 소규모의 비공개 독자 모델을 개발해 제공하는 방식과 히타치제작소처럼 독자 모델 개발 없이 기존 생성형 AI를 적극 활용하는 전략을 내세우는 방법이다.

독자성으로 해외에 어필

독자적인 기술을 앞세워 세계 시장에 도전하는 스타트업도 등장하고 있다. 2014년에 설립된 Preferred Networks(PFN)는 AI 칩 ‘MN-Core’ 시리즈와 대규모 언어 모델(LLM) ‘PLaMo’를 개발하며, 하드웨어부터 소프트웨어까지 수직 통합 형태로 AI 기술을 구축하고 있다.

AI 칩의 용도는 크게 두 가지로 구분된다. 하나는 AI 모델 개발 과정에서 필요한 ‘학습’이며, 다른 하나는 학습이 완료된 AI 모델을 실행해 결과를 도출하는 ‘추론’이다. 현재 널리 사용되고 있는 GPU는 학습과 추론을 모두 수행하지만, 특히 추론 시 메모리 대역폭의 병목현상으로 인해 성능 향상에 한계가 발생하는 문제가 지적되고 있다.

PFN은 이러한 한계를 극복하기 위해 추론에 특화된 독자 기술을 개발하고 있다. 메모리 대역폭을 크게 향상한 AI 칩 ‘MN-Core L1000’을 통해 생성형 AI의 추론 속도를 기존 AI 칩 대비 최대 10배까지 높일 수 있을 것으로 기대한다. PFN은 2026년 실용화를 목표로 개발을 진행하고 있으며, 추론 수요가 급증할 것으로 예상되는 시장을 선점하는 것을 목표로 삼고 있다.

<기존 AI 칩과 3D 적층 비교>

[자료: 닛케이컴퓨터]

소프트웨어 분야에서도 일본 기업들은 빅테크와는 다른 전략을 취하고 있다. 빅테크 기업들이 클라우드를 통해 글로벌하게 대규모 언어 모델(LLM)을 제공하는 것과 달리, 일본 기업들은 생산성 향상과 매출 증대 등 고객의 경쟁력 강화를 목표로 제품과 서비스를 제공하고 있다. 산업기기에 AI를 탑재하거나, 고객이 보유한 산업 도메인 데이터를 분석하는 등 자사가 강점을 가진 영역에 집중하는 전략이다.

2023년에 설립된 Kotoba Technologies는 음성에 특화된 생성형 AI를 활용해 동시통역 서비스를 개발하고 있다. 이 회사는 ‘언어의 장벽’을 허무는 것을 목표로 세계 시장 진출을 노리고 있으며, 음성에서 텍스트로, 또는 음성에서 음성으로 실시간 통역이 가능한 서비스를 제공하고 있다. 같은 언어를 입력할 경우 음성 필사 기능도 지원한다.

Kotoba Technologies의 가장 큰 강점은 타사 대비 압도적으로 낮은 지연 시간이다. 이 회사는 사람이 다음에 무슨 말을 할지 AI가 예측함으로써 지연을 최소화하는 기술을 개발했다. 일본어와 한국어처럼 단어 어순이 유사한 언어 간 통역에서는 지연을 -0.5초, 즉 통역 결과가 실제 발화보다 앞서는 수준까지 구현했다.

또한, Kotoba Technologies는 출력 음성을 자유롭게 제어하는 기술도 보유하고 있다. 화자의 목소리를 5초간 AI 모델에 제공하면 추가 학습 없이도 유사한 목소리로 음성을 출력할 수 있으며, 긴장감 있는 말투나 아나운서 톤 등 다양한 스타일로 음성 톤을 조정할 수 있다. 저지연을 실현하기 위해 AI 모델의 내부 구조도 최적화했다. 기존 AI 모델이 하나의 스트림만 처리하는 데 반해, 이 회사의 모델은 두 개의 스트림을 동시에 처리할 수 있어 ‘듣고 말하기’를 동시에 수행할 수 있다.

Kotoba Technologies는 음성과 동시통역 분야에 특화된 점을 자사의 강점으로 내세운다. 빅테크 기업들이 생성형 AI에 막대한 자원을 투입하고 있지만, 다양한 분야에 분산돼 있기 때문에 음성 분야에 투입할 수 있는 자원은 한정적이다. 이에 따라 특정 분야에 집중하면 스타트업이라도 충분히 경쟁력을 확보할 수 있다는 전략이다.

특정 분야 특화형으로 성과 창출

AI를 활용해 디지털 전환(DX)을 추진하는 일본 기업 중에는 특정 분야를 겨냥해 성과를 내는 사례가 주목받고 있다. 의료 분야에서는 데이터 분석 지원 서비스 업체인 FRONTEO가 활발한 움직임을 보인다. 

FRONTEO는 2003년 리걸테크 분야에서 사업을 시작한 이후, 의료 등 다양한 사회 문제 해결을 위한 AI 서비스를 전개해 왔다. 최근에는 AI를 활용한 신약 개발 지원에 특히 주력하고 있다. 신약 개발 과정에서 핵심은 질병과 관련된 표적 분자나 메커니즘을 규명하는 일이다. 이를 위해서는 질병 환자와 정상인의 샘플 데이터를 비교해 수만 개의 후보군 중에서 표적이 될 만한 단백질 분자를 찾아야 하며, 이후 학술 논문 등을 기반으로 해당 분자의 기능과 질병 발현 메커니즘을 가설로 세우고 검증하는 절차가 필요하다.

FRONTEO는 자체 개발한 자연어처리 AI ‘KIBIT’을 활용해 가설 생성에 특화된 AI 신약 개발 지원 서비스 ‘Drug Discovery AI Factory’를 2023년 7월부터 운영하고 있다. 이 서비스는 해외 유명 학술 출판사의 논문 데이터를 분석해 질병과 연관성이 높을 것으로 예상되는 표적을 제시하고, 작용 기전을 포함한 가설도 함께 제안한다. 특히 FRONTEO의 AI는 논문에 직접적으로 관련성이 명시돼 있지 않더라도 질병과의 숨겨진 연관성을 찾아낼 수 있는 알고리즘을 갖추고 있는 것이 특징이다.

디지털 마케팅 분야에서는 사이버에이전트가 AI를 활용해 시장을 개척하고 있다. 이 회사는 광고에 가상의 탤런트를 배치하거나, 상품과 배경 영상, 이미지, 광고 문구 등을 조합한 크리에이티브(광고 소재)를 자동으로 생성하는 기술을 개발해 운영하고 있다. 사이버에이전트의 인터넷 광고 사업 매출은 2024년 3분기 기준 약 4363억 엔에 달하며, 이 중 약 70%를 AI가 제작하고 배포한 콘텐츠가 차지하고 있다.

AI를 통한 크리에이티브 제작은 상품 이미지, 텍스트, 배경 이미지 등 레이어별로 어떤 소재가 가장 광고 효과를 높일 수 있는지를 예측하며 구성하는 방식이다. 구체적으로는 AI가 탤런트의 표정이나 각도, 상품 이미지, 텍스트 표현, 배경 이미지, 음성 등을 분석해 가장 효과적인 조합을 추천하고, 광고 매체와 대상 고객 특성에 맞춰 최적화된 광고를 제작한다. 이 모든 과정을 사이버에이전트가 자체적으로 내재화해 운영하고 있다.

<사이버에이전트의 ‘극(極)예측 AI’ 소개화면>

[자료: 사이버에이전트]

사이버에이전트는 현재 여러 AI를 연계해 크리에이티브를 제작하고 즉시 배포하는 통합형 AI 에이전트 개발에 주력하고 있다. 이 시스템은 크리에이티브를 제작하는 AI, 광고 효과를 예측하는 AI, 광고를 심사하는 AI, 광고주가 채택 여부를 판단할 때 상호작용을 지원하는 AI 등이 협업하는 구조로 구성된다. 일부 고객사를 대상으로 시범 운영을 시작했으며, 향후 대상 고객을 점차 확대할 계획이다.

일본 정부도 개발력 강화에 주력

한편 일본 정부도 민간 기업의 AI 개발력을 강화하기 위한 지원에 나서고 있다. 앞서 언급된 PFN이 대규모 언어 모델(LLM) 개발에 착수하게 된 배경 역시 정부의 지원 정책과 관련이 깊다. 경제산업성과 신에너지·산업기술종합개발기구(NEDO)는 2023년 11월 ‘GENIAC(Generative AI Accelerator Challenge)’ 프로젝트를 시작했다. 이 프로그램은 일본 국내 AI 개발 기업을 대상으로 AI 기반 모델 개발에 필요한 GPU 조달을 지원하고, 개발자 간 교류를 촉진하는 것을 목표로 하고 있다.

GENIAC은 2023년 11월 공모를 시작해 2024년 2월에는 1기, 2024년 10월에는 2기, 2025년도에 예정된 3기까지 총 세 차례에 걸쳐 시행하고 있다. 지원 분야는 △계산 자원 조달 지원, △데이터 실증 지원, △커뮤니티 활동 지원 등 세 가지로 나뉘며, 특히 계산 자원 조달 지원 분야에서는 총 30개 사업자를 선정해 일괄 조달 방식으로 대폭 할인된 이용료에서 최대 3분의 2까지 추가 보조하고 있다. 현재까지 공모 총액은 339억 엔에 달하는 규모다.

<GENIAC에서 계산자원 조달 지원에 채택된 주요 사업자>

[자료: 닛케이컴퓨터 자료를 토대로 KOTRA 도쿄무역관 작성]

GENIAC 프로젝트는 단순히 계산 자원 조달 지원에 그치지 않고, 인재 양성과 커뮤니티 활성화를 중요한 목표로 삼고 있다. 또한 AI 개발에 필요한 학습 데이터를 보유한 기업들과 협력해 다양한 활용 사례를 발굴하고 사회 구현을 가속하는 데 주력하고 있다. 이를 위해 AI 개발 기업과 AI 활용 대기업 간의 매칭 행사도 활발히 추진하고 있다.

이 밖에도, 국립정보학연구소(NII)는 2023년 5월 연구개발 커뮤니티 ‘LLM 스터디(LLM-jp)’를 출범시켰다. 이 커뮤니티는 오픈소스 형태로 독자적인 LLM을 개발하고, 개발자 간 AI 기술 정보를 공유하는 활동을 전개하고 있다. 현재 대학, 연구 기관, 기업 등에서 활동하는 AI 기술자뿐만 아니라 의사, 변호사 등 다양한 전문가 약 2000명이 참여하고 있다. LLM 스터디는 2024년 12월, GENIAC의 지원을 받아 GPT-3급 성능을 가진 ‘LLM-jp-3 172B’(약 1720억 파라미터)를 공개했다. 이는 일본 내 독자적 LLM 개발 역량을 대외에 과시하는 계기가 됐다.

시사점

일본은 생산연령인구가 급감하고 있으며, 디지털 관련 서비스 분야에서도 해외로 지불하는 금액이 수입을 크게 초과하는 ‘디지털 적자’가 급증하고 있다. GENIAC 운영에 관여하고 있는 관계자 Y 씨는 "디지털 적자 해결을 위해서는 해외 클라우드 서비스를 적극 활용하는 한편, 국내에서 높은 부가가치를 창출해야 한다"라고 강조했다. 그는 또한 "국내에서 발생하는 구체적인 활용 사례를 기반으로 빠르게 해외 시장을 개척해야 한다"라고 덧붙였다.

지금까지 주류였던 생성형 AI 개발 트렌드는 막대한 자금을 바탕으로 한 미국 중심의 범용 소비자 대상 개발이었다. 그러나 이 같은 인터넷 기반 생성형 AI 서비스는 천문학적인 개발비용을 감당하며 사용자 수 확보 경쟁을 벌여야 하기에, 궁극적으로 소수 기업만이 생존할 가능성이 크다.

반면 일본의 국산 AI는 기업 사용자의 투자 효율성을 높이고 도입 장벽을 낮춘 모델 개발에 초점을 맞추고 있다. 특히 기업 업무용 AI 시장은 과점화되기 어렵다는 분석이 나온다. 한 AI 개발사 관계자 S 씨는 KOTRA 도쿄무역관과의 인터뷰에서 "고품질 데이터를 어떻게 활용하는지가 핵심"이라며, "특정 업무에 AI를 결합하면 필요한 수단을 자율적으로 판단하고 실행할 수 있는 AI 에이전트나, 텍스트, 이미지, 음성, 동영상, 센서 정보를 통합 처리하는 멀티모달 AI의 활용이 폭발적으로 확대될 것"이라고 전망했다.

자국산 AI 모델 개발의 또 다른 이유는, AI 모델이 개발 국가의 사회 및 문화적 가치관을 반영할 수밖에 없기 때문이다. 자국산 AI는 단순한 기술을 넘어, 그 나라의 문화를 세계에 알리는 중요한 수단이 될 가능성도 높다. 지리적·문화적으로 일본과 가까운 한국 역시 이러한 일본의 동향을 주시하고, 국산 AI 개발에 한층 더 매진할 필요가 있다.

자료: 사이버에이전트, PFN, Kotoba Technologies 등 각사 홈페이지, 닛케이컴퓨터, 닛케이XTech, KOTRA 도쿄 무역관 종합