KT가 챗GPT에 대항할 기업 맞춤형 초거대 생성형 인공지능(AI) 서비스를 출시한다.
KT는 31일 서울 서초구 KT 연구개발센터에서 기자설명회를 통해 국내 최초로 1조토큰 이상의 데이터를 학습한 초거대 AI '믿음'(Mi:dm)을 출시한다고 밝혔다. 출시 모델은 총 4종으로, 매개변수 70억개 수준의 경량 모델부터 오픈AI의 GPT-3(매개변수 1750억개)보다 매개변수가 250억개 이상 많은 초대형 모델까지 기업규모와 사용목적에 맞게 완전 맞춤형으로 사용할 수 있다.
KT는 초거대 AI를 활용하고 학습하고자 하는 모든 기업에게 믿음의 파운데이션 모델을 개방한다고 밝혔다. KT는 믿음의 파운데이션 모델을 직접 선택, 학습, 서빙할 수 있는 맞춤형 환경을 제공하기 위해 전용포털 'KT 믿음 스튜디오'를 선보일 예정이다. 파운데이션 모델이란 방대한 대규모 데이터를 학습한 초거대 AI 핵심기반 모델로, 챗GPT에 사용된 오픈AI의 GPT-4가 대표적이다.
또 기존 대비 약 27% 가까이 그래픽처리장치(GPU) 학습비용을 절감할 수 있는 KT클라우드의 HAC(Hyperscale AI Computing) 서비스, 추론 비용을 기존 대비 50% 절감한 리벨리온의 신경망처리장치(NPU) 인프라 등 'AI 풀스택'을 통합패키지로 제공한다.
KT는 특히 AI의 '환각 답변'(Hallucination) 현상을 자체 개발 기술로 해결했다고 강조했다. KT측 설명에 따르면 검색과 추론, 답변 모든 단계에서 신뢰성을 높이기 위해 세 가지 AI기술을 개발했고, 이를 통해 기존 AI 서비스 대비 최대 70% 가까이 문제를 줄일 수 있다.
4종의 모델 중 70억 파라미터 규모의 경량 모델은 한국어 거대언어모델(LLM) 평가 리더보드 '오픈 코 LLM'에서 최상위권을 기록했다. 오픈 코 LLM은 한국지능정보사회진흥원(NIA)과 국내 스타트업 및 고려대 연구진이 개발한 공개 플랫폼으로 누구나 LLM의 성능을 평가할 수 있다.
KT는 기업간 거래(B2B) 시장에 집중해 글로벌·제조·금융·공공·교육의 5대 영역으로 초거대 AI 사업을 확장할 계획이며, 출시 이전부터 금융권, 지자체, 기업 솔루션 등 100개 이상의 기업 및 기관과 논의 중이다. 지난 22일에는 태국 IT 기업 자스민 그룹과의 협력 계획을 내놓으며 글로벌 시장 지출도 예고하는 등 다양한 AI 스타트업과 협력해 국내 및 글로벌 시장을 공략한다.
또 믿음을 통해 AI 컨택센터, IPTV 지니TV, AI 통화비서 등 기존 KT 서비스를 고도화한다. 무선 서비스, 차량용 인포테인먼트, 로봇 등과 더불어 내부 업무 과정과 고객 서비스도 믿음을 도입해 개선할 예정이다. 실제로 믿음을 시범 적용한 KT콜센터에서는 봇 인식률이 5% 개선됐고 후처리 속도는 20%, 지식 구축 속도는 30% 향상됐다.
송재호 KT AI·DX융합사업부문장(부사장)은 "KT는 차별화된 초거대 AI 모델을 개방하고 대한민국이 디지털 전환을 주도할 수 있도록 모든 역량을 집중하겠다"고 말했다.
Copyright @ NEWSTREE All rights reserved.