솔트룩스, 9월 한국판 챗GPT로 개발한 환각현상 줄인 ‘루시아GPT’ 공개
매일일보 = 박효길 기자 | 토종 중소 인공지능(AI)기업들이 잇따라 가성비와 환각현상을 낮춘 생성AI 서비스를 잇따라 내놓는다. LG, 네이버, 카카오 등 국내 대기업 위주로 진행되던 생성AI 경쟁이 중소 테크기업으로 번지는 모양새다.
20일 업계에 따르면 AI 소프트웨어 전문기업 코난테크놀로지가 지난 17일 자체개발 대규모 언어모델 ‘코난LLM’을 최초 공개했다.
코난테크놀로지는 보안 우려와 고객 비용 부담은 덜고 답변 신뢰성은 높일 수 있는 최적화 된 모델을 개발해 냈다는 설명이다. 또한 한국어 특성에 기반한 구조로 답변 성능이 매우 뛰어나고 보고서 초안생성에 특화된 기업거래(B2B)∙공공거래(B2G)향 거대언어모델(LLM)을 표방한다. 이렇듯 코난 LLM은 퍼포먼스와 비용 효율성 그리고 서비스 특색을 모두 갖춘 파운데이션(기초) 모델이란 설명이다.
먼저 코난 LLM은 ‘보안’을 강점으로 내세운다. 기업 전용 LLM을 온프레미스로 제공해 기업 내부 데이터 유출을 막겠단 전략이다.
또한, 벡터 검색 엔진 구동으로 잘못된 정보를 내놓는 할루시네이션(환각현상)을 줄인다. 벡터 검색기반의 ‘코난 서치’가 연동돼 답변과 함께 명확한 근거 및 출처가 ‘참고문서’ 형태로 제시되기 때문이다. 코난테크놀로지는 자체 개발한 디스크 기반 벡터 검색 기술을 상용화 한 국내 유일기업으로, 10억건 이상의 문서에서 결과를 도출해내는 하이엔드 검색 기술을 축적했다.
거대언어모델의 고비용 이슈를 해결하기 위해 학습 토큰은 많이, 파라미터(매개변수) 크기는 줄이는 방식을 택하며 ‘비용 효율성’도 달성했다. 적절한 파라미터로 고객의 운영부담은 낮추고, 토큰은 늘려 LLM의 품질을 향상시키는 방침이다.
한국 AI 기업 솔트룩스는 오는 9월 7일 ‘솔트룩스 AI 컨퍼런스’(SAC 2023)를 열고 자체 개발 생성AI ‘루시아GPT’를 공개할 예정이다.
솔트룩스가 한국판 챗GPT로 개발한 루시아GPT는 풍부한 언어자원과 지식그래프 기술을 활용, 챗GPT의 문제점으로 꼽히는 할루시네이션을 없애고, 고객 내부 데이터의 보안 이슈를 원천 차단한 초거대 언어 모델이다. 개발자와 AI 전문가가 아니더라도 누구나 금융과 법률, 특허 등 각 분야에 최적화된 AI 서비스를 도입할 수 있다.
또한 앱개발환경(API)을 통해 기업 내 그룹웨어 및 전사적자원관리(ERP)와 연동할 수 있으며, 내부 문서는 물론 최신 외부 정보를 실시간 연계해 정확한 근거에 기반한 답변 정보를 제공한다. 솔트룩스는 루시아GPT를 통해 국내 최초의 LLM 사업을 수주, 현재 서울교통공사에 초거대 언어 모델 기반 품질보증(QA) 서비스를 구현하고 있다.
좌우명 : 꼰대가 되지 말자