SweetK

2024.11.26 / 경인일보

초거대 AI 바탕·보안 유출 최소
내년 1월부터 상용 서비스 돌입

스위트케이가 경량화 거대언어모델(sLLM·small Large Language Model) 기반의 맞춤형 정보제공 서비스인 ‘사회복지LLM’을 통해 공공복지서비스 혁신에 나섭니다.

생성형 AI(초거대 AI) 기술을 바탕으로 한 사회복지LLM은 기관이 보유한 자료를 근거로 사용자 질의에 즉각적이고 정확한 맞춤형 답변을 제공하는데 특화돼 있습니다. 여기에 중저가 장비에서 구동 가능한 경량화 거대언어모델(sLLM)을 적용해 초기 구축 시 비용이 절감될 수 있는 특징이 있습니다.

기존의 공개된 공공AI 서비스는 자료 유출의 보안상 최대 단점이 있는데 반하여, 사회복지LLM은 외부와의 연동 없이 기업 및 기관 보안망 내 독립구동(온프레미스·On-premise)을 통해 더욱 안전한 서비스를 제공합니다.
이미 공개된 생성형 AI서비스는 존재하지 않는 정보 또는 사실을 마치 있는 것처럼 만들어내는 할루시네이션(Hallucination) 현상 문제점도 있는데, 검색 증강생성(RAG·Retrieval-Augmented Generation) 기술을 적용해 할루시네이션을 줄여 정보의 신뢰·정확성 등을 획기적으로 높였습니다.

이와 관련, 당사는 시흥시와 함께 ‘2024년 경기도 AI 실증지원사업’의 일환으로 365일 실시간 공공복지분야 민원응대를 할 수 있는 ‘sLLM 기반 맞춤형 정보제공 서비스’를 개발중입니다. 민원인과 양방향 소통할 수 있는 ‘사회복지LLM’에 대한 체험단의 좋은 반응을 토대로 내년 1월부터 상용 서비스에 돌입할 예정입니다.

스위트케이는 사회복지 LLM을 통해 복지 분야 외에도 AI 기술을 업무에 도입하고 싶지만 보안 문제로 인해 주저하는 금융·보험·조선·제조 등 다양한 업종에서도 AI 기술을 적극 활용할 수 있도록 하여 AI 기반의 공공서비스 혁신을 위해 지속적으로 기술을 발전시켜 나가고자 합니다.

온라인 기사 바로가기